硬核技術(shù)助力廣告效益提升，騰訊廣告產(chǎn)學(xué)融合加速推進(jìn)

導(dǎo)語(yǔ)：騰訊廣告不斷探索硬核技術(shù)，通過(guò)產(chǎn)學(xué)融合加速營(yíng)銷(xiāo)效益提升，為廣告主提供全方位服務(wù)

機(jī)器學(xué)習(xí)技術(shù)的飛速發(fā)展，使得在廣告、電商、安全等多個(gè)領(lǐng)域中應(yīng)用越來(lái)越廣泛。廣告業(yè)務(wù)需要處理大量數(shù)據(jù)和高效計(jì)算，因此機(jī)器學(xué)習(xí)在廣告業(yè)務(wù)中的應(yīng)用顯得尤為重要。如何利用機(jī)器學(xué)習(xí)技術(shù)實(shí)現(xiàn)規(guī)模化應(yīng)用，解決廣告提效難題一直是業(yè)界技術(shù)應(yīng)用的重要課題。目前，蔣杰正帶領(lǐng)騰訊廣告系統(tǒng)全面升級(jí)，并在廣告提效技術(shù)的應(yīng)用方面取得了重要進(jìn)展。

蔣杰秉承“技術(shù)提效”理念，將北京大學(xué)-騰訊協(xié)同創(chuàng)新實(shí)驗(yàn)室(以下簡(jiǎn)稱(chēng)：聯(lián)合實(shí)驗(yàn)室)兩項(xiàng)入選國(guó)際頂級(jí)學(xué)術(shù)會(huì)議VLDB 2022與WWW(國(guó)際萬(wàn)維網(wǎng)大會(huì))的前沿機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于廣告業(yè)務(wù)場(chǎng)景中，為騰訊廣告系統(tǒng)的“太極機(jī)器學(xué)習(xí)平臺(tái)”與“千億參數(shù)大模型”的落地持續(xù)賦能，助力系統(tǒng)成為騰訊廣告全域經(jīng)營(yíng)堅(jiān)實(shí)的技術(shù)底座。這一次的系統(tǒng)升級(jí)，不僅是對(duì)“技術(shù)提效”理念的充分實(shí)踐，更彰顯了騰訊廣告將前沿技術(shù)能力轉(zhuǎn)化為業(yè)務(wù)價(jià)值的行動(dòng)力。

蔣杰，騰訊公司副總裁

前沿技術(shù)持續(xù)提效

“從技術(shù)的角度理解業(yè)務(wù)，從業(yè)務(wù)的角度審視技術(shù)，讓技術(shù)演進(jìn)推動(dòng)業(yè)務(wù)增長(zhǎng)”是騰訊廣告所秉承的技術(shù)原則。蔣杰借助“騰訊廣告系統(tǒng)全面升級(jí)”這一練兵場(chǎng)，為聯(lián)合實(shí)驗(yàn)室的技術(shù)成果落地“量體裁衣”：

當(dāng)下互聯(lián)網(wǎng)生態(tài)，每天產(chǎn)生至少百億規(guī)模的數(shù)據(jù)樣本，而廣告推薦場(chǎng)景更需要對(duì)復(fù)雜條件做分析和判斷，其中涵蓋的特征數(shù)量可達(dá)千億甚至萬(wàn)億規(guī)模。特征的多變性與成長(zhǎng)性，亦對(duì)廣告系統(tǒng)的學(xué)習(xí)能力提出了更高的要求。為此，騰訊基于聯(lián)合實(shí)驗(yàn)室提出的自動(dòng)化建模超大規(guī)模圖網(wǎng)絡(luò)的可拓展圖學(xué)習(xí)理論(PaSca)，自研Angel Graph圖計(jì)算框架，降低大規(guī)模圖神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的門(mén)檻，提升了系統(tǒng)的數(shù)據(jù)學(xué)習(xí)效率。獲益于此，騰訊廣告系統(tǒng)在不同推薦場(chǎng)景的靈活性與準(zhǔn)確性得到極大提高，可根據(jù)各個(gè)平臺(tái)用戶(hù)的特點(diǎn)實(shí)現(xiàn)快速精準(zhǔn)推薦，更能結(jié)合頁(yè)面和上下文信息，通過(guò)強(qiáng)化場(chǎng)景差異性表達(dá)，提升投放效果。

另一方面，廣告業(yè)務(wù)對(duì)數(shù)據(jù)理解和運(yùn)算速度、質(zhì)量要求極高，甚至需要在毫秒級(jí)別內(nèi)完成復(fù)雜的計(jì)算和匹配。為了提高廣告運(yùn)算的效率和準(zhǔn)確性，當(dāng)前許多企業(yè)采用千億或萬(wàn)億參數(shù)規(guī)模的超大型模型來(lái)優(yōu)化對(duì)高維特征的理解，并實(shí)現(xiàn)組合特征的計(jì)算和匹配。超大型模型的訓(xùn)練和應(yīng)用已成為廣告平臺(tái)的技術(shù)壁壘之一，而機(jī)器學(xué)習(xí)技術(shù)在其中扮演著關(guān)鍵角色。如果將超大型模型比作廣告場(chǎng)景中的賽車(chē)，那么機(jī)器學(xué)習(xí)技術(shù)就像賽車(chē)的引擎，其質(zhì)量的好壞將直接影響賽車(chē)的速度和穩(wěn)定性。因此，技術(shù)團(tuán)隊(duì)利用聯(lián)合實(shí)驗(yàn)室的成果，從基礎(chǔ)設(shè)施建設(shè)和訓(xùn)練速度提升兩個(gè)方面著手，為超大型模型的訓(xùn)練和應(yīng)用提供技術(shù)支持。這一技術(shù)壁壘在當(dāng)前廣告平臺(tái)的發(fā)展中具有重要意義。

基建層面，依托于聯(lián)合實(shí)驗(yàn)室研發(fā)的新一代分布式深度學(xué)習(xí)平臺(tái)Angel4.0，騰訊廣告自主研發(fā)出AngelPS 技術(shù)，并將其作為太極機(jī)器學(xué)習(xí)平臺(tái)的核心組件落地應(yīng)用于廣告系統(tǒng)。在AngelPS的助力下，太極機(jī)器學(xué)習(xí)平臺(tái)單模型處理上限提升至10TB級(jí)別，更能實(shí)現(xiàn)7X24小時(shí)的在線深度學(xué)習(xí)與推理，自此，廣告系統(tǒng)學(xué)習(xí)、推理海量廣告數(shù)據(jù)的穩(wěn)定性與擴(kuò)展性得到了極大提升，讓超大規(guī)模廣告模型的生產(chǎn)和使用成為現(xiàn)實(shí)。速度層面，騰訊廣告基于聯(lián)合實(shí)驗(yàn)室提出的稀疏大模型訓(xùn)練加速解決方案AngelRec，自主研發(fā)高性能預(yù)訓(xùn)練框架AngelPTM，為超大規(guī)模廣告模型的訓(xùn)練速度、維度與精度加足馬力。

助力廣告主生意增長(zhǎng)

騰訊廣告通過(guò)利用太極機(jī)器學(xué)習(xí)平臺(tái)，成功訓(xùn)練了混元AI大模型和廣告大模型。這項(xiàng)技術(shù)升級(jí)為騰訊廣告系統(tǒng)帶來(lái)了更強(qiáng)的理解和運(yùn)算能力，有效提升了廣告主最關(guān)心的“起量、成本和穩(wěn)定性”三大指標(biāo)。

騰訊廣告系統(tǒng)

隨著騰訊廣告系統(tǒng)的全面升級(jí)，當(dāng)下廣告場(chǎng)景效果轉(zhuǎn)化的確定性與轉(zhuǎn)化效率均得以提升，為廣告主們帶來(lái)生意增長(zhǎng)。未來(lái)，騰訊廣告亦將持續(xù)踐行“技術(shù)提效”思路，立足于騰訊與清華大學(xué)、中科院計(jì)算所等多所高校的產(chǎn)學(xué)研布局與研發(fā)成果，深挖大數(shù)據(jù)與自然語(yǔ)言處理等多個(gè)前沿領(lǐng)域，持續(xù)探索廣告業(yè)務(wù)在產(chǎn)學(xué)融合層面的新航圖。

(來(lái)源：新視線)

原鏈接：https://news.sina.com.cn/sx/2022-11-02/detail-imqmmthc3015001.shtml

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買(mǎi)賣(mài)依據(jù)。

關(guān)鍵詞：