2023 VDC人工智能會(huì)場(chǎng):深耕大模型技術(shù),讓AI造福社會(huì)

    來(lái)源: 今日熱點(diǎn)網(wǎng)2023-11-02 20:48:43
      

    11月1日,2023 vivo開發(fā)者大會(huì)上,vivo自研通用大模型——藍(lán)心大模型矩陣正式亮相,為廣大用戶和開發(fā)者帶來(lái)諸多驚喜。在同日舉行的人工智能會(huì)場(chǎng)上,vivo AI團(tuán)隊(duì)圍繞如何構(gòu)建世界領(lǐng)先的藍(lán)心大模型,分享了大模型的研發(fā)過(guò)程、安全設(shè)計(jì)、工程實(shí)踐、生態(tài)建設(shè)等主題,用領(lǐng)先的AI技術(shù),助力廣大開發(fā)者和生態(tài)伙伴抓住產(chǎn)業(yè)趨勢(shì)和機(jī)遇,打通商業(yè)閉環(huán),實(shí)現(xiàn)AI普惠。

    vivo藍(lán)心大模型四大優(yōu)勢(shì),引領(lǐng)智能化體驗(yàn)革新

    當(dāng)前,vivo已構(gòu)建起完整的大模型矩陣,覆蓋從十億級(jí)到千億級(jí)不同的參數(shù)規(guī)模,同時(shí)開源了70億參數(shù)大模型。大模型矩陣涵蓋不同的用戶場(chǎng)景,保障以最佳體驗(yàn)為用戶帶來(lái)價(jià)值;而開源模型,則助力伙伴以低門檻獲得大模型技術(shù),推動(dòng)產(chǎn)業(yè)發(fā)展。

    vivo AI 算法負(fù)責(zé)人陳曉昕指出,藍(lán)心大模型具備四大特色:更懂手機(jī)、支持端側(cè)應(yīng)用、安全可控和開放開源。它更深入地掌握手機(jī)的運(yùn)行機(jī)制,能夠直接在手機(jī)端部署,天然支持端側(cè)應(yīng)用,配備完善的安全管理功能,并擁抱開源生態(tài)。

    陳曉昕還分享了藍(lán)心大模型的技術(shù)全景圖,即在應(yīng)用層,大模型可以服務(wù)手機(jī)、互聯(lián)網(wǎng)和營(yíng)銷等領(lǐng)域;在能力層,不斷提升大模型的語(yǔ)言理解、邏輯推理等關(guān)鍵技能;在模型層,持續(xù)優(yōu)化文本大模型,并計(jì)劃推出語(yǔ)音與多模態(tài)大模型。

    vivo AI 算法負(fù)責(zé)人 陳曉昕

    全鏈路全周期護(hù)航,保障藍(lán)心大模型安全落地

    為應(yīng)對(duì)AI安全挑戰(zhàn),vivo打造全新安全能力體系,從數(shù)據(jù)采集、模型訓(xùn)練、內(nèi)容安全、業(yè)務(wù)安全等全鏈路全周期發(fā)力,通過(guò)數(shù)據(jù)層面制定詳細(xì)的安全等級(jí)劃分,在訓(xùn)練階段持續(xù)調(diào)優(yōu)模型等,護(hù)航藍(lán)心大模型安全落地。

    vivo AIGC安全專項(xiàng)組負(fù)責(zé)人李方圓表示,針對(duì)手機(jī)終端大模型安全,vivo還打造了行業(yè)首發(fā)的端側(cè)過(guò)濾能力,能夠保證用戶隱私文件、隱私照片不上云,在端側(cè)完成審核并返回給用戶,同時(shí)搭建了快速干預(yù)的機(jī)制,通過(guò)知識(shí)庫(kù)內(nèi)容補(bǔ)充彌補(bǔ)大模型的知識(shí)的局限性,并以知識(shí)注入的方式降低大模型幻覺(jué)和不可控性。

    vivo AIGC安全專項(xiàng)組負(fù)責(zé)人 李方圓

    AI工程體系,為大模型生產(chǎn)落地降本增效

    大模型訓(xùn)練難度大、成本高,落地效率低。為此,vivo打造AI工程體系,助力大模型預(yù)訓(xùn)練、微調(diào)和部署降本增效。

    據(jù)vivo AI 架構(gòu)專家陳崇沛介紹,AI工程體系支持了從幾億參數(shù)到千億參數(shù)體量的模型,同時(shí)搭建多個(gè)臺(tái):訓(xùn)練臺(tái)支持千卡級(jí)別的分布式訓(xùn)練;微調(diào)臺(tái)對(duì)指令微調(diào)和強(qiáng)化學(xué)習(xí)有完整支持;部署臺(tái)可以解決推理服務(wù)性能問(wèn)題;計(jì)算臺(tái)可提供高性能計(jì)算、高性能存儲(chǔ)以及高速網(wǎng)絡(luò)的能力。

    陳崇沛同時(shí)分享了藍(lán)心大模型預(yù)訓(xùn)練案例和千億大模型部署案例,并透露,vivo聯(lián)合阿里云搭建了千卡級(jí)別的算力集群,于國(guó)內(nèi)率先配備了最先進(jìn)的H系列GPU。

    vivo AI 架構(gòu)專家 陳崇沛

    靈駿智算服務(wù),讓vivo大模型創(chuàng)新敏穩(wěn)兼顧

    大模型的創(chuàng)新和應(yīng)用需要強(qiáng)勁的AI基礎(chǔ)設(shè)施支撐,阿里云機(jī)器學(xué)習(xí)臺(tái)研發(fā)負(fù)責(zé)人譚鋒表示,阿里云人工智能臺(tái)PAI打造靈駿智算服務(wù),為伙伴提供覆蓋AI端到端的AI基礎(chǔ)設(shè)施,本次PAI聚焦工程化、高性能、穩(wěn)定性等方面打造解決方案,助力vivo大模型業(yè)務(wù)高效穩(wěn)定開展。

    PAI為vivo搭建了CPFS分布式文件存儲(chǔ)系統(tǒng),支持百萬(wàn)級(jí)的IOPS以及存儲(chǔ)容量的在線無(wú)縫擴(kuò)容,為訓(xùn)練數(shù)據(jù)、模型文件、模型Checkpoint提供穩(wěn)定可靠的分布式存儲(chǔ)。同時(shí),PAI可以通過(guò)實(shí)時(shí)監(jiān)控訓(xùn)練任務(wù)狀態(tài),及時(shí)發(fā)現(xiàn)故障并調(diào)度到不同節(jié)點(diǎn)以恢復(fù)作業(yè),還支持對(duì)模型訓(xùn)練任務(wù)step粒度的自動(dòng)保存,在訓(xùn)練中斷后,實(shí)現(xiàn)進(jìn)度無(wú)損秒級(jí)恢復(fù),讓vivo大模型創(chuàng)新敏穩(wěn)兼顧。

    阿里云機(jī)器學(xué)習(xí)臺(tái)研發(fā)負(fù)責(zé)人 譚鋒

    計(jì)算加速臺(tái)升級(jí)支持大模型端側(cè)化落地

    vivo AI長(zhǎng)期推進(jìn)端側(cè)化戰(zhàn)略,此次再度升級(jí)計(jì)算加速臺(tái)VCAP,支撐大模型端側(cè)化落地。vivo AI 端計(jì)算負(fù)責(zé)人魯晶表示,vivo深度分析大模型特性,全面優(yōu)化算法模型、工具、底層加速框架與kernel層級(jí),設(shè)計(jì)出大模型端側(cè)化整套解決方案。

    在算法模型層面,vivo在結(jié)構(gòu)設(shè)計(jì)上選擇更適合端側(cè)加速的子結(jié)構(gòu)設(shè)計(jì)與維度;在工具層面,使用int4做權(quán)重存儲(chǔ)減小模型體積和內(nèi)存占用,并充分利用帶寬達(dá)到極致的性能優(yōu)化;同時(shí)優(yōu)化框架設(shè)計(jì)與底層運(yùn)行時(shí)的極致性能功耗。

    目前,vivo藍(lán)心大模型、視覺(jué)大模型已成功端側(cè)落地,vivo成為了首家且是獨(dú)家使用自研大模型,實(shí)現(xiàn)手機(jī)端側(cè)大規(guī)模產(chǎn)品落地的手機(jī)廠商。

    vivo AI 端計(jì)算負(fù)責(zé)人 魯晶

    智能體架構(gòu),為大語(yǔ)言模型裝上“眼和手”

    針對(duì)大模型落地挑戰(zhàn),vivo創(chuàng)新提出智能體架構(gòu),為大語(yǔ)言模型裝上“眼和手”,進(jìn)一步拓展大模型的應(yīng)用邊界,實(shí)現(xiàn)從對(duì)話助手到全能助手的躍遷提升。

    vivo AI系統(tǒng)智能負(fù)責(zé)人熊官敬表示,vivo將以藍(lán)心大模型為大腦,通過(guò)完整的開放架構(gòu)體系打造,在技能插件化開發(fā)、數(shù)據(jù)感知融通、模型部署層面和開發(fā)者深度合作,共同實(shí)現(xiàn)能說(shuō)會(huì)做、個(gè)性懂你、開放共享的全能助手。

    熊官敬強(qiáng)調(diào),具備“自主性”將是對(duì)大模型相關(guān)應(yīng)用的核心度量之一。通過(guò)系統(tǒng)級(jí)豐富的場(chǎng)景感知結(jié)合AI大模型的意圖理解,vivo始終在推動(dòng)智能體實(shí)現(xiàn)“無(wú)需表達(dá),自然懂你”的主動(dòng)智能。

    vivo AI 系統(tǒng)智能負(fù)責(zé)人 熊官敬

    增進(jìn)AI臺(tái)能力,助力開發(fā)者智慧進(jìn)化

    長(zhǎng)期以來(lái),vivo依托開發(fā)者臺(tái)為開發(fā)者提供豐富能力服務(wù)支持。vivo AI 高級(jí)產(chǎn)品經(jīng)理劉詩(shī)韻表示,vivo開發(fā)者臺(tái)新增引入藍(lán)心大模型和AIGC繪畫大模型,臺(tái)能力和產(chǎn)品全面升級(jí),助力開發(fā)者高效創(chuàng)新。

    其中,藍(lán)心大模型應(yīng)用廣泛,能為學(xué)習(xí)閱讀、辦公創(chuàng)作、生活等場(chǎng)景帶來(lái)逾越式的改變;AI繪畫大模型妙筆生畫可以助力開發(fā)者高效制作出高質(zhì)量的設(shè)計(jì)產(chǎn)品;vivo編碼助手則具有代碼生成、代碼糾錯(cuò)等能力,可以幫助開發(fā)者提升代碼效率和質(zhì)量。

    此外,vivo開發(fā)者臺(tái)還新增了圖片超清、去手寫,AI變聲等云端算法能力,以及端側(cè)內(nèi)容檢測(cè)、離線翻譯等端側(cè)新技術(shù),進(jìn)一步為開發(fā)者打造高水準(zhǔn)的服務(wù)支持。

    vivo AI 高級(jí)產(chǎn)品經(jīng)理 劉詩(shī)韻

    攜手香港中文大學(xué),共筑多模態(tài)中文大模型繁榮

    從技術(shù)發(fā)展趨勢(shì)看,大模型正以“大語(yǔ)言模型”為中心向多模態(tài)拓展,香港中文大學(xué)電子工程系副教授李鴻升指出,其團(tuán)隊(duì)與vivo在多模態(tài)領(lǐng)域展開豐富合作,成功打造和優(yōu)化了多款具有多模態(tài)信號(hào)理解和推理能力的多模態(tài)語(yǔ)言大模型,并將對(duì)相關(guān)多模態(tài)模型和方案進(jìn)行開源,共同推動(dòng)國(guó)產(chǎn)多模態(tài)中文大模型的持續(xù)發(fā)展。

    據(jù)李鴻升介紹,香港中文大學(xué)團(tuán)隊(duì)聯(lián)合vivo研究院打造了ImageBind-LLM大模型,并首次提出面向多種模態(tài)信號(hào)理解、推理和回答的統(tǒng)一大模型框架。而針對(duì)LLaMA 2中文場(chǎng)景表現(xiàn)不佳的問(wèn)題,香港中文大學(xué)團(tuán)隊(duì)將vivo自研大模型BlueLM整合到其研發(fā)的LLaMA-Adapter多模態(tài)大模型中,替換原LLaMA 2模型,基于BlueLM的強(qiáng)大能力打造出性能領(lǐng)先行業(yè)的中文多模態(tài)模型。

    香港中文大學(xué)電子工程系副教授 李鴻升

    未來(lái),vivo將在大模型等前沿技術(shù)領(lǐng)域保持深耕,創(chuàng)新應(yīng)用場(chǎng)景,迭代服務(wù)工具,攜手開發(fā)者及伙伴不斷為用戶創(chuàng)造驚喜,讓AI成為造福社會(huì)的力量。


    關(guān)鍵詞:

    責(zé)任編輯:sdnew003

    相關(guān)新聞

    版權(quán)與免責(zé)聲明:

    1 本網(wǎng)注明“來(lái)源:×××”(非商業(yè)周刊網(wǎng))的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),本網(wǎng)不承擔(dān)此類稿件侵權(quán)行為的連帶責(zé)任。

    2 在本網(wǎng)的新聞頁(yè)面或BBS上進(jìn)行跟帖或發(fā)表言論者,文責(zé)自負(fù)。

    3 相關(guān)信息并未經(jīng)過(guò)本網(wǎng)站證實(shí),不對(duì)您構(gòu)成任何投資建議,據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    4 如涉及作品內(nèi)容、版權(quán)等其它問(wèn)題,請(qǐng)?jiān)?0日內(nèi)同本網(wǎng)聯(lián)系。