2023 VDC人工智能會(huì)場(chǎng)：深耕大模型技術(shù)，讓AI造福社會(huì)

來(lái)源：今日熱點(diǎn)網(wǎng)2023-11-02 20:48:43

11月1日，2023 vivo開發(fā)者大會(huì)上，vivo自研通用大模型——藍(lán)心大模型矩陣正式亮相，為廣大用戶和開發(fā)者帶來(lái)諸多驚喜。在同日舉行的人工智能會(huì)場(chǎng)上，vivo AI團(tuán)隊(duì)圍繞如何構(gòu)建世界領(lǐng)先的藍(lán)心大模型，分享了大模型的研發(fā)過(guò)程、安全設(shè)計(jì)、工程實(shí)踐、生態(tài)建設(shè)等主題，用領(lǐng)先的AI技術(shù)，助力廣大開發(fā)者和生態(tài)伙伴抓住產(chǎn)業(yè)趨勢(shì)和機(jī)遇，打通商業(yè)閉環(huán)，實(shí)現(xiàn)AI普惠。

vivo藍(lán)心大模型四大優(yōu)勢(shì)，引領(lǐng)智能化體驗(yàn)革新

當(dāng)前，vivo已構(gòu)建起完整的大模型矩陣，覆蓋從十億級(jí)到千億級(jí)不同的參數(shù)規(guī)模，同時(shí)開源了70億參數(shù)大模型。大模型矩陣涵蓋不同的用戶場(chǎng)景，保障以最佳體驗(yàn)為用戶帶來(lái)價(jià)值；而開源模型，則助力伙伴以低門檻獲得大模型技術(shù)，推動(dòng)產(chǎn)業(yè)發(fā)展。

vivo AI 算法負(fù)責(zé)人陳曉昕指出，藍(lán)心大模型具備四大特色：更懂手機(jī)、支持端側(cè)應(yīng)用、安全可控和開放開源。它更深入地掌握手機(jī)的運(yùn)行機(jī)制，能夠直接在手機(jī)端部署，天然支持端側(cè)應(yīng)用，配備完善的安全管理功能，并擁抱開源生態(tài)。

陳曉昕還分享了藍(lán)心大模型的技術(shù)全景圖，即在應(yīng)用層，大模型可以服務(wù)手機(jī)、互聯(lián)網(wǎng)和營(yíng)銷等領(lǐng)域；在能力層，不斷提升大模型的語(yǔ)言理解、邏輯推理等關(guān)鍵技能；在模型層，持續(xù)優(yōu)化文本大模型，并計(jì)劃推出語(yǔ)音與多模態(tài)大模型。

vivo AI 算法負(fù)責(zé)人陳曉昕

全鏈路全周期護(hù)航，保障藍(lán)心大模型安全落地

為應(yīng)對(duì)AI安全挑戰(zhàn)，vivo打造全新安全能力體系，從數(shù)據(jù)采集、模型訓(xùn)練、內(nèi)容安全、業(yè)務(wù)安全等全鏈路全周期發(fā)力，通過(guò)數(shù)據(jù)層面制定詳細(xì)的安全等級(jí)劃分，在訓(xùn)練階段持續(xù)調(diào)優(yōu)模型等，護(hù)航藍(lán)心大模型安全落地。

vivo AIGC安全專項(xiàng)組負(fù)責(zé)人李方圓表示，針對(duì)手機(jī)終端大模型安全，vivo還打造了行業(yè)首發(fā)的端側(cè)過(guò)濾能力，能夠保證用戶隱私文件、隱私照片不上云，在端側(cè)完成審核并返回給用戶，同時(shí)搭建了快速干預(yù)的機(jī)制，通過(guò)知識(shí)庫(kù)內(nèi)容補(bǔ)充彌補(bǔ)大模型的知識(shí)的局限性，并以知識(shí)注入的方式降低大模型幻覺(jué)和不可控性。

vivo AIGC安全專項(xiàng)組負(fù)責(zé)人李方圓

AI工程體系，為大模型生產(chǎn)落地降本增效

大模型訓(xùn)練難度大、成本高，落地效率低。為此，vivo打造AI工程體系，助力大模型預(yù)訓(xùn)練、微調(diào)和部署降本增效。

據(jù)vivo AI 架構(gòu)專家陳崇沛介紹，AI工程體系支持了從幾億參數(shù)到千億參數(shù)體量的模型，同時(shí)搭建多個(gè)平臺(tái)：訓(xùn)練平臺(tái)支持千卡級(jí)別的分布式訓(xùn)練；微調(diào)平臺(tái)對(duì)指令微調(diào)和強(qiáng)化學(xué)習(xí)有完整支持；部署平臺(tái)可以解決推理服務(wù)性能問(wèn)題；計(jì)算平臺(tái)可提供高性能計(jì)算、高性能存儲(chǔ)以及高速網(wǎng)絡(luò)的能力。

陳崇沛同時(shí)分享了藍(lán)心大模型預(yù)訓(xùn)練案例和千億大模型部署案例，并透露，vivo聯(lián)合阿里云搭建了千卡級(jí)別的算力集群，于國(guó)內(nèi)率先配備了最先進(jìn)的H系列GPU。

vivo AI 架構(gòu)專家陳崇沛

靈駿智算服務(wù)，讓vivo大模型創(chuàng)新敏穩(wěn)兼顧

大模型的創(chuàng)新和應(yīng)用需要強(qiáng)勁的AI基礎(chǔ)設(shè)施支撐，阿里云機(jī)器學(xué)習(xí)平臺(tái)研發(fā)負(fù)責(zé)人譚鋒表示，阿里云人工智能平臺(tái)PAI打造靈駿智算服務(wù)，為伙伴提供覆蓋AI端到端的AI基礎(chǔ)設(shè)施，本次PAI聚焦工程化、高性能、穩(wěn)定性等方面打造解決方案，助力vivo大模型業(yè)務(wù)高效穩(wěn)定開展。

PAI為vivo搭建了CPFS分布式文件存儲(chǔ)系統(tǒng)，支持百萬(wàn)級(jí)的IOPS以及存儲(chǔ)容量的在線無(wú)縫擴(kuò)容，為訓(xùn)練數(shù)據(jù)、模型文件、模型Checkpoint提供穩(wěn)定可靠的分布式存儲(chǔ)。同時(shí)，PAI可以通過(guò)實(shí)時(shí)監(jiān)控訓(xùn)練任務(wù)狀態(tài)，及時(shí)發(fā)現(xiàn)故障并調(diào)度到不同節(jié)點(diǎn)以恢復(fù)作業(yè)，還支持對(duì)模型訓(xùn)練任務(wù)step粒度的自動(dòng)保存，在訓(xùn)練中斷后，實(shí)現(xiàn)進(jìn)度無(wú)損秒級(jí)恢復(fù)，讓vivo大模型創(chuàng)新敏穩(wěn)兼顧。

阿里云機(jī)器學(xué)習(xí)平臺(tái)研發(fā)負(fù)責(zé)人譚鋒

計(jì)算加速平臺(tái)升級(jí)，支持大模型端側(cè)化落地

vivo AI長(zhǎng)期推進(jìn)端側(cè)化戰(zhàn)略，此次再度升級(jí)計(jì)算加速平臺(tái)VCAP，支撐大模型端側(cè)化落地。vivo AI 端計(jì)算負(fù)責(zé)人魯晶表示，vivo深度分析大模型特性，全面優(yōu)化算法模型、工具、底層加速框架與kernel層級(jí)，設(shè)計(jì)出大模型端側(cè)化整套解決方案。

在算法模型層面，vivo在結(jié)構(gòu)設(shè)計(jì)上選擇更適合端側(cè)加速的子結(jié)構(gòu)設(shè)計(jì)與維度；在工具層面，使用int4做權(quán)重存儲(chǔ)減小模型體積和內(nèi)存占用，并充分利用帶寬達(dá)到極致的性能優(yōu)化；同時(shí)優(yōu)化框架設(shè)計(jì)與底層運(yùn)行時(shí)的極致性能功耗。

目前，vivo藍(lán)心大模型、視覺(jué)大模型已成功端側(cè)落地，vivo成為了首家且是獨(dú)家使用自研大模型，實(shí)現(xiàn)手機(jī)端側(cè)大規(guī)模產(chǎn)品落地的手機(jī)廠商。

vivo AI 端計(jì)算負(fù)責(zé)人魯晶

智能體架構(gòu)，為大語(yǔ)言模型裝上“眼和手”

針對(duì)大模型落地挑戰(zhàn)，vivo創(chuàng)新提出智能體架構(gòu)，為大語(yǔ)言模型裝上“眼和手”，進(jìn)一步拓展大模型的應(yīng)用邊界，實(shí)現(xiàn)從對(duì)話助手到全能助手的躍遷提升。

vivo AI系統(tǒng)智能負(fù)責(zé)人熊官敬表示，vivo將以藍(lán)心大模型為大腦，通過(guò)完整的開放架構(gòu)體系打造，在技能插件化開發(fā)、數(shù)據(jù)感知融通、模型部署層面和開發(fā)者深度合作，共同實(shí)現(xiàn)能說(shuō)會(huì)做、個(gè)性懂你、開放共享的全能助手。

熊官敬強(qiáng)調(diào)，具備“自主性”將是對(duì)大模型相關(guān)應(yīng)用的核心度量之一。通過(guò)系統(tǒng)級(jí)豐富的場(chǎng)景感知結(jié)合AI大模型的意圖理解，vivo始終在推動(dòng)智能體實(shí)現(xiàn)“無(wú)需表達(dá)，自然懂你”的主動(dòng)智能。

vivo AI 系統(tǒng)智能負(fù)責(zé)人熊官敬

增進(jìn)AI平臺(tái)能力，助力開發(fā)者智慧進(jìn)化

長(zhǎng)期以來(lái)，vivo依托開發(fā)者平臺(tái)為開發(fā)者提供豐富能力服務(wù)支持。vivo AI 高級(jí)產(chǎn)品經(jīng)理劉詩(shī)韻表示，vivo開發(fā)者平臺(tái)新增引入藍(lán)心大模型和AIGC繪畫大模型，平臺(tái)能力和產(chǎn)品全面升級(jí)，助力開發(fā)者高效創(chuàng)新。

其中，藍(lán)心大模型應(yīng)用廣泛，能為學(xué)習(xí)閱讀、辦公創(chuàng)作、生活等場(chǎng)景帶來(lái)逾越式的改變；AI繪畫大模型妙筆生畫可以助力開發(fā)者高效制作出高質(zhì)量的設(shè)計(jì)產(chǎn)品；vivo編碼助手則具有代碼生成、代碼糾錯(cuò)等能力，可以幫助開發(fā)者提升代碼效率和質(zhì)量。

此外，vivo開發(fā)者平臺(tái)還新增了圖片超清、去手寫，AI變聲等云端算法能力，以及端側(cè)內(nèi)容檢測(cè)、離線翻譯等端側(cè)新技術(shù)，進(jìn)一步為開發(fā)者打造高水準(zhǔn)的服務(wù)支持。

vivo AI 高級(jí)產(chǎn)品經(jīng)理劉詩(shī)韻

攜手香港中文大學(xué)，共筑多模態(tài)中文大模型繁榮

從技術(shù)發(fā)展趨勢(shì)看，大模型正以“大語(yǔ)言模型”為中心向多模態(tài)拓展，香港中文大學(xué)電子工程系副教授李鴻升指出，其團(tuán)隊(duì)與vivo在多模態(tài)領(lǐng)域展開豐富合作，成功打造和優(yōu)化了多款具有多模態(tài)信號(hào)理解和推理能力的多模態(tài)語(yǔ)言大模型，并將對(duì)相關(guān)多模態(tài)模型和方案進(jìn)行開源，共同推動(dòng)國(guó)產(chǎn)多模態(tài)中文大模型的持續(xù)發(fā)展。

據(jù)李鴻升介紹，香港中文大學(xué)團(tuán)隊(duì)聯(lián)合vivo研究院打造了ImageBind-LLM大模型，并首次提出面向多種模態(tài)信號(hào)理解、推理和回答的統(tǒng)一大模型框架。而針對(duì)LLaMA 2中文場(chǎng)景表現(xiàn)不佳的問(wèn)題，香港中文大學(xué)團(tuán)隊(duì)將vivo自研大模型BlueLM整合到其研發(fā)的LLaMA-Adapter多模態(tài)大模型中，替換原LLaMA 2模型，基于BlueLM的強(qiáng)大能力打造出性能領(lǐng)先行業(yè)的中文多模態(tài)模型。