科大訊飛華為發布大模型一體機對標A100,昇騰910B悄然商用

    來源: 第一財經2023-08-16 09:02:09
      

    8月15日,科大訊飛在星火認知大模型發布會上,與華為共同發布一款用于企業構建專屬大模型的軟硬件一體化設備“星火一體機”,讓所有企業都可以在國產自主創新的平臺上自主、安全、可控地私有化部署大模型。

    科大訊飛董事長劉慶峰在發布會上介紹稱:“星火一體機可用于大模型的訓練和推理,企業拎回去,開箱即可用。每一家企業,每一個行業、每一個學校、每個醫院都可以有機會構建自己的專屬大模型。”

    他還表示,正在與華為打造面向超大規模參數大模型訓練的國產算力的集群,對標英偉達的A100芯片。A100是目前在大模型訓練市場上應用最廣泛的芯片。


    (資料圖片)

    另據第一財經記者獨家證實,星火一體機使用的是華為尚未官方對外發布的昇騰910B人工智能芯片。今年8月1日,華為在官網上公布了昇騰910B NPU驅動和固件升級指南。

    一位業內人士告訴第一財經記者:“華為昇騰910B芯片的性能從未對外公布,但最近華為在業內大力推廣這一平臺,而且它的性能與上一代的910相比,應該絕對不是一個量級。”

    第一財經記者了解到,星火一體機也是910B芯片首個對外商業化應用產品。上個月,科大訊飛就與華為宣布,打造基于中國自主創新的通用智能新底座。一方面,訊飛星火認知大模型基于訓練推理一體化設計,實現大模型稀疏化、低精度量化的技術突破,能高效適配昇騰AI,加速大模型的行業落地應用和迭代;另一方面,以昇騰AI為核心,軟硬件協同優化,構建算力集中、性能優越、供給穩定、數據安全的大模型訓練集群。

    據介紹,星火一體機提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力,可用于問答系統、對話生成、知識圖譜構建、智能推薦等多個領域的應用,具備大模型預訓練、多模態理解與生成、多任務學習和遷移等能力。

    劉慶峰表示:“華為與科大訊飛將共同在生成式軟硬件平臺上,把高算力、高性能的算子庫,多卡的高速互聯以及分布式存儲結合起來,尤其是我們聯合針對人工智能所需要的最重要的算子庫進行甄別和打磨,在此基礎上架構科大訊飛的訓練和數據閉環的全流程設計,以及訓練和推理一體化設計的自研的大模型訓練平臺?!?/p>

    劉慶峰稱,目前該平臺在單卡算力上已經能夠對標英偉達的A100芯片?!艾F在我們基本按照國產的芯片來規劃了,因為我們已經不能買美國芯片了,除了早期有的那些(英偉達)的算力外,我們現在必須全部國產化?!彼硎尽?/p>

    訊飛星火大模型擁有130億、650億和1750億三個版本的模型參數可選,圍繞星火大模型,科大訊飛也在構建開發者生態,目前已經有4000多個助手開發者團隊加入星火平臺。

    在媒體采訪中談及星火大模型未來是否會走向開源時,劉慶峰說道:“我們會做一部分開源,但是肯定不會全部開源,開源的部分主要是為了推動科研、高校研發這些目的,我們會給他們一份開源。”

    關鍵詞:

    責任編輯:sdnew003

    浦發銀行信用卡補卡要多久

    一般是一到兩個工作日就可以完成制卡,然后會快遞到用戶手上,主要等待
    2023-08-16 03:35:57

    廣發信用卡特定商戶存在風險怎么解除

    廣發信用卡特定商戶提示存在風險,一般情況下不需要進行解除,可以先使
    2023-08-15 03:21:22

    廣發信用卡推出數十項市場活動,助力消費提振促活經濟

    7月31日,國家發改委發布恢復和擴大消費二十條措施,其中要求加強金融
    2023-08-14 15:40:47

    信用卡拖欠不還會有什么后果

    信用卡拖欠不還會產生的法律后果是持卡人需要承擔一定數額的逾期利息或
    2023-08-14 10:14:54

    疫情導致信用卡逾期9個月還不起可以處理嗎

    遇到信用卡逾期還不起了,可以按照以下辦法處理:持卡人可以與信用卡中
    2023-08-14 09:20:26

    生病導致信用卡逾期2天無力償還怎么方便處理

    遇到信用卡逾期還不起了,可以按照以下辦法處理:持卡人可以與信用卡中
    2023-08-14 08:51:53

    信用卡逾期了怎么辦

    一、信用卡逾期了怎么辦信用卡逾期了的處理:1 積極配合銀行。信用卡逾
    2023-08-14 01:21:41

    信用卡欠了十萬多會被起訴嗎?

    有可能。只要出現了欠款逾期未還的情況,無論時間、數額多少,銀行都有
    2023-08-13 16:11:58

    農業銀行信用卡逾期多久上征信(農業銀行信用卡逾期多久上征信報告)

    逾期2天上征信。中國農業銀行信用卡的還款寬限期是2天,如果在該期限內
    2023-08-04 20:43:09

    拖欠信用卡5天怎么申請延長分期

    根據銀行的規定來定,有的銀行是可以延長分期的,有的不行。一般情況是
    2023-08-04 20:37:34

    熱文排行
    • 財經
    • 綜合
    • 黃金360