8月15日，科大訊飛在星火認知大模型發(fā)布會上，與華為共同發(fā)布一款用于企業(yè)構建專屬大模型的軟硬件一體化設備“星火一體機”，讓所有企業(yè)都可以在國產自主創(chuàng)新的平臺上自主、安全、可控地私有化部署大模型。

(相關資料圖)

科大訊飛董事長劉慶峰在發(fā)布會上介紹稱：“星火一體機可用于大模型的訓練和推理，企業(yè)拎回去，開箱即可用。每一家企業(yè)，每一個行業(yè)、每一個學校、每個醫(yī)院都可以有機會構建自己的專屬大模型。”

他還表示，正在與華為打造面向超大規(guī)模參數大模型訓練的國產算力的集群，對標英偉達的A100芯片。A100是目前在大模型訓練市場上應用最廣泛的芯片。

另據第一財經記者獨家證實，星火一體機使用的是華為尚未官方對外發(fā)布的昇騰910B人工智能芯片。今年8月1日，華為在官網上公布了昇騰910B NPU驅動和固件升級指南。

一位業(yè)內人士告訴第一財經記者：“華為昇騰910B芯片的性能從未對外公布，但最近華為在業(yè)內大力推廣這一平臺，而且它的性能與上一代的910相比，應該絕對不是一個量級。”

第一財經記者了解到，星火一體機也是910B芯片首個對外商業(yè)化應用產品。上個月，科大訊飛就與華為宣布，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認知大模型基于訓練推理一體化設計，實現大模型稀疏化、低精度量化的技術突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應用和迭代；另一方面，以昇騰AI為核心，軟硬件協同優(yōu)化，構建算力集中、性能優(yōu)越、供給穩(wěn)定、數據安全的大模型訓練集群。

據介紹，星火一體機提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力，可用于問答系統、對話生成、知識圖譜構建、智能推薦等多個領域的應用，具備大模型預訓練、多模態(tài)理解與生成、多任務學習和遷移等能力。

劉慶峰表示：“華為與科大訊飛將共同在生成式軟硬件平臺上，把高算力、高性能的算子庫，多卡的高速互聯以及分布式存儲結合起來，尤其是我們聯合針對人工智能所需要的最重要的算子庫進行甄別和打磨，在此基礎上架構科大訊飛的訓練和數據閉環(huán)的全流程設計，以及訓練和推理一體化設計的自研的大模型訓練平臺。”

劉慶峰稱，目前該平臺在單卡算力上已經能夠對標英偉達的A100芯片?！艾F在我們基本按照國產的芯片來規(guī)劃了，因為我們已經不能買美國芯片了，除了早期有的那些（英偉達）的算力外，我們現在必須全部國產化?！彼硎?。

訊飛星火大模型擁有130億、650億和1750億三個版本的模型參數可選，圍繞星火大模型，科大訊飛也在構建開發(fā)者生態(tài)，目前已經有4000多個助手開發(fā)者團隊加入星火平臺。

在媒體采訪中談及星火大模型未來是否會走向開源時，劉慶峰說道：“我們會做一部分開源，但是肯定不會全部開源，開源的部分主要是為了推動科研、高校研發(fā)這些目的，我們會給他們一份開源?！?/p>

（文章來源：第一財經）