螞蟻數(shù)科SOFAStack全新升級 發(fā)布大模型服務平臺AI Max

伴隨大模型落地從通用技術進步逐步邁向行業(yè)可用,6月28日,螞蟻數(shù)科多云PaaS平臺SOFAStack正式發(fā)布大模型服務平臺AI Max。

該平臺兼容適配主流開源大模型、國產算力,向企業(yè)提供進行模型訓練、部署、評估、優(yōu)化等一站式模型工作臺,并實現(xiàn)可視化研發(fā)、管理多種具備行業(yè)知識庫的Agent(智能體)應用,助力企業(yè)跑完AI應用業(yè)務落地的最后一公里。

螞蟻數(shù)科云原生產品資深總監(jiān)馬振雄介紹,對企業(yè)來說,大模型訓練耗時耗力耗資源,AI Max不僅支持主流開源大模型的一鍵微調訓練,還提供三步即完成的零代碼模型開發(fā)環(huán)境,把原先耗費至少3天的訓練縮短至1小時。螞蟻自研的預訓練模型與先進的多模態(tài)算法,僅需小量數(shù)據(jù)即可進行訓練,進一步提升數(shù)據(jù)的利用率和模型訓練的效率。

基于SOFAStack多云兼容屬性,AI Max具備兩層核心特性:

–在資源層,支持多種國產GPU算力平臺納管部署,企業(yè)按需靈活使用資源,使得有限的GPU資源可以高效的被利用起來,同時大大降低服務器使用成本;

–在應用層,企業(yè)可以根據(jù)業(yè)務需求快速輸出定制化的AI模型,構建服務業(yè)務需求的智能體,極大地簡化了技術實施過程。 

當企業(yè)開始構建大模型應用,還需要結合具備行業(yè)特性的業(yè)務經驗。針對金融行業(yè)場景,SOFAStack融合金融助理支小助的最佳實踐,包含其模型訓練、推理能力、智能體研發(fā)等方面,可以幫助機構一鍵生成自身業(yè)務特色的智能體應用。目前,SOFAStack已經助力超130家金融機構完成云原生架構轉型。

“在大模型時代,SOFAStack可以承擔PaaS在多云時代扮演的角色——通過構建AI原生軟件服務,成為連接算力與應用的中堅力量?!蔽浵仈?shù)科云原生事業(yè)部總經理王磊表示。

發(fā)布會上,SOFAStack還與諧云科技、行云創(chuàng)新、AutoMQ、聯(lián)創(chuàng)集團等生態(tài)伙伴簽約,將共建多云、多模型生態(tài),加速大模型在千行百業(yè)落地。

未來,我們還將持續(xù)在技術研發(fā)、產品創(chuàng)新和生態(tài)合作方面不斷投入,在大模型時代,為行業(yè)提供更智能、更可信、更綠色的云PaaS服務。

(0)
上一篇 2024年6月28日 19:10
下一篇 2024年6月29日 11:34