百川智能與鵬城實驗室宣布探索大模型應用

2023-11-17     環球Tech

原標題:百川智能與鵬城實驗室宣布探索大模型應用

11月16日,百川智能與鵬城實驗室宣布攜手探索大模型訓練和應用,合作研發基於國產算力的128K長窗口大模型「鵬城-百川·腦海33B」。

鵬城實驗室表示,鵬城實驗室秉持「國產算力+自主大模型」的創新理念,依託「鵬城·腦海」開源聯合體,廣泛聯合企業、高校和科研院所,致力於通過開源群智的合作模式共享資源,為千行百業插上人工智慧的「翅膀」。百川智能自成立以來一直在推動大模型研發和開源生態建設,雙方在合作過程中能夠充分發揮各自優勢形成合力,更好地滿足我國不斷增長的智能化轉型需求,助力中國人工智慧產業快速崛起。

百川智能表示,希望通過開源、與合作夥伴共創等方式助力中國大模型創新,繁榮本土大模型生態。本次百川智能與鵬城實驗室合作研發「鵬城-百川·腦海33B」長窗口大模型,是國產算力大模型技術創新和落地的一次突破。未來,百川智能將在技術、算力等諸多維度不斷深化與鵬城實驗室的合作,持續助力本土大模型創新發展。

此外,百川智能和鵬城實驗室展示了雙方共同研發的「鵬城-百川·腦海33B」大模型。「鵬城-百川·腦海33B」的128K長上下文窗口基於「鵬城雲腦」國產算力平台訓練,未來可升級至192K。

為了更好地提升「鵬城-百川·腦海33B」上下文窗口長度和模型整體性能,百川智能和鵬城實驗室對模型進行了全流程優化。

文章來源: https://twgreatdaily.com/zh/82a19dfd4e969d58f30c96f4bbf9222a.html