百度智能雲發布千帆大模型平台2.0:模型數量增至42個,穩居國內第一!

2023-09-05     青橙商業

原標題:百度智能雲發布千帆大模型平台2.0:模型數量增至42個,穩居國內第一!

9月5日,2023百度雲智大會在北京正式召開。會上,百度智能雲千帆大模型平台宣布實現2.0全面升級,首次公布月活企業數已近萬家,覆蓋金融、製造、能源、政務、交通等行業的400多個業務場景。

升級後的百度智能雲千帆平台2.0擁有「四個最」:預置最多的大模型和數據集、有最豐富最全面的工具鏈、最佳算力效能、最完備的大模型安全方案。

相比過去,千帆平台納管的國內外主流大模型達到42個,還預置了41個高質量有行業特色的數據集,預裝了知識問答、客服對話、代碼助手等10個精選應用範式,大幅降低企業使用、訓練和推理大模型的門檻。對於除文心大模型之外的第三方大模型,千帆平台不只是簡單的接入,還提供中文增強、性能增強、上下文增強等能力。比如,原來要用英文對話效果才好的Llama2等國外大模型,現在用中文也一樣好。

工具鏈變得更豐富和更全面,也更加輕量化、敏捷化。過去客戶驗證大模型的效果至少需要一周時間,現在基於一站式的工具鏈,只需一天就可以跑通一個模型並看到效果。值得關注的是,千帆平台的工具鏈里內置了103套高質量的prompt模版,還有自動化prompt工程能力,用戶做起來會更方便、更輕鬆。

算力服務升級後,萬卡集群訓練大模型時,有效訓練時間達到95%以上,極大的降低了時間成本,加速比可以達到 95%,充分釋放集群的整體算力。千帆平台還兼容國內外主流晶片和作業系統,企業客戶的算法可以以最小的修改成本在這些硬體上運行。

千帆平台全面升級模型安全、內容安全和數據安全保障能力。千帆平台為不同模型廠商設計了可信的專用隔離域,重點保護模型資產安全。在內容安全上預置安全模塊,可以有效控制輸入和輸出的安全風險。在數據安全方面,千帆平台提供從模型、數據到日誌的全鏈路加密,為模型廠商和用戶提供可信任的執行環境。

「料多、好用、高效、放心」,百度集團執行副總裁、百度智能雲事業群總裁沈抖用四個關鍵詞形容百度智能雲千帆大模型平台2.0。

文章來源: https://twgreatdaily.com/zh-mo/5252fc414be14ca776d754d1c4e5e607.html