強強聯合,科大訊飛聯合華為發布企業專屬大模型一體機

2023-08-16     甲子光年

原標題:強強聯合,科大訊飛聯合華為發布企業專屬大模型一體機

8月15日,訊飛星火認知大模型V2.0升級發布會上,科大訊飛攜手華為發布星火一體機,讓所有企業都可以在國產自主創新的平台上,更方便、更自主、更安全可控地私有化部署大模型。

開箱可用,內置資源已涵蓋10餘個專業場景

「星火一體機」是國產軟硬體一體化的私有專屬大模型解決方案,開箱即可使用,提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力,幫助企業打造專屬大模型。

星火一體機的訓練和推理一體化部署,可用於問答系統、對話生成、知識圖譜構建、智能推薦等多個領域的應用,具備大模型預訓練、多模態理解與生成、多任務學習和遷移等能力。

科大訊飛在在辦公、政務、電力、教育、醫療、工業、司法、金融等行業深耕多年,積累了豐富的場景落地經驗。星火一體機內已涵蓋辦公、代碼、運維、客服、營銷、採購等10多個場景包,支持對話開發、任務編排、插件執行、知識接入、提示工程等5種定製優化模式,並將持續拓展更多專業場景和模式優化,為客戶快速定製企業專屬大模型。

星火一體機還針對星火認知智能大模型的訓練算法和推理應用進行了硬體的量身定製,可大大降低企業的使用成本。

「雙保險」:訊飛保障內容,華為保障算力

科大訊飛董事長劉慶峰在發布會上表示,認知大模型的深度賦能時代已經到來,大模型在企業深度應用的三個關鍵要素是:第一,安全可控:內容安全,要有正確價值觀,算力安全,要在完全自主可控的平台上進行;第二,場景驅動:在看得見摸得著的場景產生實實在在的價值,並能夠用數據去證明成效;第三,專屬定製:內容匹配需求,基於行業和企業的私域數據構建私有化專屬大模型,提升應用效果。

企業應用大模型並不是盲目追風口,要從自身需求出發,讓大模型真正結合業務,提升效能、創造價值。場景驅動和專屬定製是企業大模型的基礎,而安全可控則是底線。

2023年4月28日,中共中央政治局會議就強調:「重視通用人工智慧發展,營造創新生態,重視防範風險」;2023年7月,7部委聯合發布《生成式人工智慧服務管理暫行辦法》,再次強調「發展和安全並重」。

在內容安全方面,星火一體機基於訊飛星火認知大模型,針對污語料和幻覺問題,形成立體化的「內容安全機制」。無監督的網際網路語料,經過語句判別器、質量判別器、隱私判別器、安全判別器等關卡,得到清洗後的高質量文本;為了解決「幻覺問題」,科大訊飛針對各類型任務構建專業知識庫,以類搜索插件技術實現知識獲取,基於大模型的理解和概括摘要能力給出答案。

在算力安全上,星火一體機基於昇騰AI硬體、昇思AI開源框架,提供業界領先的大模型訓練、推理能力,為大模型全流程創新提供堅實的自主創新算力底座。

「雙保險」下,企業能夠放心大膽地打造專屬大模型。

強強聯合,將打造通用智能新底座

大模型的研發過程,需要可以支撐千億參數規模的大模型並行訓練的算力和框架,還需要幾千張卡同時連續運行。基於此,系統架構以及並行訓練的集群能力成為國內大模型研發的關鍵。

在今年的7月6日,科大訊飛就公布訊飛星火將與昇騰AI強強聯合,打造基於中國自主創新的通用智能新底座。一方面,訊飛星火認知大模型基於訓練推理一體化設計,實現大模型稀疏化、低精度量化的技術突破,能高效適配昇騰AI,加速大模型的行業落地應用和疊代;另一方面,以昇騰AI為核心,軟硬體協同優化,構建算力集中、性能優越、供給穩定、數據安全的大模型訓練集群。

此次發布的星火一體機,是科大訊飛與華為在AI算力、大模型的合作落地之一,將面向行業、企業客戶,提供基於專用數據的自主可控私有化大模型,加速推動重點企業的數智化轉型升級。國產大模型只有基於中國自主創新的算力底座才有大未來。之後,雙方將持續深化合作,放眼全球,聯合攻關算力國產化核心難題,實現從單點算力到集群算力、從節點創新到系統創新。

文章來源: https://twgreatdaily.com/zh-cn/30904b63baa925e9b59ca3396ce86b88.html