大模型落地,百度智能雲的關鍵一步|甲子光年

2023-10-18     甲子光年

原標題:大模型落地,百度智能雲的關鍵一步|甲子光年

大模型落地排位賽開啟。

作者|武靜靜

編輯|栗子

大模型的角逐戲切換到了下一幕。

在基礎大模型排位賽如火如荼進行的同時,隨著各家產品逐步面向公眾開放,圍繞AI原生應用的賽跑拉開了帷幕。

縱觀全球市場,基於生成式AI構建的AI原生應用已經應接不暇。數據顯示,GitHub上AI開源項目截止8月底數量達到了91萬,相較於去年全年的增幅達到264%。根據Replit的數據,23年二季度AI項目環比增速達80%,相較於去年同期同比增長了34倍。

多位投資人都向「甲子光年」談道,目前只看AI應用層機會。根據CBInsights數據,截至2023年第二季度,生成式AI的投融資較去年全年的25億美元,增長了4.6倍,其中生成式AI應用層融資金融占三成。可以預見,這個比例將在接下來持續擴大。

這個機會大廠顯然不會錯過。百度作為國內大廠中第一個做出對標ChatGPT產品的企業,也在將AI原生應用作為當下重點。在2023年百度世界大會上,李彥宏談道:「沒有構建於基礎模型之上的豐富的AI原生應用,大模型就一文不值。」

百度集團執行副總裁、百度智能雲事業群總裁沈抖稱:「我們每個月都在支持上萬家客戶的應用開發,百度智能雲看到了五大需求。」

1.一切圍繞落地

矽谷創業導師的Elad Gil發博客稱,生成式AI的機會會經歷四個階段:GenAI原生企業 早期AI初創企業、部分大企業 目前正在成立的下一波初創企業 大企業運用潮,如今正處於第二個階段向第三階段發展的過程中。

生成式AI公司 Writer 在今年4月進行的一項對美國公司的調查數據顯示,近 60% 的公司在2023年已經購買或計劃購買至少一種生成式AI工具。

中國的大模型發展速度雖然不及美國,但隨著基礎大模型的逐步開放,應用層的機會顯然是接下來的重頭戲。

沈抖稱,在大模型落地時代,百度智能雲看到五重需求端機會:

  • 第一類,對高效的算力的需求,很多企業用戶和開發者都希望降低大模型訓練和推理的成本;
  • 第二類,希望直接調用API,快速便捷的做開發和落地;
  • 第三類,需要大模型二次開發的工具鏈,來進行針對性的再訓練、微調、評估和部署;
  • 第四類,對大模型開發服務的需求,希望更便捷的開發AI原生應用;
  • 第五類,對AI應用的需求。

這些需求,來自於與百度智能雲千帆大模型平台上超過17000家客戶的交流和溝通。據透露,千帆大模型API的調用量還在持續高速攀升,更多企業和開發者在不斷地加入。

大模型技術來到了真刀真槍跑落地的階段。

在今年3月發布文心一言之時,李彥宏就宣稱,看好這波浪潮中AI應用的機會。他說:「真正的機會並不是從頭開始做ChatGPT和文心一言這樣的基礎大模型,而是基於通用大語言模型搶先開發重要的應用服務。未來,將會有更多的殺手級應用、現象級產品出現。」

半年後,在百度世界2023大會上,百度公布了在AI原生應用的全新布局:一頭是一系列百度自研的AI原生應用,一頭是圍繞AI原生應用開發全新升級了「雲智一體」戰略,面向五類需求打造能提供全棧服務方案的「大模型超級工廠」。

應用側,百度發布了文心大模型4.0,以及被文心大模型改造的百度搜索、如流「超級助理」、百度文庫、百度網盤智能助理 「雲一朵」產品,和AI原生打造的百度 GBI (生成式商業智能)。

圖片來自百度

服務方案側,百度智能雲「大模型超級工廠」針對性的提供了算力、API、工具鏈、能力組件、AI原生應用開發工作檯五類服務方案。

算力層,千帆平台的萬卡規模集群訓練的加速比達到95%,萬卡集群有效訓練時間占比超過96%,大幅降低算力與時間成本,且還兼容崑崙芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI晶片,支持客戶以最小的切換成本完成算力適配。沈抖透露,面壁智能的「知海圖AI」大模型和多模態大模型Luca,就是基於百度智能雲提供的AI算力集群打造,其在千卡集群上的有效訓練時間占比高達99%。

模型層面,目前百度千帆平台納管了42個國內外主流大模型,企業客戶可以快速調取包括文心大模型在內的各種大模型的API,獲取大模型能力。

對於希望基於現有大模型進行二次開發的客戶,千帆平台可以提供大模型再訓練、微調、評估和部署等環節的全生命周期工具鏈,以及業界最多的41個高質量行業數據集,幫助開發者和企業針對自身業務場景快速優化。百度稱,中國郵政儲蓄銀行、度小滿、金山辦公、河北高速集團等諸多行業頭部客戶都在通過千帆平台提供的工具鏈服務進行專屬大模型開發。

針對想基於大模型服務開發AI原生應用的需求,百度智能雲推出了「千帆AI原生應用開發工作檯」,提供了一系列能力組件與框架,讓企業和開發者可以快速開發AI原生應用

此外,百度智能雲上線了類似安卓、IOS的國內首個AI原生應用商店,讓用戶可以直接使用成熟的AI原生應用產品的,這是百度智能雲推出的首個大模型全鏈路生態支持體系中的重要內容。

2.AI原生應用浪潮中的平台機會

隨著算法及模型的快速進步,技術的閘口打開之後,如何藉助生成式AI技術打造這個時代的殺手鐧應用是很多企業和創業者當下的課題。IDC報告預計,到2024年,人工智慧市場將達到5543億美元,增長的很大一部分將由生成式人AI初創公司推動,來自營銷、設計、客戶支持、金融科技、媒體製作和互動娛樂等應用層的機會巨大。

這波機會中,平台層的機會除了雲計算等基礎設施之外,更新的增量空間在於為AI 應用開發做支撐,提供可以支撐全生命周期的工具鏈和組件服務。

由於大模型是一項新的技術,基礎模型公司百花齊放,在工程設計、接口方案等方面尚未形成一個標準化的共識,開發者也沒有太多的經驗可以借鑑。要開發一個AI原生應用產品會面臨複雜的工具選擇過程。市場需要圍繞開發而生的一體化平台和成熟的工具鏈服務。

國內外的科技大廠是擔任這個角色的關鍵力量,他們作為有錢、有人、有經驗的一方,有更大的資本為開發者構建產品運營的「高速公路」。

百度正在優先布局這層機會。此次,在百度世界大會上,百度智能雲推出的「千帆AI原生應用開發工作檯」,這是一個沉澱了百度開發大模型應用的常見模式、工具、流程的平台。

百度集團執行副總裁、百度智能雲事業群總裁沈抖發布「千帆AI原生應用開發工作檯」,圖片來自百度

千帆AI原生應用開發工作檯主要由應用組件、應用框架兩層服務構成。

應用組件服務是將底層服務能力進行了組件化封裝,由AI和基礎雲兩大類組件構成。其中,「AI組件」中既包含諸如問答、思維鏈(CoT,ChAIn of Thought)等大語言模型組件,還包括文生圖、語音識別等多模態組件;另一類是基礎雲組件,包含向量資料庫、對象存儲等。

應用框架則是將這些組件有選擇地串聯、組合的一整套經驗,可以讓開發者快速搭建一個特定場景的任務。目前,千帆平台中的檢索增強生成(RAG)、智能體(Agent)、生成式商業智能(GBI)就是典型的AI原生應用框架。此外,每個框架下,百度智能雲還提供了豐富的樣板間,支撐開發者敏捷、高效地進行AI原生應用開發。

「這些組件能力都是百度在過去10年逐步沉澱下來的。」沈抖說。

現場,百度實時演示了用檢索增強生成(RAG)能力,結合三一重工提供的一款挖掘機操作保養手冊,用幾分鐘時間,就在三一重工官網上快速搭建一個7×24小時在線服務的智能客服。

「RAG的原理是,把一個大文件切成一片一片的小文件,用向量引擎來索引這些片段,構建出一個向量資料庫。當客戶進行提問,系統就可以在片段里找出相關內容,讓大模型根據內容提煉,最後生成回復。」沈抖談道。

另一個AI原生應用框架Agent(智能體)則能自動拆解任務,做規劃,並調⽤各種組件完成任務,且能根據完成的效果去反思改進自己的能力。百度稱,Agent已經在工業、交通等領域落地。

其中一個案例就是製造業頭部企業「中天鋼鐵」,通過Agent應用框架,實現了在鋼產量不足的情況下,調動各種各樣的應用,生成一個解決方案,調整排產計劃,最後把整個方案用郵件的方式再發給調度員的任務閉環。過程中的原理就是進行任務指令感知、基於工具集的任務分解、以及多任務的自動執行應用。

從這些實踐可以看出,「千帆AI原生應用開發工作檯」就是百度依靠自身在大模型的模型訓練、數據整合、應用開發、應用部署的全流程實踐總結的一整套方法論。

「我們想讓每一個開發者聚焦在自己的業務訴求上,不再為研發過程發愁。」沈抖說。

3.生態的「大謀」:造大模型時代的大船

工具鏈和平台只是百度在AI 大模型時代,MaaS服務中的一環。這些基礎之上,百度更大的謀劃在造生態上。

目前,百度智能雲大模型生態夥伴計劃包括10+綜合夥伴、100+應用夥伴、1萬+創業企業,以及代理夥伴。

大模型時代,MaaS模式中,生態的戰略和打法也要經歷新的變化。

這與新技術帶來的環境變化有關,隨著大模型技術的持續推進,雲計算賽道的本質正在發生轉變——過去十年,雲計算服務的本質是資源,所有的生態夥伴和服務方都在圍繞資源雲運作;大模型時代,雲計算從資源服務轉變成只能服務,需要內嵌到應用中,通過應用呈現能力。

整個雲計算賽道的供給規則也在隨之發生變化,雲廠商和生態夥伴的關係也在迎來新的轉變。百度智能雲產業發展部總經理段永華告訴「甲子光年」:「以前,雲廠商只是單純的售賣資源,如今,資源之外,雲廠商還要和應用夥伴一塊,打造端到端的智能化應用,真正支撐業務價值。」

「應用在這個時代會變得更重要,應用廠商會成為聚光燈下的最重要的角色。」段永華說。

所以,升級後百度智能雲生態體系的重點會圍繞AI原生應用來打造。他們希望和生態夥伴一起打造應用的樣板間,探索大模型落地的路徑。

在世界大會上,百度智能雲也基於夥伴發展計劃,率先推出了國內第一個大模型全鏈路生態支持體系:圍繞夥伴和創企,提供包括培訓賦能支持、AI原生應用創新孵化支持、銷售商機支持、市場營銷支持,以及千帆社區、千帆AI原生應用商店的服務。

「千帆AI原生應用商店」就是其中一個重要的生態動作。

圖片來自百度

我們可以將「千帆AI原生應用商店」理解成一個AI原生應用的App Store,旨在更好的連接AI原生應用的供給方和需求方。

「千帆AI原生應用商店」不僅會做應⽤的展示,還支持便捷⾼效的應⽤交易。」段永華提到,「我們希望它不僅可以提高我們企業客戶選型和採購方面的效率,也希望幫助這些商家能夠快速的把他們開發的應用推向市場。」

目前,商店中首批精選應用已經正式上線,金蝶就是首批入駐應用商店的夥伴之一,公司基於千帆打造了國內首個財務管理領域的大模型,正在推進大模型與全業務場景的融合落地。

商店之外,百度搭建的千帆社區專門為大模型而生,匯聚一線實踐經驗,並提供了豐富的產品工具。此外,百度智能雲打造了業內第一個大模型實訓營——千帆AGI House,以及各種創新孵化支持,其中,千帆AGI House已經覆蓋了北京、上海、深圳等地區的上百傢伙伴。百度也在持續落地千帆AI加速器的項目,為夥伴做技術賦能、技術資源投入、牽引投資和營銷資源支持。百度稱,通過千帆AI加速器,已經開發出超過22個商業化應用,加速器的成員中,70%以上為創始人、董事長、CXO。

百度智能雲生態合作夥伴庖丁科技,此前只聚焦金融行業。許多銀行、券商、交易所等金融機構都在利用其應用AutoDoc審核文檔,確保信息披露文件的準確性。現在,基於千帆平台,庖丁科技開發了智能文檔應用「庖丁解文 ChatDOC」,極大降低了跨行業的成本,具備跨行業的能力,正在向新能源、醫藥等領域推進落地。

這是百度在大模型時代造生態的一整套新方法論。

通往AGI的未來之路上,百度希望造新的大船。

「大模型時代來了,風起雲湧,有人爭著弄潮,有人忙著逐浪,而我們致力於造一艘堅實的大船。」沈抖說。

(封面圖來源:百度)

文章來源: https://twgreatdaily.com/zh-hk/64d02ad2c476261c6057351ea25427c9.html