瀾碼科技創始人、CEO周健:專家知識的數字化是AI Agent落地的制勝之匙|甲子引力

2023-12-05     甲子光年

原標題:瀾碼科技創始人、CEO周健:專家知識的數字化是AI Agent落地的制勝之匙|甲子引力

Agent出現後,人機互動會發生變化。

11月30日至12月1日,由中國科技產業智庫「甲子光年」主辦的「致追風趕月的你」2023甲子引力年終盛典在北京順利舉行!

百餘位嘉賓齊聚一堂,聚焦產業前沿話題,剖析科技產業風口,總結分享這一年來的里程碑事件和行業變量。站在歷史長河審視當下,ChatGPT與AI大模型的誕生,或許會成為對整個網際網路文明,乃至整個工業文明的一次顛覆。科技與產業深度融合下,一個嶄新的時代正在來臨。

現場,瀾碼科技創始人、CEO周健為觀眾帶來了主題為《專家知識的數字化是AI Agent落地的制勝之匙》的分享。

周健認為,Agent出現後,人機互動會發生變化,專家知識又是其落地的一個重要前提條件。專家的個人知識可以通過標註的方式不斷豐富和完善,通過不斷標註來為系統提供反饋,進而形成一個所謂的知識閉環。這樣系統就能持續地從專家的反饋中學習並提升性能。

以下是瀾碼科技創始人、CEO周健演講實錄,「甲子光年」整理刪改:

感謝主持人的介紹。我先簡單介紹一下我們公司,瀾碼科技是我今年創辦的企業,一直以來我們都致力於大模型的應用落地。最初,還沒有「AI Agent」這個詞,當時講的更多是自動化,探討如何在大語言模型上構建一個自動化平台。大概從今年5月開始,OpenAI提及的AI Agent概念,讓我們意識到,這就是我們所追求的方向。我們更多專注於企服領域,但今天我想與大家分享的是,在這大半年的探索中,我們發現專家知識是AI落地一個十分重要的前提條件

1.有了AI Agent,人機互動會發生變化

陸奇博士在今年初提過,未來軟體開發範式將會發生轉變,會有三代信息系統的演進。目前的信息系統主要是對物理世界的記錄或感知。從大模型的角度來看,它是一個推理系統、知識系統,負責將各種數據壓縮成一個模型,用科幻小說的說法來形容,它就像一個「缸中的大腦」,並不直接與世界相連。

從過去的自動化視角來看,現在可能是正在構建所謂的「行動系統」。就像是一個神經中樞,負責解讀「缸中大腦」的一些思維、輸出,或者我們將它帶進去輸入,我們負責任務的拆解,與實際的真實環境互動。這個定位與大模型和過去的系統都有所不同,它中間有一個很重要的連接器,這也是我們對整個AI Agent的理解。或者說,AI Agent的底層是大模型,但中間一定需要有一個行動系統來完成實際的智力大腦與真實世界之間的互動。

再進一步解釋,這裡的中間層則是Agent,等於LLM+Plan+Memory+Tool use。有了Agent,人機互動會發生變化。傳統的1.0時代,AI更像是其中一個「環節」,例如人臉識別或OCR,微軟的Copilot則是指我們有多輪的對話,但它仍然是「撥一撥,動一動」的模式。

AI Agent需要有自己的領域,這些領域不限於大模型,還包括知識圖譜或5000行的代碼。在整個Agent環境中,大語言模型主要負責與人互動,並將其翻譯為具體的API。這就是我們所理解的基於大語言模型的智能體。

建設AI Agent說起來容易,但實際上卻面臨著許多挑戰。這裡我列舉一些瀾碼從自動化視角所遇到的挑戰,我相信在座的許多同行也會有類似的感受。在企業流程中,我們總是有一線業務員工和標準操作流程(SOP)。SOP對於一線業務員工的需求是什麼?首先需要理解、感知、思考、行動。在過去1.0的時代,理解和思考是難以實現的,或者說需要付出巨大的代價。

如今有了大語言模型,我們獲得了極其便宜的語言理解能力和一定的邏輯思考能力,於是我們有機會實現SOP的自動化和智能化。從工程視角來看,一個SOP通常由數據、文檔、應用、流程組成,比如過去的RPA,主要解決了應用連接的問題,而現在的大語言模型能夠進行所謂的Doc2QA,即理解文檔內容,所謂的對話式BI,則是處理數據,而BPM則通過低代碼解決了很多流程上的問題。

在產品架構的底層,我們設立了一個技能中心,其主要目的是封裝各種大模型。考慮到現今大模型對算力的需求、開源情況以及各種SaaS的價格差異,封裝肯定是需要的。目前,我們主要針對數據、文檔、應用和流程進行了分別封裝,以提供基本的功能,例如文檔問答或通過文本調用API等。這些都是相對抽象的操作,但我們在底層的技能中心裡進行封裝,並配備了相應的數據集、實驗平台,以確保我們的算法工程師或交付工程師能高效地摸索出來這套工具鏈。

在架構的上層,我們強調了一個重要的部分,即知識中心。知識比數據更為抽象。為什麼要強調它呢?以簡歷搜索為例,當我們需要了解什麼是「985」或「211」高校時,我們可以用資料庫的方法輕鬆獲取這類信息,但如果你去問大語言模型,它可能會出錯,即使你對它進行訓練、微調或預訓練,從成本效益的角度來看也是非常不划算的。但實際上,有時只需要編寫10行代碼,從網上整理相關信息,我們就能輕鬆地獲取這個答案。

再比如,什麼是「工作穩定」?這可能是一個難以用自然語言明確描述的概念,因為不同的行業、崗位和職級都有其特定的屬性,這其實就是專家知識。那麼如何沉澱這些知識呢?再比如在文檔中,商業世界中最有價值的100個文檔,如財報、合同、招標書、投標書、簡歷和研報等,我們都可以利用專家開源的公開知識進行提前整理,使其沉澱在我們的平台上。在擁有了一定的技能和知識沉澱後,任務中心就變成了一個可以拖、拉、拽或者一個Chain的方式,把這些技能和知識組裝成一個能與人互動的Agent,這個Agent能夠幫助業務員工直接完成任務,同時沉澱各種互動數據,進而形成數字化。

我們參考了企業中的知識維度,這是日本的一個理論,即SECI。在當今大語言模型成熟的時代,我們有機會重新審視和改進過去企業中的知識中台,使其不再僅僅是一個信息系統,而是一個可以通過Agent方式沉澱和收集知識的平台。即使員工離開,這些知識仍然可以被保存在我們的Agent中。

舉幾個可能的例子,我們應該帶著這樣的理念在企業內部推進企業知識創造和知識管理的數字化。前面可能講得有些抽象,這裡我具體談一下瀾碼今天落地的一個專業場景。我們的目標是使用總部的專家來賦能集團的業務單元。

許多企業如保險代理、獵頭公司和零售公司,都有大量的專家,但他們無法覆蓋到所有需要幫助的人,因為一天只有24小時。但可能有100個或者1000個一線的店員、店長或更多的人員需要輔助,專家無法滿足這種需求。我們希望解決這個問題。

2.組裝後AI Agent就像是專家分身

從另一個角度來看,人類如何獲取技能是一個有趣的話題。從新手到高級新手的過渡相對容易,主要是通過學習和記憶大量的用戶手冊。但是想要變成勝任者,即能夠在適當的場景中運用適當的知識,這就變得相當具有挑戰性。專家在這方面有著深入的理解,但主要問題是如何將這些知識傳授給AI Agent,使高級新手在AI Agent的輔助下達到勝任者的水平,這是我們目前認為最有可能解決的一個場景。

AI Agent的落地應用將帶來巨大的價值,不僅在提升人才技能方面,而且在企業整體收入增長上都會有很大影響。我們期待通過這種技術改變整個人才結構。舉一個具體的例子,在招聘領域,我們可以利用專家整理的各種技能和預定義知識,組裝成一個專家Agent。最終用戶在使用時,只需要用自然語言描述需求,系統就能為其找到符合要求的簡歷。

在這個過程中,最有意思的一點是專家的個人知識可以通過標註的方式不斷豐富和完善。例如,當專家在輔助100個員工的過程中發現Agent的某些表現不夠理想時,他們可以通過標註來為系統提供反饋,從而形成一個所謂的知識閉環。這樣,系統就能持續地從專家的反饋中學習並提升性能。

此外,專家還擁有一類的知識,那就是他們清楚如何設置流程。在生產供應鏈、財務帳期或開發版本管理等各個環節中,都有這樣的需求。過去,我們在宏觀層面上依賴專家的知識。如今,各個環節上都有AI Agent的輔助,這使我們能夠貫通更多的數據,將整個上下文都沉澱下來,從而進一步提高整個端到端的企業流程價值,無論是效率還是吞吐量。

舉一個實際的例子,當我們管理流程時,通常都會有一個Dashboard來分析具體情況,管理者則可以在宏觀或運營層面上提出問題。但以往,Dashboard的信息是靜態的,做完之後可能是僵死的,如今在大語言模型的輔助下,專家可以針對數據提出問題,從而獲得更深入的數據分析,甚至可以利用大語言模型處理過去難以處理的數據,如員工的周報、郵件中的審批記錄或聊天記錄等,其實都可以被大語言模型利用起來,進而為管理者提供幫助。

此外,我們還可以增加一些所謂的分析SOP,像傳統的五力分析、魚骨圖等都是可以通過對話進行分析和記錄的。這樣,專家的分析思路就形成了新一輪閉環的專家知識,可以被存儲和進一步利用。實際上,在我們遇到的一些案例中,已經發現了許多原先無法實現的事情。原先只有一個30或40人的小團隊,現在要賦能1萬或10萬人,怎麼辦?這其實是可以通過Agent進行連接的。

最後,我想為大家快速展示一下我們當前的產品。過去這些事情也能做,不過要編寫代碼,但現在只需要專家通過這個介面搭建一個Chain就可以完成這項工作。

某種程度上說,其實就是專家可以用自然語言與我們的AIAgent進行對話,共同沉澱知識並生成工作流。這樣,從設計介面到實際使用,我們包裝出來的Agent就像是專家的一個分身,能夠協助業務員工出色地完成工作。當然,我們還可以將過去的代碼、RPA低代碼BI、爬蟲、OCR模型,以及其他如文生圖、ASRTTS等技術全部嵌入其中。

通過端到端的對話式方式將Agent全面包裝起來,使得專家與一線業務員工能夠輕鬆地進行互動。此外,我們還有Market Place,可以將專家的技能和知識封裝起來,方便調用。

這就是我今天全部的分享內容,希望能夠給大家帶來一些啟示和幫助,非常感謝大家的聆聽!

END.

文章來源: https://twgreatdaily.com/zh-cn/e4215ec2b83222e33721272a63c7e765.html