AI 大模型如何在各行業跑通業務閉環?

2024-05-31     InfoQ

嘉賓| 高磊、平野,賈志鵬

策劃|薛梁

審校|何逸燦

諸多新技術範式的出現正在重塑 AI 大模型應用的落地路徑,大模型在推動企業向全面數智化轉型的同時,也在對以往的 AI 應用開發與運維流程產生深遠影響。當大模型爆紅之初驚喜又興奮的心情平復下來時,AI 大模型落地行業場景時的諸多挑戰逐一浮出水面。

各行各業如何面對大模型應用探索中的新挑戰?對於金融行業等數據密集、對產出結果精確度有很高要求的產業,或是要求嚴謹專業的物流與供應鏈領域而言,大模型應用如何平穩走進業務場景?下一步,AI 大模型該如何結合行業特點、滿足行業要求,向行業垂直領域大模型發展?

在日前的《超級連麥. 數智大腦》x ArchSummit直播節目上,順豐科技運籌優化算法總工程師高磊、天弘基金人工智慧部負責人平野、Fabarta 高級技術專家賈志鵬就這些問題展開了深度探討。

以下內容根據對話整理,篇幅有刪減,點擊「閱讀原文」可觀看直播回放

大模型應用現狀簡介

高磊:平野老師曾經在支付寶第五代智能風控引擎 Alpharisk 的開發中發揮了重要作用,能否分享一些 AI 和大模型在智能風控領域的技術創新和實踐經驗?目前,天弘基金在大模型領域又有哪些探索?

平野:在支付寶支付風控部門任職期間,我參與了風控引擎架構的轉型建設。最初,風控引擎的設計主要依賴於策略,當時大約 70% 以上的風險防控措施都是基於策略的。制定策略時先由專業分析師根據具體場景構建特徵,再通過這些特徵組合成策略進行風險管理。

隨著時間的推移,支付寶開始探索以 AI 模型替代人工的策略,在 2017 年至 2019 年這一早期階段,儘管全球成功的 AI 風控案例並不多,我們仍堅持在 AI 風控領域不斷探索和創新。風控引擎架構從傳統的策略開始,逐漸過渡到一些機器學習模型,最終逐步引入了更高級的技術,如圖神經網絡和深度神經網絡。我們還設計了高性能的分布式支付決策鏈路,顯著提升了風控效率。

在 AI 應用方面,我們進行了多項獨特創新,包括基於 MOE 的多任務學習框架,並針對具體場景進行了創新。此外,我們還開發了圖算法和可信網絡等技術,這些技術在支付寶的風險防控中發揮了重要作用。

Alpharisk 作為支付寶風控引擎的核心組件,經過數次疊代,已發展至第五代,其智能化水平顯著提升。從風險感知、決策到結果演化,這一系列決策過程現在主要都由模型自動完成。目前,約 90% 的風險防控場景均利用模型來實現高效運作。

高磊:阿里巴巴開發的大模型通義千問非常強大,支付寶在這方面是否有過合作?

平野:在天虹基金大模型項目進行的過程中,我們曾經考慮過與第三方廠商合作,或者直接調用一些行業領先的大模型 API 來實現我們的目標。然而,我們很快意識到,金融業務場景對數據的準確性和專業性有著極高的要求。這一行業特點使我們不得不面臨兩點問題:

  • 首先,現有通用大模型,包括去年早期發布的 ChatGPT 3.5,它們在數據實質內容方面的完善程度並沒有達到我們預期;
  • 其次,為使大模型在特定場景下的功能更智能化,就要求它能深入理解我們的業務場景,並專門學習不同的業務目標。但目前的通用大模型只能提供泛化的回答,並不能提供精準和實質性的內容。

基於這些考慮,我們決定主要通過自主研發來完成大模型項目,以更好地滿足我們的業務需求。

高磊:賈老師在 Fabarta 擔任高級技術專家,曾在 IBM、阿里雲、HSBC 等公司從事金融、製造和汽車等行業的業務解決方案諮詢與實施工作,能不能從您的角度介紹一下,大模型技術在這些不同領域的應用現狀,主要能解決哪些業務問題?不同行業之間存在哪些獨特挑戰?

賈志鵬:在公司成立之後,我們為多家企業提供了解決方案服務。這些服務包括針對不同行業設計定製化的解決方案,如金融、製造和醫療等行業。在這一過程中,我們注意到不同企業對大型 AI 模型(大模型)抱有多種期待。根據我們的經驗,可以將這些期待大致分為以下三類。

  1. 現有系統優化:一些企業在大模型出現之前已經在運營或建設自己的系統,如文檔管理、知識庫和知識圖譜等。這些企業希望通過大模型技術來豐富和優化現有系統,無論是優化數據接入還是提升最終產出。
  2. 生成式能力應用:大模型具有強大的生成式能力,企業希望探索這些能力在特定場景下的應用。例如,在前期構建知識庫後,企業可能想要實現企業內部文檔的問答系統,挖掘現有文檔價值、解析問題並提供答案。此外,企業還希望通過大模型自然語言表達來實現自動發掘企業內數據,如報表和數據,這在 BI(商業智能)場景中尤為重要。
  3. 智能決策探索:近期業界在探索如何通過大模型實現智能決策,這涉及到使用 AI Agent 技術將不同的業務場景與大模型、甚至企業原有的小模型結合起來,共同解決特定問題,以實現智能決策。

高磊:我在順豐集團負責智慧供應鏈的建設工作。在公司內部,我們正在探索大模型技術在物流和供應鏈領域的應用。我們正在構建基於開源模型的「豐語」大模型,該模型專注於物流供應鏈領域的專業知識。依託此模型,我們嘗試了多種應用,主要分為三大領域:

  1. 售前售後服務:在售前,我們嘗試為快遞員配備智能助手,幫助他們即時回答客戶的收寄物品問題,而不必依賴個人經驗或諮詢同事;在售後,我們將大模型技術應用於智能客服系統,自動生成對話摘要,減輕客服人員的工作量,並利用大模型進行服務質檢和客戶聲音洞察,幫助響應客戶共性問題並提高服務規範性。
              文章來源: https://twgreatdaily.com/f9525ca8e1f929b560dbcd2d63f8c6e6.html