大模型出現之後，許多企業看到了提效的新方向。那麼，企業內部可以如何快速應用大模型、Agent等技術來實現提效？這篇文章里，作者結合自己的思考做出了一定梳理，一起來看。
大模型出現之後，許多企業看到了提效的新方向。那麼，企業內部可以如何快速應用大模型、Agent等技術來實現提效？這篇文章里，作者結合自己的思考做出了一定梳理，一起來看。
企業內部使用大模型，底線是在安全允許的範圍內，……
模型本身是不直接產生價值的，基於基礎大模型開發出來的應用才是模型存在的意義。本文作者從8個方面簡析企業內部如何快速應用大模型、Agent等技術來提效，希望對你有所幫助。
一、如何用好大模型，讓它發揮最大價值？
兩條路子，finetune、prompt。代理傳統Bert類模型的微調訓練的方式，使用更為高效的Prompt來指導LLM（即Prompt Engineer 又稱為 In-Context Prompt），使其產生出期望的結果，無需改變模型的權重。
二、大模型應用領域
當前看大模型冷啟動成本較低，泛化能力強，而小模型的可解釋性和準確性勝出（行業發展非常之快，這一點在某些領域可以已經反轉，受限於筆者的學識，難免局限，還望批評指正）。
各應用場景對可解釋性，準確性要求較高，現階段大、小模型結合落地的主流方式有兩種。
第一種為將大模型與小模型進行級聯。例如使用大模型從複雜數據源中抓取客戶歷史交易記錄，溝通信息等，對數據進行自動打標，並輸出結構化數據，用以豐富小模型數據集，提高小模型預測效果。
第二種為使用大模型作為小模型解決問題的中樞大腦。例如，利用大模型將複雜問題拆解為解決步驟，並在各步驟調用小模型能力，最後通過大模型進行總結性輸出。
應用場景：彙集智慧、喚醒沉睡知識、眾創數據價值、數字分身等。
三、在什麼條件下，大模型才能更好地發揮價值？
大模型應用走得較快的企業，有三個共同點：
其一，是技術上的積累達標（可以讓大模型run起來）。
其二，數字化建設方面做得比較紮實。在數據治理、數據資產管理和數據服務、數據安全管控、數智融合架構等方面，有較為紮實的基礎。
大模型訓練80%的時間都花在數據準備上。如果能打通數據和AI孤島，讓大模型直接在數據/信息（結構化、非結構化or半結構化）所在的集群上運行，無需搬運，就可以節省大量的時間和資源。其次，是業務流程清晰、明確。已經梳理、甚至是優化成標準的業務流程、規範。如果再有可衡量的指標作為check標尺，就更為加分。
其三，也是最關鍵的，需要有一群先驅，能起到帶領、試驗、示範的作用，快速試錯、探路子，進而帶動企業內部更多的人參與進來。實現從點、到線、到面、到空間的立體式多渠道的突破。
當一個新事物出現時，往往有下圖的5類人出現。他們會依次接受新技術的變更。當灰色的謹慎派、遲鈍派群體過大時，想推進下去是非常難得。特別是當反對派的聲音占據優勢時，甚至會抹殺掉先驅創造的一點點領先優勢～。面對大模型，我們自問，我是誰？
四、大模型固有的問題/短板有哪些？
相信隨著大模型領域的高速發展，如上這些問題正在日新月異的被突破，每天的晨報都能給我們帶來令人欣喜的消息。
五、在哪些場景下，更適合讓大模型發揮作用？
六、企業應用大模型的五個階段
企業用戶對大模型的應用，可以分為5個層級：
七、使用大模型的工作流程
1. 業務痛點梳理。
2. 明確模型、知識等基礎組件。
3. 安全評估。
4. 搭建Agent，以查詢（Query）模式為例：
5. 灰度上線運營。
6. 上線後效果評估（AB），持續優化。
八、企業內部要建設LLM應用平台嗎？
如何讓企業內部快速的把大模型用起來呢？有三條路子可以走：
關鍵詞：Agent、Chat GPT、生成式AI、AIGC、LLM、AGI、SQL、大模型應用。
作者：楊姝，黃帥，岑錦超
本文由@shucay 授權發布於人人都是產品經理，未經許可，禁止轉載