尚不夠可靠的人工智慧（AI），如何更好助力工業化智能化轉型升級？
11月5日，在第七屆虹橋國際經濟論壇——人工智慧賦能新型工業化分論壇上，2007年圖靈獎得主約瑟夫·希發基斯在主題演講中表示，人工智慧目前仍專注於輔助，處於初期階段，產業進化才剛剛開始。儘管取得了進展，生成式人工智慧也有出色表現，例如ChatGPT，但這類大語言模型擅長回答寬泛問題，在面對非常具體的問題時可能無法提供準確的答案，可靠性不夠高，無法實現完全智能，目前只有構建智能系統的積木，沒有建立複雜智能系統的原則和技術。
他認為，人工智慧的成功與否將取決於開發人工智慧體和建立自主系統的能力，而現在面臨的最大挑戰是系統工程。因為人們必須引入、整合服務、電器、設備和人工智慧系統，如何用不可信的部件組成可信的系統、混合架構，如何將符號知識和非符號知識聯繫起來，如何從設計時的正確性轉移到運行時的正確性、具備適應性，以及系統驗證等問題，都有待解決。
在圓桌對話中，多位企業家也就AI落地以及企業智能化轉型升級進行了討論。
人工智慧賦能新型工業化分論壇圓桌討論。澎湃新聞記者 秦盛 攝
科大訊飛副總裁、研究院院長、中國電子學會常務理事劉聰認為，AI在工業場景的落地面臨三方面的挑戰，首先是對可靠性要求更高，對穩定性、準確性的要求比一般場景更高。其次是行業性，工業中很多專業技術的基底模型，開發難度更大。還有安全性方面的挑戰，要保證工業數據不會被非法獲取，模型不會被篡改等。先進入輔助非核心生產環節，再進一步過渡到生產環節可能是較為合適的路徑。
小米集團手機部副總裁、智能製造部經理許多表示，根據小米智能工廠的實踐經驗，要把數據當作非常重要的要素，如果數據的上行或者下行放到事後再考慮，有些斷點將難以彌補。其次，工廠現在並不能實現完全的無人化，在落地時，需要考慮人和機器結合的關鍵的承接和轉換環節是什麼，怎麼設定才能實現有效的轉換。
許多舉例稱：「我們過去往往從運營的角度考慮，承接環節設得比較高，一般是工廠的廠長或者車間主任級別，他們去完成自上而下的承接和轉換。今天來看，某種程度上可能想錯了，我們在運營中看到，轉換的關鍵環節可能是技術員，可能是線長，因為技術員和線長在維護機器的穩定運行，車間主任或者廠長只是在做價值管理，要接訂單，談價格，處理變化和異常，他把這些信息拿到之後再轉化。」
商湯聯合創始人、大裝置事業群總裁楊帆表示，智能化的轉型升級很重要的是時機的選擇，企業自身的信息化水平，包括流程的標準化體系，以及各個環節、業務人員對於信息化、數據的感知和感受能力，都是智能化轉型的基礎，「就像最近幾年很火的大語言模型，某種程度上我們叫認知智能，包括前幾年的強化學習，未來還得有身體去感知世界知識」。
國家地方共建人形機器人創新中心首席科學家江磊表示，很多人喜歡把人形機器人歸納到科技產品，但從基建系統來說是當量多軸驅動的系統，「我們去了很多生產線，在這麼高自動化的水平下，依然還有很多人類在整理線纜、柔性上下料以及布局很多柔性的貼片，這意味著我們現在的控制理論做不了。其實我們不需要設計人形，如果一個工廠的機械臂能達到60個自由度，就會產生很多柔性製造的環節，但現在的理論達不到。所以我們老說一句話，人形機器人是解決未來問題的，是很多學科的集大成者。用人形機器人可以把一個科學問題引出來，引出來以後再分解。如果我們把人形機器人看作是一個大自由度基建生產系統，我們的大模型具身智能可能會在生產線上產生巨大的作用。」
希發基斯表示，只有一個超越人類的超智能系統是不夠的，因為人類的智能包含很多方面，必須通過結合不同類型的人工智慧和信息通信技術來實現，目前人們並不知道如何做到這一點。要彌合自動化和自主性之間的差距還有很長的路要走，工業人工智慧的發展也將需要新的科學和技術基礎。
對於備受關注的AI安全問題，希發基斯認為，如今全球的政府和機構都有意願進行監管，至於什麼可以監管、什麼應該監管，還沒有達成一致，全球監管框架達成一致的可能性非常小，中國應該提出一個不同的願景，不僅專注於對話式人工智慧系統和其他類型的系統，還應該利用自身強大的工業基礎，專注於每個行業的核心技術，從龐大而多樣的工業基礎中汲取大量數據，協同每個行業的國有企業，為每個行業構建特定的智能系統和特定技術。他表示，中國應該更多地參與到全球標準制定的討論中來。