端側AI大模型紛至沓來,手機要被顛覆?

2023-08-29     AI狐頭條

原標題:端側AI大模型紛至沓來,手機要被顛覆?

原創 | 飛象網

近年來手機產業發展進入創新瓶頸期,手機廠商正試圖尋找新的差異化出路。

特別今年以來,隨著ChatGPT的橫空出世和全民級應用發展趨勢,眾多手機廠商紛紛入局AI大模型賽道,其中不乏榮耀、OPPO、vivo、小米、華為等國產手機巨頭。

榮耀將把AI大模型引入端側,賦能YOYO智慧助手,打造更加個人化、人性化,隱私保護更周全的端側個人模型;小米將小愛同學升級大模型,小米手機端側大模型已初步跑通;OPPO、vivo 也計劃在系統中整合AI 大模型能力。

除了手機廠商外,高通、聯發科等晶片巨頭也在探索將AI大模型植入端側。這預示著,部署AI大模型的手機終端就要來了。

手機巨頭搶跑「AI 大模型」賽道

8月4日,華為對外發布HarmonyOS 4,將AI大模型能力內置在了系統底層。

華為常務董事、終端BG CEO余承東介紹,HarmonyOS 4由華為盤古大模型提供底層支持,希望給用戶帶來智慧終端交互、高階生產力效率、個性化服務的全新AI體驗變革。

在8月14日晚舉辦的小米年度演講中,雷軍表示,小米AI大模型最新一個13億參數大模型已經成功在手機本地跑通,部分場景可以媲美60億參數模型在雲端運行結果。小米旗下人工智慧助手小愛同學已開始升級AI大模型能力,在發布會當天開啟邀請測試。

榮耀是最早布局AI的手機廠商之一,根據趙明的描述,其AI能力的進階主要分為三個階段:第一階段是從0到1提出概念,將需求場景化,比如相機可以直接識別綠植、天空,AI能夠對圖像進行對應的優化;第二階段,AI有了上下文理解與學習,基於位置、時間對消費者習慣進行整合式機器的決策;第三階段就是把AI引入端側。

「之所以提出端側大模型的概念,是因為網絡側大模型存在局限性。」在趙明看來,大模型的學習能力的確很強,但我們需要劃分個人隱私以及人類知識庫之間的邊界。每個人都有自己的獨立空間,它應該完全地被保護,這也是端側大模型的價值所在。

OPPO、vivo 也逐漸開始在大模型領域發力。OPPO推出了基於 AndesGPT 打造的全新小布助手即將開啟大型體驗活動。

據介紹, AndesGPT 是 OPPO 安第斯智能雲團隊打造的基於混合雲架構的生成式大語言模型。升級後的小布助手將具備 AI 大模型能力,擁有更強的語義理解對話能力。此外,vivo將在今年10月左右推出新的OriginOS 4.0系統,新系統將內置AI大模型。

端側運行AI大模型,手機晶片頂得住嗎?

作為推動手機物種進化的先進技術,與單純在雲端部署生成式 AI 應用和服務相比,手機終端側部署生成式 AI 在節約伺服器成本、保護用戶信息安全、提升實時性和實現個性化用戶體驗等方面帶來了更加廣闊的應用前景。

同時,在手機端部署AI大模型仍然面臨不小的挑戰,手機晶片能否支撐龐大的算力消耗,是現有晶片性能所無法滿足的。以網絡側大模型ChatGPT為例,按其在今年1月的獨立訪客平均數1300萬計算,其對應晶片需求為3萬多片英偉達A100 GPU圖形處理器。

目前,高通等晶片廠商,正在針對AI大模型端側部署研發專用的晶片。目前,高通正在將AIGC嵌入下一代高端晶片驍龍8 Gen3中,該晶片將於今年10月底在夏威夷舉行的高通驍龍峰會上首次亮相。

在Asghar的實驗室中,高通晶片能夠處理70億個參數的AI模型,雖然遠遠低於OpenAI GPT-3模型的1750億個參數,但應該適合移動搜索。

早在今年2月份,高通就已經發布了全球首個運行在安卓手機上的圖片生成軟體Stable Diffusion的終端演示,該手機搭載了驍龍8 Gen2晶片。在設備上使用生成式AI有很多好處。比如,所搜索記錄和個人數據是保密的,不會通過遠程伺服器中轉。本地AI也比雲端更快,而且可以在飛機上等缺少手機服務的地區工作。

除了晶片端,為了在手機上高效運行大模型,研究人員和開發者致力於將模型進行壓縮和輕量化處理,通過剪枝、量化、分解等技術,以減小模型的大小和計算量,同時保持較高的性能。

此外,開發者也在針對手機場景設計專用的AI模型。這些模型通常在快速響應、低功耗和小尺寸等方面進行了優化。

在業內看來,目前AI大模型在手機端側的應用還在起步階段,但卻是未來必爭的技術高地。根據IDC預測,到2026年,中國市場中近50%的終端設備的處理器將帶有AI引擎技術。

這意味著,手機廠商擁有AI大模型的能力將變得越來越重要。對於用戶而言,在AI大模型的賦能下,未來手機演進將迎來更多體驗層的「質變」性創新。

文章來源: https://twgreatdaily.com/zh/88d1262d857bfc7f18a1b95f62daea12.html