高通甩出最強晶片三件套!手機跑100億參數大模型,PC晶片逆襲蘋果英特爾

2023-10-25     芯東西

原標題:高通甩出最強晶片三件套!手機跑100億參數大模型,PC晶片逆襲蘋果英特爾

芯東西(公眾號:aichip001)

作者 | ZeR0

編輯 | 漠影

芯東西10月24日毛伊島報道,北京時間10月25日凌晨,高通在2023驍龍峰會上推出新一代旗艦移動晶片驍龍8 Gen 3、旗艦PC(個人電腦)晶片驍龍X Elite、音頻晶片S7/S7 Pro Gen 1,以及跨平台連接技術Snapdragon Seamless

第三代驍龍8移動平台是高通首個專為生成式AI而打造的移動平台,採用4nm工藝技術,搭載業界最快的設備端內存LPDDR5X。與前代平台相比,其AI性能提升98%、能效提升40%;CPU最高頻率達3.3GHz,性能提升30%,能效提升20%;GPU性能提升25%,能效提升25%。小米14系列智慧型手機將在10月26日首發搭載第三代驍龍8。

全新PC處理器驍龍X Elite同樣採用4nm工藝技術,12核CPU性能可達到x86處理器競品的2倍,多線程峰值性能比蘋果M2晶片高出50%,GPU算力可達4.6TFLOPS,AI處理速度達到競品的4.5倍,異構AI引擎性能達75TOPS,支持設備端運行參數量超過130億的大模型

第一代S7及S7 Pro音頻平台是首款支持高通擴展個人區域網(XPAN)技術和超低功耗Wi-Fi連接的音頻平台,相比前代平台,AI性能提升達近100倍,計算性能提升達6倍,能夠在家庭、樓宇或園區擴展音頻傳輸距離,並支持高達192kHz無損音樂品質。

高通還公布一項全新跨平台技術Snapdragon Seamless。該技術可實現跨手機、PC、耳機、增強現實(AR)頭顯等多台終端跨多個作業系統無縫連接,共享外設和數據,就像使用統一的整合系統般工作以共享信息。

這項技術可實現跨設備螢幕、文件分享等功能,比如滑鼠和鍵盤可在PC、手機和平板電腦上無縫使用,文件和窗口可在不同類型的終端間拖放,耳機可根據音源的優先級進行智能切換,XR可為智慧型手機提供擴展功能。

高通移動平台第三代驍龍8、PC平台驍龍X Elite、可穿戴平台和音頻平台現已支持Snapdragon Seamless。未來該技術將擴展至XR(擴展現實)、汽車和物聯網平台。微軟、Android、Xiaomi、華碩、榮耀、聯想和OPPO等公司正與高通合作,打造Snapdragon Seamless賦能的多終端體驗。該技術最早將於今年在全球範圍發布的終端平台上落地。

一、首次支持多模態生成式AI,手機能跑100億參數大模型

夏威夷當地時間9點01分,2023驍龍峰會正式開場,現場與座者共400多人。

高通首先曬出一些成績單:驍龍已落地30多億終端設備,品牌知名度是競品2倍,購買意願是競品9倍,推薦意願是競品10倍,消費者願意花費比競品高16%的溢價來購買搭載驍龍的終端。驍友會成員已接近1400萬人。

緊接著,高通CEO安蒙登上舞台,分享高通對生成式AI和混合AI趨勢的觀察。

安蒙說:「我們正在進入AI時代,終端側生成式AI對於打造強大、快速、個性化、高效、安全和高度優化的體驗至關重要。驍龍在助力塑造和把握終端側生成式AI機遇方面獨具優勢,未來驍龍賦能的生成式AI體驗將無處不在。」

針對生成式AI,第三代驍龍8率先支持多模態通用AI模型,現已支持運行超100億個參數的大模型。

在第三代驍龍8上,面向70億參數大語言模型可實現每秒生成20個Token;不到1秒就能使用AI文生圖模型Stable Diffusion生成1張圖像。

驍龍平台現已支持跑微軟、OpenAI、Meta、安卓、百度、智譜、BLOOM、stability.ai、百川智能、有道等企業或機構的端側大模型。

Meta創始人兼CEO馬克·扎克伯格通過視頻VCR的方式分享Meta與高通的合作。

其幕後功臣是升級的高通AI引擎,由Hexagon NPU、Adreno GPU、Kryo CPU等共同組成。

安蒙說,高通在設備側AI性能、異構計算能力、可擴展的AI軟體工具、橫向生態系統和AI模式的支持等方面都優勢顯著。

二、盧偉冰現場展示小米14真機,第三代驍龍8 AI性能提升98%

小米總裁盧偉冰來到現場,介紹了小米的60億參數大模型,宣布搭載第三代驍龍8的小米14系列智慧型手機將在北京時間10月26日19點發布,並預告小米將在2024年推出小米汽車。

與前代平台相比,第三代驍龍8的Kryo CPU性能提升30%,能效提升20%;Adreno GPU性能提升25%,能效提升25%;Hexagon NPU AI性能提升98%,能效提升40%。

除了加速生成式AI外,第三代驍龍8此次重點升級的還有攝影功能,可支持用AI實現填充的照片擴展、用智能摳像實現視頻對象擦除、AI背景生成、AI優化夜景視頻拍攝等多種影像優化功能。

驍龍正與C2PA標準合作,確保照片內容的公開度與透明度。

連接方面,第三代驍龍8內置基於5G advanced-ready架構的5G基帶晶片,支持Wi-Fi 7和雙藍牙。

三、驍龍X Elite:CPU性能「倍殺」x86晶片,本地可跑130億參數大模型

高通將驍龍X Elite稱作是同級別Windows處理器中「最強大、最智能、最高效」的處理器,擁有可擴展的熱設計範圍,並且為AI而生,能夠讓用戶從多方面感受到更加智能的體驗。搭載驍龍X Elite的PC預計將於2024年中面市。

值得一提的是,聯想集團CEO楊元慶、惠普總裁兼CEO Enrique Lores均通過視頻形式向驍龍X Elite的發布表示祝賀。新任微軟Windows和設備業務副總裁Pavan Davuluri更是直接到現場為驍龍X Elite站台,並分享微軟與高通在Windows PC設備和VR設備Quest上的合作。

驍龍X Elite採用4nm工藝節點,包含12個CPU性能核;採用最先進的CPU內存架構設計、LPDDR5X內存,對應最大內存帶寬136GB/s,總緩存為42MB。

其AI處理能力是競品的4.5倍,異構AI引擎性能可達75TOPS,高通Hexagon NPU最高可實現45TOPS INT4的AI算力,相較2017年時提升100倍;支持在終端側運行超過130億個參數的生成式AI模型,面向Windows 11 PC的終端側聊天助手(基於70億Llama 2大語言模型)可實現每秒處理30個token。

驍龍X Elite採用定製的集成高通Oryon CPU,雙核boost頻率達4.3GHz,相同功耗下CPU性能可達到x86處理器競品的2倍;峰值多線程CPU性能比Arm處理器蘋果M2晶片高出50%。

達到相同峰值性能時,其單線程CPU所用的功耗比Arm處理器蘋果M2 Max功耗少30%,比x86處理器英特爾i9-13980HX功耗少70%;

驍龍X Elite的Adreno GPU算力達4.6TFLOPS,能支持3台超高清監視器。

相同功耗下,其GPU性能可達到x86處理器英特爾i7-13800H的2倍,達到相同PC峰值性能功耗僅有英特爾i7-13800H的1/4。

相同功耗下,GPU性能比x86處理器AMD Ryzen 9 9740HS快80%,達到相同PC峰值性能時功耗僅有Ryzen 9 9740HS的1/5。

驍龍X Elite還支持超快5G和Wi-Fi 7連接,以及先進的音頻和攝像頭體驗。

四、S7/S7 Pro:AI性能提升100倍,計算性能提升6倍

高通還推出了面向耳機和音箱設計的第一代S7及S7 Pro音頻平台,結合高性能、低功耗計算、終端側AI和先進連接,旨在解鎖下一級別的音頻體驗。

該平台將DSP性能提升至前代平台的3倍,AI性能是前代平台的近100倍,計算性能提升到前代平台的6倍,存儲性能提升前代平台的3倍。

第一代S7及S7 Pro音頻平台是首款支持高通擴展個人區域網(XPAN)技術和超低功耗Wi-Fi連接的音頻平台,其低功耗Wi-Fi連接擴展了音頻使用範圍和質量,能夠在家庭、樓宇或園區擴展音頻傳輸距離,支持高達192kHz的多通道無損音樂串流及面向遊戲的增強多通道空間音頻。

Snapdragon Sound驍龍暢聽技術已應用於最新的第三代驍龍8和驍龍X Elite,當與採用第一代高通S7或S7 Pro音頻平台的終端配合使用時,用戶將享受到更好的音頻體驗。

Bose CEO Lila Snyder通過視頻形式,宣布即將推出的Bose QuietComfort系列產品將採用高通Snapdragon Sound平台。

結語:為端側生成式AI革命按下加速鍵

今年以來,生成式AI成為科技領域最火熱的概念之一,從AI文生圖、多輪對話聊天到文生代碼、文生音樂、文生視頻、圖生文等等,以自然語言為入口的全新人機互動方式正為人們的生活、工作和娛樂帶來前所未有的高效和便捷。

作為終端晶片「頭號玩家」和端側AI技術的領跑者,高通在端側運行生成式AI上的投入果斷而迅速,早在今年2月就用基於第二代驍龍8的終端演示了跑參數量超過10億的文生圖模型Stable Diffusion,6月份又完成終端側跑參數量更大的圖生圖模型ControlNet。今日發布的第三代驍龍8和驍龍X Elite更是為AI而生,做到支持超過100億參數的大模型在驍龍平台上運行。

無論是雲端運行生成式AI難以消除的高成本、高時延、隱私安全等挑戰,還是業界正探索縮小生成式AI模型參數量的趨勢,都給端側晶片企業敞開了時代機遇之門。高通為加速移動端和PC端AI計算所採用的各項硬體優化,以及在統一AI軟體棧上的持續布局,對於在設備端更高效地支撐生成式AI應用很有參考價值。更多技術細節將在明日揭曉。

文章來源: https://twgreatdaily.com/zh/5e1d74292b543b6a94b8af3b67198605.html