11月16日消息,根據外媒wccftech報導,預計2024年將會流行的一件事就是終端AI的使用,該功能目前已內置於2024年發表的多款晶片組中,包括高通Snapdragon 8 Gen 3、聯發科天璣9300和三星Exynos 2400。
一份新報告提出,支持終端側AI大模型功能的智慧型手機將需要比以前更大容量的內存。因此,內置端側AI大模型功能的Android智慧型手機其內存容量至少需要20GB 將成為趨勢。
報告稱,雖然8GB內存仍然是當前Android智慧型手機市場的主流。然而,市場上很多旗艦智慧型手機也已經達到了比現階段多數筆記本電腦或台式機具有更多的內存容量。接下來,為了讓設備上的AI更好的生產圖像,Android手機將需要至少1GB的內存。原因是為具有設備上人工智慧助理,以及其他功能的設備將需要超過20GB的內存才能確保更流暢的操作。
在此前天璣9300的預溝通會上,聯發科無線通信事業部AI技術高級經理莊世榮就曾向芯智訊解釋稱,一款130億參數的AI大模型,大概需要13GB 內存 (INT8)才能運行,而智慧型手機本身運行安卓作業系統通常就要占用4GB的內存,如果還要相對流暢的運行其他常規APP任務並保活,還需要6GB的內存,即總的手機內存容量需求將達到23GB。
但是目前主流的千元智慧型手機內存容量大多數都是在8GB/12GB左右,大多數旗艦智慧型手機的內存容量也才到16GB,僅有極少數旗艦手機內存容量達到了24GB。所以,要想在智慧型手機端運行130億參數的AI大模型將會面臨著內存限制的問題。
即便採用先進的內存壓縮技術,要流程的運行130億參數的AI大模型,智慧型手機也需要至少16GB的內存容量,如要要運行更大規模的330億參數的AI大模型,內存容量就需要進一步提升到20GB以上。
報導強調,過去市場上就已經有內存超過20GB的手機。比如,中國手機品牌一加先前也發布了一款24GB大容量內存的手機,但當時設備上的AI並不是焦點。然而,根據這份報告,如果期望人工智慧功能能夠按預期工作,那麼2024年的智慧型手機可能會配備更高的內存容量。不過,現階段不能確定是否所有Android手機廠商都會效仿。
報道進一步強調,這裡需要注意的另一件事是,考慮到各個Android手機廠商對AI的投資,2024年發表的設備將重點放在AI上已成為顯而易見的事情。
編輯:芯智訊-浪客劍
文章來源: https://twgreatdaily.com/7057f7e54609fdb874178eec0db1ab71.html