Google I/O 2024年度開發者大會發布一系列Gemma開放模型,最引人矚目的是擁有270億參數的Gemma 2,6月推出。
Gemma是一系列開放(但非開源)模型,類似Meta Llama和創業公司Mistral AI旗下開放模型。可用的是PaliGemma模型,為預訓練Gemma變體,Google描述「Gemma系列第一個視覺語言模型」,專門圖像標註、圖像標籤和視覺問答等應用場景。
迄今標準Gemma模型(今年稍早推出)僅有20億參數和70億參數版本,這次身為Google開放權重之Gemma模型下代產品的Gemma 2一舉突破270億參數,無疑是一大進步。但Google尚未分享最新模型的詳細數據。
Google實驗室(Google Labs)副總裁Josh Woodward演示文稿指出,Gemma模型在各種可用服務下載超過「數百萬次」。且Google完成Gemma 2優化,以便讓這款新模型能在Nvidia下一代GPU、Google Cloud TPU主機及Vertex AI託管服務運行。Gemma 2實際運行展現不錯品質,表現甚至超過規模大兩倍的模型。
Google announces Gemma 2, a 27B-parameter version of its open model, launching in June
(首圖來源:視頻截屏)