Google 6月將推270億參數Gemma 2開放模型,品質表現超越兩倍大模型

2024-05-16     十輪網

Google I/O 2024年度開發者大會發布一系列Gemma開放模型,最引人矚目的是擁有270億參數的Gemma 2,6月推出。

Gemma是一系列開放(但非開源)模型,類似Meta Llama和創業公司Mistral AI旗下開放模型。可用的是PaliGemma模型,為預訓練Gemma變體,Google描述「Gemma系列第一個視覺語言模型」,專門圖像標註、圖像標籤和視覺問答等應用場景。

迄今標準Gemma模型(今年稍早推出)僅有20億參數和70億參數版本,這次身為Google開放權重之Gemma模型下代產品的Gemma 2一舉突破270億參數,無疑是一大進步。但Google尚未分享最新模型的詳細數據。

Google實驗室(Google Labs)副總裁Josh Woodward演示文稿指出,Gemma模型在各種可用服務下載超過「數百萬次」。且Google完成Gemma 2優化,以便讓這款新模型能在Nvidia下一代GPU、Google Cloud TPU主機及Vertex AI託管服務運行。Gemma 2實際運行展現不錯品質,表現甚至超過規模大兩倍的模型。

Google announces Gemma 2, a 27B-parameter version of its open model, launching in June

(首圖來源:視頻截屏)

文章來源: https://twgreatdaily.com/zh-cn/d7af8b50b082c92f6b483609afae3c29.html