終端廠商首個開源大模型AndesGPT OpenCompass中文7B規模第一

2023-11-01   手機之家

原標題:終端廠商首個開源大模型AndesGPT OpenCompass中文7B規模第一

據OpenCompass評測平台最新數據,OPPO大模型AndesGPT-7B以62.2的綜合分位列中文數據集綜合榜單中第五,在同為70億(7B)規模參數下的大模型中排名第一。值得注意的是,OpenCompass提供的完整開源可復現的評測框架,可同時對大模型的多項能力進行評測,同時也意味著AndesGPT-7B是國內終端廠商首個已開源的大模型,將持續為中文大模型開源社區做出貢獻。

(OpenCompass大語言模型評測榜單-中文數據集 2023/10/30)

OpenCompass是一款開源、高效、全面的評測大模型體系及開放平台,提供了多個不同維度的數據集和評測方式,基於語言、知識、推理、學科、理解、5 大維度,50餘個數據集評估大語言模型能力。包括零樣本評測、小樣本評測和思維鏈評測,全方位量化模型各個維度能力,共計40+任務覆蓋各項能力。

作為OPPO自主訓練的大語言模型,AndesGPT以「端雲協同」為基礎架構設計思路,包含了一系列不同參數規模的大語言模型,從十億起步,最高可多達千億級,可支撐多元化的應用場景。據悉,OPPO於2020年就已啟動大模型相關技術的探索與實踐,大模型相關專利布局超過1400多個,目前也正聯手10餘所高校探索深入的合作,相關課題涉及端側輕量化、大模型賦能泛在服務、意圖推理、多模態生成等。AndesGPT-7B在OpenCompass平台上表現出色的情況下,也為大模型開源社區的共同進步貢獻自己的力量。

目前,基於AndesGPT大模型打造的全新小布助手開啟公測,對外展示了其雲端應用的部分能力。同時,OPPO也與聯發科技合作共建輕量化大模型端側化部署方案,實現精度不掉點效果下端側化性能更優,共同推動 AndesGPT 大語言模型和多模態大模型在端側逐步落地。

11月16日,AndesGPT會在即將發布的ColorOS 14系統中被首次應用,AndesGPT更多元化的應用場景或將在之後揭曉。