戴爾推生成式AI開放生態系統,支持AMD新加速器

2023-12-09     十輪網

原標題:戴爾推生成式AI開放生態系統,支持AMD新加速器

生成式AI是近十年最受矚目的創新加速器,78%的IT決策者表示期待生成式AI在企業中發揮潛力,將其視為提高生產力、簡化流程及節省成本的方式。戴爾科技集團表示,善用此技術對於身處數字時代的企業來說非常重要,有助於在競爭激烈的環境中占有一席之地。

戴爾攜手AMD擴大Dell生成式AI解決方案產品組合,持續加速推動高端工作負載,為企業提供更豐富的選擇,並推進生成式AI進程。此新技術展現了開放生態系統和矽多樣性的關鍵角色,為客戶提供簡單、可信任的定製化解決方案,將AI導入數據中;然而,應對激增的數據量及善用數據,為如今AI領域的核心問題。

戴爾指出,Dell PowerEdge XE9680為公司至今增長速度最快的解決方案,支持即將推出的AMD Instinct MI300X加速器,提供客戶更多AI性能相關選擇。其搭載AMD Instinct MI300X,通過高性能解鎖企業數據價值,並運用定製化大語言模型(LLM)於產業中脫穎而出。搭載8個MI300X GPU,每個GPU皆配備192GB的5.3 TB/s高帶寬內存(HBM3),每個伺服器都有一致的HBM3容量達1.5 TB,以及超過21 petaflops的FP16算力峰值,讓生成式AI被企業普及使用,協助訓練更大的模型、減少數據中心占地面積、降低總體擁有成本,並獲得競爭優勢。

戴爾並指出,Dell PowerEdge XE9680不僅性能強大,其安全與簡易性更為同級中最出色。藉由Dell Open Manage Enterprise軟體簡化和加速生成式AI基礎架構的部署,並通過CloudIQ軟體達到智能自動化,其更集成網絡恢復功能和一系列Zero Trust提升安全性。

Dell PowerEdge XE9680是藉由以8個AMD Instinct MI300X加速器運行的AMD Instinct Infinity平台,實現近線性的規模擴展與低延遲分布式的生成式AI訓練及推論。藉由橫跨PowerEdge伺服器集群的全局內存互聯(xGMI),並通過乙太網絡為基礎的AI結構連接MI300X GPU,使用經戴爾驗證的GPU結構和Dell PowerSwitch Z9664F-ON。

此外,戴爾也宣布生成式AI解決方案的進一步計劃,全新Dell Validated Design for Generative AI with AMD協助企業更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架構將於2024年上市,拓展Dell生成式AI解決方案生態系,並將加入開源大語言模型。AMD ROCm可作為AMD Instinct加速器的開源驅動程序堆棧、開發工具組及API。通過Dell Validated Designs for Generative AI將能更簡單地定製可信任的生成式AI平台,消弭集成、性能和規模等考量因素的不確定性。

身為超級乙太網聯盟(UEC)一員,戴爾致力提倡基於標準的網絡。戴爾表示,公司擁有獨特優勢,可在生成式AI解決方案(運算、結構和存儲)中運用開放式方法充分發揮潛力。

(首圖來源:戴爾)

文章來源: https://twgreatdaily.com/4c5907c4cb78d528f61893c552b4a86d.html