Intel推出第5代Xeon可擴展處理器,提高電力效率並降低總擁有成本與碳排放

2023-12-18     十輪網

原標題:Intel推出第5代Xeon可擴展處理器,提高電力效率並降低總擁有成本與碳排放

Intel於12月14日正式推出第5代Xeon可擴展處理器,帶來更出色的電力效率與總擁有成本,協助客戶最大限度地延長基礎設施投資並降低碳排放。

代號為Emerald Rapids的第5代Xeon可擴展處理器最高具有64組核心,比前代最高端產品多出4組,而LLC(Last Level Cache,最後階緩存)最高容量可達320MB,約為前代產品112.5MB的3倍,並將內存傳輸速度由前代的DDR5-4800提升至DDR5-5600。它除了支持8信道DDR5內存,指定型號的處理器還能支持4信道CXL Type 3內存,以滿足更大容量內存的應用需求。

第5代Xeon可擴展處理器每個核心都具有AI加速功能,能夠滿足要求嚴苛的點對點AI工作負載,最多能在多達200億參數的模型上提升42%的推論性能提升,並提供低於100毫秒的延遲。

第5代Xeon可擴展處理器與前代產品採用相同腳位,軟體和平台方面與第4代Xeon可擴展處理器兼容,讓客戶在升級時能最大限度地延長基礎設施投資,如此一來便能在與前代產品相同的功耗範圍內,提供更高的運算能力和更快的內存支持,同時降總擁有成本和碳排放。

與第4代相比,第5代Xeon可擴展處理器平均性能提升高達21%,平均電力性能提升36% 。若遵循普遍的五年更新周期,從舊系統(第1代)升級到第5代Xeon可擴展處理器的總擁有成本(TCO,Total Cost of Ownership)可降低高達77% 。

Intel於12月15日台灣上市記者會中展示第5代Xeon可擴展處理器實物。

Intel執行副總裁暨數據中心與AI業務群總經理Sandra Rivera稍早於12月14日晚間在美國發布展示處理器。

第5代Xeon可擴展處理器最大的特色在於強化於處理器進行AI運算的性能,適合進行小量體的AI推論運算。

與第4代相比,第5代Xeon可擴展處理器平均性能提升高達21%,AI推論部分則提高42%。

在雲計算、網通、邊緣等運算場景中,第5代Xeon可擴展處理器能提高23-50%。

若從從第1代升級到第5代Xeon可擴展處理器,可以降低94%伺服器數量以及90%電力消耗與碳排放,總擁有成本(TCO,Total Cost of Ownership)可降低高達77%。

在軟體平台方面,企業也能通過OpenVINO與OneAPI快速將多種不同語言撰寫的程序與模型快速部署不同的運算單元,大幅簡化導入AI的工作流程。

Intel同時也發布了專為工作站應用的Xeon E-2400系列處理器,與前代Xeon E-2300系列相比,主要差異在於支持的內存由雙信道DDR4-3200提升至雙信道DDR5-4800,並提供16組PCIe Gen 5傳輸信道,平均性能也有30%的提升。

而在美國發布會現場最後的One More Thing環節,Intel執行長Pat Gelsinger以相當有趣的方式首度公開展示Gaudi 3 AI加速器的晶片,並強調它已離開晶片廠並在實驗室過電,一切進度都符合預期,並預計於2024年推出產品。

有興趣觀看這段互動的讀者,可以參考美國發布重播視頻,並跳至59:14段落。

Xeon E-2400系列為工作站等級的處理器,最高具有8組Raptor Cove架構核心。

在記者會現場也展出了對應Xeon E-2400處理器的主板。

以GIGABYTE MX34-BS0為例,它提供4組DDR5內存插槽與1組PCIe Gen5x16插槽。

在美國發布會現場,Intel執行長Pat Gelsinger以相當有趣的方式進入One More Thing環節,起初他好像與工作人員就展示樣品起了一些爭執。

他不顧副總才暨首席商務官Christoph Schell的阻攔,「挑釁」自己才是老闆,硬是上台展示Gaudi 3 AI運算加速器,並強調現在Gaudi 3已經離開晶片廠並在實驗室過電。

Gaudi 3能夠滿足大型語言模型的訓練與生成式AI的運算需求。

Intel執行副總裁暨數據中心與AI業務群總經理Sandra Rivera表示,第5代Xeon可擴展處理器專為AI應用設計,為跨雲計算、網絡和邊緣應用部署AI功能的客戶提供更優異的性能。我們與客戶、合作夥伴和開發者生態系長期合作,在經過驗證的基礎上推出了新一代Xeon處理器,將有助於實現快速採用和以更低的總持有成本擴展規模。

文章來源: https://twgreatdaily.com/c6e92d091d3b65c311c055c2dbdcf327.html