該公司表示，與手動模型訓練過程（容易出現延遲、不必要的支出和其他併發症）相比，HyperPod消除了為訓練模型構建和優化機器學習基礎設施的繁重工作，將訓練時間減少了40%。

另一方面，SageMaker Inference旨在幫助企業降低模型部署成本並減少模型響應中的延遲。為了做到這一點，Inference允許企業將多個模型部署到同一個雲實例中，以便更好地利用底層加速器。

AWS還更新了針對業務分析師的低代碼機器學習平台SageMaker Canvas。AWS資料庫、分析和機器學習服務主管Swami Sivasubramanian表示，分析師可以使用自然語言在Canvas中準備數據，以生成機器學習模型。該無代碼平台支持來自Anthropic、Cohere和AI21 Labs的LLM。

值得一提的是，SageMaker現在還具有模型評估功能，現在稱為SageMaker Clarify，可以從SageMaker Studio中訪問。

Guardrails for Bedrock：微調語言模型

亞馬遜雲科技始終致力於以負責任的方式開發AI，此次針對生成式AI的安全性，AWS全新發布了Guardrails for Amazon Bedrock預覽版，允許公司定義和限制模型使用的語言。該特性支持對模型可以處理的主題進行精確控制，從而防止模型響應不相關的查詢。通過確保語言模型與特定的公司指導方針和目標保持一致，Guardrails for Bedrock增強了語言模型的實用性。

Clean Rooms ML：保護隱私的人工智慧協作

AWS Clean Rooms ML是Amazon推出的一個隱私保護服務，允許AWS客戶部署專為一次性公司合作訓練的「相似」人工智慧模型，該服務是AWS現有的Clean Rooms產品的分支。

在現有AWS Clean Rooms服務的基礎上，這一新穎的產品消除了AWS客戶在人工智慧模型的開發、培訓和部署階段與外部合作夥伴共享專有數據的必要性。通過促進安全和保護隱私的協作，Clean Rooms ML加速創新並確保敏感數據的機密性，標誌著負責任和協作的人工智慧開發邁出了重要一步。

Amazon Braket：提供訪問量子計算機機會

亞馬遜科技公布量子計算晶片進展（Logical Qubit），宣布推出一項名為Amazo Braket Direct的新計劃，為研究人員提供直接地、私人地訪問量子計算機的機會。

該項目是AWS管理的量子計算服務的一部分，該服務於2020年推出，名為Amazon rack。

AWS表示，Amazon Bracket Direct允許企業的研究人員在沒有任何等待時間的情況下私人訪問各種量子處理單元（QPU）的全部容量，並且還提供了從AWS量子計算專家團隊那裡獲得工作負載專家指導的選項。

目前，Direct計劃支持IonQ Aria、QuEra Aquila和Rigetti Aspen-M-3量子計算機的預訂。

IonQ的售價為每小時7000美元，QuEra Aquila的售價為每小時2500美元，Rigetti Aspen-M-3的價格略高，為每小時3000美元。

成本優化中心（Cost Optimization Hub）：幫助企業減少開支

re:Invent宣布的更新包括一個新的AWS計費和成本管理功能，稱為AWS成本優化中心（Cost Optimization Hub），它使企業可以輕鬆地識別、過濾、匯總和量化AWS成本優化建議的節省。

根據AWS的說法，新的成本優化中心將跨AWS雲財務管理（CFM）服務（包括AWS成本管理器和AWS計算優化器）的所有成本優化建議操作集中在一個地方。此外，它還將客戶特定的定價和折扣納入這些建議中，從而提供企業成本優化機會的綜合視圖。

該功能可能有助於FinOps或基礎設施管理團隊了解成本優化機會。

S3 Express One-Zone：提升S3對象存儲性能

在本次大會中，AWS還正式發布了高性能、低延遲的對象存儲服務Amazon S3 Express One Zone，對其S3對象存儲服務進行了重大更新。該服務旨在為延遲敏感的應用提供個位數毫秒級延遲的高性能，以支持每分鐘數百萬請求、每秒數十萬次的數據訪問。Amazon S3 Express One Zone的數據訪問速度比Amazon S3標準版快10倍，請求成本降低50%，計算成本降低60%。

這種S3的高性能和低延遲層保證了性能的大幅提高，特別有利於數據密集型應用程式，如AI/ML訓練、財務建模和高性能計算（HPC）。S3 Express One Zone為希望在存儲解決方案中提高速度和效率的用戶提供了一個絕佳的選擇。

Zero-ETL：釋放更大數據價值

進入生成式AI時代，為釋放數據更大價值，Amazon宣布了4項新的Zero-ETL集成功能：Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon RDS for MySQL 與Amazon Redshift，使客戶能夠快速、輕鬆地連接和分析數據，而無需構建和管理複雜的提取、轉換和加載（ETL） 數據管道。

根據該公司的說法，新的Zero-ETL集成消除了在Aurora PostgreSQL、DynamoDB、RDS for MySQL和RedShift之間執行ETL的需要，因為這些資料庫中的事務數據幾乎可以立即複製到RedShift中，並準備好進行運行分析。如此一來，用戶將能獲得跨多個應用的整體洞察力，在提高運營效率的同時降低成本，並生成更好的數據驅動決策。

AWS Trainium2和Graviton4：強化生成式AI的基礎設施

自去年以來，這家雲服務提供商一直在強化其基礎設施功能和晶片，以支持具有更高能效的高性能計算。此次大會上，AWS宣布了用於人工智慧模型訓練和推理的晶片技術的最新進展。專為模型訓練而設計的AWS Trainium2，承諾比其前身提高4倍的性能和2倍的能源效率。

在推理方面，AWS發布了全新一代Graviton處理器——Amazon Graviton4。相比Graviton3，它的核心多出50%，內存帶寬提升75%，Graviton4晶片速度較Graviton3提升30%，對於資料庫和Java應用等關鍵工作負載方面實現了更顯著的性能提升，分別提升40%和45%。

此外，在re:Invent大會上，AWS還擴展了與英偉達的合作夥伴關係，包括對DGX Cloud的支持、名為Ceiba的新GPU項目，以及支持生成式AI工作負載的新實例。

英偉達也分享了將NeMo retriver微服務集成到AWS的計劃，以幫助用戶開發聊天機器人等生成式AI工具。NeMo retriver是一種生成式AI微服務，使企業能夠將自定義大型語言模型（LLM）連接到企業數據，以便公司可以根據自己的數據生成適當的AI響應。

AWS還表示，它將成為首家將英偉達GH200 Grace Hopper超級晶片帶入雲端的雲提供商。

結語

AWS re:Invent 2023展示了亞馬遜與關鍵行業趨勢的戰略一致性，特別是人工智慧在塑造雲計算未來方面的關鍵作用。最新的服務和功能反映了AWS為滿足不斷變化的業務需求而做出的一致努力，強調無縫交互、增強的性能和創造性的人工智慧應用程式。

亞馬遜對創新的不懈追求，以及對人工智慧驅動解決方案的關注，突顯了其保持市場領導地位的承諾。通過解決雲計算的各個方面——從先進的晶片技術到交互式聊天機器人和隱私保護服務——AWS正在鞏固其作為一個多功能和前瞻性的雲提供商的聲譽，並準備好駕馭行業的動態格局。

原文標題：AWS re:Invent 2023: 7 takeaways from the big annual event，作者：Anirban Ghoshal

原文標題：7 Big Takeaways From AWS re:Invent 2023