AWS re:Invent 2024 最新技術完整整理

AWS 雲端年會（AWS re:Invent 2024）於台灣時間 4 日凌晨正式開幕。AWS 執行長 Matt Garman 在開幕演說中強調，AI 技術將不斷發展，並沒有終點線，它將深刻影響並改變各行各業的運作方式。此次大會也發表了眾多與 AI 相關的創新產品，展示了 AWS 在推動人工智慧領域發展的強大實力與遠見。 

一、生成式 AI 模型 

AWS 專為機器學習(ML)訓練工作設計的 AWS Trainium2，特別適合深度學習和 AI 模型訓練方面的需求，今年 AWS 更宣布由 AWS Trainium2 驅動的 Amazon Elastic Compute Cloud (Amazon EC2) 執行個體現已正式推出，此為專為生成 AI 模型（包括大型語言模型（LLM）和潛在擴散模型）進行高效能深度學習（DL）訓練而設計，比現有 GPU 效能提升 30-40 %。 

全新推出最大型運算模型 Trn2 UltraServers 

Trn2 UltraServers 是一款全新 EC2 產品，它將四個 Trn2 伺服器連接成一個大型伺服器，並支援最多 64 顆 Trainium2 晶片來擴展生成 AI 工作負載，能幫助用戶突破單一 Trn2 執行個體的計算限制，縮短訓練時間並加速模型迭代。 
 

AWS 同時發布了下一代 AI 晶片 Trainium3，性能預計是 Trn2 UltraServers 的 4 倍，首批 Trainium3 預計於 2025 年底推出。 

Apple 利用 AWS 加速 AI 訓練 

去年大會找來 NVIDIA 執行長黃仁勳站台，此次 AWS 則找來 Apple 替自研晶片宣傳，蘋果機器學習與 AI 高級總監 Benoit Dupin 表示已經採用 AWS 的 Inferentia 和 Graviton 晶片來支援搜尋服務，並表示這些晶片帶來 40%的效能提升，以後更有望將用最新的 AI 晶片訓練下一代智能服務 Apple Intelligence！ 

圖／AWS 執行長 Matt Garman。（翻攝自AWS）

二、AI 大數據資料處理 

大數據時代的來臨，資料的儲存與管理方式正面臨前所未有的挑戰與變革。企業需要處理大量且多樣化的資料格式，儲存技術的創新變得至關重要。 

S3 新功能消除用戶資料複雜性 

為了應對這些挑戰，AWS 宣布了 Amazon S3 兩大新功能： 
 

• 引入完全託管的 Apache Iceberg 支援：Amazon S3 為首個完全支援 Apache Iceberg 的雲端資料儲存服務，提供簡化表格資料儲存與管理，可簡化數據湖中的大規模資料處理，減少用戶的負擔。 

• Amazon S3 Tables ：比一般 S3 儲存桶 (bucket) 提供快 3 倍的查詢性能，且提供自動管理表格維護功能，優化查詢效率和儲存成本，並支援表格層級的訪問控制，讓客戶自定義權限， Amazon S3 Tables 現已全面上市。 

Amazon Aurora & Amazon DynamoDB：全新資料庫功能 

Amazon Aurora 和 Amazon DynamoDB 推出全新功能，以滿足多區域、低延遲、高可用性的工作負載需求，助力企業更高效處理全球資料運營。這些功能適用於不同類型的資料庫，包括使用 SQL 關聯式資料庫以及 NoSQL 非關聯型資料庫。 

• Amazon Aurora DSQL： Amazon Aurora DSQL 是一款無伺服器的分散式 SQL 資料庫，提供 99.999% 多區域高可用性、支援 PostgreSQL 相容性，並具備比其他分散式 SQL 資料庫快四倍的讀寫速度。它突破了多區域低延遲一致性和全球微秒級同步的難題，讓用戶能輕鬆打造全球分散、高效能的應用程式，且完全不需管理基礎設施。 

• 強化 Amazon DynamoDB 全球資料表：AWS 進一步升級全球資料表功能，新增強一致性選項，無需基礎設施管理的便利，且不需修改任何應用程式程式碼確保多區域應用程式隨時讀取最新資料，以及無限的擴展性。 

三、AI 服務全面升級 

圖／全新生成式 AI 模型： Amazon Nova。（翻攝自AWS）

全新生成式 AI 模型： Amazon Nova 

亞馬遜執行長 Andy Jassy 親自宣布這套名為「 Amazon Nova 」的新模型，用戶可以使用 Amazon Nova 驅動的生成式 AI 應用程式來產出文字、圖片與影片等多種體內容。 

全新 Amazon Nova 模型包括：  

• Amazon Nova Micro：低延遲和低成本的文字模型。 

• Amazon Nova Lite：低成本的多模態模型，支援文字、圖片、影片。 

• Amazon Nova Pro：高效能多模態模型，兼具準確性、速度與成本效益。 

• Amazon Nova Premier：Amazon 最強大的多模態模型，適合處理複雜的推理任務，將於 2025 年推出。 

• Amazon Nova Canvas：尖端圖片生成模型。 

• Amazon Nova Reel：最新影片生成模型。 

全新 Amazon Q Developer 功能加速舊系統的大規模轉型 

Amazon Q Developer 推出全新功能，這款生成式 AI 助理專為軟體開發設計，可大幅簡化應用程式遷移和現代化轉型的繁瑣工作。 
 

新功能將幫助用戶： 

• Windows .NET 應用程式轉移至 Linux ：遷移速度提升 4 倍，同時降低高達 40% 的授權成本。 

• VMware 工作負載轉型：縮短將本地端網路配置轉換為 AWS 架構的時間，從幾週縮短至數小時完成。 

• 加速大型主機現代化：簡化程式碼分析、規劃及應用程式重構等繁瑣流程。 

開發人員如何使用 Amazon Q Developer 重構生成式 AI  

Amazon Q Developer 的新增功能，可視為生成式 AI 得利助手，可以協助開發人員專為運用 AI 驅動軟體開發。 
 

以下是 Amazon Q Developer 新增的幾項功能： 

• 加速單元測試：自動識別並生成測試，幫助開發人員更快地進行測試覆蓋，減少繁瑣工作並提升程式碼可靠性。 

• 自動化文檔：自動生成並更新準確的項目文檔，幫助開發人員維持項目的詳細信息，讓團隊更有效地合作。 

• 自動化程式碼審查：快速提供程式碼審查反應，幫助開發人員更早發現並解決程式碼品質問題，提升程式碼質量。 

• 快速解決運營問題：利用 AWS 資源的專業大量知識庫，幫助開發人員和運營團隊快速調查並解決生產環境中的問題，減少中斷時間。 

Amazon Q Business 優化工作模式 

AWS 宣布了 Amazon Q Business 的全新功能，旨在幫助企業提升工作效率並加速決策過程。 

主要包括以下幾項： 

• 統一資料來源與分析：整合來自 Amazon Q Business 和 QuickSight 的資料來源，讓員工能跨越結構化和非結構化數據（如文件、維基、電子郵件等）快速獲取洞察，並加速決策過程。 
   

• 跨應用搜尋：可透過單一 API 與 獨立軟體供應商（ISVs）整合，利用跨應用的搜尋來提升生成式 AI 體驗，並運用權限保持資料安全。 
   

• 超過 50 個新操作：Amazon Q 讓用戶能在常用的第三方應用中執行任務，如 Google Workspace、Microsoft 365、Smartsheet 等，從而簡化工作流程。 
   

• 複雜工作流程的自動化：生成式 AI 代理來自動化更複雜的工作流程，例如處理發票、管理工單和員工入職等，幫助更高效地完成工作。 

新一代Amazon SageMaker  
 

• 統一整合平台：Amazon SageMaker 為用戶提供統一的平台，包含整合資料、分析、機器學習（ML）、生成式人工智能（AI）等能力，簡化了資料的管理與操作，大幅加速了機器訓練的過程。 
   

• Amazon SageMaker 目錄：提供資料、模型和開發資源的管理與安全控制，幫助企業滿足資安需求。支援跨模型、工具和資料來源的權限管理，並確保 AI 應用的安全性與合規性。 

• SageMaker Lakehouse：將來自 Amazon S3、資料湖等多個資料來源整合在一起，消除資料孤島，讓客戶可以輕鬆使用自己選擇的分析和機器學習工具，提升資料處理的效率。 

• Zero-ETL應用：新的 Zero-ETL 的 SaaS 應用整合使客戶能夠輕鬆地從如 Zendesk 和 SAP 等應用中，通過 SageMaker Lakehouse 和 Redshift 進行分析和 AI，省去了建設資料管道的需求，這些資料管道通常建設費用高昂、管理複雜，且容易出現錯誤，可能延遲即時洞察的獲取。 

四、 AI 應用場域 

 

圖／ Amazon Connect 新增了生成式 AI 功能。（翻攝自AWS）

客服系統解決方案： Amazon Connect 新增了生成式 AI 功能，這些新功能將進一步改善客戶體驗，提供更具個人化、效率與主動性的客戶服務： 
 

• 自動化分群：用戶現在可以對受眾進行分群，針對不同群體提供個性化且及時的溝通。 
   

• 可自行定義的 AI 防護框架： Amazon Q 在 Connect 中新增了一項功能，讓企業能夠自定義規則來控制 AI 生成的內容。企業可確保在遵守規定和保護客戶隱私的情況下，放心地使用生成式 AI 來提升聯絡中心服務。 
   

• 生成式 AI 驅動的洞察，賦能聯絡中心經理：新的 AI 工具能幫助聯絡中心經理快速識別客戶反饋中的關鍵趨勢，並發現需要訓練的代理領域。這些功能讓經理可以輕鬆掌握績效變化，提升員工訓練，並改善整體服務質量。 

AWS re:Invent 2024 今年推出的眾多新服務皆集中於 AI 領域，展現了 AWS 在人工智慧技術上的領先地位。CKmates 將持續為您帶來最新的技術動態，並提供深入的解讀。欲詳細了解以上 AWS 新服務運用，或是業務相關合作，歡迎與我們聯繫。