AWS re:Invent 2023 re:Cap雲端科技發表會台灣站 領先技術與服務全面加速生成式AI應用與創新

【台北訊，2024年1月11日】Amazon Web Services（AWS）日前在2023 re:Invent全球盛會重磅發布超過188項創新服務，遍布企業級生成式AI、資料分析、雲端核心基礎架構等前瞻領域。今日AWS re:Invent 2023 re:Cap雲端科技發表會台灣站邀請到AWS技術長Olivier Klein蒞臨台灣，與AWS台灣暨香港專業解決方案架構師總監楊仲豪一同剖析AWS發布的新服務，以及AWS如何以前瞻生成式AI技術重塑工作方式，幫助客戶加速創新，並助力台灣企業在科技革命中穩固立足。作為AWS技術領先的合作夥伴，中華電信資訊技術分公司副總經理林仲鑠也親臨現場，分享如何運用AWS的生成式AI打造創新應用，提升員工效率並激發創造力。

AWS技術長Olivier Klein表示：「作為全球雲端運算的開創者和領導者，AWS每年在re:Invent全球盛會上都會發布眾多新服務、新功能和新應用。AWS在基礎設施、運算、儲存、資料等領域持續重塑雲端運算的可能性，並推出革新的生成式AI新服務及功能。透過這些技術創新，AWS將幫助更多企業加快創新速度，利用生成式AI帶來變革、重塑未來。」

1. 推出Amazon Q，重塑未來工作方式：Amazon Q能連接企業業務資料和系統，讓客戶打造服務自己業務的生成式AI助理，快速提供複雜問題的答案、生成內容並採取行動，幫助開發者和IT人員在AWS上建構、部署和維護應用程式與工作負載。無論是在AWS上建構、使用內部資料和系統，還是使用AWS應用程式實現商業智慧（BI）、客服中心和供應鏈管理，Amazon Q都是良好的生成式AI助理，能夠幫助各個產業、各種規模的企業安全地使用生成式AI。
2. Amazon Bedrock發布更多模型選擇和新功能，助力安全建構和規模化生成式AI應用：AWS幫助客戶快速建構模型、增加生產力，讓產品更快上市，同時兼顧了安全性。例如，Amazon Bedrock提供精選的業界領先模型，其中包括Anthropic的模型。有約一半的財富500強企業在使用或測試Anthropic的基礎模型Claude，而新發布的Claude2.1能夠減少近兩倍的幻覺發生率。此外，Amazon
   Bedrock新推出的模型評估功能可透過自動與人工結合的方式評估模型準確性、穩定性和是否含有有害內容，也支援自訂指標。
3. 推出五項Amazon SageMaker新功能，助力規模化開發應用模型：AWS推出新的SageMaker Clarify功能，可以讓客戶在負責任地使用AI的基礎上，根據品質參數更輕鬆地選擇正確模型。為了幫助客戶在企業內部應用這些模型，AWS還在Amazon SageMaker Canvas中導入了新的無程式碼功能，讓客戶更快、更容易地使用自然語言指令準備資料。同時，Amazon SageMaker Canvas繼續普及模型建構和訂製，讓客戶更輕鬆地使用模型萃取洞察、進行預測和使用企業自有資料生成內容，幫助客戶實現規模化的機器學習創新。

1. 進一步豐富向量資料庫選擇，確保業務資料和向量資料同步支援生成式AI：AWS持續豐富向量資料庫選擇，確保業務資料和向量資料同步支援生成式AI。AWS推出了Amazon OpenSearch Serverless向量引擎、Amazon DocumentDB和Amazon DynamoDB的新向量搜尋功能、Amazon Memory DB for Redis向量搜尋預覽版，不斷提升生成式AI的速度與準確度。
2. 推出四項零ETL整合功能，讓跨資料儲存的存取與分析更快速、更便捷：AWS推出四項零ETL（Extract萃取、Transform轉置、Load載入）整合功能，讓資料的取用與分析更快速、更便利。透過全新的Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon Relational Database Service（Amazon RDS）for MySQL與Amazon Redshift的零ETL整合功能，讓Amazon Redshift中連接和分析多個資料庫變得更加容易。此外，客戶現在還可以使用Amazon OpenSearch Service對Amazon DynamoDB資料進行近乎即時的全文和向量搜索。無論資料儲存在何處，零ETL整合功能都能簡化資料連接和操作流程，使客戶靈活地利用AWS廣泛而領先的資料庫和分析服務，在挖掘新洞察的同時，加速實現創新，並透過資料驅動更明智的決策。
3. 在資料治理方面，AWS推出Amazon DataZone的AI描述建議功能預覽版：此新功能可以為企業的資料庫自動生成更易理解的業務描述，並提供該資料庫的使用建議。AWS還推出了AWS Clean Rooms ML預覽版，幫助企業及合作夥伴在整合資料上應用機器學習模型，而無需相互複製或共用原始資料，並推出了第一個專門為公司行銷打造的相似細分市場模型。

1. Graviton4晶片：與前一代Graviton3處理器相比，Graviton4效能提升高達30%，獨立核心增加50%以上，記憶體頻寬提升75%以上，為在Amazon Elastic Compute Cloud（Amazon EC2）上運行的工作負載提供最佳效能。Amazon EC2 R8g記憶體優化執行個體將採用最新的Graviton4，提升客戶運行高效能資料庫、記憶體緩存、大數據分析等工作負載的效率。
2. Trainium2晶片：專為以高效能訓練具有數萬億個參數的基礎模型和大型語言模型打造的Trainium2與第一代Trainium晶片相比，效能提升多達4倍，記憶體提升3倍，能源效率（每瓦效能）提升多達2倍。Amazon EC2 Trn2執行個體採用最新的Trainium2，一個單獨執行個體包含16個Trainium加速晶片。Trainium2執行個體致力於為客戶在新一代EC2 UltraClusters中擴展多達100,000個Trainium2加速晶片，並與AWS Elastic Fabric Adapter（EFA）PB級網路互連，提供的產能高達65 exaflops，客戶可按需獲得超級運算級別的效能。
3. Amazon S3 Express One Zone正式可用：與Amazon S3 Standard相比，Amazon S3 Express One Zone資料存取速度提高至多10倍，資料請求成本降低50%，為機器學習訓練和推論、互動式分析以及媒體內容創作等密集型工作負載提供最高效能儲存。
4. 三項無伺服器服務創新：AWS致力於幫助客戶在任意規模分析和管理資料，並大幅簡化營運，而無需花費時間和精力去配置、管理和擴充基礎設施。Amazon Aurora Limitless資料庫可跨多個Amazon Aurora Serverless執行個體自動分配和查詢資料，並能夠擴充到每秒百萬次的寫入並管理PB級數據。Amazon ElastiCache Serverless可以幫助客戶在一分鐘內創造高可用的緩存，並即時進行垂直和水平擴充，以支援客戶複雜的應用程式，且無需管理基礎架構。Amazon Redshift Serverless則使用人工智慧預測工作負載，並自動擴充和優化資源，幫助客戶實現高性價比的目標。
   

中華電信本次亦前往美國拉斯維加斯參加2023 re:Invent全球盛會，發表運用AWS生成式AI服務打造的創新應用。今日也到場分享與AWS的深度合作，包含藉助Amazon Bedrock作為虛擬英文老師的大腦技術的「打造虛擬英語教師」，以及藉由Amazon SageMaker建立專屬AI系統，提升工作效率的｢生成軟體開發生命週期（SDLC）的規格文件｣、｢個性化行銷文案助理｣，並表示雙方將合作擴展不同產業和市場的應用，持續協助企業客戶應用雲端技術達成數位轉型。