AWS 宣布推出七項生成式 AI 創新功能

【台北訊，2023 年 7 月 27 日】亞馬遜旗下 Amazon Web Services（AWS）近日在紐約高峰會上宣布推出七項生成式 AI 新功能，包括 Amazon Bedrock 新增基礎模型供應商 Cohere 和全新基礎模型，以及全新代理（Agents）功能；Amazon EC2 P5 執行個體正式可用，加速生成式 AI 和高效能運算應用；Amazon OpenSearch Serverless 支援全新向量引擎；編寫程式碼助手 Amazon CodeWhisperer 與 Amazon Glue 實現整合；Amazon QuickSight 新增生成式 BI（Business intelligence）功能；幫助企業提升資料品質的分析服務 AWS Entity Resolution 正式可用；以及助力提升醫療產業生產效率的智慧醫療新服務 AWS HealthScribe 等。

AWS 此次發布的多項生成式 AI 新功能，進一步降低了生成式 AI 的使用門檻，讓無論是業務用戶還是開發者都能從中受益。借助這些新功能，來自各行各業的企業都能更專注於核心業務，提高生產效率，充分釋放資料價值和生成式 AI 的潛力。

AWS 宣布全面擴展其全託管基礎模型服務 Amazon Bedrock，包括新增 Cohere 作為基礎模型供應商，加入 Anthropic 和 Stability AI 的最新基礎模型，並發布變革性的新功能 Amazon Bedrock 代理 （Agents）。

Cohere 致力於開發領先的企業 AI 平台和前瞻基礎模型，其基礎模型可以更直觀地生成、檢索和匯總訊息。Anthropic 是一家關注 AI 安全的研究型公司，打造可信賴、可解釋和可掌控的 AI 系統。Anthropic 已經將其最新的語言模型 Claude 2 提供至 Amazon Bedrock。Stability AI 是一家社區驅動的開放式AI公司，提供可透過簡單文本指令建立文本、圖像、音樂、影片、程式碼等的基礎模型。 Stability AI 將在 Amazon Bedrock 上發布其最新版文生圖模型包 Stable Diffusion XL 1.0（SDXL 1.0）。

Amazon Bedrock 代理功能將助力開發者輕鬆建立全託管的人工智慧代理（AI Agents），還可幫助企業加速交付生成式 AI 應用程式，這些應用程式可以透過對公司系統進行 API 調用來管理和執行任務。Amazon Bedrock 代理功能同時還可以擴展基礎模型以理解使用者需求，將複雜任務分解為多個步驟，延續對話以收集更多訊息，並採取行動以滿足使用者需求。借助 Amazon Bedrock 代理功能，使用者可以為內部或外部客戶自動執行任務，如管理零售訂單或處理保險索賠。有了代理功能，服務電商的生成式 AI 應用程式不僅能回答簡單問題（「如有藍色夾克嗎？」），還能幫助用戶完成複雜任務（如更新訂單或管理交易）。

AWS 宣布 Amazon Elastic Compute Cloud（Amazon EC2）P5 執行個體正式可用。這是一款下世代 GPU 執行個體，可以滿足客戶在運行人工智慧、機器學習和高效能運算工作負載時對高效能和高擴展性的需求。該執行個體由最新的 NVIDIA H100 Tensor Core GPU 提供支持，與上一代基於 GPU 的執行個體相比，訓練時間最多可縮短6倍（從幾天縮短到幾小時）。這一效能提升將幫助客戶降低高達 40% 的培訓成本。

Amazon EC2 P5 執行個體提供 8 個 NVIDIA H100 Tensor Core GPU，具有 640 GB 高頻寬GPU 記憶體，同時提供第三代 AMD EPYC 處理器、2TB 系統記憶體和 30 TB 本地 NVMe儲存。Amazon EC2 P5 執行個體還提供 3200 Gbps 的聚合網路頻寬並支持 GPUDirect RDMA，從而能夠繞過 CPU 進行節點間通訊，實現更低的延遲和高效的橫向擴展效能。

AWS 宣布推出適用於 Amazon OpenSearch Serverless 的向量引擎。正式可用後，該向量引擎支持簡單的 API 調用，可用於儲存和查詢數十億個嵌入（embeddings）。未來，所有 AWS 的資料庫都將具有向量功能，幫助客戶簡化營運，方便整合資料。

嵌入應存儲在靠近來源資料的位置，一系列因素都將影響企業如何選擇最適合自己的選項，這些因素包括目前資料存儲位置、對資料庫技術的熟悉程度、向量維度的擴展、嵌入的數量和效能需求等。因此，AWS 還提供以下選項滿足更高級的向量資料儲存需求：
• Amazon Aurora PostgreSQL 兼容版關係型資料庫，支持 pgvector 開源向量相似性搜尋外掛。
• 分佈式搜尋和分析服務 Amazon OpenSearch，帶有 k-NN（k最近鄰）外掛和適用於Amazon OpenSearch Serverless 的向量引擎。
• 兼容 PostgreSQL 的 Amazon RDS（Amazon Relational Database Service）關係型資料庫，支持 pgvector 外掛。

AWS 宣布了 Amazon CodeWhisperer 正式可用。這是一款AI編寫程式碼助手，能夠使用底層基礎模型幫助開發人員提高工作效率。它可以根據開發人員使用自然語言留下的註釋和 IDE（整合開發環境）中的歷史程式碼即時生成程式碼建議。此外，AWS 還發布了 Amazon CodeWhisperer Jupyter 擴展程式，為 Jupyter 用戶在 Jupyter Lab 和 Amazon SageMaker Studio 中的 Python notebooks 生成即時、單行或完整的函數程式碼建議。

現在，AWS 正式宣布 Amazon Glue Studio notebooks 支持 Amazon CodeWhisperer，幫助 Amazon Glue 用戶優化使用體驗、提高開發效率。透過 Amazon Glue Studio notebooks，開發人員可以用自然語言（英語）編寫特定任務，比如「利用 json 文件中的內容建立一個 Spark DataFram」。基於此訊息，Amazon CodeWhisperer 會直接在notebooks 中推薦一個或多個可完成此任務的程式碼片段。開發人員可以選擇「接受最推薦的建議」，「查看更多建議」或「繼續自己編寫程式碼」。

AWS 宣布，正在將 Amazon Bedrock 提供的大語言模型能力與支持自然語言問答的 Amazon QuickSight Q 相結合，以期在 Amazon QuickSight 中提供生成式 BI 功能。該功能很快將在 Amazon QuickSight 上線，幫助企業輕鬆尋找資料、發現並分享洞察。

借助 Amazon QuickSight 中新增的生成式 BI 功能，業務分析師能夠使用自然語言輕鬆執行日常任務，包括：
• 基於 Amazon QuickSight Q 全新的視覺創作體驗功能，在幾秒鐘內建立資料可視化圖表；
• 使用自然語言微調和格式化圖表效果；
• 無需學習特定語法，透過自然語言即可建立運算任務。

針對使用儀錶板並需要與之進行交流的業務用戶，AWS 還發布了 Stories 功能，助力業務用戶使用生成式 BI 的強大能力，透過自然語言提示來生成、客製化和共享極具訊息量的可視化圖表。

AWS 宣布 Amazon Entity Resolution 正式可用。這是一項由機器學習提供支持的分析服務，可以幫助企業輕鬆分析、匹配和連結相關記錄，這些記錄可能散布在應用程式、不同的資料獲得管道和資料儲存中。Amazon Entity Resolution 利用基於規則和機器學習的技術自定義工作流程，並以此匯整消費者、業務和產品訊息。業務分析師和開發人員可以透過內建的預配置工作流程快速提高資料準確度，或者透過自定義工作流程來滿足企業需求。借助 Amazon Entity Resolution，企業可以更好地了解資料的關聯、匹配和連結情況，同時深入挖掘客戶洞察與更清楚的供應鏈資料，從而改善營運能力、展開更多有效行銷、做好複雜金融投資決策。AWS 宣布計畫增加兩個 Amazon Entity Resolution 的合作夥伴 LiveRamp 和T ransUnion，同時增強與 Unified ID 2.0 開源框架的互操作性。透過這些整合功能，客戶將能更輕鬆地翻譯或豐富自己的紀錄，同時更好地保護訊息並減少資料移動。

AWS 宣布推出 Amazon HealthScribe，這是一項符合 HIPAA（《健康保險責任與保護法》）要求的新服務，能夠幫助醫療軟體供應商打造臨床應用程式。這些應用程式使用文本識別和生成式 AI 技術生成臨床文檔，節省醫生時間。借助 Amazon HealthScribe，醫療軟體供應商可以利用單一個 API 自動建立可靠的記錄、淬鍊出關鍵訊息（例如醫學術語和藥物），並根據醫病對話建立摘要，然後將這些資料輸入到電子健康紀錄（EHR）系統。Amazon HealthScribe 由 Amazon Bedrock 提供支援，使醫療軟體供應商能夠更快、更輕鬆地將生成式 AI 功能整合到其應用程式中。在普通醫學和骨科這兩個常見專科，醫療軟體供應商已經開始使用 Amazon HealthScribe，它們不再需要管理底層機器學習基礎設施或訓練自己的醫療專屬大語言模型（LLM）。