Amazon Bedrock 使客戶更輕鬆快速地建構和擴展安全的生成式 AI 應用程式

• 全新的專有模型導入功能讓客戶更輕鬆地將專屬模型導入到 Amazon Bedrock 中，進而充分利用 Amazon Bedrock 的強大功能。
• 全新的模型評估功能使客戶能夠廣泛且便捷地選擇多樣完全託管模型，包括 RAG 優化的新版 Amazon Titan Embeddings V2 以及來自 Cohere、Meta 的最新模型。
• Amazon Bedrock 的 Guardrails 採用業界領先技術，幫助客戶根據應用需求和負責任的 AI 政策，有效實施客製化的安全措施。
• 數以萬計的客戶和合作夥伴正在使用 Amazon Bedrock 建構和部署生成式 AI 應用程式，包括愛迪達（Adidas）、ADP（美國自動資料處理公司）、Aha!、亞馬遜（Amazon.com）、橋水基金（Bridgewater Associates）、精品酒店集團、科萊恩（Clariant）、美國達美航空（Delta）、電通（Dentsu）、福克斯電影、GoDaddy、Hugging Face、Infor、Intuit、通力（Kone）、KT、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、Netsmart、紐約證券交易所、輝瑞（Pfizer）、PGA錦標賽（PGA TOUR）、Perplexity AI、Ricoh USA、Rocket Mortgage、瑞安航空、Salesforce、西門子（Siemens）、湯森路透集團（Thomson Reuters）、豐田、Tui、美國聯合航空（United Airlines）等。

【台北訊，2024 年 4 月 23 日】Amazon Web Services（AWS）宣布推出 Amazon Bedrock 的全新功能，為客戶提供了更簡單、更快捷、更安全的方法，幫助客戶開發先進的生成式人工智慧（AI）應用。目前，已有成千上萬的用戶選擇將 Amazon Bedrock 作為其生成式 AI 策略的核心基礎。Amazon Bedrock 讓用戶能夠輕鬆導入來自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 以及亞馬遜等公司的領先基礎模型（FMs），同時滿足了開發和部署生成式 AI 應用所需的功能性和企業級安全性需求。Amazon Bedrock 上可用的強大模型均以完全託管服務的方式提供給客戶，因此客戶無需擔心底層基礎設施，這為應用程式的無縫部署、可擴展性和持續優化提供保障。新增的功能允許客戶在 Amazon Bedrock 上運行專屬的完全託管模型，簡化了為特定應用場景選擇最佳模型的過程，並讓生成式 AI 應用程式的保護措施更易於實施，同時還擴展了模型的選擇範圍。如需瞭解更多資訊或使用 Amazon Bedrock，請至：https://aws.amazon.com/tw/bedrock/。

從迅速崛起的新創公司到注重安全的大型企業及政府機構，全球各類組織正透過 Amazon Bedrock 激發創新、提升生產效率並打造全新的用戶體驗。例如，紐約證券交易所（NYSE）利用 Amazon Bedrock 豐富的基礎模型和先進的 AI 生成能力，處理眾多的監管檔案，並將複雜的法規內容轉化為易於理解的語言。歐洲最大的航空公司瑞安航空正透過 Amazon Bedrock 提升服務效率。Amazon Bedrock 能夠幫助機組人員即時查詢特定國家法規的相關資訊，或從數量龐大的手冊中快速擷取關鍵摘要，確保乘客的旅遊順利順暢出行；專注於為社區醫療機構提供電子健康記錄（EHR）解決方案的技術供應商 Netsmart，正在努力減輕醫護工作者在臨床檔案管理上的工作負擔。透過在 Amazon Bedrock 上建構的生成式 AI 自動化工具，他們旨在將個人健康記錄的管理時間減少高達 50%。這將使 Netsmart 客戶加速患者報銷申請的提交過程，同時提升患者所得到的護理體驗。

AWS AI 和資料全球副總裁 Swami Sivasubramanian 表示：「企業應用 Amazon Bedrock 正呈現出爆炸式的增長。成千上萬不同規模，來自不同產業的企業選擇 Amazon Bedrock 作為他們生成式 AI 策略的核心基礎，它極大加速並簡化了企業從試驗階段到實際生產的過程。客戶對 Amazon Bedrock 充滿熱情，因為它不僅提供企業級的安全性和隱私保護，還提供了廣泛的前瞻模型選擇，使得建構生成式 AI 應用變得前所未有的簡單。隨著今天新功能的推出，我們將繼續快速創新，以為我們的客戶提供更豐富的功能和業界領先的模型，並進一步推動生成式 AI 的大規模普及。」

在 Amazon Bedrock 上，來自醫療保健與金融服務等產業的客戶不僅可以輕鬆使用 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和亞馬遜的多種領先的基礎模型，還能利用自身資料客製化公開模型，以支援特定產業的應用。當企業需要用自有資料建構這些模型時，他們通常仰賴模型訓練服務如 Amazon SageMaker，以從頭開始訓練模型或對現有的公開模型如 Llama、Mistral 和 Flan-T5 進行進階客製化。自 2017 年推出以來，Amazon SageMaker 已成為建構和訓練世界級基礎模型的平台，其中包括超大參數量的公開模型 Falcon 180。同時，客戶還希望能夠將他們自己的客製化模型與 Amazon Bedrock 內建的高級生成式 AI 工具結合，如知識庫、Guardrails、代理（Agents）和模型評估等，而無需自行開發這些功能。

借助全新的 Amazon Bedrock 專有模型導入功能，企業現在能夠將自己的客製化模型導入到 Amazon Bedrock 中，以完全託管的應用程式開發介面（API）形式使用，這種方式為建構生成式 AI 應用程式帶來前所未有的體驗。只需點擊幾下，客戶即可將他們使用 Amazon SageMaker 或其他工具開發的模型整合到 Amazon Bedrock 平台上。模型透過自動化驗證流程後，客戶便可像使用平台上其他模型一樣使用自己的客製化模型，同時享受目前 Amazon Bedrock 所具備的所有優勢，包括無縫的可擴展性、強大的保護能力、遵循負責任的 AI 原則、利用檢索增強生成（RAG）擴充模型知識庫、輕鬆打造用於完成多步驟任務的代理（Agents）、進行微調以持續訓練和優化模型，且無需管理底層基礎設施。這一新功能讓企業能夠輕鬆地透過同一 API 使用 Amazon Bedrock 的模型與自己的客製化模型，Amazon Bedrock 專有模型導入功能現已推出預覽版，並支援三種最受歡迎的開放模型架構：Flan-T5、Llama 和 Mistral，並計畫未來支援更多模型。

Amazon Bedrock 提供了最廣泛的業界領先的模型選擇，滿足企業在價格、效能或功能方面的各種需求，並允許企業獨佔或與其他企業共享模型。建構生成式 AI 應用程式的關鍵步驟是找到合適的模型，而選擇特定應用場景的最佳模型則需要客戶在準確性和效能之間達成微妙的平衡。現在，企業還需要花費大量時間分析每個新模型可以如何滿足他們的應用場景，這放慢了他們向用戶提供生成式 AI 體驗的速度。今天起，模型評估功能已正式可用，它是企業快速分析和比較 Amazon Bedrock 上模型的最快方式，讓評估模型的時間從幾個星期縮短到幾個小時，進而加速推出新的應用程式並改善使用者體驗。客戶可以立即開始評估，透過選擇預定義的評估標準（例如準確性和穩健性）並上傳自有資料庫或提示庫，或者從內建的、公開可用的資源中進行選擇。對於主觀標準或需要細緻判斷的內容，Amazon Bedrock 使客戶能夠輕鬆將人工審核融入到工作流程中，以根據特定應用場景的指標（如相關性、風格和品牌聲量）對模型進行評估。一旦設定完成，Amazon Bedrock 將執行評估並生成報告，使客戶能夠輕鬆瞭解模型在關鍵指標上的表現，並迅速選擇最適合其應用場景的模型。

企業需要以安全、可信任和負責任的方式使用生成式 AI。許多模型使用內建控制來過濾不良和有害內容，但大多數客戶希望進一步客製化他們的生成式 AI 應用程式，以確保生成結果更具相關性，在符合公司政策的同時遵循負責任的 AI 原則。現在，Amazon Bedrock 的 Guardrails 功能已正式可用，它在基礎模型的原有功能之上提供了業界領先的安全保護，能夠幫助客戶阻止高達 85% 的有害內容。Guardrails 是唯一一項由頂級雲端服務供應商提供的解決方案，它允許客戶在單一服務中同時擁有內建和客製化的防護機制，並可與 Amazon Bedrock 中的所有大型語言模型（LLMs）以及經過微調的模型一起使用。要打造一個 Guardrail，客戶只需提供一個自然語言描述來定義其應用程式上下文中不予顯示的主題即可。此外，客戶還可以設定閾值以過濾仇恨言論、侮辱、性相關用語、攻擊和暴力性等內容，並設定篩檢程式來移除個人訊息和敏感資訊、不當言論或過濾特定詞彙。透過為生成式 AI 應用程式提供一致的使用者體驗和標準化的安全和隱私控制，Amazon Bedrock Guardrails 使客戶能夠快速且安全地進行創新。

Amazon Bedrock 專屬的 Amazon Titan 模型是由 AWS 在大規模且多樣化的資料庫上打造和預訓練而成的，專為多種應用場景設計，並內建負責任的 AI 功能。Amazon Bedrock 不斷擴展 Amazon Titan 系列，為客戶提供更多選擇和靈活性。Amazon Titan Text Embeddings V2 針對使用 RAG 的應用場景進行了優化，非常適合如資訊搜尋、問答聊天機器人和客製化推薦等用途。許多企業採用 RAG 技術，這種流行的模型客製化技術透過連接到知識源頭以增強基礎模型的生成結果。然而，運行這些操作可能會消耗大量運算和儲存資源。即將推出的新版 Amazon Titan Text Embeddings V2 模型降低了儲存和運算成本，同時提高了準確性。透過為客戶提供靈活的嵌入（embeddings）功能，將儲存需求降低至原來的四分之一，顯著降低了營運成本，同時在 RAG 應用場景中保持 97% 的準確性，表現優於其他領先模型。

Amazon Titan Image Generator 現已正式可用，為廣告、電子商務、媒體和娛樂等產業客戶提供了一種低成本的方式來生成專業級別的圖像，或對現有圖像進行優化和編輯，僅憑自然語言提示即可實現。Amazon Titan Image Generator 還為生成的所有圖像設計隱形浮水印，以幫助識別 AI 生成的圖像，進而推動 AI 技術的安全、可靠和透明發展，並有助於減少虛假資訊的傳播。同時，Amazon Titan Image Generator 還可以檢查圖片中是否存在浮水印，並幫助客戶確認圖片是否由其生成。

同時，Amazon Bedrock 上的 Meta Llama 3 基礎模型已正式可用，Cohere 的 Command R 和 Command R+ 模型也即將推出。Llama 3 專為開發者、研究人員和企業設計，旨在支持他們建構、試驗並負責任地擴展生成式 AI 專案。Llama 3 模型是一系列經過預訓練及微調的大型語言模型，適用於廣泛的應用場景，特別擅長執行文本摘要和分類、情感分析、語言翻譯及程式碼生成等任務。而 Cohere 的 Command R 和 Command R+ 模型則是前瞻的基礎模型，客戶能夠基於此建構支援 10 種語言、具備先進 RAG 功能的企業級生成式 AI 應用，助力全球業務拓展。

亞馬遜打造的 Rufus 是一款以生成式 AI 為核心的專業購物助手，它是基於公司龐大的產品目錄、客戶建議、社群問答以及互聯網資訊進行訓練。Rufus 能夠解答客戶的購物疑問、提供產品比較，並根據對話情境進行推薦。亞馬遜商店 Foundational AI 副總裁兼傑出科學家 Trishul Chilimbi 表示：「為了在亞馬遜商店中提供卓越的對話式購物體驗，我們致力於為 Rufus 開發先進的模型，並期待它為客戶帶來超乎預期的價值。透過利用 Amazon Bedrock 的客製化模型導入功能，我們能夠將 Rufus 先進的底層模型提供給內部開發人員，以完全託管的 API 形式使用它。現在，從物流到工作室的各個業務團隊都可以使用這個模型來建構自己的應用，而 Amazon Bedrock 則簡化了開發流程，幫助所有亞馬遜客戶快速開發新體驗。」

電通（Dentsu）是全球領先的綜合行銷和技術服務提供者之一。電通創意全球技術總監 James Thomas 表示：「在過去的三個月裡，我們利用 Amazon Titan Image Generator 模型的預覽版，透過自然語言提示創造了大量擬真的工作室級圖像，主要用於產品推廣和一致的品牌標誌生成。我們的創意團隊對 Titan Image Generator 生成的多樣化內容感到印象深刻，這些內容幫助我們為全球廣告活動創造了引人注目的圖像。我們期待體驗該模型新推出的浮水印檢測功能，這將提升 AI 生成內容的透明度，並幫助我們與客戶建立更牢固的信任關係。」

Salesforce 是全球 AI 客戶關係管理（CRM）領域的領導者，其「CRM+ 資料 +AI+ 信任」的組合為企業提供了強大的客戶連結。Salesforce AI 產品資深副總裁 Kaushal Kurapati 表示：「AI 是我們承諾幫助客戶在 Salesforce 應用中提供客製化體驗的核心，這些應用都建立在 Data Cloud 的資料之上。為了在我們的統一資料平台上實施生成式 AI，我們正在評估各種基礎模型，確保所選模型最符合客戶的需求。Amazon Bedrock 是我們開放生態系統模型策略的關鍵部分，這項新的模型評估功能提供自動化與人工評估兩種方式，加速了我們比較和選擇模型的過程。現在，我們不僅可以基於直觀標準評估模型，還能從友好性、風格和品牌相關性等更多質性標準進行評估。這種能力的提升將使我們為客戶營運模型變得更加簡單和迅速。」