挑選適當的 AI 和 ML 服務、架構和基礎模型來支援您的工作
簡介
究其本質，機器學習 (ML) 旨在提供各種數位工具和服務，以從資料中學習、識別模式、做出預測，然後根據這些預測採取動作。當今幾乎所有人工智慧 (AI) 系統都是採用 ML 建立。ML 使用大量資料來建立和驗證決策邏輯。這種決策邏輯構成了 AI「模型」的基礎。
機器學習其中一個快速發展的子集是生成式 AI，它由大型模型提供支援，這些模型在大量資料集基礎上預先訓練，通常稱為基礎模型 (FM)。以生成式 AI 為基礎的 AWS 服務包括：
- Amazon Bedrock (為您提供使用 FM 建置和擴展以生成式 AI 為基礎的應用程式的方法)
- Amazon CodeWhisperer (AI 編碼輔助工具，可根據您使用自然語言的註解以及整合式開發環境中任何先前的程式碼來即時產生程式碼建議)
本決策指南將協助您提出正確的問題，評估您的標準和商業問題，並確定哪些服務最適合您的需求。
在不到兩分鐘的時間內，Amazon 技術長 Werner Vogels 博士闡述了生成式 AI 的運作方式，以及您可以如何進行使用。本影片剪輯自Vogels 博士與 AWS 資料庫、分析和 ML 副總裁 Swami Sivasubramanian 之間開展的一次長時間討論，內容涉及生成式 AI 的廣泛環境、為何它並非炒作，以及 AWS 如何將大型語言和基礎模型的存取實現大眾化。
閱讀時間
25 分鐘
作用
協助確定哪些 AWS ML 服務最適合您的需求。
等級
初階
上次更新日期
2023 年 7 月 26 日
涵蓋的服務
了解
此外，AWS 還提供以下專業的加速硬體，用於高效能 ML 訓練和推論。
- Amazon EC2 P4d 執行個體配備 NVIDIA A100 Tensor Core GPU，非常適合機器學習中的訓練和推論任務。AWS Trainium 是 AWS 為 100B 以上參數模型的 DL 訓練專門打造的第二代 ML 加速器。
- 以 AWS Inferentia2 為基礎的 Amazon EC2 Inf2 執行個體旨在以最低成本，在 Amazon EC2 中為您的 DL 推論及生成式 AI 應用程式提供高效能。
考慮
使用 AWS ML 服務解決商業問題時，對若干關鍵條件的考量可協助確保成功。下一節概述選擇 ML 服務時要考量的一些關鍵條件。
-
問題定義 -
ML 演算法
-
安全
-
延遲
-
準確性
-
AWS 與負責任的 AI
-
ML 生命週期的第一步是界定商業問題。了解您正在嘗試解決的問題對於選擇合適的 AWS ML 服務至關重要，因為不同的服務旨在解決不同的問題。確定 ML 是否最適合您的商業問題也很重要。
確定 ML 是最適合的解決方案後，您可以從一系列專門打造的 AWS AI 服務中進行選擇 (例如語音、視覺和文件等領域)。
如果您需要建置和訓練自己的模型，Amazon SageMaker 可提供全受管基礎設施。AWS 提供一系列進階 ML 架構和基礎設施選項，適合需要高度自訂和專用 ML 模型的情況。AWS 還提供一系列熱門基礎模型，用於使用生成式 AI 來建置全新應用程式。
-
針對您嘗試解決的商業問題選擇 ML 演算法，取決於您正在處理的資料類型以及所需的結果。下列資訊概述了每個主要 AWS AI/ML 服務類別如何協助您使用其演算法：
- 專用 AI 服務：這些服務提供有限的功能來自訂 ML 演算法，因為它們是針對特定任務優化的預先訓練模型。您通常可自訂輸入資料和某些參數，但沒有基礎 ML 模型的存取權或建置自己模型的能力。
- Amazon SageMaker：此服務對 ML 演算法提供最大靈活性和控制權。您可以藉助 SageMaker，使用自己的演算法和架構來建置自訂模型，或使用 AWS 提供的預先建置模型和演算法。這允許對 ML 程序進行高度的自訂和控制。
- 較低層級的 ML 架構和基礎設施：這些服務提供對 ML 演算法最大的靈活性和控制權。您可以藉助這些服務，使用其自己的演算法和架構來建置高度自訂的 ML 模型。然而，使用這些服務需要大量的 ML 專業知識，並且可能不適用於所有使用案例。
-
如果您在 VPC 中需要私有端點，您的選項會根據您使用的 AWS ML 服務層而有所差異。其中包括：
- 專門的 AI 服務：大多數專門的 AI 服務目前不支援 VPC 中的私有端點。不過，您可以使用 VPC 端點存取 Amazon Rekognition 自訂標籤和 Amazon Comprehend 自訂。
- 核心 AI 服務：Amazon Translate、Amazon Transcribe 和 Amazon Comprehend 所有支援 VPC 端點。
- Amazon SageMaker：SageMaker 為 VPC 端點提供內建支援，可讓您將其經過訓練的模型部署為僅從 VPC 存取的端點。
- 較低層級的 ML 架構和基礎設施：您可在 Amazon EC2 執行個體上或 VPC 內的容器中部署模型，以完全控制網路組態。
-
較高層級的 AI 服務，例如 Amazon Rekognition 和 Amazon Transcribe，旨在處理各種使用案例，並在速度方面提供高效能。然而，它們可能不符合某些延遲要求。
如果您使用較低層級的 ML 架構和基礎設施，建議您充分利用 Amazon SageMaker。由於其全受管服務和優化的部署選項，此選項通常比建立自訂模型更快。雖然高度優化的自訂模型可能會優於 SageMaker，但需要大量的專業知識和資源才能建置。
-
AWS ML 服務的準確性根據特定使用案例和所需的自訂層級而有所差異。Amazon Rekognition 等更高層級的 AI 服務是在預先訓練的模型基礎上建置，這些模型已針對特定任務進行優化，並在許多使用案例中提供高準確性。
在某些情況下，您可以選擇使用 Amazon SageMaker，它提供更靈活且可自訂的平台，用於建置和訓練自訂 ML 模型。透過建置自己的模型，相較於預先訓練的模型，您能夠實現更高的準確性。
您還可以選擇使用 ML 框架和基礎設施，例如 TensorFlow 和 Apache MXNet，來建置高度自訂的模型，以針對您的特定使用案例提供最高準確性。
-
AWS 在開發程式的每個階段，都考慮使用負責任的 AI 來建置基礎模型 (FM)。在設計、開發、部署和營運過程中，我們會考量一系列因素，包括：
- 準確性 (摘要與基礎文件的相符程度；傳記是否符合事實)
- 公平 (輸出對人口統計群體是否類似)
- 智慧財產權和著作權考量
- 適當使用 (篩選使用者法律建議請求、醫療診斷或非法活動)
- 有害性 (仇恨言論、不敬言語和辱罵)
- 隱私性 (保護個人資訊和客戶提示)
AWS 將這些問題的解決方案建置於擷取訓練資料的程序中、FM 本身，以及預處理使用者提示和後處理輸出的技術中。
選擇
現在您已了解評估 ML 服務選項的條件，那麼您已準備好選擇適合貴組織需求的 AWS ML 服務。
以下表格反白顯示了哪些 ML 服務會針對哪些情況最佳化。使用它來協助確定最適合您使用案例的 AWS ML 服務。
Amazon Comprehend 可讓您在文字資料上執行自然語言處理任務，例如情緒分析、實體識別、主題建模和語言偵測。
Amazon Lex 可協助您建置聊天機器人和語音助理，以便以自然語言介面與使用者互動。它提供預先建置的對話方塊管理、語言理解和語音識別功能。
使用 Amazon Polly 將文字轉換為逼真的語音，讓您更輕鬆地建立支援語音的應用程式和服務。
Amazon Rekognition 的設計可讓您在應用程式中新增影像和影片。您可將影像或影片提供給 Amazon Rekognition API，然後該服務即可識別物件、人物、文字、場景和活動。它也可偵測任何不適當的內容。
Amazon Textract 可協助您從掃描的文件、表單和資料表中擷取文字和資料，讓您更輕鬆地存放、分析和管理這些資料。
Amazon Transcribe 可讓客戶自動將音訊和影片錄製成文字。相較於手動轉錄，這可節省時間和精力。
使用此服務將文字即時地從一種語言翻譯為另一種語言。如果您的企業在多個國家/地區經營，或者需要與非母語使用者溝通，這會特別有用。
Amazon Bedrock 是一項全受管服務，可透過 API 提供來自領先 AI 新創公司和 Amazon 的基礎模型，因此您可以在各種基礎模型中進行選擇，以找到最適合您的模型。
Amazon CodeWhisperer 是即時 AI 編碼輔助工具，可協助您針對例行或耗時、無區別的任務建立程式碼、使用不熟悉的 API 或 SDK、正確有效地利用 AWS API，以及其他常見的編碼案例，例如讀取和寫入檔案、影像處理和寫入單元測試。
Amazon SageMaker Autopilot 旨在消除建置 ML 模型的繁重工作。只需提供表格資料集並選取要預測的目標資料欄，SageMaker Autopilot 即會自動探索不同的解決方案以找到最佳模型。接著，只要點選滑鼠一次，就能將模型直接部署至生產，或重複使用建議的解決方案，增進模型品質。
Amazon SageMaker Canvas 讓您能夠使用機器學習來產生預測，而無需編寫任何程式碼。
Amazon SageMaker Data Wrangler 可縮短 ML 彙總和準備資料表與影像資料所需的時間。藉助 Amazon SageMaker Data Wrangler，您可以簡化資料準備和特徵工程的程序，並從單一視覺化界面完成資料準備工作流程的每個步驟，包括資料選取、清理、探索、視覺化和大規模處理。
SageMaker Ground Truth 是一項受管服務，用於標記資料，以訓練和改善機器學習模型。它使用人類註釋者和機器學習演算法的組合，藉此提供一種高度準確和有效的方法來標記大型資料集。SageMaker Ground Truth 支援多種資料類型，包括文字、影像、影片和音訊，並與其他 SageMaker 服務無縫整合，以實現端對端機器學習工作流程。
SageMaker JumpStart 針對各種問題類型提供預先訓練的開放原始碼模型，以協助您開始使用機器學習。您可以在部署之前逐步訓練和調整這些模型。JumpStart 還提供解決方案範本，用於針對常見使用案例設定基礎設施，以及使用 SageMaker 設定用於機器學習的可執行範例筆記本。
藉助 Amazon SageMaker Pipelines，您可以使用 Python 開發套件建立 ML 工作流程，然後使用 Amazon SageMaker Studio 視覺化和管理工作流程。Amazon SageMaker Pipelines 可讓您存放和重複使用您在 SageMaker 管道中建立的工作流程步驟。
整合式開發環境 (IDE)，可讓開發人員大規模建置、訓練和部署機器學習模型。從資料準備和模型訓練到部署和監控，它提供以 Web 為基礎的單一介面來管理整個機器學習生命週期。SageMaker Studio 還支援各種熱門的工具，例如 Jupyter 筆記本、Git 和 TensorFlow，並為常見使用案例提供一套預先建置的演算法。
Amazon SageMaker Studio Lab 是一個以雲端為基礎的 IDE，用於使用預先建置的 Jupyter 筆記本來學習和實驗機器學習。它包括一系列預先建置的筆記本，涵蓋影像識別、自然語言處理和異常偵測等主題。
Apache MXNet 是一個開放原始碼深度學習架構，支援多種程式設計語言，包括 Python、Scala 和 R。它以其可擴展性和速度而聞名，並提供各種用於建置和訓練神經網路的高階 API，以及面向進階使用者的低階 API。
Hugging Face on Amazon SageMaker
Hugging Face on Amazon SageMaker 是用於自然語言處理 (NLP) 的開放原始碼庫，提供多種用於處理文字資料的預先訓練的模型和工具。它以其易用性和高效能而聞名，並且廣泛用於文字分類、情緒分析和語言翻譯等任務。
PyTorch on AWS 是一個開放原始碼機器學習架構，可提供動態運算圖和自動分化，用於建置和訓練神經網路。PyTorch 以其易用性和靈活性而聞名，並且擁有一個有大量開發人員的活躍社群，不斷為其開發做出貢獻。
TensorFlow 是 Google 開發的開放原始碼機器學習架構，廣泛用於建置和訓練神經網路。它以其可擴展性、速度和靈活性而聞名，並支援一系列程式設計語言，包括 Python，C ++ 和 Java。TensorFlow 提供多種預先建置的模型和工具，用於進行影像和文字處理，並且針對需要對其模型擁有更大控制權的進階使用者提供低階 API。
AWS Inferentia 和 AWS Inferentia2
第一代 AWS Inferentia 加速器採用 Amazon Elastic Compute Cloud (Amazon EC2) Inf1 執行個體技術，相較於同類 Amazon EC2 執行個體，其輸送量提升高達 2.3 倍，每次推論成本降低高達 70%。AWS Inferentia2 加速器改善了第一代 AWS Inferentia。與 Inferentia 相比，Inferentia2 的輸送量提升高達 4 倍，延遲降低高達 10 倍。
AWS Trainium 是 AWS 專為 100B 以上之參數模型深度學習訓練打造的第二代機器學習 (ML) 加速器。每個 Amazon Elastic Compute Cloud (EC2) Trn1 執行個體都可部署多達 16 個 AWS Trainium 加速器，以用於雲端中的深度學習 (DL) 訓練。
使用
您現在應當已清楚了解選擇 AWS ML 服務時需要滿足的條件，現在可以選擇哪些 AWS AI/ML 服務已針對您的商業需求進行優化。
若要探索如何使用以及進一步了解您選擇的服務，我們提供了三組途徑，來探索每項服務的運作方式。第一組路徑提供深入的文件、實作教學課程和資源，以開始使用 Amazon Comprehend、Amazon Textract、Amazon Translate、Amazon Lex、Amazon Polly、Amazon Rekognition 和 Amazon Transcribe。
-
Amazon Comprehend
-
Amazon Textract
-
Amazon Translate
-
Amazon Lex
-
Amazon Polly
-
Amazon Rekognition
-
Amazon Transcribe
-
Amazon Comprehend
-
.8a16277dfd4daf238336a74dc2184cd66e98a995.png)
Amazon Comprehend 入門
使用 Amazon Comprehend 主控台建立並執行非同步實體偵測任務。
立即開始本教學課程 »
Amazon Comprehend 定價
探索有關 Amazon Comprehend 定價和範例的資訊。 -
Amazon Textract
-
開始使用 Amazon Textract
了解 Amazon Textract 如何與格式化文字搭配使用，偵測位於彼此靠近的單字和單字行，以及分析文件中的項目，例如相關文字、資料表、鍵值對和選取項目。
AWS Power Hour：機器學習
在本集中深入了解 Amazon Textract、在 AWS 管理主控台中操作，以及檢閱程式碼範例，以協助您了解如何充分利用服務 API。
-
Amazon Translate
-
透過主控台開始使用 Amazon Translate
開始使用 Amazon Translate 最簡單的方法就是使用主控台翻譯一些文字。了解如何使用主控台翻譯多達 10,000 個字元。
Amazon Translate 定價
探索 Amazon Translate 定價，包括免費方案，每月可提供 200 萬個字元，持續 12 個月。
探索指南 »
-
Amazon Lex
-
Amazon Polly
-
Amazon Rekognition
-
-
Amazon Transcribe
-
使用 Amazon Transcribe 建立音訊記錄
了解如何藉助 Amazon Transcribe，使用實際使用案例方案來建立錄製音訊檔案的文字記錄，以根據您的需求進行測試。
第二組 AI/ML AWS 服務路徑提供深入的文件、實作教學課程和資源，以開始使用 Amazon SageMaker 系列中的各項服務。
-
SageMaker
-
SageMaker Autopilot
-
SageMaker Canvas
-
SageMaker Data Wrangler
-
SageMaker Ground Truth/Ground Truth Plus
-
SageMaker JumpStart
-
SageMaker Pipelines
-
SageMaker Studio
-
SageMaker
-
Amazon SageMaker 的運作方式
探索機器學習概觀以及 SageMaker 的運作方式。
Amazon SageMaker 入門
了解如何加入 Amazon SageMaker 網域，讓您可以在 SageMaker 上存取 Amazon SageMaker Studio 和 RStudio。
探索指南 »
搭配使用 Apache Spark 與 Amazon SageMaker
了解如何使用 Apache Spark 預處理資料，以及使用 SageMaker 進行模型訓練和託管。
探索指南 »
使用 Docker 容器來建置模型
探索 Amazon SageMaker 如何廣泛使用 Docker 容器來建置和執行期任務。了解如何針對其內建演算法部署預先建置的 Docker 映像檔，以及用於訓練和推論的受支援深度學習架構。
探索指南 »
機器學習架構和語言
了解如何使用 Amazon SageMaker Python SDK 開始使用 SageMaker。 -
SageMaker Autopilot
-
針對表格式資料建立 Amazon SageMaker Autopilot 實驗
了解如何建立 Amazon SageMaker Autopilot 實驗，以探索、預先處理和訓練表格式資料集上的各種候選模型。
自動建立機器學習模型
了解如何使用 Amazon SageMaker Autopilot 自動建置、訓練、調整 ML 模型，並部署該模型以產生預測。
探索透過 Amazon SageMaker Autopilot 使用這些範例筆記本進行建模
探索用於直接行銷、客戶流失預測的範例筆記本，以及如何在 Amazon SageMaker Autopilot 中使用您自己的資料處理程式碼。 -
SageMaker Canvas
-
在不編寫程式碼的情況下產生機器學習預測
本教程課程介紹了如何使用 Amazon SageMaker Canvas 在不編寫任何程式碼的情況下建置 ML 模型並產生準確的預測。
立即開始本教學課程 »
深入探究 SageMaker Canvas
深入探索 SageMaker Canvas 及其視覺化、無程式碼 ML 功能。
使用 Amazon SageMaker Canvas 製作您的第一個 ML 模型
了解如何使用 Amazon SageMaker Canvas 建立機器學習模型，以評估客戶保留率，以及以電子郵件為基礎的新產品和服務宣傳活動。 -
SageMaker Data Wrangler
-
Amazon SageMaker Data Wrangler 入門
探索如何設定 SageMaker Data Wrangler，然後使用現有範例資料集提供逐步解說。
探索指南 »
以最少的程式碼為機器學習準備訓練資料
了解如何使用 Amazon SageMaker Data Wrangler 為 ML 準備資料。
立即開始本教學課程 »
SageMaker Data Wrangler 深入探究研討會
了解如何在資料集上套用適當的分析類型來偵測異常和問題，使用衍生的結果/洞察，在資料集的轉換過程中制定修正動作，並使用 SageMaker Data Wrangler 提供的快速建模選項來測試正確的選項和轉換順序。 -
SageMaker Ground Truth/Ground Truth Plus
-
標記用於機器學習的訓練資料
了解如何在 Amazon SageMaker Ground Truth 中設定標記任務，以標註 ML 模型的訓練資料。
Amazon Ground Truth Plus 入門
探索如何完成啟動 Amazon SageMaker Ground Truth Plus 專案的必要步驟、審查標籤，並滿足 Amazon SageMaker Ground Truth Plus 先決條件。
開始使用 Amazon Ground Truth
觀看如何透過 SageMaker Ground Truth 主控台，在幾分鐘內開始標記您的資料。
Amazon SageMaker Ground Truth Plus – 無需程式碼或內部資源即可建立訓練資料集
了解 Ground Truth Plus，這是一項利用專家人力快速提供高品質訓練資料集，並降低高達 40% 的成本的一站式服務。
-
SageMaker JumpStart
-
開始搭配 SageMaker JumpStart 使用機器學習
探索 SageMaker JumpStart 解決方案範本，這可針對常見使用案例設定基礎設施，以及使用 SageMaker 設定用於機器學習的可執行範例筆記本。
探索指南 »
使用 Amazon SageMaker JumpStart 快速開始機器學習專案
了解如何使用 Amazon SageMaker JumpStart 提供的預訓練模型和預建置解決方案，以快速追蹤 ML 專案。然後，您可以透過 Amazon SageMaker Studio 筆記本部署所選模型。
透過此 Immersion Day 研討會體驗 Amazon SageMaker JumpStart 實作
了解 Amazon SageMaker Data Wrangler、Autopilot 和 Jumpstart 中的低程式碼 ML 功能如何讓您更輕鬆、快捷地進行實驗，並在生產中使用高度準確的模型。
-
SageMaker Pipelines
-
Amazon SageMaker Pipelines 入門
了解如何建立管理和部署 SageMaker 任務的端對端工作流程。SageMaker Pipelines 配備 SageMaker Python SDK 整合，因此您可以使用以 Python 為基礎的介面來建置管道的每個步驟。
探索指南 »
自動化機器學習工作流程
了解如何使用 Amazon SageMaker Pipelines、Amazon SageMaker 模型註冊表和 Amazon SageMaker Clarify 建立和自動化端對端機器學習 (ML) 工作流程。
立即開始本教學課程 »
如何使用 Amazon SageMaker Pipelines 建立全自動 ML 工作流程
了解 Amazon SageMaker Pipelines，這是全球首個機器學習 CI/CD 服務，旨在讓每個開發人員和資料科學家都能使用。SageMaker Pipelines 在 ML 中使用 CI/CD 管道，從而縮短了所需的編碼時間。
觀賞影片 » -
SageMaker Studio
-
在本機建置和訓練機器學習模型
了解如何在 Amazon SageMaker Studio 筆記本中本機建置和訓練 ML 模型。
SageMaker Studio 與 EMR 整合研討會
了解如何大規模利用分散式處理來準備資料，並隨後訓練機器學習模型。
第三組 AI/ML AWS 服務路徑提供深入的文件、實作教學課程和資源，以開始使用 Amazon Bedrock、Amazon CodeWhisperer、AWS Trainium、AWS Inferentia 和 Amazon Titan。
-
Amazon Bedrock
-
Amazon CodeWhisperer
-
AWS Trainium
-
AWS Inferentia
-
Amazon Titan
-
Amazon Bedrock
-
Amazon Bedrock 概觀
了解 Amazon Bedrock 如何透過 API 提供來自領先 AI 新創公司和 Amazon 的基礎模型，因此您可以在各種 FM 中進行選擇，以找到最適合您的使用案例的模型。
在 AWS 上使用生成式 AI 進行建置的新工具推出
了解 Amazon Bedrock 開發的背景，及其如何與 AWS 更廣泛的 AI 和 ML 方法相適應，並提供 AWS 生成式 AI 服務潛在用途的概觀。
揭秘生成式 AI
在本影片中，Amazon 技術長 Werner Vogels 博士與 AWS 資料庫、分析和 ML 副總裁 Swami Sivasubramanian 一同討論了生成式 AI 的廣泛環境、為何它並非炒作，以及 AWS 如何將大型語言和基礎模型的存取實現大眾化。
-
Amazon CodeWhisperer
-
什麼是 Amazon CodeWhisperer？
了解 CodeWhisperer 的設計如何協助您針對例行或耗時、無區別的任務建立程式碼、使用不熟悉的 API 或 SDK、正確有效地利用 AWS API，以及其他常見的編碼案例，例如讀取和寫入檔案、影像處理和寫入單元測試。
開始使用 Amazon CodeWhisperer
了解如何設定 CodeWhisperer，以便與四個可能的 IDE 搭配使用：AWS Toolkit for JetBrains、AWS Toolkit for Visual Studio Code、Lambda 和 AWS Cloud9。
Amazon CodeWhisperer 研討會
了解如何建置經過全面訓練、事件驅動的無伺服器應用程式，以進行影像識別。藉助 Amazon CodeWhisperer，您可以編寫在 AWS Lambda 之上執行的自己的程式碼，以便與 Amazon Rekognition、Amazon DynamoDB、Amazon SNS、Amazon SQS、Amazon S3、第三方 HTTP API 進行互動，以執行影像識別。
-
AWS Trainium
-
使用 AWS Trainium 和 Amazon EKS 擴展分散式訓練
了解您如何從採用 AWS Trainium 技術的 Amazon EC2 Trn1 執行個體正式發布中受益，這是專門建置的 ML 加速器，經過優化以提供高效能、符合成本效益，並且可大規模擴展的平台，從而在雲端訓練深度學習模型。
AWS Trainium 概觀
了解 AWS Trainium，這是 AWS 專為 100B 以上之參數模型深度學習訓練打造的第二代機器學習 (ML) 加速器。每個 Amazon Elastic Compute Cloud (EC2) Trn1 執行個體最多部署 16 個 AWS Trainium 加速器，為雲端深度學習 (DL) 訓練提供高效能、低成本的解決方案。
-
AWS Inferentia
-
AWS Inferentia2 在 AWS Inferentia1 的基礎上建置，其輸送量提升高達 4 倍，而延遲時間卻減少了 10 倍
了解 AWS Inferentia2 的優化功能，並探索其如何從頭開始設計，以交付更高的效能，同時降低 LLM 和生成式 AI 推論的成本。
使用 AWS Inferentia 進行機器學習推論
了解如何透過執行 Amazon EC2 Inf1 執行個體的節點來建立 Amazon EKS 叢集，並 (選擇性地) 部署範例應用程式。Amazon EC2 Inf1 執行個體採用 AWS Inferentia 晶片技術，由 AWS 自訂建置，以便在雲端提供高效能和最低成本的推論。
-
Amazon Titan
-
Amazon Titan 概觀
探索 Amazon Titan FM 如何針對大型資料集進行預先訓練，使其成為功能強大的一般用途模型。了解如何以原狀或私密方式使用，針對特定任務使用您自己的資料進行自訂，而無需對大量資料進行註解。