Amazon EKS の開始方法

Amazon EKS では、エージェンティック AI に対する 2 つの異なるアプローチが可能になります。まず、自律型エージェントをコンテナ化されたアプリケーションとしてデプロイおよびスケーリングできるため、エージェントインフラストラクチャを制御できます。次に、Kubernetes の運用とアプリケーション開発を合理化して、エージェントと AI アシスタントが Agent2Agent Protocol (A2A) とモデルコンテキストプロトコル (MCP) を使用した自然言語対話を通じて運用を簡素化し、問題のトラブルシューティングを行えるようにすることができます。このパスでは、Amazon EKS にエージェントをデプロイするアプローチと、エージェンティック AI を使用して Amazon EKS の開発者とオペレーターのエクスペリエンスを向上させるアプローチの 2 つを説明します。

オープンソースの Strands Agents SDK またはお好みのエージェントフレームワークを使用して、Amazon EKS に自律型 AI エージェントをデプロイしてスケーリングします。このアプローチにより、エージェントインフラストラクチャを完全に制御できるため、どのモデルを使用しても実装をカスタマイズできます。EKS は、コンテナ化された AI エージェントを高可用性とスケーラビリティで実行するための本番稼働グレードの機能を提供します。

EKS 上での AI エージェントの構築とデプロイの基礎を詳しく見てください。Strands Agents SDK と、それがどのようにエージェント開発を簡素化するかについて学び、これらの概念をお好みのフレームワークに適用してください。天気予報の実際の例を調べて、シンプルなエージェントがどのように外部 API と統合し、ストリーミング応答を処理し、自然言語クエリを処理できるかを理解してください。この例は、EKS 上にエージェントをデプロイする際に必要となるシステムプロンプト、ツール統合、API ワークフローなどの重要な概念を示しています。

ステップバイステップガイドに従って、Strands Agents SDK エージェントを Amazon EKS にデプロイします。まず、エージェントをコンテナ化し、FastAPI エンドポイントをセットアップし、ストリーミング応答を実装し、Docker を使用してアプリケーションをパッケージ化する方法を学びます。サンプルプロジェクトを使用して、EKS Auto Mode 設定、Helm デプロイ、基本テストなどの重要な概念を理解してください。このガイドでは Strands SDK を使用していますが、その原則はコンテナ化されたエージェントを EKS 上にデプロイする場合にも適用されます。

本番環境でエージェントデプロイメントを確実にスケーリングして運用する方法を学びます。自動スケーリングを実装してさまざまなワークロードを処理し、バックアップとフェイルオーバーの設定を通じて高可用性を実現し、CloudWatch コンテナインサイトを使用して包括的なモニタリングを設定します。AI/ML ワークロードを実行するための EKS ベストプラクティスガイドに従って、エージェントインフラストラクチャが安全で監視可能であることを確認してください。自分のペースで進められるエージェンティック AI on EKS ワークショップに参加して、AI エージェントを大規模にデプロイするためのステップバイステップのガイダンスを入手してください。

Amazon EKS MCP サーバーを通じて AI コーディングアシスタントにリアルタイムのツールとリソースを提供することで、Kubernetes の運用を変革できます。これにより、AI エージェントは EKS クラスターと直接やり取りできるようになり、状況に応じたガイダンスと自然言語によるやり取りを通じて自動化が可能になります。クラスターの作成からトラブルシューティングまで、これらの AI エージェントは AWS のベストプラクティスを維持しながら、Kubernetes の運用を合理化するのに役立ちます。

さまざまな AWS MCP サーバーが AI モデルと AWS のサービスおよびリソース間の相互作用をどのように促進するかを学びます。EKS MCP サーバーガイドを詳しく見て、クラスター管理からトラブルシューティングまで、AI エージェントが一般的な運用タスクの自動化にどのように役立つかを理解してください。EKS MCP サーバー統合を使用して Amazon Q Developer CLI や Cline などの AI アシスタントを設定するように開発環境をセットアップします。

Amazon EKS MCP サーバーを使用して Kubernetes の運用を効率化するためのステップバイステップガイドに従ってください。EKS 上でアプリケーションをコンテナ化してデプロイするための自然言語コマンドの使い方を学びます。このデモでは、AI エージェントが EKS MCP サーバーのツールを使用して Kubernetes マニフェストの生成、クラスターリソースの管理、デプロイワークフローの自動化にどのように役立つかについて詳しく学んでください。

Amazon EKS MCP サーバーでの AI 支援トラブルシューティングウォークスルーに従って、AI エージェントがアプリケーションの状態をモニタリングし、一般的な問題を解決するのにどのように役立つかを確認してください。ポッドの障害やインフラストラクチャの問題のデバッグの実例を通じて、自然言語クエリを使用して、CloudWatch メトリクスの確認、ログの分析、問題の診断を行う方法を学びます。このハンズオンガイドでは、Amazon CloudWatch やその他の AWS のサービスを活用して EKS 上のアプリケーションを正常に維持するのに AI アシスタンスがどのように役立つかを説明しています。

生成 AI 環境は急速に進化しており、組織が分散モデルトレーニング、微調整、大規模な推論デプロイなど、さまざまなユースケース向けに多様な AI/ML ワークロードを構築、デプロイ、スケールしています。Anthropic や Adobe などのお客様は、運用効率を維持しながらコンピューティングリソースをきめ細かく制御するために Amazon EKS を選択しています。このガイドでは、モデルトレーニングやデプロイ、検索拡張生成 (RAG)、推論などの一般的なユースケースでお客様が EKS for AI/ML を選択する理由の概要を理解できます。

Amazon EKS では、GPU 最適化、マルチモデルサービス、自動スケーリングをサポートしているため、本番環境での推論デプロイが可能になります。組織は、既存の EKS の専門知識と運用方法を活用して、推論ワークロードを他のアプリケーションと一緒に迅速にデプロイおよび管理できます。Vannevar Labs や Omi などの企業は、オープンソースツールや AWS 上の幅広いアクセラレーターとの統合により、インフラストラクチャ全体で運用の一貫性を維持しながら、大幅なコスト削減とパフォーマンスの向上を実現しました。

GPU サポート、モデル提供パターン、リソース最適化などの主要トピックを網羅したこのソリューションガイドで、EKS 上に推論ワークロードをデプロイするためのインフラストラクチャとアーキテクチャの基礎を学んでください。オープンソースの AI on EKS プロジェクトを詳しく見てください。このプロジェクトでは、本番環境へのデプロイ用に Infrastructure-as-Code テンプレートを使用したスケーラブルな LLM 推論サービスのセットアップなど、すぐにデプロイできるブループリントが提供されています。

まず、リアルタイム推論のベストプラクティスクラスター設定ガイドを読んで、本番環境推論ワークロード用に最適化された EKS クラスターを作成します。vLLM や NVIDIA Triton などの一般的なフレームワーク用の Helm チャートと Infrastructure-as-Code テンプレートを提供する EKS 推論チャート上に、本番環境ですぐに使える AI を使用してモデルをデプロイします。従来の ML ワークロードでは、デプロイパターンについては CPU および GPU ベースの推論に関する AWS 深層学習コンテナデベロッパーガイドをご覧ください。

ハンズオンワークショップに従って、お好みのアクセラレーターを使用して EKS 上に推論ワークロードをデプロイしてください。これらは、GPU ベースの推論のための NVIDIA ベースのワークショップと、推論と Trainium アクセラレーターを使用する AWS Neuron ベースのワークショップです。どちらのワークショップでも、デバイスプラグインのセットアップ、リソース管理、モニタリングなどの重要なタスクについて説明しています。AI/ML ワークロードに関する包括的な EKS ベストプラクティスガイドを参照して、推論デプロイがコンピューティング、ネットワーク、ストレージ、オブザーバビリティの実証済みのパターンに従っていることを確認してください。これらのガイドは、EKS で推論アーキテクチャを運用および発展させる際の継続的な参考資料として役立ちます。

Amazon EKS は初めてですか? このパスのステップに従って、わずか数分で最初の Kubernetes クラスターをセットアップします。

Amazon EKS では、AWS マネジメントコンソールにログインして、数分でコンテナをセットアップして起動できます。

Amazon EKS がどのように機能するかについては、コーチから学ぶコンテナビデオシリーズとコンテナブログチャンネルをご覧ください。

Linux と Windows 上でのサンプルデプロイを使用して、Amazon EKS にワークロードとアドオンをデプロイする方法を学んでください。