Amazon Bedrock のカスタムモデルインポート

カスタマイズしたモデルを Amazon Bedrock で活用する

概要

Amazon Bedrock カスタムモデルインポートを使用すると、単一のサーバーレス統合 API を介して、カスタマイズされたモデルをインポートして、既存の基盤モデル (FM) とともに使用できます。インポートしたカスタムモデルにはオンデマンドでアクセスでき、基盤となるインフラストラクチャを管理する必要はありません。サポートされているカスタムモデルを、ナレッジベース、ガードレール、エージェントなどのネイティブ Bedrock ツールや機能と統合することで、生成 AI アプリケーションの開発を加速します。

 

CMI UI のスクリーンショット

主な利点

カスタムモデルインポートで DeepSeek-R1 をデプロイする

Amazon Bedrock カスタムモデルインポートは DeepSeek-R1 の蒸留 Llama バージョンをサポートしています。現在サポートされているバリアントには、DeepSeek-R1-Distill-Llama-8B と DeepSeek-R1-Distill-Llama-70B があり、パフォーマンスとリソース効率の最適なバランスを実現しています。これらのモデルは、Amazon Simple Storage Service (Amazon S3) または Amazon SageMaker AI モデルリポジトリからインポートし、カスタムモデルインポートでフルマネージド型のサーバーレス環境にデプロイできます。

ブログを読む