Amazon Bedrock Model Distillation のプレビュー版を提供開始

投稿日: 2024年12月3日

Amazon Bedrock Model Distillation では、お客様はさらに小規模かつ高速で、費用対効果の高いモデルを使用して、Amazon Bedrock の最も高性能なモデルに匹敵するユースケース固有の精度を実現できます。

今日、お客様のユースケースに合わせて精度を上げるために、さらに小規模でコスト効率の高いモデルを微調整する場合、お客様はプロンプトとレスポンスを記述し、トレーニングデータセットを改良し、トレーニングデータセットが多様な例を取り込んでいることを確認し、トレーニングパラメータを調整するという反復的なプロセスが必要になります。

Amazon Bedrock Model Distillation は、教師モデルから合成データを生成するのに必要なプロセスを自動化し、学生モデルのトレーニングと評価を行い、推論用の最終的な抽出モデルをホストします。反復 (イテレーション) の負担を軽減するために、Model Distillation では、ユースケースに最も適したさまざまなデータ合成方法を適用して、特定のユースケースの高度なモデルにほぼ匹敵する抽出モデルを作成することがあります。たとえば、Bedrock では、同様のプロンプトを生成してトレーニングデータセットを拡張したり、顧客が提供したプロンプトとレスポンスのペアをゴールデンサンプルとして使用して高品質の合成応答を生成したりすることがあります。

詳細については、ドキュメントとブログをご覧ください。