AWS、Amazon Bedrock への新たなモデルと機能の追加を発表。生成系 AI アプリケーションの安全な構築と拡張を支援

投稿日: Dec 13, 2023

  • Anthropic、Cohere、Meta、Stability AI および Amazon の最新モデルで、業界をけん引するモデルの選択肢を拡大し、お客様の多様なユースケースをサポート
  • Amazon Bedrock のモデル評価機能により、お客様のユースケースやビジネスニーズに最も適したモデルの評価、比較、選択を支援
  • Knowledge Bases for Amazon Bedrock により、お客様のデータでカスタマイズした最新の応答を行う生成系 AI アプリケーションの構築がさらに簡単に
  • Cohere Command、Meta Llama 2、Amazon Titan モデルのファインチューニング対応により、Amazon Bedrock でのモデルのカスタマイズに追加の選択肢を提供、AnthropicのClaude も近くファインチューニングに対応
  • Agents for Amazon Bedrock により、お客様は幅広い業務のあらゆるステップに生成系 AI アプリケーションを安全かつプライベートに適用することが可能に
  • Guardrails for Amazon Bedrock により、お客様の生成系 AI アプリケーションにあわせて最適化され、お客様の責任ある AI ポリシーに沿う安全対策の実装を支援
  • Blueshift、Dentsu Group、Druva、GoDaddy、INRIX、MongoDB、OfferUp、Salesforce、SmartBots AI、TTEC Digital など、多くのお客様やパートナーが生成系 AI の活用に向けてAmazon Bedrock を採用

※本プレスリリースは、現地時間 2023 年 11 月 30 日に米国で発表されたプレスリリースの抄訳版です。

（ラスベガス、2023 年 11 月 30 日）Amazon.com, Inc.（NASDAQ: AMZN）の関連会社である Amazon Web Services, Inc.（AWS）は11月30日、同社の年次イベント AWS re:Invent において、基盤モデルの選択肢を広げ、強力な機能を追加する Amazon Bedrock の 新たなイノベーションを発表しました。お客様はこれにより、自社のビジネスにあわせてカスタマイズした生成系 AI アプリケーションの構築や拡張をより簡単に行えるようになります。Amazon Bedrock は、AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Amazon など、業界の主要な大規模言語モデルやその他の基盤モデルを選択できるフルマネージド型サービスです。生成系 AI アプリケーションの構築に必要な幅広い機能を備えており、お客様はプライバシーとセキュリティを維持しながら、開発作業をシンプルにすることができます。今回の一連の発表により、生成系 AI の利用はさらに民主化されます。Amazon Bedrock に追加された新機能により、あらゆる業界のあらゆる規模の組織における生成系 AI の利用方法は変わり、イノベーションを刺激し、お客様体験を再発明することが可能となるでしょう。Amazon Bedrock の詳細については、aws.amazon.com/bedrock をご確認ください。

AWS のデータ・ AI 担当バイスプレジデントであるスワミ・シヴァスブラマニアン博士（Swami Sivasubramanian）は次のように述べています。「生成系 AI は現代における最も革新的なテクノロジーとなりつつあります。私たちはお客様が生成系 AI を活用して新たな事業機会やビジネス課題に取り組む様子に刺激を受けています。お客様が自社のビジネスに生成系 AI の導入を進めるにつれ、主要な基盤モデルの選択肢、カスタマイズ機能やエージェント、エンタープライズグレードのセキュリティやプライバシーをフルマネージド型サービスとして提供する Amazon Bedrock をご採用いただくケースが増えています。お客様は、Amazon Bedrock のすぐに利用可能なツールを活用し、生成系 AI の可能性を最大限に拡げ、新たなユーザー体験の創造やビジネスの再発明を加速しています」

お客様は、生産性の向上や画期的なユーザー体験の追求、業務変革などの多様なユースケースで生成系 AI を利用したいと考えていますが、生成系 AI は凄まじいペースで進化し、日々新たな選択肢やイノベーションが生まれています。そのため、変化の激しいこの分野で、お客様の対応を支援するツールは、価値のあるものと言えるでしょう。お客様は最も優れた最新のモデルを利用して実験、導入、反復、方針転換を行えるようにし、近い将来に起こりうる事態にすぐに対応できる必要があります。こうした課題に対処するため、AWS は Amazon Bedrock を開発しました。Alida、Automation Anywhere、Blueshift、BMW Group、Clariant、Coinbase、Cox Automotive、Dentsu Group、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、Omnicom、the PGA TOUR、Proofpoint、Salesforce、Siemens、竹中工務店、Verint などのお客様が生成系 AIを自社で活用するために Amazon Bedrock を選択しています。Amazon Bedrock では、広範な基盤モデルを API 同様に簡単にご利用いただけます。すべての開発者が最新の手法を活用してモデルをカスタマイズできます。お客様は同時に、自社のデータの安全性やプライバシーを維持することができます。今回の発表では、お客様がさらに簡単に生成系 AI アプリケーションの構築や拡張を行えるようにするための新しいモデルや機能を追加します。

Amazon Titan ファミリーに加え、Anthropic、Cohere、Meta、Stability AI の最新モデルで、お客様のモデルの選択肢を拡大
すべてのユースケースに適したモデルなどありません。モデルによって、機能も価格も性能も異なります。お客様が多様なモデルに簡単にアクセスし、異なるモデルを試して変更したり、自社のニーズに最適なモデルの組み合わせを選択できるようにする必要があります。Amazon Bedrock を活用することで、お客様は新たに Anthropic Claude 2.1 や Meta Llama 2 70B モデルのほか、最近提供を開始した Cohere Command Light、Cohere Embed 英語モデル、Cohere Embed 多言語モデル、Meta Llama 2 13B モデル、Stability AI Stable Diffusion XL 1.0 など、すべて API を介してアクセス可能な最新版のモデルでイノベーションを迅速に推進することが可能です。AWS はまた、一般提供中の Amazon Titan Text Embeddings モデルや Amazon Titan Text モデルに加えて、Amazon Titan Image Generator および Amazon Titan Multimodal Embeddings の提供を開始し、これまで以上の選択肢を提供することで、お客様がモデルを活用して柔軟に生成系 AI アプリケーションを構築できるよう支援します。Amazon Bedrock 専用の Amazon Titan モデルは、AWS によって大規模で多様なデータセットでの事前学習を終えており、さまざまなユースケースに対応できる他、AI の責任ある利用のためのサポートが組み込まれています。また、Amazon は、一般提供中の Amazon Titan モデルやそのアウトプットが第三者の著作権を侵害した旨の請求に対して、お客様を補償します。

  • Amazon Bedrock で提供する Anthropic Claude2.1：Anthropic は 同社の言語モデルの最新版である Claude2.1 を Amazon Bedrock 上で提供を開始しました。Anthropic は AI の安全性を研究する企業であり、信頼性が高く、解釈と操作が可能な AI システムを構築しています。Claude 2.1 では対応コンテキストウィンドウが 20 万トークンとなり、長文ドキュメントにおける精度が向上されています。お客様はこれにより、財務報告書や内部データセットのようにテキスト量の多い文書を処理し、Claude 2.1 を利用して要約や 質問と回答の実行、複数文書の比較参照などが実行できるようになりました。Anthropic によると、Claude 2.1 は前バージョンのモデルに比べて誤った回答が半減し、正確性が大幅に向上したことが報告されています。
  • Amazon Bedrock で提供する Meta Llama 2 70B：Llama 2 は Meta による次世代の言語モデルです。Llama 2 は、 Llama 1 と比較して 40%多いデータで事前学習され、2 倍のコンテキスト長に対応します。Amazon Bedrock では先日、発表された 130 億パラメータモデルに加えて、Llama 2 の 700 億パラメータモデルも利用可能となりました。事前学習済みの Llama モデルをベースに構築された Llama 2 は、指示形式のデータセットと人間による 100 万以上のアノテーションを用いてファインチューニングされ、対話型ユースケースに最適化されています。これらのモデルは、推論、コーディング、習熟度、知識テストなどの複数の外部ベンチマークにおいて競争力のある結果を示しており、Amazon Bedrock 上で優れた価格パフォーマンスを提供します。
  • 新モデル Amazon Titan Image Generator（プレビュー）：Amazon Titan Image Generator は、広告、e コマース、メディア・エンターテイメント業界などのお客様が、大量の画像に基づくアイデアの発想と反復を、迅速かつ低コストで行えるように、スタジオ品質のリアルな画像を作成したり、自然言語プロンプトを使用して既存の画像の向上を可能とします。Amazon Titan Image Generator は複雑なプロンプトを理解し、正確に対象物をゆがみなく生成できます。有害コンテンツは制限されており、誤情報の拡散を軽減しています。お客様は、2D、3D 等、生成する画像のバリエーションを指定する前に、Amazon Bedrock コンソールで自然言語によるプロンプトを送信して画像を生成するか、自動編集のための画像をアップロードすることでモデルを使用できます。編集時に画像の一部を分離して詳細を追加したり置き換えたりすることもでき（例：浜辺のシーンにサーフボードを挿入する、自動車の広告の背景の山を森に置き換える）、オリジナルと同じスタイルの詳細を追加して画像の境界線を拡張できます。AWS は今年、米大統領官邸であるホワイトハウスでコミットメントを表明したように、Amazon Titan は生成するすべての画像には目に見えない電子透かしが適用され、AI を使って生成された画像を識別する個別のメカニズムを提供することで、偽情報の拡散を減らし、AI テクノロジーの開発における安全性、セキュリティ、透明性向上を推進しています。AWS は生成画像に追加され、改ざんされにくく、人の目に見えない、埋め込み型の電子透かしを広くリリースする最初のモデルプロバイダーの 1 社となります。
  • 新しい Amazon Titan Multimodal Embeddings（一般提供）：Amazon Titan Multimodal Embeddings は、お客様が状況やニーズに即した検索ができるように、テキスト、画像を組み合わせたマルチモーダル検索体験を提供します。このモデルにより、画像やテキストが表す意味は数値に変換（embeddings）され、ベクトル化されてお客様のデータベースに保存されます。画像やテキスト双方の情報により正確になった検索クエリは自由な組み合わせで送信することができます。検索クエリに対応する数値と保存済みの数値が照合され、より正確で関連性の高い、パーソナライズされた検索結果がお客様に提供されます。たとえば、億単位の数の画像を有するストックフォトを提供する企業であれば、このモデルを使用して検索機能を強化できます。ユーザーは、言葉、画像、または両者の組み合わせを使用して画像を検索できます（例：「この画像に似た、空が晴れている画像を表示」など )。Amazon Titan Multimodal Embeddings はデフォルトの設定で、高い精度とレイテンシーを両立した検索体験を提供します。お客様は、テキストのみの Embedding を利用することで、さらに速度とパフォーマンスを追求することもできます。Amazon Titan Multimodal Embeddings は、1 つの単語、語句、または大規模ドキュメントなどのテキスト入力を検索やパーソナライズなどのユースケース向けの埋め込みに変換する既存の Amazon Titan Text Embeddings モデルに追加されます。

お客様が独自のユースケースやビジネス課題に最も適したモデルを効率的に評価、比較、選択するための新機能
現在、お客様には生成系 AI アプリケーションを強化する幅広いモデルの選択肢が提供されています。ユースケースに適した正確性とパフォーマンスのバランスを見極めるには、モデルを効率的に比較し、お客様が希望する指標に基づいて最適なモデルを特定する必要があります。モデルを比較するには、最初の数日間を、ベンチマークの特定、評価ツールの設定、評価の実行に費やす必要がありますが、そのすべての工程でデータサイエンスに関する深い専門知識が求められます。しかしながら、このような退屈で時間のかかるテストは、人による判断が必要な主観的な基準（お客様のブランドボイス、関連性や文脈、スタイルそのものなど）には役に立ちません。加えて、新規ユースケースごとに時間、専門知識、リソースをかけて比較する必要があるため、お客様のタスクに最適なモデルの選択は困難となり、生成系 AI の利用機会も制限されてしまいます。

今回、プレビュー版で提供する Amazon Bedrock のモデル評価機能は、お客様が特定のユースケースに最適なモデルを自動または人による評価を使用して評価、比較、選択できるよう支援します。お客様は Amazon Bedrock コンソール上で、質問への回答やコンテンツの要約などのご希望のタスクにあわせて比較するモデルを選択します。自動評価では、お客様は AWS が事前に定義した評価基準（正確性、堅牢性、有害性など）を選択し、検討用の独自のデータセットをアップロードするか、内蔵の公開データセットから選択します。主観的な基準や高度な判断が求められる微妙なコンテンツでは、お客様は数回のクリック操作で人による評価ワークフローを設定できます。このワークフローではモデルの応答評価に、お客様社内の人材、または AWS が提供する人材を活用できます。人による評価が行われている間に、お客様はユースケース固有の指標（関連性、スタイル、お客様のブランドボイスなど）を定義します。これらの設定プロセスが完了すると、Amazon Bedrock は評価を行い、レポートを生成するため、お客様は重要な基準に対してモデルがどのように実行されたかを容易に理解し、トレードオフを判断した上で、ユースケースに最適なモデルを迅速に選択することが可能となります。

お客様が AWS 上 でデータをプライベートかつ安全に活用するための新たなモデルカスタマイズ機能
お客様は、豊富なデータソースの価値を最大限に活用し、独自にカスタマイズされ、お客様のスタイルやブランドボイス、サービスを反映した卓越したユーザー体験を大規模に提供したいと考えています。こうした声をもとに開発された Amazon Bedrock の新機能を利用することで、お客様は独自のデータを使用してモデルをプライベートかつ安全にパーソナライズし、生成系 AI を利用して差別化されたアプリケーションを構築することが可能となります。

  • 企業が保有する、状況に即した関連するデータでモデル応答をカスタマイズする Knowledge Bases for Amazon Bedrock：お客様は、既存のモデルを独自データで補完して、より関連性の高い正確な応答を生成したいと考えており、モデルに最新の情報を提供する手法として検索拡張生成（RAG）に注目しています。RAG は、ドキュメントリポジトリ、データベース、API などの複数のソースからのデータによってプロンプトを拡張することで、お客様がモデルの応答をカスタマイズできるようにする手法です。一般提供が開始された Knowledge Bases for Amazon Bedrock は、RAG 向けにモデルを独自データソースにセキュアに接続し、チャットボットや Q&A システムなどのユースケース向けに、より正確で状況に即した応答を提供します。Knowledge Bases はフルマネージド型で提供されるため、お客様がデータの場所を指定するだけで、テキストドキュメントを取得してデータをベクトルデータベースに保存するか、お客様に代わってベクトルデータベースの設定を行います。ユーザーが検索を行うと、Amazon Bedrock はプロンプトの拡張に必要なテキストを取得することで RAG を調整し、モデルにプロンプトを送信して応答を返します。Knowledge Bases for Amazon Bedrock は、ベクター機能を装備するデータベース（Amazon OpenSearch や、Pinecone、Redis Enterprise Cloud などのその他の一般的データベース）に対応し、近日中に Amazon Aurora および MongoDB にも対応予定です。
  • Cohere Command、Meta Llama 2、Amazon Titan の各モデルが Amazon Bedrock でファインチューニングに対応し、Anthropic の Claude 2 も近日中にサポート：RAG に加え、ファインチューニングを活用して、特定のタスク（テキスト生成など）でモデルをさらに学習させ、ラベル付けされたデータセットを使用してモデルのパラメータを業務に適応させ、お客様やエンドユーザーが使用する語彙や用語で知識を拡充することもできます。例えば、小売企業の場合、モデルを商品説明のデータセットでファインチューニングすることで、ブランドのスタイルを理解させ、ウェブサイトに適した正確な説明を生成することができます。Amazon Bedrock は現在、Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Multimodal Embeddings、Amazon Titan Image Generator（プレビュー版）とともに、Cohere Command と Meta Llama 2 向けのフルマネージドによるファインチューニングをサポートしています。さらに、AWS のお客様は間もなく、自社のデータソースで Claude 2 のパフォーマンスをファインチューニングできるようになります。モデルをファインチューニングするには、まずモデルを選択し、Amazon Bedrock を使用してそのモデルのコピーを作成します。次に、Amazon Simple Storage Service（Amazon S3）内のラベル付きの例を指定します。Amazon Bedrock は、これらの例に基づいてモデルを段階的に学習させ（コピーしたモデルに新しい情報を追加）、その結果、より関連性の高いカスタマイズされた応答を返す、プライベートかつ正確でファインチューニングされたモデルを得ることができます。顧客データは転送中も保管中も暗号化されるため、機密性の高い顧客データはすべて安全に保たれます。AWS とサードパーティのモデルプロバイダーは、Amazon Bedrock からの入力や出力をベースモデルの学習に使用することはありません。

Agents for Amazon Bedrock により、生成系 AI アプリケーションは、企業の既存システムとデータソースを利用して複数ステップのタスクの実行が可能に
モデルは会話や新しいコンテンツの作成に適していますが、さらにアクションを起こす、問題を解決する、各種システムと連動して複数ステップにわたるタスク（旅行の予約や交換部品の注文など）をこなすなどができるようになれば、より大きな価値を提供できます。しかし、そのためにはモデルを社内のデータソース、API、社内外のシステムと接続するための統合作業が必要です。開発者は、アプリケーションが一連の API コールを論理的な順序で実行できるように、モデル、システム、ユーザー間の連携を調整するコードを作成する必要があります。モデルをデータソースに接続するには、RAG を実装する必要があります。最後に、必要なインフラを準備・管理し、データセキュリティポリシーとプライバシーポリシーを策定する必要があります。このような手順には時間がかかり、専門知識を必要とするため、生成系 AI アプリケーションの開発は遅れがちです。

今回、一般提供を開始したフルマネージド型サービスである Agents for Amazon Bedrock により、生成系 AI アプリケーションは、企業システムとデータソースを利用して複数ステップのタスクの実行が可能になります。Agents は、商品在庫に関する問い合わせへの回答や注文の受付など、ほとんどの業務タスクを計画して実行できます。ユーザーは、簡単な設定プロセスで Agents を作成できます。最初に対象のモデルを選択し、自然言語でいくつかの指示（例：「あなたは朗らかなカスタマーサービス担当者です」や「在庫システムで商品の在庫状況を確認してください」）を記述し、社内のエンタープライズシステムやナレッジベースへのアクセスを付与します。Agents はリクエストを分析し、それを論理的なシーケンスに分解し、モデルの推論機能を使用して必要な情報を判断します。次に、Agents は呼び出す API を特定し、リクエストを達成するために呼び出すタイミングを決定することでアクションを実行します。また、Agents は、独自のデータソースから必要な情報も取得して、正確かつ適切な応答を返します。Agents はこのプロセスを毎回バックグラウンドで安全かつ非公開で実行するため、ユーザーはプロンプトの作成や、セッションコンテキストの管理、システムの調整を手作業で行う必要がなくなります。Agents for Amazon Bedrock を利用することで、生成系 AI アプリケーションの開発精度とスピードを向上することが可能になります。

Guardrails for Amazon Bedrock により、アプリケーションの要件と責任ある AI ポリシーに基づき、モデル全体にセーフガードの実装が可能に
お客様は、適切で安全なユーザー体験を実現するため、生成系 AI アプリケーション内のインタラクションを管理する必要性を認識されています。多くのモデルは、組み込み型のコントロールを利用することにより望ましくない有害なコンテンツをフィルタリングしますが、インタラクションをさらにカスタマイズして、生成するコンテンツを事業内容に関連するトピックに限ったり、社内ポリシーに沿って、責任ある AI の原則を遵守できるようにしたいと考えています。銀行を例に挙げると、オンラインアシスタントに対し、投資アドバイスの提供を控える、競合他社に関する問い合わせを避ける、有害なコンテンツを制限するといった条件を設定することが考えられます。その他の例としては、カスタマーサービスへの問い合わせ後、個人を特定できる情報（PII）を通話記録から編集するといったニーズも考えられます。また、組織でモデルの変更、複数モデルの使用、あるいはアプリケーション間でのポリシーの複製が必要な場合には、これらすべての範囲で一貫した設定を展開する簡単な方法が求められます。このようなセーフガードを備えた、個々のお客様の要望にあった保護システムを構築し、アプリケーションに統合するには深い専門知識が必要であり、そのプロセスには数か月かかることもあります。このため、適切なユーザー体験を提供し、テクノロジー利用の安全性を高めるために、生成系 AI アプリケーションにおいて重要なポリシーとルールを確実に適用するための合理的な方法が求められています。

今回、プレビュー版の提供を開始した Guardrails for Amazon Bedrock では、企業がユースケースと責任ある AI の原則に沿ってカスタマイズされた生成系 AI アプリケーションにセーフガードを実装し、ユーザーインタラクションの安全性とプライバシーを強化できるようになっています。Guardrailsは、Amazon Bedrock のモデルがアプリケーション内の望ましくない有害なコンテンツに対応する際の一貫性を高めます。Guardrails はまた、Amazon Bedrock のすべての大規模言語モデルのほか、ファインチューニングされたモデルにも、Agents for Amazon Bedrock と組み合わせている場合にも適用可能です。Amazon Bedrock コンソール上で Guardrails を作成するには、最初に自然言語の記述で、アプリケーションのコンテキスト内で拒否するトピックを定義します。また、ヘイトスピーチ、侮辱、性的表現、暴力などの限界値を設定して、有害なコンテンツを所定のレベルまで除外することが可能です。2024 年初頭には、モデルの応答内にある PII の編集、冒涜的な表現の除外、ユーザー / モデル間のインタラクションをブロックするカスタム用語リストの提供が可能になります。Guardrails は、ユーザークエリとモデル応答の両方を自動的に評価し、制限されたカテゴリに該当するコンテンツを検出してブロックします。さまざまなユースケースをサポートする複数のGuardrailsを作成し、複数のモデルに同じ Guardrails を適用することも可能です。Guardrails for Amazon Bedrock が一貫したユーザー 体験を提供し、生成系 AI アプリケーション全体で安全性とプライバシーの管理を標準化することで、ユーザー企業は安全にイノベーションを進めることができます。

お客様コメント

Dentsu Group
Dentsu Group は、マーケティングとテクノロジーの統合サービスを提供する世界最大級の企業です。同社イノベーション＆エマージングテクノロジーズ担当エグゼクティブバイスプレジデントである Brian Klochkoff 氏は次のように述べています。
「私たちはマーケティング、テクノロジー、コンサルティングの融合に取り組み、社会をより良いものにしたいと考えるブランド企業のため人を中心とした変革を推進しています。こうしたなか、生成系 AI は世界中の 72,000 人の社員を置き換えるのではなく、力づけることで、お客様にスケールとスピード感をもってサービスを提供する、私たちの能力を変えています。特に、Amazon Bedrock は、当社のプロダクトチームとエンジニアリングチーム全体で分散して使用するサードパーティの基盤モデルを展開する上で必要となるエンタープライズコントロールと使いやすさを提供してくれています。これにより、私たちのチームは、安全で責任ある環境で、最新かつ最高の生成系AIを使ってイノベーションを起こし、クライアントのために最先端の機会を生み出すことができます」


※抄訳版注釈
Blueshift、Druva、GoDaddy 、INRIX 、MongoDB、OfferUp、Salesforce、SmartBots AI 及び TTEC Digital 各社コメントに関しては、本社発表プレスリリースをご参照ください。