みなさん、こんにちは。AWS ソリューションアーキテクトの小林です。

11 月 15 日に、「生成AI Frontier Meet Up」というイベントを開催しました。このイベントは「AWSジャパン生成AI実用化推進プログラム」の一環として開催したもので、様々な課題を独自のモデル開発によって解決しようとするお客様、公開モデルを利用することで解決しようとするお客様の両方に登壇をいただき、取り組みの概要や現在のチャレンジについて共有をいただきました。また、このイベントには経済産業省が展開するGENIAC(Generative AI Accelerator Challenge)に採択された企業の方もお招きし、同様に取り組みの内容を共有いただいています。開催概要とレポートをブログにまとめていますので、ぜひご覧ください。

「AWSジャパン生成AI実用化推進プログラム」のお申し込みも引き続き募集しています。締め切りを延長し11月22日までとしていましたが、多くのお客様から「もっと時間がほしい」というご相談をいただいています。お客様の熱い声にお応えする形で、2025 年 2 月 14 日まで申し込み締め切りを延長することにしました。3月末までに開発完了するというスケジュール感は同じですので、興味のある方はお早めにお知らせくださいね。

それでは、11 月 18 日週の生成AI with AWS界隈のニュースを見ていくのですが、さすがre:Invent直前ということもありすごい物量です。でもこれはまだ序の口。re:Invent期間中は（まだ私も知らないのですが、きっと）すごいアップデートが生成AI関係はもちろん、それ以外にも発表される見込みです。ぜひAWS Blackbelt Online Seminer re:Invent特集号で、一気にキャッチアップしてください。今年はYoutubeの仕組みを使って登録不要でご覧いただけますが、「通知を受け取る」をクリックしてお見逃しないようにご注意を。

さまざまなニュース

• • AmazonとAnthropicの戦略的コラボレーションの深化を発表
    昨年9月に発表したAmazonとAnthropicの戦略的コラボレーションですが、今回これをさらに深めるという発表を行いました。これに伴ってAmazonはAnthropicに追加で40億米ドルの投資を行い、AnthropicはAmazonをPrimary Training partnerと位置づけて最大規模の基盤モデルをAWS Trainiumを利用してトレーニング・デプロイするという計画が発表されています。詳細についてはぜひリンク先でご確認ください。
  • ブログ記事「
    Amazon Bedrock Agents を使用して堅牢な生成 AI アプリケーションを構築するためのベストプラクティス」を公開
    この記事では、Amazon Bedrock Agentsを利用して生成AIアプリケーションを構築するためのベストプラクティスを解説します。生成AIアプリケーションにおいて注目されているのがエージェントです。解決のために複数のステップが必要な複雑なタスクを処理できるようにするものですが、それを開発するためにはいくつかの留意点があります。この記事ではエージェントの開発のために必要なポイントを解説していますので、ぜひご覧ください。(2部構成になっています。第2部はこちら)
  • ブログ記事「臨床生成 AI ワークフローの AWS Step Functions による オーケストレーション」を公開
    生成AI技術の応用が期待されている分野のひとつとして、医療分野があります。生成AIを活用することで患者さんによりよいケアを提供したり、臨床業務を効率化することが期待されています。このブログ記事では、臨床現場で利用する生成AIアプリケーションをAWS Step Functionsによるオーケストレーション機能を利用して開発する方法について解説しています。

サービスアップデート – 生成AIを組み込んだ構築済みアプリケーション

• • AWS Management ConsoleにおけるAmazon Q Developerでコンテキストを考慮した応答が可能に
    AWS Management ConsoleにはAmazon Q Developerが組み込まれており、ユーザはいつでもAIアシスタントに質問することが可能です。今回、このAmazon Q Developerの機能が強化され、現在表示しているページに基づいて、コンテキストに応じた応答を返せるようになりました。つまり、ユーザの関心事により適した応答が得られるようになったということですので、ぜひ一度試してみてください。
  • Amazon Q Businessがドキュメントに埋め込まれた表の情報に基づく回答に対応
    Amazon Q Businessがドキュメントに埋め込まれた表(テーブル)に含まれる情報からの回答をサポートしました。ドキュメントには価格表や製品仕様表など、表形式で重要なデータが表現されている場合があります。今回のアップデートにより、Amazon Q Businessが表の情報を適切に収集・整理して、ユーザからの問い合わせの回答に利用できるようになりました。
  • Amazon Q Businessがユーザ対応において過去にアップロードされたファイルの再利用に対応
    Amazon Q Businessでは、ユーザの求めに応じてアップロードされたファイルの要約や回答を行うことが可能です。今回のアップデートで、過去にアップロードしたファイルを新しい会話セッションの中で再利用できるようになりました。あるやりとりが完結した後に、改めて同じファイルに対して質問する場合に再度アップロードすることなく、AIアシスタントとの対話を開始することが可能です。
  • Amazon Q Businessのブラウザ拡張機能が利用可能に
    Amazon Q Businessのブラウザ拡張機能が利用できるようになりました。Google Chrome, Mozilla Firefox, Microsoft Edgeが対象になっており、Webページの要約やコンテンツに対する質問など、大規模言語モデルの活用をブラウザ内から直接実行できるようになります。
  • Amazon Q BusinessでGoogle Calnederとのインテグレーション機能のプレビューを開始
    Amazon Q BusinessでGoogleカレンダーへのコネクタが利用できるようになりました。今回のアップデートによって、従来からサポートされていたGoogleドライブやGmailに加えてカレンダーについてもAmazon Q Businessでカバーできるようになりました。
  • Amazon Q BusinessでAsanaとのインテグレーション機能のプレビューを開始
    Amazon Q BusinessでAsanaへのコネクタを利用できるようになりました。ご存じの方も多いかもしれませんが、Asanaはエンタープライズ企業で多く利用されるタスク管理プラットフォームで、Amazon Q BusinessがAsanaのデータについてもインデックス化して、プロジェクトのコンテキストに基づいた質問への回答や要約の生成が可能になります。
  • Amazon Q BusinessのSmartsheet向けコネクタが一般利用開始に
    Amazon Q BusinessでSmartsheetと連携するためのコネクタが一般利用開始になりました。Smartsheetは作業管理プラットフォームで、このコネクタを利用することでAmazon Q BusinessがSmartsheetで管理されるプロジェクトやタスクに関する情報に基づいて応答できるようになります。
  • Amazon Q Developer in AWS Chatbotが一般利用開始に
    Amazon Q Developer in AWS Chatbotが一般利用開始になりました。この機能を利用するとSlackやMicrosoft TeamsでAWSリソースに関する質問に回答できます。例えば、「@aws show ec2 instances running state in us-east1(us-east1で稼働中のEC2インスタンスを表示してください)」といったクエリを、チャットツールの中で実行して結果を得ることができます。
  • Amazon Q Developer Chat Customizationsが一般利用開始に
    Amazon Q Developerのチャットカスタマイズ機能が一般利用開始になりました。Amazon Q Developerをプライベートなコードベースと安全に接続することにより、組織内のAPIやライブラリ、クラス、メソッドなどを考慮したより適切な応答を得ることができるようになります。
  • AWS App Studioが一般利用開始に
    AWS App Studioが一般利用開始になりました。生成AIの技術を活用することによって、自然言語で必要なビジネスロジックやUIを指示するとApp Studioがそれを解釈してアプリケーションを作成することができるサービスです。Amazon S3やAmazon AuroraをはじめとするAWSのサービスや、SalesforceやZendeskなどと連携するコネクタも用意されており外部とのデータ連携も容易に実現できるのもポイントです。
  • AWS Console Mobile AppでAmazon QによるAWS Account Resource chatが利用可能に
    AWS Console Mobile AppでもAmazon Q Developerが提供するアカウントのリソースに関するチャット機能がご利用いただけるようになりました。デバイスの音声入出機能と組み合わせて利用することも可能です。モバイルアプリから利用する場合、Amaozn Qはモバイルデバイスでも見やすい形式でデータを出力するようになっていますので、ぜひ試してみてください。

サービスアップデート – アプリケーション開発のためのツール

• • Amazon Bedrockのプロンプト最適化機能のプレビューを開始
    Amazon Bedrockのプロンプト最適化機能のプレビュー開始を発表しました。基盤モデルから適切な応答を得るためには、適切なプロンプトを与えることが必要です。プロンプトは利用するモデルごとにベストプラクティスやガイドラインが用意されており、最良の結果をえるにはそれに従う必要があります。Bedrockのプロンプト最適化機能は、利用する基盤モデルの種類に応じてプロンプトを書き換えることでモデルに応じた最適化を実行します。元のプロンプトと最適化後のものは容易に比較することができ、アプリケーションで再利用できるように保存することが可能です。
  • Amazon BedrockのTitan Text EmbeddingsがBinary Embeddingsに対応
    Amazon Titan Text Embeddings v2がBinary Embeddingsをサポートしました。Titan Text Embeddingsは入力されたデータを1,024/512/256次元のベクトル値に変換します。ベクトル値を構成する各次元のデータを小数ではなく0/1のバイナリで表現することでデータ量を削減することで、検索拡張生成(RAG)をはじめとする生成AIアプリケーションで利用されるベクトルデータベースへの負荷を軽減し、コスト効率の向上が期待できます。
  • Amazon Bedrock Knowledge BasesがBinary Bector EmbeddingsによるRAGをサポート
    Amazon Bedrock Knowledge BasesでTitan Text Embeddings V2とCohere Embedを利用したバイナリの埋め込み形式データを利用して、RAGを構築できるようになりました。特に大規模なユースケースにおいて、ストレージ効率や応答速度、スケーラビリティの向上によるメリットが期待できる選択肢となります。
  • Amazon Bedrock Flowsが一般利用開始になり2つの機能追加を発表
    Amazon Bedrock Flows(Prompt Flowsから名前が変わりました)が一般利用開始になるとともに、2つの重要な機能追加が行われました。Amazon Bedrock Flowsを利用すると基盤モデルを中心とし、プロンプトやエージェント、ナレッジベースなど様々なAWSサービスが関与する生成AIワークフローをビジュアルビルダーで素早く開発できます。今回の機能追加でGuardrailsによる保護と、追跡可能性の強化が行われています。詳細はブログ記事をご確認ください。
  • Amazon Bedrock Model Evaluationがソウルのリージョンでもご利用可能に
    Amazon Bedrockのモデル評価機能がアジアパシフィック(ソウル)のリージョンでもご利用いただけるようになりました。

サービスアップデート – 生成AI開発のためのインフラストラクチャー

• • Amazon EC2 G6eインスタンスが東京リージョンでも利用可能に
    Amazon EC2 G6eインスタンスが東京・フランクフルト・スペインのリージョンでご利用いただけるようになりました。G6eはNVIDIA L40S Tensor Core GPUを搭載し、G5と比較して2.5倍の性能を発揮するとともに、P4dと比較して20%安価に推論ワークロードを実行可能です。

サービスアップデート – その他関連アップデート

• • Amazon OpenSearch Serverlessがコスト節約を可能にするBinary VectorとFP16をサポート
    Amazon OpenSerach Serverlessでメモリ要求量を減らすことで費用の節約につながる、Binary vectorとFP16をサポートしました。費用の節約と同時にレイテンシーの削減も期待できます。生成AIを組み込んだアプリケーションではベクトルデータベースを必要とするケースがありますが、蓄積する情報量が多くなればなるほどベクトルデータベースの費用が増加します。検索精度とのトレードオフな部分はありますが、この機能を利用することで用途に応じてコストと精度のバランスを調整することが可能になるのがポイントです。
  • Amazon OpenSearch ServiceのベクトルエンジンがUltraWarmをサポート
    Amazon OpenSearch ServiceのUltraWarmは、大量のデータを削除することなくアクセス可能な状態でコスト効率高く保存するためのウォームストレージです。今回、k-NNインデックスのデータをUltraWarmに保存できるようになりました。ウォームストレージは通常の(ホットな)ストレージと比較してパフォーマンスは落ちますが保管コストが大幅に安価になるので、頻繁に使わない(でも保存しておいて必要に応じて即時アクセスしたい)データを格納するのに最適です。
  • AWS Glueで生成AIによるApache Sparkのアップグレード機能をプレビュー開始
    AWS Glueはサーバレスなデータ統合サービスでいわゆるETL処理を容易に実行することができます。ETLジョブはSparkを利用して実行することも可能なのですが、今回新たに生成AIの技術を活用して古いバージョンのSparkジョブを自動的に最新バージョン向けにアップグレードできるようになりました。
  • AWS Glueで生成AIによるApache Sparkのトラブルシュート機能をプレビュー開始
    AWS GlueでApache SparkによるETLジョブに対して、生成AIを活用してトラブルシュートを行う機能が利用できるようになりました。Sparkジョブで発生した問題の原因分析と、解決のための推奨事項を自動的に提示することで、問題解決を加速します。
  • AWS AmplifyのAI Kit for Amazon Bedrockを発表
    AWS Amplify AI Kit for Amazon Bedrockを発表しました。これは開発者の方が、チャットや会話型検索、要約などの機能を備えたアプリケーションを素早く開発できるようにする仕組みです。JavaScript, TypeScritと、React, Node.jsなどの知識があれば機械学習に関する専門知識がなくとも、アプリケーションにAIベースのエクスペリエンスを容易に追加することができます。
  • AWS re:Post PrivateがAmazon Bedrockとインテグレーションされコンテキストにそった知識を組織内に展開可能に
    AWS re:Post Privateは、AWSに関する情報やQ&Aが可能なコミュニティサイトのプライベート版です。今回このre:Post PrivateがAmazon Bedrockとインテグレーションされました。組織内の情報とAWSに関するナレッジを重ね合わせて、組織ごとのルールや慣習をふまえた回答を生成するようになるため、組織内の知見の有効活用にもつながることが期待できます。

著者について