Amazon Web Services ブログ

Category: Generative AI

AWS Trainium、AWS Inferentia が AWS 上の Llama 3.1 モデルに高性能と低コストを提供

本日、AWS Trainium と AWS Inferentia による Llama 3.1 モデルのファインチューニングと推論のサポートを発表できることを嬉しく思います。Llama 3.1 ファミリーは、8B(80億)、70B(700億)、405B(4,050億)サイズの事前学習およびインストラクションチューニング済みの多言語大規模言語モデル(LLM)のコレクションです。
以前の投稿では、Amazon SageMaker JumpStart で AWS Trainium と Inferentia ベースのインスタンスに Llama 3 モデルをデプロイする方法について解説しました。今回の投稿では、AWS AI チップ上で そのコストパフォーマンスの利点と共に Llama 3.1 ファミリーのモデルのファインチューニング及びデプロイを実現する方法について概説します。

【開催報告】 オンライン化によって進化する次世代自販機のご紹介

2024 年 6 月 20 日、21 日に開催された AWS Summit Japan の展示から、「新価格体験を実現する次世代自販機」をご紹介します。この展示では、消費財企業にとって重要な Direct to Consumer の販売チャンネルである自販機をオンライン化することによって進化させて、在庫や周囲環境の状況に合わせて販売価格を最適化するダイナミックプライシングのアイデアを紹介しました。

スキャンしたPDFをAmazon Q Businessで利用し、生産性を向上させる

Amazon Q Business は、生成 AI 対話アシスタントであり、企業のデータソースに格納されたデジタルコンテンツだけでなくスキャンした PDF からも、事前のテキスト抽出をせずとも直接質問に答えたり、要約を作成したり、コンテンツを生成したり、インサイトを発見することが可能になりました。本記事では、Amazon Q Business を使用し、スキャンした PDF ドキュメントを非同期でインデックス化、リアルタイムでクエリを実行する方法を説明します。

セゾンテクノロジー様の AWS 生成 AI 事例:Amazon Bedrock を活用してサポートエンジニアの回答作成時間を最大 30 % 短縮

セゾンテクノロジーは、「世界中のデータをつなぎ、誰もがデータを活用できる社会を作る」というミッションを掲げています。自社製品である「HULFT(ハルフト)」は、国内外で広く活用されるデータ連携製品へと進化し、近年はポートフォリオをさらに拡充させています。昨今急速に進化をしている生成 AI は企業ミッションとも親和性が高く、セゾンテクノロジー内では個人やプロジェクト、チーム単位で活用方法を模索する動きが活発化していました。そこで、各部門に分散していた生成 AI の知見を集約し発展を加速させるため、全社横断的な研究会である LLM Mavericks を設置し、生成 AI の研究や活用に取り組んでいます。

本ブログでは、LLM Mavericks の活動の一環として、Amazon Bedrock を活用した AI チャットボットを HULFT 製品のテクニカルサポートセンターに導入した事例について解説します。なお、本事例は 2024 年の AWS Summit Japan の基調講演でも取り上げられました。

Amazon Bedrock による予知保全の強化

この技術ブログでは、AWS IoT SiteWise、Amazon Lookout for Equipment、Amazon Bedrock の統合による高度な産業分析システムの構成について説明します。焦点は、発生する機器の故障の検出、関連マニュアルの取得、包括的なメンテナンス計画の作成です。目標は、稼働時間を最大化し、生産性を高め、コストを削減し、工場やプラントの運営効率を飛躍的に高めることです。