Category: Generative AI

株式会社オルツは、軽量型大規模言語モデル LHTM-OPT (ラートム・オプト) を 2023 年 10 月にリリースし、2024年3月に、AWS Marketplace 上における日本語 LLM として世界初公開しました。本記事では、AWS Marketplace に出品されている LHTM-OPT を Amazon SageMaker にデプロイして推論を実行する方法を紹介します。

Custom Model Import は、特定のタイプのモデルを Amazon Bedrock の InvokeModel API で実行できるようにインポートする機能であり、取り込んだモデルは他のモデルと同様にサーバーレスの形式で呼び出すことができるようになります。本稿では、Custom Model Import on Amazon Bedrock について深掘りし、利用手順や、実際に日本語 LLM をインポートした検証結果を紹介します。

生成 AI は、組織の働き方を一変させるほどの革新をもたらしています。お客様は生成 AI 戦略の成功に必要な専門知識を求めており、AWS はこのニーズに応えるため、AWS 生成 AI コンピテンシーを発表しました。これは、お客様の生成 AI ソリューション導入を支援しするパートナーの専門性を検証するものです。認定されたパートナーは、幅広い業界で革新的なアプリケーションを構築・導入する深い専門知識を持っています。AWS は、お客様が適切なパートナーを見つけられるようにすることで、生成 AI の価値を最大限に引き出せるよう尽力しています。

アマゾン ウェブ サービス (AWS) は、生成系 AI の普及を目指して、AWS パートナーとの取り組みを積極的に推進しています。本稿では、その取り組みの一環として、AWS のプレミアティアサービスパートナー、かつ、IoT コンピテンシーパートナーである富士ソフト株式会社による生成系 AI サービスの検証結果とソリューションを紹介します。なお、本文中に登場する AWS サービスの性能評価やコストに関する部分は、富士ソフトによる実施と評価に基づいています。