NVIDIA Nemotron 3 Nano が Amazon Bedrock で利用可能に
Amazon Bedrock では、NVIDIA Nemotron 3 Nano 30B A3B モデルをサポートするようになりました。これは、NVIDIA の効率的な言語モデリングにおける最新のブレークスルーであり、高い推論パフォーマンス、ネイティブツール呼び出しのサポート、256k トークンのコンテキストウィンドウを備えた、拡張されたコンテキスト処理を実現しています。このモデルは、効率的なハイブリッド型の Mixture-of-Experts (MoE) アーキテクチャを採用しており、大規模モデルの深い推論能力を維持しながら、エージェントワークロードやコーディングワークロードにおいて従来のモデルよりも高いスループットを確保しています。高度な強化学習技術と大規模なマルチ環境ポストトレーニングにより、明示的な推論制御とより高い精度を実現するこのモデルは、マルチエージェントワークフロー、開発生産性向上ツール、プロセスの自動化、科学的および数学的な推論分析機能などを構築する企業、スタートアップ、個人のデベロッパーに最適です。
Amazon Bedrock の NVIDIA Nemotron 3 Nano は、Amazon Bedrock で提供される大規模な機械学習モデル用の新しい分散型推論エンジンである Project Mantle 上で動作します。Project Mantle は、Amazon Bedrock への新しいモデルのオンボーディングを簡素化および迅速化し、高度なサービス品質管理による高性能で信頼性の高いサーバーレス推論を提供し、自動容量管理と統合プールによってデフォルトのカスタマークォータを増やし、OpenAI API 仕様とのすぐに使用できる互換性を提供します。
NVIDIA Nemotron 3 Nano は現在、米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン)、アジアパシフィック (東京)、アジアパシフィック (ムンバイ)、南米 (サンパウロ)、欧州 (ロンドン)、欧州 (ミラノ) の AWS リージョンの Amazon Bedrock で利用でき、Amazon Bedrock の統合 API サービスエンドポイントと OpenAI API 互換サービスエンドポイントの両方をサポートしています。詳細および開始方法については、Amazon Bedrock コンソールまたはサービスに関するこちらのドキュメントをご覧ください。Amazon Bedrock OpenAI API 互換サービスエンドポイントの使用方法については、こちらのドキュメントをご覧ください。