NVIDIA Nemotron 3 Nano artık Amazon Bedrock'ta
Amazon Bedrock artık NVIDIA Nemotron 3 Nano 30B A3B modelini destekliyor. Bu model yüksek akıl yürütme performansı, yerel araç çağırma desteği ve 256k belirteç bağlam penceresi ile genişletilmiş bağlam işleme sağlar. Model, kendinden daha büyük modelin akıl yürütme derinliğine sahiptir ve temsilci ve kodlama iş yüklerine önceki modellerden daha yüksek aktarım hızı sağlamak için verimli bir hibrit Uzmanlar Karışımı (MoE) mimarisi kullanır. Açık akıl yürütme kontrolleri, gelişmiş pekiştirmeli öğrenme teknikleri ve ölçekte çok ortamlı eğitim sonrası eğitim ile sağlanan daha yüksek doğruluk ile bu model, çok temsilcili iş akışları, geliştirici üretkenlik araçları, süreç otomasyonu ve diğerleri arasında bilimsel ve matematiksel akıl yürütme analizi oluşturan işletmeler, startuplar ve bireysel geliştiriciler için idealdir.
Amazon Bedrock'ta NVIDIA Nemotron 3 Nano, hizmet veren büyük ölçekli makine öğrenimi modeli için yeni dağıtılmış Project Mantle çıkarım motoru tarafından desteklenen tüm Amazon Bedrock modellerinde kullanılabilir. Project Mantle, Amazon Bedrock'a yeni modellerin alınmasını kolaylaştırır ve hızlandırır, gelişmiş hizmet kalitesi denetimleriyle yüksek performanslı ve güvenilir sunucusuz çıkarım sağlar, otomatik kapasite yönetimi ve birleşik havuzlarla varsayılan müşteri kotalarını artırır ve OpenAI API teknik özellikleriyle kullanıma hazır uyumluluk sağlar.
NVIDIA Nemotron 3 Nano bugünden itibaren ABD Doğu (Kuzey Virginia), ABD Doğu (Ohio), ABD Batı (Oregon), Asya Pasifik (Tokyo), Asya Pasifik (Mumbai), Güney Amerika (Sao Paulo), Avrupa (Londra) ve Avrupa (Milano) AWS Bölgelerinde Amazon Bedrock'ta mevcuttur ve Amazon Bedrock'ta hem birleşik hem de OpenAI API uyumlu hizmet uç noktalarını destekler. Daha fazla bilgi edinmek ve başlamak için Amazon Bedrock konsolunu veya buradaki servis belgelerini ziyaret edin. Amazon Bedrock OpenAI API uyumlu hizmet uç noktalarını kullanmaya başlamak için buradaki belgeleri ziyaret edin.