Modelos OpenAI GPT OSS e NVIDIA Nemotron disponíveis no Amazon Bedrock na AWS GovCloud (EUA)
O Amazon Bedrock agora oferece suporte aos modelos GPT OSS de peso aberto da OpenAI (120B e 20B) e aos modelos NVIDIA Nemotron (Nano 9B v2, Nano 12B v2, Nano 30B, Super 120B), o que amplia sua capacidade de criar e escalar aplicações de IA generativa com modelos de base diversos e de alta performance. Isso oferece a flexibilidade de aproveitar os modelos mais recentes da OpenAI e da NVIDIA junto com outros modelos líderes de IA por meio de uma API única e unificada, o que permite selecionar o melhor modelo para cada caso de uso específico sem alterar o código da aplicação.
Os modelos OpenAI GPT OSS oferecem recursos poderosos de compreensão e geração de linguagem com arquiteturas de pesos abertos, o que permite às empresas criar aplicações sofisticadas de IA com transparência e flexibilidade. Os modelos NVIDIA Nemotron oferecem recursos de pequeno modelo de linguagem (SLM) e grande modelo de linguagem (LLM), para entregar alta eficiência e precisão de computação que os desenvolvedores podem usar para criar sistemas especializados de IA agêntica. Os modelos são totalmente abertos, com pesos abertos, conjuntos de dados e instruções de treinamento, o que promove transparência e confiança para desenvolvedores e empresas.
Esses modelos foram desenvolvidos pelo Mantle, um novo mecanismo de inferência distribuída para um modelo de machine learning em grande escala que funciona no Amazon Bedrock. O Mantle simplifica e agiliza a integração de novos modelos no Amazon Bedrock, fornece inferência sem servidor confiável e de alta performance com controles sofisticados de qualidade de serviço, libera cotas padrão mais altas de clientes com gerenciamento automatizado de capacidade e pools unificados e oferece compatibilidade imediata com as especificações da API da OpenAI. Com os modelos OpenAI GPT OSS e NVIDIA Nemotron disponíveis no Amazon Bedrock na região AWS GovCloud (EUA), você pode acelerar a inovação enquanto se beneficia dos recursos de segurança de nível empresarial, escalabilidade perfeita e otimização de custos da AWS, tudo em conformidade com os requisitos do ambiente.
Os modelos OpenAI GPT OSS e NVIDIA Nemotron estão disponíveis hoje no Amazon Bedrock nas regiões AWS GovCloud (EUA). Para saber mais e começar a usá-los, acesse o console do Amazon Bedrock ou a página da documentação do serviço do Amazon Bedrock.