Los modelos GPT OSS de OpenAI y Nemotron de NVIDIA están disponibles en Amazon Bedrock en AWS GovCloud (EE. UU.)
Amazon Bedrock ahora admite los modelos de peso abierto GPT OSS de OpenAI (120B y 20B) y los modelos Nemotron de NVIDIA (Nano 9B v2, Nano 12B v2, Nano 30B, Super 120B). De esta manera, se amplía su capacidad de crear y escalar aplicaciones de IA generativa con diversos modelos fundacionales de alto rendimiento. Esto ofrece la flexibilidad de aprovechar los últimos modelos de OpenAI y NVIDIA junto con otros modelos de IA líderes a través de una API única y unificada, lo que le permite seleccionar el mejor modelo para cada caso de uso específico sin cambiar el código de la aplicación.
Los modelos GPT OSS de OpenAI ofrecen potentes capacidades de comprensión y generación de idiomas con arquitecturas de peso abierto. Así, las empresas pueden crear aplicaciones de IA sofisticadas con transparencia y flexibilidad. Los modelos Nemotron de NVIDIA ofrecen capacidades de modelo de lenguaje pequeño (SLM) y modelo de lenguaje de gran tamaño (LLM) que proporcionan una alta eficiencia y precisión de procesamiento que los desarrolladores pueden utilizar para crear sistemas de IA agéntica. Los modelos son totalmente abiertos con arquitecturas de peso abierto, conjuntos de datos y recetas que facilitan la transparencia y la confianza de desarrolladores y empresas.
Estos modelos funcionan con Mantle, un nuevo motor de inferencia distribuida para servir modelos de machine learning a gran escala en Amazon Bedrock. Mantle simplifica y acelera la incorporación de nuevos modelos en Amazon Bedrock, ofrece inferencias sin servidor de gran fiabilidad y alto rendimiento con controles sofisticados de calidad del servicio, permite límites de uso predeterminados más altos con una administración de capacidad automatizada y grupos unificados, además de compatibilidad lista para usar con las especificaciones de las API de OpenAI. Con los modelos GPT OSS de OpenAI y Nemotron de NVIDIA disponibles en Amazon Bedrock en la región AWS GovCloud (EE. UU.), puede acelerar la innovación y, al mismo tiempo, beneficiarse de las funciones de seguridad de nivel empresarial, escalado sin inconvenientes y optimización de costos de AWS que cumpla con las normativas.
Los modelos GPT OSS de OpenAI y Nemotron de NVIDIA ya están disponibles en Amazon Bedrock en las regiones de AWS GovCloud (EE. UU.). Para obtener más información y comenzar, visite la consola de Amazon Bedrock o la página de documentación del servicio Bedrock.