Amazon Bedrock ahora es compatible con SpaceXai Grok 4.6 con inferencia interregional
Amazon Bedrock ahora es compatible con SpaceXai Grok 4.6, un modelo de frontera creado para la codificación, las tareas de agencia y el trabajo de conocimiento, con inferencias interregionales globales y geográficas de EE. UU. Los clientes ahora pueden acceder a Grok 4.6 a escala con solicitudes de enrutamiento de inferencia entre regiones en varias regiones de AWS para aumentar el rendimiento y reducir los costos de inferencia.
La inferencia entre regiones enruta automáticamente las solicitudes de inferencia entre varias regiones de AWS para ofrecerle un mayor rendimiento, sin necesidad de administrar la capacidad en varias regiones. El perfil de inferencia geográfica de EE. UU. (us.xai.grok-4.6) dirige las solicitudes solo dentro de la geografía de EE. UU., por lo que puede escalar sin dejar de procesar los datos en los Estados Unidos para cumplir con los requisitos de residencia de los datos. El perfil de inferencia global (global.xai.grok-4.6) atiende las solicitudes de cualquier región comercial de AWS en la que está disponible el modelo. Esto brinda el acceso más amplio a la capacidad de Bedrock y el mayor rendimiento durante los picos de demanda, a un costo por token más bajo. El modelo se ejecuta en el punto de conexión bedrock-runtime y es compatible con las API Responses, Chat Completions y Converse. Funciona con los mismos controles a nivel de cuenta que ya utiliza para otros modelos en Bedrock, incluido el registro de invocaciones de modelos (que se puede entregar en Amazon S3 o los Registros de Amazon CloudWatch), las métricas de Amazon CloudWatch y el detalle de costos en el Explorador de costos de AWS y el informe de costo y uso de AWS.
La inferencia interregional para Grok 4.6 está disponible en todas las regiones de AWS en las que se ofrece Amazon Bedrock. Para empezar, consulte la ficha del modelo para Grok 4.6 en la Guía del usuario de Amazon Bedrock.