Presentamos la versión preliminar de Optimización de peticiones en Amazon Bedrock
Hoy anunciamos el lanzamiento de la versión preliminar de Optimización de peticiones en Amazon Bedrock. Optimización de peticiones reescribe las peticiones para obtener respuestas de mayor calidad a partir de los modelos fundamentales.
La ingeniería de peticiones es el proceso de diseño de peticiones para guiar los modelos fundamentales para generar respuestas relevantes. Estas peticiones deben adaptarse a cada modelo fundamental específico, siguiendo las mejores prácticas y directrices para cada modelo. Los desarrolladores ahora pueden usar Optimización de peticiones en Amazon Bedrock para reescribir sus peticiones y mejorar el rendimiento en los modelos Claude Sonnet 3.5, Claude Sonnet, Claude Opus, Claude Haiku, Llama 3 70B, Llama 3.1 70B, Mistral Large 2 y Titan Text Premier. Los desarrolladores pueden comparar fácilmente el rendimiento de las peticiones optimizadas con las peticiones originales sin necesidad de ningún despliegue. Todas las peticiones optimizadas se guardan como parte del Generador de peticiones para que los desarrolladores las utilicen en sus aplicaciones de IA generativas.
Optimización de peticiones de Amazon Bedrock ya está disponible en versión preliminar. Obtenga más información aquí.