El modelo Beam de Reflection ya está disponible en Amazon SageMaker JumpStart y AWS Trainium
Beam, el primer modelo de peso libre ofrecido por Reflection, con sede en EE. UU., ya está disponible en Amazon SageMaker JumpStart, el centro de modelos de Amazon SageMaker AI. Según Beam, operan a la vanguardia de los modelos de peso abierto de su clase, con un sólido desempeño en términos de razonamiento, codificación y puntos de referencia agenciales. Beam está pensado para equipos que desarrollan a partir de un modelo de pesos abiertos y trabajan con él, no solo para los que lo utilizan mediante llamadas. Los clientes que desean adaptar un modelo de frontera a su propio dominio pueden refinar, inspeccionar y modificar sus pesos e integrarlo en profundidad en sus agentes y flujos de trabajo, a la vez que mantienen el control total de sus datos e infraestructura. Beam funciona junto con otros modelos que los clientes ya utilizan en SageMaker AI y se escala para satisfacer la demanda de producción con los mismos controles, registros de auditoría y supervisión integrados en cada despliegue de SageMaker AI. Además, Beam se adaptó y optimizó para AWS Trainium3, lo que brindó a los clientes una opción rentable y de alto rendimiento para desplegar y escalar el modelo desde el primer día. “Reflection ofrece una IA de vanguardia que los desarrolladores pueden controlar, no solo alquilarla a través de una API. La incorporación de Beam a SageMaker AI pone esa capacidad al alcance de millones de desarrolladores en una infraestructura en la que ya confían, que se ejecuta en su propia cuenta de AWS, en sus propios datos y bajo su control total", afirma Misha Laskin, cofundadora y directora ejecutiva de Reflection.
Los equipos que se basan en Beam pueden ir mucho más allá de llamar a una API: refinarla con código y datos propietarios, especializarla para sus propios dominios y conectarla a flujos de trabajo agenciales de varios pasos en todas sus herramientas. En la práctica, eso significa resolver problemas reales de software, generar y revisar código, automatizar el trabajo de las operaciones y abordar el razonamiento matemático y científico avanzado en un modelo que puedan moldear en lugar de en uno que simplemente consuman. Como Beam se publica con la licencia Apache 2.0, los clientes pueden inspeccionar y personalizar el modelo y, al mismo tiempo, ejecutarlo en sus propias cuentas de AWS, de modo que los datos permanecen privados y bajo su control, protegidos por las mismas capacidades de seguridad y cumplimiento de AWS en las que ya confían. “Los modelos de IA avanzados, como Beam, ahora disponible en Amazon SageMaker, nos permiten ejecutar una IA de vanguardia abierta completamente dentro de nuestros propios entornos seguros, con una visibilidad total de las ponderaciones, los datos y la canalización. En la era de la IA multimodelo, la combinación de apertura e infraestructura administrada es una adición esencial al ecosistema de IA. La libertad de implementar y adaptar la IA avanzada, adaptada a los problemas de la misión con seguridad y controles específicos del cliente, brinda a más agencias una mayor flexibilidad para implementar la IA avanzada en toda su empresa," afirmó Garrett Berntsen, director de IA de los Servicios Federales de Accenture.
Beam está disponible inicialmente en Amazon SageMaker JumpStart en el este de EE. UU. (norte de Virginia y Ohio). El modelo está disponible en las variantes de punto de control BF16, FP8 y NVFP4 y se puede implementar a través de un punto de enlace de SageMaker JumpStart totalmente administrado. Para empezar, busque “Beam” en SageMaker JumpStart en Amazon SageMaker Studio o impleméntelo directamente en Sagemaker AI. Para obtener más información, lea el blog de AWS Machine Learning: Presentación de Reflection Beam, la documentación de SageMaker AI y la documentación de SageMaker JumpStart para obtener orientación sobre el despliegue.