O modelo Beam da Reflection já está disponível no Amazon SageMaker JumpStart e no AWS Trainium
O Beam, o primeiro modelo de peso aberto oferecido pela Reflection, com sede nos EUA, agora está disponível no Amazon SageMaker JumpStart, o hub de modelos no Amazon SageMaker AI. De acordo com o Beam, eles operam na fronteira dos modelos de peso aberto de sua classe, com forte desempenho em raciocínio, codificação e benchmarks de agentes. O Beam é para equipes que constroem um modelo de peso aberto e não apenas convocam um. Os clientes que desejam adaptar um modelo de fronteira ao seu próprio domínio podem ajustá-lo, inspecionar e modificar seus pesos e incorporá-lo profundamente em seus agentes e fluxos de trabalho, mantendo o controle total de seus dados e infraestrutura. O Beam funciona junto com outros modelos que os clientes já usam no SageMaker AI e é escalado para atender à demanda de produção com os mesmos controles, trilhas de auditoria e monitoramento incorporados em cada implantação do SageMaker AI. Além disso, o Beam foi portado e otimizado para o AWS Trainium3, oferecendo aos clientes uma opção econômica e de alto desempenho para implantar e escalar o modelo desde o primeiro dia. “A Reflection está fornecendo IA de ponta que os desenvolvedores podem realmente controlar, não apenas alugar por meio de uma API. Trazer o Beam para o SageMaker AI coloca essa capacidade na frente de milhões de desenvolvedores em uma infraestrutura na qual eles já confiam, executada em sua própria conta da AWS, com seus próprios dados, totalmente sob seu controle”, disse Misha Laskin, cofundador e CEO da Reflection.
As equipes que desenvolvem o Beam podem ir muito além de chamar uma API: ajustá-la em código e dados proprietários, especializá-la em seus próprios domínios e conectá-la a fluxos de trabalho agênticos de várias etapas em suas ferramentas. Na prática, isso significa resolver problemas reais de software, gerar e revisar código, automatizar o trabalho de operações e abordar o raciocínio matemático e científico avançado em um modelo que eles possam moldar, em vez de um modelo que eles simplesmente consomem. Como o Beam é lançado sob a licença Apache 2.0, os clientes podem inspecionar e personalizar o modelo e, ao mesmo tempo, executá-lo em suas próprias contas da AWS, para que os dados permaneçam privados e sob seu controle, protegidos pelos mesmos recursos de segurança e conformidade da AWS nos quais eles já confiam. “Modelos avançados de IA, como o Beam, agora disponíveis no Amazon SageMaker, nos permitem executar uma IA de fronteira aberta inteiramente em nossos próprios ambientes seguros, com visibilidade total dos pesos, dos dados e do pipeline. Na era da IA multimodelo, a combinação de abertura e infraestrutura gerenciada é uma adição essencial ao ecossistema de IA. A liberdade de implantar e adaptar a IA avançada, adaptada aos problemas da missão com controles e segurança específicos do cliente, oferece a mais agências maior flexibilidade para implantar IA avançada em toda a empresa. ”, disse Garrett Berntsen, diretor de IA da Accenture Federal Services.
O Beam está disponível inicialmente no Amazon SageMaker JumpStart no Leste dos EUA (Norte da Virgínia) e Leste dos EUA (Ohio). O modelo está disponível nas variantes de ponto de verificação BF16, FP8 e NVFP4 e pode ser implantado por meio de um endpoint SageMaker JumpStart totalmente gerenciado. Para começar a usá-lo, pesquise por “Beam” no SageMaker JumpStart no Amazon SageMaker Studio ou implante-o diretamente no SageMaker AI. Para saber mais, leia o blog do AWS Machine Learning: Apresentando o Reflection Beam, a documentação do SageMaker AI e a documentação do SageMaker JumpStart para obter orientação de implantação.