Publicado: Jun 9, 2023
A partir de hoje, o modelo de base do Falcon 40B de última geração da Technology Innovation Institute (TII) está disponível no Amazon SageMaker JumpStart, o hub de machine learning (ML) do SageMaker que oferece modelos pré-treinados, algoritmos integrados e modelos de soluções pré-criados para ajudá-lo a começar a usar o ML rapidamente. Você pode implantar e usar esse LLM do Falcon com alguns cliques no SageMaker Studio ou de forma programática por meio do SageMaker Python SDK.
O Falcon 40B é um grande modelo de linguagem (LLM) de 40 bilhões de parâmetros disponível sob a licença Apache 2.0 que ficou em nº 1 na tabela de classificação Hugging Face Open LLM, que rastreia, classifica e avalia LLMs em vários benchmarks para identificar modelos de melhor performance. Desde seu lançamento em maio de 2023, o Falcon 40B demonstrou uma performance excepcional sem ajustes especializados. Para facilitar o acesso dos clientes a esse modelo de última geração, a AWS disponibilizou o Falcon 40B aos clientes por meio do Amazon SageMaker JumpStart. Agora, os clientes podem implantar de forma rápida e fácil seu próprio modelo do Falcon 40B e personalizá-lo para atender às suas necessidades específicas de aplicações como tradução, resposta a perguntas e resumo de informações.
O Falcon 40B está disponível hoje por meio do Amazon SageMaker JumpStart nas regiões Leste dos EUA (Ohio), Leste dos EUA (N. da Virgínia), Oeste dos EUA (Oregon), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Mumbai), Europa (Londres), Europa (Frankfurt), Europa (Irlanda) e Canadá (Central), com disponibilidade em outras regiões da AWS em breve. Para saber como usar esse novo atributo, consulte a documentação do SageMaker JumpStart, o caderno de exemplo Introduction to SageMaker JumpStart – Text Generation with Falcon LLMs e o blog Technology Innovation Institute trains the state-of-the-art Falcon LLM 40B foundation model on Amazon SageMaker.