Os modelos langcache-embed-v3-small, Mellum2-12B-A2.5B-Thinking e LightonOCR-2-1B agora estão disponíveis no Amazon SageMaker JumpStart
Os modelos langcache-embed-v3-small da Redis, Mellum2-12B-A2.5B-Thinking da JetBrains e LightonOCR-2-1B da LightOn estão agora disponíveis no Amazon SageMaker JumpStart, expandindo o portfólio de modelos básicos disponíveis para clientes da AWS. Esses três modelos oferecem recursos especializados que abrangem otimização de cache semântico, raciocínio focado em código e OCR de documentos de ponta a ponta, permitindo que os clientes implantem soluções de IA escaláveis e de alto desempenho na infraestrutura da AWS.
O langcache-embed-v3-small é otimizado para cache semântico em aplicativos LLM. Ele mapeia frases e parágrafos em um espaço vetorial denso criado especificamente para identificar consultas semanticamente equivalentes, independentemente da formulação, permitindo acessos inteligentes de cache que reduzem as chamadas LLM redundantes e aceleram os tempos de resposta em cargas de trabalho de inferência de alto volume.
O Mellum2-12B-A2.5B-Thinking se destaca em fluxos de trabalho de geração de código, depuração, raciocínio em várias etapas e codificação agente. Ele usa uma arquitetura de mistura de especialistas (64 especialistas, 8 ativados por token), ativando apenas 2,5 B de seus 12 B de parâmetros totais por passagem direta com um comprimento de contexto de 131.072 tokens. Ele emite traços explícitos de raciocínio em cadeia de pensamento antes das respostas finais, fornecendo throughput de inferência de alto rendimento e baixa latência, ideal para roteamento, RAG, subagentes e implantações privadas.
O LightonOCR-2-1B fornece conversão multilíngue de documentos em texto de ponta a ponta para PDFs, digitalizações e imagens sem canais de OCR frágeis. Esse modelo de linguagem de visão de 1 parâmetro transduz diretamente as imagens da página em texto limpo e naturalmente ordenado, alcançando desempenho de última geração no OLMOCR-Bench e sendo aproximadamente 9 vezes menor e significativamente mais rápido do que as abordagens concorrentes.
Com o SageMaker JumpStart, os clientes podem implantar qualquer um desse modelos com apenas alguns cliques para abordar casos de uso de IA específicos.
Para começar a usar esses modelos, navegue até o catálogo de modelos do SageMaker JumpStart no SageMaker Studio ou use o SageMaker Python SDK para implantá-los na sua conta da AWS. Para obter mais informações sobre a implantação e o uso de modelos de base no SageMaker JumpStart, consulte a documentação do Amazon SageMaker JumpStart.