이제 Amazon Bedrock에서 AI21 Labs의 Jamba 1.5 모델 패밀리 사용 가능
이제 Amazon Bedrock에서 AI21 Labs의 Jamba 1.5 모델 패밀리를 사용할 수 있습니다. Jamba 1.5 Large 및 1.5 Mini는 엔터프라이즈 애플리케이션용으로 제작된 최첨단 파운데이션 모델입니다. 고객은 현재 시판 중인 모델 중 유효 컨텍스트 창이 가장 긴(토큰 수 256,000개) 이러한 모델을 통해 긴 문서 요약과 분석 등의 복잡한 작업을 쉽게 처리할 수 있습니다.
하이브리드 아키텍처를 적용하여 속도와 효율성 개선을 위해 특별히 구축된 Jamba 1.5 모델은 대다수 타 모델에 비해 속도가 2.5배나 빠릅니다(AI21의 발표 기준). 동급 모델 중 최고의 속도를 제공하는 이 모델을 사용하는 고객은 긴 컨텍스트를 더 빠르게 실행할 수 있습니다. 그리고 최고의 성능을 자랑하는 Jamba 1.5 Mini(Arena Hard 벤치마크 점수 46.1점)는 해당 카테고리에서 가장 성능이 우수한 퍼블릭 모델입니다. 구조화된 JSON 출력, 함수 호출 및 문서 처리를 기본적으로 지원하는 Jamba 1.5 모델은 광범위한 엔터프라이즈 비즈니스 워크플로에 통합할 수 있습니다. 그러면 특수한 고성능 AI 관련 요구를 충족할 수 있는 맞춤형 솔루션을 활용할 수 있습니다.
- Jamba 1.5 Large - 프롬프트 길이에 관계없이 복잡한 추론 작업을 매우 원활하게 처리할 수 있는 모델입니다. 긴 입력과 짧은 입력에서 모두 고품질 출력을 제공해야 하는 애플리케이션에 적합합니다.
- Jamba 1.5 Mini - 짧은 지연 시간을 유지하면서 긴 프롬프트를 처리하도록 최적화된 모델입니다. 긴 문서와 데이터를 빠르게 분석할 수 있습니다.
AI21의 Jamba 1.5 모델은 미국 동부(버지니아 북부) 리전의 Amazon Bedrock에서 사용 가능합니다. 자세히 알아보려면 뉴스 블로그, Amazon Bedrock의 AI21 Labs 페이지 및 설명서를 참조하세요. Amazon Bedrock에서 Jamba 1.5 사용을 시작하려면 Amazon Bedrock 콘솔로 이동하세요.