Llama 3.2 생성형 AI 모델, 이제 Amazon SageMaker JumpStart에서 사용 가능
현재 가장 효율적이고 성능과 기능이 뛰어난 Llama 모델인 Lama 3.2를 이제 Amazon SageMaker JumpStart에서 사용할 수 있습니다. Amazon SageMaker JumpStart는 ML을 빠르게 시작할 수 있도록 사전 훈련된 모델과 기본 제공 알고리즘을 제공하는 기계 학습(ML) 허브입니다. SageMaker Studio에서 클릭 몇 번으로 또는 SageMaker Python SDK를 통해 프로그래밍 방식으로 이 Llama 3.2 모델(90B, 11B, 3B, 1B, Llama Guard 3 11B Vision)을 배포하고 사용할 수 있습니다. 또한 이제 SageMaker JumpStart를 사용하여 Llama 3.2 1B 및 3B 모델을 손쉽게 미세 조정할 수 있습니다.
Llama 3.2 모델은 중소형 멀티모달 모델부터 고해상도 이미지에 대한 멀티모달 지원 등 정교한 추론 작업을 수행할 수 있는 11B 및 90B 파라미터 모델, 엣지 디바이스에 적합한 가벼운 텍스트 전용 1B 및 3B 파라미터 모델, 책임감 있는 혁신과 시스템 수준 안전을 지원하도록 설계된 Llama Guard 3 11B Vision 모델에 이르기까지 다양한 크기로 제공됩니다. Llama 3.2는 비전 작업을 지원하는 최초의 Lama 모델로, 이미지 인코더 표현을 언어 모델에 통합하는 새로운 모델 아키텍처를 갖추고 있습니다. Llama 3.2 모델은 이미지 추론과 같은 새로운 혁신을 촉발하는 생성형 AI 모델을 구축 및 배포하는 데 도움이 되며 엣지 애플리케이션에 더 쉽게 액세스할 수 있습니다. 또한 새 모델은 지연 시간을 줄이고 성능을 개선하여 AI 워크로드에 더 효율적으로 사용할 수 있도록 설계되어 다양한 애플리케이션에 적합합니다.
Llama 3.2 모델은 우선 미국 동부(오하이오) AWS 리전의 SageMaker JumpStart에서 제공됩니다. 시작하려면 설명서 및 블로그를 참조하세요.