Llama 3.2 생성형 AI 모델, 이제 Amazon Bedrock에서 사용 가능
이제 Amazon Bedrock에서 Llama 3.2 모델 컬렉션을 사용할 수 있습니다. Llama 3.2는 Meta의 최신 대규모 언어 모델(LLM)입니다. Llama 3.2 모델은 중소형 멀티모달 모델부터 고해상도 이미지에 대한 멀티모달 지원 등 정교한 추론 작업을 수행할 수 있는 11B 및 90B 파라미터 모델, 엣지 디바이스에 적합한 가벼운 텍스트 전용 1B 및 3B 파라미터 모델에 이르기까지 다양한 크기로 제공됩니다. Llama 3.2는 비전 작업을 지원하는 최초의 Lama 모델로, 이미지 인코더 표현을 언어 모델에 통합하는 새로운 모델 아키텍처를 갖추고 있습니다.
기존 텍스트 지원 Llama 3.1 8B, 70B 및 405B 모델 외에도 Llama 3.2는 멀티모달 사용 사례를 지원합니다. 이제 Amazon Bedrock의 Meta에서 네 가지 새로운 Llama 3.2 모델인 90B, 11B, 3B, 1B를 사용하여 차세대 AI의 가능성을 열 수 있습니다. 책임감 있는 혁신과 시스템 수준의 안전에 중점을 둔 Llama 3.2 모델은 최첨단 생성형 AI 모델 및 애플리케이션을 구축 및 배포할 수 있도록 지원하며, Amazon Bedrock의 Llama를 활용하여 이미지 추론과 같은 새로운 혁신을 일으키고 엣지 애플리케이션에서 더 쉽게 액세스할 수 있도록 지원합니다. 또한 새 모델은 지연 시간을 줄이고 성능을 개선하여 AI 워크로드에 더 효율적으로 사용할 수 있도록 설계되어 다양한 애플리케이션에 적합합니다.
Meta의 Llama 3.2 90B 및 11B 모델은 미국 서부(오하이오) 리전의 Amazon Bedrock에서 사용할 수 있으며, 교차 리전 추론을 통해 미국 동부(오하이오, 버지니아 북부)에서 사용할 수 있습니다. Llama 3.2 1B 및 3B 모델은 미국 서부(오리건) 및 유럽(프랑크푸르트) 리전에서 사용할 수 있으며, 교차 리전 추론을 통해 미국 동부(오하이오, 버지니아 북부) 및 유럽(아일랜드, 파리) 리전에서 사용할 수 있습니다. 자세히 알아보려면 출시 블로그, Llama 제품 페이지, 설명서를 살펴보세요. Amazon Bedrock에서 Llama 3.2 사용을 시작하려면 Amazon Bedrock 콘솔로 이동하세요.