Meta Llama 3.1 생성형 AI 모델, 이제 Amazon SageMaker JumpStart에서 사용 가능
현재 가장 발전되고 성능이 뛰어난 Meta Llama 모델인 Lama 3.1을 이제 ML을 빠르게 시작할 수 있도록 사전 훈련된 모델과 기본 제공 알고리즘을 제공하는 기계 학습(ML) 허브인 Amazon SageMaker JumpStart에서 사용할 수 있습니다. SageMaker Studio에서 클릭 몇 번으로 또는 SageMaker Python SDK를 통해 프로그래밍 방식으로 이 Llama 3.1 모델을 배포하고 사용할 수 있습니다.
Llama 3.1 모델은 훈련 데이터 및 규모의 증가 덕분에 이전 버전에 비해 크게 개선되었습니다. 이 모델은 Llama 3보다 토큰이 12만 개 증가한 128K 컨텍스트 길이를 지원합니다. Llama 3.1 모델은 Llama 3 모델보다 16배 더 큰 용량을 제공하며 8개 언어의 다국어 대화 사용 사례에서 추론 기능이 개선되었습니다. 이 모델은 긴 텍스트 구절에서 더 많은 정보에 액세스하여 더 많은 정보에 입각한 결정을 내리고 더 풍부한 컨텍스트 데이터를 활용하여 보다 더 정교한 응답을 생성할 수 있습니다. Meta에 따르면 Lama 3.1 405B는 공개적으로 사용 가능한 가장 큰 파운데이션 모델 중 하나이며 합성 데이터 생성 및 모델 증류에 매우 적합하며, 둘 다 소규모 Llama 모델을 개선할 수 있습니다. 합성 데이터를 사용하여 모델을 미세 조정하려면 Meta의 라이선스를 준수해야 합니다. 자세한 내용은 EULA를 참조하세요. 모든 Llama 3.1 모델은 일반 지식, 수학, 도구 사용, 다국어 번역에서 최첨단 기능을 제공합니다.
Llama 3.1 모델은 현재 미국 동부(오하이오), 미국 서부(오리건), 미국 동부(버지니아 북부) AWS 리전의 SageMaker JumpStart에서 사용할 수 있습니다. SageMaker JumpStart에서 Llama 3.1 모델을 시작하려면 설명서와 블로그를 살펴보세요.