Meta Llama 3.1 생성형 AI 모델, 이제 Amazon Bedrock에서 사용 가능
현재 가장 발전된 Meta Llama 모델인 Llama 3.1을 이제 Amazon Bedrock에서 사용할 수 있게 되었습니다. Amazon Bedrock은 Llama로 생성형 AI 애플리케이션을 구축할 수 있는 턴키 방식을 제공합니다. Llama 3.1 모델은 8B, 70B, 405B 파라미터 크기의 모델 모음으로, 생성형 AI 애플리케이션을 위한 새로운 기능을 제공합니다.
모든 Llama 3.1 모델은 이전 버전에 비해 크게 개선되었습니다. 이 모델은 128K 컨텍스트 길이를 지원하고, 용량이 Llama 3의 16배에 달하며, 8개 언어의 다국어 대화 사용 사례에서 향상된 추론 기능을 보여줍니다. 이 모델은 긴 텍스트에서 더 많은 정보에 액세스하여 더 많은 정보에 입각한 결정을 내리고 더 풍부한 컨텍스트 데이터를 활용하여 더 영리하고 정교한 응답을 생성합니다. Meta에 따르면 Lama 3.1 405B는 공개적으로 사용 가능한 최고이자 최대 규모의 파운데이션 모델 중 하나이며 합성 데이터 생성 및 모델 증류에 매우 적합합니다. 또한 Llama 3.1 모델은 일반 지식, 수학, 도구 사용, 다국어 번역에서 최첨단 기능을 제공합니다.
Meta Lama 3.1 모델은 미국 서부(오리건) 리전의 Amazon Bedrock에서 사용할 수 있습니다. 자세한 내용은 AWS 뉴스 출시 블로그, Amazon Bedrock 기반 Lama 제품 페이지 및 설명서를 참조하세요. Amazon Bedrock에서 Llama 3.1 사용을 시작하려면 Amazon Bedrock 콘솔로 이동하세요. Amazon Bedrock에서 Llama 3.1 405B 평가판에 대한 액세스를 요청하려면 담당 AWS 계정 팀에 문의하거나 AWS Management Console을 통해 지원 티켓을 제출하세요. 지원 티켓을 생성할 때 서비스 유형으로 Bedrock을 선택하고 카테고리로 모델을 선택합니다.