Meta의 Llama 3.1 8B 및 70B 모델, 이제 Amazon Bedrock에서 미세 조정 가능

게시된 날짜: 2024년 10월 28일

이제 Amazon Bedrock에서 Meta의 Lama 3.1 70B 및 8B 모델에 대한 미세 조정을 지원하므로 기업은 자체 데이터로 이러한 생성형 AI 모델을 사용자 지정할 수 있습니다. Llama 3.1 모델은 128K의 컨텍스트 길이(Llama 3보다 16배 증가)를 지원하여 긴 텍스트 구절에서 더 많은 양의 정보에 액세스하고 처리할 수 있는 등 이전 버전에 비해 크게 개선된 기능을 제공합니다. 미세 조정을 통해 도메인별 작업에 맞게 Lama 3.1 모델을 적용하여 특수한 사용 사례에서 모델 성능을 향상시킬 수 있습니다.

Meta에 따르면 Llama 3.1 모델은 8개 언어에 걸친 다국어 대화에서 탁월한 성능을 발휘하며 향상된 추론 능력을 보여줍니다. Llama 3.1 70B 모델은 콘텐츠 제작, 대화형 AI, 언어 이해, 연구 개발, 엔터프라이즈 애플리케이션에 적합합니다. 텍스트 요약, 텍스트 분류, 감정 분석, 미묘한 추론, 언어 모델링, 대화 시스템, 코드 생성, 지침 따르기 등의 작업에서 탁월한 성능을 발휘합니다. Llama 3.1 8B 모델은 컴퓨팅 파워와 리소스가 제한된 시나리오에 가장 적합하며, 텍스트 요약, 분류, 감정 분석, 언어 번역에 뛰어하고 짧은 지연 시간의 추론을 보장합니다. Amazon Bedrock에서 Lama 3.1 모델을 미세 조정함으로써 기업은 모델을 처음부터 구축할 필요 없이 정확성과 관련성을 개선하여 전문 애플리케이션의 기능을 더욱 향상시킬 수 있습니다.

미세 조정 기능은 미국 서부(오리건) AWS 리전에서 Amazon Bedrock의 Lama 3.1 모델에 사용할 수 있습니다. 요금은 Amazon Bedrock 요금 페이지에서 확인하세요. 시작하려면 Bedrock 사용 설명서를 참조하세요.