Amazon Bedrock 기반 Meta Llama 2

생성형 AI 기반 경험을 쉽고 빠르게 구축

이점

미세 조정된 모델인 Llama Chat는 일반에 공개된 지침 데이터 세트와 100만 개 이상의 인간 주석을 활용할 수 있습니다.
Llama 모델은 온라인 퍼블릭 데이터 소스의 토큰 수조 건을 기반으로 훈련되어 언어의 복잡성을 더 잘 이해할 수 있습니다.
미세 조정된 모델은 모델 성능의 안전을 보장하기 위해 1,000시간 이상의 레드 팀 운영 및 주석 작업을 거칩니다.
Amazon Bedrock은 Llama용 완전관리형 API를 제공하는 최초의 퍼블릭 클라우드 서비스입니다. 규모와 관계없이 모든 조직에서 기본 인프라를 관리하지 않고도 Amazon Bedrock의 Llama 2 모델에 액세스할 수 있습니다.

Llama 2 소개

Amazon Bedrock은 Meta의 차세대 대규모 언어 모델(LLM)인 Llama 2에 완전 관리형 API를 제공하는 최초의 퍼블릭 클라우드 서비스입니다. 이제 규모와 관계없이 모든 조직에서 기본 인프라를 관리하지 않고도 Amazon Bedrock의 Lama 2 모델에 액세스할 수 있습니다. 자신이 가장 잘하는 일, 즉 AI 애플리케이션 구축에 집중할 수 있습니다. Meta와 Amazon의 파트너십은 집단적 생성형 AI 혁신을 의미합니다. Meta와 Amazon은 새로운 가능성의 한계를 넓히기 위해 협력하고 있습니다.

사용 사례

Llama-2-Chat라고 하는 Meta의 미세 조정 LLM은 대화 사용 사례에 최적화되어 있습니다.

모델 버전

Llama-2-13b-chat

130억 개 파라미터로 구축한 미세 조정 모델입니다. 텍스트 분류, 감정 분석, 언어 번역과 같은 소규모 작업에 적합합니다.

최대 토큰 수: 4,000개

언어: 영어

지원되는 사용 사례: 어시스턴트와 유사한 채팅

Llama-2-70b-chat

70억 개 파라미터로 구축한 미세 조정 모델입니다. 언어 모델링, 텍스트 생성, 대화 시스템 등의 대규모 작업에 적합합니다.

최대 토큰 수: 4,000개

언어: 영어

지원되는 사용 사례: 어시스턴트와 유사한 채팅