Amazon Bedrock 지식 기반, 이제 Llama 3.1 405B, 70B 및 8B 지원
Amazon Bedrock 지식 기반은 파운데이션 모델(FM)을 내부 회사 데이터 소스에 안전하게 연결하여 검색 증강 생성(RAG)을 통해 관련성 있고 상황에 맞는 정확한 응답을 제공합니다. Meta의 Llama 3.1 파운데이션 모델 제품군(405B, 70B 및 8B)이 이제 지식 기반에서 정식 버전으로 제공됩니다.
Llama 3.1은 Meta의 차세대 최첨단 모델로, 128,000개의 토큰(약 96,000단어 또는 192페이지의 자료) 컨텍스트 길이를 지원합니다. Llama 3.1 모델은 복잡한 추론, 빠른 출력 및 RAG가 필요한 작업에 적합합니다. Llama 3.1은 완전관리형 RetrieveAndGenerate API를 통해 지원됩니다.
Llama 3.1 405B, 70B 및 8B 모델을 기반으로 하는 Amazon Bedrock 지식 기반이 이제 미국 서부(오리건) AWS 리전에서 정식 버전으로 제공됩니다. 자세히 알아보려면 AWS 뉴스 블로그 출시를 읽고 Amazon Bedrock의 Meta Llama 페이지를 방문하세요. 시작하려면 Amazon Bedrock용 지식 기반 시스템 설명서를 참조하고 Amazon Bedrock 콘솔로 이동하면 됩니다.