게시된 날짜: Jul 18, 2023
오늘부터 Meta의 Llama 2 기초 모델을 기계 학습(ML) 허브인 Amazon SageMaker JumpStart에서 사용할 수 있습니다. Amazon SageMaker JumpStart는 ML을 빠르게 시작할 수 있도록 사전 훈련된 모델, 기본 제공 알고리즘 및 사전 구축된 솔루션을 제공합니다. SageMaker Studio에서 몇 번의 클릭으로 또는 SageMaker Python SDK를 통해 프로그래밍 방식으로 이 Llama 2 기초 모델을 배포하고 사용할 수 있습니다.
Llama 2는 최적화된 변환기 아키텍처를 사용하는 자동 회귀 언어 모델입니다. 7B, 13B 및 70B 등 다양한 파라미터 크기 및 사전 훈련되고 미세 조정된 변형이 제공됩니다. 조정된 버전은 지도식 미세 조정(SFT) 및 인간 피드백을 통한 강화 학습(RLHF)을 사용하여 관련성이 높은 응답을 생성합니다. 개발자는 Meta의 책임감 있는 사용 안내서를 활용하여 GenAI 제품 스택의 각 계층을 책임감 있게 구축하는 모범 사례를 설명하고 LLM의 상업적 사용과 관련된 위험 해결의 중요성을 파악할 수 있습니다.
이제 SageMaker Pipelines, SageMaker Debugger 또는 컨테이너 로그와 같은 SageMaker 기능을 사용하여 Llama 2 성능 및 MLOps 제어가 결합된 장점을 확보할 수 있습니다. 모델은 VPC가 제어하는 AWS 보안 환경에 배포되어 데이터 보안을 보장할 수 있습니다. Llama 2는 상업 및 연구용으로 영어로 제작되었습니다. 조정된 모델은 어시스턴트 같은 채팅을 대상으로 하지만 사전 훈련된 모델은 다양한 자연어 생성 작업에 맞게 조정될 수 있습니다.