Amazon SageMaker AI, 서버리스 기반 맞춤형 모델 미세 조정 기능 출시

오늘은 Amazon SageMaker AI에서 Amazon Nova, DeepSeek, GPT-OSS, Llama, Qwen 등 인기 AI 모델을 위한 새로운 서버리스 사용자 지정을 발표하고자 합니다. 새로운 사용자 지정 기능은 강화 학습과 같은 최신 미세 조정 기술에 있어 손쉽게 사용 가능한 인터페이스를 제공하므로 AI 모델 사용자 지정 프로세스에 소요되는 시간을 수개월에서 수일 수준으로 단축할 수 있습니다.

몇 번의 클릭만으로 원활하게 모델 및 사용자 지정 기술을 선택하고, 모델 평가 및 배포를 처리할 수 있으며, 이 모든 작업을 서버 없이 할 수 있기에 인프라 관리 대신 모델 튜닝에 집중할 수 있습니다. 서버리스 사용자 지정을 선택하면 SageMaker AI가 모델 및 데이터 크기를 기반으로 적절한 컴퓨팅 리소스를 자동으로 선택 및 프로비저닝합니다.

서버리스 모델 사용자 지정 시작하기
Amazon SageMaker Studio에서 모델 사용자 지정을 시작할 수 있습니다. 왼쪽 탐색 창에서 모델을 선택하고 사용자 지정할 AI 모델을 확인합니다.

UI를 사용한 사용자 지정
몇 번의 클릭만으로 AI 모델을 사용자 지정할 수 있습니다. Meta Llama 3.1 8B Instruct와 같은 특정 모델의 Customize model(모델 사용자 지정) 드롭다운 목록에서 Customize with UI(UI를 사용한 사용자 지정)를 선택합니다.

사용 사례에 맞춰 기본 모델을 조정하는 데 사용할 사용자 지정 기술을 선택할 수 있습니다. SageMaker AI는 Supervised Fine-Tuning(지도형 미세 조정)과 Direct Preference Optimization(직접 선호도 최적화), Reinforcement Learning from Verifiable Rewards (RLVR)(검증 가능한 보상 기반 강화 학습(RLVR)), Reinforcement Learning from AI Feedback (RLAIF)(AI 피드백 기반 강화 학습(RLAIF)) 등의 최신 모델 사용자 지정 기술을 지원합니다. 각 기술은 다양한 방식으로 모델을 최적화하며, 데이터세트 규모 및 품질, 가용 컴퓨팅 리소스, 해결해야 할 작업, 요구 정확도 수준, 배포 제약 조건과 같은 요소에 따라 선택이 달라질 수 있습니다.

선택한 사용자 지정 기술에서 요구하는 형식에 맞춘 교육 데이터세트를 업로드하거나 선택합니다. 선택한 기술에서 권장하는 배치 크기, 학습 속도 및 에포크 수 값을 사용합니다. 하이퍼파라미터, 실험 추적을 위해 새로 도입된 서버리스 MLflow 애플리케이션, 네트워크 및 스토리지 볼륨 암호화 등 고급 설정을 구성할 수 있습니다. Submit(제출)을 선택하여 모델 훈련 작업을 시작합니다.

훈련 작업이 완료되면 My Models(내 모델) 탭에서 생성한 모델을 볼 수 있습니다. 모델 중 하나에서 View details(세부 정보 보기)를 선택합니다.

Continue customization(사용자 지정 계속하기)를 선택하면 하이퍼파라미터를 조정하거나 다른 기술로 훈련하여 모델을 계속 사용자 지정할 수 있습니다. Evaluate(평가)를 선택하면 사용자 지정된 모델을 평가하고 기본 모델과의 성능을 비교할 수 있습니다.

두 작업을 모두 완료하면 Deploy(배포) 드롭다운 목록에서 SageMaker 또는 Bedrock을 선택하여 모델을 배포할 수 있습니다.

서버리스 추론의 경우 Amazon Bedrock을 선택할 수 있습니다. Bedrock과 모델 이름을 선택하여 Amazon Bedrock에 모델을 배포합니다. 배포된 모델을 찾으려면 Bedrock 콘솔에서 Imported models(가져온 모델)를 선택합니다.

인스턴스 유형 및 인스턴스 수와 같은 배포 리소스를 제어하려는 경우 모델을 SageMaker AI 추론 엔드포인트에 배포할 수도 있습니다. SageMaker AI 배포가 In service(서비스 중) 상태가 되면 이 엔드포인트를 사용하여 추론을 수행할 수 있습니다. Playground(플레이그라운드) 탭에서는 단일 프롬프트 또는 채팅 모드로 사용자 지정된 모델을 테스트할 수 있습니다.

서버리스 MLflow 기능을 활용하면 코드를 수정하지 않고도 모든 중요한 실험 지표를 자동으로 로깅하고 추가 분석을 위한 풍부한 시각화에 액세스할 수 있습니다.

코드를 활용한 사용자 지정
코드를 활용한 사용자 지정을 선택하면 AI 모델을 미세 조정하거나 배포할 수 있는 샘플 노트북을 볼 수 있습니다. 샘플 노트북을 편집하려면 JupyterLab에서 엽니다. 또는 배포를 선택하여 모델을 즉시 배포할 수도 있습니다.

Amazon SageMaker Inference 또는 Amazon SageMaker Hyperpod에서 배포 리소스를 선택하여 Amazon Bedrock 또는 SageMaker AI 엔드포인트를 선택할 수 있습니다.

페이지 오른쪽 하단에서 배포를 선택하면 모델 세부 정보 페이지로 리디렉션됩니다. SageMaker AI 배포가 In service(서비스 중) 상태가 되면 이 엔드포인트를 사용하여 추론을 수행할 수 있습니다.

SageMaker AI에서 간편하게 모델을 사용자 지정하는 방법을 살펴보았습니다. 이제는 가장 마음에 드는 방식을 선택해 진행하실 수 있습니다. 자세한 내용은 Amazon SageMaker AI 개발자 안내서를 참조하세요.

정식 출시
Amazon SageMaker AI의 새로운 서버리스 AI 모델 사용자 지정은 현재 미국 동부(버지니아 북부), 미국 서부(오리건), 아시아 태평양(도쿄) 및 유럽(아일랜드) 리전에서 이용할 수 있습니다. 훈련 및 추론 중에 처리된 토큰에 대한 요금만 지불하면 됩니다. 자세한 내용은 Amazon SageMaker AI 요금 페이지를 참조하세요.

Amazon SageMaker Studio에서 사용해 보시고 AWS re:Post for SageMaker 또는 일반 AWS Support 문의로 피드백을 보내주세요.

– Channy