Amazon SageMaker AI, 서버리스 모델 사용자 지정을 위한 훈련 세션 API 발표
Amazon SageMaker AI 서버리스 모델 사용자 지정이 이제 훈련 세션 API를 지원하므로 고객은 GPU 인프라를 프로비저닝하거나 관리할 필요 없이 훈련 후 알고리즘을 완벽하게 제어할 수 있습니다. SFT, DPO, 기타 강화 학습 방법을 비롯한 관리형 기법을 통해 고객은 기법과 모델을 선택하고 SageMaker AI가 훈련을 실행하도록 할 수 있습니다. 훈련 세션 API를 사용하면 팀이 원하는 방식으로 SFT 또는 DPO를 재현하거나 사용자 지정 손실, 새로운 RL 보상 신호, 데이터 커리큘럼 또는 최신 연구에서 직접 가져온 알고리즘을 구현하는 등 훈련 루프를 작성할 수 있습니다. forward_backward(), optim_step(), sample() 등의 작업은 실시간 상태 유지 세션에 대한 API 직접 호출로 처리되므로, 고객은 각자 기법에 필요한 훈련 절차가 무엇이든 구성할 수 있습니다. GPU 할당, 모델 및 LoRA 로딩, 분산 실행, 오류 복구, 체크포인트 저장, 보안은 SageMaker AI가 처리합니다.
고객은 자체 Python 코드에서 바로 이러한 작업을 호출하여, 체크포인팅과 재개 기능이 내장된 상태에서 라이브 세션을 대상으로 강화 학습, 지도 학습을 통한 미세 조정 또는 사용자 지정 훈련 목표를 수행할 수 있습니다. 처리된 토큰 단위로 요금이 청구되므로 보상 점수와 같은 로컬 컴퓨팅은 GPU 시간으로 청구되지 않습니다. SageMaker AI는 고객이 자체 훈련 루프의 블루프린트로 활용할 수 있는, 바로 실행 가능한 SFT 및 RL 레시피 모음인 SageMaker 훈련 세션 쿡북도 출시할 예정입니다.
오늘부터 훈련 세션 API를 미국 동부(버지니아 북부), 미국 서부(오리건), 아시아 태평양(뭄바이) 리전에서 정식 버전으로 사용할 수 있습니다. 시작하려면 SageMaker Python SDK를 설치하고 쿡북을 복제하거나 SageMaker Studio에서 노트북을 시작하고 코딩 에이전트를 연결하세요. 자세히 알아보려면 설명서 및 Amazon SageMaker AI 웹 페이지를 참조하세요.