Amazon SageMaker AI를 사용한 모델 사용자 정의
가장 광범위한 기법을 사용하여 데이터를 사용하여 모델을 사용자 지정합니다. 신뢰할 수 있는 인프라에서 완벽한 서버리스 환경을 제공합니다.
모델 사용자 정의에 SageMaker AI를 사용하는 이유
Amazon SageMaker AI를 사용하면 AI 개발자가 감독형 미세 조정(SFT), 직접 선호도 최적화(DPO), 검증 가능한 보상을 통한 강화 학습(RLVR), AI 피드백을 통한 강화 학습(RLAIF)을 사용하여 20개 이상의 인기 있는 개방형 가중치 모델 및 Amazon Nova를 사용자 지정할 수 있습니다.
전체 워크플로는 완전 서버리스입니다. SageMaker는 컴퓨팅 프로비저닝, 규모 조정 및 최적화를 처리합니다.
서버리스 추론을 위해 Amazon Bedrock에 사용자 지정 모델을 배포하거나 관리형 추론을 위해 SageMaker 엔드포인트에 배포할 수 있습니다. 지원되는 모델 및 기법의 최신 목록은 설명서 페이지를 참조하세요.
장점
최대 정확도로 모델 사용자 정의를 빠르게 진행
데이터 준비부터 배포까지 전체 워크플로를 몇 개월이 아닌 며칠 만에 완료하세요. 가이드 UI 또는 AI 에이전트 가이드 워크플로로 시작한 다음 SageMaker Python SDK로 자동화하세요. 완전한 서버리스 - 인프라를 프로비저닝하거나 용량을 관리할 필요가 없습니다.
서버리스 경험을 통해 20개 이상의 개방형 모델에 대한 광범위한 사용자 지정 기술을 제공합니다. 개방형 가중치 모델은 사용자가 가중치를 소유한다는 의미입니다. 서버리스 추론을 위해 Amazon Bedrock에 사용자 지정 모델을 배포하거나, 관리형 추론을 위해 SageMaker 엔드포인트에 배포하거나, 자체 인프라로 내보낼 수 있습니다. 모델 커스터마이징 기술은 GitHub에 오픈 소스로 제공되므로 팀에서 워크플로우에 맞게 모델을 검사하고, 포크하고, 적용할 수 있습니다.
교육 지표 및 평가 결과는 SageMaker AI의 MLFlow에서 직접 추적 및 기록되므로 모든 실험을 모니터링하고 모델 성능을 완전한 가시성과 비교할 수 있습니다.
간편해진 모델 사용자 정의
엔드-투-엔드 워크플로에서 모델을 사용자 정의하는 포괄적인 기능
데이터 준비
코딩 에이전트는 모델 사용자 지정 기술을 사용하여 선택한 모델 및 사용자 지정 기법에 맞게 데이터 형식을 지정하는 코드를 생성하고, 데이터 품질을 검증하고, 격차를 식별합니다. 이를 통해 몇 주 동안 수동으로 데이터를 큐레이션하던 시간을 몇 시간으로 단축할 수 있습니다. SageMaker AI는 광범위한 데이터 준비 요구 사항을 충족하기 위해 300개 이상의 내장 변환이 포함된 시각적 데이터 변환을 위한 Data Wrangler, 대규모 데이터 레이블링을 위한 Ground Truth, 사용자 지정 데이터 처리 워크플로를 위한 처리 작업을 제공합니다. 실제 데이터가 제한적이거나 민감하거나 구하기 어려운 경우 자체 데이터를 가져오거나 합성 데이터(미리 보기)를 생성하세요. SageMaker AI는 기존 데이터세트를 보완하는 작업별 합성 학습 예제를 생성할 수 있으므로 모델 품질 저하 없이 데이터 희소성을 극복할 수 있습니다.
고급 사용자 정의 기술
SageMaker AI는 지도 미세 조정(SFT), 직접 선호도 최적화(DPO), 그리고 AI 피드백을 통한 강화 학습(RLAIF) 및 검증 가능한 보상(RLVR)을 포함한 최신 모델 사용자 정의 기술을 지원합니다.
SageMaker AI는 모델 동작을 변경해야 하는 경우 감독형 미세 조정(SFT) 또는 직접 선호도 최적화(DPO)를 지원하고 특정 보상 신호에 맞게 최적화해야 할 때는 강화 학습(RLVR, RLAIF)으로 진행합니다. 사전 교육을 계속하려면 SageMaker 훈련 작업 또는 SageMaker HyperPod를 활용하여 수천 개의 액셀러레이터로 확장하세요.
엔드-투-엔드 서버리스 모델 사용자 정의
SageMaker AI는 모델 및 데이터 크기에 따라 적절한 컴퓨팅 리소스를 자동으로 선택하고 프로비저닝합니다. 이 모든 것이 인스턴스를 선택하고 관리할 필요 없이 이루어집니다.
추론
원하는 정확도 및 성능 목표를 달성하면 몇 번의 클릭만으로 SageMaker AI 추론 엔드포인트 또는 서버리스 추론을 위한 Amazon Bedrock에 모델을 프로덕션 배포할 수 있습니다.
LLMOps
추적 서버를 프로비저닝하거나 코드를 수정할 필요 없이 모든 중요한 실험 지표를 자동으로 기록할 수 있습니다. MLflow와의 통합은 또한 풍부한 시각화 및 추가 분석을 위한 MLflow 사용자 인터페이스로의 진입점을 제공합니다.
사용하기 쉬운 인터페이스
SageMaker Studio의 가이드 UI를 사용하여 몇 번의 클릭만으로 모델을 선택하고, 기술을 선택하고, 데이터세트를 구성하고, 서버리스 교육을 시작하고, 실시간 지표를 모니터링하고, 배포할 수 있습니다. 에이전트나 코드가 필요하지 않습니다.
에이전트 기반 개발
사용 사례를 설명하면 AI 코딩 에이전트가 데이터 변환, 기술 선택, 하이퍼파라미터 구성, 평가 및 배포를 안내합니다. 특별히 구축된 에이전트 스킬은 미세 조정 기술, 모델 선택, SageMaker AI API 및 평가 방법론에 대한 전문 지식을 AI 코딩 에이전트에 제공하여 확신을 갖고 더 빠르게 개발할 수 있도록 지원합니다. 에이전트 스킬은 기존 워크플로 및 거버넌스 표준에 맞게 사전 구축되고 사용자 지정 가능한 지침 세트입니다. Kiro 및 에이전트 기술이 사전 설치된 상태로 SageMaker Studio JupyterLab에서 시작하거나 Kiro IDE, Cursor, Claude Code 및 VS Code를 포함하여 선호하는 IDE 또는 코딩 에이전트와 함께 에이전트 기술을 사용하세요.
SageMaker Python SDK
프로그래밍 방식으로 사용자 지정 작업을 구성 및 시작하고, 평가 기준을 정의하고, 모델을 배포합니다. 코드 우선 워크플로를 선호하는 개발자를 위해 모든 파라미터를 완벽하게 제어할 수 있습니다.
고객
고객이 Amazon SageMaker AI 모델 사용자 정의를 선택하는 이유
Collinear AI
"Collinear에서 당사는 프론티어 AI 연구소 및 포춘 500대 기업을 위해 선별된 데이터세트 및 시뮬레이션 환경을 구축하여 모델을 개선합니다. AI 모델 미세 조정은 고충실도 시뮬레이션을 생성하는 데 중요하며, 이전에는 훈련, 평가 및 배포를 위해 서로 다른 시스템을 연결해야 했습니다. 이제 Amazon SageMaker AI의 새로운 서버리스 모델 사용자 정의 기능을 통해, 실험 주기를 몇 주에서 며칠로 단축할 수 있는 통합된 방법을 갖게 되었습니다. 이 엔드-투-엔드 서버리스 툴링은 인프라를 유지하거나 서로 다른 플랫폼을 저글링하는 대신, 고객을 위한 더 나은 훈련 데이터 및 시뮬레이션을 구축하는 것과 같은 중요한 것에 집중할 수 있도록 돕습니다."
Soumyadeep Bakshi, Collinear AI 공동 창립자
Oleum
“Oleum에서는 조직이 데이터를 이해하고 신뢰하는 데 도움이 되는 AI 도구를 구축하고 있습니다. Amazon SageMaker AI의 새로운 에이전틱 AI 경험은 우리에게 꼭 필요한 도구입니다. 단순한 작업 실행자가 아닌 사고의 파트너 역할을 합니다. 엄격한 프로세스를 강요하지 않고 기술을 추천하고, 데이터의 불일치를 찾아내고, 원하는 워크플로를 구축할 수 있게 해줍니다. 이러한 기술이 기존 에이전트 개발 환경에 직접 적용된다는 사실은 플랫폼 간 컨텍스트 전환 없이 미세 조정 접근 방식을 실험할 수 있다는 것을 의미합니다. SageMaker Studio의 JupyterLab에 직접 내장된 새로운 채팅 환경을 통해 대화부터 실행 가능한 노트북, 훈련 작업까지 모두 한 곳에서 수행할 수 있습니다. 유연하고 사용자 지정이 가능하며 현대 ML 팀의 실제 작업 방식에 맞게 구축되었습니다.”
Oleum - Alejandro Ballesteros, CTO
Wink
“Wink에서는 실제 인간 성격의 미묘한 차이를 포착하는 AI 기반 디지털 트윈을 구축하고 있습니다. 이를 통해 사용자는 직접 만나기 전에 진정한 관계를 파악할 수 있습니다. 우리의 개발 워크플로는 완전히 에이전트적이고 신속한 기반 경험으로 바뀌었습니다. 우리는 빠르게 움직이고 빠르게 출시합니다. 모델 사용자 지정에 대한 Amazon SageMaker AI의 새로운 기술 기반 접근 방식은 해당 워크플로우에 완벽하게 맞습니다. 인프라나 딱딱한 인터페이스와 씨름하는 대신, 우리 팀은 이미 사용하고 있는 도구 안에서 자연어를 통해 성격 모델을 미세 조정할 수 있습니다. 속도와 비용 효율성이 가장 중요한 스타트업에게 이는 판도를 바꿀 수 있습니다. 이를 통해 ML 파이프라인 관리가 아닌 사용자를 위한 더 나은 경험을 구축하는 데 집중할 수 있습니다.”
Wink - Ethan Fan, CTO
Robin AI
"Robin에서 당사는 현대 비즈니스에서 법무팀의 역할을 재정의하고 있으며, AI를 사용하여 더 나은 결정, 더 빠른 조치 및 지속 가능한 성장을 추진하고 있습니다. 고객에게 더 나은 의사 결정을 제공하기 위해, 당사의 AI 모델이 변호사가 계약서를 작성하는 방식(개별 변호사의 특정 형식, 어조 및 선호도)과 일치하는 것이 중요합니다. 이전에는 독점 데이터로 모델을 사용자 정의하는 것이 오류가 발생하기 쉬운 번거로운 프로세스였습니다. 이제 Amazon SageMaker AI의 새로운 서버리스 모델 사용자 정의 기능을 통해, 검증 가능한 보상을 통한 강화 학습과 같은 고급 기술을 며칠 만에 신속하게 실험할 수 있습니다. 또한 AI 에이전트 안내 워크플로를 시도하게 되어 기쁘며, 이를 통해 가정을 비교하고 검증하여 전 세계 변호사들이 더 빠르고 더 나은 결정을 내릴 수 있도록 도울 수 있습니다."
Diana Mincu, Robin AI의 Director of Research
오늘 원하는 내용을 찾으셨나요?
페이지의 콘텐츠 품질을 개선할 수 있도록 피드백을 보내주세요.