MLOps용 Amazon SageMaker

ML 개발 환경을 표준화하면 손쉬운 새로운 프로젝트 시작, 프로젝트 간 데이터 사이언티스트 교체, ML 모범 사례 구축이 가능함에 따라 데이터 사이언티스트 생산성이 증가하고 최종적으로 혁신의 속도가 증가합니다. Amazon SageMaker Projects는 테스트가 완료된 최신 도구와 라이브러리, 소스 제어 리포지토리, 보일러플레이트 코드 및 CI/CD 파이프라인으로 표준화된 데이터 사이언티스트 환경을 빠르게 프로비저닝합니다.

ML 모델 구축은 최적의 모델 정확도를 위한 최선의 알고리즘, 아키텍처 및 파라미터를 찾기 위해 수백 개의 모델을 훈련하는 반복적인 프로세스입니다. MLflow를 사용하면 이러한 훈련 반복에서 입력과 출력을 추적하여 시도의 반복성을 개선하고 데이터 과학자 사이의 협업을 촉진할 수 있습니다. 완전관리형 MLflow 기능을 사용하면 각 팀을 위한 MLflow 추적 서버를 생성하여 ML 실험 중에 효율적인 협업을 촉진할 수 있습니다.

MLflow가 포함된 Amazon SageMaker는 다양한 프레임워크 및 환경에서 효율적인 모델 훈련을 간소화하고, 실험을 추적하고, 재현성을 유지하면서 엔드 투 엔드 기계 학습 수명 주기를 관리합니다. 진행 중인 훈련 작업을 시각화하고, 동료와 실험을 공유하고, 실험으로부터 직접 모델을 등록할 수 있는 단일 인터페이스가 제공됩니다.

Amazon SageMaker Pipelines를 사용하면 데이터 처리, 모델 훈련, 미세 조정, 평가, 배포의 엔드 투 엔드 ML 워크플로를 자동화할 수 있습니다. Pipelines 시각적 편집기에서 클릭 몇 번으로 자신만의 모델을 구축하거나 SageMaker Jumpstart에서 파운데이션 모델을 사용자 지정하세요. 정기적으로 또는 특정 이벤트(예: S3의 새 훈련 데이터)가 트리거될 때 자동으로 실행되도록 SageMaker Pipelines를 구성할 수 있습니다.

모델 동작의 문제를 해결하고 근본 원인을 파악하기 위해 프로덕션에서 모델을 재현해야 하는 경우가 많습니다. 이에 도움이 되도록 Amazon SageMaker 로그는 워크플로의 모든 단계를 기록하여, 훈련 데이터, 구성 설정, 모델 파라미터, 학습 기울기 등 모델 아티팩트의 감사 추적을 생성합니다. 계보 추적을 사용하여 모델을 재생성하고 잠재적 문제를 디버깅할 수 있습니다.

ML 애플리케이션 구축에는 모델, 데이터 파이프라인, 훈련 파이프라인 및 검증 테스트가 수반됩니다. Amazon SageMaker Model Registry를 사용하면 중앙 리포지토리에서 모델 버전, 사용 사례 그룹화와 같은 메타데이터 및 모델 성능 지표 기준을 추적하고 비즈니스 요구 사항에 따라 배포에 적합한 모델을 손쉽게 선택할 수 있습니다. 추가로 SageMaker Model Registry는 감사 및 규정 준수에 대한 승인 워크플로를 자동으로 로깅할 수 있습니다.

데모 보기

일반적으로 “코드형 인프라”라 하는 선언형 구성 파일을 통한 인프라 오케스트레이션은 ML 인프라 프로비저닝 및 CI/CD 파이프라인이나 배포 도구에 지정된 대로 정확하게 솔루션 아키텍처를 구현하는 데 있어 많이 사용되는 접근 방식입니다. Amazon SageMaker Projects를 사용하면 사전 구축된 템플릿 파일을 사용하여 코드형 인프라를 작성할 수 있습니다.

ML 개발 워크플로는 프로덕션 애플리케이션의 새 모델을 신속하게 제공할 수 있도록 통합 및 배포 워크플로를 통합해야 합니다. Amazon SageMaker Projects는 개발 환경과 프로덕션 환경 간의 동등성 유지, 소스 및 버전 제어, A/B 테스트, 엔드 투 엔드 자동화와 같은 CI/CD 사례를 기계 학습으로 가져옵니다. 그 결과, 승인되는 대로 모델을 프로덕션에 가져오게 되고, 그에 따라 민첩성이 증가합니다.

추가로 Amazon SageMaker에는 엔드포인트 가용성을 유지하고 배포 위험을 최소화하는 데 도움이 되는 보호 기능이 내장되어 있습니다. SageMaker는 가용성을 극대화하기 위해 블루/그린 배포와 같은 배포 모범 사례의 설정 및 오케스트레이션을 자동으로 처리하고, 자동 롤백 메커니즘 등 엔드포인트 업데이트 메커니즘과 통합합니다. 이를 통해 문제를 조기에 자동으로 식별하고, 프로덕션에 큰 영향을 주기 전에 교정 조치를 취할 수 있도록 지원합니다.

모델이 프로덕션에 배포되면 비상 대기 중인 데이터 사이언티스트가 문제를 해결하고 재훈련을 트리거할 수 있도록 알림을 구성하여 성능을 모니터링할 수 있습니다. Amazon SageMaker Model Monitor는 실시간으로 모델 드리프트 및 개념 드리프트를 감지하고 즉각적인 조치를 취할 수 있도록 알림을 보내, 품질을 유지하도록 도와줍니다. SageMaker Model Monitor는 모델 성능 특성(예: 총 예측 수와 비교하여 정확한 예측 수를 측정하는 정확도)을 지속적으로 모니터링하므로, 이상 항목을 해결할 수 있습니다. SageMaker Model Monitor는 SageMaker Clarify와 통합되어 잠재적인 편향을 더욱 명확하게 파악할 수 있도록 가시성을 향상시킵니다.

Amazon SageMaker를 사용하면 어느 사용 사례에서나 높은 성능과 낮은 비용으로 추론이 가능하도록 ML 모델을 손쉽게 배포할 수 있습니다. 모든 ML 추론 요구 사항을 충족할 수 있도록 다양한 ML 인프라 및 모델 배포 옵션을 제공합니다.