이 AWS 솔루션 구현에서 제공하는 기능

AWS MLOps Framework 솔루션은 머신 러닝(ML) 모델 생산을 위해 아키텍처 모범 사례를 간소화하고 적용하도록 도와줍니다. 이 솔루션은 AWS ML 서비스 및 타사 서비스에 대한 ML 파이프라인 관리용의 표준 인터페이스를 제공하는 확장 가능한 프레임워크입니다. 이 솔루션의 템플릿을 통해 고객은 훈련된 모델[BYOM(bring your own model)이라고도 함]을 업로드하고 파이프라인의 오케스트레이션을 구성하고 파이프라인 작업을 모니터링할 수 있습니다. 이 솔루션은 성공적인 프로세스를 대규모로 반복할 수 있게 하여 팀의 민첩성과 효율성을 높입니다.

장점

사전 구성된 기계 학습 파이프라인 활용

솔루션의 참조 아키텍처를 사용하여, API 호출 또는 Git 리포지토리를 통해 사전 구성된 파이프라인을 시작합니다.

장점

훈련된 모델 및 추론 엔드포인트 자동 배포

솔루션의 프레임워크를 사용하여 모형 모니터링 파이프라인 또는 Amazon SageMaker BYOM 파이프라인을 자동화합니다. 모형 드리프트 감지가 서버리스 마이크로 서비스로 패키징된 추론 엔드포인트를 제공합니다.

AWS 솔루션 구현 개요

아래 다이어그램에서는 솔루션 구현 안내서와 함께 제공되는 AWS CloudFormation 템플릿을 사용하여 자동으로 배포할 수 있는 서버리스 아키텍처를 보여줍니다.

  • 옵션 1 - 단일 계정 배포
  • 옵션 2 - 다중 계정 배포
  • 옵션 1 - 단일 계정 배포
  • AWS MLOps Framework | 참조 아키텍처 다이어그램
     확대하려면 클릭

    AWS MLOps Framework 참조 아키텍처(단일 계정 배포)

    단일 계정 템플릿을 사용하여 동일한 AWS 계정에 모든 솔루션의 파이프라인을 배포합니다. 이 옵션은 실험, 개발 및/또는 소규모 프로덕션 워크로드에 적합합니다.

    이 솔루션의 단일 계정 템플릿은 다음과 같은 구성요소와 워크플로를 제공합니다.

    1. 오케스트레이터(솔루션 소유자 또는 DevOps 엔지니어)는 AWS 계정에서 솔루션을 시작합니다.
    2. 오케스트레이터는 대상 파이프라인에 필요한 자산(예: 모델 아티팩트, 훈련 데이터 및/또는 사용자 지정 알고리즘 zip 파일)을 자산 Amazon S3 버킷에 업로드합니다.
    3. 단일 계정 AWS CodePipeline 인스턴스는 Amazon API Gateway에 대한 API 호출을 전송하거나 mlops-config.json 파일을 Git 리포지토리에 커밋하여 프로비저닝됩니다. 파이프라인 유형에 따라 오케스트레이터 AWS Lambda 함수는 API 호출의 본문 또는 mlops-config.json 파일을 사용하여 대상 AWS CloudFormation 템플릿 및 해당 파라미터/구성을 패키지로 구성하며, 이를 AWS CodePipeline 인스턴스의 소스 스테이지로 사용합니다.
    4. DeployPipeline 스테이지는 패키지된 CloudFormation 템플릿 및 해당 파라미터/구성을 가져오고 대상 파이프라인을 동일한 계정에 배포합니다.
    5. 대상 파이프라인을 프로비저닝한 후에 사용자가 해당 기능에 액세스할 수 있습니다. Amazon Simple Notification Service(Amazon SNS) 알림이 솔루션의 시작 파라미터에 제공된 이메일로 전송됩니다.
    아래 버튼을 사용하여 솔루션 업데이트에 가입하십시오.

    참고: RSS 업데이트에 가입하려면 사용 중인 브라우저에 대해 RSS 플러그인이 활성화되어 있어야 합니다.  

    이 솔루션 구현이 도움이 되었나요?
    피드백 제공 
  • 옵션 2 - 다중 계정 배포
  • AWS MLOps Framework | 참조 아키텍처 다이어그램
     확대하려면 클릭

    AWS MLOps Framework 참조 아키텍처(다중 계정 배포)

    다중 계정 템플릿을 사용하여 여러 AWS 계정에서 다중 환경(예: 개발, 스테이징 및 프로덕션)을 프로비저닝합니다. 그러면 기계 학습 파이프라인 배포의 보안 및 제어를 늘리고 거버넌스를 개선하며, 보다 안전한 실험과 더 빠른 혁신을 제공하고, 프로덕션 데이터 및 워크로드를 보안하고 비즈니스 연속성을 보장하도록 가용성을 지원합니다.

    이 솔루션의 다중 계정 템플릿은 다음 구성 요소와 워크플로를 제공합니다.

    1. 오케스트레이터(오케스트레이터 계정에 대한 관리 액세스 권한이 있는 DevOps 엔지니어 또는 솔루션 소유자)는 AWS Organizations 정보(예: 개발, 스테이징 및 프로덕션 조직 단위 ID와 계정 번호)를 제공하고, AWS 오케스트레이터 계정에서 솔루션을 시작합니다.
    2. 오케스트레이터는 대상 파이프라인에 필요한 자산(예: 모델 아티팩트, 훈련 데이터 및/또는 사용자 지정 알고리즘 zip 파일)을 AWS 오케스트레이터 계정의 자산 Amazon S3 버킷에 업로드합니다.
    3. 다중일 계정 AWS CodePipeline 인스턴스는 Amazon API Gateway에 대한 API 호출을 전송하거나 mlops-config.json 파일을 Git 리포지토리에 커밋하여 프로비저닝됩니다. 파이프라인 유형에 따라 오케스트레이터 AWS Lambda 함수는 API 호출의 본문 또는 mlops-config.json 파일을 사용하여 각 스테이지의 대상 AWS CloudFormation 템플릿 및 해당 파라미터/구성을 패키지로 구성하며, 이를 AWS CodePipeline 인스턴스의 소스 스테이지로 사용합니다.
    4. DeployDev 스테이지는 패키지된 CloudFormation 템플릿 및 해당 파라미터/구성을 가져오고 대상 파이프라인을 개발 계정에 배포합니다.
    5. 대상 파이프라인이 개발 계정에 프로비저닝된 후에 개발자는 파이프라인에서 반복할 수 있습니다.
    6. 개발이 완료되면 오케스트레이터 또는 다른 권한이 있는 계정은 DeployStaging 작업을 수동으로 승인하여 DeployStaging 스테이지로 진행합니다.
    7. DeployStaging 스테이지는 스테이징 구성을 사용하여 대상 파이프라인을 스테이징 계정에 배포합니다.
    8. 테스터는 배포된 파이프라인에서 서로 다른 테스트를 수행합니다.
    9. 파이프라인이 품질 테스트에 통과하면 오케스트레이터는 DeployProd 작업을 승인할 수 있습니다.
    10. DeployProd 스테이지는 대상 파이프라인(프로덕션 구성 포함)을 프로덕션 계정에 배포합니다.
    11. 마지막으로 대상 파이프라인이 프로덕션에서 활성화됩니다. Amazon Simple Notification Service(Amazon SNS) 알림이 솔루션의 시작 파라미터에 제공된 이메일로 전송됩니다.

    아래 버튼을 사용하여 솔루션 업데이트에 가입하십시오.

    참고: RSS 업데이트에 가입하려면 사용 중인 브라우저에 대해 RSS 플러그인이 활성화되어 있어야 합니다.  

    이 솔루션 구현이 도움이 되었나요?
    피드백 제공 
동영상
솔루션으로 해결: AWS ML Ops Framework
구축 아이콘
솔루션 직접 배포

AWS 솔루션 구현 라이브러리에서 일반적인 아키텍처 문제에 대한 답을 검색해 보실 수 있습니다.

자세히 알아보기 
APN 파트너 찾기
APN 파트너 찾기

시작하는 데 도움이 되는 AWS 공인 컨설팅 및 기술 파트너를 찾으십시오.

자세히 알아보기 
살펴보기 아이콘
솔루션 컨설팅 오퍼 살펴보기

AWS의 컨설팅 오퍼 포트폴리오를 살펴보고 솔루션 배포 시 AWS의 검증된 지원을 받으세요.

자세히 알아보기