SageMaker Canvas에서 파운데이션 모델 프로덕션화

게시된 날짜: 2024년 6월 12일

이제 Amazon SageMaker Canvas는 SageMaker 실시간 추론 엔드포인트에 파운데이션 모델(FM)을 배포할 수 있도록 지원하므로, 생성형 AI 기능을 프로덕션에 도입하고 Canvas 워크스페이스 외부에서 사용할 수 있습니다. SageMaker Canvas는 분석가와 일반인 데이터 과학자가 정확한 ML 예측을 생성하고 생성형 AI 기능을 사용할 수 있는 노코드 워크스페이스입니다.

SageMaker Canvas는 Amazon Bedrock 및 SageMaker JumpStart로 구동되는 FM에 대한 액세스를 제공하고, RAG 기반 사용자 지정 및 FM의 미세 조정을 지원합니다. 오늘부터 Falcon-7B, Llama-2 등과 같은 SageMaker JumpStart로 구동되는 FM을 SageMaker 엔드포인트에 배포할 수 있으므로 생성형 AI 기능을 SageMaker 캔버스 작업 영역 외부의 애플리케이션에 쉽게 통합할 수 있습니다. Amazon Bedrock으로 구동되는 FM은 이미 SageMaker 워크스페이스 외부에서 단일 API를 사용하여 액세스할 수 있습니다. SageMaker Canvas는 배포 프로세스를 간소화하여 가치 창출 시간을 단축하고 실험에서 프로덕션으로 원활하게 전환할 수 있도록 지원합니다.

시작하려면 SageMaker Canvas에 로그인하여 SageMaker JumpStart로 구동되는 FM에 액세스하세요. 원하는 모델을 선택하고 적절한 엔드포인트 구성(예: 무기한 또는 특정 기간)으로 배포합니다. SageMaker 추론 요금은 배포된 모델에 적용됩니다. 신규 사용자는 AWS Console에서 SageMaker Canvas를 직접 시작하면 최신 버전에 액세스할 수 있습니다. 기존 사용자는 ‘로그아웃’을 클릭하고 다시 로그인하면 SageMaker Canvas의 최신 버전에 액세스할 수 있습니다.

확장된 이 기능은 이제 SageMaker Canvas가 지원되는 모든 AWS 리전에서 사용할 수 있습니다. 자세한 내용은 SageMaker Canvas 제품 설명서에서 확인하세요.