SageMaker Canvas에서 미세 조정된 파운데이션 모델 프로덕션화

게시된 날짜: 2024년 7월 19일

이제 Amazon SageMaker Canvas는 미세 조정된 파운데이션 모델(FM)을 SageMaker 실시간 추론 엔드포인트에 배포할 수 있도록 지원하므로, 생성형 AI 기능을 프로덕션에 도입하고 Canvas 워크스페이스 외부에서 사용할 수 있습니다. SageMaker Canvas는 분석가와 일반인 데이터 과학자가 정확한 ML 예측을 생성하고 생성형 AI 기능을 사용할 수 있는 노코드 워크스페이스입니다.

SageMaker Canvas는 Amazon Titan Express, Falcon-7B-Instruct, Falcon-40B-Instruct, Flan-T5 변형과 같은 Amazon Bedrock 및 SageMaker JumpStart로 구동되는 미세 조정 FM에 대한 액세스를 제공합니다. 데이터세트를 업로드하고 미세 조정할 FM을 선택하면 SageMaker Canvas가 모델을 자동으로 생성하고 튜닝하여 특정 사용 사례의 패턴과 뉘앙스에 맞게 FM을 조정함으로써 모델의 응답 성능을 향상시킵니다.
오늘부터 미세 조정된 FM을 SageMaker 엔드포인트에 배포할 수 있으므로 SageMaker Canvas 워크스페이스 외부의 애플리케이션에 생성형 AI 기능을 더욱 쉽게 통합할 수 있습니다.

시작하려면 SageMaker Canvas에 로그인하여 미세 조정된 FM에 액세스하세요. 원하는 모델을 선택하고 적절한 엔드포인트 구성(예: 무기한 또는 특정 기간)으로 배포하세요. SageMaker 추론 요금은 배포된 모델에 적용됩니다. 신규 사용자는 AWS Console에서 SageMaker Canvas를 직접 시작하면 최신 버전에 액세스할 수 있습니다. 기존 사용자는 ‘로그아웃’을 클릭하고 다시 로그인하면 SageMaker Canvas의 최신 버전에 액세스할 수 있습니다.

확장된 이 기능은 이제 SageMaker Canvas가 지원되는 모든 AWS 리전에서 사용할 수 있습니다. 자세한 내용은 SageMaker Canvas 제품 설명서에서 확인하세요.