게시된 날짜: Jul 12, 2021
오늘 AWS는 고객이 Amazon SageMaker에서 Hugging Face 모형을 대규모로 쉽게 배포할 수 있도록 지원하는 추론용 통합 SDK가 포함된 AWS Deep Learning Containers(DLC)를 발표하게 되어 기쁘게 생각합니다. 이것은 2021년 3월에 출시된 훈련용 Hugging Face AWS DLC(Hugging Face 훈련 DLC)를 활용하는 고객의 최우선 요구 사항이었습니다.
오늘부터 Amazon SageMaker는 Hugging Face 훈련 DLC 외에도 추론용 Hugging Face AWS Deep Learning Containers(Hugging Face 추론 DLC)을 사용하는 Hugging Face 모형 배포를 지원합니다. Hugging Face 추론 DLC는 TensorFlow 및 PyTorch 프레임워크를 모두 지원하여 고객에게 선택권을 제공합니다. Hugging Face 추론 DLC는 모형 호스팅을 단순화하여 고객이 단 몇 분 만에 대규모로 배포할 수 있도록 해줍니다. 이를 통해 고객은 SageMaker Pipelines를 사용하여 작업을 간소화할 수도 있습니다. 마지막으로, 이 릴리스를 통해 고객은 Hugging Face Model Hub에서 직접 Hugging Face 모형을 배포하거나 이전에 개선했던 모형을 Hugging Face 훈련 DLC를 통해 배포할 수 있습니다.
2016년부터 Hugging Face는 개발자가 쉽게 시작할 수 있도록 지원하는 10,000개 이상의 사전 훈련된 모형을 갖춘 Transformers 라이브러리와 Model Hub를 통해 NLP 커뮤니티의 선두주자로 자리매김했습니다. 41,000개 이상의 GitHub 스타를 받고 2,500만 회 이상의 다운로드를 기록함으로써 Hugging Face의 Transformers 라이브러리는 개발자가 NLP 모형을 구축하기 위해 사용하는 대표적인 라이브러리가 되었습니다. Amazon SageMaker Python SDK의 Hugging Face 추론 DLC를 사용하면 개발자는 이러한 모형을 AWS에서 쉽게 배포할 수 있습니다. Hugging Face 추론 DLC에는 Hugging Face Transformers 라이브러리, 딥 러닝(DL) 프레임워크 및 SageMaker에 최적화된 DL 모형 서버가 포함되어 있습니다. 개발자는 사용자 지정 컨테이너 호스팅 대비 최소한의 추가 코드만으로 사전 훈련된 Hugging Face 모형을 AWS에 배포할 수 있습니다. Hugging Face 모형을 사용하는 개발자는 이제 Amazon SageMaker에서 개발하기 더 쉬워졌을 뿐만 아니라 SageMaker가 모형 호스팅을 위해 제공하는 비용 효율성, 확장성, 프로덕션 준비성 및 높은 보안 수준 등의 장점을 누릴 수 있습니다.