이제 Bottlerocket에서 NVIDIA GPU 시간 슬라이싱 기능을 사용해 AI/ML 워크로드 효율성 개선 가능

게시된 날짜: 2024년 10월 23일

오늘 Bottlerocket 대상 NVIDIA GPU 타임 슬라이싱 지원 개시가 발표되었습니다. Bottlerocket은 보안 유지, 설치 공간 최소화, 안전한 업데이트를 중점적으로 고려하여 컨테이너 호스팅용으로 특별히 구축된 Linux 기반 운영 체제입니다. 이번에 발표된 새로운 기능을 활용하면 다중 테넌트 환경 및 리소스가 제한된 환경에서 GPU 사용률을 최대한 높일 수 있습니다. 컨테이너에서 실행되는 인공 지능/기계 학습(AI/ML) 워크로드용으로 GPU 리소스를 더욱 효율적으로 공유할 수 있기 때문입니다.

이제 Bottlerocket에서 GPU 처리 시간을 더 짧은 간격(“슬라이스”)으로 분할하는 타임 슬라이싱이 지원되므로 여러 작업이 GPU 하나에 동시 액세스할 수 있습니다. 따라서 Bottlerocket 고객은 GPU 하나에서 여러 AI/ML 모델을 실행하여 GPU 사용률을 높이는 동시에 워크로드 규모를 더욱 효율적으로 조정할 수 있습니다.

이제 모든 상용 리전과 AWS GovCloud(미국) 리전에서 Bottlerocket의 GPU 시간 슬라이싱이 지원됩니다. Bottlerocket의 GPU 타임 슬라이싱 기능에 대해 자세히 알아보려면 Bottlerocket 개발자 웹 사이트를 참조하세요.