게시된 날짜: Sep 16, 2022
Amazon SageMaker 자동 모델 튜닝을 사용하면 최적의 하이퍼파라미터 구성 세트를 검색하여 가장 정확한 기계 학습 모델 버전을 찾을 수 있습니다. 이제 SageMaker 자동 모델 튜닝에서는 Hyperband가 지원됩니다. Hyperband는 컴퓨터 비전 관련 문제를 해결하는 딥 신경망 등의 대규모 모델에서 베이지안 검색에 비해 최대 3배 더 빠르게 최적 하이퍼파라미터 세트를 찾을 수 있는 새로운 검색 전략입니다.
이번 향상 기능이 출시되기 전에는 임의 검색이나 베이지안 검색을 통해 모델을 튜닝할 수 있었습니다. 이러한 검색에서는 튜닝의 일부분으로 시작되는 각 훈련 작업을 완료될 때까지 실행합니다. 새로운 다중 충실도 튜닝 전략인 Hyperband는 훈련 작업의 중간 결과와 최종 결과를 모두 사용하여 성능이 우수한 하이퍼파라미터 구성에 리소스를 동적으로 다시 할당하며 성능이 낮은 훈련 작업은 자동 중지합니다. Hyperband는 여러 리소스 수준에서 결과를 게시하는 반복 알고리즘(예: 여러 epoch에 걸쳐 훈련된 신경망 또는 여러 라운드에 걸쳐 훈련된 Gradient-Boosted 방식 의사 결정 트리)을 튜닝할 때 임의 및 베이지안 검색에 비해 최대 3배 더 빠르게 최적 하이퍼파라미터 구성을 찾을 수 있습니다.