Amazon SageMaker를 활용하여 ML 훈련을 가속화하고 출시 소요 시간을 단축한 HUMAN Security

HUMAN Security는 방해, 네트워크 효과, 인터넷 가시성 등의 최신 방어 전략을 활용하여 사이버 범죄의 경제성을 파괴합니다. 기업이 사람을 모방하는 사기 및 온라인 봇으로부터 디지털 자산을 보호하는 데 도움이 되는 다양한 사이버 보안 솔루션을 제공함으로써, 업종을 막론하고 모든 기업이 디지털 공간의 보안을 강화할 수 있도록 지원합니다. 이 회사는 디지털 광고주를 위해 MediaGuard를 개발했습니다. MediaGuard는 Human Defense Platform에서 ML을 활용하여 모든 디지털 채널 및 형식에 걸쳐 거의 실시간으로 온라인 광고 노출의 유효성을 예측하는 광고 기술 솔루션입니다.

온라인 봇이 갈수록 정교해지는 만큼, HUMAN Security는 MediaGuard에 엄격한 지연 시간 및 정확도 요구 사항을 적용하고 있으며 엔지니어 팀은 성능을 개선하기 위해 새로운 ML 모델을 지속적으로 반복 훈련하여 향상시키고 있습니다. 하지만 HUMAN Security가 이 솔루션을 출시할 당시, ML 모델을 훈련하는 프로세스는 전적으로 수작업에 의존했으며, 여러 스크립트를 실행하고 다양한 구성을 복사하여 붙여 넣어야 했습니다. 대부분의 경우 HUMAN Security가 새로운 ML 모델을 배포하는 데 몇 주가 걸렸습니다. HUMAN Security의 스태프 데이터 사이언티스트인 Austin Leirvik은 “저희는 사람의 업무 시간을 아끼고 싶었습니다. 버튼 하나만 누르면 데이터 준비, 데이터 추출, 모델 훈련, 오프라인 모델 평가를 모두 수행할 수 있는 완벽한 데이터 파이프라인을 구축하고자 했습니다”라고 말합니다.

2012년 설립 이래 HUMAN Security는 AWS를 기반으로 한 클라우드 솔루션을 사용했으며, 2020년에는 AWS 팀을 참여시켜 ML 기능의 완성도를 높였습니다. Leirvik은 “저희는 2주에 한 번씩 협업을 진행했습니다. 모델 훈련을 자동화할 수 있는 방법에 관해 많은 피드백을 받았고, 저희는 SageMaker가 직면한 문제를 해결할 도구가 될 것이라고 보았습니다”라고 말합니다.

HUMAN Security는 AWS 팀을 참여시켰을 뿐만 아니라 AWS 파트너가 제공하는 고객 워크숍인 AWS 파트너 네트워크 Immersion Days를 비롯한 여러 교육 기회에도 AWS를 통해 참여했습니다. 이러한 교육 기회는 HUMAN Security가 직원의 역량을 높이고 ML 모델 수명 주기를 더 깊이 이해하는 데 도움이 되었습니다. 또한 HUMAN Security는 AWS 파트너인 Snowflake의 데이터 웨어하우징, 데이터 레이크, 데이터 엔지니어링, 데이터 과학, 데이터 애플리케이션 개발 및 데이터 공유 솔루션인 Snowflake Data Cloud도 도입했습니다. HUMAN Security는 이 솔루션을 활용하여 데이터 테이블을 대규모로 처리하고 저장합니다. Leirvik은 “일반적인 모델 훈련 한 건을 실행하려면 약 5,000만 개의 데이터 포인트를 처리해야 합니다. 더 큰 데이터 세트에 대한 오프라인 평가를 수행할 수 있기 때문에 롱테일을 훨씬 더 넓게 파악할 수 있어 정말 큰 도움이 됩니다”라고 말합니다.

이 회사는 간편하고 확장 가능한 서버리스 데이터 통합 서비스인 AWS Glue도 사용하기 시작했습니다. HUMAN Security는 추출 작업과 쿼리용 데이터 준비에 AWS Glue를 사용합니다. 데이터가 준비되면 HUMAN Security는 SageMaker를 사용하여 새로운 ML 모델을 구축하고 훈련하고 배포합니다. Leirvik은 “Amazon SageMaker를 활용한 덕분에 ML 모델을 훈련하는 데 필요한 시간을 크게 줄일 수 있었습니다. 그리고 모든 모델을 완벽하게 추적하고 재현할 수 있게 되었습니다”라고 말합니다. 이전에는 HUMAN Security가 새 ML 모델을 훈련하는 데 몇 주가 걸렸습니다. 하지만 이제 몇 시간 만에 새로운 ML 모델을 구축하고 훈련하고 배포할 수 있습니다.

또한 HUMAN Security는 범용 워크로드를 위한 균형 잡힌 컴퓨팅, 메모리 및 네트워킹 리소스를 제공하는 Amazon Elastic Compute Cloud(Amazon EC2) M5 인스턴스를 사용하여 워크로드를 실행합니다. 이 Amazon EC2 인스턴스 유형으로 전환한 이후 회사는 비용을 15% 더 절감하고 수요를 빠르게 확장할 수 있게 되었습니다. 이러한 확장성 덕분에 HUMAN Security는 ML 모델의 성능을 강화하여 매주 15조 건의 온라인 상호 작용이 사람의 상호 작용인지 검증할 수 있게 되었습니다. Leirvik은 “Amazon EC2 M5 인스턴스의 확장성과 신뢰성에 매우 만족하고 있습니다. 이 솔루션 덕분에 처리하는 데이터의 양을 다섯 배나 늘릴 수 있었습니다”라고 말합니다.

완전 자동화를 실현하기 위해 HUMAN Security는 Amazon States Language를 사용하여 구성 파일 세트를 정의하고 해당 파일을 나머지 ML 코드베이스와 함께 리포지토리에 추가하여 모든 AWS 솔루션에 걸쳐 Step Functions을 설정했습니다. 코드베이스가 변경될 때마다 회사는 해당 계단 함수를 자동으로 재배포하여 워크플로의 복잡성을 줄였습니다. 이렇게 자동화한 결과, 회사는 출시 소요 시간을 단축하고 비즈니스 민첩성을 강화할 수 있었습니다. 작업 시간이 더욱 단축되면서 HUMAN Security는 MediaGuard를 위한 새로운 예측 기능을 출시하는 데 집중할 수 있었습니다. Leirvik은 “AWS를 사용하면서 이전 프로세스에 비해 배포 모델 수가 3배로 늘어났습니다. 이제 성능 문제가 발생했을 때 더 빠르게 대응할 수 있습니다”라고 말합니다.

HUMAN Security는 이 프로젝트에서 얻은 인사이트를 프로덕션 환경의 다른 ML 모델에도 적용할 계획입니다. 또한 회사 전체의 다양한 사용 사례로 AWS 서비스의 활용 범위를 계속 확대해나갈 예정입니다. Leirvik은 “AWS 팀과 협력한 경험은 매우 유익했습니다. AWS 팀은 저희가 직면한 문제를 새로운 관점에서 바라볼 수 있도록 도와주었고 저희가 성공적인 결과를 얻기까지 꾸준히 지원해주었습니다”라고 말합니다.