AWS Greengrass ML Inference

AWS Greengrass 디바이스에서 기계 학습 모델 실행

AWS Greengrass는 커넥티드 디바이스에서 로컬 컴퓨팅 , 메시징, 데이터 캐싱 및 동기화 기능을 안전한 방식으로 실행할 수 있는 소프트웨어입니다. AWS Greengrass에서는 인터넷에 연결되어 있지 않더라도 커넥티드 디바이스에서 AWS Lambda 함수를 실행하고, 디바이스 데이터를 동기화 상태로 유지하고, 다른 디바이스와 안전하게 통신할 수 있습니다. 이제 AWS Greengrass Machine Learning(ML) 추론 기능을 사용하면 커넥티드 디바이스에서 로컬로 ML 추론을 쉽게 수행할 수 있습니다.

Machine Learning에서는 기존 데이터로부터 학습할 수 있는 통계 알고리즘을 사용하여(교육이라고 부르는 프로세스) 새로운 데이터에 대한 의사 결정을 내립니다(추론이라고 부르는 프로세스). 교육을 하면서 의사 결정을 위한 모델을 구축할 수 있는 데이터의 패턴과 관계가 파악됩니다. 이 모델을 사용하면 시스템에서 지금까지 다룬 적 없는 데이터에 대해 지능형 의사 결정을 내릴 수 있습니다. ML 모델 교육에는 대량의 컴퓨팅 리소스가 필요하므로 당연히 클라우드에 적합합니다. 하지만 일반적으로 추론에서는 컴퓨팅 파워를 훨씬 적게 사용하고 새로운 데이터가 제공될 때 실시간으로 수행될 때가 많습니다. 따라서 IoT 애플리케이션이 로컬 이벤트에 신속하게 대응할 수 있으려면 매우 짧은 지연 시간으로 추론 결과를 확보하는 것이 중요합니다.

AWS Greengrass ML 추론을 통해 두 가지 측면의 장점을 모두 누릴 수 있습니다. 클라우드에서 구축되고 교육된 ML 모델을 사용하면 커넥티드 디바이스에 로컬로 ML 추론을 배포하고 실행할 수 있습니다. 예를 들어 장면 탐지 분석을 위해 Amazon SageMaker로 예측 모델을 구축한 후 클라우드에 연결되지 않은 Greengrass 지원 보안 카메라 디바이스에 로컬로 실행하여 예측하고 방문자가 들어오는 것이 탐지되면 알림을 전송하도록 할 수 있습니다.

이점

연결된 디바이스에서 쉽게 ML 추론 실행

연결된 디바이스에서 로컬로 추론을 수행하면 클라우드로 디바이스 데이터를 보내 예측하는 지연 시간과 비용이 줄어듭니다. Greengrass의 ML 추론 기능을 사용하면, ML 추론을 수행하기 위해 모든 데이터를 클라우드로 전송하지 않고 디바이스에서 직접 추론을 실행할 수 있습니다. 이러한 데이터는 추가 처리가 필요할 때만 클라우드로 전송됩니다.

유연성

Greengrass ML 추론에는 인텔 Atom, NVIDIA Jetson TX2 및 Raspberry Pi가 탑재된 모든 디바이스를 위해 사전에 구축된 TensorFlow, Apache MXNet 및 Chainer 패키지가 포함되어 있습니다. 따라서 디바이스용 ML 프레임워크를 처음부터 구축하고 구성할 필요가 없습니다. 또한, TensorFlow, Apache MXNet 및 Chainer를 지원하는 것 외에 Greengrass ML은 Caffe2, Microsoft Cognitive Toolkit 등 다른 인기 있는 프레임워크와도 연동됩니다. Greengrass ML 추론에서는 Amazon SageMaker에서 ML 모델을 구축 및 교육하거나 Amazon S3에 저장된 자체 사전 교육 모델을 가져올 수 있는 유연성도 제공합니다.

클릭 몇 번으로 커넥티드 디바이스에 모델 배포

AWS Greengrass ML 추론을 사용하면 기계 학습 모델을 클라우드에서 디바이스로 손쉽게 배포할 수 있습니다. Greengrass 콘솔에서 클릭 몇 번으로 GG 콘솔에서 교육된 모델을 찾고, 원하는 ML 모델을 선택하고, 대상 디바이스에 배포할 수 있습니다. 선택한 모델은 원하는 커넥티드 디바이스에 배포 및 실행됩니다.

GPU로 추론 성능 가속화

AWS Greengrass ML Inference를 사용하면 Greengrass 콘솔에서 엑셀러레이터 디바이스를 Greengrass 로컬 리소스로 포함하여 사용자 디바이스의 GPU와 같은 하드웨어 엑셀러레이터에 액세스할 수 있습니다.

작동 방식

AWS Greengrass ML 추론 – 작동 방식

사용 사례

비디오 처리

AWS Greengrass ML Inference는 보안 카메라, 교통 카메라, 전신 카메라 및 의료용 이미지 장비와 같은 연결된 디바이스에 배포하여 로컬에서 예측을 수행하는 데 도움을 줄 수 있습니다. AWS Greengrass ML Inference를 사용하면 얼굴 인식, 객체 감지 및 이미지 밀도와 같은 ML 모델을 디바이스에 직접 배포하고 실행할 수 있습니다. 예를 들어 교통 카메라는 교차로를 통과하는 자전거, 차량 및 보행자 수를 셀 수 있으며, 교통 흐름을 최적화하고 사람들을 안전하게 보호하기 위해 교통 신호를 언제 조정해야 하는지 감지할 수 있습니다.

소매 및 숙박

소매업체, 크루즈 라인 및 놀이 공원은 더 나은 고객 서비스를 제공하기 위해 IoT 애플리케이션에 투자합니다. 예를 들어 놀이공원에서 개체 탐지 모델을 실행하여 입장객 수를 추적할 수 있습니다. 대용량 비디오 피드를 클라우드로 전송할 필요 없이 카메라가 입장객을 찾고 로컬에서 인원수 확인 작업을 유지 관리할 수 있습니다. 대용량 비디오 피드 전송은 놀이공원의 제한적인 인터넷 대역폭으로 인해 어려울 때가 많습니다. 이 솔루션은 인기 있는 테마파크 놀이 기구의 대기 시간을 예측할 수 있고 고객 경험을 개선하는 데 도움이 됩니다.

보안

보안 카메라 제조업체는 디바이스를 좀 더 지능적으로 만들고 위협 탐지 기능을 자동화할 새로운 방법을 찾고 있습니다. AWS Greengrass ML 추론은 보안 카메라의 성능을 향상하는 데 도움이 될 수 있습니다. Greengrass 지원 카메라는 지역을 계속해서 스캔하여 들어오는 방문자와 같은 장면의 변화를 찾아 알림을 전송할 수 있습니다. 이 카메라는 로컬에서 장면 탐지 분석을 신속하게 수행하고, 방문자가 가족인지를 파악하기 위한 추가 분석 등 필요할 때만 데이터를 클라우드로 전송합니다.

정밀 농업

농업은 두 가지 큰 변화를 겪고 있습니다. 첫째, 전 세계 인구가 계속 증가하면서 식량 수요가 공급을 초과하고 있으며, 둘째, 기후 변화로 예측할 수 없는 기상 조건이 발생하여 작물 수확량에 영향을 미치고 있습니다. AWS Greengrass ML 추론은 농업 사례를 혁신하고 고객에게 새로운 가치를 제공하는 데 도움이 될 수 있습니다. 온실과 농장에 설치된 Greegrass 지원 카메라는 식물과 작물 이미지와 토양 센서의 데이터를 처리하여 온도, 습도 및 영양 수준의 변화와 같은 환경 이상 현상을 탐지할 뿐만 아니라 알림을 트리거할 수 있습니다.

예측 가능한 산업용 유지 관리

제조업체들은 가격 압박이 심해짐에 따라 작업 현장에서 운영 효율성을 높일 수 있는 좀 더 새로운 방법을 모색하고 있습니다. 생산 라인의 문제가 늦게 탐지되면 시간과 리소스 낭비로 이어질 수 있습니다. AWS Greengrass ML 추론은 장비 결함과 작업 현장의 문제를 조기에 탐지하도록 지원할 수 있습니다. Greengrass 지원 산업용 게이트웨이는 센서 데이터(예: 진동, 소음 수준)를 지속적으로 모니터링하고, 이상 현상을 예측하고, 알림 전송이나 전원 차단과 같이 손실을 최소화할 수 있는 관련 조치를 취합니다.

주요 고객

Jpeg_FLYING-Y_YANMAR_vertical3

Yanmar에서는 식물 성장 단계를 자동으로 탐지 및 인식함으로써 온실 운영 인텔리전스를 개선하는 자사의 IoT 정밀 농업 솔루션의 일부로 AWS Greengrass ML 추론을 활용합니다.

DFDS_Logo_Positiv_2016_RGB

AWS Greengrass ML 추론 지원 IoT 디바이스를 사용하면 DFDS가 선박 추진을 예측 및 최적화하여 궁극적으로 전체 선박의 연료 소비를 줄일 수 있습니다.

AWS Greengrass 기능에 대해 자세히 알아보기

세부 정보 페이지로 이동하기
시작할 준비가 되셨습니까?
가입
질문이 있으십니까?
문의처