AWS Greengrass 기반 기계 학습(Machine Learning) 추론 기능 출시

사물 인터넷, 기계 학습 및 엣지 컴퓨팅을 하나로 결합하면 무슨 일이 벌어질까요? 우선, 각 항목을 하나씩 살펴보고 AWS가 제공해야 할 기능에 대해 설명한 후 이야기해 보겠습니다.

• IoT(사물 인터넷) – 실제 세계와 디지털 세계를 연결하는 장치입니다. 공장, 차량, 광산, 농장, 주택 등 여러 곳에서 한 종류 이상의 센서가 장착된 IoT 장치를 찾아볼 수 있습니다. 주요 AWS 서비스로는 AWS IoT Core, AWS IoT Analytics, AWS IoT Device Management 및 Amazon FreeRTOS가 있으며 AWS IoT 페이지에서 더 많은 서비스를 확인할 수 있습니다.
• 기계 학습(Machine Learning) – 대규모 데이터 세트와 통계 알고리즘을 사용하여 훈련되는 시스템으로, 새로운 데이터에서 정보를 추론하는 데 사용될 수 있습니다. Amazon에서는 쇼핑 항목 추천, Amazon 주문 처리 센터의 경로 최적화, 드론 비행 등 다양한 작업에 Machine Learning을 사용합니다. Amazon은 TensorFlow 및 MXNet을 비롯한 주요 오픈 소스 Machine Learning 프레임워크를 지원하며 ML에 액세스하고 쉽게 사용할 수 있는 Amazon SageMaker를 제공합니다. 또한 이미지 및 비디오를 위한 Amazon Rekognition과 챗봇용 Amazon Lex에 더해 텍스트 분석, 번역, 음성 인식 및 텍스트-음성 변환을 위한 다양한 언어 서비스를 제공합니다.
• 엣지 컴퓨팅(Edge Computing) – 서로 다른 위치에서 가끔씩 클라우드에 연결하거나 클라우드에 전혀 연결하지 않고 컴퓨팅 리소스 및 의사 결정 기능을 활용할 수 있도록 하는 기술입니다. AWS Greengrass는 AWS IoT에서 인터넷 연결 없이 Lambda 함수를 실행하고 장치를 동기화 상태로 유지하는 기능을 제공합니다.

엣지 기반 기계 학습 추론 실행
지금부터 이 중요한 최신 기술 세 가지를 결합할 때의 이점을 살펴보도록 하겠습니다. 이제 AWS Greengrass를 사용하여 엣지에서 기계 학습 추론을 실행할 수 있습니다. 즉, AWS 클라우드의 기능(예: GPU가 장착된 빠르고 강력한 인스턴스)을 사용하여 ML 모델을 제작하고 훈련하고 테스트한 후 IoT 장치, 즉 공장, 차량, 광산, 농장 및 주택 등에서 낮은 전력으로 가끔씩 연결되는 소형 IoT 장치에 ML 모델을 배포할 수 있습니다.

Greengrass ML 추론을 활용할 수 있는 방법은 많지만 그 중 몇 가지는 다음과 같습니다.

정밀 농업 – 작물 생산량은 세계적인 인구 증가와 기후 변화의 영향을 받습니다. 그러나 기술을 사용하여 생산량을 늘릴 수 있는 기회는 엄청납니다. 토양, 식물, 해충 및 작물의 이미지를 처리하는 지능형 장치를 농장에 배치하여 로컬로 조치를 취하고 상태 보고서를 클라우드에 전송할 수 있습니다.

물리적 보안 – 스마트 장치(예: AWS DeepLens)를 통해 이미지 및 장면을 로컬로 처리하여 객체를 찾고, 변화를 감시하고, 얼굴을 감지할 수 있습니다. 특이 사항 또는 문제가 발생하면 이미지 또는 비디오를 클라우드에 전달하고 Amazon Rekognition을 사용하여 자세히 볼 수 있습니다.

산업 시설 내 유지보수 – 스마트 기능을 활용한 로컬 모니터링을 통해 작동 효율을 개선하고 예기치 않은 가동 중단을 줄일 수 있습니다. 모니터에서 전력 소비량, 소음 수준 및 진동을 추론하는 작업을 실행하여 비정상적인 수치를 경고하고, 고장을 예측하며, 결함이 있는 장비를 감지할 수 있습니다.

Greengrass ML 추론 개요

이 새로운 AWS 기능에는 여러 특징이 있습니다. 이제 각 특징을 하나씩 살펴보겠습니다.

기계 학습 모델 – 사전 컴파일된 TensorFlow 및 MXNet 라이브러리는 NVIDIA Jetson TX2 및 Intel Atom 장치에서 프로덕션용으로, 32비트 Raspberry Pi 장치에서 개발용으로 사용하도록 최적화되었습니다. 이 최적화된 라이브러리는 GPU 및 FPGA 하드웨어 액셀러레이터를 엣지에서 활용할 수 있으므로 로컬에서 신속하게 추론을 실행할 수 있습니다.

모델 제작 및 훈련 – 모델을 IoT 장치에 배포하기 전에 Amazon SageMaker 및 기타 클라우드 기반 ML 도구를 사용하여 제작하고 훈련하고 테스트할 수 있습니다. SageMaker에 대한 자세한 내용은 Amazon SageMaker – Accelerated Machine Learning을 읽어 보십시오.

모델 배포 – Greengrass 그룹에서 직접 SageMaker 모델을 참조할 수 있습니다. 물론, 적절한 IAM 권한을 모델에 부여해야 합니다. S3 버킷에 저장된 모델도 활용할 수 있으며 클릭 몇 번으로 새로운 Machine Learning 리소스를 그룹에 추가할 수 있습니다.

이 새로운 기능을 바로 오늘부터 사용할 수 있습니다! Perform Machine Learning Inference를 읽고 자세한 내용을 알아보십시오.

— Jeff;