Category: AWS Cloud Development Kit

Llama 2의 대규모 언어 모델(Large Language Models)을 이용하여 질문/답변(Question/Answering)을 수행하는 chatbot을 vector store를 이용하여 구현합니다. 대량의 데이터로 사전학습(pretrained)한 대규모 언어 모델(LLM)은 학습되지 않은 질문에 대해서도 가장 가까운 답변을 맥락(context)에 맞게 찾아 답변할 수 있습니다. 이는 기존의 Rule 방식보다 훨씬 정답에 가까운 답변을 제공하지만, 때로는 매우 그럴듯한 잘못된 답변(hallucination)을 할 수 있습니다. 이런 경우에 파인 튜닝(fine tuning)을 통해 […]

이글은 AWS Security Blog에 게시된 Using AWS WAF intelligent threat mitigations with cross-origin API access by Kartik Bheemisetty and Achraf Souk 을 한국어로 번역 및 편집하였습니다. AWS WAF는 봇 제어 및 사기 제어과 같이 원치 않는 웹 애플리케이션 트래픽을 필터링하는 고급 기능을 제공합니다.이러한 지능형 위협 완화에는 JavaScript 챌린지 또는 CAPTCHA를 사용한 클라이언트 측 심문 및 행동 분석과 […]

동영상 중심의 컨텐츠 소비 패턴이 계속해서 확대됨에 따라, 실시간 방송 스트리밍이나 OTT와 같은 미디어 서비스 구축에 많은 관심이 쏠리고 있습니다. 하지만 온프레미스 기반의 미디어 서비스의 경우 이벤트나 컨텐츠에 따라 트래픽을 예측하기 어렵고, 그렇기 때문에 최대 시청자 혹은 컨텐츠 소비자의 트래픽에 맞춰 인프라를 운영해야 합니다. 이는 비용면에서도 비효율적이며, 예상한 것보다 많은 트래픽에 맞춰 확장하기도 어렵습니다. 이러한 […]

자동차 산업의 메가 트렌드 키워드인 CASE 는 연결(Connectivity), 자율주행(Autonomous), 공유(Sharing), 전동화(Electrification)로 정리할 수 있습니다. 그 중 커넥티비티는 IT 기술이 융합된 자동차가 세상과 연결되고 움직이는 생활공간으로 발전하며 다양한 모빌리티 서비스 제공이 가능하게 만드는 기반입니다. 그런데 모빌리티 서비스에서 연결된 차량이 급속도로 늘어나고 대상 지역이 글로벌로 확대됨에 따라 차량 관제 및 관리 시스템(FMS)도 차량 증가 속도와 지역별 다양한 […]

카메라로 사진을 찍으면 번역해주거나 카메라로 찍은 이미지를 읽어주는 앱은 기계 학습(Machine Learning) 기술을 활용하고 있습니다. 이런 기계 학습 모델을 직접 개발하는 것은 상당한 기술적 노하우를 요구합니다. AWS에서는 Amazon SageMaker와 같이 기계 학습 모델을 개발하는 서비스 이외에도 다양한 완전 관리형(Managed) AI 서비스를 제공하고 있어서 기계 학습에 숙련된 인력이 없더라도 기계 학습 기반의 서비스를 쉽게 개발할 수 […]

Stable Diffusion 모델을 이용하면 텍스트를 이용하여 창조적인 이미지를 생성할 수 있습니다. AWS에서는 Amazon SageMaker JumpStart을 이용하여 기계 학습(ML)을 쉽게 사용할 수 있도록 사전 학습(pre-trained)된 모델을 제공하고 있는데, 2022년 10월 부터 Stable Diffusion 모델을 추가적으로 제공하고 있습니다. 이를 통해 Stable Diffusion 이미지를 쉽게 생성할 수 있으며, 즉시 Serving할 수 있도록 SageMaker Endpoint도 제공합니다. SageMaker Endpoint는 트래픽이 증가할 […]

사물인터넷 (IoT) 디바이스에서 이미지 분류를 하기 위해서는 효과적인 기계학습 모델이 필요합니다. 2020년 AWS re:Invent에서 소개된 AWS IoT Greengrass V2는 ResNet-50에 기초한 DLR 이미지 분류 모델 스토어를 Java 기반의 공개 컴포넌트(Public component)로 제공하고 있으므로, IoT 디바이스에서 이미지 분류를 할 때 유용하게 사용할 수 있습니다. DLR (Deep Learning Runtime) 이미지 분류 모델은 Built-in public component인 variant.DLR.ImageClassification.ModelStore로 제공되며, 이것을 IoT […]

XGBoost(eXtreme Gradient Boosting)는 분류(Classification)와 회귀(Regression)문제에 모두 적용할 수 있는 빠르고 효과적인 머신러닝 알고리즘입니다. 또한, 대표적­­인 AWS의 서버리스(Serverless) 서비스인 AWS Lambda는 운영에 대한 부담을 줄여주고 사용한 만큼만 지불(Pay As You Go)하면 되기 때문에 다양한 어플리케이션에서 유용하게 활용되고 있습니다. 특히, 2020년 12월부터 Lambda가 컨테이너 이미지를 지원함으로써, Lambda를 머신러닝(Machine Learning) 추론을 배포하는 용도로 사용할 수 있게 되었습니다. 이번 […]

AWS Lambda 함수 URL 소개 AWS의 대표적인 Serverless 서비스인 AWS Lambda는 인프라에 대한 고민없이 개발에만 집중할 수 있는 환경을 제공하여 편리하게 사용할 수 있습니다. 또한, Concurrency에 기반한 오토 스케일링을 통해 부하의 변동에 쉽게 대응할 수 있으며, 서비스를 사용하지 않을 경우에는 비용이 발생하지 않아 경제적입니다. 아래 그림에서는 Lambda 함수를 이용하여 Amazon DynamoDB를 조회하는 매우 간단하지만 일반적으로 […]

AWS Amplify는 AWS에서 클라우드 기반 모바일 및 웹 앱을 구축하는 가장 빠르고 쉬운 방법입니다. Amplify는 프런트엔드 웹 및 모바일 개발자가 AWS 서비스를 활용하여 다양한 기능과 혁신적인 애플리케이션을 구축할 수 있도록 하는 툴과 서비스로 구성됩니다. AWS Amplify CLI는 프런트엔드 개발자가 클라우드에서 앱의 백엔드를 생성하는데 도움이 되는 명령 줄 도구 체인입니다. AWS Amplify를 사용하여 직접 애플리케이션과 백앤드를 […]