AWS 기술 블로그

Amazon Bedrock의 Claude와 Amazon Kendra로 향상된 RAG 사용하기

Amazon Bedrock의 Claude LLM v2.1은 200k token을 가지는 Context Window를 제공하고, 환각(Hallucination) 방지에서도 높은 성능을 보여주고 있습니다. 또한, Amazon Q에서는 Amazon Bedrock과 Amazon Kendra을 이용하여 다양한 데이터 소스를 통합하여 업무를 간소화하고, 빠른 의사결정 및 문제점 해결이 가능하도록, 즉각적이고 관련성 있는 정보와 조언을 제공하고 있습니다. 본 게시글은 Amazon Bedrock의 Claude LLM과 Amazon Kendra를 사용하여 RAG (Retrieval Augmented Generation)가 적용된 […]

한영 동시 검색 및 인터넷 검색을 활용하여 RAG를 편리하게 활용하기

기업의 중요한 문서를 검색하여 편리하게 활용하기 위하여 LLM(Large Language Model)을 활용하는 기업들이 늘어나고 있습니다. 기업의 모든 데이터를 사전 학습하는 것은 비용 및 시간에 대한 제약뿐 아니라 데이터 보안 면에서도 바람직하지 않을 수 있습니다. RAG(Retrieval-Augmented Generation)의 지식 저장소(Knowledge Store)를 활용하면, 다수의 문서를 안전하게 검색하여 관련된 문서(Relevant documents)를 추출한 후에 LLM에서 용도에 맞게 활용할 수 있습니다. RAG의 지식 […]

AWS AI 서비스를 활용한 미디어 자막 성능 개선 및 컨텐츠 현지화 방법

미디어에서 자막은 단순히 대사만을 전달하는 것이 아니라, 영상 속에서 일어나는 다양한 소리들(배경음, 음향 효과 등)도 설명해주기 때문에 영상의 내용을 이해하는 데 중요한 역할을 합니다. 자막의 대표적 종류인 폐쇄자막(Closed Caption)은 주로 청각 장애인을 위한 자막 서비스로 사용되어 모든 사람들이 접할 수 있게 되었습니다. 또한 자막을 통해  ‘오징어게임’, ‘더 글로리’와 같은 국내 미디어 컨텐츠의 세계화를 이룰 수 […]

Amazon IVS를 활용한 볼라의 라이브 커머스 구축 사례

볼라(Volla)는 대한민국 대표 컬렉터 플랫폼으로 스포츠카드, 트레이딩카드, 아트토이 등 다양한 분야의 컬렉터들이 라이브 방송을 통해 거래 플랫폼인 와이스(WYYYES) 서비스를 운영하고 있습니다. 서비스 오픈 후 와이스를 통해 1년 반 동안 약 40만 건의 거래가 이루어졌으며, 월간 1,500여 회 이상의 라이브 방송을 통해 일 2천 건 이상의 경매가 진행되고 있습니다. 전 세계 컬렉팅 시장은 코로나19 이후로 크게 […]

Multi-RAG와 Multi-Region LLM로 한국어 Chatbot 만들기

사전학습(pretrained)되지 않은 데이터나 민감한 정보를 가지고 있어서 사전학습 할 수 없는 기업의 중요한 데이터는 RAG(Retrieval-Augmented Generation)을 이용하여 LLM(Large Language Model)에서 이용될 수 있습니다. RAG는 지식저장소(Knowledge Store)의 연관성 검색(sementic search)을 이용해, 질문과 가장 가까운 문서를 LLM의 Context로 활용합니다. 이러한 지식저장소에는 대표적인 In-memory vector store인 Faiss, persistent store이면서 대용량 병렬처리가 가능한 Amazon OpenSearch와 완전관리형 검색서비스인 Amazon Kendra가 있습니다. 또한, 2023년 re:Invent에서는 Amazon Aurora, OpenSearch, […]

AWS 에 구축하는 클라우드 디자인 패턴 시리즈 5부: 데이터 관리

현대적인 소프트웨어 아키텍처에서는 분산 시스템과 마이크로서비스 아키텍처가 많이 사용되면서 데이터의 일관성과 안정성을 보장하는 것이 중요한 과제로 부각되고 있습니다. 특히, 여러 서비스 간의 효과적인 통신과 데이터의 동기화는 시스템의 신뢰성을 높이는 핵심 요소 중 하나입니다. 이러한 도전에 대응하기 위해 트랜잭션 아웃박스 패턴이 등장했으며, 이 패턴은 데이터베이스 업데이트와 이벤트 알림을 조율하여 안정성 있는 분산 시스템을 구축하는데 도움을 주고 […]

ODN의 AWS IoT 및 서버리스를 활용한 해양환경 모니터링 플랫폼 개발

오든의 스마트 아쿠아 팜 솔루션은 스마트 부표 솔루션과 센싱, 통신 디바이스, 실시간 AIoT 서비스가 가능한 플랫폼을 제공합니다. LTE와 Wifi 등을 다양한 IoT 무선 통신과 디지털 센싱 프로토콜을 지원하여 호환성과 범용성을 제공하고, 디지털 시그널 프로세서(ODN-DSP)로 확보된 ‘메타오션’ 데이터 API 서비스와 ‘오든뷰’ 앱 서비스를 통해 사용자의 편리성을 극대화했습니다. 오든은 이러한 AIoT 솔루션을 통해 접근성이 떨어지는 해상에 물리적인 […]

AWS DataSync를 활용하여 Wasabi Object Storage를 Amazon S3로 마이그레이션하기

본 게시글은 AWS Storage Blog에 게시된 ‘Migrating Wasabi Object Storage to Amazon S3 using AWS DataSync’ by Emil Richardsen Nedregård and Darryl Diosomito을 한국어 번역 및 편집하였습니다. 많은 조직이 클라우드 서비스 제공자 간에 상당한 양의 객체 데이터를 전송하는 작업에 직면하고 있으며, 이러한 데이터 전송의 배경에는 다양한 시나리오가 있습니다. 이러한 시나리오에는 데이터 통합, 워크로드 마이그레이션, 데이터 획득, […]

AWS 에 구축하는 클라우드 디자인 패턴 시리즈 4부: API 관리

클라우드 컴퓨팅, 마이크로서비스 아키텍처, 빅데이터, 인공지능과 같은 기술의 발전과 함께 우리의 시스템은 더 유연하게 확장하고 상호작용할 수 있도록 진화하였고, 이에 따라 API 관리도 이전보다 더 복잡하고 동적인 과제로 변모하고 있습니다. 기업은 안정적이고 확장 가능한 API를 설계하고 애플리케이션과 서비스 간의 원활한 통신을 위한 방법을 모색하고 있으며, 이때 필수적으로 고려되는 주제 중 하나가 바로 API (Application Programming […]

AWS 에 구축하는 클라우드 디자인 패턴 시리즈 3부: 마이그레이션

이전의 블로그 게시물에서 안정성, 연결성, 그리고 조합에 관련된 주제로, AWS에서 구축하는 클라우드 디자인 패턴들을 살펴 보았습니다. 좋은 디자인 및 구현 방법은 클라우드에서 운영하는 애플리케이션과 서비스의 품질 뿐만 아니라 비용 부분에서도 굉장히 많은 영향을 끼칩니다. 그 과정에 관리 및 배포 방법이 간단한 유지 관리 용이성, 구성 요소 및 하위 시스템이 다른 애플리케이션과 다른 시나리오에 사용될 수 […]