Amazon Web Services 한국 블로그
모든 기업이 생성형 AI을 활용할 수 있는 새로운 AWS 서비스 및 도구 발표
스타트업부터 대기업까지 생성형 AI (Generative AI) 활용을 시작하고 있습니다. 생성형 AI를 테스트를 떠나서 실제 업무 생산성 향상 및 혁신으로 전환하기를 원합니다. 하지만, 기업이 생성형 AI를 도입하고 이를 현실화하려면 무엇이 필요할까요?
저희가 여러 AWS 고객과 대화할 때, 보안과 개인 정보 보호, 규모와 가격 대비 성능, 그리고 가장 중요하게는 비즈니스와 관련된 기술이 필요하다는 피드백을 들었습니다. 오늘 저희는 크고 다양한 규모의 기업들이 생성형 AI를 창의적인 방식으로 사용하고, 새로운 애플리케이션을 구축하고, 업무 방식을 개선할 수 있도록 하는 새로운 기능과 서비스를 발표합니다.
먼저, AWS에서는 다음과 같은 목표를 가지고 고객을 지원하는 데 중점을 두고 있습니다.
- 보안 및 개인 정보 보호 기능이 내장된 생성형 AI 애플리케이션을 쉽게 구축 가능
- 자체 파운데이션 모델(Foundation Model, FM)을 훈련하고 규모에 맞게 추론을 실행할 수 있도록 생성형 AI를 위한 높은 성능과 저렴한 인프라 지원
- 기업이 업무 수행 방식을 혁신할 수 있도록 생성형 AI 기반 애플리케이션 제공
- 데이터를 차별화 요소로 활용한 맞춤형 파운데이션 모델을 통해 비즈니스, 데이터 및 회사에 대한 전문가 양상
저희는 생성형 AI 경험을 구축할 수 있도록 BBVA, Thomson Reuters , United Airlines, Philips, LexisNexis Legal & Professional 등의 고객들과 협력해 왔습니다. 그리고 오늘 출시된 새로운 기능을 통해 업무 생산성 향상, 고객 참여 개선, 기업의 업무 수행 방식을 변화시킬 보다 개인화된 경험을 기대합니다.
1. Amazon Bedrock 정식 출시 및 추가 기능 미리 보기
AWS 고객은 생성형 AI가 기업에 가져올 수 있는 가치에 대해 기대하고 낙관하고 있습니다. 다양한 업무 과정에서 생성형 AI 시스템을 구축하기 위해 취해야 할 단계를 배우기 위해 기술에 깊이 빠져들고 있습니다. 최근 제너레이티브 AI의 발전이 광범위한 주목을 받았지만, 많은 기업은 이러한 변화에 참여하지 못했습니다. 고객은 사용자 정의 애플리케이션을 생성하기 위해 모델 선택, 보안 및 개인 정보 보호 보장, 데이터 우선 접근 방식, 비용 효율적인 모델 실행 방법, 신속한 엔지니어링, 검색 증강 생성(Retrieval Augmented Generation, RAG), 에이전트 등과 같은 기능이 필요하다고 말합니다. .
이것이 바로 지난 4월에 Amazon Bedrock 서비스를 발표한 이유입니다. Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Meta, Stability AI 및 Amazon과 같은 주요 제공업체의 고성능 파운데이션 모델 선택과 함께 고객이 생성형 AI를 구축하는 데 필요한 광범위한 기능 세트를 제공하는 완전 관리형 서비스입니다. 개인정보 보호와 보안을 유지하면서 개발을 단순화합니다. 최근 발표된 전략적 협업을 통해 Anthropic의 파운데이션 모델은 Amazon Bedrock 내에서 모델 사용자 정의 및 미세 조정 기능을 위한 고유한 기능에 조기에 접근할 수 있게 됩니다.
Amazon Bedrock을 미리보기로 출시한 이후, 이미 Coda, Hurone AI , Nexxiot와 같은 스타트업, adidas, GoDaddy, Clariant 및 Broadridge와 같은 대기업, Accenture, BCG, Leidos 및 Mission Cloud와 와 같은 파트너들이 Amazon Bedrock을 사용하여 산업 전반에 걸쳐 생성형 AI 애플리케이션을 안전하게 구축하고 있습니다.
뿐만 아니라, AWS 고객들은 생성형 AI를 새로운 사용 사례에 적용하고 있습니다. 예를 들어, 대표적 영업 마케팅 SaaS기업인 Salesforce의 경우 Amazon Bedrock과 안전하게 통합되어 고객이 생성형 AI 애플리케이션을 강화할 수 있도록 지원하고 있습니다. 여행 미디어 회사인 Lonely Planet은 Generative AI Innovation Center 와 협력하여 도서 콘텐츠를 몇 분 만에 구성하여 일관되고 매우 정확한 여행 추천을 제공하여 여행 일정 생성 비용을 거의 80% 절감하는 확장 가능한 AI 플랫폼을 도입했습니다.
이후로 저희는 Amazon Bedrock용 에이전트 및 지식 기반 같은 새로운 기능을 계속 추가하고 Cohere 및 Anthropic의 최신 모델과 같은 새로운 모델에 대한 지원을 추가하여 고객에게 더 많은 선택권을 제공하고 생성형 AI를 더 쉽게 만들 수 있도록 했습니다. Bedrock용 에이전트 및 지식 기반 기능은 대규모 언어모델(LLM)에 기업 내 데이터와 API를 기반으로 복잡한 작업을 몇 분 만에 설정하여 비공개로 안전하게 완료할 수 있도록 하는 게임 체인저입니다.
오늘 몇 가지 Amazon Bedrock에 대한 새로운 발표를 공유해 드립니다.
Amazon Bedrock 정식 출시
Amazon Bedrock이 정식 출시되어 이제 모든 고객이 Bedrock의 포괄적인 기능에 액세스할 수 있게 됩니다. 고객은 다양한 상용 파운데이션 모델을 쉽게 실험하고, 코드를 작성하지 않고도 미세 조정 및 검색 증강 생성(RAG)와 같은 기술을 사용할 수 있습니다.
이를 통해 기업 내 데이터를 안전하게 사용자 정의하여, 여행 예약 및 보험 청구 처리부터 광고 캠페인 생성 및 재고 관리에 이르기까지 복잡한 비즈니스 작업을 실행하는 관리형 에이전트를 생성할 수 있습니다. Amazon Bedrock은 서버리스이므로 고객은 인프라를 관리할 필요가 없으며 이미 익숙한 AWS 서비스를 사용하여 생성형 AI 기능을 애플리케이션에 안전하게 통합하고 배포할 수 있습니다.
Amazon Titan Embeddings 정식 출시
Amazon Titan 모델은 대규모 데이터 세트에 대해 AWS에서 직접 사전 훈련한 모델로서 다양한 케이스를 지원하도록 구축된 강력한 범용 기능을 제공합니다. Amazon Titan Embeddings 정식 출시를 통해 고객은 텍스트를 숫자 표현(임베딩이라고 함)으로 변환하여 RAG 사용 사례를 지원할 수 있습니다.
대부분 FM은 다양한 작업에 매우 적합하지만 훈련 데이터 및 상황별 정보의 학습을 기반으로 한 질문에만 즉각적으로 응답할 수 있으므로 응답에 시기적절한 지식이나 독점 데이터가 필요한 경우 효율성이 제한됩니다. 데이터는 일반적인 생성형 AI 애플리케이션과 여러분의 비즈니스와 고객을 진정으로 아는 애플리케이션의 차이입니다.
추가 데이터로 FM 응답을 강화하기 위해 많은 조직에서는 FM이 응답을 강화하기 위해 참조할 수 있는 지식 소스에 연결하는 인기 있는 모델 사용자 정의 기술인 RAG를 사용합니다. RAG를 시작하려면 고객은 먼저 임베딩 모델에 액세스하여 FM이 데이터 간의 의미론적 의미와 관계를 더 쉽게 이해할 수 있도록 데이터를 벡터로 변환해야 합니다. 임베딩 모델을 구축하려면 엄청난 양의 데이터, 리소스, ML 전문 지식이 필요하므로 많은 조직에서 RAG를 사용할 수 없습니다.
Amazon Titan Embeddings를 사용하면 고객이 더 쉽게 RAG를 시작하여 독점 데이터를 사용하여 FM의 성능을 확장할 수 있습니다. Amazon Titan Embeddings는 25개 이상의 언어와 최대 8,192개의 토큰의 컨텍스트 길이를 지원하므로 고객의 사용 사례에 따라 단일 단어, 구문 또는 전체 문서 작업에 매우 적합합니다. 이 모델은 1,536차원의 출력 벡터를 반환하여 높은 정확도를 제공하는 동시에 대기 시간이 짧고 비용 효과적인 결과를 최적화합니다. 새로운 모델과 기능을 통해 조직의 데이터를 전략적 자산으로 사용하여 기반 모델을 맞춤화하고 보다 차별화된 경험을 구축하는 것이 쉬워졌습니다.
Amazon Bedrock에 Llama 2 모델 제공 예정
파운데이션 모델(FM) 선택은 Amazon Bedrock을 고객을 위한 독특하고 차별화된 서비스로 만드는 초석이었습니다. 생성형 AI 애플리케이션을 위해서는 모든 업무를 실현할 수 있는 단일 모델이 없으며, 다양한 고성능 파운데이션 모델로 작업할 수 있는 능력이 필요합니다.
기존 모델 제공업체인 AI21 Labs, Anthropic, Cohere, Stability AI 뿐만 아니라 Meta의 차세대 대형 언어 모델(LLM)인 Llama 2가 몇 주 안에 출시될 예정입니다. 덕분에 고객의 선택권과 유연성을 더욱 확대할 예정입니다.
Amazon Bedrock은 관리형 API를 통해 Meta의 차세대 LLM인 Llama 2를 제공하는 최초의 완전 관리형 생성형 AI 서비스입니다. Llama 2 모델은 40% 더 많은 데이터에 대해 학습하고 더 큰 문서 작업을 위해 4,000개의 토큰이라는 더 긴 컨텍스트 길이를 갖는 등 원래 Llama 모델에 비해 크게 개선되었습니다. AWS 인프라에서 빠른 응답을 제공하도록 최적화된 Amazon Bedrock을 통해 제공되는 Llama 2 모델은 대화 사용 사례에 이상적입니다. 이제 고객은 인프라를 설정하고 관리할 필요 없이 Llama 2 13B 및 70B 매개변수 모델을 기반으로 하는 생성형 AI 애플리케이션을 구축할 수 있습니다.
Amazon Bedrock, HIPAA 적격 및 GDPR 준수
고객이 맞춤화에 사용하려는 데이터는 매우 귀중한 지적 재산이므로 보안과 비공개를 유지해야 합니다. Amazon Bedrock 고객은 처음부터 보안 및 개인 정보 보호 기능이 내장되어 있으므로 데이터가 계속 보호되고 있다고 신뢰할 수 있습니다. 고객의 데이터는 FM을 훈련하는 데 사용되지 않습니다. 모든 데이터는 저장 및 전송 중에 암호화됩니다. 그리고 다른 AWS 서비스와 동일한 AWS 액세스 제어를 기대할 수 있습니다. 오늘 이러한 기반을 더 확대할 수 새로운 보안 및 거버넌스 기능을 도입합니다.
Amazon Bedrock은 이제 HIPAA 적격 서비스이며 GDPR을 준수하여 사용할 수 있으므로 더 많은 고객이 생성형 AI의 혜택을 누릴 수 있습니다. 새로운 거버넌스 기능에는 Amazon CloudWatch 사용량 지표를 추적하고 사용자 정의 대시보드를 구축하기 위한 AWS CloudTrail과의 통합과 API 활동을 모니터링하고 문제를 해결하기 위한 과의 통합이 포함됩니다. 이러한 새로운 거버넌스 및 보안 기능은 기업 내 규제가 심한 산업에서도 생성형 AI의 잠재력을 활용하고 데이터를 계속 보호하는 데 도움이 됩니다.
Amazon Bedrock 프로비저닝된 처리량 제공
트래픽이 몰리는 특정 기간에도 사용자가 생성형 AI 기반 애플리케이션에서 중단 없이 서비스를 받을 수 있도록 하는 데 매우 중요합니다. Amazon Bedrock에서 처리량(분당 처리되는 토큰 기준)을 예약하여 트래픽이 가장 많은 시간에도 일관된 사용자 경험을 유지할 수 있습니다.
오늘 Amazon Bedrock에 대해 발표한 새로운 기능과 추가 모델은 기업이 보다 신속하게 더욱 개인화된 애플리케이션을 구축하고 직원 생산성을 향상할 수 있는 속도를 가속화할 것입니다. 기계 학습 인프라에 대한 지속적인 투자와 함께 Amazon Bedrock은 고객이 생성형 AI 애플리케이션을 구축하고 확장할 수 있는 최적의 서비스입니다.
AWS 고객이 신 기능을 빠르게 시작할 수 있도록 돕기 위해 Amazon Bedrock을 위한 새로운 생성형 AI 교육을 디지털 주문형 교육 과정 컬렉션에 추가하였습니다. 또한, Amazon Bedrock – 시작하기를 통해 누구나 60분 과정에서는 Amazon Bedrock의 이점, 기능, 사용 사례 및 기술 개념을 배울 수 있습니다.
2. Amazon CodeWhisperer Custom 미리 보기 출시
AWS에서는 고객이 생성형 AI를 사용하여 작업을 수행하는 방식을 변화시키는 강력하고 새로운 애플리케이션을 구축하고 있습니다. 지난 4월 저희는 소프트웨어 개발자의 통합 개발자 환경(IDE)의 자연어 주석과 코드를 기반으로 15개 언어에 대한 코드 제안을 제공하여 개발자가 소프트웨어 애플리케이션을 더 빠르게 구축할 수 있도록 돕는 AI 코딩 동반자인 Amazon CodeWhisperer를 정식 출시하였습니다.
Amazon CodeWhisperer는 개발자가 다양한 작업에서 생산성을 높일 수 있도록 공개적으로 사용 가능한 수십억 줄의 코드에 대한 모델 훈련을 통해 만들어졌습니다. AWS API 및 모범 사례를 포함한 고품질 Amazon 내부 소스 코드에 대해 CodeWhisperer를 특별히 훈련하여, Amazon EC2, Amazon S3 및 AWS Lambda 서비스와 상호 작용하는 코드를 더 잘 작성할 수 있습니다. Accenture에서 Percious, Bundesliga에 이르기까지 다양한 AWS 고객이 CodeWhisperer를 사용하여 개발자의 생산성을 높여 왔습니다.
그런데, CodeWhisperer를 사용해 온 고객들은 자체 내부 API, 라이브러리, 모범 사례 및 아키텍처 패턴을 제안에 포함하여 개발 속도를 더욱 높일 수 있기를 원했습니다. 지금까지는 공개적으로 사용 가능한 프로그램 코드에 대해서만 훈련을 받고, 자신의 회사의 내부 코드를 인식하지 못하기 때문에 코드 제안에 이러한 API를 포함할 수 없었습니다. 예를 들어, 장바구니에 담긴 항목을 나열하는 전자상거래 웹사이트용 기능을 구축하려면 개발자는 장바구니에 설명을 표시할 수 있도록 항목 설명을 제공하는 API와 같은 기존 내부 코드를 찾고 이해해야 합니다. 올바른 내부 코드를 제안할 수 있는 코딩 도우미가 없으면 개발자는 작업을 완료하기 위해 내부 코드 베이스와 문서를 파헤치는 데 몇 시간을 소비해야 합니다. 개발자가 올바른 리소스를 찾은 후에도 코드가 회사의 모범 사례를 따르는지 확인하기 위해 코드를 검토하는 데 더 많은 시간을 투자해야 합니다.
Amazon CodeWhisperer Custom (사용자 정의) 기능은 회사 내부 API, 라이브러리, 모범 사례 및 아키텍처 패턴을 기반으로 최신 모델 및 컨텍스트 사용자 정의 기술을 사용하며, 새로운 CodeWhisperer Enterprise Tier의 일부로 곧 미리 보기로 제공될 예정입니다. 이 기능을 사용하면 개인 저장소를 CodeWhisperer에 안전하게 연결할 수 있으며 몇 번의 클릭만으로 CodeWhisperer를 사용자 정의하여 내부 코드 기반을 포함하는 실시간 권장 사항을 생성할 수 있습니다.
예를 들어, CodeWhisperer 사용자 정의를 사용하면 음식 배달 회사에서 일하는 개발자는 CodeWhisperer에 “운전자의 현재 위치 주변에 할당되지 않은 음식 배달 목록 처리”와 같은 회사 내부 서비스와 관련된 특정 코드가 포함된 권장 사항을 제공하도록 요청할 수 있습니다. 이전에 CodeWhisperer는 “할당되지 않은 음식 배달” 또는 “운전자의 현재 위치”에 대한 올바른 내부 API를 알 수 없었습니다. 이는 공개적으로 사용 가능한 정보가 아니기 때문입니다.
이제 회사의 내부 코드 기반에 맞게 사용자 정의되면 CodeWhisperer는 의도를 이해하고 작업에 가장 적합한 내부 및 공개 API를 결정하고 개발자를 위한 코드 권장 사항을 생성합니다. CodeWhisperer 사용자 정의 기능은 개발자가 드물게 문서화된 코드를 검색하고 수정하는 데 소요되는 시간을 절약하고 회사에 처음 온 개발자를 더 빠르게 온보딩하는 데 도움이 됩니다.
다음 예에서 개인 사용자 정의를 생성한 후 AnyCompany(음식 배달 회사) 개발자는 내부 API 및 라이브러리가 포함된 CodeWhisperer 코드 권장 사항을 얻는 것을 보실 수 있습니다.
저희는 CodeWhisperer 사용자 정의 기능의 생산성 이점을 측정하기 위해 고객에게 디지털 엔지니어링 및 기업 현대화 서비스를 제공하는 글로벌 서비스 및 솔루션 회사인 Percious와 연구를 진행했습니다. Pertant는 사용자 정의 기능을 사용하는 개발자가 표준 CodeWhisperer를 사용하는 개발자보다 평균적으로 최대 28% 더 빠르게 코딩 작업을 완료할 수 있다는 사실을 발견했습니다.
우리는 개인 정보 보호와 보안을 최우선으로 두고 이러한 사용자 정의 기능을 설계했습니다. 비공개 사용자 지정에 대한 액세스를 쉽게 관리할 수 있으므로, 기업 내 관리자는 AWS 콘솔 사용에서 특정 개발자만 액세스하도록 할 수 있습니다. 관리자는 또한 표준을 충족하는 리포지토리만 CodeWhisperer 사용자 정의에 사용할 수 있는지 확인할 수 있습니다. 고품질 리포지토리를 사용하면 CodeWhisperer가 보안 및 코드 품질 모범 사례를 촉진하는 제안을 하는 데 도움이 됩니다. 각 사용자 정의는 다른 고객과 완전히 격리되며 이 새로운 기능으로 구축된 사용자 정의 중 어느 것도 CodeWhisperer를 모델을 훈련하는 데 사용되지 않아 고객의 귀중한 지적 재산을 보호합니다.
3. Amazon QuickSight Generative BI Dashboard 미리 보기
AWS는 기업 내 모든 사용자가 데이터를 통한 통찰력을 얻을 수 있도록 데이터와 인공 지능을 민주화 하도록 하는 임무를 수행해 왔습니다. 특히, Amazon QuickSight라는 클라우드 기반으로 구축된 통합 비즈니스 인텔리전스(BI) 서비스를제공해 왔습니다.
저희는 2020년부터 Amazon QuickSight Q를 통해 모든 기업 내 사용자는 SQL 쿼리를 작성하거나 BI 도구를 배울 필요 없이 자연어를 사용하여 데이터에 대해 질문할 수 있는 기능을 제공했고, 지난 7월에는 새로운 LLM을 통해 QuickSight에서 Generative BI 기능을 제공하기 시작했습니다. BMW Group 및 Traeger Grills와 같은 QuickSight 고객은 Generative BI 작성 경험을 사용하여 분석가의 생산성을 더욱 높일 수 있기를 기대하고 있습니다.
Generative BI Dashboard (대시보드) 기능은 구조화된 질문(예: “캘리포니아에서 판매되는 상위 10개 제품은 무엇입니까?”)와 같은 QuickSight Q의 자연어 쿼리를 확장하여, 해당 질문의 조각(예: “상위 10개 제품”), 후속 질문을 통해 쿼리 의도를 명확히 하고, 시각화를 개선하고, 복잡한 계산을 완료합니다.
비즈니스 분석가가 원하는 결과를 간단히 설명하면, QuickSight는 클릭 한 번으로 대시보드나 보고서에 쉽게 추가할 수 있는 매력적인 시각적 자료를 생성합니다. QuickSight Q는 또한 여러 데이터 필드가 쿼리와 일치하는 경우 분석가가 모호한 사례를 명확히 하는 데 도움이 되는 관련 질문을 제공합니다.
데이터 분석가가 초기 시각화를 완료하면 복잡한 계산을 추가하고, 차트 유형을 변경하고, 자연어 프롬프트를 사용하여 시각적 개체를 다듬을 수 있습니다. QuickSight Q의 새로운 Generative BI 작성 기능을 사용하면 비즈니스 분석가가 빠르고 쉽게 매력적인 시각적 개체를 생성하고 데이터 기반 의사결정을 대규모로 알리는 데 필요한 통찰력을 제공하는 시간을 단축할 수 있습니다. 더 자세한 것은 블로그를 참고하시기 바랍니다.
오늘 제가 말씀 드린 새로운 기능들은 이제 모든 AWS 고객들에게 생성형 AI를 활용할 수 있는 기회를 제공합니다. 이제 모든 기업들은 엔터프라이즈급 보안 및 개인 정보 보호, 다양한 파운데이션 모델 선택, 데이터 우선 접근 방식 및 성능이 뛰어나고 비용 효율적인 인프라를 제공 받으면서 생성형 AI 솔루션을 통해 혁신을 강화할 수 있다고 믿습니다.
우리는 Bridgewater Associates, Omnicom, Asurion, Rocket Mortgage 등 다양한 고객에게서 흥미로운 혁신을 목격했으며 이러한 새로운 발표를 통해 기업 업무 생산성을 높이기 위한 새로운 사용 사례와 기술 적용을 기대하고 있습니다. 이것은 단지 시작일 뿐입니다. 기술 스택 전반에 걸쳐 여러분의 조직이 가장 큰 과제를 해결하고 업무 방식을 변화시키는 데 도움이 되도록 구축된 새로운 서비스와 기능으로 제공하도록 노력하겠습니다. 감사합니다!
– Swami Sivasubramanian, Vice President of Data and Machine Learning, AWS