Amazon Bedrock용 에이전트

Amazon Bedrock용 에이전트는 비용을 줄이고 혁신을 지원하는 동시에 운영 효율성, 고객 서비스 및 의사 결정을 개선합니다.

Agents for Amazon Bedrock은 개발자가 제공한 지침(예: 해결되지 않은 청구를 처리하도록 설계된 보험 에이전트’), 태스크 완료에 필요한 API 세부 정보 및 기술 자료의 회사 데이터 소스 세부 정보를 사용하여 프롬프트를 생성합니다. 프롬프트가 자동으로 생성되므로 여러 FM의 프롬프트를 실험하는 데 드는 몇 주의 시간이 절약됩니다.

Agents for Amazon Bedrock은 회사의 데이터 소스에 안전하게 연결하여 데이터를 숫자 표현으로 자동으로 변환하고 올바른 정보로 사용자 요청을 보강하여 정확하고 관련성 높은 응답을 생성합니다. 예를 들어 사용자가 청구에 필요한 문서에 대해 문의하면 관리자가 선택한 적절한 기술 자료(예: Amazon OpenSearch Serverless 벡터 엔진, Pinecone 또는 Redis Enterprise Cloud)에서 정보를 찾아 ‘운전 면허증, 손상된 차량 사진 및 사고 보고서를 제출해야 합니다’라는 답변을 제공합니다.

클릭 몇 번으로 Amazon Bedrock에서 에이전트를 생성하여 애플리케이션에 생성형 AI 기능을 구축하는 데 걸리는 시간을 단축할 수 있습니다. 먼저 원하는 모델을 선택하고 몇 가지 지침을 자연어로 작성합니다(예: ‘고객을 친절하게 대할 것’ 및 ‘재고 시스템에서 제품 가용성 확인’) 에이전트는 FM의 추론 기능을 사용하여 태스크를 오케스트레이션 및 분석하고 올바른 논리적 순서로 분류할 수 있습니다. 고객 상담 중에 계속해도 되는지 아니면 추가 정보를 수집해야 하는지 여부를 결정하면서 회사 시스템 및 프로세스와의 트랜잭션에 필요한 API를 자동으로 직접 호출하여 요청을 이행할 수 있습니다. 

추적 기능을 사용하여 에이전트의 추론 및 오케스트레이션 계획을 단계별로 살펴볼 수 있습니다. 이러한 인사이트를 활용하면 다양한 오케스트레이션 문제를 쉽게 해결하여 모델의 동작을 원하는 방식으로 조정함으로써 사용자 경험을 개선할 수 있습니다. 또한 애플리케이션을 반복하면서 단계를 검토하고 지침을 조정할 수 있습니다. 모델의 추론을 완벽하게 파악할 수 있으므로 차별화된 애플리케이션을 더 빠르게 만들 수 있습니다.

Agents for Amazon Bedrock은 사용자 지침, 작업 그룹 및 기술 자료를 사용하여 프롬프트 템플릿을 자동으로 생성합니다. 이 템플릿을 기준으로 삼아 자동으로 생성된 프롬프트 템플릿을 세부적으로 조정하여 사용자 환경을 개선할 수 있습니다. 사용자 입력, 오케스트레이션 계획 및 FM 응답을 업데이트할 수도 있습니다. 마지막으로, 프롬프트 템플릿을 수정하여 에이전트 오케스트레이션에 대한 제어를 개선할 수 있습니다.