AWS AppSync, AppSync GraphQL에 새로운 Amazon Bedrock 통합으로 AI 게이트웨이 기능 출시
AWS AppSync는 애플리케이션을 이벤트, 데이터 및 AI 모델에 연결하는 완전관리형 API 관리 서비스입니다. 현재 고객은 AppSync를 AI 게이트웨이로 사용하여 생성형 AI 워크플로를 트리거하고 WebSockets 기반의 구독을 사용하여 장기 실행 간접 호출에서 점진적 업데이트를 반환합니다. 그리고 이를 통해 비동기 패턴을 구현할 수 있습니다. 그러나 경우에 따라 고객은 모델에 대해 짧은 동기식 간접 호출을 수행해야 할 때도 있습니다. AWS AppSync는 이제 Amazon Bedrock 런타임을 GraphQL API의 데이터 소스로 지원하므로 생성형 AI 기능을 긴밀하게 통합할 수 있습니다. 이 새로운 기능을 통해 개발자는 AppSync GraphQL API에서 직접 Amazon Bedrock의 기본 모델 및 추론 프로파일에 대한 짧은 동기식 간접 호출(10초 이하) 을 수행할 수 있습니다.
이러한 통합은 Converse 및 invokeModel API 직접 호출을 지원합니다. 개발자는 데이터 분석 및 구조화된 객체 생성 작업을 위해 Claude 3.5 Haiku 및 Claude 3.5 Sonnet과 같은 Anthropic 모델과 상호 작용할 수 있습니다. 또한 Amazon Titan 모델을 사용하여 임베딩 또는 요약을 생성하거나, 회의록에서 실행 항목을 추출할 수 있습니다.
장기 실행 간접 호출의 경우 고객은 이벤트 모드에서 AWS Lambda 함수를 계속 사용하여 Bedrock 모델과 상호 작용하고 구독을 통해 점진적 업데이트를 클라이언트에 전송할 수 있습니다.
이 새로운 데이터 소스는 AWS AppSync가 제공되는 모든 AWS 리전에서 사용할 수 있습니다. 시작하려는 고객은 AWS AppSync 콘솔을 방문하고 자세한 내용은 AWS AppSync 설명서를 참조하면 됩니다.