Amazon Bedrock já oferece suporte à execução de ferramentas no lado do servidor com o AgentCore Gateway
Agora, o Amazon Bedrock permite a execução de ferramentas no lado do servidor por meio da integração do Amazon Bedrock AgentCore Gateway com a API Responses. Os clientes podem conectar suas ferramentas do AgentCore Gateway aos modelos do Amazon Bedrock, o que permite a execução de ferramentas no lado do servidor sem a orquestração no cliente.
Com esse lançamento, os clientes podem especificar um ARN do AgentCore Gateway como um conector de ferramentas nas solicitações da API Responses. O Amazon Bedrock identifica automaticamente as ferramentas disponíveis no gateway, apresenta essas opções ao modelo durante a inferência e executa as chamadas de ferramentas no lado do servidor quando o modelo as seleciona, tudo em uma única chamada de API. Isso elimina a necessidade de os clientes criarem e manterem ciclos de orquestração de ferramentas no lado do cliente, reduzindo a complexidade e a latência das aplicações para fluxos de trabalho de agentes. Os clientes mantêm controle total sobre o acesso às ferramentas por meio de suas configurações existentes do AgentCore Gateway e das permissões do AWS IAM.
A execução de ferramentas no lado do servidor com o AgentCore Gateway é compatível com todos os modelos disponíveis por meio da API Responses do Amazon Bedrock. Os clientes definem ferramentas usando o tipo de conector de servidor MCP com o ARN do gateway, e o Amazon Bedrock gerencia automaticamente a descoberta de ferramentas, a seleção de ferramentas orientada por modelos, a execução e a injeção de resultados. São permitidas várias chamadas de ferramentas em um único turno de conversa e os resultados da ferramenta são transmitidos de volta ao cliente em tempo real.
Esse recurso está disponível em todas as regiões da AWS nas quais a API Responses do Amazon Bedrock e o Amazon Bedrock AgentCore Gateway estão disponíveis. Para começar a usá-lo, acesse a documentação do Amazon Bedrock ou o console do Amazon Bedrock. Para obter mais informações sobre o Amazon Bedrock AgentCore Gateway, consulte a documentação do AgentCore.