Amazon Bedrock hiện hỗ trợ thực thi công cụ phía máy chủ với Cổng kết nối AgentCore
Amazon Bedrock hiện cho phép thực thi công cụ phía máy chủ thông qua tích hợp Cổng kết nối AgentCore của Amazon Bedrock với API Responses. Khách hàng có thể kết nối công cụ Cổng kết nối AgentCore của mình với các mô hình Amazon Bedrock, cho phép thực thi công cụ phía máy chủ mà không cần điều phối phía máy khách.
Với lần ra mắt này, khách hàng có thể chỉ định ARN Cổng kết nối AgentCore làm bộ kết nối công cụ trong các yêu cầu API Responses. Amazon Bedrock sẽ tự động phát hiện các công cụ được cung cấp từ cổng, cung cấp các công cụ này cho mô hình trong quá trình suy luận và thực thi lệnh gọi công cụ phía máy chủ khi mô hình chọn các công cụ đó. Tất cả đều được thực hiện trong một lệnh gọi API duy nhất. Nhờ đó, khách hàng không cần phải xây dựng và duy trì các vòng lặp điều phối công cụ phía máy khách, giảm độ phức tạp của ứng dụng cũng như độ trễ của quy trình công việc tác tử. Khách hàng vẫn giữ toàn quyền kiểm soát quyền truy cập công cụ thông qua cấu hình Cổng kết nối AgentCore và quyền AWS IAM hiện có.
Tính năng thực thi công cụ phía máy chủ với Cổng kết nối AgentCore hỗ trợ tất cả mô hình được cung cấp thông qua API Responses của Amazon Bedrock. Khách hàng sẽ xác định công cụ bằng cách sử dụng loại bộ kết nối máy chủ MCP với ARN cổng, còn Amazon Bedrock sẽ tự động xử lý quá trình khám phá công cụ, lựa chọn công cụ theo mô hình, thực thi và bơm kết quả. Tính năng này hỗ trợ nhiều lệnh gọi công cụ trong một lượt trò chuyện duy nhất và kết quả công cụ được phát trực tuyến trở lại máy khách theo thời gian thực.
Khả năng này được cung cấp rộng rãi ở tất cả các Khu vực AWS hỗ trợ cả API Responses của Amazon Bedrock và Cổng kết nối AgentCore của Amazon Bedrock. Để bắt đầu, hãy truy cập tài liệu Amazon Bedrock hoặc bảng điều khiển Amazon Bedrock. Để biết thêm thông tin về Cổng kết nối AgentCore của Amazon Bedrock, hãy xem tài liệu AgentCore.