Amazon Bedrock hiện hỗ trợ công cụ tùy chỉnh phía máy chủ sử dụng API Responses
Amazon Bedrock hiện hỗ trợ các công cụ phía máy chủ trong API Responses thông qua các điểm cuối dịch vụ tương thích với API OpenAI. Bedrock vốn đã hỗ trợ sử dụng công cụ phía máy khách với API Converse, Chat Completions và Responses. Nay với việc triển khai khả năng sử dụng công cụ phía máy chủ cho API Responses, Amazon Bedrock có thể gọi trực tiếp công cụ mà không cần thông qua ứng dụng khách, cho phép ứng dụng AI thực hiện các thao tác nhiều bước theo thời gian thực như tìm kiếm trên web, thực thi mã và cập nhật cơ sở dữ liệu, đồng thời vẫn nằm trong phạm vi quản trị, tuân thủ và bảo mật của tài khoản AWS của bạn. Bạn có thể gửi hàm Lambda tùy chỉnh của riêng mình để thực thi công cụ tùy chỉnh hoặc sử dụng các công cụ do AWS cung cấp, chẳng hạn như ghi chú và tác vụ.
Công cụ phía máy chủ sử dụng API Responses được triển khai bắt đầu từ hôm nay với các mô hình GPT OSS 20B/120B của OpenAI ở các Khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia), Miền Đông Hoa Kỳ (Ohio), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Tokyo), Châu Á Thái Bình Dương (Mumbai), Nam Mỹ (São Paulo), Châu Âu (Ireland), Châu Âu (London) và Châu Âu (Milan). Các khu vực và mô hình khác sẽ sớm được hỗ trợ.
Để bắt đầu sử dụng, hãy tham khảo tài liệu về dịch vụ.