AWS AppSync ra mắt tính năng cổng AI với tích hợp Amazon Bedrock mới trong AppSync GraphQL
AWS AppSync là dịch vụ quản lý API được quản lý hoàn toàn, cho phép kết nối các ứng dụng với sự kiện, dữ liệu và mô hình AI. Hiện nay, khách hàng sử dụng AppSync làm cổng AI để kích hoạt quy trình AI tạo sinh và sử dụng gói đăng ký hoạt động trên nền WebSockets để trả về các bản cập nhật liên tục từ lệnh gọi dài hạn. Điều này cho phép khách hàng triển khai các mô hình không đồng bộ. Tuy nhiên, trong một số trường hợp, khách hàng cần thực hiện lệnh gọi đồng bộ ngắn đến mô hình của mình. AWS AppSync hiện hỗ trợ thời gian hoạt động Amazon Bedrock làm nguồn dữ liệu cho API GraphQL, cho phép tích hợp liền mạch các khả năng của AI tạo sinh. Tính năng mới này cho phép nhà phát triển thực hiện lệnh gọi đồng bộ ngắn (10 giây trở xuống) tới các mô hình nền tảng và hồ sơ suy luận trong Amazon Bedrock ngay từ API GraphQL của AppSync.
Tiện ích tích hợp này hỗ trợ gọi các API converse và invokeModel. Nhà phát triển có thể tương tác với các mô hình Anthropic như Claude 3.5 Haiku và Claude 3.5 Sonnet để phân tích dữ liệu và thực hiện tác vụ tạo đối tượng có cấu trúc. Nhà phát triển cũng có thể sử dụng mô hình Amazon Titan để tạo phần nhúng, tạo bản tóm tắt hoặc trích xuất các mục hành động từ biên bản cuộc họp.
Đối với lệnh gọi dài hơn, khách hàng có thể tiếp tục sử dụng hàm AWS Lambda ở chế độ sự kiện để tương tác với mô hình Bedrock và gửi các bản cập nhật liên tục cho khách hàng thông qua gói đăng ký.
Nguồn dữ liệu mới này có sẵn ở tất cả các Khu vực AWS hỗ trợ AWS AppSync. Để bắt đầu, khách hàng có thể truy cập bảng điều khiển AWS AppSync và tham khảo tài liệu về AWS AppSync để biết thêm thông tin.