Marengo Embed 2.7 của TwelveLabs hiện có thể được sử dụng cho tính năng suy luận đồng bộ trong Amazon Bedrock
Amazon Bedrock hiện hỗ trợ suy luận đồng bộ cho Marengo 2.7 của TwelveLabs, mở rộng khả năng của mô hình nhúng đa phương thức này để cung cấp phần nhúng văn bản và hình ảnh có độ trễ thấp ngay trong phản hồi API. Bản cập nhật này cho phép nhà phát triển xây dựng trải nghiệm tìm kiếm và truy xuất tương tác, có độ phản hồi cao hơn, đồng thời vẫn duy trì khả năng hiểu video mạnh mẽ đã giúp Marengo 2.7 trở thành một bước đột phá trong AI đa phương thức.
Kể từ khi được giới thiệu trong Amazon Bedrock đầu năm nay, Marengo 2.7 đã thay đổi cách thức các tổ chức làm việc với nội dung video thông qua dịch vụ suy luận không đồng bộ – tính năng lý tưởng để xử lý các tệp video, âm thanh và hình ảnh lớn. Mô hình tạo ra các phần nhúng nhiều véc-tơ tinh vi, cho phép truy xuất chính xác theo thời gian và ngữ nghĩa trên nội dung dạng dài. Giờ đây, với sự hỗ trợ suy luận đồng bộ, người dùng có thể tận dụng các khả năng nhúng nâng cao này cho dữ liệu đầu vào văn bản và hình ảnh với độ trễ giảm đáng kể. Nhờ vậy, tính năng này trở thành sự lựa chọn hoàn hảo cho các ứng dụng, như tìm kiếm tức thì trong video: người dùng tìm các cảnh cụ thể bằng truy vấn ngôn ngữ tự nhiên hoặc khám phá sản phẩm tương tác thông qua tìm kiếm theo độ tương đồng của hình ảnh. Để tạo phần nhúng từ video, âm thanh và các tệp hình ảnh có quy mô lớn, hãy tiếp tục sử dụng dịch vụ suy luận không đồng bộ để có hiệu suất tối ưu.
Marengo 2.7 với tính năng suy luận đồng bộ hiện được cung cấp trong Amazon Bedrock ở Miền Đông Hoa Kỳ (Bắc Virginia), Châu Âu (Ireland) và Châu Á Thái Bình Dương (Seoul). Để bắt đầu, hãy truy cập bảng điều khiển Amazon Bedrock và yêu cầu lấy quyền truy cập mô hình. Để tìm hiểu thêm, hãy đọc blog, trang sản phẩm, định giá Amazon Bedrock và tài liệu.