Amazon Bedrock mở rộng hỗ trợ cho AWS PrivateLink
Amazon Bedrock là một dịch vụ được quản lý hoàn toàn cung cấp quyền truy cập bảo mật, cấp doanh nghiệp vào các mô hình nền tảng hiệu năng cao từ các công ty AI hàng đầu. Dịch vụ cho phép bạn xây dựng và thay đổi quy mô các ứng dụng AI tạo sinh. Amazon Bedrock đã hỗ trợ AWS PrivateLink cho điểm cuối thời gian hoạt động bedrock. Giờ đây, với lần ra mắt này, bạn cũng có thể sử dụng AWS PrivateLink để truy cập riêng các ứng dụng của mình bằng cách sử dụng điểm cuối bedrock-mantle. Điểm cuối bedrock-mantle hoạt động trên nền ứng dụng Project Mantle, công cụ suy luận phân tán mới dành cho mô hình máy học quy mô lớn phục vụ trên Amazon Bedrock. Project Mantle giúp đơn giản hóa và xúc tiến việc đưa các mô hình mới vào Amazon Bedrock. Ứng dụng cung cấp khả năng suy luận phi máy chủ hiệu năng cao và đáng tin cậy với chất lượng kiểm soát dịch vụ tinh vi, mở khóa hạn ngạch khách hàng mặc định cao hơn với quản lý dung lượng tự động và các nhóm hợp nhất, đồng thời cung cấp khả năng tương thích ngay với các thông số kỹ thuật API OpenAI.
Hỗ trợ AWS PrivateLink cho các điểm cuối tương thích với API OpenAI có sẵn ở các Khu vực AWS gồm Miền Đông Hoa Kỳ (Bắc Virginia), Miền Đông Hoa Kỳ (Ohio), Miền Tây Hoa Kỳ (Oregon), Châu Á Thái Bình Dương (Jakarta), Châu Á Thái Bình Dương (Tokyo), Châu Á Thái Bình Dương (Mumbai), Châu Á Thái Bình Dương (Sydney), Nam Mỹ (São Paulo), Châu Âu (Frankfurt), Châu Âu (Ireland), Châu Âu (London), Châu Âu (Milan), Châu Âu (Stockholm) và Nam Mỹ (Sao Paulo). Để tìm hiểu thêm và bắt đầu sử dụng, hãy truy cập bảng điều khiển Amazon Bedrock hoặc tài liệu dịch vụ Amazon Bedrock. Để bắt đầu với các điểm cuối dịch vụ tương thích API Amazon Bedrock OpenAI, hãy truy cập tài liệu tương thích OpenAI API.