Amazon Bedrock bổ sung hỗ trợ cho các mô hình trọng lượng mở mới nhất ở Châu Á Thái Bình Dương (Sydney)
Amazon Bedrock là một dịch vụ được quản lý hoàn toàn cung cấp quyền truy cập bảo mật, cấp doanh nghiệp vào các mô hình nền tảng hiệu năng cao từ các công ty AI hàng đầu, cho phép bạn xây dựng và thay đổi quy mô các ứng dụng AI tạo sinh. Hôm nay, Amazon Bedrock đã công bố hỗ trợ cho các mô hình trọng lượng mở mới nhất ở Châu Á Thái Bình Dương (Sydney) sử dụng điểm cuối bedrock-mantle. Chúng bao gồm các mô hình từ các nhà cung cấp hàng đầu trong ngành, bao gồm DeepSeek, Google, MiniMax, Mistral, Moonshot AI, MiniMax, Nvidia và OpenAI. Điểm cuối bedrock-mantle hoạt động trên nền ứng dụng Project Mantle, công cụ suy luận phân tán mới dành cho mô hình máy học quy mô lớn phục vụ trên Amazon Bedrock. Project Mantle giúp đơn giản hóa và xúc tiến việc đưa các mô hình mới vào Amazon Bedrock. Ứng dụng cung cấp khả năng suy luận phi máy chủ hiệu năng cao và đáng tin cậy với chất lượng kiểm soát dịch vụ tinh vi, mở khóa hạn ngạch khách hàng mặc định cao hơn với quản lý dung lượng tự động và các nhóm hợp nhất, đồng thời cung cấp khả năng tương thích ngay với các thông số kỹ thuật API OpenAI.
Để tìm hiểu thêm và bắt đầu sử dụng, hãy truy cập bảng điều khiển Amazon Bedrock hoặc tài liệu dịch vụ Amazon Bedrock. Để bắt đầu với các điểm cuối dịch vụ tương thích API Amazon Bedrock OpenAI, hãy truy cập tài liệu tương thích OpenAI API.