NVIDIA Nemotron 3 Super hiện được cung cấp trên Amazon Bedrock
Amazon Bedrock hiện hỗ trợ NVIDIA Nemotron 3 Super, một mô hình Mixture-of-Experts (MoE – kết hợp các chuyên gia) lai mở, được thiết kế cho các ứng dụng phức tạp, nhiều tác tử. Nemotron 3 Super được xây dựng cho khối lượng công việc tác tử, cung cấp khả năng suy luận nhanh chóng, hiệu quả về chi phí, cho phép các tác tử AI duy trì sự tập trung và độ chính xác giữa các tác vụ dài, nhiều bước mà không mất bối cảnh. Mô hình này mở hoàn toàn đối với trọng số, tập dữ liệu và công thức, hỗ trợ tùy chỉnh dễ dàng và triển khai an toàn, do đó, đây là sự lựa chọn rất phù hợp cho các doanh nghiệp, công ty khởi nghiệp và nhà phát triển cá nhân xây dựng quy trình nhiều tác tử và các ứng dụng suy luận nâng cao.
Amazon Bedrock cung cấp cho khách hàng quyền truy cập Nemotron 3 Super qua một API được quản lý toàn phần – không cần đến cơ sở hạ tầng hay mô hình lưu trữ. Nhờ khả năng suy luận phi máy chủ, các biện pháp kiểm soát bảo mật tích hợp của Bedrock và sự tương thích với các thông số kỹ thuật của API OpenAI, khách hàng có thể dễ dàng tích hợp Nemotron 3 Super vào quy trình hiện có và tự tin triển khai ở quy mô sản xuất.
NVIDIA Nemotron 3 Super hiện được cung cấp trong Amazon Bedrock ở một số Khu vực AWS chọn lọc. Để xem danh sách đầy đủ các Khu vực AWS được hỗ trợ, hãy tham khảo tài liệu. Để tìm hiểu thêm và bắt đầu, hãy truy cập bảng điều khiển Amazon Bedrock hoặc tài liệu dịch vụ tại đây. Để bắt đầu sử dụng điểm cuối dịch vụ tương thích với API OpenAI của Amazon Bedrock, hãy truy cập tài liệu tại đây.