Các mô hình OpenAI GPT OSS và NVIDIA Nemotron được cung cấp trên Amazon Bedrock ở AWS GovCloud (Hoa Kỳ)
Amazon Bedrock hiện hỗ trợ các mô hình GPT OSS trọng số mở của OpenAI (120B và 20B) và các mô hình NVIDIA Nemotron (Nano 9B v2, Nano 12B v2, Nano 30B, Super 120B), giúp bạn gia tăng khả năng xây dựng và điều chỉnh quy mô các ứng dụng AI tạo sinh với các mô hình nền tảng đa dạng, hiệu suất cao. Nhờ vậy, bạn có thể vận dụng linh hoạt các mô hình mới nhất của OpenAI và NVIDIA cùng các mô hình AI hàng đầu khác thông qua một API thống nhất, chọn mô hình tốt nhất cho từng trường hợp sử dụng cụ thể mà không cần thay đổi mã ứng dụng.
Mô hình OpenAI GPT OSS cung cấp khả năng tạo và hiểu ngôn ngữ mạnh mẽ với kiến trúc trọng số mở, cho phép doanh nghiệp xây dựng các ứng dụng AI tinh vi với tính minh bạch và linh hoạt. Mô hình NVIDIA Nemotron mang đến cả khả năng mô hình ngôn ngữ nhỏ (SLM) và mô hình ngôn ngữ lớn (LLM), bảo đảm tính hiệu quả điện toán và độ chính xác cao mà các nhà phát triển có thể sử dụng để xây dựng hệ thống AI trợ lý ảo chuyên dụng. Các mô hình này hoàn toàn mở với trọng số mở, tập dữ liệu và công thức, giúp các nhà phát triển và doanh nghiệp có được sự minh bạch và tự tin.
Chúng còn có được sự hỗ trợ của Mantle, một công cụ suy luận phân tán mới dành cho mô hình máy học quy mô lớn phục vụ trên Amazon Bedrock. Mantle giúp đơn giản hóa và xúc tiến việc đưa các mô hình mới vào Amazon Bedrock, cung cấp tính năng suy luận phi máy chủ hiệu năng cao và đáng tin cậy với nhiều biện pháp kiểm soát chất lượng dịch vụ tinh vi, mở khóa hạn mức mặc định cao hơn cho khách hàng với khả năng quản lý công suất tự động và nhóm hợp nhất, đồng thời, cung cấp khả năng tương thích theo mặc định với các thông số kỹ thuật của API OpenAI. Với các mô hình OpenAI GPT OSS và NVIDIA Nemotron được cung cấp trong Amazon Bedrock ở AWS GovCloud (Hoa Kỳ), bạn có thể thúc đẩy sự đổi mới và hưởng lợi từ mức độ bảo mật ở cấp doanh nghiệp, khả năng điều chỉnh quy mô liền mạch và tối ưu hóa chi phí của AWS theo cách bảo đảm sự tuân thủ.
Các mô hình OpenAI GPT OSS và NVIDIA Nemotron hiện được cung cấp trên Amazon Bedrock ở các Khu vực AWS GovCloud (Hoa Kỳ). Để tìm hiểu thêm và bắt đầu, hãy truy cập bảng điều khiển Amazon Bedrock hoặc trang tài liệu dịch vụ Amazon Bedrock.