Kimi K3 của Moonshot AI hiện đã được cung cấp rộng rãi trên Amazon Bedrock
Amazon Bedrock tiếp tục mở rộng danh mục mô hình trọng số mở, với cùng mức độ bảo mật và quản trị mà khách hàng tin cậy. Giờ đây, Kimi K3 từ Moonshot AI đã được cung cấp rộng rãi trên Amazon Bedrock, mang đến cho bạn một tùy chọn mới mạnh mẽ cho công việc lập trình và kiến thức.
Theo Moonshot AI, Kimi K3 là mô hình có khả năng mạnh nhất và là mô hình mở đầu tiên đạt 2,8 nghìn tỷ tham số. Mô hình này kết hợp khả năng thị giác gốc với cửa sổ ngữ cảnh 1 triệu token nên rất phù hợp với các phiên lập trình chạy lâu dài trên các kho lưu trữ lớn, phân tích nhiều tài liệu bao gồm các trang được quét và ảnh chụp màn hình cũng như các quy trình công việc tác tử mở rộng. Moonshot AI cho biết mô hình này cải tiến hiệu quả điều chỉnh quy mô gấp khoảng 2,5 lần so với Kimi K2. Trên Amazon Bedrock, Kimi K3 chạy trong cùng một ranh giới bảo mật như các mô hình độc quyền và cùng các biện pháp kiểm soát truy cập, mã hóa và kiểm tra trên danh mục mô hình của bạn. Kimi K3 là mô hình trọng số mở đầu tiên trên Amazon Bedrock hỗ trợ lưu câu lệnh vào bộ nhớ đệm rõ ràng, giúp giảm độ trễ và chi phí đầu vào khi sử dụng lại ngữ cảnh trên các lệnh gọi mô hình.
Kimi K3 được cung cấp ở tất cả các Khu vực AWS có sẵn Amazon Bedrock thông qua suy luận xuyên Khu vực. Để bắt đầu, hãy truy cập Bảng điều khiển Amazon Bedrock. Để tìm hiểu thêm, hãy xem tài liệu về Amazon Bedrock và đọc bài đăng blog ra mắt.