GLM 5.3 by Z.ai hiện đã được cung cấp rộng rãi trên Amazon Bedrock
Amazon Bedrock hiện hỗ trợ GLM 5.3 từ Z.ai, cung cấp cho bạn một tùy chọn mới mạnh mẽ cho lập trình dựa trên tác tử và công việc kỹ thuật phần mềm dài hạn. Khách hàng sử dụng GLM 5.3 trên Amazon Bedrock có quyền truy cập vào mô hình trọng số mở mới nhất với thế trận bảo mật và tuân thủ của AWS.
GLM 5.3 là mô hình hàng đầu của Z.ai, một kiến trúc kết hợp nhiều chuyên gia với tổng cộng 753 tỷ tham số và khoảng 40 tỷ tham số hoạt động trên mỗi mã thông báo, được xây dựng trên cùng một mô hình cơ sở với GLM 5.2 với tất cả các cải tiến được thúc đẩy bởi quá trình sau đào tạo được điều chỉnh quy mô. Mô hình này kết hợp cửa sổ ngữ cảnh 1 triệu token với tối đa 128.000 mã thông báo đầu ra và suy luận luôn được bật với các mức độ nỗ lực có thể lựa chọn để bạn có thể cân bằng giữa độ trễ và mức tiêu thụ mã thông báo với hiệu năng tác vụ.
Hỗ trợ Bedrock cho GLM 5.3 bao gồm lưu câu lệnh vào bộ nhớ đệm rõ ràng với các điểm bộ nhớ đệm trên câu lệnh hệ thống và tin nhắn, giúp bạn giảm độ trễ và chi phí đầu vào khi sử dụng lại ngữ cảnh trên các lệnh gọi mô hình.
GLM 5.3 có sẵn cho các khách hàng doanh nghiệp đủ điều kiện và có thể truy cập thông qua hồ sơ suy luận liên Khu vực của Hoa Kỳ và Toàn cầu. Để bắt đầu sử dụng GLM 5.3, bạn có thể truy cập mô hình này trong bảng điều khiển Amazon Bedrock hoặc bằng cách lập trình thông qua API Amazon Bedrock được hỗ trợ. Để biết thông tin về các Khu vực AWS được hỗ trợ, điểm cuối, API, tính năng, hồ sơ suy luận và mức giá, hãy xem tài liệu về Amazon Bedrock. Để tìm hiểu thêm, hãy đọc bài đăng blog ra mắt.