Amazon Bedrock hiện hỗ trợ SpaceXAI Grok 4.6 với Suy luận xuyên khu vực
Amazon Bedrock hiện hỗ trợ SpaceXAI Grok 4.6, một mô hình tiên phong (frontier) được xây dựng dành cho lập trình, tác vụ tác tử và công việc kiến thức, với suy luận xuyên Khu vực Địa lý của Hoa Kỳ và Toàn cầu. Giờ đây, khách hàng có thể truy cập Grok 4.6 trên quy mô lớn với các yêu cầu định tuyến suy luận xuyên Khu vực trên nhiều Khu vực AWS để có thông lượng cao hơn và chi phí suy luận thấp hơn.
Suy luận xuyên Khu vực sẽ tự động định tuyến các yêu cầu suy luận qua nhiều Khu vực AWS để cung cấp cho bạn thông lượng cao hơn mà không cần quản lý dung lượng trên nhiều Khu vực. Hồ sơ suy luận Địa lý Hoa Kỳ – us.xai.grok-4.6 – chỉ định tuyến yêu cầu trong phạm vi địa lý Hoa Kỳ, vì vậy bạn có thể điều chỉnh quy mô trong khi vẫn giữ dữ liệu được xử lý trong phạm vi lãnh thổ Hoa Kỳ để đáp ứng các yêu cầu về vị trí lưu dữ liệu. Hồ sơ suy luận Toàn cầu – global.xai.grok-4.6 – phục vụ các yêu cầu từ bất kỳ Khu vực AWS thương mại nào có sẵn mô hình, cung cấp cho bạn quyền truy cập rộng nhất vào dung lượng Bedrock và thông lượng cao nhất trong thời gian nhu cầu tăng đột biến, với chi phí cho mỗi token thấp hơn. Mô hình này chạy trên điểm cuối bedrock-runtime với hỗ trợ cho API Responses, Chat Completions và Converse, đồng thời hoạt động với các kiểm soát cấp tài khoản giống như bạn đã sử dụng cho các mô hình khác trên Bedrock, bao gồm tạo bản ghi lượt gọi mô hình (có thể phân phối đến Amazon S3 hoặc Bản ghi Amazon CloudWatch), chỉ số Amazon CloudWatch và lập chi tiết chi phí trong Trình khám phá chi phí AWS và Báo cáo chi phí và mức sử dụng AWS.
Suy luận xuyên Khu vực dành cho Grok 4.6 có sẵn ở tất cả các Khu vực AWS có cung cấp Amazon Bedrock. Để bắt đầu, hãy xem lại thẻ mô hình dành cho Grok 4.6 trong Hướng dẫn sử dụng Amazon Bedrock.