Công bố tính năng suy luận được tối ưu hóa độ trễ cho mô hình nền tảng Amazon Nova Pro trong Amazon Bedrock
Mô hình nền tảng Amazon Nova Pro hiện hỗ trợ bản xem trước của tính năng suy luận được tối ưu hóa độ trễ trên Amazon Bedrock, mang đến thời gian phản hồi nhanh hơn và cải thiện khả năng đáp ứng cho các ứng dụng AI tạo sinh. Tính ănng suy luận được tối ưu hóa độ trễ giúp rút ngắn thời gian phản hồi cho các ứng dụng đòi hỏi độ trễ thấp, cải thiện trải nghiệm của người dùng cuối và tăng thêm sự linh hoạt cho nhà phát triển để tối ưu hóa hiệu suất cho trường hợp sử dụng của họ. Bạn không cần phải thiết lập hoặc tinh chỉnh mô hình để truy cập các tính năng này. Nhờ đó, bạn có thể cải tiến ngay các ứng dụng có sẵn để cải thiện thời gian phản hồi.
Tính năng suy luận được tối ưu hóa độ trễ cho Amazon Nova Pro được cung cpá thông qua suy luận liên khu vực ở khu vực Miền Tây Hoa Kỳ (Oregon), Miền Đông Hoa Kỳ (Virginia) và Miền Đông Hoa Kỳ (Ohio). Hãy tìm hiểu thêm về mô hình nền tảng Amazon Nova trong Blog tin tức AWS, trang sản phẩm Amazon Nova hoặc hướng dẫn sử dụng Amazon Nova. Tìm hiểu thêm về tính năng suy luận được tối ưu hóa độ trễ trên Bedrock trong tài liệu. Bạn bắt đầu với các mô hình nền tảng Amazon Nova trong Amazon Bedrock qua bảng điều khiển Amazon Bedrock.