OpenAI GPT-6.1 Sol hiện hỗ trợ chế độ Ultrafast trên Amazon Bedrock
Hôm nay, AWS thông báo việc cung cấp chế độ Ultrafast cho GPT-6.1 Sol từ OpenAI trên Amazon Bedrock. Chế độ Ultrafast cung cấp suy luận nhanh hơn cho khối lượng công việc mà tốc độ có ý nghĩa quan trọng nhất. Công cụ suy luận Amazon Bedrock cung cấp hiệu năng, bảo mật và độ tin cậy cần thiết cho khối lượng công việc sản xuất.
Sử dụng GPT-6.1 Sol Ultrafast cho các ứng dụng nhạy cảm về độ trễ như trợ lý lập trình theo thời gian thực, tác tử tương tác và trải nghiệm dành cho khách hàng đòi hỏi phản hồi nhanh, chất lượng cao. GPT-6.1 Sol giúp nhà phát triển xây dựng các tính năng, gỡ lỗi sự cố, điều tra các cơ sở mã phức tạp và hoàn thành quy trình công việc nhiều bước. Các biện pháp kiểm soát AWS đã được thiết lập giúp bạn bảo mật khối lượng công việc, quản trị quyền truy cập và kiểm tra hoạt động gọi mô hình.
Bạn có thể bắt đầu trong bảng điều khiển Amazon Bedrock hoặc bằng cách lập trình thông qua các API Amazon Bedrock được hỗ trợ. Để biết thông tin về các Khu vực AWS được hỗ trợ, điểm cuối, API, tính năng, hồ sơ suy luận và mức giá, hãy xem tài liệu về Amazon Bedrock.