Đưa mô hình nền tảng được tinh chỉnh từ SageMaker Canvas vào môi trường sản xuất
Amazon SageMaker Canvas hiện hỗ trợ triển khai Mô hình nền tảng (FM) được tinh chỉnh đến các điểm cuối suy luận theo thời gian thực của SageMaker, cho phép bạn đưa các khả năng AI tạo sinh vào sản xuất cũng như sử dụng bên ngoài không gian làm việc Canvas. SageMaker Canvas là không gian làm việc không dùng mã cho phép các nhà phân tích và nhà khoa học dữ liệu công dân tạo ra các dự đoán ML chính xác và sử dụng các chức năng AI tạo sinh.
SageMaker Canvas hỗ trợ tiếp cận khả năng tinh chỉnh các FM dựa trên Amazon Bedrock và SageMaker JumpStart, ví dụ: các biến thể Amazon Titan Express, Falcon-7B-Instruct, Falcon-40B-Instruct và Flan-T5. Bạn có thể tải tập dữ liệu lên, chọn FM cần tinh chỉnh và SageMaker Canvas sẽ tự động tạo, điều chỉnh mô hình cho phù hợp với các quy luật và sắc thái trong trường hợp sử dụng cụ thể của bạn, góp phần nâng cao hiệu suất phản hồi của mô hình.
Bắt đầu từ hôm nay, bạn có thể triển khai các FM được tinh chỉnh đến các điểm cuối SageMaker, giúp cho việc tích hợp các khả năng AI tạo sinh vào các ứng dụng bên ngoài không gian làm việc SageMaker Canvas trở nên dễ dàng hơn.
Để bắt đầu, hãy đăng nhập vào SageMaker Canvas để truy cập các FM được tinh chỉnh, chọn mô hình mong muốn và triển khai mô hình đó với các cấu hình điểm cuối thích hợp, ví dụ: vô hạn hoặc trong một khoảng thời gian cụ thể. Phí suy luận SageMaker sẽ áp dụng cho các mô hình được triển khai. Người dùng mới có thể truy cập phiên bản mới nhất bằng cách khởi chạy trực tiếp SageMaker Canvas từ bảng điều khiển AWS của họ. Người dùng hiện tại có thể truy cập phiên bản mới nhất của SageMaker Canvas bằng cách nhấp vào “Đăng xuất”, rồi đăng nhập lại.
Tính năng mở rộng hiện có ở tất cả các khu vực AWS đang hỗ trợ SageMaker Canvas. Để tìm hiểu thêm, hãy tham khảo tài liệu về sản phẩm SageMaker Canvas.