Đưa mô hình nền tảng từ SageMaker Canvas vào môi trường sản xuất
Amazon SageMaker Canvas hiện hỗ trợ việc triển khai Mô hình nền tảng (FM) cho các điểm cuối suy luận theo thời gian thực của SageMaker, cho phép bạn đưa các khả năng AI tạo sinh vào sản xuất cũng như sử dụng bên ngoài không gian làm việc Canvas. SageMaker Canvas là không gian làm việc không dùng mã cho phép các nhà phân tích và nhà khoa học dữ liệu công dân tạo ra các dự đoán ML chính xác và sử dụng các chức năng AI tạo sinh.
SageMaker Canvas cung cấp quyền truy cập vào FM hoạt động trên nền tảng Amazon Bedrock và SageMaker JumpStart, hỗ trợ việc tùy chỉnh dựa trên RAG và việc tinh chỉnh FM. Bắt đầu từ hôm nay, bạn có thể triển khai các FM hoạt động trên nền tảng SageMaker JumpStart như Falcon-7B, Llama-2, v.v. cho các điểm cuối của SageMaker, giúp đơn giản hóa việc tích hợp các chức năng AI tạo sinh vào các ứng dụng của bạn bên ngoài không gian làm việc của SageMaker Canvas. Bạn có thể truy cập FM hoạt động trên nền tảng Amazon Bedrock bằng một API duy nhất bên ngoài không gian làm việc của SageMaker. Bằng cách đơn giản hóa quy trình triển khai, SageMaker Canvas tăng tốc hiệu quả đầu tư và đảm bảo quá trình chuyển đổi suôn sẻ từ thử nghiệm sang sản xuất.
Để bắt đầu, hãy đăng nhập vào SageMaker Canvas để truy cập các FM hoạt động trên nền tảng SageMaker JumpStart. Chọn mô hình mong muốn và triển khai mô hình đó với các cấu hình điểm cuối thích hợp như vô thời hạn hoặc trong một khoảng thời gian cụ thể. Phí suy luận SageMaker sẽ áp dụng cho các mô hình được triển khai. Người dùng mới có thể truy cập phiên bản mới nhất bằng cách khởi chạy trực tiếp SageMaker Canvas từ bảng điều khiển AWS của họ. Người dùng hiện tại có thể truy cập phiên bản mới nhất của SageMaker Canvas bằng cách nhấp vào “Đăng xuất”, rồi đăng nhập lại.
Tính năng mở rộng hiện có ở tất cả các khu vực AWS đang hỗ trợ SageMaker Canvas. Để tìm hiểu thêm, hãy tham khảo tài liệu về sản phẩm SageMaker Canvas.