Tại sao nên chọn Amazon SageMaker MLOps
Amazon SageMaker cung cấp các công cụ được xây dựng theo mục đích cho các hoạt động máy học (MLOps) để giúp bạn tự động hóa và chuẩn hóa các quy trình trong suốt vòng đời ML. Với các công cụ SageMaker MLOps, bạn có thể dễ dàng đào tạo, kiểm thử, khắc phục sự cố, triển khai và quản trị các mô hình ML trên quy mô lớn để tăng năng suất của các nhà khoa học dữ liệu và kỹ sư ML, đồng thời duy trì hiệu năng của mô hình trong sản xuất.
Cách hoạt động

Lợi ích của SageMaker MLOps
Tăng tốc độ phát triển mô hình
Cung cấp môi trường khoa học dữ liệu chuẩn hóa
Việc chuẩn hóa môi trường phát triển ML sẽ gia tăng năng suất của nhà khoa học dữ liệu và hơn hết là tăng tốc độ đổi mới bằng cách giúp dễ dàng khởi động các dự án mới, thay đổi luân phiên các nhà khoa học dữ liệu giữa các dự án và triển khai các phương pháp tốt nhất về ML. Các Dự án Amazon SageMaker cung cấp các mẫu để nhanh chóng cung cấp các môi trường chuẩn hóa dành cho nhà khoa học dữ liệu với các công cụ và thư viện, kho lưu trữ biện pháp kiểm soát nguồn, mã boilerplate và quy trình CI/CD được cập nhật mới nhất và kiểm thử kỹ lưỡng.
Đọc hướng dẫn dành cho nhà phát triển để tự động hóa MLOps với SageMaker Projects

Cộng tác bằng cách sử dụng MLflow trong quá trình thử nghiệm ML
Xây dựng mô hình ML là một quá trình lặp đi lặp lại, liên quan đến việc đào tạo hàng trăm mô hình để tìm ra thuật toán, kiến trúc và tham số tốt nhất để đạt được độ chính xác của mô hình tối ưu. MLFlow cho phép bạn theo dõi đầu vào và đầu ra trong các lần lặp lại đào tạo này, cải thiện khả năng lặp lại của các thử nghiệm và thúc đẩy sự hợp tác giữa các nhà khoa học dữ liệu. Với tính năng MLflow được quản lý toàn phần, bạn có thể tạo Máy chủ theo dõi MLflow cho từng nhóm, tạo điều kiện hợp tác hiệu quả trong quá trình thử nghiệm ML.
Amazon SageMaker với MLflow quản lý vòng đời máy học toàn diện, hợp lý hóa việc đào tạo mô hình hiệu quả, theo dõi các thử nghiệm và khả năng tái tạo trên các khung và môi trường khác nhau. Tính năng này cung cấp một giao diện duy nhất nơi bạn có thể trực quan hóa các tác vụ đào tạo đang tiến hành, chia sẻ thử nghiệm với đồng nghiệp và đăng ký các mô hình trực tiếp từ một thử nghiệm.

Tự động hóa quy trình làm việc tùy chỉnh mô hình AI tạo sinh
Với Quy trình của Amazon SageMaker, bạn có thể tự động hóa quá trình xử lý dữ liệu, đào tạo mô hình, tinh chỉnh, đánh giá và triển khai quy trình làm việc ML toàn diện. Xây dựng mô hình của riêng bạn hoặc tùy chỉnh mô hình nền tảng từ SageMaker Jumpstart chỉ với vài cú nhấp chuột trong trình biên tập trực quan Quy trình. Bạn có thể cấu hình Quy trình của SageMaker để chạy tự động theo các khoảng thời gian định kỳ hoặc khi một số sự kiện nhất định được kích hoạt (ví dụ: dữ liệu đào tạo mới trong S3)

Dễ dàng triển khai và quản lý các mô hình trong sản xuất
Nhanh chóng tái tạo mô hình của bạn để khắc phục sự cố
Thông thường, bạn cần tái tạo các mô hình trong quá trình sản xuất để khắc phục sự cố hành vi của mô hình và xác định nguyên nhân gốc rễ. Để giúp bạn thực hiện công tác này, Amazon SageMaker lập bản ghi cho từng bước trong quy trình làm việc của bạn, tạo biên bản kiểm tra của các tạo tác mô hình, chẳng hạn như dữ liệu đào tạo, cài đặt cấu hình, thông số mô hình và độ dốc học tập. Bằng cách sử dụng khả năng theo dõi dòng, bạn có thể tạo lại các mô hình để gỡ lỗi các vấn đề tiềm ẩn.
Tìm hiểu thêm về tính năng Theo dõi dòng ML của Amazon SageMaker

Theo dõi và quản lý tập trung các phiên bản mô hình
Xây dựng một ứng dụng ML liên quan đến việc phát triển các mô hình, quy trình dữ liệu, quy trình đào tạo và kiểm thử xác thực. Sử dụng Sổ đăng ký mô hình của Amazon SageMaker, bạn có thể theo dõi các phiên bản mô hình, siêu dữ liệu của chúng như nhóm trường hợp sử dụng và các đường cơ sở về chỉ số hiệu năng của mô hình trong kho lưu trữ trung tâm, nơi bạn có thể dễ dàng chọn mô hình phù hợp để triển khai dựa trên yêu cầu kinh doanh của mình. Ngoài ra, Sổ đăng ký mô hình của SageMaker tự động lập bản ghi các quy trình phê duyệt vì mục đích kiểm tra và tuân thủ.
Tìm hiểu thêm về Đăng ký và triển khai mô hình với Sổ đăng ký mô hình

Xác định cơ sở hạ tầng ML thông qua mã
Điều phối cơ sở hạ tầng thông qua các tệp cấu hình khai báo, thường được gọi là “cơ sở hạ tầng dưới dạng mã”, là một phương pháp phổ biến để cung cấp cơ sở hạ tầng ML và triển khai kiến trúc giải pháp theo đúng như các quy trình CI/CD hoặc các công cụ triển khai nêu ra. Bằng cách sử dụng các Dự án Amazon SageMaker, bạn có thể viết cơ sở hạ tầng dưới dạng mã bằng cách sử dụng các tệp mẫu được xây dựng sẵn.
Tự động hóa quy trình tích hợp và triển khai (CI/CD)
Quy trình phát triển ML nên tích hợp với quy trình tích hợp và triển khai để nhanh chóng cung cấp các mô hình mới cho các ứng dụng sản xuất. Các Dự án Amazon SageMaker mang các phương pháp CI/CD vào ML, chẳng hạn như duy trì tính cân bằng giữa môi trường phát triển và môi trường sản xuất, kiểm soát nguồn và phiên bản, kiểm thử A/B và tự động hóa toàn diện. Nhờ đó, bạn đưa một mô hình vào sản xuất ngay sau khi mô hình được phê duyệt và tăng tính linh hoạt.
Ngoài ra, Amazon SageMaker cung cấp các biện pháp bảo vệ được tích hợp sẵn để giúp bạn duy trì độ sẵn sàng của điểm cuối và giảm thiểu rủi ro triển khai. SageMaker đảm nhận việc thiết lập và sắp xếp các phương pháp triển khai tốt nhất như triển khai lục/lam để tối đa hóa độ sẵn sàng và tích hợp chúng với các cơ chế cập nhật điểm cuối, chẳng hạn như cơ chế khôi phục tự động, để giúp bạn tự động xác định sớm các vấn đề và thực hiện hành động khắc phục trước khi các vấn đề đó gây ra tác động nghiêm trọng đến sản xuất.
Tạo các giải pháp ML toàn diện với CI/CD bằng cách sử dụng các dự án SageMaker

Liên tục đào tạo lại các mô hình để duy trì chất lượng dự đoán
Khi mô hình ở trong quá trình sản xuất, bạn cần theo dõi hiệu năng của mô hình bằng cách cấu hình cảnh báo để nhà khoa học dữ liệu đang làm việc có thể khắc phục sự cố và kích hoạt quá trình đào tạo lại. Trình giám sát mẫu của Amazon SageMaker giúp bạn duy trì chất lượng bằng cách phát hiện sai lệch mô hình và sai lệch về khái niệm trong thời gian thực và gửi cảnh báo cho bạn để bạn có thể hành động ngay lập tức. Trình giám sát mẫu của SageMaker liên tục theo dõi các đặc điểm hiệu năng của mô hình như độ chính xác, vốn đo lường số lượng dự đoán chính xác so với tổng số dự đoán, nhờ đó bạn có thể giải quyết các hiện tượng bất thường. Trình giám sát mẫu của SageMaker được tích hợp với SageMaker Clarify để cải thiện khả năng quan sát các thiên kiến tiềm ẩn.

Tối ưu hóa việc triển khai mô hình để đạt hiệu năng và chi phí tốt
Amazon SageMaker giúp dễ dàng triển khai các mô hình ML để suy luận với hiệu năng cao và chi phí thấp cho mọi trường hợp sử dụng. Dịch vụ này cung cấp nhiều lựa chọn cơ sở hạ tầng ML và các tùy chọn triển khai mô hình để đáp ứng tất cả các nhu cầu suy luận ML của bạn.

Khách hàng
Tài nguyên cho SageMaker MLOps
Thông tin mới
Total results: 6
- Ngày (Từ mới nhất đến cũ nhất)
-
30/11/2022
-
17/08/2022
-
09/08/2022
-
02/02/2022
-
21/01/2022
-
21/01/2022