Studio Amazon SageMaker hiện hỗ trợ lập chỉ mục SOCI để giảm thời gian khởi động bộ chứa
Hôm nay, AWS công bố hỗ trợ lập chỉ mục SOCI (Seekable Open Container Initiative) cho Studio Amazon SageMaker, giảm 30 – 50% thời gian khởi động bộ chứa khi sử dụng hình ảnh tùy chỉnh. Studio Amazon SageMaker là một môi trường dựa trên trình duyệt, được tích hợp đầy đủ để phát triển khả năng máy học toàn diện. Studio SageMaker cung cấp hình ảnh bộ chứa dựng sẵn cho các khung ML phổ biến, như: TensorFlow, PyTorch và Scikit-learn, cho phép thiết lập môi trường nhanh chóng. Tuy nhiên, khi các nhà khoa học dữ liệu cần tùy chỉnh môi trường cho các trường hợp sử dụng cụ thể với các thư viện, thành phần phụ thuộc hoặc cấu hình bổ sung, họ có thể dựng và đăng ký hình ảnh bộ chứa tùy chỉnh với các thành phần được định cấu hình sẵn để bảo đảm tính nhất quán giữa các dự án. Vì khối lượng công việc ML ngày càng trở nên phức tạp, nên dung lượng của các hình ảnh bộ chứa tùy chỉnh này cũng tăng theo. Điều đó dẫn đến tình trạng thời gian khởi động mất tới vài phút và tạo ra điểm nghẽn cho quá trình phát triển ML lặp đi lặp lại, ưu tiên thử nghiệm nhanh và tạo mẫu nhanh.
Khả năng lập chỉ mục SOCI giải quyết thách thức này bằng tùy chọn tải hình ảnh bộ chứa khi cần thiết: chỉ tải xuống các thành phần phải có để khởi động ứng dụng và các tệp bổ sung được tải theo yêu cầu nếu cần. Thay vì phải đợi vài phút để tải xuống hình ảnh tùy chỉnh hoàn chỉnh, người dùng có thể bắt đầu làm việc hiệu quả sau vài giây trong khi môi trường hoàn thành quá trình khởi chạy trong nền. Để sử dụng khả năng lập chỉ mục SOCI, hãy tạo chỉ mục SOCI cho hình ảnh bộ chứa tùy chỉnh của bạn bằng các công cụ như Finch CLI, nerdctl hoặc Docker với SOCI CLI, đẩy hình ảnh được lập chỉ mục sang Sổ đăng ký bộ chứa linh hoạt của Amazon (ECR) và tham chiếu URI chỉ mục hình ảnh khi tạo tài nguyên Hình ảnh SageMaker.
Khả năng lập chỉ mục SOCI được cung cấp ở tất cả các Khu vực AWS có Studio Amazon SageMaker. Để tìm hiểu thêm về cách triển khai khả năng lập chỉ mục SOCI cho hình ảnh tùy chỉnh Studio SageMaker, hãy xem Mang hình ảnh SageMaker của riêng bạn trong Hướng dẫn dành cho nhà phát triển về Amazon SageMaker.