Amazon SageMaker HyperPod hiện hỗ trợ cấu hình vòng đời nút dựa trên AMI cho các cụm Slurm sử dụng chế độ cấp phát liên tục
Amazon SageMaker HyperPod hiện hỗ trợ cấu hình dựa trên AMI cho các cụm Slurm sử dụng chế độ cấp phát liên tục. Chế độ cấp phát liên tục thêm các nút vào cụm khi dung lượng trở nên khả dụng và lần ra mắt này mở rộng cấu hình dựa trên AMI cho các cụm sử dụng chế độ này. Với hỗ trợ này, các cụm sử dụng chế độ cấp phát liên tục có thể được tạo mà không cần tải xuống, cấu hình hoặc tải tập lệnh cấu hình vòng đời lên Amazon S3.
Cấu hình dựa trên AMI cấp phát các nút với phần mềm và cấu hình cần thiết cho môi trường sẵn sàng sản xuất để chạy khối lượng công việc đào tạo AI/ML, bao gồm phần mềm cần thiết như Docker, Enroot và Pyxis, cũng như các cấu hình như kế toán Slurm, tạo khóa SSH và luân phiên bản ghi. Khi sử dụng chế độ cấp phát liên tục, mỗi nút được cấu hình từ AMI khi được thêm vào cụm mà không cần quản lý các tập lệnh cấu hình vòng đời, do đó các nút trở nên khả dụng để lên lịch công việc sớm hơn. Để bật cấu hình dựa trên AMI, hãy bỏ qua khối LifeCycleConfig trong cấu hình nhóm phiên bản khi tạo cụm bằng API này hoặc chọn “Không có” trong phần Tập lệnh vòng đời ở Thiết lập tùy chỉnh khi sử dụng bảng điều khiển SageMaker AI. Để tùy chỉnh bổ sung trên cơ sở cấu hình dựa trên AMI, tập lệnh mở rộng có thể được cung cấp bằng cách chỉ định tham số OnInitComplete và SourceS3Uri trong khối LifeCycleConfig thông qua API hoặc bằng cách cung cấp URI S3 trong trường “Tệp tập lệnh mở rộng trong S3” ở mục Thiết lập tùy chỉnh khi sử dụng bảng điều khiển. Các tập lệnh cấu hình vòng đời tùy chỉnh vẫn được hỗ trợ đầy đủ cho các trường hợp sử dụng yêu cầu toàn quyền kiểm soát quá trình cấp phát.
Cấu hình vòng đời nút dựa trên AMI cho các cụm Slurm sử dụng chế độ cấp phát liên tục có sẵn ở tất cả các Khu vực AWS hỗ trợ SageMaker HyperPod. Để bắt đầu, hãy xem Bắt đầu sử dụng SageMaker HyperPod bằng AWS CLI hoặc Bắt đầu sử dụng SageMaker HyperPod bằng bảng điều khiển SageMaker AI trong hướng dẫn sử dụng SageMaker.