Amazon SageMaker HyperPod hiện đã hỗ trợ chạy IDE và Sổ tay để tăng tốc phát triển AI
Amazon SageMaker HyperPod hiện đã hỗ trợ IDE và Sổ tay, cho phép các nhà phát triển AI chạy JupyterLab, Trình biên soạn mã hoặc kết nối các IDE cục bộ để chạy khối lượng công việc AI tương tác của mình trực tiếp trên các cụm HyperPod.
Bản phát hành cho phép các nhà phát triển AI chạy IDE và sổ tay trên cùng một cụm HyperPod EKS liên tục được sử dụng để đào tạo và suy luận. Nhà phát triển có thể tận dụng dung lượng GPU có thể mở rộng của HyperPod với các công cụ quen thuộc như HyperPod CLI, đồng thời chia sẻ dữ liệu trên IDE và công việc đào tạo thông qua các hệ thống tệp gắn kèm như FSx và EFS. Giải pháp này hỗ trợ chạy nhiều IDE trên cùng một phiên bản GPU, cũng như trên GPU đơn lẻ, bằng cách tận dụng hỗ trợ GPU nhiều phiên bản (MIG) trên HyperPod.
Quản trị viên có thể tăng tối đa các khoản đầu tư vào CPU/GPU thông qua quy trình quản trị thống nhất đối với các khối lượng công việc IDE, đào tạo và suy luận bằng tính năng Quản trị nhiệm vụ của HyperPod. Khả năng quan sát của HyperPod cung cấp các chỉ số sử dụng toàn diện bao gồm mức sử dụng CPU, GPU và bộ nhớ, cho phép quản trị viên tối ưu hóa việc sử dụng cụm và quản lý chi phí hiệu quả.
Tính năng này được cung cấp ở tất cả các khu vực AWS hiện có Amazon SageMaker HyperPod, ngoại trừ các khu vực Trung Quốc và GovCloud (Hoa Kỳ). Để tìm hiểu thêm, hãy truy cập tài liệu của chúng tôi.