Phiên bản sổ tay của Amazon SageMaker hiện hỗ trợ các phiên bản dựa trên Trainium1 và Inferentia 2
Chúng tôi rất vui được thông báo áp dụng rộng rãi phiên bản EC2 dựa trên Trainium1 và Inferentia2 trên Phiên bản sổ tay của SageMaker.
Phiên bản Trn1 dựa trên chip AWS Trainium và phiên bản Inf2 dựa trên chip AWS Inferentia của Amazon EC2 được phát triển nhằm cung cấp hiệu năng cao lần lượt cho quá trình đào tạo học sâu và suy luận. Khi được dùng để đào tạo mô hình AI tạo sinh có trên 100 tỷ tham số, chẳng hạn như mô hình ngôn ngữ lớn (LLM) và khuếch tán ngầm, phiên bản Trn1 giúp tiết kiệm chi phí hơn các phiên bản Amazon EC2 tương đương khác. Phiên bản Inf2 cung cấp khả năng suy luận với hiệu năng cao, chi phí thấp cho AI tạo sinh, bao gồm LLM và bộ chuyển đổi thị giác. Bạn có thể sử dụng phiên bản Trn1 và Inf2 trên nhiều ứng dụng khác nhau, chẳng hạn như tóm tắt văn bản, tạo mã, trả lời câu hỏi, tạo hình ảnh và video, đề xuất và phát hiện gian lận.
Phiên bản Trn1 của Amazon EC2 được hỗ trợ trên Phiên bản sổ tay của SageMaker ở khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia và Ohio) và Miền Tây Hoa Kỳ (Oregon). Phiên bản Trn1n của Amazon EC2 được hỗ trợ trên SageMaker NBI ở khu vực AWS Miền Đông Hoa Kỳ (Bắc Virginia và Ohio). Phiên bản Inf2 của Amazon EC2 được hỗ trợ trên SageMaker NBI ở các khu vực AWS Miền Tây Hoa Kỳ (Oregon), AWS Miền Đông Hoa Kỳ (Bắc Virginia và Ohio), AWS Châu Âu (Ireland), AWS Châu Âu (Frankfurt), AWS Châu Á Thái Bình Dương (Tokyo), AWS Châu Á Thái Bình Dương (Sydney), AWS Châu Á Thái Bình Dương (Mumbai), AWS Châu Âu (London), AWS Châu Á Thái Bình Dương (Singapore), AWS Châu Âu (Stockholm), AWS Châu Âu (Paris) và AWS Nam Mỹ (São Paulo).
Để biết hướng dẫn về cách thiết lập và sử dụng Phiên bản sổ tay của SageMaker, vui lòng truy cập hướng dẫn dành cho nhà phát triển.