Блокноты Amazon SageMaker теперь поддерживают инстансы типа P6-B200
Мы рады объявить о том, что инстансы Amazon EC2 P6-B200 теперь являются общедоступными для блокнотов SageMaker.
Инстансы Amazon EC2 P6-B200 включают восемь графических процессоров (GPU) NVIDIA Blackwell с 1440 ГБ видеопамяти высокой пропускной способности и процессоры Intel Xeon 5-го поколения (под кодовым названием Emerald Rapids). Эти инстансы способны обеспечить вдвое большую производительность для обучения ИИ по сравнению с инстансами P5en. Клиенты могут использовать инстансы P6-B200 для интерактивной разработки и настройки крупных базовых моделей, в том числе больших языковых моделей (LLM), сочетания экспертных моделей или мультимодальных моделей рассуждения. Эти инстансы позволяют легко экспериментировать с моделями большого размера непосредственно в средах JupyterLab или CodeEditor для приложений генеративного искусственного интеллекта, таких как корпоративные ИИ-помощники или средства создания контента на основе текста, изображений и видео.
Инстансы Amazon EC2 P6-B200 доступны для блокнотов SageMaker в следующих регионах AWS: Восток США (Огайо) и Запад США (Орегон).
Инструкции по настройке и эксплуатации приложений JupyterLab и CodeEditor в Студии SageMaker и инстансах блокнотов SageMaker см. в руководствах для разработчиков.