Amazon Bedrock расширяет поддержку AWS PrivateLink
Amazon Bedrock – это полностью управляемый сервис, обеспечивающий безопасный доступ корпоративного уровня к высокопроизводительным базовым моделям от ведущих компаний, занимающихся искусственным интеллектом. Этот сервис поможет вам создавать и масштабировать приложения на основе генеративного искусственного интеллекта. Amazon Bedrock уже поддерживает AWS PrivateLink для адреса bedrock-runtime. Запуск новых возможностей теперь позволит использовать AWS PrivateLink также для частного доступа к приложениям через адрес bedrock-mantle. Адрес bedrock-mantle работает на основе Project Mantle, новой системы распределенного логического вывода для поддержки крупномасштабных моделей машинного обучения в Amazon Bedrock. Система Project Mantle упрощает и ускоряет подключение к Amazon Bedrock новых моделей. Она обеспечивает высокопроизводительный и надежный бессерверный логический вывод с изощренными средствами контроля качества обслуживания, позволяет использовать более высокие клиентские квоты по умолчанию с автоматическим управлением ресурсами и унифицированными пулами, а также изначально совместима со спецификациями API OpenAI.
Поддержка AWS PrivateLink для адресов, совместимых с API OpenAI, доступна в следующих регионах AWS: Восток США (Северная Вирджиния, Огайо), Запад США (Орегон), Азиатско-Тихоокеанский регион (Джакарта, Токио, Мумбаи, Сидней), Южная Америка (Сан-Паулу) и Европа (Франкфурт, Ирландия, Лондон, Милан, Стокгольм). Чтобы узнать больше и начать работу с этой функцией, ознакомьтесь с документацией по консоли Amazon Bedrock или сервису Amazon Bedrock. Чтобы начать работу с сервисными адресами Amazon Bedrock, совместимыми с API OpenAI, ознакомьтесь с соответствующей документацией по совместимости.