Ограничения Amazon Bedrock теперь поддерживают межрегиональный вывод
Ограничения Amazon Bedrock поддерживают логический вывод на межрегиональном уровне – дополнительную функцию, которая позволяет клиентам легко масштабировать трафик, задействуя вычислительные ресурсы в разных регионах AWS.
Ограничения Bedrock предоставляют настраиваемые средства защиты, помогающие обнаруживать и блокировать вредоносный контент и атаки через текстовые запросы, определять конкретные темы, которые следует отклонять и запрещать, а также скрывать информацию, позволяющую установить личность (PII), например личные данные из входных текстовых запросов и ответов модели. Кроме того, ограничения Bedrock помогают обнаруживать и блокировать галлюцинации модели, а также выявлять, исправлять и объяснять фактуальные утверждения в ее ответах с помощью проверок автоматизированных рассуждений. Ограничения могут применяться к любым базовым моделям, в том числе с хостингом в Amazon Bedrock или самостоятельным хостингом, а также к моделям сторонних разработчиков вне Bedrock, с помощью API-интерфейса ApplyGuardrail. Таким образом пользователи получают унифицированный интерфейс, который помогает стандартизировать функции управления конфиденциальностью и безопасностью.
Благодаря межрегиональному выводу пользователи ограничений Amazon Bedrock могут обеспечить стабильную пропускную способность и дополнительную отказоустойчивость в периоды пикового спроса. С подключением этой функции клиентам больше не придется тратить время и силы на прогнозирование колебаний нагрузки. Вместо этого межрегиональный вывод динамически маршрутизирует трафик между несколькими регионами, обеспечивая оптимальную доступность для каждого запроса и более стабильную производительность в периоды высокого потребления ресурсов.
При использовании межрегионального вывода для ограничений Amazon Bedrock дополнительная плата за маршрутизацию не взимается. Список поддерживаемых регионов можно найти здесь.
Подробнее об этой функции и о том, как начать работу, см. в технической документации.