Amazon Bedrock теперь поддерживает межрегиональный вывод
Сегодня Amazon Bedrock объявляет о поддержке логического вывода на межрегиональном уровне – дополнительной функции, которая позволяет разработчикам легко масштабировать трафик, задействуя вычислительные ресурсы в разных регионах AWS. Используя межрегиональный вывод, клиенты Bedrock смогут увеличивать в режиме «по требованию» лимиты пропускной способности (вплоть до двукратного объема выделенной в регионе квоты) и повышать устойчивость в периоды пикового спроса. Подключив эту функцию, разработчики перестанут тратить время и силы на прогнозирование колебаний нагрузки. Вместо этого межрегиональный вывод динамически маршрутизирует трафик между несколькими регионами, обеспечивая оптимальную доступность для каждого запроса и более стабильную производительность в периоды высокого потребления ресурсов.
Клиенты могут контролировать направление потоков данных логического вывода, выбирая регион из предопределенного набора, что помогает выполнять действующие требования к локализации данных и законы об информационном суверенитете. Более того, эта функция по мере возможности отдает приоритет подключенному исходному региону Bedrock API, что помогает минимизировать задержки и ускорить работу. В результате клиенты могут повысить надежность, производительность и эффективность своих приложений.
Дополнительная плата за маршрутизацию при использовании межрегионального вывода не взимается, и действуют тарифы того региона, из которого выполняется запрос (исходный регион). См. список поддерживаемых моделей и предопределенных регионов. Подробные сведения об этой функции и о том, как начать работу, см. в документации Amazon Bedrock или в этом блоге.