Amazon Bedrock Knowledge Bases теперь поддерживает межрегиональный вывод
Amazon Bedrock Knowledge Bases объявляет о поддержке логического вывода на межрегиональном уровне – дополнительной функции, которая позволяет разработчикам легко масштабировать трафик, задействуя вычислительные ресурсы в разных регионах AWS.
Используя межрегиональный анализ, заказчики Amazon Bedrock Knowledge Base, использующие API RetrieveAndGenerate, смогут получить повышенные лимиты пропускной способности и дополнительную устойчивость в периоды пикового спроса. Подключив эту функцию, разработчики перестанут тратить время и силы на прогнозирование колебаний нагрузки. Вместо этого межрегиональный вывод динамически маршрутизирует трафик между несколькими регионами, обеспечивая оптимальную доступность для каждого запроса и более стабильную производительность в периоды высокого потребления ресурсов. Чтобы использовать межрегиональный вывод, заказчикам необходимо указать профиль вывода формата ModelARN в запросе RetrieveAndGenerate API. Дополнительная плата за маршрутизацию при использовании межрегионального вывода не взимается, и действуют тарифы того региона, из которого выполняется запрос (исходный регион).
См. список поддерживаемых моделей и предопределенных регионов. Подробные сведения об этой функции и о том, как начать работу, см. в документации Amazon Bedrock или в этом блоге.