Логический вывод с оптимизацией задержки для базовой модели Amazon Nova Pro в Amazon Bedrock
Базовая модель Amazon Nova Pro теперь поддерживает предварительную версию логического вывода с оптимизацией задержки в Amazon Bedrock, которая обеспечивает меньшее время отклика и большую скорость работы в приложениях с генеративным искусственным интеллектом. Логический вывод с оптимизацией задержки ускоряет отклик для чувствительных к задержкам приложений, улучшая качество работы для конечных пользователей и предоставляя разработчикам более гибкие возможности оптимизации производительности для их задач. Эти возможности не требуют какой-либо дополнительной настройки или изменения моделей, поэтому улучшить время отклика для имеющихся приложений можно без промедления.
Логический вывод с оптимизацией задержки для Amazon Nova Pro доступен в рамках межрегионального вывода для следующих регионов: Запад США (Орегон) и Восток США (Вирджиния, Огайо). Узнайте больше о базовых моделях Amazon Nova из блога AWS News, на странице продукта Amazon Nova или в руководстве пользователя Amazon Nova. Подробнее о логическом выводе с оптимизацией задержки в Bedrock см. в документации. Начать работу с базовыми моделями Amazon Nova в Amazon Bedrock можно в консоли Amazon Bedrock.