Amazon Bedrock запускает API управления сеансами для приложений GenAI (предварительная версия)
Amazon Bedrock объявляет о выпуске предварительной версии API-интерфейсов управления сеансами. Эта новая возможность упрощает разработчикам контроль над состоянием и контекстом в приложениях генеративного искусственного интеллекта (GenAI), созданных на базе популярных платформ с открытым исходным кодом, таких как LangGraph и LlamaIndex. Интерфейсы API для управления сеансами предоставляют разработчикам готовое решение для надежного контроля над состоянием и контекстом бесед в многоэтапных рабочих процессах GenAI, устраняя необходимость в создании, поддержке и масштабировании специализированных внутренних решений.
Эти API сохраняют состояние сеансов между разными взаимодействиями, обеспечивая дополнительную согласованность рабочих процессов. Возможность сохранения контекста при длительных взаимодействиях необходима для таких приложений GenAI, как виртуальные помощники и многоагентные процессы аналитики. Разработчики могут использовать эту возможность для создания контрольных точек между этапами рабочих процессов, сохранения промежуточных состояний и возобновления задач в точках прерывания или сбоя. Кроме того, появляется возможность приостановки и повторного воспроизведения сеансов, а также использования подробных трассировок для отладки и улучшения GenAI-приложений. Рассматривая сеанс как ресурс первого класса, данная возможность позволяет разработчикам детально контролировать доступ при помощи Управления идентификацией и доступом AWS (AWS IAM) и шифровать данные с помощью Сервиса управления ключами AWS (AWS KMS), обеспечивая безопасную изоляцию данных в разных пользовательских сеансах и поддерживая надежную защиту конфиденциальности для многоклиентских приложений.
Предварительная версия API управления сеансами сейчас доступна в следующих регионах: Восток США (Огайо, Северная Вирджиния), Запад США (Орегон), Азиатско-Тихоокеанский регион (Мумбаи, Сеул, Сингапур, Сидней, Токио), Канада (Центральная), Европа (Франкфурт, Ирландия, Лондон, Париж, Цюрих) и Южная Америка (Сан-Паулу). Подробнее см. в технической документации.