Функции ИИ-шлюза теперь доступны в AWS AppSync благодаря интеграции Amazon Bedrock в AppSync GraphQL
AWS AppSync – это полностью управляемый сервис управления API, который связывает приложения с событиями, данными и моделями искусственного интеллекта. Клиенты используют AppSync как ИИ-шлюз для запуска рабочих процессов генеративного искусственного интеллекта и подписки на основе WebSocket, чтобы получать последовательные обновления от длительно выполняющихся вызовов. Это позволяет реализовать асинхронные шаблоны. Однако в некоторых случаях необходимо делать короткие синхронные вызовы моделей. AWS AppSync теперь поддерживает среду выполнения Amazon Bedrock как источник данных для API GraphQL, обеспечивая беспрепятственную интеграцию возможностей генеративного искусственного интеллекта. С помощью новой функции разработчики могут выполнять короткие синхронные обращения (до 10 секунд) к базовым моделям и профилям вывода Amazon Bedrock непосредственно из своих API GraphQL в AppSync.
Интеграция поддерживает вызов API converse и invokeModel. При выполнении задач анализа данных и генерации структурированных объектов разработчики могут взаимодействовать с моделями Antropic, такими как Claude 3.5 Haiku и Claude 3.5 Sonnet. Они также могут использовать модели Amazon Titan для генерации встраиваний, создания сводок или извлечения задач из протоколов совещаний.
Для вызовов, выполняемых дольше, по-прежнему подходят функции AWS Lambda в режиме событий, обеспечивающие взаимодействие с моделями Bedrock и отправку клиентам последовательных обновлений по подписке.
Новый источник данных доступен во всех регионах AWS, где доступен AWS AppSync. Чтобы начать работу, откройте консоль AWS AppSync и ознакомьтесь с документацией AWS AppSync для получения дополнительной информации.