Пакетный вывод Amazon Bedrock теперь поддерживает формат API Converse
Пакетный вывод Amazon Bedrock теперь поддерживает тип вызова моделей на основе API-интерфейса Converse, позволяя использовать согласованный формат ввода с любыми моделями для пакетных рабочих нагрузок.
В прошлом при пакетном выводе необходимо было использовать особые форматы запросов для каждой модели на основе API-интерфейса InvokeModel. Теперь же при создании задачи пакетного вывода вы можете выбрать Converse в качестве типа вызова модели и структурировать входные данные в стандартном формате запросов API Converse. Выходные данные пакетных заданий Converse будут соответствовать формату ответов API Converse. Эта функция позволяет использовать один и тот же формат запросов как для вывода в реальном времени, так и для пакетного вывода, что упрощает работу с запросами и переключение между моделями. Тип вызова модели Converse можно настроить как в консоли Amazon Bedrock, так и в API-интерфейсе.
Данная возможность доступна во всех регионах AWS, где поддерживается пакетный вывод Amazon Bedrock. Для начала ознакомьтесь с разделами Создание задания пакетного вывода и Форматирование и загрузка данных пакетного вывода в Руководстве пользователя Amazon Bedrock.