Amazon Bedrock предлагает подборку базовых моделей пакетного логического вывода за 50 % стоимости вывода по запросу
В прошлом году мы добавили поддержку пакетного логического вывода в предварительной версии, который позволяет обрабатывать пакеты запросов и получать ответы для оценки моделей, экспериментирования и автономной обработки. С сегодняшнего дня пакетный логический вывод в Amazon Bedrock становится общедоступным во всех поддерживаемых регионах AWS для поддерживаемых моделей. Используйте пакетный вывод для асинхронного выполнения множества запросов на вывод и для ускорения осуществляемого моделями вывода в больших наборах данных. Amazon Bedrock предлагает подборку базовых моделей (FM) для пакетного вывода от ведущих поставщиков искусственного интеллекта, таких как Anthropic, Meta, Mistral AI и Amazon, по цене в 50 % от стоимости вывода по запросу. Время выполнения пакетного вывода зависит от разных факторов, таких как размер задания, но ожидаемый срок выполнения обычного задания, как правило, составляет не более 24 часов. Дополнительные сведения см. в нашей документации по пакетному выводу, а также в справочной документации по API.
Amazon Bedrock — полностью управляемый сервис, на котором через один API можно получить доступ к ряду высокопроизводительных базовых моделей (FM) от таких лидеров в сфере искусственного интеллекта, как AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI и Amazon. Amazon Bedrock также предоставляет широкий набор возможностей для создания приложений с генеративным ИИ со встроенными средствами безопасности, конфиденциальности и ответственного использования. С помощью этих технологий организации могут создавать специализированные приложения для различных сценариев использования в разных отраслях и достигать устойчивого роста, не только применяя генеративный ИИ, но и заботясь о доверии клиентов и управлении данными.
Подробнее см. страницу Amazon Bedrock и документацию по Amazon Bedrock.