Управление запросами в Amazon Bedrock теперь является общедоступным
В начале этого года мы запустили предварительную версию Управления запросами в Amazon Bedrock, чтобы упростить создание, тестирование, управление версиями и совместное использование запросов. Сегодня мы объявляем о том, что этот сервис стал общедоступным, и добавляем несколько новых важных функций. Прежде всего, мы внедряем возможность простого выполнения запросов, которые хранятся в аккаунте AWS. API-интерфейсы среды выполнения Amazon Bedrock, Converse и InvokeModel теперь поддерживают выполнение запроса с использованием идентификатора Prompt. При создании и сохранении запросов теперь можно указывать не только выбранную модель и конфигурацию логического вывода, доступные в предварительной версии, но также запрос системы, множество сообщений пользователя/помощника и конфигурацию инструментов. Это позволяет ведущим инженерам запросов использовать возможности вызова функций, предоставляемые некоторыми семействами моделей, например моделями Anthropic Claude. Теперь можно хранить запросы для агентов Bedrock в дополнение к базовым моделям. Кроме того, мы добавили возможность сравнивать две версии запроса для быстрого анализа различий между версиями. Наконец, теперь поддерживается сохранение особых метаданных с запросами через Bedrock SDK, что позволяет хранить такие метаданные, как сведения об авторе, команде, отделе и др., необходимые для управления запросами в вашей организации.
Amazon Bedrock – это полностью управляемый сервис, на котором всего за один вызов API можно получить доступ к ряду высокопроизводительных больших языковых моделей (LLM) и других базовых моделей (FM) ведущих компаний, занимающихся ИИ, таких как AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI и Amazon.
Более подробные сведения см. здесь и в нашей документации. Читайте наш блог здесь.