Базы знаний Amazon Bedrock теперь поддерживают Llama 3.1 405B, 70B и 8B
Базы знаний Amazon Bedrock обеспечивают безопасное подключение базовых моделей (FM) к внутренним источникам данных компании, позволяя получать релевантные и точные ответы с учетом контекста при помощи генерации с дополненной выборкой (Retrieval-Augmented Generation, RAG). Семейство базовых моделей Meta Llama 3.1 (405B, 70B и 8B) теперь общедоступно в базах знаний.
Llama 3.1 – это следующее поколение современных моделей от Meta, поддерживающих длину контекста 128 000 токенов (примерно 96 000 слов или 192 страницы материала). Модели Llama 3.1 хорошо подходят для задач, требующих сложных рассуждений, быстрого вывода и использования RAG. Llama 3.1 имеет поддержку в полностью управляемом API RetrieveAndGenerate.
Базы знаний Amazon Bedrock на моделях Llama 3.1 405B, 70B и 8B теперь общедоступны в регионе AWS Запад США (Орегон). Для получения дополнительных сведений ознакомьтесь с презентацией новостного блога AWS и посетите страницу Meta Llama в Amazon Bedrock. Чтобы начать работу, обратитесь к документации по Базам знаний для Amazon Bedrock и разделу консоль Amazon Bedrock.