Le Knowledge Base di Amazon Bedrock ora supportano Llama 3.1 405B, 70B e 8B
Le Knowledge Base di Amazon Bedrock collegano in modo sicuro i modelli di fondazione (FM) alle origini dati aziendali interne affinché la Retrieval Augmented Generation (RAG) fornisca risposte pertinenti, specifiche per contesto e accurate. La famiglia di modelli di fondazione Llama 3.1 di Meta (405B, 70B e 8B) è ora disponibile al pubblico sulle Knowledge Base.
Llama 3.1 è la nuova generazione di modelli all'avanguardia di Meta e supporta una lunghezza del contesto di 128.000 token (circa 96.000 parole o 192 pagine di materiale). I modelli di Llama 3.1 sono adatti per attività che richiedono ragionamenti complessi, output rapidi e RAG. Llama 3.1 è supportato tramite l'API RetrieveAndGenerate completamente gestita.
Le Knowledge Base di Amazon Bedrock sui modelli Llama 3.1 405B, 70B e 8B sono ora disponibili al pubblico nella regione AWS Stati Uniti occidentali (Oregon). Per saperne di più, leggi il lancio del blog di AWS news e visita la pagina Meta Llama in Amazon Bedrock. Per iniziare, consulta la documentazione di Knowledge Bases per Amazon Bedrock e accedi alla console di Amazon Bedrock.