IA generativa e machine learning
Perché utilizzare i grafi?
La generazione potenziata da recupero di grafi (GraphRAG) porta la RAG a un livello superiore sfruttando la potenza dell'analisi dei grafi e della ricerca vettoriale per migliorare l'accuratezza, la completezza e la spiegabilità delle risposte dell'IA. La GraphRAG ottiene questo risultato sfruttando le relazioni tra entità o elementi strutturali nei dati, come sezioni o titoli con blocchi di documenti, per fornire i dati più rilevanti come input per le applicazioni RAG. Può creare connessioni multi-hop tra entità o argomenti correlati e utilizzare questi fatti per arricchire una risposta generativa.
Funzionalità di Amazon Neptune
1. GraphRAG
Amazon offre opzioni completamente gestite e autogestite per la creazione e l'esecuzione di applicazioni GraphRAG.
- Completamente gestita: le knowledge base di Amazon Bedrock offrono una delle prime funzionalità GraphRAG completamente gestite al mondo. Gestisce automaticamente la creazione e la manutenzione di grafi ed embedding, consentendo ai clienti di fornire risposte più pertinenti agli utenti finali. Con questa funzionalità, eviti la necessità di disporre di competenze approfondite nei grafi, inclusa la creazione di strategie di chunking o complesse integrazioni RAG con LLM e archivi vettoriali.
- Autogestita: se desideri ospitare autonomamente o connetterti a origini dati personalizzate/prodotti di terze parti (modelli di fondazione, archivi vettoriali, archivi dati), hai due scelte.
- Kit di strumenti AWS GraphRAG Python: il nuovo kit di strumenti open source GraphRAG supporta modelli di fondazione e grafi aggiornati. Fornisce un framework per automatizzare la costruzione di un grafo a partire da dati non strutturati e per interrogarlo in risposta alle domande degli utenti.
- Framework open source: Neptune semplifica la creazione di applicazioni GraphRAG integrandosi con LangChain e LlamaIndex. Ciò semplifica la creazione di applicazioni con LLM come quelle disponibili in Amazon Bedrock. AWS supporta e contribuisce a entrambi questi popolari progetti open source.
2. Machine learning
- Neptune Machine Learning (ML): Neptune ML crea, addestra e applica automaticamente modelli di ML ai dati del grafo. Utilizza Deep Graph Library (DGL) per scegliere e addestrare automaticamente il modello di ML migliore per un dato carico di lavoro, così da poter fare previsioni basate su ML dei dati del grafo in poche ore anziché settimane.
- Generazione di query in linguaggio naturale per grafi: se non hai familiarità con linguaggi di query come Gremlin o Cypher, l'integrazione di Neptune con NeptuneOpenCypherQAChain ti consente di interrogare il tuo database a grafo Neptune utilizzando il linguaggio naturale. Ad esempio, puoi tradurre le domande in inglese in domande openCypher e restituire una risposta leggibile dall'uomo. Questa catena può essere utilizzata per rispondere a domande come “Quale aeroporto degli Stati Uniti ha le rotte in uscita più lunghe e più brevi?”.
Casi d'uso
GraphRAG può essere utilizzato per migliorare service desk IT e contact center. Ad esempio, GraphRAG può consentire ai team del Security Operations Center (SOC) di interpretare gli avvisi in modo più accurato per aiutare a proteggere i sistemi critici. Un chatbot di assistenza per i membri del settore sanitario può trovare velocemente informazioni rilevanti in grandi volumi di letteratura medica per rispondere a domande complesse su sintomi, terapie e risultati dei pazienti.
Le applicazioni GraphRAG possono offrire informazioni approfondite a team in funzioni aziendali come pianificazione finanziaria e contabilità (FP&A), marketing, ufficio legale, risorse umane, ecc. Ad esempio, i team legali delle aziende possono trovare in modo più efficace le informazioni in merito a normative fiscali, regolamenti e casi precedenti al fine di sviluppare strategie per i casi. I team di marketing possono creare profili customer 360 in base alle relazioni sociali e alla cronologia di acquisti dei potenziali clienti.
Le aziende di tutti i settori beneficiano di GraphRAG. Ad esempio, nel settore farmaceutico, i team di ricerca e sviluppo possono utilizzare GraphRAG per velocizzare la ricerca e la sperimentazione dei farmaci. Nel settore dei servizi bancari di investimento, la capacità di GraphRAG di mappare relazioni complesse e offrire una visione olistica delle dichiarazioni aziendali aiuta i team di due diligence a utilizzare RAG per scoprire approfondimenti, come diritti normativi e dinamiche concorrenziali, che non sarebbero immediatamente evidenti.
Nozioni di base
Esistono molti modi per iniziare, come i seguenti:
- Kit di strumenti GraphRAG di AWS
- Soluzioni di esempio GraphRAG
- Modelli di avvio rapido di Neptune ML con AWS CloudFormation
- Utilizzo del linguaggio naturale per semplificare le query su grafo con Amazon Neptune e LangChain (demo)
- Documentazione: Amazon Neptune ML per machine learning su grafi