Domande frequenti su Amazon Bedrock

Gli agenti per Amazon Bedrock sono funzionalità completamente gestite che semplificano la creazione di applicazioni di IA generativa in grado di fornire risposte aggiornate basate su fonti di conoscenza proprietarie e completare attività per un'ampia gamma di casi d'uso. Con pochi clic, gli agenti di Amazon Bedrock suddividono automaticamente le attività e creano un piano di orchestrazione, senza alcuna codifica manuale. L'agente si connette in modo sicuro ai dati aziendali tramite un'API, convertendo automaticamente i dati in un formato leggibile dalla macchina e arricchendo la richiesta con informazioni pertinenti per generare la risposta più accurata. Gli agenti possono quindi chiamare automaticamente le API per soddisfare la richiesta di un utente. Ad esempio, un'azienda manifatturiera potrebbe voler sviluppare un'applicazione di intelligenza artificiale generativa che automatizzi il monitoraggio dei livelli di inventario, dei dati di vendita, delle informazioni sulla catena di approvvigionamento e possa consigliare punti e quantità di riordino ottimali per massimizzare l'efficienza. In quanto funzionalità completamente gestite, gli agenti di Amazon Bedrock rimuovono l'indifferenziato problema della gestione dell'integrazione dei sistemi e del provisioning dell'infrastruttura, consentendo agli sviluppatori di utilizzare appieno l'IA generativa in tutta l'organizzazione.

Puoi connettere in modo sicuro gli FM alle origini dati aziendali utilizzando gli agenti per Amazon Bedrock. Grazie alla knowledge base della tua azienda, puoi utilizzare gli agenti per fornire ai FM di Amazon Bedrock l'accesso ai dati che aiutano il modello a generare risposte più pertinenti, specifiche del contesto e accurate senza riqualificare continuamente l'FM. In base all'input dell'utente, gli agenti identificano la knowledge base appropriata, recuperano le informazioni pertinenti e aggiungono le informazioni al prompt di input, fornendo al modello ulteriori informazioni contestuali per generare un completamento.

Gli agenti per Amazon Bedrock possono aiutarti ad aumentare la produttività, migliorare l'esperienza del servizio clienti o automatizzare le attività DevOps.

Con gli agenti, gli sviluppatori hanno un supporto perfetto per il monitoraggio, la crittografia, le autorizzazioni degli utenti e la gestione delle chiamate delle API senza scrivere codice personalizzato. Gli agenti per Amazon Bedrock automatizzano la progettazione del prompt e l'orchestrazione delle attività richieste dagli utenti. Gli sviluppatori possono utilizzare il modello di prompt creato dall'agente come base per perfezionarlo ulteriormente per un'esperienza utente migliorata. Possono aggiornare l'input dell'utente, il piano di orchestrazione e la risposta dell'FM. Con l'accesso al modello di prompt, gli sviluppatori hanno un migliore controllo sull'orchestrazione dell'agente.

Con gli agenti completamente gestiti, non devi preoccuparti del provisioning o della gestione dell'infrastruttura e puoi portare le applicazioni in produzione più rapidamente.

Qualsiasi contenuto del cliente elaborato da Amazon Bedrock viene crittografato e archiviato inattivo nella regione AWS in cui utilizzi Amazon Bedrock.

No. Gli input degli utenti e gli output del modello non sono condivisi con nessun fornitore di modelli.

Amazon Bedrock offre diverse funzionalità per supportare i requisiti di sicurezza e privacy. Bedrock è in grado di soddisfare standard di conformità comuni come Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) e i clienti possono utilizzare Bedrock in conformità al Regolamento generale sulla protezione dei dati (GDPR). Amazon Bedrock è incluso nell'ambito dei report SOC 1, 2, 3, che consentono ai clienti di ottenere informazioni sui nostri controlli di sicurezza. Dimostriamo la conformità attraverso verifiche approfondite di terze parti dei nostri controlli AWS. Amazon Bedrock è uno dei servizi AWS conformi agli standard ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 e ISO 20000. Amazon Bedrock è certificato CSA Security Trust Assurance and Risk (STAR) di livello 2, che convalida l'uso delle migliori pratiche e il livello di sicurezza delle offerte cloud AWS. Con Amazon Bedrock, i tuoi contenuti non vengono utilizzati per migliorare i modelli di base e non vengono condivisi con nessun fornitore di modelli. Puoi utilizzare AWS PrivateLink per stabilire una connettività privata dal tuo cloud privato virtuale (VPC) Amazon ad Amazon Bedrock, senza dover esporre i tuoi dati al traffico Internet.

No, AWS e i fornitori di modelli di terze parti non utilizzeranno alcun input o output di Bedrock per addestrare Amazon Titan o altri modelli di terze parti.

Amazon Bedrock supporta gli SDK per i servizi di runtime. Gli SDK iOS e Android, oltre a quelli Java, JS, Python, CLI, .Net, Ruby, PHP, Go e CPP, supportano sia l'input di testo che quello vocale.

Lo streaming è supportato per tutti gli SDK.

Consulta la pagina dei prezzi di Amazon Bedrock per informazioni aggiornate.

A seconda del contratto di Supporto AWS scelto, per Amazon Bedrock sono disponibili i piani di supporto Developer, Business ed Enterprise.

Puoi utilizzare i parametri di CloudWatch per tracciare i token di input e output.

Abbiamo lanciato la funzionalità Pre-addestramento continuo per i modelli Titan Text Express e Titan su Amazon Bedrock; ciò ti consentirà di continuare il pre-addestramento su un modello base Titan utilizzando grandi quantità di dati non etichettati. Questo tipo di addestramento adatterà il modello da un corpus di dominio generale a un corpus di dominio più specifico come medico, legale, finanziario, ecc. pur preservando la maggior parte delle funzionalità del modello base Titan. 

In genere, le aziende potrebbero voler creare modelli per attività in un dominio specifico. I modelli base potrebbero non essere addestrati sul gergo tecnico utilizzato in quel dominio specifico. Pertanto, la messa a punto diretta del modello base richiederà grandi quantità di record di addestramento etichettati e una formazione di lunga durata per ottenere risultati accurati. Per alleggerire questo onere, il cliente può invece fornire grandi quantità di dati non etichettati per un lavoro di pre-addestramento continuo. Questo lavoro adatterà il modello base Titan al nuovo dominio. Quindi il cliente può adattare il nuovo modello personalizzato pre-addestrato alle attività a valle utilizzando un numero significativamente inferiore di record di addestramento etichettati e con una durata di formazione inferiore. 

Pre-addestramento continuo e Messa a punto (FT) hanno requisiti molto simili. Per questo motivo, stiamo scegliendo di creare API unificate che supportino sia CPT che FT. L'unificazione delle API riduce la curva di apprendimento e aiuterà i clienti a utilizzare funzionalità standard come CloudWatch Event Bridge per tenere traccia dei lavori di lunga durata, l'integrazione S3 per il recupero dei dati di addestramento, i tag delle risorse e la crittografia dei modelli. 

La funzionalità Pre-addestramento continuo consente di adattare facilmente i modelli Titan ai dati specifici del dominio, preservando al contempo le funzionalità di base dei modelli Titan. Per creare un lavoro di pre-addestramento continuo, accedi alla console di Bedrock e fai clic su "Modelli personalizzati". Passerai alla pagina del modello personalizzato che contiene due schede: Modelli e Lavori di addestramento. Entrambe le schede forniscono un menu a discesa sulla destra chiamato "Personalizza modello". Seleziona "Pre-addestramento continuo" dal menu a discesa Personalizza modello per accedere alla schermata "Crea un lavoro di pre-addestramento continuo". Fornirai il modello di origine, il nome, la crittografia del modello, i dati di input, gli iperparametri e i dati di output. Inoltre, puoi fornire tag insieme a dettagli sui ruoli IAM e sulle policy delle risorse per il lavoro.

In esclusiva per Amazon Bedrock, la famiglia di modelli Amazon Titan incorpora 25 anni di esperienza di Amazon nell'innovazione con l'intelligenza artificiale e il machine learning in tutta la sua attività. I modelli di fondazione (FM) Amazon Titan offrono ai clienti un'ampia gamma di modelli di immagini, multimodali e di testo ad alte prestazioni, tramite un'API completamente gestita. I modelli Amazon Titan sono creati da AWS e pre-addestrati su set di dati di grandi dimensioni, il che li rende modelli potenti e generici creati per supportare una varietà di casi d'uso, supportando al contempo l'uso responsabile dell'intelligenza artificiale. Usali così come sono o personalizzali privatamente con i tuoi dati.

Per ulteriori informazioni sui dati elaborati per sviluppare e addestrare gli FM di Amazon Titan, visita la pagina Amazon Titan Model Training & Privacy.

I formati di dati supportati includono i file .pdf, .txt, .md, .html, .doc e .docx, .csv, .xls e .xlsx. I file devono essere caricati su Amazon S3. Basta indicare la posizione dei dati in Amazon S3 e le Knowledge Base per Amazon Bedrock si occuperanno dell'intero flusso di lavoro di inserimento nel database vettoriale.

Le Knowledge Base per Amazon Bedrock offrono tre opzioni per suddividere il testo prima di convertirlo in incorporamenti. 

1.  Opzione predefinita: le Knowledge Base per Amazon Bedrock dividono automaticamente il documento in blocchi contenenti ciascuno 200 token, assicurando che una frase non venga interrotta a metà. Se un documento contiene meno di 200 token, non viene ulteriormente suddiviso. Viene mantenuta una sovrapposizione del 20% dei token tra due blocchi consecutivi.

2.  Suddivisione in blocchi a dimensione fissa: con questa opzione, puoi specificare il numero massimo di token per blocco e la percentuale di sovrapposizione tra i blocchi per consentire alle Knowledge Base per Amazon Bedrock di dividere automaticamente il documento in blocchi assicurando che una frase non venga interrotta a metà. 

3.  Crea un'opzione di incorporamento per documento: Amazon Bedrock crea un'opzione di incorporamento per documento. Questa opzione è adatta se hai preelaborato i tuoi documenti suddividendoli in file separati e non desideri che Bedrock li suddivida ulteriormente.
 

Al momento, le Knowledge Base per Amazon Bedrock utilizzano l'ultima versione del modello Titan Text Embeddings disponibile in Amazon Bedrock. Il modello Titan Text Embeddings supporta 8.000 token e oltre 25 lingue e crea incorporamenti di 1.536 dimensioni. 

Le Knowledge Base per Amazon Bedrock si occupano dell'intero flusso di lavoro di inserimento che consiste nella conversione dei documenti in incorporamenti (vettoriali) e nell'archiviazione degli incorporamenti in un database vettoriale specializzato. Le Knowledge Base per Amazon Bedrock supportano i database più diffusi per l'archiviazione vettoriale, incluso il motore vettoriale per Amazon OpenSearch Serverless, Pinecone, Redis Enterprise Cloud, Amazon Aurora (disponibile a breve) e MongoDB (disponibile a breve). Se non disponi di un database vettoriale esistente, Amazon Bedrock crea per te un archivio vettoriale per Amazon OpenSearch Serverless.

A seconda del caso d'uso, puoi utilizzare Amazon EventBridge per creare una sincronizzazione periodica o basata su eventi tra Amazon S3 e le Knowledge Base per Amazon Bedrock.

Valutazione di modelli su Amazon Bedrock ti consente di valutare, confrontare e selezionare il modello di fondazione migliore per il tuo caso d'uso in pochi clic. Amazon Bedrock offre una scelta tra valutazione automatica e valutazione umana. Puoi utilizzare la valutazione automatica con parametri predefiniti come precisione, robustezza e tossicità. Puoi utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, stile e allineamento alla voce del marchio. Per la valutazione umana, puoi affidarti ai tuoi dipendenti interni o a un team gestito da AWS come revisori. Valutazione di modelli fornisce set di dati curati integrati, in alternativa puoi fornire i tuoi set di dati.

Puoi valutare diversi parametri predefiniti come precisione, robustezza e tossicità utilizzando valutazioni automatiche. Puoi anche utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, pertinenza, stile e allineamento alla voce del marchio.

Le valutazioni automatiche consentono di restringere rapidamente l'elenco degli FM disponibili in base a criteri standard (come precisione, tossicità e robustezza). Le valutazioni umane vengono spesso utilizzate per valutare criteri più sfumati o soggettivi che richiedono il giudizio umano e laddove potrebbero non esistere valutazioni automatiche (come la voce del marchio, l'intento creativo, la cordialità).

Puoi valutare rapidamente i modelli Bedrock in base a parametri quali precisione, robustezza e tossicità sfruttando set di dati integrati curati o fornendo i set di dati richiesti. Dopo che i set di dati richiesti sono stati inviati ai modelli Amazon Bedrock per l'inferenza, le risposte del modello vengono valutate con algoritmi di valutazione per ogni dimensione. Il motore di backend aggrega i singoli punteggi delle risposte alle richieste in punteggi riassuntivi e li presenta attraverso report visivi di facile comprensione.

Amazon Bedrock ti consente di configurare flussi di lavoro di revisione umana con pochi clic e coinvolgere i tuoi dipendenti interni o sfruttare un team di esperti gestito da AWS per valutare i modelli. Attraverso l'interfaccia intuitiva di Amazon Bedrock, gli esseri umani possono esaminare e fornire un feedback sulle risposte dei modelli facendo clic sul pollice in alto o in basso, valutando su una scala da 1 a 5, scegliendo la migliore tra più risposte o classificando le richieste. Ad esempio, a un membro del team può essere mostrato come due modelli rispondono alla stessa richiesta e quindi gli viene chiesto di selezionare il modello che mostra risultati più accurati, pertinenti o stilistici. Puoi specificare i criteri di valutazione che ti interessano, semplicemente personalizzando le istruzioni e i pulsanti da visualizzare nell'interfaccia utente di valutazione del tuo team. Puoi anche fornire istruzioni dettagliate con esempi e l'obiettivo generale della valutazione del modello, in modo che possano allineare il loro lavoro di conseguenza. Questo metodo è utile per valutare criteri soggettivi che richiedono un giudizio umano o competenze più approfondite in materia e non possono essere facilmente giudicati mediante valutazioni automatiche.

Guardrail per Amazon Bedrock ti consente di implementare misure di protezione per le tue applicazioni di IA generativa in base ai casi d'uso e alle policy di IA responsabili. Guardrail consente di controllare l'interazione tra gli utenti e i modelli di fondazione (FM) filtrando i contenuti indesiderati e dannosi e presto eliminerà le informazioni di identificazione personale (PII), migliorando la sicurezza dei contenuti e la privacy nelle applicazioni di IA generativa. È possibile creare più guardrail con diverse configurazioni su misura per casi d'uso specifici. Inoltre, puoi monitorare e analizzare continuamente gli input degli utenti e le risposte degli FM che potrebbero violare le policy definite dal cliente nei guardrail.

Guardrail consente ai clienti di definire una serie di policy per contribuire a salvaguardare le applicazioni di IA generativa. In un guardrail è possibile configurare le seguenti policy.

• Argomenti negati: puoi definire una serie di argomenti indesiderati nel contesto della tua applicazione. Ad esempio, un assistente bancario online può essere progettato per astenersi dal fornire consulenza in materia di investimenti.
• Filtri dei contenuti: puoi configurare le soglie per filtrare i contenuti dannosi in base alle categorie di odio, insulti, sesso e violenza.
• Filtri delle parole (disponibile a breve): puoi definire una serie di parole da bloccare negli input degli utenti e nelle risposte generate dagli FM.
• Redazione delle informazioni di identificazione personale (PII) (disponibile a breve): puoi selezionare una serie di PII che possono essere redatte nelle risposte generate dagli FM. In base al caso d'uso, puoi anche bloccare l'input di un utente se contiene informazioni di identificazione personale.

I guardrail possono essere utilizzati con tutti i modelli linguistici di grandi dimensioni disponibili su Amazon Bedrock, inclusi FM Titan, Anthropic Claude, Meta Llama 2, AI21 Jurassic e Cohere Command. Possono essere utilizzati anche con FM ottimizzati e con agenti per Amazon Bedrock.

AWS offre un indennizzo non limitato alla proprietà intellettuale (IP) per le richieste di copyright derivanti dall'output generativo dei seguenti servizi di IA generativa di Amazon generalmente disponibili: modelli Amazon Titan, Amazon CodeWhisperer Professional e altri servizi elencati nella Sezione 50.10 dei Termini del servizio (i "servizi di IA generativa indennizzati"). Ciò significa che i clienti sono protetti da richieste di risarcimento da parte di terzi per violazione del copyright da parte dell'output generato dai servizi di IA generativa indennizzati in risposta a input o altri dati forniti dal cliente. I clienti devono inoltre utilizzare i servizi in modo responsabile, ad esempio non inserendo dati in violazione o disabilitando le funzionalità di filtro di un servizio.

Inoltre, la nostra indennità standard di proprietà intellettuale per l'uso dei servizi protegge i clienti da richieste di risarcimento da parte di terzi per violazione della proprietà intellettuale (comprese le richieste di risarcimento per il copyright) mediante i servizi e i dati utilizzati per la loro formazione.