Domande frequenti su Amazon Bedrock

Gli agenti di Amazon Bedrock sono funzionalità completamente gestite che semplificano la creazione di applicazioni di IA generativa in grado di completare attività per un'ampia gamma di casi d'uso e fornire risposte aggiornate basate su fonti di conoscenza proprietarie. In pochi passaggi, gli agenti di Amazon Bedrock suddividono automaticamente le attività e creano un piano di orchestrazione, senza alcuna codifica manuale. L'agente si connette in modo sicuro ai dati aziendali tramite un'API, convertendo automaticamente i dati in un formato leggibile dalla macchina e arricchendo la richiesta con informazioni pertinenti per generare la risposta più accurata. Gli agenti possono quindi chiamare automaticamente le API per soddisfare la richiesta di un utente. Ad esempio, un'azienda manifatturiera potrebbe voler sviluppare un'applicazione di IA generativa che automatizzi il monitoraggio dei livelli di inventario, dei dati di vendita, delle informazioni sulla catena di approvvigionamento e che possa consigliare punti e quantità di riordino ottimali per massimizzare l'efficienza. In quanto funzionalità completamente gestite, gli agenti di Amazon Bedrock rimuovono l'indifferenziato problema della gestione dell'integrazione dei sistemi e del provisioning dell'infrastruttura, consentendo agli sviluppatori di utilizzare appieno l'IA generativa in tutta l'organizzazione.

Puoi connettere in modo sicuro gli FM alle origini dati aziendali utilizzando gli agenti di Amazon Bedrock. Grazie alla knowledge base della tua azienda, puoi utilizzare gli agenti per fornire ai FM di Amazon Bedrock l'accesso ai dati che aiutano il modello a generare risposte più pertinenti, specifiche del contesto e accurate senza riqualificare continuamente l'FM. In base all'input dell'utente, gli agenti identificano la knowledge base appropriata, recuperano le informazioni pertinenti e aggiungono le informazioni al prompt di input, fornendo al modello ulteriori informazioni contestuali per generare un completamento.

Gli agenti di Amazon Bedrock possono aiutarti ad aumentare la produttività, migliorare l'esperienza del servizio clienti e automatizzare i flussi di lavoro (quali l'elaborazione dei reclami assicurativi).

Con gli agenti, gli sviluppatori hanno un supporto perfetto per il monitoraggio, la crittografia, le autorizzazioni utente, il controllo delle versioni e la gestione delle invocazioni API senza scrivere codice personalizzato. Gli agenti di Amazon Bedrock automatizzano la progettazione dei prompt e l'orchestrazione delle attività richieste dagli utenti. Gli sviluppatori possono utilizzare il modello di prompt creato dall'agente come base per perfezionarlo ulteriormente e ottenere un'esperienza utente migliorata. Possono aggiornare l'input dell'utente, il piano di orchestrazione e la risposta dell'FM. Con l'accesso al modello di prompt, gli sviluppatori hanno un migliore controllo sull'orchestrazione dell'agente.

Con gli agenti completamente gestiti, non devi preoccuparti del provisioning o della gestione dell'infrastruttura e puoi portare le applicazioni in produzione più rapidamente.

Qualsiasi contenuto del cliente elaborato da Amazon Bedrock viene crittografato e archiviato inattivo nella regione AWS in cui utilizzi Amazon Bedrock.

No. Gli input degli utenti e gli output del modello non sono condivisi con nessun fornitore di modelli.

Amazon Bedrock offre diverse funzionalità per supportare i requisiti di sicurezza e privacy. Amazon Bedrock è soggetto a standard di conformità comuni come l'idoneità al Fedramp Moderate, Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) e i clienti possono utilizzare Bedrock in conformità al Regolamento generale sulla protezione dei dati (GDPR). Amazon Bedrock è incluso nell'ambito dei report SOC 1, 2, 3, che consentono ai clienti di ottenere informazioni sui nostri controlli di sicurezza. Dimostriamo la conformità attraverso verifiche approfondite di terze parti dei nostri controlli AWS. Amazon Bedrock è uno dei servizi AWS conformi agli standard ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 e ISO 20000. Amazon Bedrock è certificato CSA Security Trust Assurance and Risk (STAR) di livello 2, che convalida l'uso delle migliori pratiche e il livello di sicurezza delle offerte cloud AWS. Con Amazon Bedrock, i tuoi contenuti non vengono utilizzati per migliorare i modelli di base e non vengono condivisi con nessun fornitore di modelli. Puoi utilizzare AWS PrivateLink per stabilire una connettività privata dal tuo VPC Amazon ad Amazon Bedrock, senza dover esporre i tuoi dati al traffico Internet.

No, AWS e i fornitori di modelli di terze parti non utilizzeranno alcun input o output di Amazon Bedrock per addestrare Amazon Nova, Amazon Titan o altri modelli di terze parti.

Amazon Bedrock supporta gli SDK per i servizi di runtime. Gli SDK iOS e Android, oltre a quelli Java, JS, Python, CLI, .Net, Ruby, PHP, Go e C++, supportano sia l'input di testo che quello vocale.

Lo streaming è supportato per tutti gli SDK.

Consulta la pagina dei prezzi di Amazon Bedrock per informazioni aggiornate sui prezzi.

A seconda del contratto di Supporto AWS scelto, per Amazon Bedrock sono disponibili i piani di supporto Developer, Business ed Enterprise.

Puoi utilizzare i parametri di CloudWatch per tracciare i token di input e output.

I clienti riceveranno una fattura di AWS Marketplace per determinati modelli Bedrock serverless e Bedrock Marketplace. Questo perché questi modelli sono venduti da fornitori terzi come "Contenuti di terze parti", come descritto nella sezione 50.12 dei Termini di servizio di AWS.

Abbiamo avviato il pre-addestramento continuo per i modelli Amazon Titan Text Express e Amazon Titan su Amazon Bedrock. Il pre-addestramento continuo consente di continuare il pre-addestramento su un modello base di Amazon Titan utilizzando grandi quantità di dati non etichettati. Questo tipo di addestramento adatterà il modello da un corpus di dominio generale a un corpus di dominio più specifico come medico, legale, finanziario e così via pur preservando la maggior parte delle funzionalità del modello base Amazon Titan. 

Le aziende potrebbero voler creare modelli per attività in un dominio specifico. I modelli base potrebbero non essere addestrati sul gergo tecnico utilizzato in quel dominio specifico. Pertanto, la messa a punto diretta del modello base richiede grandi quantità di record di addestramento etichettati e una formazione di lunga durata per ottenere risultati accurati. Per alleggerire questo onere, il cliente può invece fornire grandi quantità di dati non etichettati per un lavoro di pre-addestramento continuo. Questo lavoro adatterà il modello base Amazon Titan al nuovo dominio. Quindi il cliente può adattare il nuovo modello personalizzato pre-addestrato alle attività a valle utilizzando un numero significativamente inferiore di record di addestramento etichettati e con una durata di addestramento inferiore. 

Pre-addestramento continuo e Messa a punto di Amazon Bedrock hanno requisiti molto simili. Per questo motivo, stiamo scegliendo di creare API unificate che supportino sia il pre-addestramento continuo che la messa a punto. L'unificazione delle API riduce la curva di apprendimento e aiuterà i clienti a utilizzare funzionalità standard come Amazon EventBridge per tenere traccia dei lavori di lunga durata, l'integrazione Amazon S3 per il recupero dei dati di addestramento, i tag delle risorse e la crittografia dei modelli. 

La funzionalità pre-addestramento continuo consente di adattare i modelli Amazon Titan ai dati specifici del dominio, preservando al contempo le funzionalità di base dei modelli Amazon Titan. Per creare un lavoro di pre-addestramento continuo, accedi alla console di Amazon Bedrock e fai clic su “Modelli personalizzati”. Passerai alla pagina del modello personalizzato che contiene due schede: Modelli e Lavori di addestramento. Entrambe le schede forniscono un menu a discesa sulla destra chiamato “Personalizza modello”. Seleziona “Pre-addestramento continuo” dal menu a discesa per accedere a “Crea lavoro di pre-addestramento continuo”. Fornirai il modello di origine, il nome, la crittografia del modello, i dati di input, gli iperparametri e i dati di output. Inoltre, puoi fornire tag insieme a dettagli sui ruoli di AWS Identity and Access Management (IAM) e sulle policy delle risorse per il lavoro.

In esclusiva per Amazon Bedrock, la famiglia di modelli Amazon Titan incorpora i 25 anni di esperienza di Amazon nell'innovazione con l'intelligenza artificiale e il machine learning in tutta l'attività. I modelli di fondazione di Amazon Titan offrono ai clienti un'ampia gamma di modelli di immagini, multimodali e di testo ad alte prestazioni, tramite un'API completamente gestita. I modelli Amazon Titan sono creati da AWS e pre-addestrati su set di dati di grandi dimensioni, il che li rende modelli potenti e generici creati per supportare una varietà di casi d'uso, supportando al contempo l'uso responsabile dell'intelligenza artificiale. Usali così come sono o personalizzali privatamente con i tuoi dati. Scopri di più su Amazon Titan.

Per ulteriori informazioni sui dati elaborati per sviluppare e addestrare gli FM di Amazon Titan, visita la pagina Addestramento e privacy del modello Amazon Titan.

Puoi importare contenuti da varie origini, tra cui il web, Amazon Simple Storage Service (Amazon S3), Confluence (anteprima), Salesforce (anteprima) e SharePoint (anteprima). Puoi anche importare in modo programmatico dati in streaming o dati da origini non supportate. Puoi anche connetterti alle tue origini dati strutturate come il datawarehouse Redshift e il catalogo dati AWS Glue.

Le Knowledge Base di Amazon Bedrock forniscono un linguaggio naturale gestito in SQL per convertire il linguaggio naturale in query SQL utilizzabili e recuperare dati, consentendoti di creare applicazioni utilizzando i dati provenienti da queste origini.

Sì, la gestione del contesto delle sessioni è integrata e consente alle tue applicazioni di mantenere il contesto su più interazioni, essenziale per supportare conversazioni a più turni.

Sì, tutte le informazioni recuperate includono citazioni, il che migliora la trasparenza e riduce al minimo il rischio di allucinazioni nelle risposte generate.

Le Knowledge Base di Amazon Bedrock supportano l'elaborazione multimodale dei dati e consentono agli sviluppatori di creare applicazioni di IA generativa che analizzano sia dati testuali che visivi, tra cui immagini, grafici, diagrammi e tabelle. Le risposte dei modelli possono sfruttare le informazioni provenienti da elementi visivi oltre al testo, fornendo risposte più accurate e contestualmente pertinenti. Inoltre, l'attribuzione dell’origine per le risposte include elementi visivi, che migliorano la trasparenza e la fiducia nelle risposte.

Le Knowledge Base di Amazon Bedrock possono elaborare documenti visivamente ricchi in formato PDF che possono contenere immagini, tabelle, grafici e diagrammi. Per i dati di sola immagine, le Knowledge Base di Bedrock supportano formati di immagine standard come JPEG e PNG e abilitano le funzionalità di ricerca in cui gli utenti possono recuperare immagini pertinenti in base a query basate sul testo.

I clienti hanno tre opzioni di analisi per le Knowledge Base di Bedrock. Per l'elaborazione di solo testo, il parser predefinito integrato Bedrock è disponibile senza costi aggiuntivi, ideale per i casi in cui non è richiesta l'elaborazione multimodale dei dati. Amazon Bedrock Data Automation (BDA) o i modelli di base possono essere utilizzati per analizzare dati multimodali. Per ulteriori informazioni, consulta la documentazione del prodotto. 

La Knowledge Base di Amazon Bedrock gestisce varie complessità del flusso di lavoro, come il confronto dei contenuti, la gestione degli errori, il controllo del throughput e la crittografia, garantendo che i dati vengano elaborati e gestiti in modo sicuro in base ai rigorosi standard di sicurezza di AWS.

Valutazione di modelli su Amazon Bedrock ti consente di valutare, confrontare e selezionare il modello di fondazione migliore per il tuo caso d'uso in pochi passaggi. Amazon Bedrock offre una scelta tra valutazione automatica e valutazione umana. Puoi utilizzare la valutazione automatica con parametri predefiniti come precisione, robustezza e tossicità. Puoi utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, stile e allineamento alla voce del marchio. Per la valutazione umana, puoi affidarti ai tuoi dipendenti interni o a un team gestito da AWS come revisori. Valutazione di modelli su Amazon Bedrock fornisce set di dati curati integrati, in alternativa puoi fornire i tuoi set di dati.

Puoi valutare diversi parametri predefiniti come precisione, robustezza e tossicità utilizzando valutazioni automatiche. Puoi anche utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, pertinenza, stile e allineamento alla voce del marchio.

Le valutazioni automatiche consentono di restringere rapidamente l'elenco degli FM disponibili in base a criteri standard (come precisione, tossicità e robustezza). Le valutazioni umane vengono spesso utilizzate per valutare criteri più sfumati o soggettivi che richiedono il giudizio umano e laddove potrebbero non esistere valutazioni automatiche (come la voce del marchio, l'intento creativo, la cordialità).

Puoi valutare rapidamente i modelli Amazon Bedrock in base a parametri quali precisione, robustezza e tossicità usando set di dati integrati curati o fornendo i set di dati richiesti. Dopo che i set di dati richiesti sono stati inviati ai modelli Amazon Bedrock per l'inferenza, le risposte del modello vengono valutate con algoritmi di valutazione per ogni dimensione. Il motore di backend aggrega i singoli punteggi delle risposte alle richieste in punteggi riassuntivi e li presenta attraverso report visivi di facile comprensione.

Amazon Bedrock ti consente di configurare flussi di lavoro di revisione umana in pochi passaggi e coinvolgere i tuoi dipendenti interni o sfruttare un team di esperti gestito da AWS per valutare i modelli. Attraverso l'interfaccia intuitiva di Amazon Bedrock, gli esseri umani possono esaminare e fornire un feedback sulle risposte dei modelli facendo clic sul pollice in alto o in basso, valutando su una scala da 1 a 5, scegliendo la migliore tra più risposte o classificando le richieste. Ad esempio, a un membro del team può essere mostrato come due modelli rispondono alla stessa richiesta e quindi gli viene chiesto di selezionare il modello che mostra risultati più accurati, pertinenti o stilistici. Puoi specificare i criteri di valutazione che ti interessano, personalizzando le istruzioni e i pulsanti da visualizzare nell'interfaccia utente di valutazione del tuo team. Puoi anche fornire istruzioni dettagliate con esempi e l'obiettivo generale della valutazione del modello, in modo che gli utenti possano allineare il loro lavoro di conseguenza. Questo metodo è utile per valutare criteri soggettivi che richiedono un giudizio umano o competenze più approfondite in materia e che non possono essere facilmente giudicati mediante valutazioni automatiche.

Guardrail per Amazon Bedrock ti aiuta a implementare misure di protezione per le tue applicazioni di IA generativa in base ai casi d'uso e seguendo le policy di IA responsabile. Puoi creare più guardrail su misura per diversi casi d'uso e applicarli a più modelli di fondazione (FM), in modo da ottenere un'esperienza utente coerente e controlli di sicurezza e privacy standardizzati nelle tue applicazioni di IA generativa.

Guardrail consente di definire una serie di sei policy per contribuire a salvaguardare le applicazioni di IA generativa. In Guardrail per Amazon Bedrock è possibile configurare le seguenti policy:

• Filtri per contenuti multimodali: configura le soglie per rilevare e filtrare contenuti di testo e/o immagini dannosi in diverse categorie, tra cui odio, insulti, sesso, violenza, condotta sconveniente e attacchi di prompt.

• Argomenti negati: definisci una serie di argomenti indesiderati nel contesto della tua applicazione. Il filtro aiuterà a bloccarli se vengono rilevati nelle domande degli utenti o nelle risposte del modello.

• Filtri per parole: configura i filtri per bloccare parole, frasi e parolacce indesiderate (corrispondenza esatta). Tali parole possono includere termini offensivi, nomi di concorrenti, ecc.

• Filtri per informazioni sensibili: configura i filtri per aiutare a bloccare o mascherare le informazioni sensibili, come le informazioni di identificazione personale (PII) o le espressioni regolari personalizzate negli input degli utenti e nelle risposte del modello. Il blocco o il mascheramento vengono eseguiti in base al rilevamento probabilistico di informazioni sensibili in formati standard in entità come numero SSN, data di nascita, indirizzo, ecc. Ciò consente anche di configurare il rilevamento basato su espressioni regolari dei modelli per gli identificatori.

• Verifiche contestuali di base: rileva e filtra le allucinazioni se le risposte non sono adeguate (ad esempio, informazioni nuove o di fatto inesatte) rispetto alle informazioni di origine e non sono pertinenti alla domanda o alle istruzioni immesse dall'utente.

• Controlli del ragionamento automatico: aiutano a rilevare imprecisioni fattuali nei contenuti generati, suggeriscono correzioni e illustrano perché le risposte sono accurate confrontandole con una rappresentazione strutturata e matematica della conoscenza chiamata policy di ragionamento automatico.

Guardrail per Bedrock supporta contenuti di testo e immagini per consentire ai clienti di creare applicazioni di IA generativa sicure su larga scala.

Guardrail per Amazon Bedrock funziona con un'ampia gamma di modelli, inclusi FM supportati in Amazon Bedrock, modelli ottimizzati con fine-tuning e modelli con hosting autonomo esterni ad Amazon Bedrock. Gli input degli utenti e gli output dei modelli possono essere valutati in modo indipendente per modelli di terzi e con hosting autonomo utilizzando l'API ApplyGuardrail. I Guardrail di Amazon Bedrock possono anche essere integrati con gli agenti Amazon Bedrock e le Knowledge Base di Amazon Bedrock per creare applicazioni di IA generativa sicure in linea con le policy di IA responsabile della tua azienda.

Attualmente, Guardrail per Amazon Bedrock supporta l'inglese, il francese e lo spagnolo in linguaggio naturale. L'uso di qualsiasi altra lingua comporterà risultati inefficaci.

Esistono cinque policy di guardrail, ciascuna con diverse protezioni pronte all'uso

• Filtri di contenuto: sono disponibili 6 categorie predefinite (odio, insulti, sesso, violenza, cattiva condotta - inclusa attività criminale) e attacco immediato (violazione e iniezione immediata). Ogni categoria può avere soglie ulteriormente personalizzate in termini di aggressività del filtraggio: bassa/media/alta sia per il contenuto testuale che per quello di immagini.
• Argomento negato: si tratta di argomenti personalizzati che il cliente può definire utilizzando una semplice descrizione in linguaggio naturale
• Filtro per informazioni sensibili: include oltre 30 informazioni di identificazione personale pronte all'uso. Può essere ulteriormente personalizzato aggiungendo informazioni proprietarie sensibili del cliente.
• Filtri per parole: viene fornito con filtri per parolacce pronti all'uso e può essere ulteriormente personalizzato con parole personalizzate.
• Controlli di base contestuali: possono consentire di rilevare allucinazioni per applicazioni RAG, di riepilogo e di conversazione, in cui le informazioni di origine possono essere utilizzate come riferimento per convalidare la risposta del modello.

Esistono cinque policy di guardrail, ciascuna con diverse protezioni pronte all'uso

• Filtri di contenuto: sono disponibili 6 categorie predefinite (odio, insulti, sesso, violenza, cattiva condotta - inclusa attività criminale) e attacco immediato (violazione e iniezione immediata). Ogni categoria può avere soglie ulteriormente personalizzate in termini di aggressività del filtraggio: bassa/media/alta.
• Argomento negato: si tratta di argomenti personalizzati che il cliente può definire utilizzando una semplice descrizione in linguaggio naturale
• Filtro per informazioni sensibili: include oltre 30 informazioni di identificazione personale pronte all'uso. Può essere ulteriormente personalizzato aggiungendo informazioni proprietarie sensibili del cliente.
• Filtri per parole: viene fornito con filtri per parolacce pronti all'uso e può essere ulteriormente personalizzato con parole personalizzate.
• Controlli di base contestuali: possono consentire di rilevare allucinazioni per applicazioni RAG, di riepilogo e di conversazione, in cui le informazioni di origine possono essere utilizzate come riferimento per convalidare la risposta del modello.

Guardrail per Amazon Bedrock offre la possibilità di stabilire guardrail obbligatori per ogni chiamata di inferenza utilizzando le funzionalità di applicazione basate su policy IAM. Trovi ulteriori informazioni qui. 

AWS offre un indennizzo non limitato alla proprietà intellettuale (IP) per le richieste di copyright derivanti dall'output generativo dei seguenti servizi di IA generativa di Amazon disponibili a livello generale: modelli Amazon Titan e altri servizi elencati nella Sezione 50.10 dei Termini di servizio (i “servizi di IA generativa indennizzati”). Ciò significa che i clienti sono protetti da richieste di risarcimento da parte di terzi per violazione del copyright da parte dell'output generato dai servizi di IA generativa indennizzati in risposta a input o altri dati forniti dal cliente. I clienti devono inoltre utilizzare i servizi in modo responsabile, ad esempio non inserendo dati in violazione o disabilitando le funzionalità di filtro di un servizio.

C'è un costo separato per l'utilizzo di Guardrail di Amazon Bedrock. Può essere applicato sia per l'input che per l'output. I prezzi sono riportati in fondo alla pagina qui.

Guardrail per Amazon Bedrock offre filtri per informazioni sensibili relativi a 31 PII, tra cui numeri di previdenza sociale e numeri di telefono. Puoi consultare l'elenco completo qui.

Il prezzo di Guardrail per Amazon Bedrock si basa su un modello per uso per i contenuti sia di testo sia di immagini. Consulta la pagina dei prezzi di Guardrail per i dettagli sui prezzi.

Sì, le API Guardrail di Amazon Bedrock aiutano i clienti a eseguire test automatici. Il "test case builder" potrebbe essere qualcosa da utilizzare prima di implementare i guardrail in produzione. Non esiste ancora un "test case builder" nativo. Per il monitoraggio continuo del traffico di produzione, i guardrail forniscono log dettagliati di tutte le violazioni per ogni input e output, in modo che i clienti possano monitorare in modo granulare ogni input in entrata e in uscita dalla loro applicazione di IA generativa. Questi log possono essere archiviati in CloudWatch o S3 e possono essere utilizzati per creare dashboard personalizzate in base alle esigenze dei clienti.

Utilizzando una policy di ragionamento automatico, i controlli di ragionamento automatico possono evidenziare sia affermazioni accurate che inesattezze fattuali nei contenuti. Sia per le affermazioni accurate che per quelle inaccurate, il controllo del ragionamento automatico fornisce spiegazioni logiche e verificabili per il rispettivo output. Il controllo del ragionamento automatico richiede il coinvolgimento iniziale di un esperto del dominio per creare una policy e supporta solo i contenuti che definiscono le regole. D'altra parte, i controlli di base contestuali in Bedrock Guardrails utilizzano tecniche di machine learning per garantire che il contenuto generato segua da vicino i documenti forniti come input da una knowledge base, senza richiedere alcun lavoro iniziale aggiuntivo. Sia i controlli di ragionamento automatizzati che la base contestuale forniscono il loro feedback nell'output dell'API guardrail. Puoi utilizzare il feedback per aggiornare il contenuto generato.

Guardrail per Bedrock supporta i formati di immagine PNG e JPEG.

Amazon Bedrock Marketplace offre ai clienti più di 100 modelli popolari, emergenti o specializzati, oltre agli FM serverless di Amazon Bedrock, affinché i clienti possano creare e ottimizzare facilmente le proprie applicazioni di IA generativa. All'interno della console Amazon Bedrock, i clienti potranno scoprire un ampio catalogo di FM proposti da vari fornitori. Puoi quindi distribuire questi modelli su endpoint completamente gestiti, dove puoi scegliere il numero desiderato di istanze e tipi di istanze. Una volta distribuiti, i modelli sono accessibili tramite l'API Invoke di Amazon Bedrock. Per i modelli text-to-text ottimizzati per la chat, i clienti possono utilizzare la nostra nuova API Converse, un'API unificata che astrae le differenze di FM e consente il cambio di modello con un’unica modifica dei parametri. Ove pertinente, i modelli possono essere utilizzati con Playground, agenti, Knowledge Base, gestione dei prompt, flussi di prompt, guardrail e valutazione di modelli di Amazon Bedrock.

Utilizzare Amazon Bedrock Marketplace consente di beneficiare dei potenti modelli che stanno rapidamente emergendo man mano che il settore dell'IA generativa continua a innovare. Puoi accedere e implementare rapidamente modelli popolari, emergenti e specializzati su misura per le tue esigenze specifiche, che possono accelerare il time-to-market, migliorare la precisione o ridurre il costo dei flussi di lavoro dell’IA generativa. Puoi accedere ai modelli tramite le API unificate di Bedrock e, se sono compatibili con l'API Converse di Bedrock, utilizzarli in modo nativo con strumenti Bedrock come agenti, Knowledge Base e guardrail. Puoi connettere facilmente Amazon Bedrock Marketplace ai modelli serverless di Amazon Bedrock, il tutto da un unico punto.
 

È sufficiente accedere alla pagina del catalogo dei modelli Amazon Bedrock nella console Bedrock, dove puoi cercare gli elenchi di modelli dell'Amazon Bedrock Marketplace insieme ai modelli Amazon Bedrock serverless. Dopo aver selezionato il modello Amazon Bedrock Marketplace che desideri utilizzare, puoi abbonarti al modello tramite la pagina dei dettagli del modello, accettando l'EULA e i prezzi fissati dal fornitore. Una volta completata la procedura di abbonamento, che in genere richiede alcuni minuti, puoi implementare il modello su un endpoint SageMaker completamente gestito facendo clic su Implementa nella pagina dei dettagli del modello o utilizzando le API. Nella fase di implementazione, puoi selezionare il numero desiderato di istanze e tipi di istanze per soddisfare il tuo carico di lavoro. Una volta configurato l'endpoint, operazione che richiede in genere 10-15 minuti, puoi iniziare a effettuare chiamate di inferenza all'endpoint e utilizzare il modello negli strumenti avanzati di Bedrock, a condizione che il modello sia compatibile con l'API Converse di Bedrock.

I modelli con architetture supportate da Custom Model Import (Mistral, Mixtral, Flan e Llama2/3/3.1/3.2) possono essere ottimizzati in SageMaker e resi disponibili in Amazon Bedrock tramite Custom Model Import. I modelli che non sono supportati da Custom Model Import possono comunque essere ottimizzati in SageMaker. Tuttavia, la versione ottimizzata di questi modelli non può essere utilizzata in Amazon Bedrock.

Cos'è Bedrock Data Automation? Amazon Bedrock Data Automation è una funzionalità di Bedrock basata sull’IA generativa che semplifica lo sviluppo di applicazioni di IA generativa e automatizza i flussi di lavoro che riguardano documenti, immagini, audio e video. Sfruttando Bedrock Data Automation, gli sviluppatori possono ridurre i tempi e le attività di sviluppo, semplificando la creazione di elaborazione intelligente dei documenti, l'analisi multimediale e altre soluzioni di automazione multimodali incentrate sui dati. Bedrock Data Automation offre una precisione leader del settore a costi inferiori rispetto alle soluzioni alternative, insieme a funzionalità come la base visiva con punteggi di affidabilità per la spiegabilità e il contenimento delle allucinazioni integrato. Ciò garantisce informazioni affidabili e accurate da origini dati multimodali non strutturate. I clienti possono personalizzare facilmente l'output di Bedrock Data Automation per generare informazioni specifiche nei formati coerenti richiesti dai loro sistemi e delle loro applicazioni. Gli sviluppatori iniziano a usare Bedrock Data Automation sulla console Amazon Bedrock, dove possono configurare e personalizzare l'output utilizzando i loro dati di esempio. Possono quindi integrare l'API di inferenza multimodale unificata di Bedrock Data Automation nelle loro applicazioni per elaborare i loro contenuti non strutturati su scala di produzione con elevata precisione e uniformità. Bedrock Data Automation è inoltre integrato con le Knowledge Base di Bedrock, il che facilita agli sviluppatori generare informazioni significative dai loro contenuti multimodali non strutturati per fornire risposte più pertinenti per la generazione potenziata tramite recupero (RAG).

Bedrock Data Automation semplifica la trasformazione dei dati aziendali non strutturati in formati di output specifici per applicazione che possono essere utilizzati dalle applicazioni di IA generativa e dai flussi di lavoro ETL. I clienti non devono più dedicare tempo e fatica alla gestione e all'orchestrazione di più modelli, istruzioni di progettazione, implementazione di guardrail di sicurezza o unione degli output per allinearli ai requisiti di sistema a valle. Bedrock Data Automation offre un'elaborazione estremamente accurata, uniforme e conveniente dei dati non strutturati. Bedrock Data Automation è stato progettato pensando all'IA responsabile, fornendo ai clienti funzionalità chiave come fondamenti visivi e punteggi di fiducia che facilitano l'integrazione di Bedrock Data Automation nei flussi di lavoro aziendali.

Le funzionalità di Bedrock Data Automation sono disponibili tramite un'API completamente gestita che i clienti possono integrare facilmente nelle loro applicazioni. I clienti non devono preoccuparsi di ridimensionare le risorse di calcolo sottostanti, selezionare e orchestrare modelli o gestire prompt per i FM.

Un blueprint è una funzionalità che i clienti utilizzano per specificare i propri requisiti di output utilizzando il linguaggio naturale o un editor di schemi. Comprende un elenco di campi che desiderano estrarre, un formato di dati per ciascun campo e istruzioni in linguaggio naturale per ciascun campo. Ad esempio, gli sviluppatori possono digitare “Crea un blueprint per le fatture con i seguenti campi: imposta, data di scadenza, data di ricezione” o “Conferma che il totale della fattura corrisponda alla somma delle voci di riga”. Fanno riferimento ai blueprint nell’ambito delle chiamate API di inferenza, affinché il sistema restituisca le informazioni nel formato descritto nel blueprint.

Documenti

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per i documenti.

• L'output standard fornirà l'estrazione di testo dai documenti e l'output generativo come il riepilogo dei documenti e le didascalie per tabelle/figure/diagrammi. L'output viene restituito in ordine di lettura e può essere facoltativamente raggruppato per elemento di layout, ovvero intestazioni/piè di pagina/titoli/tabelle/figure/diagrammi. L'output standard verrà utilizzato per l'integrazione di BDA con le Knowledge Base di Bedrock.
• L'output personalizzato sfrutta i blueprint, che specificano i requisiti di output utilizzando il linguaggio naturale o un editor di schemi. I blueprint includono un elenco di campi da estrarre e un formato di dati per ogni campo.

Bedrock Data Automation supporta PDF, PNG, JPG, TIFF, un massimo di 1500 pagine e una dimensione massima del file di 500 MB per richiesta API. Per impostazione predefinita, BDA supporterà 50 processi simultanei e 10 transazioni al secondo per cliente.

Immagini

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per le immagini.

• L'output standard fornisce riepilogo, contenuto esplicito rilevato, testo rilevato, rilevamento di logo e tassonomia degli annunci (Interactive Advertising Bureau, IAB) per le immagini. L'output standard verrà utilizzato per l'integrazione di BDA con le Knowledge Base di Bedrock.
• L'output personalizzato sfrutta i blueprint, che specificano i requisiti di output utilizzando il linguaggio naturale o un editor di schemi. I blueprint includono un elenco di campi da estrarre e un formato di dati per ogni campo.

Bedrock Data Automation supporta JPG, PNG, una risoluzione massima di 4K e una dimensione massima del file di 5 MB per richiesta API. Per impostazione predefinita, BDA supporta una concorrenza massima di 20 immagini a 10 transazioni al secondo (TPS) per cliente.

Video

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per i video.

• L'output standard assicura un riepilogo completo del video, la segmentazione dei capitoli, un riepilogo dei capitoli, la trascrizione audio completa, l'identificazione dell'oratore, il contenuto esplicito rilevato, il testo rilevato, il rilevamento di logo e la tassonomia dell'Interactive Advertising Bureau (IAB) per i video. Il riepilogo video completo è ottimizzato per contenuti con dialoghi descrittivi come panoramiche di prodotti, corsi di formazione, notiziari e documentari.

Bedrock Data Automation supporta MOV e MKV con H.264, VP8, VP9, una durata video massima di 4 ore e una dimensione massima del file di 2 GB per richiesta API. Per impostazione predefinita, BDA supporta una concorrenza massima di 20 video con 10 transazioni al secondo (TPS) per cliente.

Audio

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per l’audio.

• Lo standard output fornirà un riepilogo, incluso il riepilogo dei capitoli, la trascrizione completa e rileverà la moderazione esplicita dei contenuti per i file audio.

Bedrock Data Automation supporta FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, una durata audio massima di 4 ore e una dimensione massima del file di 2 GB per richiesta API.

Amazon Bedrock Data Automation è generalmente disponibile nelle regioni AWS degli Stati Uniti occidentali (Oregon) e degli Stati Uniti orientali (Virginia settentrionale).

Amazon Bedrock Data Automation attualmente supporta l'inglese. Il supporto di lingue aggiuntive sarà disponibile nel corso del 2025.

È possibile accedere ad Amazon Bedrock tramite la Console di gestione AWS, le API o Amazon SageMaker Unified Studio. All'interno di Amazon SageMaker Unified Studio, gli utenti possono creare e iterare rapidamente applicazioni di IA generativa utilizzando modelli di fondazione (FM) ad alte prestazioni. L'interfaccia intuitiva permette di sperimentare con questi modelli, collaborare su progetti e semplificare l'accesso a vari strumenti e risorse Bedrock per creare rapidamente applicazioni di IA generativa.

Per accedere alle funzionalità di Amazon Bedrock nell'ambito di Amazon SageMaker Unified Studio, gli sviluppatori e i relativi amministratori dovranno attenersi ai seguire passaggi:

1. Crea un nuovo dominio in Amazon SageMaker Unified Studio.
2. Abilita il profilo del progetto di sviluppo dell'applicazione di IA generativa.
3. Accedi ad Amazon Bedrock tramite le sezioni Generative AI Playground (Discover) e Generative AI App Development (Build), utilizzando le credenziali Single Sign-On (SSO) dell'azienda all'interno di Amazon SageMaker Unified Studio.

Sebbene sia possibile accedere ad Amazon Bedrock tramite la Console di gestione AWS, le API o Amazon SageMaker Unified Studio, le sue funzionalità all'interno di SageMaker Unified Studio si ispirano all'originale Amazon Bedrock Studio (ora non più disponibile), ma includono vari miglioramenti importanti. Quando utilizzato attraverso Amazon SageMaker Unified Studio, consente l'accesso a modelli IA avanzati di aziende leader, fornisce strumenti per la creazione e il test di prompt IA, e si integra perfettamente con Knowledge Base per Amazon Bedrock, Guardrail per Amazon Bedrock, Amazon Bedrock Flows e Agent per Amazon Bedrock. I team possono collaborare in uno spazio di lavoro condiviso per creare applicazioni AI personalizzate su misura per le proprie esigenze.

Le nuove funzionalità includono un hub modello per il confronto affiancato dei modelli di AI, un Playground ampliato che supporta le interazioni di chat, immagini e video e una migliore creazione della Knowledge Base con web crawling. Esse introducono la creazione di agenti per applicazioni di chat più complesse e semplifica la condivisione di app e prompt di AI all'interno delle organizzazioni. Viene offerto anche l'accesso al codice dell'applicazione sottostante e la possibilità di esportare le app di chat come modelli CloudFormation. Gestendo i dettagli dell'infrastruttura AWS, consente agli utenti con vari livelli di competenza di creare applicazioni AI in modo più efficiente, che lo rendono uno strumento più versatile e potente rispetto al suo predecessore.

Amazon Bedrock IDE è stato rinominato per rappresentare meglio la capacità principale di Amazon Bedrock, accessibile attraverso l'ambiente governato di Amazon SageMaker Unified Studio.

Quando accedono all'interfaccia di Amazon Bedrock tramite Amazon SageMaker Unified Studio, i team beneficiano di un ambiente governato che semplifica la collaborazione. I team possono creare progetti, invitare colleghi e creare insieme in modo collaborativo applicazioni di IA generativa. Possono ricevere un rapido feedback sui loro prototipi e condividere le applicazioni con chiunque in SageMaker Unified Studio o con utenti specifici nel dominio. Solidi controlli di accesso e funzionalità di governance consentono unicamente ai membri autorizzati di accedere alle risorse del progetto come dati o applicazioni di IA generativa, supportando la privacy e la conformità dei dati e favorendo così la collaborazione e la condivisione interfunzionali sicure. Inoltre, le applicazioni di IA generativa possono essere condivise tra un costruttore e utenti specifici nel dominio SageMaker Unified Studio o con individui specifici, per poter usufruire di accesso, controlli e governance adeguati di tali risorse.

Sebbene sia possibile accedere ad Amazon Bedrock tramite la Console di gestione AWS, le API o Amazon SageMaker Unified Studio, questa integrazione elimina le barriere tra dati, strumenti e sviluppatori nel processo di sviluppo dell'IA generativa. I team possono accedere a un'esperienza di sviluppo unificata grazie agli ambienti e agli strumenti di analisi familiari di JupyterLab, integrando al contempo le potenti funzionalità di IA generativa di Amazon Bedrock, il tutto all'interno dello stesso spazio di lavoro.

L'ambiente unificato consente una collaborazione senza interruzioni tra sviluppatori con vari livelli di abilità per tutto il ciclo di vita dello sviluppo, dalla preparazione dei dati allo sviluppo di modelli fino alla creazione di applicazioni di IA generativa. I team possono accedere a strumenti integrati per la creazione di knowledge base, la configurazione di guardrail e lo sviluppo di applicazioni di IA generativa ad alte prestazioni, il tutto all'interno di un framework sicuro e governato.

All'interno di Amazon SageMaker Unified Studio, gli sviluppatori possono passare facilmente da uno strumento all'altro in base alle loro esigenze, combinando funzionalità di analisi, machine learning e IA generativa in un unico spazio di lavoro. Questo approccio consolidato riduce la complessità dello sviluppo e accelera il time-to-value per i progetti di IA generativa. Inserendo Amazon Bedrock in Amazon SageMaker Unified Studio, AWS abbassa le barriere all'ingresso per lo sviluppo di IA generativa, mantenendo sicurezza e governance di livello aziendale e consentendo in ultima analisi alle organizzazioni di innovare più velocemente ed efficacemente con l'IA generativa.

Le funzionalità di Amazon Bedrock in Amazon SageMaker Unified Studio sono ideali per i team aziendali che necessitano di un ambiente governato per la creazione e l'implementazione collaborativa di applicazioni di IA generativa. Attraverso Amazon SageMaker Unified Studio, i team hanno l'accesso a varie possibilità:
 

• Il Generative AI Playground nella sezione Discover, che permette ai team di sperimentare con modelli di fondazione (FM), testare diversi modelli e configurazioni, confrontare i risultati dei modelli e collaborare su prompt e applicazioni. Questo ambiente offre ai team un modo semplice per valutare e comprendere le funzionalità dei diversi modelli prima di implementarli nelle loro applicazioni.
   
• Lo sviluppo di applicazioni di IA generativa nella sezione Build, che fornisce ai team gli strumenti necessari per creare applicazioni di IA generativa pronte per la produzione. I team possono creare e gestire knowledge base, implementare guardrail per un'IA responsabile, sviluppare agenti e flussi, e collaborare in modo sicuro mantenendo i controlli di governance e conformità. Questo ambiente è particolarmente utile per le organizzazioni che richiedono una collaborazione sicura e un accesso ottimizzato alla gamma completa di funzionalità di Amazon Bedrock, pur mantenendo gli standard di sicurezza e conformità aziendali.

Le funzionalità di Amazon Bedrock sono ora generalmente disponibili all'interno di Amazon SageMaker Unified Studio, il quale offre un ambiente collaborativo governato dove sviluppatori possono creare e personalizzare rapidamente applicazioni di IA generativa. Questa interfaccia intuitiva si rivolge agli sviluppatori di tutti i livelli di competenza, fornendo un accesso senza interruzioni ai modelli di fondazione (FM) ad alte prestazioni di Amazon Bedrock e agli strumenti di personalizzazione avanzati per lo sviluppo collaborativo di applicazioni di IA generativa su misura.

All'interno di Amazon SageMaker Unified Studio, Amazon Bedrock si integra perfettamente con le funzionalità di analisi, machine learning (ML) e IA generativa di Amazon SageMaker. Le organizzazioni possono passare dall'idea alla produzione più velocemente creando dei prototipi e sperimentando modelli di fondazione in Amazon Bedrock, quindi passando facilmente ai notebook o agli editor di codice JupyterLab per integrare queste risorse in applicazioni e flussi di lavoro più ampi. Questo spazio di lavoro consolidato semplifica la complessità, consentendo la creazione di prototipi, l'iterazione e l'implementazione più rapide delle applicazioni di IA generativa pronte per la produzione e responsabili, in linea con i requisiti aziendali specifici.

Amazon Bedrock in SageMaker Unified Studio è vincolato dai limiti e dalle quote di account definiti per la piattaforma e le risorse Amazon Bedrock sottostanti, come modelli di fondazione (FM), Knowledge Base, agenti, flussi e guardrail.

L'accesso ad Amazon Bedrock tramite SageMaker Unified Studio non prevede costi aggiuntivi e gli utenti pagano solo in base all'utilizzo delle risorse sottostanti richieste dalle applicazioni di IA generativa che creano. Ad esempio, i clienti pagheranno solo in base al modello associato, Guardrail e la Knowledge Base che hanno utilizzato nella loro applicazione di IA generativa. Per ulteriori informazioni, consulta la pagina dei prezzi di Amazon Bedrock.

Amazon Bedrock nell’ambito di SageMaker Unified Studio è vincolato dagli stessi accordi sul livello di servizio di Amazon Bedrock. Per ulteriori informazioni, visita la pagina sull’accordo del livello di servizio di Amazon Bedrock.

Per facilitare un'esperienza di onboarding senza intoppi con Amazon Bedrock in SageMaker Unified Studio, puoi trovare la documentazione dettagliata nella Guida per l'utente. Se hai altre domande o ti serve maggiore assistenza, non esitare a contattare il tuo team di account AWS.