FAQ Amazon Bedrock

Les agents Amazon Bedrock sont des capacités entièrement gérées qui permettent aux développeurs de créer plus facilement des applications basées sur l’IA générative pouvant accomplir des tâches complexes pour un large éventail de cas d’utilisation et fournir des réponses actualisées basées sur des sources de connaissances propriétaires. En quelques étapes, les agents Amazon Bedrock décomposent automatiquement les tâches et créent un plan d’orchestration, sans aucun codage manuel. L'agent se connecte de manière sécurisée aux données de l'entreprise via une API, convertit automatiquement les données dans un format lisible par machine et complète la demande avec des informations pertinentes pour générer la réponse la plus précise possible. Les agents peuvent ensuite appeler automatiquement des API pour répondre à la demande d'un utilisateur. Par exemple, une entreprise de fabrication pourrait vouloir développer une application d’IA générative qui automatise le suivi des niveaux d’inventaire, des données de vente, des informations sur la chaîne d’approvisionnement et qui peut recommander des points de commande et des quantités optimales pour maximiser l’efficacité. En tant que capacités entièrement gérées, les agents Amazon Bedrock suppriment la gestion indifférenciée de l’intégration des systèmes et du provisionnement de l’infrastructure, permettant ainsi aux développeurs d’utiliser l’IA générative dans l’ensemble de leur organisation.

Vous pouvez connecter en toute sécurité les FM aux sources de données de votre entreprise à l’aide d’agents Amazon Bedrock. Avec une base de connaissances, vous pouvez utiliser des agents pour permettre aux FM dans Amazon Bedrock d'accéder à des données supplémentaires qui aident le modèle à générer des réponses plus pertinentes, spécifiques au contexte et précises sans pour autant reformer continuellement le FM. Sur la base des entrées de l'utilisateur, les agents identifient la base de connaissances appropriée, récupèrent les informations pertinentes et ajoutent les informations à l'invite d'entrée, fournissant ainsi au modèle davantage d'informations contextuelles pour générer un achèvement.

Les agents Amazon Bedrock peuvent vous aider à augmenter votre productivité, à améliorer l’expérience de votre service client et à automatiser les flux de travail (tels que le traitement des déclarations de sinistre).

Grâce aux agents, les développeurs bénéficient d’une prise en charge transparente de la surveillance, du chiffrement, des autorisations utilisateur, de la gestion des versions et de la gestion des invocations d’API sans avoir à écrire de code personnalisé. Les agents Amazon Bedrock automatisent l’ingénierie de requêtes et l’orchestration des tâches demandées par les utilisateurs. Les développeurs peuvent utiliser le modèle de requête créé par l’agent comme base de référence pour l’affiner davantage afin d’améliorer l’expérience utilisateur. Ils peuvent mettre à jour les entrées utilisateur, le plan d'orchestration et la réponse FM. Grâce à l'accès au modèle de requête, les développeurs ont un meilleur contrôle sur l'orchestration de l'agent.

Avec des agents entièrement gérés, vous n'avez pas à vous soucier du provisionnement ou de la gestion de l'infrastructure et vous pouvez mettre les applications en production plus rapidement.

Tout contenu client traité par Amazon Bedrock est chiffré et stocké au repos dans la Région AWS où vous utilisez le service.

Non. Les entrées des utilisateurs et les sorties des modèles ne sont pas partagées avec d'autres fournisseurs de modèles.

Amazon Bedrock propose plusieurs capacités pour répondre aux exigences de sécurité et de confidentialité. Amazon Bedrock respecte les normes de conformité courantes telles que Fedramp Moderate, le contrôle des services et des organisations (SOC), l’Organisation internationale de normalisation (ISO), l’éligibilité à la loi HIPAA (Health Insurance Portability and Accountability Act), et les clients peuvent utiliser Bedrock conformément au règlement général sur la protection des données (RGPD). Amazon Bedrock est inclus dans le champ d'application des rapports SOC 1, 2 et 3, ce qui donne aux clients plus d'informations sur nos contrôles de sécurité. Nous démontrons notre conformité par le biais d'audits tiers approfondis de nos contrôles AWS. Amazon Bedrock est l'un des services AWS conformes aux normes ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 et ISO 20000. Amazon Bedrock est certifié CSA Security Trust Assurance and Risk (STAR) de niveau 2, ce qui valide l'utilisation des bonnes pratiques et le niveau de sécurité des offres cloud AWS. Avec Amazon Bedrock, votre contenu n'est pas utilisé pour améliorer les modèles de base et n'est pas partagé avec d'autres fournisseurs de modèles. Vous pouvez utiliser AWS PrivateLink pour établir une connectivité privée entre Amazon VPC et Amazon Bedrock, sans avoir à exposer vos données au trafic Internet.

Non, AWS et les fournisseurs de modèles tiers n’utiliseront aucune entrée ou sortie d’Amazon Bedrock pour entraîner Amazon Nova, Amazon Titan ou tout autre modèle tiers.

Amazon Bedrock prend en charge les SDK pour les services d'exécution.Les SDK iOS et Android, ainsi que Java, JS, Python, CLI, .Net, Ruby, PHP, Go et C++, prennent en charge à la fois la saisie de texte et la saisie vocale.

Le streaming est pris en charge sur tous les SDK.

Veuillez consulter la page de tarification d’Amazon Bedrock pour obtenir des informations sur les tarifs actuellement en vigueur.

En fonction de votre contrat AWS Support, Amazon Bedrock est pris en charge dans le cadre des forfaits Developer Support, Business Support et Enterprise Support.

Vous pouvez utiliser les métriques CloudWatch pour suivre les jetons d'entrée et de sortie.

Les clients recevront une facture AWS Marketplace pour certains modèles Bedrock sans serveur et certains modèles Bedrock Marketplace. En effet, ces modèles sont vendus par des fournisseurs tiers en tant que « contenu tiers », comme décrit dans la section 50.12 des Conditions d’utilisation AWS.

Nous avons lancé une pré-formation continue pour les modèles Amazon Titan Text Express et Amazon Titan sur Amazon Bedrock. La pré-formation continue vous permet de poursuivre la pré-formation sur un modèle de base Amazon Titan en utilisant de grandes quantités de données non étiquetées. Ce type de formation adaptera le modèle depuis un corpus de domaine général vers un corpus de domaine plus spécifique tel que la médecine, le droit, la finance, etc. tout en préservant la plupart des capacités du modèle de base Amazon Titan. 

En général, les entreprises peuvent souhaiter créer des modèles pour les tâches dans un domaine spécifique. Les modèles de base peuvent ne pas être entraînés sur le jargon technique utilisé dans ce domaine spécifique. Ainsi, l'ajustement direct du modèle de base nécessitera de grandes quantités d’enregistrements de formation étiquetés et une longue durée de formation pour obtenir des résultats précis. Pour alléger cette charge, le client peut fournir à la place de grandes quantités de données non étiquetées pour une tâche de pré-formation continue. Ce travail adaptera le modèle de base d'Amazon Titan au nouveau domaine. Le client peut ensuite ajuster le modèle personnalisé nouvellement pré-formé aux tâches en aval en utilisant beaucoup moins d'enregistrements de formation étiquetés et avec une durée de formation plus courte. 

La pré-formation continue et le réglage fin d'Amazon Bedrock ont des exigences très similaires. C'est pourquoi nous avons choisi de créer des API unifiées qui prennent en charge à la fois la pré-formation continue et le réglage fin. L'unification des API réduit la courbe d'apprentissage et aidera les clients à utiliser des fonctionnalités standard telles qu’Amazon EventBridge pour suivre les tâches de longue durée, l'intégration d’Amazon S3 pour récupérer les données de formation, les balises de ressources et le chiffrement des modèles. 

La pré-formation continue vous permet d'adapter facilement les modèles Amazon Titan aux données spécifiques à votre domaine tout en préservant les fonctionnalités de base des modèles Amazon Titan. Pour créer une tâche de pré-formation continue, accédez à la console Amazon Bedrock et cliquez sur « Modèles personnalisés ». Vous accéderez à la page du modèle personnalisé qui comporte deux onglets : Modèles et Tâches d'entraînement. Les deux onglets proposent un menu déroulant « Personnaliser le modèle » sur la droite. Sélectionnez « Pré-formation continue » dans le menu déroulant pour accéder à « Créer une tâche de pré-formation continue ». Vous fournirez le modèle source, le nom, le chiffrement du modèle, les données d'entrée, les hyperparamètres et les données de sortie. En outre, vous pouvez fournir des balises ainsi que des détails sur les rôles AWS Identity and Access Management (IAM) et les politiques de ressources pour la tâche.

Exclusive à Amazon Bedrock, la famille de modèles Amazon Titan intègre les 25 années d'expérience d'Amazon en matière d'innovation avec l’IA et le machine learning dans l'ensemble de l’entreprise. Les FM Amazon Titan offrent aux clients un large éventail de choix de modèles d'image, multimodaux et de texte haute performance via une API entièrement gérée. Les modèles Amazon Titan sont créés par AWS et préentraînés sur de grands jeux de données, ce qui en fait des modèles puissants et polyvalents conçus pour prendre en charge divers cas d'utilisation, tout en favorisant l'utilisation responsable de l'IA. Utilisez-les tels quels ou personnalisez-les avec vos propres données. En savoir plus sur Amazon Titan.

Pour en savoir plus sur les données traitées pour développer et former les Amazon Titan FM, veuillez consulter la page Entraînement au modèle Amazon Titan et confidentialité.

Vous pouvez ingérer du contenu provenant de différentes sources, notamment le Web, Amazon Simple Storage Service (Amazon S3), Confluence (version préliminaire), Salesforce (version préliminaire) et SharePoint (version préliminaire). Vous pouvez également ingérer par programmation des données en streaming ou des données provenant de sources non prises en charge. Vous pouvez également vous connecter à vos sources de données structurées telles que l’entrepôt de données Redshift et le Catalogue de données AWS Glue.

Amazon Bedrock Knowledge Bases fournit un langage naturel géré vers SQL pour convertir le langage naturel en requêtes SQL exploitables et récupérer des données, ce qui vous permet de créer des applications à partir des données provenant de ces sources.

Oui, la gestion du contexte des sessions est intégrée, ce qui permet à vos applications de gérer le contexte entre plusieurs interactions, ce qui est essentiel pour prendre en charge les conversations entre plusieurs personnes.

Oui, toutes les informations récupérées incluent des citations, améliorant ainsi la transparence et minimisant le risque d’hallucinations dans les réponses générées.

Amazon Bedrock Knowledge Bases prend en charge le traitement des données multimodales, ce qui permet aux développeurs de créer des applications d’IA générative qui analysent à la fois du texte et des données visuelles, notamment des images, des graphiques, des diagrammes et des tableaux. Les réponses de modèles peuvent tirer parti des informations provenant d’éléments visuels en plus du texte, et ainsi fournir des réponses plus précises et pertinentes du point de vue contextuel. En outre, l’attribution de la source des réponses inclut des éléments visuels, ce qui améliore la transparence et la confiance dans les réponses.

Amazon Bedrock Knowledge Bases peut traiter des documents visuellement riches au format PDF, qui peuvent contenir des images, des tableaux, des graphiques et des diagrammes. Pour les données contenant uniquement des images, Bedrock Knowledge Bases prend en charge les formats d’image standard tels que JPEG et PNG, permettant aux utilisateurs de récupérer des images pertinentes en fonction de requêtes textuelles.

Les clients disposent de trois options d’analyse pour Amazon Bedrock Knowledge Bases. Pour le traitement du texte uniquement, l’analyseur Bedrock intégré par défaut est disponible sans frais supplémentaires. Il est idéal pour les cas où le traitement des données multimodales n’est pas requis. Amazon Bedrock Data Automation (BDA) ou des modèles de base peuvent être utilisés pour analyser les données multimodales. Pour plus d’informations, consultez la documentation du produit. 

Amazon Bedrock Knowledge Bases gère diverses complexités du flux de travail, telles que la comparaison de contenus, la gestion des défaillances, le contrôle du débit et le chiffrement, ce qui garantit que vos données sont traitées et gérées en toute sécurité conformément aux rigoureuses normes de sécurité d’AWS.

L'évaluation de modèle sur Amazon Bedrock vous permet d'évaluer, de comparer et de sélectionner les FM les plus adaptés à votre cas d'utilisation en seulement quelques clics. Amazon Bedrock donne le choix entre évaluation automatique et évaluation humaine. Vous pouvez utiliser la première avec des paramètres prédéfinis tels que la précision, la robustesse et la toxicité. Vous pouvez utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, le style et l'alignement avec la voix de la marque. Pour l'évaluation humaine, vous pouvez faire appel à vos employés en interne ou à une équipe gérée par AWS en tant que réviseurs. L'évaluation de modèle sur Amazon Bedrock fournit des jeux de données intégrés mais vous pouvez également apporter vos propres jeux de données.

Vous pouvez évaluer diverses métriques prédéfinies telles que la précision, la robustesse et la toxicité à l'aide d'évaluations automatiques. Vous pouvez également utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, la pertinence, le style et l'alignement avec la voix de la marque.

Les évaluations automatiques vous permettent de réduire rapidement la liste des FM disponibles par rapport à des critères standard (tels que la précision, la toxicité et la robustesse). Les évaluations humaines sont souvent utilisées pour évaluer des critères plus nuancés ou subjectifs qui nécessitent un jugement humain et où les évaluations automatiques peuvent ne pas exister (tels que la voix de la marque, l'intention créative, la convivialité).

Vous pouvez évaluer rapidement les modèles Amazon Bedrock pour des indicateurs tels que la précision, la robustesse et la toxicité en tirant parti de jeux de données intégrés sélectionnés ou en apportant vos propres jeux de données de requêtes. Une fois que vos jeux de données de requêtes ont été envoyés aux modèles Amazon Bedrock à des fins d'inférence, les réponses des modèles sont notées à l'aide d'algorithmes d'évaluation pour chaque dimension. Le moteur de back-end regroupe les scores de réponse aux requêtes individuels en scores récapitulatifs et les présente sous forme de rapports visuels faciles à comprendre.

Amazon Bedrock vous permet de configurer des flux de travail de révision humaine en quelques clics et de demander à vos employés en interne ou à une équipe d'experts dirigée par AWS d'évaluer les modèles. Grâce à l'interface intuitive d'Amazon Bedrock, les utilisateurs peuvent examiner les réponses des modèles et donner leur avis en cliquant sur les pouces vers le haut ou vers le bas, en évaluant sur une échelle de 1 à 5, en choisissant la meilleure parmi plusieurs réponses ou en classant les requêtes. Par exemple, un membre de l'équipe peut voir comment deux modèles répondent à la même requête, puis être invité à sélectionner le modèle qui affiche les résultats les plus précis, pertinents ou stylistiques. Vous pouvez spécifier les critères d'évaluation qui vous intéressent en personnalisant les instructions et les boutons qui apparaîtront dans l'interface utilisateur d'évaluation de votre équipe. Vous pouvez également fournir des instructions détaillées avec des exemples et l'objectif général de l'évaluation du modèle, afin que les utilisateurs puissent aligner leur travail en conséquence. Cette méthode est utile pour évaluer des critères subjectifs qui nécessitent un jugement humain ou une expertise plus nuancée en la matière, et qui ne peuvent pas être facilement jugés par des évaluations automatiques.

Les barrières de protection Amazon Bedrock vous permettent de mettre en œuvre des mesures de protection pour vos applications d’IA générative en fonction de vos cas d’utilisation et de vos politiques d’IA responsable. Les clients peuvent créer plusieurs barrières de protection adaptées à différents cas d'utilisation et les appliquer à plusieurs modèles de fondation (FM), offrant ainsi une expérience utilisateur cohérente et standardisant les contrôles de sécurité dans vos applications d'IA générative.

Les barrières de protection vous aident à définir un ensemble de six politiques visant à protéger vos applications d’IA générative. Vous pouvez configurer les politiques suivantes dans les barrières de protection Amazon Bedrock :

• Filtres de contenu multimodaux  : configurez des seuils pour détecter et filtrer le contenu textuel et/ou image préjudiciable dans des catégories telles que la haine, les insultes, les agressions sexuelles, la violence, les comportements répréhensibles et les attaques rapides.

• Sujets refusés : définissez un ensemble de sujets indésirables dans le contexte de votre application. Le filtre aidera à les bloquer s'ils sont détectés dans les requêtes des utilisateurs ou dans les réponses des modèles.

• Filtres de mots : configurez des filtres pour aider à bloquer les mots, les phrases et les blasphèmes indésirables (correspondance exacte). Ces mots peuvent inclure des termes offensants, des noms de concurrents, etc.

• Filtres d'informations sensibles : configurez des filtres pour aider à bloquer ou à masquer les informations sensibles, telles que les données d’identification personnelle (PII) ou des expressions régulières personnalisées dans les entrées utilisateur et les réponses des modèles. Le blocage ou le masquage est effectué sur la base de la détection probabiliste d'informations sensibles dans des formats standard dans des entités telles que le numéro SSN, la date de naissance, l'adresse, etc. Cela permet également de configurer la détection des modèles basée sur les expressions régulières pour les identificateurs.

• Contrôles de l'ancrage contextuel : aident à détecter et à filtrer les hallucinations si les réponses ne sont pas fondées (par exemple, des informations factuelles inexactes ou nouvelles) dans les informations sources et ne sont pas pertinentes par rapport à la requête ou aux instructions de l’utilisateur.

• Vérification du raisonnement automatisé : aident à détecter les inexactitudes factuelles dans le contenu généré, à suggérer des corrections et à expliquer pourquoi les réponses sont exactes en les comparant à une représentation mathématique structurée des connaissances appelée politique de raisonnement automatisé.

Les barrières de protection Bedrock prennent en charge le contenu textuel et imagé pour permettre aux clients de créer des applications d'IA générative sécurisées à grande échelle.

Les barrières de protection d’Amazon Bedrock fonctionnent avec un large éventail de modèles, notamment des modèles de fondation pris en charge dans Amazon Bedrock, des modèles ajustés, ainsi que des modèles auto-hébergés en dehors d’Amazon Bedrock. Les entrées utilisateur et les sorties de modèles peuvent être évaluées indépendamment pour les modèles tiers et auto-hébergés à l’aide de l’API ApplyGuardRail. Amazon Bedrock Guardrails peut également être intégré à Amazon Bedrock Agents et à Amazon Bedrock Knowledge Bases afin de créer des applications d’IA générative sécurisées et conformes à vos politiques d’IA responsable.

Les barrières de protection Amazon Bedrock prennent actuellement en charge l'anglais, le français et l'espagnol en langage naturel. L'utilisation de n'importe quelle autre langue se traduira par des résultats inefficaces.

Il existe cinq politiques de garde-fous, chacune assortie de différentes protections standard

• Filtres de contenu : 6 catégories standard sont incluses (haine, insultes, sexualité, violence, inconduite [y compris activité criminelle] et attaque par invite [débridage et infiltration d’invite]). Il est également possible d’appliquer d’autres seuils personnalisés à chaque catégorie afin de déterminer l’intensité du filtrage : faible/moyen/élevé pour le contenu textuel et image.
• Sujet refusé : il s’agit de sujets personnalisés que le client peut définir à l’aide d’une simple description en langage naturel
• Filtre d’informations sensibles : il est fourni avec plus de 30 PII standard. Vous pouvez le personnaliser davantage en ajoutant les informations confidentielles du client qui sont sensibles.
• Filtres de mots : ils sont livrés avec un filtrage du langage grossier standard, mais il est possible de les personnaliser en y ajoutant d’autres mots.
• Les vérifications contextuelles peuvent être utilisées pour détecter les hallucinations pour les applications RAG, de synthèse et conversationnelles, où les informations sources peuvent être utilisées comme référence pour valider la réponse du modèle.

Il existe cinq politiques de garde-fous, chacune assortie de différentes protections standard

• Filtres de contenu : 6 catégories standard sont incluses (haine, insultes, sexualité, violence, inconduite [y compris activité criminelle] et attaque par invite [débridage et infiltration d’invite]). Il est également possible d’appliquer d’autres seuils personnalisés à chaque catégorie afin de déterminer l’intensité du filtrage : faible/moyen/élevé.
• Sujet refusé : il s’agit de sujets personnalisés que le client peut définir à l’aide d’une simple description en langage naturel
• Filtre d’informations sensibles : il est fourni avec plus de 30 PII standard. Vous pouvez le personnaliser davantage en ajoutant les informations confidentielles du client qui sont sensibles.
• Filtres de mots : ils sont livrés avec un filtrage du langage grossier standard, mais il est possible de les personnaliser en y ajoutant d’autres mots.
• Les vérifications contextuelles peuvent être utilisées pour détecter les hallucinations pour les applications RAG, de synthèse et conversationnelles, où les informations sources peuvent être utilisées comme référence pour valider la réponse du modèle.

Les barrières de protection Amazon Bedrock permettent d'établir des barrières de protection obligatoires pour chaque appel d'inférence à l'aide des fonctionnalités d'application basées sur la Politique IAM. Cliquez ici pour plus de détails. 

AWS offre une indemnité de propriété intellectuelle (PI) non plafonnée pour les réclamations relatives aux droits d’auteur liées à la production des services d’IA générative Amazon généralement disponibles : modèles Amazon et autres services répertoriés dans la section 50.10 des Conditions de service (les « Services d'IA générative indemnisés »). Cela signifie que les clients sont protégés contre les réclamations de tiers alléguant une violation du droit d'auteur par les résultats générés par les Services d'IA générative indemnisés en réponse à des entrées ou à d'autres données fournies par le client. Les clients doivent également utiliser les services de manière responsable, par exemple en ne saisissant pas de données illicites ou en désactivant les fonctionnalités de filtrage d'un Service.

L’utilisation des barrières de protection Amazon Bedrock entraîne un coût distinct. Il peut être appliqué à la fois à l’entrée et à la sortie. Les tarifs sont indiqués en bas de page ici.

Les barrières de protection Amazon Bedrock proposent des filtres d'informations sensibles qui fournissent 31 données d’informations personnelles, notamment des numéros de sécurité sociale et des numéros de téléphone. Cliquez ici pour la liste complète.

Le prix des barrières de protection Amazon Bedrock est calculé sur la base d'un modèle d'utilisation pour le contenu textuel et imagé. Consultez la page de tarification des barrières de protection pour plus de détails sur les prix.

Oui, les API de garde-fou Amazon Bedrock aident les clients à exécuter des tests automatisés. Le « générateur de cas de test » est peut-être quelque chose que vous souhaitez utiliser avant de déployer des garde-fous en production. Il n’existe pas encore de générateur de cas de test natif. Pour une surveillance continue du trafic de production, les garde-fous aident à fournir des journaux détaillés de toutes les violations pour chaque entrée et sortie, afin que les clients puissent surveiller de manière granulaire chaque entrée et sortie de leur application d’IA générative. Ces journaux peuvent être stockés dans CloudWatch ou S3 et peuvent être utilisés pour créer des tableaux de bord personnalisés en fonction des besoins des clients.

Grâce à une politique de raisonnement automatisé, les contrôles de raisonnement automatisé peuvent mettre en évidence à la fois des affirmations précises et des inexactitudes factuelles dans le contenu. Pour les déclarations exactes et inexactes, le contrôle de raisonnement automatisé fournit des explications logiques et vérifiables pour sa sortie. Le contrôle de raisonnement automatisé nécessite l’intervention préalable d’un expert du domaine pour créer une politique et ne prend en charge que le contenu qui définit des règles. D’autre part, les vérifications contextuelles de Bedrock Guardrails utilisent des techniques de machine learning pour garantir que le contenu généré suit de près les documents fournis en tant qu’entrée depuis une base de connaissances, sans nécessiter de travail préalable supplémentaire. Les contrôles de raisonnement automatisé et l’ancrage contextuel communiquent leurs commentaires dans la sortie de l’API Guardrails. Vous pouvez utiliser les commentaires pour mettre à jour le contenu généré.

Les formats d'image PNG et JPEG sont pris en charge par les barrières de protection Bedrock.

Amazon Bedrock Marketplace propose à ses clients plus de 100 modèles populaires, émergents ou spécialisés, en plus des FM sans serveur d’Amazon Bedrock, afin que les clients puissent facilement créer et optimiser leurs applications d’IA générative. Dans la console Amazon Bedrock, les clients pourront découvrir un large catalogue de FM proposés par différents fournisseurs. Vous pouvez ensuite déployer ces modèles sur des points de terminaison entièrement gérés, où vous pouvez choisir le nombre d’instances et les types d’instances que vous souhaitez. Une fois les modèles déployés, ils sont accessibles via l’API Invoke d’Amazon Bedrock. Pour les modèles texte-texte adaptés au chat, les clients peuvent utiliser notre nouvelle API Converse, une API unifiée qui résume les différences entre les FM et qui permet de basculer entre les modèles en un seul changement de paramètre. Le cas échéant, les modèles peuvent être utilisés avec Amazon Bedrock Playground, Agents, Knowledge Bases, Prompt Management, Prompt Flows, Guardrails et Model Evaluation.

Vous devriez utiliser Amazon Bedrock Marketplace pour bénéficier des modèles performants qui émergent rapidement alors que le secteur de l’IA générative continue d’innover. Vous pouvez rapidement accéder à des modèles populaires, émergents et spécialisés adaptés à vos besoins uniques et les déployer, ce qui peut accélérer les délais de mise sur le marché, améliorer la précision ou réduire le coût de vos flux de travail d’IA générative Vous pouvez accéder aux modèles via les API unifiées de Bedrock et, s’ils sont compatibles avec l’API Converse de Bedrock, les utiliser de manière native avec les outils Bedrock tels que Agents, Knowledge Bases et Guardrails. Vous pouvez facilement connecter Amazon Bedrock Marketplace aux modèles sans serveur d’Amazon Bedrock, le tout depuis un seul et même endroit.
 

Accédez simplement à la page du catalogue de modèles Amazon Bedrock dans la console Bedrock, où vous pouvez rechercher les listes de modèles Amazon Bedrock Marketplace ainsi que les modèles Amazon Bedrock sans serveur. Après avoir sélectionné le modèle Amazon Bedrock Marketplace que vous souhaitez utiliser, vous pouvez vous y abonner via la page détaillée du modèle, en acceptant le CLUF et le ou les prix fixés par le fournisseur. Une fois l’abonnement terminé, ce qui prend généralement quelques minutes, vous pouvez déployer le modèle sur un point de terminaison SageMaker entièrement géré en cliquant sur Déployer dans la page détaillée du modèle ou en utilisant des API. Au cours de l’étape de déploiement, vous pouvez sélectionner le nombre d’instances et les types d’instances souhaités en fonction de votre charge de travail. Une fois le terminal configuré, ce qui prend généralement 10 à 15 minutes, vous pouvez commencer à effectuer des appels d’inférence vers le point de terminaison et utiliser le modèle dans les outils avancés de Bedrock, à condition que le modèle soit compatible avec l’API Converse de Bedrock.

Les modèles dont les architectures sont prises en charge par l’importation de modèles personnalisés (Mistral, Mixtral, Flan et Llama2/3/3.1/3.2) peuvent être optimisés dans SageMaker et mis à disposition dans Amazon Bedrock via l’importation de modèles personnalisés. Les modèles qui ne sont pas pris en charge par l’importation de modèles personnalisés peuvent toujours être optimisés dans SageMaker. Cependant, la version optimisée de ces modèles ne peut pas être utilisée dans Amazon Bedrock.

Qu’est-ce que Bedrock Data Automation ? Amazon Bedrock Data Automation est une fonctionnalité de Bedrock alimentée par GenAI qui rationalise le développement d’applications d’IA générative et qui automatise les flux de travail impliquant des documents, des images, du son et des vidéos. En tirant parti de Bedrock Data Automation, les développeurs peuvent réduire le temps et les efforts de développement, ce qui facilite la création de solutions intelligentes de traitement des documents, d’analyse des médias et d’autres solutions d’automatisation multimodales centrées sur les données. Bedrock Data Automation offre une précision de pointe à moindre coût par rapport aux solutions alternatives, ainsi que des fonctionnalités telles que l’ancrage visuel avec des scores de confiance pour l’explicabilité et une atténuation intégrée des hallucinations. Cela garantit des informations fiables et précises à partir de sources de données multimodales non structurées. Les clients peuvent facilement personnaliser les résultats de Bedrock Data Automation pour générer des informations spécifiques dans des formats cohérents requis par leurs systèmes et applications. Les développeurs commencent à utiliser Bedrock Data Automation sur la console Amazon Bedrock, où ils peuvent configurer et personnaliser la sortie à l’aide de leurs exemples de données. Ils peuvent ensuite intégrer l’API d’inférence multimodale unifiée de Bedrock Data Automation dans leurs applications afin de traiter leur contenu non structuré à l’échelle de la production avec une précision et une cohérence élevées. Bedrock Data Automation est également intégré à Bedrock Knowledge Bases, ce qui permet aux développeurs de générer plus facilement des informations pertinentes à partir de leur contenu multimodal non structuré afin de fournir des réponses plus pertinentes pour la génération à enrichissement contextuel (RAG).

Bedrock Data Automation facilite la transformation des données d’entreprise non structurées en formats de sortie spécifiques aux applications qui peuvent être utilisés par les applications d’IA générative et les flux de travail ETL. Les clients n’ont plus besoin de consacrer du temps et des efforts à la gestion et à l’orchestration de plusieurs modèles, à la conception d’invites, à la mise en œuvre de garde-fous de sécurité ou à l’assemblage de sorties pour les aligner sur les exigences du système en aval. Bedrock Data Automation fournit un traitement hautement précis, cohérent et rentable des données non structurées. Bedrock Data Automation est conçu dans une optique d’IA responsable, en proposant aux clients des fonctionnalités clés telles que l’ancrage visuel et les scores de confiance, qui facilitent l’intégration de Bedrock Data Automation dans les flux de travail d’entreprise.

Les fonctionnalités de Bedrock Data Automation sont disponibles via une API entièrement gérée que les clients peuvent facilement intégrer à leurs applications. Les clients n’ont pas à se soucier de la mise à l’échelle des ressources de calcul sous-jacentes, de la sélection et de l’orchestration des modèles ou de la gestion des invites pour les FM.

Un plan est une fonctionnalité que les clients utilisent pour spécifier leurs exigences de sortie à l’aide d’un langage naturel ou d’un éditeur de schéma. Il comprend une liste des champs qu’ils souhaitent extraire, un format de données pour chaque champ et des instructions en langage naturel pour chaque champ. Par exemple, les développeurs peuvent saisir « Créer un plan pour les factures avec les champs suivants : taxe, date d’échéance, date de réception » ou « Confirmer que le total de la facture correspond à la somme des postes ». Ils font référence à des plans dans le cadre des appels d’API d’inférence afin que le système renvoie les informations dans le format décrit dans le plan.

Documents

Bedrock Data Automation prend en charge à la fois la sortie standard et la sortie personnalisée pour les documents.

• La sortie standard fournira l’extraction de texte à partir de documents et une sortie générative telle que le résumé du document et les légendes des tableaux/figures/diagrammes. La sortie est renvoyée dans l’ordre de lecture et peut éventuellement être groupée par élément de mise en page, qui inclura les en-têtes/pieds de page/titres/tableaux/figures/diagrammes. La sortie standard sera utilisée pour l’intégration de BDA à Bedrock Knowledge Bases.
• La sortie personnalisée s’appuie sur des plans, qui spécifient les exigences de sortie à l’aide du langage naturel ou d’un éditeur de schéma. Les plans incluent une liste de champs à extraire et un format de données pour chaque champ.

Bedrock Data Automation prend en charge les formats PDF, PNG, JPG, TIFF, un maximum de 1 500 pages et une taille de fichier maximale de 500 Mo par demande d’API. Par défaut, BDA prendra en charge 50 tâches simultanées et 10 transactions par seconde et par client.

Images

Bedrock Data Automation prend en charge à la fois la sortie standard et la sortie personnalisée pour les images.

• La sortie standard fournira un résumé, le contenu explicite détecté, le texte détecté, la détection de logo et la taxonomie des annonces : IAB pour les images. La sortie standard sera utilisée pour l’intégration de BDA à Bedrock Knowledge Bases.
• La sortie personnalisée s’appuie sur des plans, qui spécifient les exigences de sortie à l’aide du langage naturel ou d’un éditeur de schéma. Les plans incluent une liste de champs à extraire et un format de données pour chaque champ.

Bedrock Data Automation prend en charge les formats JPG, PNG, une résolution maximale de 4K et une taille de fichier maximale de 5 Mo par demande d’API. Par défaut, BDA prend en charge une simultanéité maximale de 20 images à 10 transactions par seconde (TPS) par client.

Vidéos

Bedrock Data Automation prend en charge les deux sorties standard pour les vidéos.

• La sortie standard fournira un résumé vidéo complet, une segmentation des chapitres, un résumé des chapitres, une transcription audio complète, l’identification du locuteur, le contenu explicite détecté, le texte détecté, la détection de logo et la taxonomie de l’IAB (Interactive Advertising Bureau) pour les vidéos. Le résumé vidéo complet est optimisé pour le contenu comportant un dialogue descriptif, tel que des aperçus de produits, des formations, des actualités et des documentaires.

Bedrock Data Automation prend en charge les formats MOV et MKV avec H.264, VP8 et VP9, une durée vidéo maximale de 4 heures et une taille de fichier maximale de 2 Go par demande d’API. Par défaut, BDA prend en charge une simultanéité maximale de 20 vidéos à 10 transactions par seconde (TPS) par client.

Audio

Bedrock Data Automation prend en charge les deux sorties standard pour l’audio.

• La sortie standard fournira un résumé, y compris un résumé des chapitres, une transcription complète et détectera la modération du contenu explicite des fichiers audio.

Bedrock Data Automation prend en charge les formats FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, une durée audio maximale de 4 heures et une taille de fichier maximale de 2 Go par demande d’API.

L’automatisation des données Amazon Bedrock est disponible pour tous dans les régions AWS USA Ouest (Oregon) et USA Est (Virginie du Nord).

L’automatisation des données Amazon Bedrock est actuellement disponible en anglais. Une prise en charge linguistique supplémentaire sera prochainement disponible en 2025.

Amazon Bedrock est accessible via la Console de gestion AWS, les API ou Amazon SageMaker Unified Studio. Dans Amazon SageMaker Unified Studio, les utilisateurs peuvent rapidement créer et itérer sur des applications d’IA générative à l’aide de modèles de fondations (FM) très performants. Grâce à une interface intuitive, vous pouvez expérimenter des modèles, collaborer sur des projets et obtenir un accès simplifié à divers outils et ressources Bedrock pour créer rapidement des applications d’IA générative.

Pour accéder aux fonctionnalités d’Amazon Bedrock dans Amazon SageMaker Unified Studio, les développeurs et leurs administrateurs doivent procéder comme suit :

1. Créez un domaine dans Amazon SageMaker Unified Studio.
2. Activez le profil de projet de développement d’applications d’IA générative.
3. Accédez à Amazon Bedrock via les sections Terrain de jeu de l’IA générative (Découvrir) et Développement d’applications d’IA générative (Créer), en utilisant les informations d’identification pour l’authentification unique (SSO) de votre entreprise dans Amazon SageMaker Unified Studio.

Amazon Bedrock est accessible via la Console de gestion AWS, les API ou Amazon SageMaker Unified Studio, mais ses fonctionnalités au sein de SageMaker Unified Studio s’appuient sur la version originale d’Amazon Bedrock Studio (qui n’est plus disponible) avec plusieurs améliorations clés. Accessible via Amazon SageMaker Unified Studio, la solution donne accès à des modèles d’IA avancés de grandes entreprises, à des outils permettant de créer et de tester des invites d’IA, et à une intégration fluide avec les bases de connaissances Amazon Bedrock, les barrières de protection Amazon Bedrock, Amazon Bedrock Flows et les agents Amazon Bedrock. Les équipes peuvent collaborer dans un espace de travail partagé pour créer des applications d’IA personnalisées et adaptées à leurs besoins.

Les nouvelles fonctionnalités incluent un hub de modèles permettant de comparer côte à côte des modèles d’IA, un terrain de jeu étendu prenant en charge les interactions par chat, image et vidéo, et une création améliorée de bases de connaissances grâce à l’indexation de site web. Il introduit la création d’agents pour les applications de chat plus complexes et simplifie le partage des applications d’IA et des invites au sein des organisations. Il permet également d’accéder au code de l’application sous-jacente et d’exporter des applications de chat sous forme de modèles CloudFormation. En gérant les détails de l’infrastructure AWS, il permet aux utilisateurs de différents niveaux de compétence de créer des applications d’IA plus efficacement, ce qui en fait un outil plus polyvalent et plus performant que son prédécesseur.

Amazon Bedrock IDE a changé de nom afin de mieux représenter les fonctionnalités de base d’Amazon Bedrock accessibles via l’environnement régi d’Amazon SageMaker Unified Studio.

Lorsqu’elles accèdent à l’interface d’Amazon Bedrock via Amazon SageMaker Unified Studio, les équipes bénéficient d’un environnement régi qui permet la collaboration. Les équipes peuvent créer des projets, inviter des collègues et créer des applications d’IA générative de manière collaborative. Elles peuvent recevoir des commentaires rapides sur leurs prototypes et partager les applications avec n’importe qui dans SageMaker Unified Studio ou avec des utilisateurs spécifiques du domaine. Des contrôles d’accès et des fonctionnalités de gouvernance robustes permettent uniquement aux membres autorisés d’accéder aux ressources du projet telles que les données ou les applications d’IA générative, et d’ainsi garantir la confidentialité et la conformité des données, pour favoriser une collaboration et un partage interfonctionnels sécurisés. En outre, les applications d’IA générative peuvent être partagées par un créateur avec des utilisateurs spécifiques du domaine SageMaker Unified Studio, ou avec des personnes spécifiques, ce qui permet de garantir des droits d’accès, des contrôles et une gouvernance appropriés pour ces ressources.

Amazon Bedrock est accessible via la Console de gestion AWS, les API ou Amazon SageMaker Unified Studio, mais cette intégration élimine les cloisons entre les données, les outils et les développeurs dans le processus de développement de l’IA générative. Les équipes bénéficient d’une expérience de développement unifiée en accédant à des environnements JupyterLab et à des outils d’analytique familiers, tout en intégrant de manière fluide les puissantes fonctionnalités d’IA générative d’Amazon Bedrock, le tout dans le même espace de travail.

L’environnement unifié permet une collaboration fluide entre les développeurs de différents niveaux de compétence tout au long du cycle de développement, de la préparation des données au développement de modèles et à la création d’applications d’IA générative. Les équipes peuvent accéder à des outils intégrés pour la création de bases de connaissances, la configuration de barrières de protection et le développement d’applications d’IA générative hautement performantes, le tout dans un cadre sécurisé et régi.

Dans Amazon SageMaker Unified Studio, les développeurs peuvent facilement passer d’un outil à l’autre en fonction de leurs besoins, en combinant des fonctionnalités d’analytique, de machine learning et d’IA générative dans un seul espace de travail. Cette approche consolidée réduit la complexité du développement et accélère le délai de rentabilisation des projets d’IA générative. En intégrant Amazon Bedrock à Amazon SageMaker Unified Studio, AWS réduit les obstacles à l’entrée pour le développement de l’IA générative tout en maintenant une sécurité et une gouvernance de niveau professionnel, permettant ainsi aux organisations d’innover plus rapidement et plus efficacement grâce à l’IA générative.

Les fonctionnalités d’Amazon Bedrock dans Amazon SageMaker Unified Studio sont idéales pour les équipes d’entreprise qui ont besoin d’un environnement régi pour créer et déployer en collaboration des applications d’IA générative. Grâce à Amazon SageMaker Unified Studio, les équipes peuvent accéder à ce qui suit :
 

• Le terrain de jeu d’IA générative de la section Découvrir permet aux équipes d’expérimenter des modèles de fondation (FM), de tester différents modèles et configurations, de comparer les résultats des modèles et de collaborer sur des invites et des applications. Cet environnement permet aux équipes d’évaluer et de comprendre facilement les capacités des différents modèles avant de les implémenter dans leurs applications.
   
• La section Développement d’applications d’IA générative de la section Créer fournit aux équipes les outils nécessaires pour créer des applications d’IA générative prêtes à être utilisées en production. Les équipes peuvent créer et gérer des bases de connaissances, mettre en œuvre des barrières de protection pour une IA responsable, développer des agents et des flux et collaborer en toute sécurité tout en maintenant des contrôles de gouvernance et de conformité. Cet environnement est particulièrement utile pour les organisations qui ont besoin d’une collaboration sécurisée et d’un accès fluide à la gamme complète de fonctionnalités d’Amazon Bedrock, tout en respectant les normes de sécurité et de conformité de l’entreprise.

Les fonctionnalités d’Amazon Bedrock sont désormais disponibles dans Amazon SageMaker Unified Studio, qui offre un environnement collaboratif régi qui permet aux développeurs de créer et de personnaliser rapidement des applications d’IA générative. Cette interface intuitive s’adresse aux développeurs de tous niveaux de compétence, offrant un accès transparent aux modèles de fondation (FM) hautes performances d’Amazon Bedrock et aux outils de personnalisation avancés pour le développement collaboratif d’applications d’IA générative personnalisées.

Dans Amazon SageMaker Unified Studio, Amazon Bedrock s’intègre parfaitement aux fonctionnalités d’analytique, de machine learning (ML) et d’IA générative d’Amazon SageMaker. Les entreprises peuvent passer plus rapidement du concept à la production en prototypant et en expérimentant des modèles de base dans Amazon Bedrock, puis en passant facilement aux blocs-notes ou aux éditeurs de code JupyterLab pour intégrer ces ressources dans des applications et des flux de travail plus larges. Cet espace de travail consolidé rationalise la complexité, permettant d’accélérer le prototypage, l’itération et le déploiement d’applications d’IA générative responsables et prêtes à la production qui répondent aux exigences commerciales spécifiques.

Amazon Bedrock dans SageMaker Unified Studio est soumis aux limites de compte et aux quotas définis pour la plateforme et les ressources Amazon Bedrock sous-jacentes, telles que les modèles de fondation (FM), les bases de connaissances, les agents, les flux et les barrières de protection.

L’accès à Amazon Bedrock via SageMaker Unified Studio est gratuit, et les utilisateurs ne paient que pour l’utilisation des ressources sous-jacentes requises par les applications d’IA générative qu’ils créent. Par exemple, les clients ne paieront que pour le modèle, le garde-fou et la base de connaissances associés qu’ils ont utilisés dans leur application d’IA générative. Pour en savoir plus, consultez la page Tarification Amazon Bedrock.

Amazon Bedrock intégré à SageMaker Unified Studio est lié par les mêmes SLA qu’Amazon Bedrock. Pour plus d’informations, consultez la page Accord de niveau de service Amazon Bedrock.

Pour faciliter l’intégration d’Amazon Bedrock dans SageMaker Unified Studio, vous trouverez une documentation détaillée dans le Guide de l’utilisateur. Si vous avez d’autres questions ou si vous avez besoin d’une assistance supplémentaire, n’hésitez pas à contacter l’équipe responsable de votre compte AWS.