FAQ Amazon Bedrock

Les agents pour Amazon Bedrock sont des capacités entièrement gérées qui permettent aux développeurs de créer plus facilement des applications basées sur l'IA générative qui peuvent accomplir des tâches complexes pour un large éventail de cas d'utilisation et fournir des réponses actualisées basées sur des sources de connaissances propriétaires. En quelques clics, les agents d'Amazon Bedrock décomposent automatiquement les tâches et créent un plan d'orchestration, sans aucun codage manuel. L'agent se connecte de manière sécurisée aux données de l'entreprise via une API, convertit automatiquement les données dans un format lisible par machine et complète la demande avec des informations pertinentes pour générer la réponse la plus précise possible. Les agents peuvent ensuite appeler automatiquement des API pour répondre à la demande d'un utilisateur. Par exemple, une entreprise de fabrication pourrait vouloir développer une application d'IA générative qui automatise le suivi des niveaux d'inventaire, des données de vente, des informations sur la chaîne d'approvisionnement et peut recommander des points de commande et des quantités optimales pour maximiser l'efficacité. En tant que capacités entièrement gérées, les agents d'Amazon Bedrock suppriment la gestion indifférenciée de l'intégration des systèmes et du provisionnement de l'infrastructure, permettant ainsi aux développeurs d'utiliser l'IA générative dans l'ensemble de leur organisation.

Vous pouvez connecter en toute sécurité les FM aux sources de données de votre entreprise à l'aide d'agents pour Amazon Bedrock. Avec une base de connaissances, vous pouvez utiliser des agents pour permettre aux FM dans Amazon Bedrock d'accéder à des données supplémentaires qui aident le modèle à générer des réponses plus pertinentes, spécifiques au contexte et précises sans pour autant reformer continuellement le FM. Sur la base des entrées de l'utilisateur, les agents identifient la base de connaissances appropriée, récupèrent les informations pertinentes et ajoutent les informations à l'invite d'entrée, fournissant ainsi au modèle davantage d'informations contextuelles pour générer un achèvement.

Les agents d'Amazon Bedrock peuvent vous aider à augmenter votre productivité, à améliorer l'expérience de votre service client ou à automatiser les tâches DevOps.

Grâce aux agents, les développeurs bénéficient d'une prise en charge transparente de la surveillance, du chiffrement, des autorisations utilisateur et de la gestion des invocations d'API sans avoir à écrire de code personnalisé. Les agents d'Amazon Bedrock automatisent l'ingénierie de requêtes et l'orchestration des tâches demandées par les utilisateurs. Les développeurs peuvent utiliser le modèle de requête créé par l'agent comme base de référence pour l'affiner davantage afin d'améliorer l'expérience utilisateur. Ils peuvent mettre à jour les entrées utilisateur, le plan d'orchestration et la réponse FM. Grâce à l'accès au modèle de requête, les développeurs ont un meilleur contrôle sur l'orchestration de l'agent.

Avec des agents entièrement gérés, vous n'avez pas à vous soucier du provisionnement ou de la gestion de l'infrastructure et vous pouvez mettre les applications en production plus rapidement.

Tout contenu client traité par Amazon Bedrock est chiffré et stocké au repos dans la Région AWS où vous utilisez le service.

Non. Les entrées des utilisateurs et les résultats des modèles ne sont pas partagés avec d'autres fournisseurs de modèles.

Amazon Bedrock propose plusieurs capacités pour répondre aux exigences de sécurité et de confidentialité. Bedrock respecte les normes de conformité courantes telles que Contrôle de l’organisation et des services (SOC), l'Organisation internationale de normalisation (ISO), la loi HIPAA (Health Insurance Portability and Accountability Act), et les clients peuvent utiliser Bedrock conformément au règlement général sur la protection des données (RGPD). Amazon Bedrock est inclus dans le champ d'application des rapports SOC 1, 2 et 3, ce qui donne aux clients plus d'informations sur nos contrôles de sécurité. Nous démontrons notre conformité par le biais d'audits tiers approfondis de nos contrôles AWS. Amazon Bedrock est l'un des services AWS conformes aux normes ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 et ISO 20000. Amazon Bedrock est certifié CSA Security Trust Assurance and Risk (STAR) de niveau 2, ce qui valide l'utilisation des bonnes pratiques et le niveau de sécurité des offres cloud AWS. Avec Amazon Bedrock, votre contenu n'est pas utilisé pour améliorer les modèles de base et n'est pas partagé avec d'autres fournisseurs de modèles. Vous pouvez utiliser AWS PrivateLink pour établir une connectivité privée entre votre cloud privé virtuel (VPC) Amazon et Amazon Bedrock, sans avoir à exposer vos données au trafic Internet.

Non, AWS et les fournisseurs de modèles tiers n'utiliseront aucune entrée ou sortie de Bedrock pour entraîner Amazon Titan ou des modèles tiers.

Amazon Bedrock prend en charge les kits SDK pour les services d'exécution. Les SDK iOS et Android, ainsi que Java, JS, Python, CLI, .Net, Ruby, PHP, Go et CPP prennent en charge la saisie de texte et la saisie vocale.

Le streaming est pris en charge sur tous les SDK.

Consultez la page de tarification d'Amazon Bedrock pour obtenir des informations sur les tarifs actuellement en vigueur.

En fonction de votre contrat AWS Support, vous bénéficiez d'un support pour Amazon Bedrock dans le cadre des programmes de support de niveau Développeur, Business ou Entreprise.

Vous pouvez utiliser les métriques CloudWatch pour suivre les jetons d'entrée et de sortie.

Nous avons lancé l'entraînement préalable continu pour les modèles Titan Text Express et Titan sur Amazon Bedrock. Cela vous permettra de poursuivre l'entraînement préalable sur un modèle de base Titan utilisant de grandes quantités de données non étiquetées. Ce type d'entraînement adaptera le modèle depuis un corpus de domaine général vers un corpus de domaines plus spécifiques tels que la médecine, le droit, la finance, etc. tout en préservant la plupart des capacités du modèle de base Titan. 

En général, les entreprises peuvent souhaiter créer des modèles pour les tâches dans un domaine spécifique. Les modèles de base peuvent ne pas être entraînés sur le jargon technique utilisé dans ce domaine spécifique. Ainsi, l'affinement direct du modèle de base nécessitera de grandes quantités de dossiers d'entraînement étiquetés et une longue durée d'entraînement pour obtenir des résultats précis. Pour alléger cette charge, le client peut plutôt fournir de grandes quantités de données non étiquetées pour un travail d'entraînement préalable continu. Ce travail permettra d'adapter le modèle de base de Titan au nouveau domaine. Le client peut ensuite ajuster le modèle personnalisé nouvellement préalablement entraîné aux tâches en aval en utilisant des dossiers de formation nettement moins étiquetés et en réduisant la durée d'entraînement. 

L'entraînement préalable continu et le réglage fin (FT) de Bedrock ont des exigences très similaires. C'est pourquoi nous avons choisi de créer des API unifiées qui prennent en charge à la fois CPT et FT. L'unification des API réduit la courbe d'apprentissage et aidera les clients à utiliser des fonctionnalités standard telles que CloudWatch Event Bridge pour suivre les tâches de longue durée, l'intégration S3 pour récupérer les données de formation, les balises de ressources et le chiffrement des modèles. 

L'entraînement préalable continu vous permet d'adapter facilement les modèles Titan aux données spécifiques à votre domaine tout en préservant les fonctionnalités de base des modèles Titan. Pour créer une tâche d'entraînement préalable continu, accédez à la console Bedrock et cliquez sur « Modèles personnalisés ». Vous accéderez à la page du modèle personnalisé qui comporte deux onglets : Modèles et Tâches d'entraînement. Les deux onglets fournissent un menu déroulant sur la droite intitulé « Personnaliser le modèle ». Sélectionnez « Entraînement préalable continu » dans la liste déroulante Personnaliser le modèle pour accéder à l'écran « Créer une tâche d'entraînement préalable continu ». Vous fournirez le modèle source, le nom, le chiffrement du modèle, les données d'entrée, les hyperparamètres et les données de sortie. En outre, vous pouvez fournir des balises ainsi que des détails sur les rôles IAM et les politiques en matière de ressources pour la tâche.

Exclusive à Amazon Bedrock, la famille de modèles Amazon Titan intègre les 25 années d'expérience d'Amazon en matière d'innovation en IA et machine learning dans l'ensemble de ses activités. Les modèles de fondation (FM) Amazon Titan offrent aux clients un large éventail de choix de modèles d'image, multimodaux et de texte très performants, via une API entièrement gérée. Les modèles Amazon Titan sont créés par AWS et préentraînés sur de grands jeux de données, ce qui en fait des modèles puissants et polyvalents conçus pour prendre en charge divers cas d'utilisation, tout en favorisant l'utilisation responsable de l'IA. Utilisez-les tels quels ou personnalisez-les avec vos propres données.

Pour en savoir plus sur les données traitées pour développer et entraîner les FM Amazon Titan, consultez la page Entraînement de modèle Amazon Titan et confidentialité.

Les formats de données pris en charge incluent les fichiers .pdf, .txt, .md, .html, .doc et .docx, .csv, .xls et .xlsx. Les fichiers doivent être chargés sur Amazon S3. Indiquez simplement l'emplacement de vos données dans Amazon S3 et Knowledge Bases for Amazon Bedrock se charge de l'intégralité du flux de travail d'ingestion dans votre base de données vectorielles.

Les bases de connaissances pour Amazon Bedrock proposent trois options pour découper le texte avant de le convertir en intégrations. 

1.  Option par défaut : les bases de connaissances pour Amazon Bedrock divisent automatiquement votre document en morceaux contenant chacun 200 jetons, garantissant ainsi qu'une phrase ne sera pas interrompue au milieu. Si un document contient moins de 200 jetons, il n'est plus divisé. Un chevauchement de 20 % des jetons est maintenu entre deux morceaux consécutifs.

2.  Découpage à taille fixe : dans cette option, vous pouvez spécifier le nombre maximum de jetons par morceau et le pourcentage de chevauchement entre les morceaux pour que les bases de connaissances pour Amazon Bedrock divisent automatiquement votre document en plusieurs morceaux, de manière à ce qu'aucune phrase ne soit interrompue au milieu. 

3.  Option de création d'une intégration par document : Amazon Bedrock crée une intégration par document. Cette option convient si vous avez prétraité vos documents en les divisant en fichiers distincts et que vous ne souhaitez pas que Bedrock découpe davantage vos documents.
 

À l'heure actuelle, les bases de connaissances pour Amazon Bedrock utilisent la dernière version du modèle Titan Text Embeddings disponible dans Amazon Bedrock. Le modèle Titan Text Embeddings prend en charge 8 000 jetons et plus de 25 langues, et crée des intégrations d'une taille de 1 536 dimensions. 

Les basses de connaissances pour Amazon Bedrock prennent en charge l'intégralité du flux de travail d'ingestion, à savoir la conversion de vos documents en intégrations (vecteur) et le stockage des intégrations dans une base de données vectorielles spécialisée. Les bases de connaissances pour Amazon Bedrock prennent en charge les bases de données populaires pour le stockage vectoriel, notamment le moteur vectoriel pour Amazon OpenSearch sans serveur, Pinecone, Redis Enterprise Cloud, Amazon Aurora (bientôt disponible) et MongoDB (bientôt disponible). Si vous ne possédez pas de base de données vectorielles existante, Amazon Bedrock crée pour vous un magasin vectoriel Amazon OpenSearch sans serveur.

Selon votre cas d'utilisation, vous pouvez utiliser Amazon EventBridge pour créer une synchronisation périodique ou pilotée par un événement entre Amazon S3 et les bases de connaissances pour Amazon Bedrock.

L'évaluation des modèles sur Amazon Bedrock vous permet d'évaluer, de comparer et de sélectionner les modèles de fondation les mieux adaptés à votre cas d'utilisation en quelques clics. Amazon Bedrock donne le choix entre évaluation automatique et évaluation humaine. Vous pouvez utiliser la première avec des paramètres prédéfinis tels que la précision, la robustesse et la toxicité. Vous pouvez utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, le style et l'alignement avec la voix de la marque. Pour l'évaluation humaine, vous pouvez faire appel à vos employés en interne ou à une équipe gérée par AWS en tant que réviseurs. Si l'évaluation des modèles fournit des jeux de données présélectionnés et intégrés, vous pouvez également apporter les vôtres.

Vous pouvez évaluer diverses métriques prédéfinies telles que la précision, la robustesse et la toxicité à l'aide d'évaluations automatiques. Vous pouvez également utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, la pertinence, le style et l'alignement avec la voix de la marque.

Les évaluations automatiques vous permettent de réduire rapidement la liste des FM disponibles par rapport à des critères standard (tels que la précision, la toxicité et la robustesse). Les évaluations humaines sont souvent utilisées pour évaluer des critères plus nuancés ou subjectifs qui nécessitent un jugement humain et où les évaluations automatiques peuvent ne pas exister (tels que la voix de la marque, l'intention créative, la convivialité).

Vous pouvez évaluer rapidement les modèles Bedrock pour des métriques telles que la précision, la robustesse et la toxicité en tirant parti de jeux de données intégrés sélectionnés ou en apportant vos propres jeux de données de requêtes. Une fois que vos jeux de données de requêtes ont été envoyés aux modèles Amazon Bedrock à des fins d'inférence, les réponses des modèles sont notées à l'aide d'algorithmes d'évaluation pour chaque dimension. Le moteur de back-end regroupe les scores de réponse aux requêtes individuels en scores récapitulatifs et les présente sous forme de rapports visuels faciles à comprendre.

Amazon Bedrock vous permet de configurer des flux de travail de révision humaine en quelques clics et de demander à vos employés en interne ou à une équipe d'experts dirigée par AWS d'évaluer les modèles. Grâce à l'interface intuitive d'Amazon Bedrock, les utilisateurs peuvent examiner les réponses des modèles et donner leur avis en cliquant sur les pouces vers le haut ou vers le bas, en évaluant sur une échelle de 1 à 5, en choisissant la meilleure parmi plusieurs réponses ou en classant les requêtes. Par exemple, un membre de l'équipe peut voir comment deux modèles répondent à la même requête, puis être invité à sélectionner le modèle qui affiche les résultats les plus précis, pertinents ou stylistiques. Vous pouvez spécifier les critères d'évaluation qui vous intéressent, simplement en personnalisant les instructions et les boutons qui apparaîtront dans l'interface utilisateur d'évaluation de votre équipe. Vous pouvez également fournir des instructions détaillées avec des exemples et l'objectif général de l'évaluation du modèle, afin qu'ils puissent aligner leur travail en conséquence. Cette méthode est utile pour évaluer des critères subjectifs qui nécessitent un jugement humain ou une expertise plus nuancée en la matière, et qui ne peuvent pas être facilement jugés par des évaluations automatiques.

Les barrières de protection pour Amazon Bedrock vous permettent de mettre en œuvre des mesures de protection pour vos applications d'IA générative en fonction de vos cas d'utilisation et de politiques d'IA responsable. Les barrières de protection aident à contrôler l'interaction entre les utilisateurs et modèles de fondation (FM) en filtrant les contenus indésirables et nuisibles, et supprimeront bientôt les données d'identification personnelle (PII), améliorant ainsi la sécurité et la confidentialité du contenu dans les applications d'IA générative. Vous pouvez créer plusieurs barrières de protection avec différentes configurations adaptées à des cas d'utilisation spécifiques. En outre, vous pouvez surveiller et analyser en permanence les entrées des utilisateurs et les réponses des FM susceptibles d'enfreindre les politiques définies par le client dans les barrières de protection.

Les barrières de protection permettent aux clients de définir un ensemble de politiques visant à protéger vos applications d'IA générative. Vous pouvez configurer les politiques suivantes dans une barrière de protection.

• Sujets refusés : vous pouvez définir un ensemble de sujets indésirables dans le contexte de votre application. Par exemple, un assistant bancaire en ligne peut être conçu pour s'abstenir de fournir des conseils d'investissement.
• Filtres sur le contenu : vous pouvez configurer des seuils pour filtrer les contenus nuisibles dans les catégories de haine, d'insultes, de sexualité et de violence.
• Filtres sur les mots (bientôt disponible) : vous pouvez définir un ensemble de mots à bloquer dans les entrées utilisateur et dans les réponses générées par FM.
• Rédaction de données d'identification personnelle (PII) (bientôt disponible) : vous pouvez sélectionner un ensemble de PII qui peuvent être supprimées dans les réponses générées par FM. Selon le cas d'utilisation, vous pouvez également bloquer une entrée utilisateur si elle contient une PII.

Les barrières de protection peuvent être utilisées avec tous les grands modèles de langage disponibles sur Amazon Bedrock, notamment les FM Titan, Claude d'Anthropic, Llama 2 de Meta, Jurassic d'AI21 et Command de Cohere. Elles peuvent également être utilisées avec des FM affinés ainsi qu'avec des agents pour Amazon Bedrock.

AWS offre une indemnité de propriété intellectuelle (PI) non plafonnée pour les réclamations relatives aux droits d'auteur liées à la production des services suivants d'IA générative Amazon généralement disponibles : modèles Amazon Titan, Amazon CodeWhisperer professionnel et autres services répertoriés dans la section 50.10 des Conditions de service (les « Services d'IA générative indemnisés »). Cela signifie que les clients sont protégés contre les réclamations de tiers alléguant une violation du droit d'auteur par les résultats générés par les Services d'IA générative indemnisés en réponse à des entrées ou à d'autres données fournies par le client. Les clients doivent également utiliser les Services de manière responsable, par exemple en ne saisissant pas de données en infraction ou en désactivant les fonctionnalités de filtrage d'un Service.

En outre, notre indemnisation standard en matière de propriété intellectuelle pour l'utilisation des Services protège les clients contre les réclamations de tiers alléguant une violation de la propriété intellectuelle (y compris les réclamations relatives aux droits d'auteur) par les Services et les données utilisées pour les entraîner.