Preguntas frecuentes sobre Amazon Bedrock

Los agentes para Amazon Bedrock son capacidades totalmente administradas que facilitan a los desarrolladores la creación de aplicaciones basadas en IA generativa que pueden completar tareas complejas para una amplia gama de casos de uso y ofrecer respuestas actualizadas basadas en orígenes de conocimiento propias. Con solo unos pocos clics, los agentes para Amazon Bedrock desglosan automáticamente las tareas y crean un plan de orquestación, sin necesidad de codificación manual. El agente se conecta de forma segura a los datos de la empresa a través de una API, convierte automáticamente los datos en un formato legible por máquina y aumenta la solicitud con información relevante para generar la respuesta más precisa. A continuación, los agentes llaman de manera automática a las API para cumplir con la solicitud de un usuario. Por ejemplo, una empresa de fabricación podría querer desarrollar una aplicación de IA generativa que automatice el seguimiento de los niveles de inventario, los datos de ventas y la información de la cadena de suministro y que pueda recomendar puntos de pedido y cantidades óptimas para maximizar la eficiencia. Al tratarse de capacidades totalmente administradas, los agentes para Amazon Bedrock eliminan la carga no diferenciada que supone administrar la integración de sistemas y el aprovisionamiento de infraestructuras, lo que permite a los desarrolladores aprovechar al máximo la IA generativa en toda su organización.

Puede conectar de forma segura los FM a los orígenes de datos de su empresa mediante Agentes para Amazon Bedrock. Con una base de conocimientos, puede utilizar agentes para dar a los modelos fundacionales (FM) de Amazon Bedrock acceso a datos que les ayuden a generar respuestas más relevantes, específicas del contexto y precisas sin tener que volver a entrenar continuamente el FM. En función de las entradas del usuario, los agentes identifican la base de conocimientos adecuada, recuperan la información relevante y la agregan a la solicitud de entrada, lo que proporciona al modelo más información contextual para generar una finalización.

Los agentes de Amazon Bedrock pueden ayudarlo a aumentar la productividad, mejorar la experiencia de servicio al cliente o automatizar las tareas de DevOps.

Gracias a los agentes, los desarrolladores tienen un soporte perfecto para la supervisión, el cifrado, los permisos de usuario y la administración de invocaciones de API sin necesidad de escribir código personalizado. Los agentes de Amazon Bedrock automatizan la ingeniería de peticiones y la orquestación de las tareas solicitadas por los usuarios. Los desarrolladores pueden utilizar la plantilla de solicitudes creada por el agente como referencia para perfeccionarla aún más y mejorar la experiencia del usuario. Pueden actualizar la entrada del usuario, el plan de orquestación y la respuesta del FM. Con el acceso a la plantilla de solicitudes, los desarrolladores tienen un mejor control sobre la orquestación del agente.

Con los agentes completamente administrados, no tiene que preocuparse por el aprovisionamiento o la administración de la infraestructura y puede llevar las aplicaciones a producción con mayor rapidez.

Todo el contenido que se procesa con Amazon Bedrock se cifra y almacena en reposo en la región de AWS en la que está usando el servicio.

No. Las entradas de los usuarios y las salidas de los modelos no se comparten con ningún proveedor de modelos.

Amazon Bedrock ofrece varias capacidades para cumplir con los requisitos de seguridad y privacidad. Bedrock cumple con los estándares de conformidad comunes, como el Control de Servicios y Organizaciones (SOC), la Organización Internacional de Normalización (ISO) y la Ley de Portabilidad y Responsabilidad de los Seguros Médicos (HIPAA), y los clientes pueden usar Bedrock de conformidad con el Reglamento General de Protección de Datos (GDPR). Amazon Bedrock se incluye en el ámbito de los informes SOC 1, 2 y 3, lo que permite a los clientes obtener información sobre nuestros controles de seguridad. La conformidad se demuestra a través de exhaustivas auditorías de los controles de AWS que llevan a cabo terceros. Amazon Bedrock es ahora uno de los servicios de AWS que cumple con los requisitos de ISO para las normas ISO 9001, ISO 27001, ISO 27017 e ISO 27018, ISO 27701, ISO 22301 e ISO 20000. Amazon Bedrock cuenta con la certificación CSA Registro de seguridad, confianza y garantía (STAR) de nivel 2, que valida el uso de las prácticas recomendadas y la postura de seguridad de las ofertas en la nube de AWS. Con Amazon Bedrock, su contenido no se utiliza para mejorar los modelos base ni se comparte con ningún proveedor de modelos. Puede utilizar AWS PrivateLink para establecer una conectividad privada desde su nube virtual privada (VPC) de Amazon a Amazon Bedrock, sin tener que exponer sus datos al tráfico de Internet.

No, AWS y los proveedores de modelos de terceros no utilizarán ninguna entrada o salida de Bedrock para entrenar a Amazon Titan ni a ningún modelo de terceros.

Amazon Bedrock admite los SDK para los servicios de tiempo de ejecución. Los SDK de iOS y Android, así como Java, JS, Python, CLI, .Net, Ruby, PHP, Go y CPP, admiten la entrada de texto y voz.

Todos los SDK admiten streaming.

Consulte la página de precios de Amazon Bedrock para ver información actualizada de precios.

Depende de su nivel de AWS Support. El soporte de Amazon Bedrock se incluye en los planes de Developer Support, Business Support y Enterprise Support.

Puede usar las métricas de CloudWatch para realizar un seguimiento de los tokens de entrada y salida.

Lanzamos el entrenamiento previo continuo para los modelos Titan Text Express y Titan en Amazon Bedrock; esto permitirá que continúe con el entrenamiento previo en un modelo base de Titan con grandes cantidades de datos sin etiquetar. Este tipo de entrenamiento adaptará el modelo de un corpus de dominio general a un corpus de dominio más específico, como el médico, el del derecho, el de las finanzas, etc., al tiempo que preservará la mayoría de las capacidades del modelo base de Titan. 

Por lo general, es posible que las empresas deseen crear modelos para tareas en un dominio específico. Es posible que los modelos base no estén entrenados en la jerga técnica utilizada en ese dominio específico. Por lo tanto, ajustar el modelo base directamente requerirá grandes cantidades de registros de entrenamiento etiquetados y un entrenamiento de larga duración para obtener resultados precisos. Para aliviar esta carga, el cliente puede, en cambio, proporcionar grandes cantidades de datos sin etiquetar para un trabajo de entrenamiento previo continuo. Este trabajo adaptará el modelo base de Titan al nuevo dominio. Luego, el cliente puede ajustar el nuevo modelo personalizado previamente entrenado para las tareas posteriores utilizando una cantidad significativamente menor de registros de entrenamiento etiquetados y con una duración de entrenamiento menor. 

El entrenamiento previo continuo y el ajuste preciso (FT) de Bedrock tienen requisitos muy similares. Por este motivo, optamos por crear APIs unificadas que admitan tanto CPT como FT. La unificación de las API reduce la curva de aprendizaje y ayudará a los clientes a utilizar características estándar, como CloudWatch Event Bridge, para hacer el seguimiento de los trabajos de larga duración, la integración con S3 para obtener datos de entrenamiento, las etiquetas de recursos y el cifrado de modelos. 

El entrenamiento previo continuo ayuda a adaptar fácilmente los modelos Titan a los datos específicos de su dominio, a la vez que conserva la funcionalidad básica de los modelos Titan. Para crear un trabajo de entrenamiento previo continuo, diríjase a la consola de Bedrock y haga clic en “Modelos personalizados”. Accederá a la página de modelos personalizados que tiene dos pestañas: modelos y trabajos de entrenamiento. Ambas pestañas proporcionan un menú desplegable a la derecha llamado “Personalizar modelo”. Seleccione “Entrenamiento previo continuo” en el menú desplegable Personalizar modelo para acceder a la pantalla “Crear trabajo de entrenamiento previo continuo”. Proporcionará el modelo de origen, el nombre, el cifrado del modelo, los datos de entrada, los hiperparámetros y los datos de salida. Además, puede proporcionar etiquetas junto con detalles sobre los roles de IAM y las políticas de recursos para el trabajo.

Exclusiva de Amazon Bedrock, la familia de modelos Amazon Titan incorpora los 25 años de experiencia de Amazon innovando con la IA y machine learning en toda su empresa. Los modelos fundacionales (FM) de Amazon Titan ofrecen a los clientes una amplia gama de opciones de modelos de texto, multimodales y de imágenes de alto rendimiento a través de una API totalmente administrada. Los modelos Amazon Titan son creados por AWS y se los entrena previamente en grandes conjuntos de datos, lo que los convierte en modelos poderosos y de uso general diseñados para respaldar una variedad de casos de uso y, al mismo tiempo, respaldar el uso responsable de la IA. Utilícelos tal como son o personalícelos de forma privada con datos propios.

Para obtener más información sobre los datos procesados para desarrollar y entrenar los FM de Amazon Titan, visite la página de entrenamiento y privacidad de los modelos Amazon Titan.

Los formatos de datos compatibles incluyen archivos .pdf, .txt, .md, .html, .doc y .docx, .csv, .xls y .xlsx. Los archivos deben cargarse en Amazon S3. Simplemente señale la ubicación de sus datos en Amazon S3 y las bases de conocimiento de Amazon Bedrock se encargarán de todo el flujo de trabajo de ingestión en su base de datos vectorial.

Las bases de conocimiento de Amazon Bedrock ofrecen tres opciones para fragmentar el texto antes de convertirlo en incrustaciones. 

1.  Opción predeterminada: las bases de conocimiento para Amazon Bedrock fragmentan el documento en partes de forma automática. Cada una de ellas contiene 200 tokens, lo que garantiza que una oración no se rompa en el medio. Si un documento contiene menos de 200 tokens, no se fragmenta más. Se mantiene una superposición del 20 % de los tokens entre dos fragmentos consecutivos.

2.  Fragmentación de tamaño fijo: en esta opción, puede especificar la cantidad máxima de tokens por fragmento y el porcentaje de superposición entre fragmentos para que las bases de conocimiento de Amazon Bedrock divida automáticamente el documento en partes, garantizando que una oración no se rompa por la mitad. 

3.  Cree una opción de una incrustación por documento: Amazon Bedrock crea una incrustación por documento. Esta opción es adecuada si procesó previamente sus documentos dividiéndolos en archivos separados y no desea que Bedrock los fragmente aún más.
 

En la actualidad, las bases de conocimiento de Amazon Bedrock utilizan la última versión del modelo de incrustaciones de texto de Titan disponible en Amazon Bedrock. El modelo de incrustaciones de texto de Titan admite 8 000 tokens y más de 25 idiomas y crea incrustaciones con un tamaño de 1 536 dimensiones. 

Las bases de conocimiento de Amazon Bedrock se encargan de todo el flujo de trabajo de ingesta, que consiste en convertir los documentos en incrustaciones (vectoriales) y almacenar las incrustaciones en una base de datos vectorial especializada. Las bases de conocimiento de Amazon Bedrock admiten bases de datos populares para el almacenamiento vectorial, incluido el motor vectorial para Amazon OpenSearch sin servidor, Pinecone, Redis Enterprise Cloud, Amazon Aurora (próximamente) y MongoDB (próximamente). Si no tiene una base de datos vectorial existente, Amazon Bedrock crea un almacén vectorial de Amazon OpenSearch sin servidor para usted.

En función de su caso de uso, puede utilizar Amazon EventBridge para crear una sincronización periódica o basada en eventos entre Amazon S3 y las bases de conocimiento de Amazon Bedrock.

La evaluación de modelos en Amazon Bedrock permite evaluar, comparar y seleccionar los mejores modelos fundacionales para su caso de uso en unos pocos clics. Amazon Bedrock ofrece la posibilidad de elegir entre la evaluación automática y la evaluación humana. Puede utilizar la evaluación automática con métricas predefinidas, como la precisión, la solidez y la toxicidad. Para obtener métricas subjetivas o personalizadas, como la amabilidad, el estilo y la alineación con la voz de la marca, puede usar un flujo de trabajo de evaluación humana. Puede aprovechar a sus propios empleados o designar a un equipo administrado por AWS como revisores para llevar a cabo la evaluación humana. La evaluación del modelo proporciona conjuntos de datos seleccionados integrados, aunque usted puede usar sus propios conjuntos de datos.

Puede evaluar una variedad de métricas predefinidas, como la precisión, la solidez y la toxicidad, mediante evaluaciones automáticas. También puede usar los flujos de trabajo de evaluación humana para obtener métricas subjetivas o personalizadas, como la amabilidad, la relevancia, el estilo y la alineación con la voz de la marca.

Las evaluaciones automáticas permiten reducir rápidamente la lista de FM disponibles en función de los criterios estándar (como la precisión, la toxicidad y la solidez). Las evaluaciones basadas en humanos se utilizan a menudo para evaluar criterios más matizados o subjetivos que requieren el juicio humano y en los que es posible que no existan evaluaciones automáticas (como la voz de la marca, la intención creativa o la amabilidad).

Puede evaluar rápidamente los modelos de Bedrock para determinar métricas como la precisión, la solidez y la toxicidad aprovechando conjuntos de datos integrados seleccionados o incorporando sus propios conjuntos de datos de solicitudes. Una vez que los conjuntos de datos de solicitudes se envíen a los modelos de Amazon Bedrock para su inferencia, las respuestas del modelo se califican mediante algoritmos de evaluación para cada dimensión. El motor de backend agrega las puntuaciones a las solicitudes de respuesta individuales en forma de calificaciones resumidas y las presenta mediante informes visuales fáciles de entender.

Amazon Bedrock permite que configure los flujos de trabajo de revisión humana con unos pocos clics y traer a sus empleados o sacar provecho de un equipo de expertos administrado por AWS para evaluar los modelos. A través de la interfaz intuitiva de Amazon Bedrock, las personas pueden revisar las respuestas de los modelos y dar su opinión haciendo clic con el pulgar hacia arriba o hacia abajo, calificarlas en una escala del 1 al 5, elegir la mejor de varias respuestas o clasificar las solicitudes. Por ejemplo, se puede dar una demostración a un miembro del equipo de cómo responden dos modelos a la misma solicitud y, a continuación, solicitar que seleccione el modelo que muestre los resultados más precisos, relevantes o estilísticos. Puede especificar los criterios de evaluación de su interés, simplemente personalizando las instrucciones y los botones para que aparezcan en la evaluación de interfaz de usuario de su equipo. También puede proporcionar instrucciones detalladas con ejemplos y el objetivo general de la evaluación del modelo, para que puedan alinear su trabajo en consecuencia. Este método es útil para evaluar criterios subjetivos que requieren el juicio humano o una experiencia más matizada en la materia, y no pueden juzgarse fácilmente mediante evaluaciones automáticas.

Las barreras de protección de Amazon Bedrock permiten implementar medidas de seguridad para sus aplicaciones de IA generativas en función de sus casos de uso y políticas de IA responsables. Las barreras de protección ayudan a controlar la interacción entre los usuarios y los modelos fundacionales (FM) mediante el filtrado del contenido no deseado y dañino, y pronto, la redacción de la información de identificación personal (PII), mejorando la seguridad y la privacidad del contenido en las aplicaciones de IA generativa. Puede crear varias barreras de protección con diferentes configuraciones adaptadas a casos de uso específicos. Además, puede supervisar y analizar continuamente las entradas de los usuarios y las respuestas del FM que puedan infringir las políticas definidas por el cliente en las barreras de protección.

Las barreras de protección permiten a los clientes definir un conjunto de políticas para ayudar a proteger sus aplicaciones de IA generativa. Puede configurar las siguientes políticas en una barrera de protección.

• Temas denegados: puede definir un conjunto de temas indeseables en el contexto de su aplicación. Por ejemplo, se puede diseñar un asistente de banca en línea que se abstenga de brindar asesoramiento sobre inversiones.
• Filtros de contenido: puede configurar umbrales para filtrar el contenido dañino en las categorías de odio, insultos, sexo y violencia.
• Filtros de palabras (próximamente): puede definir un conjunto de palabras para bloquear en las entradas de los usuarios y en las respuestas generadas por el modelo fundacional (FM).
• Redacción de información de identificación personal (PII) (próximamente): puede seleccionar un conjunto de PII que se pueda redactar en las respuestas generadas por el FM. Según el caso de uso, también puede bloquear una entrada de usuario si contiene PII.

Las barreras de protección se pueden utilizar con todos los modelos de lenguaje de gran tamaño disponibles en Amazon Bedrock, incluidos los FM Titan, Anthropic Claude, Meta Llama 2, AI21 Jurassic y Cohere Command. También se puede usar con FM perfeccionados, así como con agentes de Amazon Bedrock.

AWS ofrece una indemnización de propiedad intelectual (IP) ilimitada para lo reclamos de derechos de autor que surjan de la producción generativa de los siguientes servicios de IA generativa de Amazon disponibles de forma general: los modelos Amazon Titan, Amazon CodeWhisperer Professional y otros servicios enumerados en la sección 50.10 de las Condiciones del servicio (los “Servicios de IA generativa indemnizados”). Esto significa que los clientes están protegidos contra los reclamos de terceros que alegan una infracción de derechos de autor por la producción generada por los servicios de IA generativa indemnizados en respuesta a las entradas u otros datos proporcionados por el cliente. Los clientes también deben usar los Servicios de manera responsable, por ejemplo, no ingresar datos infractores o deshabilitar las características de filtrado de un Servicio.

Además, nuestra indemnización de propiedad intelectual estándar por el uso de los Servicios protege a los clientes de los reclamos de terceros que alegan una infracción de la propiedad intelectual (incluidos los reclamos de derechos de autor) por parte de los Servicios y de los datos utilizados para formarlos.