Ответственное создание искусственного интеллекта в AWS
Стремительное развитие генеративного искусственного интеллекта открывает новые перспективные инновации, но в то же время ставит новые задачи. Компания AWS стремится к ответственному развитию искусственного интеллекта, применяя подход, ориентированный на людей, который ставит во главу угла образование, науку и наших клиентов. Мы интегрируем ответственное использование ИИ на протяжении всего его жизненного цикла.
![Изображение с разноцветными фигурами](https://d1.awsstatic.com/products/generative-ai/Gen_AI_hub_tools_v2.04bef552d2c19e1d7b271a8acbf49b515125f369.jpg)
Основные аспекты ответственного использования ИИ
Справедливость
Рассмотрение последствий для различных затрагиваемых групп
Возможность объяснения
Понимание и оценка результатов работы системы
Конфиденциальность и защита
Надлежащее получение, использование и защита данных и моделей
Безопасность
Предотвращение вредоносных результатов работы и неправильного использования системы
Контроль
Наличие механизмов мониторинга и управления поведением систем ИИ
Достоверность и надежность
Обеспечение правильных результатов работы системы даже при неожиданных или противоречивых вводных данных
Управляемость
Внедрение передовых практик в цепочку поставок ИИ, включая поставщиков и разработчиков
Прозрачность
Предоставление затрагиваемым сторонам возможности принимать обоснованные решения о своем взаимодействии с системой ИИ
Основные аспекты ответственного использования ИИ
Справедливость
Рассмотрение последствий для различных затрагиваемых групп
Возможность объяснения
Понимание и оценка результатов работы системы
Конфиденциальность и защита
Надлежащее получение, использование и защита данных и моделей
Безопасность
Предотвращение вредоносных результатов работы и неправильного использования системы
Контроль
Наличие механизмов мониторинга и управления поведением систем ИИ
Достоверность и надежность
Обеспечение правильных результатов работы системы даже при неожиданных или противоречивых вводных данных
Управляемость
Внедрение передовых практик в цепочку поставок ИИ, включая поставщиков и разработчиков
Прозрачность
Предоставление затрагиваемым сторонам возможности принимать обоснованные решения о своем взаимодействии с системой ИИ
Сервисы и инструменты
AWS предлагает сервисы и инструменты, которые помогут вам ответственно проектировать, разрабатывать и использовать системы искусственного интеллекта.
Внедрение средств защиты в генеративный искусственный интеллект
Ограничения для Amazon Bedrock помогают внедрить средства защиты, адаптированные к приложениям генеративного искусственного интеллекта и соответствующие вашим политикам в области ответственного использования искусственного интеллекта. Ограничения позволяют дополнить встроенные средства защиты настраиваемыми мерами безопасности, что обеспечивает высочайший для этой отрасли уровень защиты и дает следующие преимущества:
- блокировка вредоносного контента расширяется на 85 %;
- отбрасывается более 75 % ответов с галлюцинациями для рабочих нагрузок RAG и резюмирования;
- клиенты получают возможность настраивать и применять меры для защиты безопасности, конфиденциальности и правдивости в рамках единого решения.
![Оттенки линий потока](https://d1.awsstatic.com/products/generative-ai/responsbile-ai/guardrails-responsible-ai.bd4b58fdaad84cd64b8c1ed082c4187d2116d13f.jpg)
Оценка базовых моделей (FM)
Оценка моделей на Amazon Bedrock помогает оценить, сравнить и выбрать наиболее подходящие базовые модели для конкретного сценария использования на основе настраиваемых метрик, таких как точность, надежность и токсичность. Для оценки модели также можно использовать Amazon SageMaker Clarify и fmeval.
![Разноцветные фигуры на синем фоне](https://d1.awsstatic.com/bedrock-4b.1e05b79e3dffebc1be6e2514d5b4b46b96b5ff76.jpg)
Выявление предвзятости и объяснение прогнозов
Предвзятость представляет собой несбалансированность данных или различия в производительности модели для различных групп.. Amazon SageMaker Clarify помогает снизить предвзятость, выявляя потенциальные искажения во время подготовки данных, после обучения модели и в развернутой модели путем изучения определенных атрибутов.
Понимание поведения модели важно для разработки более точных моделей и принятия более эффективных решений. Amazon SageMaker Clarify дает более полное представление о поведении модели, что позволяет обеспечить прозрачность для заинтересованных сторон, информировать людей, принимающих решения, и отслеживать, работает ли модель так, как предполагалось.
![Сине-зеленые волны](https://d1.awsstatic.com/products/generative-ai/responsbile-ai/pan-industry-studio-278-3x2.52eb958a12758be5b2dbdf4e4c152e39ec7335e9.jpg)
Мониторинг и проверка человеком
Мониторинг необходим для обеспечения работы высококачественных моделей машинного обучения (ML) и создания точных прогнозов. Монитор модели Amazon SageMaker автоматически обнаруживает неточные прогнозы, созданные на основе развернутых моделей, и предупреждает вас о них. С помощью Amazon SageMaker Ground Truth вы можете использовать отзывы людей на протяжении всего жизненного цикла машинного обучения для повышения точности и релевантности моделей.
![Предметы разных размеров и форм на конвейерной ленте](https://d1.awsstatic.com/products/generative-ai/responsbile-ai/monitoring-responsible-ai.68c6f9b03765c611b6e4e30bd96386578e206d2a.jpg)
Улучшение управления
Управление машинным обучением от Amazon SageMaker предоставляет специализированные инструменты для улучшения управления проектами машинного обучения за счет более строгого контроля и прозрачности моделей машинного обучения. Вы без труда можете собирать информацию о модели и делиться ею, а также получать информацию о поведении модели, например о предвзятости, и все это в одном месте.
![Абстрактный узор из соединенных точек](https://d1.awsstatic.com/products/generative-ai/responsbile-ai/Industry-AdobeStock-600083666-3x2.6bd66d0d4629e453be2930b349ca310c3e8f4ce3.jpg)
Карточки сервисного обслуживания AI на AWS
Карточки сервисов ИИ – это ресурс, предназначенный для повышения прозрачности, предоставляющий вам единое место для поиска информации о предполагаемых сценариях использования и ограничениях, выборе ответственных решений в области дизайна ИИ, а также лучших практиках оптимизации производительности для наших ИИ-сервисов и моделей.
![Аэрофотоснимок автомобилей, едущих по мосту](https://d1.awsstatic.com/products/generative-ai/responsbile-ai/RAI_tools_P1-awsaiservicecards_3x2.ce670757715497ef88e61adf6b80b1535006b82f.jpg)