Как генеративный искусственный интеллект изменит операции в сфере безопасности?

Кларк Роджерс:
Масштабирование успешной глобальной операции по обеспечению безопасности – задача не из простых. Для этого требуется высокий уровень вовлеченности и культуры ответственности, при которой на первое место ставится доверие клиентов и подстройка к потребностям бизнеса.

Привет! Меня зовут Кларк Роджерс, я – директор по корпоративной стратегии AWS, и я буду вашим проводником по серии обсуждений с руководителями в сфере безопасности AWS здесь, на платформе Executive Insights.

В этом выпуске ко мне присоединился Том Авант, директор по реагированию и отказоустойчивости AWS. Мы поговорим о том, как создавать, поддерживать и развивать операции в сфере безопасности для создания устойчивого бизнеса. Спасибо, что присоединились к нам.

Кларк Роджерс:
Том, большое спасибо за то, что присоединились.

Том Авант:
Спасибо, что пригласили. Для меня это большая честь. Мы высоко ценим это.

Кларк Роджерс:
Хотелось бы начать с небольшого рассказа о вашем жизненном пути. Я знаю, что вы какое-то время служили в армии, а что привело вас в AWS?

Том Авант:
Когда я пошел на службу в армию, я изначально выбрал лингвистику, работал аналитиком разведки и получил прекрасный опыт взаимодействия с различными культурами, обучаясь в Военном институте иностранных языков Министерства обороны в Монтерее. Я много узнал о мире, что впоследствии оказалось крайне полезным для управления глобальными организациями и международными командами.

А индустрия разведки – это просто… По телевизору и в кино показывают одно, и ты думаешь, что все именно так, а потом попадаешь туда и понимаешь, что все совершенно иначе. Но это было отличное место, где я смог многому научиться: работать с данными, обрабатывать их, разрабатывать методологии, а также методично подходить к анализу и восприятию вещей. И я посвятил себя этому, несколько лет работал в Агентстве национальной безопасности, выполняя различные разведывательные задачи.

Я стал офицером и командующим воздушных боевых действий, офицером командования и управления, руководящим разведывательными операциями, а теперь я оказываю поддержку президенту, участвую в гуманитарных миссиях по всему миру, принимаю важные решения и выполняю задачи, направленные на реагирование на инциденты глобального масштаба.

► Смотрите дальше: узнайте о преимуществах найма ветеранов на должности в сфере безопасности

Кларк Роджерс:
Конечно.

Том Авант:
Так что приход в AWS стан вполне естественным. Я всю жизнь работал в сфере безопасности. Я часто шутил, что у меня был допуск к секретным данным с 19 лет. Я обратил свое внимание на компанию Amazon, потому что ее принципы лидерства соответствовали ценностям, которые я искал в организации. А когда ты начинаешь понимать, что происходит в AWS, вникаешь в подробности, то думаешь: «Сколько же всего в мире работает благодаря тому, что мы делаем». И я вношу в это свою лепту.

Кларк Роджерс:
Давайте немного поговорим о вашей текущей должности в AWS. Какова эта текущая роль и каковы ваши обязанности?

Том Авант:
Моя основная задача – управление Операционным центром безопасности AWS, а также я отвечаю за непрерывность бизнеса AWS. Это два совершенно разных аспекта, но оба одинаково важны для бизнеса. Таким образом, Операционный центр безопасности AWS отвечает за реагирование на физические и логические инциденты первого уровня в рамках бизнеса. Таким образом, мы контролируем все – от центра обработки данных до корзин S3: мы отслеживаем обнаружения, а затем сортируем обнаруженные данные или передаем их другим людям, которые смогут исправить их, если мы не сможем сделать это сами.

Если говорить о значках, мы обслуживаем эту операционную систему и выполняем различные интеграции, чтобы каждый день люди могли легко попасть туда, куда им нужно. А также мы следим за тем, чтобы вы не попадали туда, куда вам не следует заходить.

Кларк Роджерс:
Конечно.

Том Авант:
Правда же? Контроль доступа очень важен. Непрерывность бизнеса – это устойчивость всех наших операций и сервисов. Мы уверенно заявляем: «У нас есть системы резервирования, и эти системы надежные». Клиентам мы говорим: «Мы уверены, что все будет хорошо». Мы стремимся показать, что это не просто для красивого словца. Мы утверждаем это, так как мы протестировали эту систему, у нас есть опытные специалисты, которые непрерывно пересматривают результаты и используют их: проводят анализ операционных рисков, учитывают требования ISO и обеспечивает устойчивость наших услуг, чтобы убедиться в том, что наши сервисы действительно устойчивы.

Кларк Роджерс:
Я правильно понимаю, что такие вещи, как тестирование на наличие угроз и все, что с этим связано, входит в вашу сферу ответственности?

Том Авант:
На самом деле нет. Этим занимается другая команда в рамках компании. Наша работа связана больше с тактическими учениями или тренировками, где мы проводим полномасштабный тренинг и привлекаем людей из различных подразделений бизнеса. По сути, это моделирование: что произойдет в негативном сценарии? Как мы ответим? Как мы отреагируем? Как сделать так, чтобы все происходило правильно? Конечно, не обходится без ошибок, но мы многому учимся. Мы учитываем это, записываем это в инструкции, делимся этим с командами, идем и делаем это снова.

Кларк Роджерс:
Запуск Операционного центра безопасности – это огромная инвестиция с точки зрения бизнеса. Нужно ли вам обосновывать такие расходы, или в нашей сфере это само собой разумеется? Потому что когда клиенты… Когда я общаюсь с клиентами, я слышу: «Мне бы очень хотелось иметь Операционный центр безопасности, но это очень дорого: персонал, инструменты и прочее». Как обосновать перед руководством, что нам действительно нужен Операционный центр безопасности или хотя бы подписка на услуги Операционного центра безопасности?

Том Авант:
Это сложный вопрос. На него есть несколько ответов. В первую очередь, потому что мы потрясающие, поэтому эти затраты оправданы. Но все дело в ключевых показателях эффективности и данных. Мы проводим ежеквартальные экономические обзоры при участии руководства. Поэтому мы регулярно используем механистические способы, чтобы оценить, обеспечиваем ли мы ценность для бизнеса и клиентов.

Кларк Роджерс:
Не могли бы вы поделиться какими-либо метриками, которые вы используете?

Том Авант:
Мы анализируем огромное количество факторов в различных направлениях бизнеса, чтобы гарантировать, что создаем ценность для бизнеса. Мы следим за показателями времени непрерывной работы и простоя системы контроля доступа, так? Кроме того, мы следим за тем, чтобы для каждой внесенной конфигурации, находящейся под нашим контролем, было четко понятно, какую чистую выгоду они приносят.

Для обнаружений мы анализируем среднее время обнаружения и среднее время устранения. Мы рассматриваем различные типы обнаружений, и анализируем, какую пользу они приносят бизнесу в этих областях. Даже для обеспечения непрерывности бизнеса мы изучаем различные метрики, связанные с нашими сервисами: расширяем охват, оцениваем те, которые сертифицированы по стандарту ISO, а также те, которые мы смогли протестировать.

С другой стороны, возможно, это связано с моей бережливостью, но я твердо придерживаюсь принципа: масштабирование за счет людей – только как крайняя мера. Вот приходите вы ко мне и говорите: «Слушай, у меня есть отличная идея! Думаю, это было бы отличным заданием для Операционного центра безопасности».

Почему люди так говорят? Поскольку мы работаем круглосуточно и без выходных, многие хотят переложить часть задач на Операционный центр безопасности и открыто говорят об этом. И я отвечаю: «Знаете что? Давайте поговорим, какую реальную выгоду это приносит для бизнеса». Если к нам обращаются за помощью, потому что это принесет бизнесу реальную выгоду, то, безусловно, это выгодно. Если нас просят об этом, потому что не хотят заниматься этой работой и считают, что этим должны заниматься другие люди, я бы сказал: «Возможно, нам стоит вернуться к плану работы OP1 и подумать, как автоматизировать процесс».

Кларк Роджерс:
Конечно.

Том Авант:
Я всегда напоминаю своей команде, что наша задача – сделать так, чтобы в нас больше не было необходимости. Наша задача – использовать автоматизацию и снижать объем работы до такой степени, чтобы в будущем задаться вопросом: «А нужен ли нам вообще Операционный центр безопасности?». Чтобы наступил момент, когда я скажу: «Когда-то у нас был Операционный центр безопасности». И этот Операционный центр безопасности занимался поиском различных способов оптимизации и говорил нам: «Нам не нужно этого делать», «Это можно автоматизировать», «Это можно улучшить» или «Это можно довести до состояния, когда Операционный центр безопасности больше не понадобится». Это моя цель. Не знаю, добьемся ли мы этого когда-нибудь, но к этой цели, безусловно, нужно стремиться.

Кларк Роджерс:
Кстати, у меня есть к вам вопрос на эту тему. Если представить будущее, каким вы видите Операционный центр безопасности? И если перефразировать этот вопрос: если бы вы начинали все с нуля, как бы вы сейчас разработали возможности Операционного центра безопасности?

Том Авант:
Я бы сказал, что главное здесь – это возможности, так как именно они играют решающую роль. Точнее, какие возможности вы получаете от Операционного центра безопасности? Какие возможности теряете, не имея Операционного центра безопасности или передавая его на аутсорсинг? В случае с аутсорсингом вы в первую очередь ставите интересы компании на первое место, и поэтому вам нужен собственный Операционный центр безопасности, если вы можете себе это позволить.

Кларк Роджерс:
На мой взгляд, внутри компании у вас будет понимание нюансов бизнеса, которого не будет у сторонних организаций.

Том Авант:
Конечно. Вы будете понимать, кто сможет помочь. С другой стороны, работа в компании – это ваши возможности, не так ли? Вернемся к возможностям. Сосредоточьтесь на том, как ваши действия напрямую отвечают нуждам бизнеса. И, как мне кажется, вы сможете регулярно вносить улучшения, так как принимаете участие в других совещаниях, например по стратегическому планированию. В процессе получения информации вы можете определить: «Хорошо, это наша главная цель. Здесь мы изменили курс». Вы не сможете этого сделать, если будете работать на аутсорсинге в таком же темпе.

А поскольку бизнес развивается очень быстро, вы должны убедиться, что люди, принимающие последующие меры, взаимодействуют с теми, кто принимает стратегические решения, чтобы быстро реагировать на изменения. И это одно из преимуществ наличия штатных специалистов. Рассматривая все эти аспекты, я бы задался вопросом: какие возможности и стратегические направления являются ключевыми, и какой подход к защите мне нужен? И, как следствие, каков риск, если я ошибусь?

Размышляя над этим, я задаюсь вопросом: смогу ли я с уверенностью сказать клиенту, что сделал все возможное, или буду перекладывать ответственность на других?

Кларк Роджерс:
Это прекрасно! Учитывая скорость развития технологий и, конечно же, существующие инструменты на базе генеративного искусственного интеллекта, каким вы видите будущее Операционного центра безопасности? Не знаю, можете ли вы рассказать, используете ли вы сегодня или планируете использовать какие-либо инструменты на базе генеративного искусственного интеллекта либо исследуете их возможности, но как, по вашему мнению, они могут помочь вашим аналитикам Операционного центра безопасности и другим специалистам? Как, по вашему мнению, злоумышленники могут использовать эти технологии и что вы делаете для их выявления или нейтрализации?

Том Авант:
Мы начинаем использовать генеративный искусственный интеллект для создания автоматических ответов для некоторых наших клиентов. Кроме того, мы рассматриваем возможность автоматизации рабочих процессов, чтобы подойти к вопросу так: «Хорошо, мы знаем, что это обычные рабочие процессы, основанные на наших метриках, которые клиенты ищут чаще всего. Как нам интегрировать получаемые данные и сразу применять их в решениях, которые нужны нашим клиентам? И если в этих случаях не требуется человеческое участие, почему бы полностью не исключить человека из этой цепочки?». Именно над этим мы сейчас работаем.

Кларк Роджерс:
Потрясающе! А что происходит с точки зрения злоумышленника?

Том Авант:
Взгляд со стороны злоумышленников – это действительно интересная тема. Это своего рода новое поле деятельности. Вы слышите так много нового о внедрении в… Люди хотят попробовать эту технологию и начинают скачивать все, что находят на разных веб-сайтах. В половине случаев они даже не знают, что скачивают. Вам не нужны люди, которые бездумно ринутся в горящий дом. Сначала вам нужно оценить масштаб пожара и найти наилучшую точку входа.

То же самое происходит, когда мы говорим о генеративном искусственном интеллекте. С какой стороны безопаснее всего войти? Как обеспечить проверку использования перед внедрением? Какие проверки можно выполнить в фоновом режиме, чтобы с уверенностью заявить: «Да, это действительно то, что нужно», прежде чем продвигать свое решение дальше. Ведь если ошибка будет выявлена на этапе распространения, вам придется устранять ее последствия и пытаться остановить этот процесс. А для тех из нас, кто уже занимался таким раньше, это далеко не самое приятное занятие. Поэтому перед внедрением обязательно нужно провести предварительные проверки.

► Прочтите отчет об исследовании: «Обеспечение безопасности генеративного искусственного интеллекта: что важно сейчас»

И, как мне кажется, есть еще одна связанная с этим угроза, которая пока встречается нечасто, – это соблюдение норм. Это, пожалуй, одна из наиболее заметных тенденций, которую я отмечаю по мере увеличения количества рабочих нагрузок и клиентов, переходящих в облако. Мы переходим во все больше различных сред и охватываем больше стран. Мы наблюдаем увеличение количества суверенных облаков в разных местах. И сейчас действительно нужно подумать о соблюдении норм. Раньше этому уделяли мало внимания, а теперь это один из основных пунктов наших обсуждений. Прежде чем двигаться дальше, нам нужно понять, как соблюдать требования, продолжать приносить пользу клиентам, при этом соблюдая требования и сообщая об этом.

Кларк Роджерс:
Думаю, это невероятная тенденция, которую я тоже заметил. Раньше мы могли говорить о безопасности, заложенной на этапе проектирования, правильно? Включать аспекты безопасности еще на стадии создания концепции или прототипа. А сейчас это звучит так: «Ах, да, еще нужно предусмотреть конфиденциальность, соответствие нормативным требованиям и регуляторные обязательства».

Том Авант:
Конечно.

Кларк Роджерс:
Я рад, что люди обращают на это внимание, что это все активнее интегрируется в стек, и когда дело доходит до выпуска, все согласуется с требованиями.

Том Авант:
Конечно.

Кларк Роджерс:
Что ж, это было потрясающе, Том. Признателен вам за уделенное сегодня время. Спасибо.

Том Авант:
Спасибо, что пригласили. Я тоже очень признателен.