Более эффективная кибербезопасность должна сдерживать угрозы ИИ

ИИ ускоряет атаки и защиту

Обсуждение кибербезопасности всё чаще сводится к потенциальному ущербу от ИИ. Автономные системы ускоряют разведку и поиск уязвимостей, генеративный ИИ создаёт убедительные фишинговые сообщения, дипфейки и вредоносный код, а более развитые ИИ-агенты со временем смогут проводить сложные атаки при минимальном участии человека.

Эти изменения требуют внимания, но представлять ИИ главным противником опасно. Важнее понять, готова ли архитектура кибербезопасности к цифровому миру, где и атакующие, и защитники используют всё более мощные системы.

ИИ работает как ускоритель. Он повышает эффективность злоумышленников, но одновременно увеличивает скорость и возможности защитников. С его помощью можно автоматизировать:

Поэтому стратегическая задача — не не допустить ИИ в кибербезопасность, а создать устойчивую архитектуру, в которой ИИ можно безопасно применять.

Самые свежие данные Verizon подтверждают эту картину. В отчёте Verizon за 2026 год изучены более 31 000 реальных инцидентов, включая свыше 22 000 подтверждённых утечек в 145 странах. Впервые за всю историю отчётов эксплуатация уязвимостей в программном обеспечении обошла кражу учётных данных и стала главным способом первоначального проникновения. На неё пришлось 31% утечек. Кроме того, программы-вымогатели фигурировали в 48% утечек, а генеративный ИИ использовался на нескольких этапах атак.

Эти цифры требуют внимания от руководителей и законодателей, но одновременно показывают, что базовые проблемы никуда не исчезли. Организации по-прежнему взламывают через уязвимости, украденные учётные данные, ошибки людей, подрядчиков и слабую архитектуру защиты. ИИ может ускорить киберугрозы, однако вопрос о том, удастся ли его контролировать и какие обязательные ограничения можно установить для передовых моделей, ещё будет обсуждаться.

В зоне нашего контроля остаётся более надёжная кибербезопасность. Её основой должны стать:

Как меняется угроза

ИИ заметно меняет киберриски. Инструменты с поддержкой ИИ помогают атакующим изучать цели, находить уязвимости и создавать или изменять вредоносные средства. Генеративный ИИ снижает порог для подготовки убедительных кампаний социальной инженерии.

Согласно исследованию Verizon за 2026 год, злоумышленники уже применяли генеративный ИИ для разработки вредоносных программ, выбора целей и получения первоначального доступа. Это означает, что ИИ — уже часть операционной среды угроз, а не только проблема будущего.

Мультиагентный ИИ добавляет ещё один уровень риска. Система, которая лишь отвечает на запрос, создаёт одну категорию угроз. Совсем другой вызов возникает, когда ИИ-агент получает доступ к базам данных, взаимодействует с приложениями, пишет код, принимает решения и действует от имени человека или организации.

По мере роста автономности ИИ-систем всё большее значение приобретают:

Однако те же способности можно использовать для защиты. ИИ способен сопоставлять сигналы из разных систем, выявлять необычное поведение, расставлять приоритеты среди уязвимостей и обрабатывать объёмы телеметрии, недоступные аналитикам-людям. Он также помогает центрам мониторинга безопасности отделять реальные угрозы от множества уведомлений, которые создают современные сети.

Будущее точнее описывается как противостояние атакующим и защитникам, использующим ИИ. Организации выиграют, если встроят ИИ в общую архитектуру защиты, а не станут применять его как отдельную технологию.

Устаревшая архитектура — главная проблема

Много лет кибербезопасность строилась вокруг периметра. Организации ставили межсетевые экраны вокруг доверенных внутренних сетей, чтобы не допускать внешних злоумышленников. Такая модель имела смысл, когда серверы компаний размещали приложения, сотрудники в основном работали из офисов, а данные хранились внутри организации.

Теперь такой среды больше нет:

Защищать приходится уже не один периметр. Поэтому выросло значение подхода Zero Trust. Его базовый принцип заключается в том, что пользователь, устройство, приложение или цифровая идентичность не должны автоматически считаться доверенными только потому, что они подключены к сети или уже прошли аутентификацию.

При проверке доступа нужно учитывать:

В среде, где широко используется ИИ, этот принцип должен распространяться не только на людей. ИИ-агентов, автоматизированные сервисы и машинные идентичности следует рассматривать как сущности с разрешениями, которые можно выдавать, отслеживать, ограничивать и отзывать.

Организациям нужно задавать для каждой такой сущности четыре вопроса:

По мере роста автономности ИИ-систем эти вопросы становятся ещё важнее.

Что ИИ не может открыть

Компании спешат внедрять ИИ, и это создаёт соблазн предоставить моделям доступ к большим объёмам корпоративных данных. Дополнительные данные действительно могут улучшить ответы и способность системы выполнять задачи, но неограниченный доступ создаёт серьёзные риски для безопасности и приватности.

Разные типы данных нельзя считать одинаково чувствительными. В одной цифровой среде не следует без разбора объединять:

Поэтому одним из главных средств защиты в эпоху ИИ становится сегментация данных. Компаниям нужно определить, какие именно сведения требуются ИИ-системе для конкретной задачи, и ограничить доступ только ими.

ИИ-помощнику, который помогает сотрудникам находить публичные правила, не нужен свободный доступ к интеллектуальной собственности компании. ИИ-системе для поддержки клиентов не следует автоматически открывать финансовые системы. Инструмент, анализирующий корпоративные документы, не должен переходить в среду операционных технологий только потому, что это позволяет базовая сеть.

Основным принципом должен быть минимально необходимый доступ. Границы вокруг чувствительных данных можно выстраивать с помощью:

Если ИИ-систему взломают, такие ограничения помогут уменьшить масштаб проникновения и объём раскрытых данных. По сути, это применение Zero Trust к ИИ и данным.

Специализированным сетям нужны свои протоколы

Проблема становится ещё серьёзнее, когда ИИ внедряют в специализированные среды:

В таких областях ИИ может приносить большую пользу. Он способен следить за промышленным оборудованием, обнаруживать отклонения, оптимизировать процессы, помогать в медицинском анализе и улучшать обнаружение киберугроз. Полная изоляция ИИ от этих систем лишила бы организации многих преимуществ.

Но интеграцию нужно контролировать. Необходимо определить, какие ИИ-системы могут связываться со специализированными сетями, к каким данным они получают доступ и какие действия им разрешены.

В средах с повышенным риском нужны:

Вместо прямого доступа к чувствительным системам ИИ иногда следует подключать через контролируемые шлюзы или изолированные среды выполнения.

Для действий с серьёзными последствиями нужна дополнительная авторизация — особенно если решение ИИ может затронуть финансовые активы, физическую инфраструктуру, безопасность людей или национальную безопасность.

ИИ-агент не должен повышать собственные привилегии только потому, что считает это более эффективным. Без политик контроля ИИ-система также не должна автоматически передавать свои полномочия другому агенту.

Задача заключается не в том, чтобы помешать ИИ выполнять полезную работу. Нужно обеспечить, чтобы он выполнял только те действия, на которые получил разрешение.

Для операционных технологий это особенно важно. Преимущества ИИ приходится сопоставлять с риском появления новых цифровых путей в системах, способных влиять на физические процессы и критическую инфраструктуру. Поэтому CISA и её партнёры разрабатывают рекомендации по безопасной интеграции ИИ в среды операционных технологий.

Постквантовая криптография уже нужна

Одновременно с ИИ развивается ещё одна технология, которую компаниям нельзя игнорировать, — квантовые вычисления. Достаточно мощный квантовый компьютер в будущем может поставить под угрозу криптографию с открытым ключом, на которой основаны современные цифровые коммуникации, транзакции и идентичности.

Проблема заключается не только в том, что произойдёт после появления такой машины. Злоумышленники могут уже сейчас собирать зашифрованные данные, рассчитывая расшифровать их в будущем с помощью квантовых возможностей.

Угроза «собрать сейчас, расшифровать потом» меняет сроки планирования кибербезопасности. Если организации хранят сведения, которые должны оставаться секретными десятилетиями, им уже нужно оценивать свою криптографическую уязвимость.

Даже если сегодня данные зашифрованы, в долгосрочной перспективе ценность могут сохранять:

NIST считает, что переходить на постквантовую криптографию нужно уже сейчас. В рамках планирования перехода организации должны выявить уязвимые криптографические системы и начать их замену или обновление.

Для внедрения доступны три завершённых постквантовых стандарта. Согласно действующей схеме перехода, системы с высоким риском должны перейти на новые алгоритмы раньше. В дальнейшем уязвимые к квантовым атакам алгоритмы будут выведены из стандартов NIST.

Миграция будет сложной. Криптография встроена в приложения, облачные платформы, устройства, коммуникационные системы и цепочки поставок. При этом многие организации не располагают полным перечнем приложений, использующих криптографические алгоритмы.

ИИ может помочь и здесь. Он способен:

Та же технологическая революция, которая создаёт новые проблемы безопасности, может помочь организациям справляться с ними.

Государству и бизнесу нужно работать вместе

Технологические компании, фирмы по кибербезопасности, частные операторы инфраструктуры и государственные ведомства по-разному видят угрозы. Отдельные компании обычно не могут соперничать с государством по объёму разведданных, возможностям правоохранительных органов и пониманию действий государственно связанных групп. Но и государство не способно самостоятельно защитить всю экосистему.

Поэтому сотрудничество государства и бизнеса следует считать не только политической целью, но и стратегической возможностью киберзащиты.

В США уже созданы важные модели такого взаимодействия через CISA, организации обмена информацией, отраслевые партнёрства и программы вроде Joint Cyber Defense Collaborative. Однако сотрудничество должно стать более оперативным и быстрым.

Бизнесу нужны применимые на практике сведения об угрозах. Государству необходимо быстро получать информацию об атаках, уязвимостях и новых технологиях, обнаруженных в коммерческих сетях.

Целью должен стать постоянный цикл обмена:

Такое взаимодействие особенно важно потому, что экосистема ИИ в основном создаётся частным сектором. Именно частные компании разрабатывают многие базовые модели ИИ, облачные платформы, полупроводниковые технологии и приложения, которые в будущем будут влиять на национальную безопасность.

Поэтому политику кибербезопасности нельзя отделять от технологической политики. Университетам, национальным лабораториям, технологическим компаниям, фирмам по кибербезопасности и государственным ведомствам нужно теснее сотрудничать в вопросах:

Безопасность должна стать общей ответственностью всей экосистемы.

Для защиты нужно больше ИИ

Масштаб и скорость современной цифровой активности слишком велики, чтобы специалисты по кибербезопасности могли обрабатывать всё вручную. ИИ способен дополнить человеческую экспертизу необходимым аналитическим охватом.

Защитные ИИ-системы могут непрерывно анализировать поведение в сети, сопоставлять сведения об угрозах, обнаруживать аномалии и расставлять приоритеты среди уязвимостей. Они помогают понять, связаны ли на первый взгляд разрозненные инциденты с одной скоординированной атакой.

До того как злоумышленники начнут перемещаться внутри среды, ИИ может помочь специалистам обнаружить скомпрометированные идентичности и устройства.

ИИ способен автоматизировать и отдельные этапы реагирования на инциденты. При заранее определённых правилах система может:

Но защитному ИИ также нужны ограничения. Организации должны понимать, какие данные использует система безопасности, почему она пришла к определённым выводам и какие действия может выполнять.

Для решений с высокой ценой ошибки должен сохраняться надлежащий контроль человека. ИИ должен ускорять и улучшать работу специалистов по безопасности, а не создавать ещё один непрозрачный слой власти без контроля.

Оптимальная модель — машинный интеллект в сочетании с человеческой экспертизой.

Устойчивость важнее иллюзии предотвращения

Один из главных уроков современной кибербезопасности заключается в том, что ни одна организация не может гарантировать отсутствие взлома. Зрелая стратегия признаёт: некоторые атаки в итоге окажутся успешными.

Задача состоит в том, чтобы:

Это и есть киберустойчивость.

Устойчивая архитектура не собирает чувствительные данные в одном месте, а разделяет их. Критические системы сегментируются, чтобы взлом одной области автоматически не превращался во взлом всей организации. Устойчивость также означает подготовку шифрования к постквантовой эпохе, минимальные привилегии для идентичностей и ограниченные разрешения для ИИ-агентов.

Защищать нужно и системы восстановления. Резервные копии нельзя подключать к той же среде, которую пытается взломать атакующий. Организация не может начинать реагирование только после того, как ей уже нанесён серьёзный ущерб.

Кибербезопасность должна постоянно включать:

Эта идея лежит в основе работы автора о кибербезопасности, новых технологиях и цифровом доверии, включая книгу «Inside Cyber: How AI, 5G, IoT, and Quantum Computing Will Transform Privacy and Our Security». Технологии постоянно меняются, но базовая потребность остаётся прежней: архитектура безопасности должна успевать за изменениями.

Решение — более сильная защита

Кибератаки с применением ИИ будут всё чаще попадать в заголовки. Организации, которые недооценивают изменения ландшафта угроз, окажутся под риском.

Но стратегической ошибкой будет считать ограничение ИИ единственным решением. ИИ важен для экономической конкурентоспособности США и их союзников, научного развития, здравоохранения, обороны, разведки и национальной безопасности. Целью должно стать ответственное внедрение технологий при наличии устойчивой архитектуры защиты.

Это означает:

ИИ будет участвовать в создании проблем кибербезопасности и одновременно играть всё более заметную роль в их решении. Успешными окажутся не обязательно компании, которые используют меньше всего ИИ или самые передовые модели. Преимущество будет у тех, кто умеет управлять доступом к технологиям, защищать данные, разделять системы, проверять идентичности, усиливать шифрование и контролировать цифровую среду.

Будущее кибербезопасности определит не сам факт успеха или неудачи ИИ. Решит то, удастся ли создать достаточно устойчивые системы для мира, где ИИ используется повсеместно. Главная задача — построить архитектуру кибербезопасности, которая позволит безопасно применять ИИ.