Одно и то же слово и совет На пользу мудрецу, глупцу во вред (аль-Хусри).

Google предупреждает о скором появлении полностью автономных ИИ-кибератак


Google предупреждает о скором появлении полностью автономных ИИ-кибератак

Искусственный интеллект постепенно меняет не только разработку программного обеспечения и работу с информацией, но и методы киберпреступников. Если раньше злоумышленники использовали языковые модели преимущественно как вспомогательный инструмент для написания вредоносного кода, подготовки фишинговых сообщений и поиска технической информации, то теперь они переходят к более сложным схемам. Несколько ИИ-агентов могут совместно исследовать программное обеспечение, находить уязвимости, создавать эксплойты и пытаться использовать их без постоянного участия человека.

О такой тенденции 16 ноября 2026 года сообщила Google Threat Intelligence Group (GTIG) в новом выпуске отчёта AI Threat Tracker. Исследователи зафиксировали реальные случаи, когда злоумышленники применяли многоагентные системы для автоматизации поиска и эксплуатации уязвимостей. Более того, Google впервые обнаружила инфраструктуру, в которой весь этот процесс выполнялся без участия оператора на отдельных этапах.

Прогноз специалистов выглядит тревожно: в ближайшие три месяца могут стать практически реализуемыми относительно простые атаки, требующие минимального вмешательства человека. Появление более сложных полностью автономных атак Google ожидает в перспективе примерно шести месяцев. Это именно прогноз исследователей, а не утверждение, что такие возможности уже массово используются против организаций.

Подробности наблюдений и технические примеры приведены в официальном отчёте Google Threat Intelligence Group.

 

От отдельных ИИ-запросов к автономным агентам

На раннем этапе применения искусственного интеллекта в киберпреступности злоумышленники в основном использовали чат-боты и языковые модели как помощников. Например, модель могла объяснить принцип работы определённой уязвимости, предложить фрагмент кода, помочь составить фишинговое письмо или адаптировать существующий вредоносный инструмент.

Однако такой подход всё ещё требовал постоянного участия человека. Оператор должен был формулировать запросы, проверять ответы, исправлять ошибки и самостоятельно запускать подготовленные инструменты. ИИ ускорял отдельные операции, но не управлял всей атакой.

Агентные системы работают иначе. Они способны получать общую задачу, самостоятельно разбивать её на этапы, обращаться к внешним инструментам, анализировать результаты и выбирать дальнейшие действия. Несколько агентов могут специализироваться на разных операциях: один исследует целевую инфраструктуру, другой анализирует исходный код, третий готовит проверку найденной проблемы, а четвёртый оценивает результат.

В кибербезопасности подобная архитектура может использоваться как для защиты, так и для нападения. Защитные команды применяют автоматизацию для анализа журналов, поиска подозрительной активности и проверки программного обеспечения. Злоумышленники используют аналогичные возможности для разведки, поиска слабых мест и ускорения эксплуатации уязвимостей.

Google отмечает, что за последний квартал злоумышленники стали активнее переходить от простого взаимодействия с языковыми моделями к многоагентным системам и специализированным наступательным платформам. Среди упомянутых инструментов — ARTEX, CAIRN, CyberStrikeAI и PentAGI. Само наличие таких инструментов не означает, что каждый из них используется исключительно преступниками: многие технологии тестирования безопасности имеют легитимное назначение, но могут быть приспособлены для атак.

 

Exploit_agent: система, которая самостоятельно ищет уязвимости

Одним из наиболее показательных примеров в отчёте Google стала обнаруженная исследователями система под названием exploit_agent. Она представляла собой многоагентную инфраструктуру для исследования программного обеспечения и подготовки эксплойтов. Система была размещена на доступном извне тестовом сервере, который позволил специалистам GTIG изучить её устройство и связанные с ней данные.

В отличие от обычного сканера уязвимостей, exploit_agent использовала несколько больших языковых моделей — как передовые коммерческие решения, так и локально развернутые модели. Их задача заключалась в автоматизированном анализе изменений в популярных веб-приложениях.

Логика работы строилась вокруг сравнения версий программного обеспечения до и после выпуска исправлений безопасности. Когда разработчик публикует обновление, устраняющее определённую проблему, в изменённом коде часто можно обнаружить подсказки о характере исправленной уязвимости. Сравнивая старую и новую версии, исследователь может определить, какой участок программы был изменён и какую потенциальную возможность для атаки это закрывает.

Exploit_agent автоматизировала значительную часть такого процесса:

  • Получение исходных данных. Система анализировала обновления популярных веб-приложений и связанные с ними изменения кода.
  • Сравнение версий. ИИ-модели выявляли изменения, которые могли указывать на устранение проблем безопасности.
  • Поиск слабых мест. На основании найденных различий система пыталась определить потенциальную уязвимость.
  • Подготовка эксплойта. При обнаружении подходящей проблемы создавался код для её проверки и эксплуатации.
  • Автоматическая проверка. Система могла самостоятельно запускать подготовленный эксплойт, не ожидая отдельной команды оператора на каждом этапе.

 

Таким образом, exploit_agent объединяла анализ программного обеспечения и практическую проверку найденных проблем. Особенно важно, что Google обнаружила признаки использования этой системы против реальных целей, а не только в лабораторных экспериментах.

На тестовом сервере исследователи также нашли сведения о пострадавших ресурсах, данные разведки, веб-шеллы и скрипты для подбора паролей. В том числе присутствовали инструменты, предназначенные для установки веб-шеллов и удаления аналогичных компонентов, оставленных другими злоумышленниками. По собранным данным Google предположила, что оператор системы проявлял особый интерес к французским сайтам, связанным со СМИ, индустрией развлечений и образованием.

Принципиальная новизна заключается не в том, что искусственный интеллект способен написать эксплойт. Подобные возможности обсуждались и демонстрировались ранее. Важнее то, что исследователи впервые зафиксировали полноценную автоматизацию поиска уязвимостей и их эксплуатации в реальной деятельности злоумышленников без человека в цепочке принятия решений на этих этапах.

 

Почему анализ исправлений может быть опаснее поиска неизвестных уязвимостей

Один из наиболее интересных выводов Google связан с различием между поиском уязвимостей нулевого дня и эксплуатацией уже исправленных проблем. Уязвимость нулевого дня (zero-day) — это дефект, для которого на момент обнаружения или атаки ещё нет общедоступного исправления либо разработчик не успел устранить проблему.

Такие уязвимости могут быть особенно ценными для атакующих, но их поиск требует значительных ресурсов. Необходимо исследовать большие объёмы кода, проверять разные варианты входных данных, анализировать поведение приложения и искать ошибки, которые не всегда очевидны даже опытным специалистам.

С исправленными уязвимостями ситуация несколько иная. Когда разработчик публикует патч, часть необходимой информации уже становится доступной. Сравнение старого и нового кода позволяет сузить область поиска. Если обновление исправляет ошибку в механизме проверки прав доступа, обработки запросов или загрузки компонентов, соответствующий участок программы становится очевидной отправной точкой для дальнейшего исследования.

Для ИИ-агента это подходящая задача: вместо анализа всей программы можно сосредоточиться на ограниченном наборе изменений. Модель помогает выявить потенциальную причину исправления, а автоматизированные инструменты проверяют гипотезу.

Такие уязвимости называют n-day: информация о них уже стала известна, а исправление может существовать, но далеко не все организации успели его установить. Именно этот промежуток между публикацией патча и фактическим обновлением инфраструктуры становится особенно привлекательным для атакующих.

В результате автоматизация может значительно сократить время, которое остаётся у администратора после публикации обновления. Если раньше злоумышленнику требовалось вручную изучить исправление, подготовить код и проверить его, то теперь часть этой работы может выполняться агентной системой практически сразу после появления необходимых материалов.

 

PHP2Shell и проблема массового появления ИИ-эксплойтов

В отчёте Google приводится и другой показательный пример — ситуация вокруг уязвимостей PHP, получивших обозначение PHP2Shell. После публикации информации о двух проблемах безопасности и выпуска исправлений в открытом доступе появилось большое количество предполагаемых эксплойтов.

По наблюдениям исследователей, сотни опубликованных вариантов подтверждения концепции (Proof of Concept, PoC) были, вероятно, созданы с помощью ИИ. При этом значительная часть таких материалов не работала или содержала ошибки.

На первый взгляд это может показаться незначительной проблемой: если эксплойт не работает, он не представляет серьёзной угрозы. Однако для специалистов по защите возникает дополнительная нагрузка. Им приходится проверять опубликованные образцы, выяснять, какие из них действительно используют уязвимость, и отделять реальные угрозы от ошибочных или полностью вымышленных результатов.

Языковые модели способны генерировать убедительно выглядящий код, который при этом не соответствует реальному поведению программы. Они могут неправильно интерпретировать документацию, придумывать параметры или создавать код, который выглядит технически правдоподобно, но не работает на практике.

В результате возникает парадоксальная ситуация: ИИ помогает злоумышленникам быстрее создавать потенциальные инструменты атаки, но одновременно увеличивает объём работы для защитников, которым необходимо проверять всё больше сомнительных образцов.

Для компаний это означает, что одного автоматического обнаружения сигнатур уже недостаточно. Необходимо оценивать поведение программ, проверять реальные попытки эксплуатации и учитывать контекст конкретной уязвимости.

 

ИИ используют не только для поиска уязвимостей

В отчёте Google описаны и другие направления применения искусственного интеллекта злоумышленниками. В частности, исследователи обнаружили деятельность группы UNC6836, которую связывают с кластером активности под названием Midnight Neptune. Предполагаемые участники этой группы атаковали криптовалютные компании в Северной Америке и Европе.

По данным GTIG, в одной из операций злоумышленники использовали изменённую версию Claude Code. После первоначального проникновения в систему атакующие модифицировали настройки приложения так, чтобы при его запуске загружался бэкдор SOMBERMEME. Этот случай демонстрирует, что инструменты для разработки с помощью ИИ могут стать частью цепочки заражения, если злоумышленник получает возможность изменить их конфигурацию или окружение.

Это особенно важно для организаций, где сотрудники используют ИИ-ассистентов для работы с исходным кодом и автоматизации разработки. Сам по себе установленный помощник не является угрозой, но его конфигурация, подключённые расширения, скрипты и права доступа должны контролироваться так же внимательно, как и у любого другого программного инструмента.

Кроме того, Google фиксирует регулярное использование языковых моделей в информационных операциях. Государственные группы, коммерческие поставщики услуг влияния и политические сети применяют ИИ для подготовки синтетических материалов, создания локализованных персонажей и автоматизации распространения контента на разных платформах.

Отдельной проблемой стало так называемое LLMjacking — незаконное использование чужих ресурсов искусственного интеллекта. Злоумышленники похищают учётные данные, API-ключи и доступ к облачным вычислениям, после чего используют чужую инфраструктуру для обращения к платным моделям или перепродают доступ к ним через посреднические сервисы. Для пострадавшей организации это может обернуться не только утечкой данных, но и значительными непредвиденными расходами.

 

Почему автономные атаки представляют особую угрозу для бизнеса

Традиционные кибератаки часто требуют от оператора значительного объёма ручной работы. Человек выбирает цель, проводит разведку, подбирает инструменты, проверяет результаты и решает, что делать дальше. Даже при использовании скриптов и готовых наборов эксплойтов многие этапы зависят от действий специалиста.

Автономные агентные системы способны ускорить сразу несколько этапов. Они могут работать круглосуточно, одновременно обрабатывать множество целей и адаптировать последовательность действий на основе полученных результатов. Если одна попытка не удалась, агент может изменить подход или передать задачу другому специализированному модулю.

Для организаций это создаёт несколько серьёзных рисков:

  • Сокращение времени реакции. Между публикацией информации об уязвимости и началом попыток её эксплуатации может оставаться всё меньше времени.
  • Рост масштаба атак. Автоматизация позволяет проверять большое количество доступных из интернета систем без пропорционального увеличения числа операторов.
  • Снижение технического порога. Менее опытные злоумышленники получают доступ к сложным инструментам, которые раньше требовали специальных знаний.
  • Адаптация к защите. Агентные системы могут анализировать результаты неудачных попыток и менять дальнейшие действия.
  • Усложнение расследования. Большое количество автоматизированных операций и сгенерированных артефактов затрудняет анализ инцидентов.

 

Особенно уязвимыми могут оказаться компании с большим количеством внешних сервисов, устаревшими веб-приложениями, незащищёнными тестовыми средами и недостаточно организованным процессом установки обновлений.

При этом автоматизация не делает любую атаку успешной. Уязвимость может оказаться неприменимой к конкретной конфигурации, эксплойт — ошибочным, а защитные механизмы — заблокировать попытку эксплуатации. Но даже неудачные автоматизированные попытки способны увеличить нагрузку на инфраструктуру и службу информационной безопасности.

 

Как организациям подготовиться к новой волне атак

Главный практический вывод из предупреждения Google заключается в необходимости сокращать промежуток между обнаружением уязвимости и установкой исправления. Подход, при котором администраторы проверяют обновления только время от времени, становится всё менее безопасным для систем, доступных из интернета.

Организациям следует пересмотреть процессы управления уязвимостями и уделить особое внимание автоматизации защитных операций. При этом не обязательно внедрять сложные ИИ-платформы: базовые меры информационной безопасности остаются эффективными и необходимыми.

В первую очередь рекомендуется:

  • Своевременно устанавливать обновления. В первую очередь необходимо исправлять уязвимости в веб-серверах, CMS, VPN-шлюзах, системах удалённого доступа и других сервисах, доступных из интернета.
  • Вести инвентаризацию инфраструктуры. Организация должна понимать, какие приложения, версии библиотек и сетевые службы используются на её серверах.
  • Ограничивать внешнюю доступность. Тестовые панели, административные интерфейсы и служебные API не должны быть открыты всему интернету без необходимости.
  • Использовать многофакторную аутентификацию. MFA снижает вероятность успешного использования похищенных паролей, хотя не защищает от всех сценариев компрометации.
  • Контролировать учётные данные. API-ключи, токены и пароли необходимо хранить в защищённых хранилищах, ограничивать их полномочия и регулярно менять при подозрении на утечку.
  • Настроить мониторинг. Следует отслеживать необычные запросы, попытки эксплуатации уязвимостей, создание новых учётных записей и подозрительную активность на серверах.
  • Проверять резервные копии. Наличие актуальных резервных копий и проверенной процедуры восстановления помогает уменьшить последствия успешной атаки.

 

Отдельное внимание стоит уделить ИИ-инструментам, используемым внутри компании. Необходимо контролировать подключаемые расширения, конфигурационные файлы, разрешения и возможность выполнения внешнего кода. Если агент имеет доступ к репозиториям, облачным сервисам или внутренним системам, его полномочия должны быть ограничены задачей, а критические действия — требовать подтверждения человека.

Полезно также использовать принцип минимальных привилегий: ни один сервис или агент не должен получать больше доступа, чем ему действительно необходимо. Это особенно важно для автоматизированных систем, способных выполнять несколько операций подряд без постоянного контроля сотрудника.

Дополнительные рекомендации по защите ИИ-инфраструктуры и снижению рисков можно найти в материалах Google Threat Intelligence Group и в документации CISA по базовым принципам кибербезопасности.

 

Полностью автономные атаки — уже реальность или пока прогноз?

Важно правильно интерпретировать предупреждение Google. Исследователи действительно обнаружили систему exploit_agent, которая автоматически выполняла поиск уязвимостей и попытки их эксплуатации. Это уже не теоретическая демонстрация возможностей языковой модели, а наблюдение за реальной инфраструктурой злоумышленников.

Однако из этого не следует, что киберпреступники уже располагают универсальными системами, способными самостоятельно взламывать любые организации. Обнаруженная автоматизация была ориентирована на определённые задачи и типы программного обеспечения. Её эффективность зависит от доступности исходных данных, особенностей целевых приложений и наличия подходящих уязвимостей.

Прогноз о появлении более простых атак с минимальным участием человека в течение трёх месяцев и сложных полностью автономных операций примерно через полгода отражает оценку специалистов GTIG. Это не точное расписание будущих событий и не гарантия того, что все прогнозируемые возможности появятся в указанные сроки.

Тем не менее направление развития очевидно: искусственный интеллект постепенно превращается из вспомогательного инструмента в самостоятельный элемент киберопераций. И чем больше задач можно передать агентам, тем меньше времени потребуется злоумышленнику для организации масштабной кампании.

 

Выводы

Предупреждение Google показывает, что автоматизированные ИИ-кибератаки переходят из экспериментальной стадии в практическое применение. Исследователи впервые зафиксировали систему, которая без постоянного участия человека выполняла поиск уязвимостей, готовила эксплойты и пыталась использовать обнаруженные проблемы.

Особую опасность представляет автоматизация анализа исправлений безопасности. После публикации патча злоумышленники могут исследовать изменения в коде и быстро определять, какую именно проблему устранил разработчик. Если организация не успевает установить обновление, она рискует столкнуться с атакой практически сразу после раскрытия информации об уязвимости.

В ближайшие месяцы, по оценке Google, автономность подобных операций может существенно возрасти. При этом речь не идёт о появлении универсального ИИ-хакера, способного безошибочно взламывать любые системы. Реальные атаки по-прежнему зависят от уязвимостей, конфигурации инфраструктуры и эффективности защитных механизмов.

Для системных администраторов и специалистов по безопасности главный вывод вполне практический: своевременное обновление серверов, контроль внешних сервисов, защита учётных данных и постоянный мониторинг становятся ещё важнее. В эпоху агентного ИИ задержка с установкой исправления может превратиться из обычной технической проблемы в серьёзный риск для всей организации.

 

Часто задаваемые вопросы

Это кибератака, в которой ИИ-агенты самостоятельно выполняют несколько связанных операций: анализируют цели, ищут уязвимости, подготавливают инструменты и проверяют результаты. Человек может задавать общую задачу, но не обязан вручную управлять каждым этапом.

Исследователи обнаружили систему exploit_agent, которая автоматически анализировала изменения в программном обеспечении, искала потенциальные уязвимости, создавала эксплойты и пыталась их запускать. Google связала эту инфраструктуру с атаками на французские сайты.

По прогнозу Google, относительно простые атаки с минимальным участием человека могут стать реальностью в течение трёх месяцев, а более сложные полностью автономные операции — примерно в течение шести месяцев. Это прогноз, а не подтверждённый график распространения таких атак.

Это обнаруженная Google многоагентная система, предназначенная для автоматизированного исследования программного обеспечения и эксплуатации уязвимостей. Она использовала несколько больших языковых моделей и анализировала различия между версиями приложений до и после установки исправлений.

Это уже известные уязвимости, для которых информация и зачастую исправления доступны публично. Опасность заключается в том, что организации могут не успеть установить патч, а злоумышленники способны быстро подготовить средства эксплуатации на основе анализа изменений в коде.

Нет. Возможности ИИ ограничены конкретными задачами, доступными данными, особенностями программного обеспечения и существующими защитными механизмами. Автоматизация ускоряет отдельные этапы атаки, но не гарантирует успешное проникновение в любую систему.

Необходимо регулярно устанавливать обновления операционной системы и серверного ПО, ограничивать доступ к административным интерфейсам, использовать MFA, контролировать SSH-доступ, отслеживать журналы событий и своевременно устранять известные уязвимости. Также важно отключать ненужные службы и проверять резервные копии.

Да. Google описала случай, в котором злоумышленники изменили настройки Claude Code так, чтобы при запуске инструмента загружался бэкдор. Поэтому необходимо защищать конфигурации ИИ-ассистентов, проверять расширения и ограничивать права доступа таких приложений.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Редактор: AndreyEx

Если статья понравилась, поделитесь ей в социальных сетях

Оставить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Это может быть вам интересно


Спасибо!

Теперь редакторы в курсе.

Прокрутить страницу до начала