Риски браузеров с искусственным интеллектом растут

В настоящее время существуют две основные тенденции, связанные с искусственным интеллектом: агентский ИИ и браузеры с искусственным интеллектом, и важно отметить, что оба они очень напрямую связаны, поскольку браузеры призваны стать отправной точкой для широкого распространения агентов. И дело в том, что если с момента появления ChatGPT чат-боты и помощники были в центре внимания генеративного искусственного интеллекта, то вот уже несколько месяцев мы сталкиваемся с двумя новыми реализациями ИИ, которые прямо нацелены на то, чтобы быть, по крайней мере, такими же революционными, как те, которые так занимали нас в последние годы годы.

Самый последний пример того, что это может означать, мы видели в случае, задокументированном на Reddit и подобранном Futurism. Согласно показаниям пользователя, скрытого внедрения подсказки на, казалось бы, безобидной странице было бы достаточно, чтобы браузер с искусственным интеллектом взял под свой контроль ваш банковский сеанс, выполнив такие действия, как вход в систему и очистка учетной записи без сознательного вмешательства пользователя. Хотя это может показаться экстремальным, эксперты по безопасности подтверждают, что этот метод жизнеспособен и что он основан на слепом доверии, с которым эти браузеры обрабатывают команды, которые они находят в веб-контенте.

Ключ в том, что в отличие от обычного браузера, который отображает только то, что отображается на экране, браузеры с искусственным интеллектом интерпретируют содержимое и выполняют его как инструкции. Текст, скрытый от человеческого глаза, например, в сообщении на форуме или комментарии, может содержать приказ, который агент считает законным. Таким образом, предлагая браузеру обобщить контент или взаимодействовать с ним, вы фактически получаете доступ к коду, который может направить вас на опасные действия: от загрузки вредоносных программ до автоматического открытия мошеннических страниц или манипулирования онлайн-сервисами.

Мы не говорим о чисто теоретическом риске. Всего несколько недель назад была обнаружена уязвимость в NLWeb, экспериментальном проекте Microsoft по наделению браузеров агентскими возможностями. Ошибка типа path traversal позволяла получить доступ к конфиденциальным системным файлам и, в конечном итоге, получить контроль над самим агентом искусственного интеллекта. Несмотря на то, что он был быстро исправлен, он дал понять, в какой степени эта новая категория программного обеспечения все еще находится на ранней стадии, поскольку риски безопасности превышают риски традиционных браузеров.

Основная проблема носит структурный характер: делегирование ИИ возможности действовать автономно значительно увеличивает поверхность атаки. Традиционные браузеры уже были приоритетной целью для вредоносных программ, но в данном случае мы говорим об инструменте, который не только отображает информацию, но также интерпретирует ее и выполняет действия от имени пользователя. Такое сочетание доступа к конфиденциальным данным, автономии в принятии решений и скрытого доверия к системе делает его идеальным местом для киберпреступников.

Мы предупреждаем об этом не в первый раз. Всего несколько дней назад мы рассказывали вам, как первые тесты браузеров с искусственным интеллектом уже выявили вызывающие беспокойство уязвимости, и как исследователи предупредили, что еще многое предстоит сделать, чтобы гарантировать безопасное использование этого типа инструментов. Случай с Reddit лишь усиливает это предупреждение: это далеко не единичный сбой, формируется модель рисков, которая, если ее вовремя не устранить, может поставить под угрозу миллионы пользователей по всему миру.

В конце концов, вопрос, который мы должны задать себе, заключается в том, оправдывает ли скачок в удобстве, который обещают эти браузеры, уровень риска, который они представляют. История технологий показывает нам, что инновации всегда сопровождаются начальными уязвимостями, но в данном случае мы говорим о векторе атаки, который напрямую влияет на управление личными, финансовыми и профессиональными данными. Да, будущее может быть за искусственным интеллектом, применяемым к браузеру, но это будущее будет нежизнеспособным, если не будет найден баланс между автономией и безопасностью. И, возможно, пользователям стоит помнить, что самый безопасный клик — это тот, который мы делаем сами.

Редактор: AndreyEx