Браузер Brave начинает тестировать агентский ИИ-режим для автоматизации задач

Brave представил новую функцию просмотра с использованием искусственного интеллекта, которая задействует Leo, ИИ-помощника, соблюдающего конфиденциальность, для выполнения автоматизированных задач пользователя.

Эта функция, предназначенная для помощи в решении таких задач, как автономное исследование веб-страниц, сравнение товаров, поиск промокодов и обобщение новостей, в настоящее время находится на стадии тестирования и доступна в ночной версии Brave.

Новый агентский режим просмотра с использованием ИИ по умолчанию отключен. Это первый шаг к более тесной интеграции ИИ и пользователей в браузере, ориентированном на конфиденциальность.

Режим просмотра с помощью искусственного интеллекта на Leo
Источник: Brave

Риски, связанные с ИИ, и способы их устранения в Brave

Brave подчеркивает, что использование агентского ИИ для просмотра веб-страниц «по своей сути опасно» и не должно применяться для критически важных операций, главным образом из-за атак с внедрением подсказок и возможности неверно истолковать намерения пользователей.

Чтобы снизить этот риск, новый режим работает в отдельном изолированном профиле, у которого нет доступа к файлам cookie, данным для входа и другим конфиденциальным данным пользователя.

В этом режиме также будет ограничен доступ к странице настроек браузера, сайтам, не использующим протокол HTTPS, интернет-магазину Chrome, где можно загружать расширения, а также к сайтам, помеченным системой безопасного просмотра Brave.

Все его действия будут отображаться на вкладках, а при возникновении рискованных ситуаций пользователь будет получать предупреждения с просьбой подтвердить действие.

Пользователю предлагается взять управление на себя на этапе оформления заказа
Источник: Brave

Кроме того, за режимом будет следить механизм «проверки соответствия», аналогичный тому, который Google недавно анонсировал для агентского режима Gemini в Chrome. В этом режиме изолированная вторая модель оценивает, соответствуют ли действия агента намерениям пользователя.

Будучи изолированной, эта вторая модель не подвержена атакам с внедрением подсказок, нацеленным на основной агент.

Кроме того, Brave будет кодировать конкретные правила на основе политик и использовать модели, обученные предотвращать внедрение подсказок, такие как Claude Sonnet, для обеспечения эффективной защиты.

Что касается конфиденциальности данных, которая является основной ценностью Brave, то, по словам разработчиков, никаких компромиссов не будет. Система сохранит прежнюю политику блокировки рекламы и трекеров, а также политику отсутствия логов. При этом никакие пользовательские данные не будут использоваться для обучения моделей ИИ.

Тестирование нового режима

Те, кто хочет протестировать новый агентский режим искусственного интеллекта в Brave, могут сделать это только в Brave Nightly, включив флаг «Просмотр с использованием искусственного интеллекта в Brave» в «brave://flags».

После этого в окне чата Лео появится кнопка, которая активирует новый режим просмотра.

Отзывы тестировщиков, которые помогут решить любые проблемы можно оставлять здесь, а также объявление Brave об удвоении выплат HackerOne за обнаружение ошибок, связанных с искусственным интеллектом при просмотре.

Редактор: AndreyEx