Microsoft разъясняет, как агенты ИИ работают в Windows 11

Microsoft обновила документ поддержки, чтобы уточнить, как агенты искусственного интеллекта работают в Windows 11. Группа функций, находящихся на экспериментальной стадии, объявление о которых поставило многих в тупик из-за отсутствия безопасности, которую они предполагают, если их реализация не будет осуществляться с максимальным контролем пользователя.

Вы уже знаете, что агенты искусственного интеллекта (или агентурный ИИ) — это большая тенденция в искусственном интеллекте. Программный инструмент, который выходит далеко за рамки простых чат-ботов, которые мы использовали до сих пор, поскольку они могут выполнять задачи автономно и на самом продвинутом этапе, используя свои собственные умственные способности. Таким образом, его потенциал огромен, но также и его проблематичность перед лицом того, что предполагает, что кто-то посторонний действует от имени пользователя.

В настоящее время доверие к полностью автономным агентам очень низкое, и очень немногие компании сообщают о достаточном уровне зрелости инфраструктуры данных и технологий, необходимых для внедрения этой технологии с гарантиями работоспособности и безопасности. Из-за этого анонс агентов ИИ в Windows 11 вызвал все тревоги. Если Windows 11 сегодня находится в плачевном состоянии с точки зрения качества программного обеспечения, представьте, что может повлечь за собой развертывание агентов, для реализации которых все еще требуются годы исследований и разработок.

Агенты ИИ в Windows 11

Сама Microsoft уже предупредила, что агенты ИИ могут вызывать галлюцинации, вызывать ошибки вывода и потенциально представлять серьезные угрозы безопасности. Хотя есть и другие проблемы, такие как повышенное потребление ресурсов в разгар кризиса памяти, риски безопасности и конфиденциальности являются наиболее насущными.

Здесь следует сказать известное: киберпреступники всегда впереди. Если они уже широко используют генеративный искусственный интеллект для создания вредоносных программ, появляются новые методы атак, связанные с автономными агентами, в первую очередь внедрение перекрестных сообщений (XPIA). Эти атаки скрывают вредоносные инструкции в общих документах или элементах интерфейса, заставляя агента следовать им, а не выполнять свою задачу. Это может позволить агенту устанавливать вредоносное ПО, фильтровать платежную информацию или выполнять другие вредоносные действия. Очень и очень опасно, не говоря уже о рисках для конфиденциальности.

Разрешения

Обновление документа поддержки и внесенные изменения приветствуются, поскольку до сих пор Microsoft не дала четкого объяснения того, как эти агенты будут работать в операционной системе, их возможности доступа к данным и контроля со стороны пользователей. Главное — это подтверждение того, что агентский ИИ в Windows 11 будет дополнительной функцией, которую необходимо будет включить вручную.

Кроме того, Microsoft гарантирует, что Windows 11 запросит ваше согласие, прежде чем разрешить агенту ИИ доступ к вашим файлам, хранящимся в шести основных папках, которые по умолчанию отключены: Рабочий стол, Документы, Загрузки, Музыка, Изображения и видео. Даже если пользователь активирует экспериментальные функции агентов, они не смогут автоматически считывать файлы.

Также можно будет настроить права доступа к файлам для каждого агента, что ранее было неясно. Или предоставить отдельные разрешения для отдельных агентов или других помощников, которых Microsoft уже развернула в качестве второго пилота, исследователя или аналитика. Если агенту ИИ, например Copilot, необходим доступ к вашим файлам для выполнения задачи, появится всплывающее окно, в котором вы можете выбрать «Всегда разрешать», «Всегда спрашивать» или «Никогда не разрешать».

Элементы управления

Microsoft настаивает на том, чтобы агенты ИИ запускались в собственном рабочем пространстве агента, которое будет отделено от рабочего пространства пользователя и по умолчанию будет иметь ограниченные разрешения. У каждого агента, который у вас есть в Windows, будет своя страница настроек, с которой вы сможете управлять его разрешениями на доступ к вашим файлам.

При этом Microsoft также предупреждает, что «учетные записи агентов имеют доступ к любой папке, к которой имеют доступ все аутентифицированные пользователи, например, к общедоступным профилям пользователей». В этих сценариях необходимо учитывать один вопрос: если права доступа к папке включают такие группы, как пользователи/Аутентифицированные пользователи с доступом для чтения, то к ней может получить доступ учетная запись агента.

Будут и другие соединители агентов, которые работают с протоколом контекста модели (MCP) и которые будут функционировать как стандартизированные мосты, позволяющие агентам ИИ взаимодействовать с приложениями в Windows. Microsoft в настоящее время тестирует это в рамках своей инициативы по внедрению агентов ИИ на панель задач.

В информации, предоставленной Microsoft, вы можете увидеть два соединителя агентов, которые позволяют использовать приложения Проводник и Настройки системы. Для каждого из них можно настроить индивидуальные разрешения, что означает, что агентам ИИ может быть разрешено использовать эти приложения всегда, только один раз, когда это разрешено, или никогда.

Для доступа к этим настройкам будут добавлены определенные экраны в инструменте «Общие настройки» > «Система» > «Компоненты ИИ» > «Агенты». Там вы увидите список доступных агентов и их отдельную настройку.

Если вам не нужен ИИ, забудьте о Windows 11 и последующих версиях

Разъяснения (и изменения), направленные на усиление и улучшение управления агентами ИИ в Windows 11, являются положительными. И утверждение о том, что они будут совершенно необязательными, является обязательной гарантией, которая должна распространяться на любое программное обеспечение, использующее ИИ. Однако послужной список Microsoft не внушает доверия. Помимо повторяющихся сбоев с каждой функцией, которую он внедряет в Windows (а функция агентского искусственного интеллекта имеет огромное значение), недавние выпуски, такие как «Отзыв», были ужасными с точки зрения безопасности и конфиденциальности.

С другой стороны, негативные отзывы о будущем Windows как операционной системы на основе агентов были массовыми, когда она была анонсирована. На данный момент они необязательны, но будущее, похоже, намечено, и будущее развитие Windows, включая Windows 12, поставит ИИ на центральное место. Если вам не нравится такой подход, вы не спешите искать альтернативы. Linux — это гарантия от вторжения ИИ. На данный момент…

Редактор: AndreyEx