Корпорация Microsoft будет массово внедрять в Windows 11 автономных ИИ-агентов, способных выполнять задачи за пользователя. Это решение принято, несмотря на внутренние предупреждения о рисках «галлюцинаций» алгоритмов и создании новых векторов для кибератак, сообщает windows latest.
По замыслу Microsoft, пользователи смогут заменять клики мыши и нажатия клавиш командами на естественном языке. Для этого в систему интегрируют голосового и визуального помощника Copilot, а также функцию Copilot Actions, где ИИ-агенты будут действовать самостоятельно. Панель задач станет центром управления этими агентами: поле поиска заменят на интерфейс Ask Copilot для их запуска.
«ИИ-агенты имеют функциональные ограничения в плане своего поведения, иногда могут галлюцинировать и выдавать непредсказуемые результаты», — говорится в официальной документации Microsoft.
Для изоляции потенциально опасной активности каждый агент будет работать в отдельном сеансе Windows — Agent Workspace — со своей учётной записью, рабочим столом и ограниченными правами. Это пространство не является виртуальной машиной, но должно препятствовать проникновению агента в системные каталоги. Все его действия будут фиксироваться в журнале.
Несмотря на изоляцию, агенты получат доступ к ключевым пользовательским папкам («Документы», «Загрузки», «Изображения») для взаимодействия с файлами и приложениями. Для управления этим доступом Microsoft использует Model Context Protocol (MCP) — централизованную систему контроля и аутентификации.
Включить экспериментальные функции агентов можно только вручную в настройках. По умолчанию они отключены.
«Вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределить инструкции агента, что приведёт к совершению непреднамеренных действий, включая извлечение данных и установку вредоносного ПО. Мы рекомендуем вам ознакомиться с этой информацией и понять последствия для безопасности, связанные с активацией агента на вашем компьютере», — предупреждала Microsoft.
Главный риск, на который указывает компания, — атаки межпрограммного внедрения промптов (XPIA). Злоумышленник может скрыть вредоносные инструкции в интерфейсе программы или документе, с которым работает агент, и заставить его, например, скопировать конфиденциальные данные. Исследователи кибербезопасности ранее подтверждали такую уязвимость.
Microsoft намеренно превращает Windows 11 в полигон для испытаний рискованных ИИ-агентов, несмотря на скандал с предыдущей нашумевшей функцией Recall. Как сообщал «Жуковский.Life», новая функция агентного ИИ в Windows 11, способная автономно выполнять задачи, может быть использована для скрытой установки вредоносного ПО — об этом предупреждает сама корпорация.