Microsoft опубликовала важное предупреждение о возможностях агентов искусственного интеллекта, которые скоро появятся в Windows 11 — пользователям рекомендуется включать эту функцию, только если они «осознают последствия для безопасности», и из-за вероятных угроз она будет по умолчанию отключена.
HUAWEI FreeArc: вероятно, самые удобные TWS-наушники
Обзор умных часов HUAWEI WATCH 5: часы юбилейные
Фитнес-браслет HUAWEI Band 10: настоящий металл
Hollow Knight: Silksong — песнь страданий и радостей. Рецензия
Пять причин полюбить HONOR Pad V9
Почему ИИ никак не сесть на безматричную диету
Пять причин полюбить HONOR X8c
Пять причин полюбить HONOR Magic7 Pro
Microsoft намерена со временем превратить Windows 11 в ОС с расширенным присутствием агентов ИИ — не у всего сообщества пользователей инициатива находит поддержку, но компания упорно подвигает свою концепцию, и сейчас она на пороге развёртывания первых полноценных функций агентского ИИ на платформе. «Этот параметр может включить только администратор устройства, и после включения он будет доступен всем пользователям на нём, в том числе другим администраторам и обычным пользователям», — указывает компания.
Когда ИИ-агент активен, у него есть ограниченный доступ к папке профиля пользователя (C:Usersusername), а также к стандартным папкам загрузок, документов, изображений, видео, музыки и рабочего стола. Но для работы он обращается к собственному новому рабочему пространству — у него собственная безопасная среда рабочего стола, но с доступом к ПО и файлам пользователя. Это сопряжено с определёнными рисками. «ИИ-приложения создают новые угрозы безопасности, такие как перекрёстное внедрение запросов (XPIA), при котором встроенное в пользовательский интерфейс или документы вредоносное содержимое может переопределять инструкции для агента, что приводит к ненамеренным действиям, в том числе краже данных или установке вредоносного ПО», — предупреждает Microsoft.
В связи с наличием такой опасности компания обозначила ряд принципов, которым намерена следовать при разработке агентов в Windows, в том числе обеспечение постоянной видимости ИИ-инструментов и обязательное одобрение пользователем любых принимаемых ИИ решений. «У агентов должна быть возможность создавать описывающие их действия журналы. Windows должна иметь возможность проверять эти действия с помощью журнала аудита, защищённого от несанкционированного доступа», — отмечает разработчик.
Первые предварительные сборки Windows 11 стали доступны для участников программы тестирования уже вчера, хотя приложения эту функцию пока не поддерживают. Скоро в агентском рабочем пространстве сможет действовать ИИ-помощник Copilot, а затем и другие ИИ-приложения.
