Apple введет более строгие ограничения для приложений macOS, запрашивающих широкий доступ к данным, хранящимся на Mac, объявила компания 2 октября. Решение последовало за жалобами на ИИ-агента Meta Muse и подчеркивает более широкий вопрос, стоящий перед программной индустрией: какой доступ должны иметь ИИ-агенты и как этот доступ должен раскрываться и регулироваться.

Что Apple меняет в отношении Full Disk Access

В обновлении для разработчиков Apple сообщила, что Full Disk Access может открыть доступ к файлам, письмам, сообщениям и истории браузера, поскольку обходит средства защиты, которые обычно оберегают данные приложений.

«В дальнейшем мы введем дополнительные механизмы контроля, чтобы пользователи, которые действительно хотят предоставить приложению этот чрезвычайный уровень доступа, могли сделать это только посредством очень явных действий», — написала Apple. Компания добавила, что «по мере роста возможностей и автономности ИИ-агентов риски, связанные с этим уровнем доступа, будут существенно возрастать».

Как поясняет Reuters, эта проблема особенно актуальна для компьютеров Mac. iPhone и iPad спроектированы так, чтобы по умолчанию изолировать приложения друг от друга, тогда как приложение в macOS с привилегией Full Disk Access может получить доступ к значительно более широкому спектру пользовательских данных.

То, как быстро появятся новые механизмы контроля и сколько шагов потребует процесс явного согласия, определит фактический масштаб изменений — за этими деталями будут следить и разработчики, и пользователи.

Почему вызвали жалобы Muse

Изменение последовало за жалобами обозревателя Inc Джейсона Эйтена, который сообщил, что Muse прочитала личные сообщения на его Mac, хотя он не включал Full Disk Access. Его публикация привела к публичному спору с Meta.

Представитель Meta Энди Стоун заявил в X, что доступ к Apple Messages включается только по согласию пользователя: сначала необходимо активировать как Full Disk Access, так и коннектор Messages, причем это разрешение можно отозвать в любой момент.

Независимо от того, какая версия верна, спор высвечивает центральный вопрос изменения со стороны Apple: может ли пользователь с первого взгляда определить, какие разрешения использует агент.

Это не первый инцидент с безопасностью у Muse. Согласно более раннему репортажу Cryptopolitan, Meta усилила предупреждения о безопасности Muse после того, какователь обнаружил уязвимость с классификацией SEV-2, которая потенциально могла дать злоумышленнику доступ к виртуальной машине, письмам и файлам пользователя.

Почему агентам нужны ключи ко всему

Это противоречие заложено в самой природе агентного ИИ: чем полезнее становится агент, тем больше доступа ему может требоваться.

Всемирный экономический форум рекомендует использовать Agent Capability and Authorization Profile — профиль, определяющий, к чему агент может иметь доступ и что ему разрешено делать, чтобы эти ограничения было проще отслеживать и соблюдать.

PwC придерживается схожей позиции. Компания считает, что следует управлять ИИ-агентами как цифровой рабочей силой, с четким закреплением ответственности, доступом на основе конкретных задач и ограничениями на самостоятельные действия агентов.

ОЭСР звучит более осторожно. В своем докладе организация отмечает, что агентный ИИ все еще развивается и потребуется дополнительная работа, прежде чем такие системы можно будет считать заслуживающими доверия.

Эти рекомендации носят консультативный, а не обязательный характер; для большинства пользователей они действуют лишь через системы разрешений, встроенные в операционную систему, — тот уровень, который Apple сейчас ужесточает.

Доверие превращается в коммерческое ограничение

Эти опасения уже влияют на то, как компании внедряют искусственный интеллект. Исследование FTI Consulting показало, что 60% крупных предприятий замедлили, остановили или отложили внедрение ИИ из-за проблем с репутацией, регулированием и доверием.

Отчет SAS также указывает на разрыв в доверии: 76% респондентов доверяют генеративному ИИ, тогда как агентному — лишь 66%. Компании, инвестирующие в методы создания надежного ИИ, в 15 раз чаще получали высокую или хорошую отдачу от этих усилий.

На этом доверии стоят большие деньги. По прогнозам Gartner, инвестиции в ИИ-модели и платформы вырастут с $39,3 млрд в 2025 году до $64,3 млрд в 2026 году. По оценке Capgemini, к 2028 году ИИ-агенты могут создать ценность до $450 млрд, несмотря на то что лишь 2% компаний полностью внедрили ИИ-системы.

Трудности сейчас — более широкое внедрение потом

Ужесточение контроля со стороны Apple может создать неудобства, однако более прозрачные и отзывные разрешения могут и повысить готовность пользователей предоставлять агентам значимый доступ. По мере того как агентный ИИ переходит от экспериментов к повседневному использованию, дизайн разрешений становится частью самого продукта, а не просто вопросом соответствия требованиям.