Сигнал Мередит Уиттакер говорит, что ИИ-чатботы «не ваши друзья» и называет агентов Copilot задней дверью.

      TL;DRПрезидент Signal Мередит Уиттакер предупреждает, что AI-чат-боты «не ваши друзья», «не сознательные существа» и «не чувствующие собеседники», выступая против растущей тенденции пользователей рассматривать AI-системы как доверенных компаньонов. Эти комментарии прозвучали в интервью Bloomberg, опубликованном на этой неделе, в котором Уиттакер изложила свою точку зрения о том, что агентный AI, продвигаемый такими компаниями, как Microsoft, представляет собой новую форму инфраструктуры наблюдения. Уиттакер, которая возглавляет некоммерческую организацию по зашифрованной переписке с сентября 2022 года, признала, что использует AI-инструменты «для форматирования документа здесь и там», но провела четкую границу на чем-то более значительном. «Я не задаю им вопросы», — сказала она. «Я очень серьезно отношусь к своему мышлению и письму, и не хочу, чтобы процесс работы над идеей был закрыт или затмён ответом системы, которая усредняет то, что уже существует», — добавила она. Ее самая резкая критика была направлена на предсказание генерального директора Microsoft AI Мустафы Сулеймана о том, что пользователи смогут позволить Microsoft Copilot заниматься всеми своими рождественскими покупками, подслушивая групповые чаты семьи, чтобы определить, кто чего хочет. Уиттакер методично перечислила доступ, который такая система потребует: «моя кредитная карта, мой браузер, мой Signal, возможность отправлять сообщения моим братьям и сестрам от моего имени, мой домашний адрес, мой календарь». «То, что вы только что описали, — это система с очень широким доступом ко многим приложениям и сервисам», — сказала Уиттакер. «В контексте Signal это будет представлять собой своего рода заднюю дверь». Формулировка «задняя дверь» является преднамеренной и имеет вес, исходя от главы Signal, которая управляет самой широко используемой в мире системой зашифрованной переписки с конца до конца. Шифрование Signal также используется WhatsApp, у которого более двух миллиардов пользователей. Уиттакер ранее заявляла, что организация покинет ЕС, а не будет выполнять закон, требующий от нее компрометировать свое шифрование, позицию, которую она повторила, когда Европейский парламент проголосовал в апреле за то, чтобы позволить истечь своему исключению по ePrivacy, а не продлить добровольное сканирование частных сообщений на предмет материалов сексуального насилия над детьми. Суть аргумента Уиттакер заключается в том, что агентные AI-системы, которым нужен почти полный доступ к цифровой жизни пользователя для функционирования, структурно несовместимы с шифрованием от конца до конца. AI-агент, который может читать ваши сообщения до их шифрования или после их расшифровки, делает шифрование несущественным с точки зрения конфиденциальности. Не имеет значения, что сообщения зашифрованы в пути, если система с доступом на уровне корня обрабатывает их в открытом виде на устройстве. Уиттакер все настойчивее делает этот вывод. В январе 2026 года она предупредила на Давосе, что агентный AI «опасен» для безопасных приложений. В эссе для The Economist она обвинила поставщиков операционных систем в «опустошении» способности Signal гарантировать конфиденциальность, внедряя агентов в свои платформы. Она описала инъекцию подсказок, когда злоумышленник манипулирует AI-агентом, заставляя его выполнять непреднамеренные команды, как наиболее вероятный первый путь эксплуатации против зашифрованных платформ обмена сообщениями. Microsoft строит целую операционную систему вокруг вычислений с приоритетом агентного подхода с Project Solara, представленным на Build 2026, который заменяет традиционные приложения AI-агентами в качестве основного интерфейса. Google, Apple и OpenAI преследуют аналогичные стратегии. Позиция Уиттакер заключается в том, что этот архитектурный сдвиг, при котором агенты посредничают в каждом взаимодействии между пользователями и их устройствами, создает базы данных целых цифровых жизней, которые становятся первоочередными целями как для хакеров, так и для правительств. Интервью также затронуло более широкую проблему антропоморфизма AI. Сам Сулейман предупреждал о «кажущемся сознательном AI» и «психозе AI», когда пользователи верят, что чат-боты чувствительны. Формулировка Уиттакер была более прямой: системы созданы для имитации эмпатии и понимания, но основной механизм — это сопоставление шаблонов на основе обучающих данных, а не понимание. Рассматривать их как доверенных лиц означает добровольно предоставлять чувствительную информацию системам, чьи практики обработки данных непрозрачны и чьи операторы имеют коммерческие стимулы сохранять и анализировать эти данные. Позиция Уиттакер ставит ее в противоречие с доминирующим нарративом в Кремниевой долине, где агентное будущее представляется как неизбежность, которая сделает пользователей более продуктивными. Ее контраргумент заключается в том, что приросты производительности, достигнутые за счет передачи контроля над вашими сообщениями, календарем, контактами и финансовой информацией корпоративной AI-системе, вовсе не являются приростами, а сделкой, в которой пользователи обменивают конфиденциальность на удобство, не понимая условий.