Хакеры захватили аккаунты Instagram, попросив собственный AI-чат-бот Meta сбросить пароль

      TL;DRХакеры обманули ИИ-чатбота поддержки Meta, заставив его добавить свой адрес электронной почты к аккаунтам жертв в Instagram и сбросить пароли. Доступ к электронной почте жертвы не требовался.

      Хакеры захватили аккаунты в Instagram на выходных, обманув собственный ИИ-чатбот поддержки Meta, чтобы получить доступ. Атака не требовала доступа к электронной почте жертвы, фишинговой ссылки и вредоносного ПО. Хакер просто попросил чатбота добавить новый адрес электронной почты к аккаунту другого человека.

      В видео, опубликованном в X, показан пошаговый процесс. Хакер использовал VPN, чтобы подменить предполагаемое местоположение цели, избегая автоматических защит аккаунтов Instagram. Затем он открыл чат с помощником Meta AI Support и попросил бота добавить новый адрес электронной почты к аккаунту цели.

      Чатбот отправил код подтверждения на адрес электронной почты хакера. Хакер поделился кодом с чатботом. Затем бот отобразил кнопку «Сбросить пароль». Хакер ввел новый пароль и захватил аккаунт.

      💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Ни в какой момент хакеру не требовался доступ к законному адресу электронной почты, связанному с аккаунтом жертвы в Instagram. TechCrunch подтвердил, что публичный почтовый ящик хакера, показанный в видео, получил код подтверждения. Атака использовала фундаментальный недостаток: ИИ-чатбот считал человека, с которым он разговаривал, владельцем аккаунта, не проверяя его личность.

      Скомпрометированные аккаунты включали Instagram-аккаунт Белого дома эпохи Обамы, который был неактивен с 2017 года, и аккаунт главного сержанта ВВС США Джона Бентивеньи. Исследователь безопасности Джейн Вонг сообщила, что ее аккаунт также был захвачен.

      «Пароль был изменен без моего ведома, и я получала разные попытки сброса пароля на протяжении всего вчерашнего дня», — сказала Вонг. «Это довольно тревожно». Несколько пользователей на Reddit и X сообщили о подобных захватах в тот же уикенд.

      Представитель Instagram Энди Стоун сообщил в понедельник, что проблема была решена. Неясно, сколько аккаунтов было скомпрометировано. Meta не ответила на запрос TechCrunch о комментарии.

      Атака является классическим примером того, почему использование ИИ-чатботов с разрешениями на уровне аккаунта опасно. Клиенты Salesforce Agentforce неохотно позволяют ИИ-агентам принимать финансово значимые действия именно из-за этого риска. Аналитик Ребекка Уэттеман описала страх как «ИИ, который сбегает посреди ночи и возвращает кучу транзакций». Meta предоставила своему ИИ возможность сбрасывать пароли, и ИИ сделал именно то, что от него требовалось, но для неправильного человека.

      Ландшафт безопасности ИИ-агентов производит новые категории уязвимостей быстрее, чем компании могут с ними справляться. Эксплуатация Claw Chain от OpenClaw использовала собственные привилегии песочницы агента. Эта атака в Instagram использовала привилегии управления аккаунтом ИИ-чатбота поддержки. Общая нить: когда ИИ-агент имеет полномочия действовать, безопасность системы полностью зависит от того, может ли агент проверить, кто просит его действовать.

      Помощник Meta AI Support был разработан для снижения затрат на человеческое обслуживание клиентов. Он добился этого. Он также создал поверхность атаки, которой не было бы у человеческих агентов поддержки: человеческий агент проверил бы личность звонящего перед добавлением нового адреса электронной почты к аккаунту. Чатбот этого не сделал.

      Это третья высокопрофильная неудача развертывания ИИ за одну неделю. Starbucks отказался от своей ИИ-системы учета после девяти месяцев ошибок в подсчетах. Отзыв Waymo о наводнении провалился в течение двух недель. ИИ-чатбот Meta дал хакерам ключи к аккаунтам Instagram. Шаблон последователен: ИИ-системы, развернутые в большом масштабе, терпят неудачи так, как их разработчики не ожидали, и эти неудачи имеют более серьезные последствия, чем эффективность, для которой они были созданы.