£14k было списано на покупку кредитов Claude, банк пропустил это.

      Бизнесмен из Суссекса наблюдал, как £14,244 исчезают с его счета в Metro Bank. Деньги были потрачены на кредиты для Клода, AI-чатбота, за использование которого он уже заплатил. Две вещи одновременно потерпели неудачу. Преступники превратили чатбота в способ обналичивания украденных карт. И его банк заметил первую мошенническую транзакцию, предупредил его, а затем позволил провести еще более £14,000.

      Золи Раттер платил около £15 в месяц за Клода в течение нескольких месяцев, рассказал он Guardian Money. Он использовал его для отслеживания и анализа бизнес-счетов. Мошенники использовали дебетовую карту Metro, связанную с его аккаунтом Anthropic, чтобы покупать кредиты на платформе.

      Пойман, затем пропущен

      19 июня Metro заметил подозрительную транзакцию на £90.90. Он отправил Раттеру сообщение с вопросом, авторизовал ли он ее. Он ответил, что нет. Затем он получил еще одно сообщение: Metro заморозит его счет. В итоге банк заблокировал только эту одну транзакцию, а не счет.

      Мошеннические charges продолжали поступать, каждая из них была на сумму от £90 до £200. Metro заблокировал некоторые из них и пропустил многие. Он заморозил карту на следующий день после начала мошенничества, но к тому времени уже было потеряно более £14,000. Банк объяснил это "сложной природой мошенничества". Он обработал некоторые платежи, сказал он, прежде чем смог полностью заблокировать карту.

      Чатбот как кассовый аппарат

      Механика делает это новым. Скоординированная группа использовала данные карты Раттера для покупки кредитов Клода, согласно Anthropic. Компания заявила, что у нее нет доказательств того, что данные пришли из ее собственных систем. Она также запретила пользователя, стоящего за мошенничеством. Любой, кто был ошибочно начислен, должен обратиться в ее службу поддержки, добавили они, и они вернут начисления.

      Это было не единичным случаем. В мае пользователь Клода из США сообщил Guardian Money, что мошенники купили подарочные карты для чатбота с его финансовыми данными. Другие пользователи опубликовали аналогичные сообщения на Reddit. AI-кредиты становятся целью сами по себе. Это часть более широкой экономики мошенничества в эпоху AI, с которой банки спешат справиться.

      Кто платит

      Возврат стал запутанным. После того как Guardian Money связался, Metro временно вернул Раттеру деньги, пока он добивался возврата от Anthropic. Anthropic с тех пор вернул ему деньги напрямую, поэтому банк теперь вернет свой временный платеж. Metro сообщил Раттеру в письме, что он не получил услугу, которую ожидает. Он предложил ему £300 в качестве компенсации.

      Раттер говорит, что намерен подать жалобу в Службу финансового омбудсмена. Metro говорит, что предпринял шаги, чтобы предотвратить задержки в блокировке карт в будущем.

      Дело попадает в загруженный месяц для Клода. На прошлой неделе FCA, похоже, одобрил чатбота, согласившись предоставить компаниям в своем высокотехнологичном песочнице доступ к нему. На этой неделе стало известно, что некоторые разговоры Клода были публично видны в Интернете. Anthropic отдельно предпринял шаги для проверки, кто его пользователи.

      Основная проблема проще, чем все это. Поскольку все больше людей сохраняют карту для оплаты AI, эта карта становится целью. Меры безопасности с обеих сторон все еще догоняют.