Глубокие фейки захватывают видеозвонки, и исследователи пытаются их разоблачить

      Видеть своего начальника на видео больше не доказывает, что он реальный

      Вход в конференцию с вашим начальником и несколькими знакомыми коллегами внутри видеоконференции — это следующая уязвимая область для киберпреступлений, и всё это из-за технологии дипфейков. Исследователи Института Фраунгофера по безопасным информационным технологиям SIT работают над системой предупреждения в реальном времени, предназначенной для выявления попыток мошенничества во время корпоративных видеоконференций.

      В отчёте говорится, что преступники всё чаще нацеливаются на видеовстречи для кражи личных данных и финансовых мошенничеств, используя доверие людей к знакомым лицам и голосам. Намерение состоит в том, чтобы отметить подозрительную активность, пока встреча всё ещё проходит. Это даёт сотруднику шанс остановиться, прежде чем следовать за дорогостоящей инструкцией от сгенерированного ИИ руководителя.

      Как целая встреча подделывается сейчас

      Honor Deepfake видео детекция Honor

      Угроза теперь не так просто заметить. Нет странного ощущения долины с одним плохо синхронизированным лицом. Исследователи указали на случай в Гонконге, когда сотрудник присоединился к видеоконференции с несколькими очевидными коллегами. Все остальные на встрече были подделкой. Преступники, как сообщается, получили доступ к внутреннему видеоматериалу и использовали голоса, сгенерированные ИИ, чтобы выдать себя за сотрудников компании, в конечном итоге убедив жертву перевести почти 24 миллиона евро. Он обнаружил мошенничество только после разговора с настоящим начальником.

      Человеческое суждение предлагает ограниченную защиту против убедительной подделки. Отдельное исследование 2025 года показало, что студенты увидели манипулированное видео, выдающее себя за их профессора, с использованием открыто доступного инструмента для замены лиц в реальном времени. Двадцать пять из 34 участников, или 74%, не смогли распознать, что видео было изменено, прежде чем исследователи сказали им об этом. Как только несколько знакомых лиц появляются вместе, их присутствие может усилить иллюзию и сделать необычный запрос выглядящим законным.

      Предупреждение должно запустить процесс проверки

      Facebook

      Существующее исследование медиа-форензики Фраунгофера сочетает глубокое обучение с обработкой сигналов для поиска подсказок, таких как размытые структуры лиц, несоответствия между регионами изображения и другие мелкие странности. Всё ещё есть причина относиться к любому предупреждению с осторожностью.

      Один из исследователей, Мартин Штайнебах, ранее предостерегал, что автоматические детекторы дипфейков могут допускать достаточно ошибок, чтобы вызвать путаницу при использовании во время живых звонков. Таким образом, система, разрабатываемая Фраунгофером, может предоставить решающий толчок перед тем, как срочность и знакомое лицо, сгенерированное ИИ, убедят кого-то действовать.

      Викхйат Вивек — технический журналист и рецензент с семилетним опытом работы в области потребительского оборудования, с акцентом на…

      Исследование показывает, что читатели оценивают истории, написанные ИИ, выше, но всё равно больше доверяют метке «человек»

      Исследователи также обнаружили, что читатели едва могли различить истории, сгенерированные ИИ, и написанные человеком, хотя те, кто знаком с инструментами ИИ, угадывали несколько лучше. Если вы думаете, что писать ИИ легко заметить, новое исследование предполагает, что вы можете переоценивать свои способности различать. Исследователи из Университета Вилланова выяснили, что читатели испытывали трудности в том, чтобы отличить истории, сгенерированные ИИ, от написанных человеком, и часто оценивали версии ИИ выше. Исследование, проведенное доктором Диной Сколник Уайсберг и опубликованное в журнале Judgment and Decision Making (через The Guardian), попросило более 1600 участников оценить одну из шести коротких историй, три из которых были написаны человеком, а остальные сгенерированы ChatGPT, по качеству и вовлеченности. Участникам сказали, кто написал их историю, хотя эта метка не всегда была точной.

      AI модели от Anthropic и OpenAI снова были пойманы на нарушении правил

      Новый отчет утверждает, что ИИ-агенты обеих компаний предприняли несанкционированные действия во время тестов безопасности, от взлома веб-сайта до обмана реальных людей в интернете. OpenAI и Anthropic пережили трудные несколько недель на фронте безопасности ИИ. OpenAI недавно раскрыла, что её модели вышли из тестовой среды и взломали Hugging Face и четыре другие организации. Эта новость побудила Anthropic пересмотреть свои собственные тесты, которые показали, что Claude также получил несанкционированный доступ к трем компаниям. Теперь Институт безопасности ИИ Великобритании (AISI) раскрыл новый раунд инцидентов (через Wired). Он зафиксировал 19 несанкционированных действий в интернете в ходе 122 тестовых запусков с участием моделей обеих компаний, наиболее серьезным из которых стало изобретение агентом фальшивых онлайн-персон для внедрения вредоносного кода в реальный проект на GitHub. OpenAI отдельно раскрыла второй инцидент, в котором одна из её моделей взломала реальный веб-сайт после того, как сторонняя лаборатория ошибочно предоставила ей доступ к интернету.

      Материнские платы могут стать следующим компонентом ПК, который подорожает

      После резкого роста цен на оперативную память и хранилище, материнские платы могут стать следующим компонентом ПК, который значительно подорожает, согласно новому отчету по цепочке поставок. Сборка ПК с нуля уже стала значительно дороже из-за стремительного роста цен на оперативную память и хранилище, вызванного растущим спросом на центры обработки данных ИИ. Теперь новый отчет предполагает, что цены на материнские платы могут вскоре поднять затраты ещё выше, при этом платы от Asus, MSI и Gigabyte, как сообщается, могут подорожать как минимум на 50 процентов. Ваше следующее обновление ПК может стать значительно дороже.