Gartner: большинство инцидентов с конфиденциальностью вскоре будет связано с выводами ИИ
На протяжении десятилетий защита конфиденциальности означала одно: предотвращение утечки личных данных. Gartner считает, что эта идея скоро изменится.
К 2029 году большинство инцидентов с конфиденциальностью будет происходить не из-за утечки личных данных, а из того, что ИИ выводит о людях, предсказала исследовательская компания на этой неделе. Риск больше не заключается только в записях, которые хранит компания. Это выводы, которые модель может сделать из данных, которые выглядят безобидно.
От раскрытия данных к раскрытию инсайтов
Аналитик Gartner Барт Виллемсен называет это сдвигом «от раскрытия данных к раскрытию инсайтов». Модель теперь может реконструировать глубоко личные вещи, такие как состояние здоровья или поведенческий паттерн. Она извлекает их из данных, которые выглядят анонимными, агрегированными или безобидными, и ей никогда не нужно нарушать базу данных, чтобы это сделать.
В этом есть ирония. Компании хранят меньше личных данных, под давлением регулирования и затрат. Это должно снизить риск. Но если ИИ все равно может вывести чувствительные детали, то хранение меньшего объема данных мало что делает для защиты описываемого человека.
Атаки, которые не оставляют утечек
Эти атаки вывода трудно поймать. Обычное нарушение оставляет след: украденный файл, раскрытая запись, срабатывающий сигнал тревоги. Вывод, сделанный на основе данных, не оставляет ничего из этого.
«Атаки вывода особенно опасны, потому что они часто избегают традиционных механизмов обнаружения», — сказал Виллемсен. «Люди могут подвергаться риску через выводы, сгенерированные ИИ, а не через утеченные записи, создавая риски конфиденциальности, которые подрывают целостность данных и трудно обнаружить, объяснить и смягчить».
Угроза также находится вне большинства законов о конфиденциальности, которые в основном регулируют личные данные, которые компании собирают, хранят и обмениваются. Предположение, сделанное моделью, не является ни одним из этих понятий. Это растущая слепая зона, поскольку повседневные инструменты тихо записывают и анализируют больше нашей жизни.
Что Gartner хочет, чтобы компании изменили
Совет Gartner руководителям безопасности заключается в том, чтобы управлять тем, что ИИ выводит, а не только тем, что он хранит. Ожидается, что расходы на защиту «целостности» данных достигнут паритета с конфиденциальностью данных к 2028 году, поскольку компании реагируют на неточные, предвзятые или несанкционированные профили, сгенерированные ИИ.
Рекомендуемые решения практичны. Внедрить проверки конфиденциальности в то, как команды создают системы ИИ. Применять инструменты, улучшающие конфиденциальность, такие как дифференциальная конфиденциальность и синтетические данные. Минимизировать объем хранимых данных. И держать человека в процессе, чтобы он подписывал действия ИИ на основе чувствительных выводов.
Этот последний пункт важен, потому что раскрытие может быть тихим и случайным, а не только злонамеренным. TNW освещала, как частные чаты ИИ оказались индексированными поисковыми системами, без необходимости в нарушении.
Прогноз, а не уверенность
Обычные оговорки применимы. Это прогноз Gartner, и Gartner продает исследования и места на конференциях, связанных с этим. «Большинство инцидентов с конфиденциальностью» к определенному году — это утверждение, которое легко сделать и трудно доказать.
Но основная тревога реальна. Исследователи на протяжении многих лет показывают, что модели могут повторно идентифицировать людей и угадывать частные черты на основе публичных данных. Регуляторы только начинают догонять, при этом Закон ЕС о ИИ все еще внедряется. Суть Gartner заключается в том, что индустрия потратила годы, охраняя неправильную дверь.
Другие статьи
Polar — это еще один AI-браузер, но он выходит за рамки простой автоматизации рутинных веб-задач.
Polar собрала 5,7 миллиона долларов для создания AI-браузера, который автоматизирует рабочие задачи, что отражает более широкое изменение в отрасли от поиска на основе ИИ к браузерным агентам.
Procore покупает DroneDeploy за 845 миллионов долларов, чтобы дать своему ИИ зрение.
Procore покупает DroneDeploy за примерно 845 миллионов долларов, чтобы дать своим строительным ИИ «цифровым коллегам» возможность видеть на строительной площадке с помощью дронов, роботов и камер.
Марк Цукерберг говорит, что миллиарды людей будут иметь личного ИИ-агента в течение пяти лет.
Марк Цукерберг предсказал, что миллиарды людей будут иметь личного ИИ-агента в течение пяти лет, даже несмотря на то, что свободный денежный поток Meta упал на 91%, а акции снизились на 10%.
Стек Blue Owl ищет кредит в размере 5,9 миллиарда долларов, способствуя буму долговых обязательств центров обработки данных ИИ
По данным Bloomberg, дата-центр Blue Owl, подразделение Stack, ищет кредит на сумму около 5,9 миллиарда долларов, спустя несколько месяцев после сделки на 2,1 миллиарда долларов, поскольку заимствования для наращивания мощностей в области ИИ ускоряются.
Revolut сотрудничает с OpenAI, чтобы включить ChatGPT Go в свои подписки
Revolut объединяет бесплатный ChatGPT Go в свои подписки, от трех месяцев до года, в сделке с OpenAI, которая предоставляет AI-компании огромный канал распределения.
FTC подает в суд на Hims & Hers за передачу данных о здоровье пациентов компаниям Meta и Snap
Федеральная торговая комиссия и два штата подали в суд на Hims & Hers, утверждая, что компания делилась конфиденциальными медицинскими данными с Meta и Snap, взимала плату с людей без их согласия и скрывала кнопку отмены.
Gartner: большинство инцидентов с конфиденциальностью вскоре будет связано с выводами ИИ
Гартнер прогнозирует, что к 2029 году большинство инцидентов с конфиденциальностью будет связано с тем, что ИИ выводит о людях, а не с утечкой данных, что является сдвигом от раскрытия данных к раскрытию инсайтов.