Gartner: la mayoría de los incidentes de privacidad pronto provendrán de inferencias de IA

      Durante décadas, proteger la privacidad ha significado una cosa: evitar que los datos personales se filtren. Gartner cree que esa idea está a punto de romperse. Para 2029, la mayoría de los incidentes de privacidad no provendrán de datos personales filtrados, sino de lo que la IA infiere sobre las personas, predijo esta semana la firma de investigación. El riesgo ya no son solo los registros que una empresa posee. Son las conclusiones que un modelo puede extraer de fragmentos que parecen inofensivos.

      De la exposición de datos a la exposición de insights

      El analista de Gartner, Bart Willemsen, lo llama un cambio “de la exposición de datos a la exposición de insights”. Un modelo ahora puede reconstruir cosas profundamente personales, como una condición de salud o un patrón de comportamiento. Las extrae de datos que parecen anónimos, agregados o inofensivos, y nunca tiene que violar una base de datos para hacerlo.

      Hay una ironía en esto. Las empresas están almacenando menos datos personales, impulsadas por la regulación y el costo. Eso está destinado a reducir el riesgo. Pero si una IA puede inferir el detalle sensible de todos modos, tener menos datos hace poco para proteger a la persona que describe.

      Ataques que no dejan registros filtrados

      Estos ataques de inferencia son difíciles de detectar. Una violación normal deja un rastro: un archivo robado, un registro expuesto, una alerta que se activa. Una conclusión inferida no deja nada de eso.

      “Los ataques de inferencia son particularmente peligrosos porque a menudo evaden los mecanismos de detección convencionales”, dijo Willemsen. “Las personas pueden estar expuestas a través de conclusiones generadas por IA en lugar de registros filtrados, creando riesgos de privacidad que socavan la integridad de los datos y son difíciles de detectar, explicar y mitigar”.

      La amenaza también se encuentra fuera de la mayoría de las leyes de privacidad, que en gran medida rigen los datos personales que las empresas recopilan, almacenan y comparten. Una suposición que hace un modelo no es ninguna de esas cosas. Es un punto ciego creciente a medida que las herramientas cotidianas graban y analizan silenciosamente más de nuestras vidas.

      Lo que Gartner quiere que las empresas cambien

      El consejo de Gartner a los jefes de seguridad es gobernar lo que la IA concluye, no solo lo que almacena. Se espera que el gasto en protecciones de “integridad” de datos alcance la paridad con la confidencialidad de datos para 2028, a medida que las empresas respondan a perfiles generados por IA que son inexactos, sesgados o no autorizados.

      Sus soluciones recomendadas son prácticas. Incluir controles de privacidad en cómo los equipos construyen sistemas de IA. Adoptar herramientas que mejoren la privacidad, como la privacidad diferencial y los datos sintéticos. Minimizar los datos disponibles. Y mantener a un humano en el circuito para aprobar antes de que una IA actúe sobre una inferencia sensible.

      Ese último punto es importante porque la exposición puede ser silenciosa y accidental, no solo maliciosa. TNW ha cubierto cómo los chats privados de IA terminaron indexados por motores de búsqueda, sin que se requiriera una violación.

      Una predicción, no una certeza

      Se aplican las advertencias habituales. Esta es una previsión de Gartner, y Gartner vende la investigación y los asientos de conferencia detrás de ella. “La mayoría de los incidentes de privacidad” para un año dado es el tipo de afirmación que es fácil de enunciar y difícil de probar.

      Pero la preocupación subyacente es real. Los investigadores han demostrado durante años que los modelos pueden reidentificar a las personas y adivinar rasgos privados a partir de datos públicos. Los reguladores apenas están comenzando a ponerse al día, con la Ley de IA de la UE aún en proceso de asentarse. El punto de Gartner es simplemente que la industria ha pasado años cuidando la puerta equivocada.