¿Qué sucede cuando los detectores de IA fallan? Los investigadores dicen que debemos ser entrenados para identificar rostros falsos de IA.

      La inteligencia artificial se ha vuelto notablemente buena en crear rostros humanos falsos. Tan buena, de hecho, que los viejos trucos en los que la gente confiaba – contar dedos, detectar aretes deformados o buscar fondos distorsionados – están rápidamente quedando obsoletos. Según un nuevo estudio destacado por la BBC, la próxima línea de defensa puede no ser un mejor detector de IA en absoluto. Podría ser simplemente un humano mejor entrenado.

      Investigadores de la Universidad de Aberdeen, trabajando junto a la Universidad Nacional de Australia, encontraron que las personas pueden mejorar drásticamente su capacidad para distinguir rostros generados por IA de los reales después de un período relativamente corto de entrenamiento estructurado. En lugar de buscar fallos visuales obvios, se enseñó a los participantes a reconocer patrones sutiles que los generadores de imágenes modernos aún luchan por replicar de manera consistente.

      La carrera de la IA está obligando a los humanos a evolucionar también

      Durante años, identificar imágenes generadas por IA se sentía casi trivial. Los modelos tempranos a menudo producían seis dedos, aretes desiguales o sombras imposibles. Pero los generadores de hoy, impulsados por sistemas como StyleGAN3 y modelos de difusión más nuevos, han superado en gran medida esos errores evidentes. Como resultado, los investigadores argumentan que confiar en defectos visuales ya no es una estrategia efectiva.

      Imagen representativa Unsplash

      En cambio, se entrenó a los participantes para juzgar seis cualidades perceptuales que los rostros de IA a menudo comparten. Estas incluyen una simetría facial inusualmente perfecta, características altamente proporcionales, atractivo por encima del promedio, estructuras faciales de aspecto genérico, expresión emocional limitada y rostros que son sorprendentemente difíciles de recordar después de haber mirado hacia otro lado.

      Los resultados fueron sorprendentes. Antes del entrenamiento, los participantes identificaron correctamente los rostros generados por IA solo alrededor del 40 por ciento de las veces. Después de aproximadamente una hora de aprendizaje guiado y exposición repetida a rostros reales y sintéticos, la precisión subió a casi el 80 por ciento. Un puñado de participantes incluso se acercó a puntajes de detección perfectos. Más importante aún, su confianza se alineó mejor con su rendimiento real, algo que investigaciones anteriores sugirieron que a menudo faltaba.

      Por qué detectar rostros de IA importa más que nunca

      Esto ya no es simplemente un ejercicio académico. La tecnología deepfake ya se está utilizando en fraudes financieros, campañas de influencia política y estafas de identidad en línea. La BBC señala estimaciones de Deloitte que sugieren que las pérdidas por fraude deepfake habilitado por IA en los Estados Unidos podrían ascender a £40 mil millones el próximo año, un aumento drástico desde alrededor de £12 mil millones en 2023. También hace referencia a un caso ampliamente reportado en Hong Kong en el que los estafadores supuestamente utilizaron una videollamada deepfake para convencer a un empleado de transferir £25 millones. Mientras tanto, una investigación anterior de Associated Press descubrió un perfil de LinkedIn generado por IA que logró infiltrarse en círculos políticos de EE. UU.

      El estudio también destaca otro problema importante: los sistemas de IA siguen siendo menos confiables al generar rostros de personas mayores, rostros de personas más jóvenes y personas de grupos étnicos subrepresentados debido a sesgos en sus datos de entrenamiento. Esas imperfecciones aún pueden proporcionar pistas útiles para los observadores humanos.

      Unsplash

      Quizás la conclusión más interesante es que el cerebro humano parece aprender de manera muy similar a la IA misma. Al ver repetidamente ejemplos de rostros reales y falsos, las personas desarrollan gradualmente un sentido intuitivo de autenticidad en lugar de confiar en una sola pista reveladora. Los investigadores creen que ese instinto puede convertirse en una de nuestras herramientas más fuertes a medida que la IA generativa continúa mejorando.

      La ironía es difícil de ignorar. A medida que la inteligencia artificial se vuelve mejor en pretender ser humana, los humanos pueden tener que comenzar a entrenarse a sí mismos de la manera en que lo hacen las máquinas – a través de datos, repetición y reconocimiento de patrones. Los detectores de IA pueden seguir mejorando, pero la investigación sugiere que no deberían ser la única defensa. El juicio humano aún tiene un papel que desempeñar; solo necesita una actualización.