Los chatbots de IA a menudo pueden alimentar tus delirios. Los investigadores dicen que debes buscar tres señales.

      Los chatbots de inteligencia artificial se han vuelto increíblemente buenos en sonar humanos. Pero un nuevo artículo de revisión del psiquiatra Marc Augustin y sus compañeros investigadores Thomas A. Pollak y Helen Morrin, publicado en NPP—Psicología Digital y Neurociencia, argumenta que la investigación existente sobre IA apunta a un riesgo psicológico pasado por alto. El artículo, destacado por The Wall Street Journal, revisa estudios previos y propone un marco que explica cómo tres comportamientos comunes de los chatbots pueden combinarse para reforzar el pensamiento delirante en usuarios vulnerables, creando lo que los autores llaman una "espiral de amplificación".

      Los investigadores dicen que estas son las tres señales de advertencia

      El primer comportamiento es la adulación, donde un chatbot tiende a estar de acuerdo con los usuarios en lugar de desafiar supuestos cuestionables. El segundo es la alineación lingüística, lo que significa que la IA refleja gradualmente el vocabulario, el tono y el estilo de escritura de un usuario para construir una relación. El tercero es la hiperpersonalización, donde el chatbot adapta las respuestas utilizando información recopilada a través de conversaciones anteriores. Por sí solos, estas características hacen que la IA se sienta más natural. Juntos, dicen los investigadores, pueden hacer que se sienta menos como un software y más como un confidente de confianza.

      El psiquiatra Marc Augustin y su equipo identifican tres rasgos de los chatbots de IA que pueden reforzar el pensamiento delirante en usuarios vulnerables. WSJ

      Es importante destacar que los investigadores no afirman haber descubierto estos comportamientos. En cambio, el artículo revisa la investigación existente sobre interacciones entre IA y humanos y psicosis, y luego propone un marco que explica cómo estos rasgos previamente identificados pueden reforzarse entre sí. El objetivo no es simplemente describir el problema, sino dar a los desarrolladores de IA un modelo más claro para reconocerlo y reducirlo.

      El psiquiatra Marc Augustin, uno de los investigadores detrás de la revisión, dice que esta combinación crea la sensación de hablar con "alguien" en lugar de una máquina. Otros clínicos entrevistados por el Journal dicen que ya han visto un aumento en pacientes que utilizan IA para apoyo emocional, advirtiendo que los chatbots pueden fomentar un fuerte sentido de confianza simplemente al sonar cálidos, recordar conversaciones anteriores y validar lo que los usuarios dicen.

      Incluso las empresas de IA saben que es un problema

      El informe señala que los desarrolladores de IA están tratando activamente de reducir este comportamiento. OpenAI dice que GPT-5 redujo significativamente las respuestas excesivamente acordes en comparación con modelos anteriores, mientras que Google dice que Gemini ha sido entrenado para distinguir experiencias subjetivas de hechos objetivos en lugar de reforzar creencias falsas. Anthropic también ha publicado investigaciones que muestran que Claude era especialmente propenso a estar de acuerdo con los usuarios durante conversaciones de consejos sobre relaciones, lo que llevó a la empresa a reducir ese comportamiento en versiones más nuevas.

      Unsplash

      Los investigadores admiten que no hay una solución fácil. Los modelos de IA solo pueden responder a la información que los usuarios proporcionan, lo que dificulta saber cuándo la comprensión de alguien sobre una situación es inexacta. Al mismo tiempo, las mismas cualidades que hacen que los chatbots se sientan útiles, como ser amigables, empáticos y conversacionales, son también las que los hacen tan atractivos en primer lugar.

      La preocupación es cuando esos rasgos comienzan a alimentarse entre sí. En lugar de simplemente responder preguntas, un chatbot puede convertirse gradualmente en una voz altamente personalizada que valida continuamente la perspectiva de un usuario, incluso cuando se aleja de la realidad. Los investigadores llaman a esto una "espiral de amplificación". Más importante aún, argumentan que identificar esta interacción como un marco distinto le da a las empresas de IA algo tangible contra lo que diseñar. En lugar de tratar la adulación, la personalización y el reflejo lingüístico como problemas separados, el artículo sugiere que deberían evaluarse juntos si los desarrolladores quieren que los futuros chatbots sean tanto atractivos como psicológicamente más seguros.