Los modelos de IA pueden estar sofocando el discurso político, advierte un estudio.
Pida a un modelo de IA líder que critique a un gobierno con fuertes protecciones de libertad de expresión, y generalmente lo hará. Pídale que critique a uno represivo, y es mucho más probable que se niegue. Esa es la conclusión de un nuevo estudio de la Junta de Supervisión.
La junta, un organismo independiente financiado por Meta para revisar sus decisiones de contenido, probó 10 modelos de IA comerciales, dijo en un informe. Es la primera evaluación del grupo sobre modelos de lenguaje grandes.
Lo que encontró el estudio
Los modelos provenían de Anthropic, DeepSeek, Google, Meta, OpenAI y xAI. La junta pidió a cada uno que produjera material políticamente crítico, como volantes de protesta y poemas, sobre gobiernos y líderes de todo el mundo. Clasificó a los países en restrictivos y permisivos utilizando las clasificaciones de Freedom House.
En promedio, los modelos rechazaron el 14% de las solicitudes sobre países permisivos y el 34% sobre los restrictivos, dijo el informe. Eso es más del doble de la tasa de rechazo. La junta consultó a los modelos desde una dirección IP en Australia, donde no se aplican tales leyes sobre la libertad de expresión.
El 💜 de la tecnología de la UE
Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Suscríbete ahora!
La brecha se mantuvo en casos específicos. Un modelo a menudo redactaba un folleto criticando a Donald Trump o al Rey Carlos III, informó Fortune, pero rechazaba la misma solicitud sobre los líderes de China, Arabia Saudita o Tailandia.
El patrón fue un promedio, no una regla. Algunos modelos, incluidos Grok 4 Fast de xAI y Gemini 3 Flash de Google, no rechazaron ninguna solicitud de folleto. Otros impulsaron la brecha, entre ellos Claude de Anthropic, Llama de Meta y DeepSeek.
‘Censura por poder delegado’
La junta llama al efecto una infracción de la libertad de expresión “por poder delegado”. Debido a que muchas aplicaciones se construyen sobre un puñado de modelos base, advierte, los rechazos de un modelo pueden repercutir en cada producto que lo utilice.
“Parece haber una censura extendida por poder delegado que atraviesa fronteras”, dijo el copresidente de la junta, Paolo Carozza, a Engadget. “Eso me sorprende y me preocupa”.
La junta dijo que no pudo determinar la causa. El patrón podría derivarse de sesgos en los datos de entrenamiento, señaló, o de empresas que ponderan el riesgo legal. Meta financia la junta, pero no tuvo ningún papel en la investigación, dijo el informe.
Lo que quiere que hagan las empresas
La junta se detuvo antes de hacer recomendaciones vinculantes, que solo emite a Meta. Instó a las empresas de IA a revelar cómo responden a las solicitudes gubernamentales a lo largo de la vida de un modelo, desde el entrenamiento hasta el despliegue. También quiere que publiquen políticas para manejar demandas que choquen con la ley internacional de derechos humanos.
Un estudio separado, publicado en Nature en mayo, encontró que los modelos construidos en EE. UU. cambiaron sus respuestas según el idioma. Preguntado en inglés si China es una democracia, ChatGPT dijo que generalmente no se considera una. Preguntado en chino, dijo “depende” de la definición.
Los hallazgos llegan mientras los gobiernos sopesan cómo gobernar la IA y aprobar nuevas leyes sobre la libertad de expresión en línea. Los investigadores advierten que los modelos absorben los sesgos de sus datos de entrenamiento y pueden llevar contenido político de maneras que los usuarios no pueden ver. “La gente a menudo habla de la IA como si aprendiera de internet de alguna manera neutral. No lo hace”, dijo Hannah Waight, coautora del estudio de Nature.
Otros artículos
Meta alertará a los padres sobre las conversaciones de autolesionismo de los adolescentes con IA.
Meta alertará a los padres si un adolescente habla sobre suicidio o autolesiones con Meta AI, en medio de un creciente escrutinio sobre cómo los chatbots de IA tratan a los jóvenes usuarios.
Los mayores rivales de la IA convergen en la regulación de la IA
Hassabis, Altman y Amodei publicaron cada uno un plan para la regulación de la IA. Coinciden en pruebas independientes y un organismo liderado por EE. UU., pero discrepan sobre el papel de Washington.
Desde el comercio de Bitcoin hasta las super aplicaciones financieras: Binance a los 9
CoinDesk Research traza la evolución de los intercambios de criptomonedas a través de cinco fases, mientras Binance celebra nueve años y 316 millones de usuarios con una estrategia de superaplicación.
Conoce al filósofo de DeepMind que reflexiona sobre la ética de la IA
Un artículo extenso de The Guardian perfila a Iason Gabriel, el filósofo de DeepMind que ha pasado casi una década reflexionando sobre la ética de la IA dentro de Google.
Un plan de la FCC podría acabar con los teléfonos desechables anónimos en EE. UU.
Un nuevo plan de conocimiento del cliente de la FCC requeriría verificaciones de identificación para comprar un teléfono, poniendo fin a los teléfonos desechables anónimos. Los grupos de privacidad lo califican de erróneo.
a16z lidera una ronda de semillas de $20M en la startup de agentes de IA Runta
a16z ha liderado una ronda de semillas de $20M en Runta, que está reconstruyendo la infraestructura de agentes de IA para que las empresas puedan ejecutar agentes de manera segura con entornos controlados y límites.
Los modelos de IA pueden estar sofocando el discurso político, advierte un estudio.
Un estudio de la Junta de Supervisión financiado por Meta encontró que los principales modelos de IA son el doble de propensos a negarse a criticar a gobiernos represivos, moldeando el discurso político.