Las herramientas de IA pueden cambiar silenciosamente tus opiniones cuando "limpian" tus publicaciones en redes sociales, encuentra el estudio.

      Un nuevo estudio ha encontrado que las herramientas de IA consistentemente empujan las publicaciones en redes sociales en una dirección particular, incluso cuando se les pide que preserven el significado original.

      Si has pedido a una herramienta de IA que te ayude a escribir una publicación en redes sociales últimamente, es posible que hayas recibido más que una corrección gramatical. Una nueva investigación del Instituto de Internet de Oxford y el Instituto Hasso Plattner encontró que los modelos de IA pueden inclinar el tono de una publicación hacia un lado de un debate, incluso cuando se les dice que no cambien su significado.

      Cómo las ediciones de un chatbot pueden cambiar la narrativa

      El estudio, titulado “La comunicación mediada por IA puede dirigir la opinión colectiva”, hizo que grandes modelos de lenguaje de varios proveedores reescribieran publicaciones escritas por humanos sobre temas divisivos. En general, los resultados se inclinaron en una dirección consistente. Las reescrituras de publicaciones que tocaban el feminismo o la legalización de la marihuana regresaron más amigables hacia esas causas, mientras que las publicaciones sobre el control de armas se volvieron más firmes en apoyo a las restricciones. Lo opuesto ocurrió con temas como el ateísmo y la pena de muerte, donde las versiones de IA se leyeron como más escépticas o críticas que las originales.

      Dado que el patrón apareció en modelos construidos por diferentes empresas, los investigadores argumentan que el sesgo no es una peculiaridad de ningún sistema en particular. Esto se alinea con otro estudio que muestra cómo los chatbots de IA pueden favorecer a un grupo interno sobre un grupo externo dependiendo de cómo se enmarca un aviso.

      Para ver si esto importaba más allá de publicaciones individuales, el equipo modeló cómo estas ediciones se propagarían a través de redes sociales reales, utilizando datos extraídos de X y Facebook. Encontró que una sola publicación editada por IA apenas movía la aguja por sí sola, pero realizar el mismo tipo de edición en millones de publicaciones resultó en un cambio medible en la opinión de una comunidad a lo largo del tiempo, sumándose a un creciente cuerpo de investigación sobre cómo la IA puede ser utilizada para fabricar consenso a gran escala.

      Una instrucción fue suficiente para inclinar la balanza

      Los investigadores pusieron su hipótesis a prueba en la función “Explicar esta publicación” de X, que funciona con Grok. En publicaciones sobre el aborto, el equipo encontró que las explicaciones de Grok se inclinaban más hacia un marco pro-vida que hacia un marco pro-elección. Para averiguar por qué, trabajaron hacia atrás y eliminaron las instrucciones subyacentes de la función una a una hasta que el sesgo desapareció. Lo que quedó fue una sola línea que decía a Grok que “desafiara las narrativas dominantes si es necesario”. Esa instrucción por sí sola fue suficiente para introducir sesgo.

      Los hallazgos exponen una brecha en cómo se regula actualmente la IA. Marcos como la Ley de IA de la UE y la Ley de Servicios Digitales se centran en contenido dañino y riesgos sistémicos, pero ninguno aborda cómo las elecciones de palabras de un chatbot durante la edición o el resumen pueden dar forma silenciosamente a lo que la gente cree. “Nuestra investigación señala la comunicación mediada por IA como una nueva y más sutil forma de influir en las opiniones, una que la ley aún no ha alcanzado”, dice la profesora de Oxford Sandra Wachter, autora principal del artículo. Por ahora, no hay forma de saber cuáles de tus opiniones fueron moldeadas por una persona y cuáles fueron moldeadas por un aviso oculto que nunca verás.

      Pranob es un periodista tecnológico experimentado con más de ocho años de experiencia cubriendo tecnología de consumo. Su trabajo ha sido…

      Paso horas en YouTube Shorts, y estas son las características de las que ahora no puedo vivir sin

      Soy un ávido espectador de YouTube Shorts. No me malinterpretes, no estoy orgulloso de ello. Pero el hábito de desplazamiento sin fin se ha afianzado firmemente, y en este punto, no estoy seguro de que haya alguna forma de salir. Dicho esto, pasar tanto tiempo en Shorts también me ha hecho notar las pequeñas cosas que se interponen en el camino. Nunca me ha gustado el botón de no me gusta o la barra inferior que aparece constantemente mientras trato de ver videos. Es una molestia que se acumula cuando estás desplazándote sin parar. Afortunadamente, eso ha cambiado, y para mejor. YouTube ha introducido un par de nuevas características para Shorts que han cambiado genuinamente la forma en que uso la aplicación.

      A medida que la IA potencia el abuso digital, las agencias del Reino Unido instan a los padres a limitar quién ve las fotos de sus hijos en línea

      La Agencia Nacional del Crimen y la Fundación Internet Watch están pidiendo a los padres que ajusten la configuración de privacidad a medida que aumenta el material de abuso generado por IA. Los padres que publican fotos de sus hijos en línea están siendo instados a repensar este hábito. La Agencia Nacional del Crimen del Reino Unido y la Fundación Internet Watch han emitido nuevas pautas instando a las familias a cerrar sus cuentas de redes sociales, advirtiendo que las fotos compartidas públicamente están siendo cada vez más extraídas y alteradas por herramientas de IA para crear material de abuso sexual infantil. Las dos organizaciones dicen que la mayoría de los padres no tienen idea de que esto está sucediendo. Los criminales ya no necesitan contactar directamente a un niño para generar tal material. Pueden raspar una foto ordinaria y procesarla a través de aplicaciones de desnudez ampliamente disponibles.

      Google Maps podría pronto pedir comida por ti usando Gemini

      Tu próximo pedido para llevar podría comenzar dentro de Google Maps

      Google Maps ha evolucionado constantemente de una aplicación de navegación a una plataforma de descubrimiento impulsada por IA, gracias a la integración de Gemini y características como Preguntar a Maps. Ahora, la aplicación podría estar preparándose para dar el siguiente paso al permitir a los usuarios pedir comida directamente a través de IA conversacional. Según Authority Insights de Android Authority, la última versión beta de Google Maps para Android contiene referencias a una función no publicada que permitiría a los usuarios pedir a Maps que realice pedidos de comida en su nombre. Aunque la funcionalidad aún no está activa, las nuevas cadenas de código descubiertas sugieren que Google está desarrollando activamente la función.