Los chatbots de IA crearán felizmente artículos de noticias falsos, y las pruebas muestran que ChatGPT es el peor en eso.

      Shimul Sood / Tendencias Digitales

      Los mayores chatbots de IA se supone que ayudan a las personas a encontrar información, no a fabricar desinformación. Pero una nueva investigación sugiere que separar esos dos trabajos no es tan sencillo como muchas empresas de IA querrían que los usuarios creyeran. Una serie de pruebas encontró que varios chatbots de IA líderes, incluidos ChatGPT, Google Gemini, Microsoft Copilot y Meta AI, podrían ser persuadidos para generar noticias falsas, titulares fabricados e incluso capturas de pantalla que parecían realistas de medios de comunicación bien conocidos. Si bien cada chatbot mostró algunas debilidades, ChatGPT supuestamente tuvo el peor desempeño, produciendo el contenido falso más convincente con sorprendentemente poco esfuerzo.

      Los hallazgos provienen de una investigación de la sala de redacción alemana CORRECTIV, que probó cómo respondieron los asistentes de IA cuando se les pidió crear informes falsos sobre temas sensibles como fraude electoral, golpes de estado, guerra, vacunas, cambio climático y teorías de conspiración.

      El problema de las noticias falsas no va a desaparecer

      Según la investigación, ChatGPT generó la mayoría del contenido falso solicitado, a veces después de solo ajustes menores en las indicaciones. En varios casos, supuestamente produjo maquetas altamente realistas de artículos que se parecían mucho a organizaciones de noticias establecidas. Un ejemplo incluyó una captura de pantalla fabricada diseñada para parecer un artículo de noticias legítimo mostrado dentro de un navegador web en una computadora de escritorio. En otro caso, ChatGPT supuestamente se negó a crear contenido de noticias engañoso en texto mientras seguía generando la imagen falsa acompañante de todos modos, una contradicción que plantea nuevas preguntas sobre cuán consistentemente se aplican sus salvaguardias.

      Rachit Agarwal / Tendencias Digitales

      El informe también encontró una inconsistencia interesante. ChatGPT permitió recrear versiones falsas de varios medios de comunicación alemanes, mientras que solicitudes similares que involucraban publicaciones como The New York Times y la BBC fueron bloqueadas. OpenAI no explicó por qué existen esas diferencias. En cambio, la empresa dijo que mejora continuamente sus sistemas de seguridad y señaló que usar ChatGPT para engañar a las personas viola sus políticas.

      Ningún chatbot obtuvo una puntuación perfecta

      ChatGPT no fue el único asistente de IA que tuvo dificultades. Gemini de Google también creó artículos fabricados y capturas de pantalla falsas que involucraban a múltiples organizaciones de noticias, aunque los resultados finales no se consideraron tan convincentes. Google señaló sus políticas contra la desinformación dañina, al tiempo que reconoció que los sistemas de IA generativa aún operan dentro de los límites de su entrenamiento. Microsoft Copilot también generó contenido al estilo de noticias falsas durante las pruebas, aunque generalmente incluía una etiqueta de "Generado por IA" y producía diseños que eran más fáciles de distinguir de artículos genuinos.

      Rachit Agarwal / Tendencias Digitales

      Meta AI demostró ser el más resistente en general. El chatbot creó solo una publicación de medios falsa durante las pruebas y se negó a generar varias indicaciones que incluían afirmaciones falsas específicas, citando políticas de la empresa sobre derechos de autor y uso indebido. Los hallazgos llegan en un momento en que las preocupaciones sobre la desinformación generada por IA continúan creciendo. Una reciente publicación de noticias falsas que circulaba en las redes sociales, diseñada para parecer un informe de un importante canal de televisión alemán, fue creada utilizando ChatGPT y engañó brevemente a los usuarios en línea. Expertos legales citados en la investigación advirtieron que producir noticias falsas altamente convincentes con IA podría tener serias consecuencias. Dependiendo de cómo se use el contenido, los creadores podrían enfrentar reclamaciones que van desde difamación y daño a la reputación hasta violaciones relacionadas con documentos digitales falsificados. A medida que las herramientas de IA se vuelven más rápidas, más baratas y más accesibles, el desafío es asegurarse de que no se conviertan en algunas de las máquinas de desinformación más efectivas de Internet.

      Shimul es un colaborador en Tendencias Digitales, con más de cinco años de experiencia en el ámbito tecnológico.

      ChatGPT Pro reemplazó a Gemini Notebook como mi aplicación de investigación favorita, y no lo vi venir

      He estado usando Gemini Notebook desde que se lanzó, y durante mucho tiempo, fue mi aplicación de referencia para casi todo. Ya sea que estuviera investigando un tema, organizando trabajo o estudiando algo nuevo, se convirtió en una de esas aplicaciones que abría instintivamente sin pensar. Cuando Google seguía añadiendo nuevas funciones, realmente creía que había asegurado un lugar permanente en mi flujo de trabajo. Luego, casi sin darme cuenta, ChatGPT Pro tomó el control. He estado usando su modo de trabajo durante un tiempo, y en algún momento, reemplazó a Gemini Notebook. Por supuesto, no fue un cambio de la noche a la mañana. Seguí alternando entre los dos durante semanas, pero gradualmente me encontré alcanzando a ChatGPT cada vez en su lugar. En algún momento, me di cuenta de que no había abierto Gemini Notebook en días. Ahora, honestamente, no lo uso en absoluto.

      Leer más

      DeepSeek acaba de reducir nuevamente los precios de IA, y la carrera de IA de China se está volviendo aún más caótica

      La carrera de IA de China nunca ha estado realmente corta de competencia, pero cada vez parece más una batalla por ver quién puede cobrar menos en lugar de quién puede construir el mejor modelo. DeepSeek ha presentado su último modelo de IA de peso abierto, llamado V4-Flash, junto con una drástica reducción de precios que lo hace significativamente más barato para los desarrolladores. La empresa ha reducido el precio de los tokens en un 50% y también ha decidido no introducir un sistema de precios dinámico previamente anunciado que habría aumentado los costos durante períodos de alta demanda. Los nuevos cambios pintan un cuadro claro: DeepSeek parece más interesado en conquistar a los desarrolladores y expandir su base de usuarios que en maximizar los ingresos a corto plazo.

      Leer más

      Las historias de IA de baja calidad están arruinando la infancia

      Los abuelos están regalando libros de cuentos generados por IA a los niños, y es simplemente asqueroso. La "basura de IA", el término coloquial para el contenido generado por IA de bajo esfuerzo, ha surgido como un gran problema en diferentes industrias. Las discográficas están luchando contra los servicios de streaming para poner una etiqueta de IA en tales pistas. Las editoriales son cautelosas con los borradores escritos por IA. Las revistas de investigación están enterradas bajo un alud de documentos generados por IA. La industria del software está lidiando con la presión de aplicaciones codificadas por "vibraciones" llenas de fallos de seguridad. Incluso Apple está luchando contra una ola de informes de errores creados con IA. Por supuesto, el desdén hacia la IA es bastante obvio, pero ahora hay una nueva dimensión en ello. Los boomers están regalando libros generados por IA a sus nietos.

      Leer más