Los chatbots de IA te están mintiendo, y fue vergonzosamente fácil hacer que lo hicieran.
Resulta que engañar a la IA para que difunda desinformación es sorprendentemente fácil.
Un periodista de la BBC realizó recientemente un experimento tonto para demostrar un punto muy serio. En solo 20 minutos, manipuló a ChatGPT y Google para que le dijeran al público que era un campeón mundial en comer perritos calientes.
Lo aterrador es que no tuvo que hacer algo técnicamente difícil para lograr esto. Todo lo que hizo fue publicar una única entrada de blog bien elaborada en su sitio web personal, y la IA la tomó como una fuente de verdad.
Era parte de una investigación que encontró que ChatGPT, Gemini y las AI Overviews de Google estaban siendo manipuladas para ofrecer respuestas sesgadas sobre temas tan serios como tu salud y tus finanzas personales.
Los expertos dicen que este tipo de manipulación está ocurriendo a un nivel amplio y sistémico, con empresas sin escrúpulos abusando de ello para impulsar consejos de salud engañosos, información financiera sesgada y más.
¿Cómo funciona esto?
Cuando le haces una pregunta a un chatbot de IA, a veces busca en internet una respuesta en lugar de confiar en su conocimiento incorporado. Ahí es donde comienza el problema. Según expertos en SEO, las herramientas de IA a menudo extraen información de una única página web o publicación en redes sociales, lo que las hace fáciles de engañar.
“Deberías asumir que estás siendo manipulado hasta que tengan mejores sistemas en su lugar”, dice Lily Ray, fundadora de la consultoría de búsqueda de IA Algorythmic. “La IA solo te da una respuesta. Se vuelve tan fácil tomar las cosas al pie de la letra.”
En su evento Google I/O 2026, Google se centró en mostrar su motor de búsqueda de IA que eventualmente reemplazará la búsqueda de Google que hemos utilizado durante las últimas décadas. Al ver lo fácil que es engañarlo para que proporcione respuestas incorrectas, estoy más cauteloso que nunca.
¿Alguien está solucionando esto?
Tras la investigación de la BBC, Google actualizó sus políticas de spam para confirmar que los intentos de manipular las respuestas de IA rompen sus reglas. Los sitios web que sean sorprendidos haciendo esto podrían ser eliminados o degradados completamente de la búsqueda de Google. Detrás de escena, también hay señales de que Google y ChatGPT están eliminando silenciosamente contenido autopromocional de las respuestas de IA.
Dicho esto, Ray realizó la misma broma esta semana, esta vez dejando que Google creyera que su amigo es el mejor en construir castillos de arena, y Google cayó de nuevo, así que claramente aún hay trabajo por hacer.
Hasta que se implementen mejores sistemas, el consejo de los expertos es simple: no tomes las respuestas de la IA al pie de la letra, especialmente para cualquier cosa relacionada con tu salud, finanzas o decisiones importantes.
Rachit es un periodista tecnológico experimentado con más de siete años de experiencia cubriendo el panorama de la tecnología de consumo.
Esta nueva función de Raycast 2.0 me está volviendo loco
Raycast 2.0 es una actualización fantástica, pero este cambio ha roto completamente mi flujo de trabajo. He estado usando Raycast durante años, y es fácilmente una de mis aplicaciones favoritas para Mac. Hace tanto sin interponerse, que es exactamente lo que quieres de una herramienta de productividad. Así que, naturalmente, cuando llegó Raycast 2.0, actualicé en minutos.
En su mayor parte, me encantan todas las nuevas funciones y cambios de interfaz que vinieron con la nueva actualización. Pero hay un cambio que me ha estado molestando silenciosamente todos los días desde que actualicé, y necesito hablar de ello.
Los MacBook Pro OLED están casi aquí, y la pantalla podría valer la pena la espera
El MacBook Pro OLED ya no es un sueño lejano, y tu experiencia de visualización está a punto de recibir una actualización seria. Recientemente escribí un artículo sobre por qué estoy emocionado por el próximo MacBook Pro. Una de las razones mencionadas allí fueron las esperadas actualizaciones de pantalla, que incluirán el cambio a un panel OLED y posiblemente la adición de una pantalla táctil.
Parece que el rumor del OLED está casi confirmado. Según TheElec, los paneles OLED para MacBook Pro ya han entrado en la fase de producción en masa. Samsung Display ha cruzado un importante hito de fabricación, logrando un rendimiento de más del 90% para sus paneles OLED de octava generación.
Ahora puedes enviar tareas de Codex desde tu teléfono incluso cuando tu Mac está bloqueado
La aplicación Codex de OpenAI para Mac acaba de recibir una actualización importante, y es del tipo que te hace sentir como si estuvieras viviendo en el futuro. Ahora puedes enviar una tarea a Codex desde tu teléfono, y este procederá a usar aplicaciones en tu Mac, incluso si la pantalla está apagada y la computadora está bloqueada.
Uno de los principales problemas con agentes de IA como Claude Cowork o OpenAI Codex es que necesitan que tu Mac esté desbloqueada y funcionando para que puedan trabajar. Esa es una gran falla de seguridad que impedirá que la mayoría de los usuarios utilicen estas funciones. Con su última actualización de Codex, OpenAI aparentemente ha solucionado este problema.
Otros artículos
Los chatbots de IA te están mintiendo, y fue vergonzosamente fácil hacer que lo hicieran.
Una investigación de la BBC encontró que los chatbots de IA pueden ser fácilmente manipulados para difundir desinformación. Google ha actualizado sus políticas, pero los expertos advierten que aún no estás a salvo.
