OpenAI añade el Modo de Bloqueo a ChatGPT para bloquear el robo de datos de ataques de inyección de prompts.

      TL;DREl nuevo Modo de Cierre de ChatGPT desactiva la navegación en vivo, el modo agente y la investigación profunda para bloquear la exfiltración de datos a través de la inyección de comandos. Disponible en todos los planes.

      OpenAI ha comenzado a implementar el Modo de Cierre en ChatGPT, una nueva configuración de seguridad diseñada para bloquear a los atacantes de robar datos a través de ataques de inyección de comandos. La función desactiva la navegación web en vivo, el modo agente, la investigación profunda, la recuperación de imágenes, la red Canvas y las descargas de archivos. Está disponible para los usuarios que han iniciado sesión en los planes Free, Go, Plus, Pro y ChatGPT Business de autoservicio.

      La inyección de comandos sigue siendo lo que OpenAI llama un problema de “frontera” que afecta a todos los modelos de lenguaje grandes. El ataque funciona ocultando instrucciones maliciosas en el contenido que el modelo procesa, como una página web o un archivo subido. Si el modelo sigue esas instrucciones, puede ser engañado para enviar datos sensibles a un servidor controlado por un atacante.

      El Modo de Cierre no detiene las inyecciones. Una carga útil maliciosa incrustada en una página web en caché o un PDF subido aún puede influir en el comportamiento del modelo. Lo que hace es cerrar los caminos de salida que un atacante usaría para exfiltrar los datos. No hay navegación en vivo, lo que significa que no hay solicitudes de red a servidores externos. No hay recuperación de imágenes, lo que significa que no hay canales de datos basados en píxeles.

      “El Modo de Cierre está diseñado para reducir sustancialmente el riesgo de exfiltración de datos basada en inyección de comandos, pero no garantiza que la exfiltración de datos no pueda ocurrir”, dijo OpenAI. “El riesgo puede permanecer a través de aplicaciones habilitadas, combinaciones imprevistas de capacidades o técnicas recién descubiertas.”

      El compromiso es significativo. Con el Modo de Cierre activado, ChatGPT pierde la mayor parte de lo que hace que sus funciones de agente e investigación sean útiles. La navegación en vivo se limita solo al contenido en caché. El modo agente ha desaparecido por completo. La investigación profunda está deshabilitada. Es, como reconoce OpenAI, “no está destinado a todos.”

      La función llega en un momento en que los ataques de inyección de comandos en agentes de IA se han convertido en una preocupación creciente. Investigadores de seguridad han demostrado secuestros contra agentes de Anthropic, Google y Microsoft a través de sus integraciones de GitHub Actions. Los tres pagaron recompensas por errores, pero no publicaron avisos públicos. La debilidad subyacente es fundamental: los LLM no pueden separar de manera confiable los datos de las instrucciones.

      El Modo de Cierre y el Modo de Desarrollador no se pueden usar simultáneamente. Activar uno desactiva el otro. OpenAI también lanzó una función de gestión de sesiones separada que permite a los usuarios revisar las sesiones activas de ChatGPT y cerrar sesión en dispositivos individuales si detectan actividad no autorizada.

      La función es una concesión pragmática. OpenAI no afirma haber resuelto la inyección de comandos. Está aceptando que el problema persiste y ofreciendo a los usuarios una forma de reducir su exposición al renunciar a funcionalidades. Para cualquiera que maneje datos sensibles en ChatGPT, ese compromiso vale la pena. Para todos los demás, el ecosistema de agentes en expansión y su creciente superficie de ataque significan que el riesgo solo está aumentando.

      

       Publicado el 7 de junio de 2026 - 9:14 am UTC

      

       Volver arriba