La mejor nueva función de ChatGPT es una que la mayoría de las personas nunca utilizará.

      Durante años, la conversación más importante en torno a la IA ha sido lo que estas herramientas pueden hacer. Pueden navegar por la web, analizar documentos, conectarse a tus aplicaciones, realizar investigaciones y, cada vez más, actuar en tu nombre. Pero a medida que los sistemas de IA se vuelven más capaces, otra pregunta se ha vuelto más difícil de ignorar: ¿qué sucede cuando un asistente de IA es engañado para entregar información que no debería?

      El nuevo Modo de Bloqueo de OpenAI es su última respuesta a ese problema. Disponible en todos los tipos de cuentas de ChatGPT, el Modo de Bloqueo es una configuración de seguridad opcional diseñada para personas y organizaciones que manejan información sensible. La compensación es que obtienes una protección más fuerte contra ciertas formas de robo de datos, pero pierdes acceso a algunas de las características más poderosas de ChatGPT.

      Esta nueva función de seguridad convierte a ChatGPT en un asistente más aislado

      El Modo de Bloqueo existe principalmente para reducir el riesgo de exfiltración de datos por ataques de inyección de prompts. La inyección de prompts ha surgido como uno de los desafíos de seguridad más difíciles en la era de la IA. En lugar de atacar el software directamente, las instrucciones maliciosas se ocultan dentro de documentos, sitios web, hojas de cálculo, correos electrónicos u otro contenido que un sistema de IA podría procesar. Si el modelo sigue esas instrucciones ocultas, un atacante podría manipular su comportamiento.

      OpenAI se asegura de señalar que el Modo de Bloqueo no detiene la aparición de inyecciones de prompts en el contenido. Una instrucción maliciosa aún podría existir dentro de un archivo subido o una página web en caché. Lo que el Modo de Bloqueo busca prevenir es el paso final, potencialmente más dañino: sacar información sensible. Para lograrlo, OpenAI restringe drásticamente lo que ChatGPT puede comunicar fuera de su propio entorno.

      Rachit Agarwal / Digital Trends

      Una vez habilitado, la navegación web en vivo se cierra esencialmente. ChatGPT solo puede acceder a contenido en caché, lo que significa que los resultados de búsqueda pueden ser limitados, desactualizados o completamente no disponibles: la Investigación Profunda desaparece, el Modo Agente está deshabilitado y el acceso a la red a través de código generado por Canvas está bloqueado. ChatGPT también pierde la capacidad de descargar archivos para análisis.

      Si bien los usuarios aún pueden subir imágenes y crear visuales generados por IA donde sea compatible, ChatGPT no podrá obtener imágenes de la web ni mostrarlas en respuestas normales. Así que, el Modo de Bloqueo convierte a ChatGPT de un asistente de IA altamente conectado en algo mucho más aislado.

      Una función que la mayoría de las personas nunca necesitará

      Eso no es una crítica. De hecho, una de las cosas más interesantes sobre el Modo de Bloqueo es cuán abiertamente OpenAI reconoce que no está diseñado para todos. Pero los profesionales de la seguridad han aceptado durante mucho tiempo que una protección más fuerte generalmente viene a expensas de la conveniencia. La comparación más cercana probablemente sea el "Modo de Bloqueo" de Apple, introducido hace varios años. Apple lo construyó para personas en riesgo de ciberataques altamente sofisticados, no para propietarios promedio de iPhone. OpenAI parece estar tomando un enfoque similar aquí.

      ChatGPT

      Para los usuarios que manejan información altamente sensible, limitar las solicitudes de red puede valer la pena el sacrificio. Si un sistema de IA no puede interactuar libremente con servicios externos, simplemente hay menos oportunidades para que la información confidencial salga del entorno. El movimiento también refleja un cambio más amplio que está ocurriendo en la industria de la IA. Las conversaciones anteriores se centraron en si la IA podría acceder a más datos y más servicios. Cada vez más, las empresas se preguntan cuánto acceso deberían tener estos sistemas en primer lugar.

      Esa pregunta se vuelve especialmente importante a medida que los asistentes de IA adquieren la capacidad de navegar por sitios web, conectarse a software empresarial, leer documentos internos y realizar acciones en múltiples servicios. La respuesta de OpenAI no es eliminar esas capacidades. En cambio, está ofreciendo a los usuarios una elección.

      El auge de los controles de seguridad de IA

      El Modo de Bloqueo es quizás más notable por lo que dice sobre el futuro de los productos de IA. Durante años, la seguridad del software se ha centrado en proteger a las personas de programas maliciosos. La IA introduce un desafío diferente: proteger a los sistemas de IA de información maliciosa.

      Ese es un problema mucho más complicado. Una inyección de prompt puede estar oculta en una página web, incrustada dentro de un documento o disfrazada como texto normal. Detectar cada posible ataque es difícil, razón por la cual OpenAI describe la inyección de prompts como un desafío de investigación en curso en lugar de un problema resuelto.

      ChatGPT

      El Modo de Bloqueo reconoce esa realidad. En lugar de reclamar una protección completa, reduce el daño potencial si algo se escapa a través de las defensas existentes. Para los clientes empresariales, la función se vuelve aún más granular. Los administradores de espacio de trabajo pueden crear roles personalizados de Modo de Bloqueo, restringir aplicaciones y conectores, y decidir cuidadosamente qué acciones se les permite realizar a los empleados. OpenAI también recomienda limitar las integraciones habilitadas para escritura, ya que crean oportunidades para que la información salga de entornos de confianza.

      En muchos sentidos, el Modo de Bloqueo se siente como una señal de hacia dónde se dirige la seguridad de la IA. Cuanto más poderosos se vuelvan los asistentes de IA, más necesitarán los usuarios herramientas para reducir sus poderes cuando la situación lo demande. Eso puede no ser tan emocionante como un nuevo modelo de razonamiento o un agente de IA que pueda reservar tus vuelos. Pero para las organizaciones que manejan información sensible, podría ser mucho más importante. A veces, la IA más inteligente no es la que puede hacer todo. Es la que sabe cuándo no hacerlo.