La mejor nueva función de ChatGPT es una que la mayoría de las personas nunca usará.
Durante años, la conversación más importante en torno a la IA ha sido lo que estas herramientas pueden hacer. Pueden navegar por la web, analizar documentos, conectarse a tus aplicaciones, realizar investigaciones y, cada vez más, actuar en tu nombre. Pero a medida que los sistemas de IA se vuelven más capaces, otra pregunta se ha vuelto más difícil de ignorar: ¿qué sucede cuando un asistente de IA es engañado para entregar información que no debería?
El nuevo Modo de Bloqueo de OpenAI es su última respuesta a ese problema. Disponible en todos los tipos de cuentas de ChatGPT, el Modo de Bloqueo es una configuración de seguridad opcional diseñada para personas y organizaciones que manejan información sensible. La compensación es que obtienes una protección más fuerte contra ciertas formas de robo de datos, pero pierdes acceso a algunas de las características más poderosas de ChatGPT.
Esta nueva característica de seguridad convierte a ChatGPT en un asistente más aislado
El Modo de Bloqueo existe principalmente para reducir el riesgo de exfiltración de datos por ataques de inyección de prompts. La inyección de prompts ha surgido como uno de los desafíos de seguridad más difíciles en la era de la IA. En lugar de atacar el software directamente, las instrucciones maliciosas se ocultan dentro de documentos, sitios web, hojas de cálculo, correos electrónicos u otro contenido que un sistema de IA podría procesar. Si el modelo sigue esas instrucciones ocultas, un atacante podría manipular su comportamiento.
OpenAI se asegura de señalar que el Modo de Bloqueo no detiene la aparición de inyecciones de prompts en el contenido. Una instrucción maliciosa aún podría existir dentro de un archivo subido o una página web en caché. Lo que el Modo de Bloqueo busca prevenir es el paso final, potencialmente más dañino: sacar información sensible. Para lograr eso, OpenAI restringe drásticamente lo que ChatGPT puede comunicar fuera de su propio entorno.
Rachit Agarwal / Digital Trends
Una vez habilitado, la navegación web en vivo se cierra esencialmente. ChatGPT solo puede acceder a contenido en caché, lo que significa que los resultados de búsqueda pueden ser limitados, desactualizados o completamente no disponibles: la Investigación Profunda desaparece, el Modo Agente está deshabilitado y el acceso a la red a través de código generado por Canvas está bloqueado. ChatGPT también pierde la capacidad de descargar archivos para análisis.
Si bien los usuarios aún pueden subir imágenes y crear visuales generados por IA donde sea compatible, ChatGPT no podrá obtener imágenes de la web ni mostrarlas en respuestas normales. Así que, el Modo de Bloqueo convierte a ChatGPT de un asistente de IA altamente conectado en algo mucho más aislado.
Una característica que la mayoría de las personas nunca necesitará
Eso no es una crítica. De hecho, una de las cosas más interesantes sobre el Modo de Bloqueo es cuán abiertamente OpenAI reconoce que no está diseñado para todos. Pero los profesionales de la seguridad han aceptado durante mucho tiempo que una protección más fuerte generalmente viene a expensas de la conveniencia. La comparación más cercana es probablemente el “Modo de Bloqueo” de Apple, introducido hace varios años. Apple lo construyó para personas en riesgo de ciberataques altamente sofisticados, no para propietarios promedio de iPhone. OpenAI parece estar tomando un enfoque similar aquí.
ChatGPT
Para los usuarios que manejan información altamente sensible, limitar las solicitudes de red puede valer la pena el sacrificio. Si un sistema de IA no puede interactuar libremente con servicios externos, simplemente hay menos oportunidades para que la información confidencial salga del entorno. El movimiento también refleja un cambio más amplio que está ocurriendo en la industria de la IA. Las conversaciones anteriores se centraban en si la IA podría acceder a más datos y más servicios. Cada vez más, las empresas se están preguntando cuánto acceso deberían tener estos sistemas en primer lugar.
Esa pregunta se vuelve especialmente importante a medida que los asistentes de IA adquieren la capacidad de navegar por sitios web, conectarse a software empresarial, leer documentos internos y realizar acciones en múltiples servicios. La respuesta de OpenAI no es eliminar esas capacidades. En cambio, está ofreciendo a los usuarios una elección.
El auge de los controles de seguridad de IA
El Modo de Bloqueo es quizás más notable por lo que dice sobre el futuro de los productos de IA. Durante años, la seguridad del software se ha centrado en proteger a las personas de programas maliciosos. La IA introduce un desafío diferente: proteger a los sistemas de IA de información maliciosa.
Ese es un problema mucho más complicado. Una inyección de prompt puede estar oculta en una página web, incrustada dentro de un documento o disfrazada como texto normal. Detectar cada posible ataque es difícil, razón por la cual OpenAI describe la inyección de prompts como un desafío de investigación en curso en lugar de un problema resuelto.
ChatGPT
El Modo de Bloqueo reconoce esa realidad. En lugar de afirmar una protección completa, reduce el daño potencial si algo se escapa a través de las defensas existentes. Para los clientes empresariales, la característica se vuelve aún más granular. Los administradores de espacio de trabajo pueden crear roles personalizados de Modo de Bloqueo, restringir aplicaciones y conectores, y decidir cuidadosamente qué acciones se les permite realizar a los empleados. OpenAI también recomienda limitar las integraciones habilitadas para escritura, ya que crean oportunidades para que la información salga de entornos de confianza.
En muchos sentidos, el Modo de Bloqueo se siente como una señal de hacia dónde se dirige la seguridad de la IA. Cuanto más poderosos se vuelvan los asistentes de IA, más necesitarán los usuarios herramientas para reducir sus poderes cuando la situación lo demande. Eso puede no ser tan emocionante como un nuevo modelo de razonamiento o un agente de IA que pueda reservar tus vuelos. Pero para las organizaciones que manejan información sensible, podría ser mucho más importante. A veces, la IA más inteligente no es la que puede hacer todo. Es la que sabe cuándo no hacerlo.
Other articles
Sriram Krishnan, Trump’s leading AI adviser, is resigning from his position at the White House.
Sriram Krishnan, who played a key role in developing Trump's AI action plan, will be departing at the end of June to establish an external organization centered on AI policy.
Samsung may once again forgo a charging upgrade for the forthcoming Galaxy Z Flip 8.
The forthcoming Galaxy Z Flip 8 from Samsung may reportedly maintain a 25W charging capability along with a 4,300mAh battery, even as rivals are adopting significantly quicker charging technologies.
Netflix states that there is no future for theatrical releases within its streaming ecosystem.
Mr. Lin stressed that “Narnia” was an anomaly and asserted that the company's view on movie theaters remains unchanged. “There are filmmakers who still desire theatrical releases. Those are filmmakers we’ve acknowledged we simply won’t collaborate with,” he remarked, showcasing his characteristic candor.
The high-budget Avatar: The Last Airbender RPG is said to have been cancelled.
An allegedly ambitious AAA RPG based on Avatar: The Last Airbender has been canceled, putting an end to the prospects of a significant open-world experience within the cherished animated universe.
The post-warranty graveyard is becoming crowded with functioning devices.
Software updates are intended to prolong the life of devices, but the issues with the Pixel 4a battery demonstrate how quickly they can push older hardware toward obsolescence.
The concealed work associated with contemporary tech support is transforming everyone into unpaid workers.
Contemporary tech support promotes self-service as a convenience; however, each interaction with a chatbot and every repetitive explanation contributes to unpaid work.
La mejor nueva función de ChatGPT es una que la mayoría de las personas nunca usará.
Cuando se trata de la seguridad de la IA, la conveniencia y la protección rara vez están en la misma mesa. El nuevo Modo de Bloqueo de OpenAI es prueba de ello.