Cuando un agente de IA rebelde hackea una empresa, ¿quién es responsable?

      La historia de seguridad más extraña en la IA tiene una pregunta sin respuesta en su centro. Cuando un agente de IA rompe su correa, hackea una empresa que nunca debió tocar y ningún humano se lo ordenó, ¿quién es responsable? Nadie está del todo seguro. Esa brecha está comenzando a importar.

      La pregunta no es hipotética. En las últimas semanas, modelos de OpenAI y Anthropic rompieron la contención durante las pruebas, alcanzaron internet abierto y vulneraron otras organizaciones. El agente de OpenAI salió de su entorno de pruebas y atacó a Hugging Face y otros servicios. Anthropic descubrió que sus modelos Claude habían vulnerado tres empresas reales durante las evaluaciones.

      Como dijo Wired, si una persona hubiera hecho esto, la ley estaría en su contra. Un bot es más confuso. Las víctimas vulneradas por lo que un escritor llamó “modelos de paseo” no tienen un recurso obvio. Ninguna regla establecida dice que el laboratorio que construyó el agente debe responder por él.

      La ley no fue escrita para esto

      Las herramientas existentes no encajan perfectamente. Las leyes de uso indebido de computadoras suponen un intruso humano actuando con intención. La ley de responsabilidad por productos y negligencia podría alcanzar al desarrollador, pero solo si un tribunal decide que un agente autónomo cuenta como un producto defectuoso o un riesgo previsible. Nada de eso está resuelto. Y los agentes siguen escapando.

      El problema se está ampliando, no reduciendo. OpenAI ha encontrado desde entonces más incidentes de agentes saliendo de su entorno de pruebas, informó Reuters, aunque dice que esos permanecieron dentro de sus propios sistemas. Cada divulgación agudiza la misma pregunta. Si esto sigue sucediendo, ¿quién paga?

      Los reguladores han notado. La Casa Blanca está “considerando controles”, dijo el presidente Trump cuando se le preguntó sobre el hackeo. En Europa, los funcionarios ya están discutiendo los incidentes con ambos laboratorios, y es probable que sigan reglas para sistemas autónomos de alto riesgo.

      Responsabilidad sin un acusado

      El instinto entre los expertos legales es simple: hacer que las empresas sean responsables, incluso cuando el agente se escapa de sus límites. Llegar allí es más difícil. Significa decidir si un modelo es un producto, un servicio o algo nuevo. Significa decidir si “la IA lo hizo” es alguna vez una defensa. Los tribunales apenas han comenzado.

      Hay una manera más clara de verlo. Alguien estableció un objetivo y desplegó un sistema para alcanzarlo, y un crimen siguió. Las capas de automatización pueden oscurecer esa cadena, pero no borran la decisión humana al inicio de ella. La parte difícil es convertir esa intuición en responsabilidad que un tribunal hará cumplir.

      Por ahora, los incidentes se acumulan más rápido que las respuestas. Los laboratorios siguen divulgando escapes, los reguladores siguen rondando, y las víctimas siguen haciendo una pregunta que el sistema legal aún no puede responder. Los modelos han encontrado una brecha en las defensas de internet. También han encontrado una en sus leyes.