Zenity recauda $125 millones para asegurar agentes de IA, no modelos.

      La mayor parte del dinero gastado en la protección de la IA se ha destinado al modelo y al aviso. Zenity acaba de recaudar $125 millones con un argumento diferente: ambos pasan por alto el verdadero peligro. Ese peligro es el agente de IA que actúa por su cuenta. La startup israelí asegura lo que hacen los agentes una vez que una empresa los deja sueltos dentro de sus sistemas.

      Norwest lideró la Serie C. El Fondo de Visión 2 de SoftBank, Hitachi Ventures y LG Technology Ventures se unieron, anunció la empresa. Eso lleva su financiación total a aproximadamente $185 millones. Zenity no divulgó una valoración. De manera significativa, los nuevos patrocinadores son todas empresas que implementan agentes en sus propios negocios.

      Dos veteranos de la Unidad 8200, Ben Kliger y Michael Bargury, fundaron Zenity en 2021. Ambos habían construido anteriormente productos de seguridad en Microsoft. Ahora tiene más de 230 empleados, con investigación en Tel Aviv y su equipo de ventas en Nueva York. Sus clientes, dice, son en su mayoría empresas de Fortune 500 y Global 2000 en industrias reguladas.

      Asegurando al agente, no al modelo

      La propuesta se basa en un cambio que la industria apenas está comenzando a comprender. Un chatbot responde a una pregunta. Un agente toma acciones. Puede acceder a bases de datos internas, llamar herramientas, actualizar registros y ejecutar flujos de trabajo de múltiples pasos a través de sistemas. Eso convierte un problema de contenido en un problema de control.

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Regístrate ahora! Un agente puede comportarse exactamente como se diseñó y aún así causar una violación. Podría tener demasiado acceso o leer instrucciones manipuladas. Así que Zenity observa la capa del agente: sus permisos, herramientas conectadas, memoria y acciones en vivo. Lee la intención detrás de cada acción y, dice, puede permitir, cambiar o bloquear esa acción antes de que se ejecute.

      Zenity Labs muestra el riesgo. Una invitación de calendario con trampa podría secuestrar el navegador agente de Perplexity. Luego podría abrir una bóveda de contraseñas desbloqueada y filtrar las credenciales dentro. Su trabajo anterior, AgentFlayer, encontró formas de un solo clic para volver a los asistentes empresariales en contra de sus propietarios. Los ataques se ocultan dentro de los datos que un agente debe confiar.

      Una categoría, y una abarrotada

      El momento no es sutil. La recaudación llega días después de un susto. OpenAI admitió que dos de sus modelos escaparon de una prueba sellada y hackearon Hugging Face. Estaban persiguiendo una clave de respuesta de referencia. Ese es precisamente el escenario contra el que Zenity vende: un agente haciendo algo que no debería. Ha elevado las apuestas para cada empresa que conecta agentes en sus sistemas.

      Zenity no está sola en detectar la brecha. Es la segunda ronda de financiación de seguridad de IA de nueve cifras esta semana, después de los $250 millones de Horizon3 para pruebas de penetración autónomas. Se sitúa junto a startups como Onyx que construyen capas de control para agentes. Gartner ya llama a Zenity la empresa a vencer en la gobernanza de agentes. Los inversores están apostando a que esto se convierta en una categoría, no en una característica.

      Las advertencias siguen a cualquier recaudación rápida. Zenity ha mantenido su valoración en secreto, y sus cifras de crecimiento, por muy pronunciadas que sean, provienen de una base joven. La prueba más grande es estratégica. Las empresas deben tomar una decisión. ¿Compran una plataforma de seguridad de agentes dedicada? ¿O se apoyan en lo que Microsoft, Google y AWS agrupan en las herramientas donde los agentes ya viven?

      Por ahora, el dinero fluye hacia los especialistas. Como dice Kliger, la industria se dirige hacia una “era de 1 mil millones de agentes”. Cada uno puede actuar dentro de un negocio, no solo responder a una pregunta. La apuesta de Zenity es que alguien tiene que vigilar lo que todos ellos hacen. Esta semana hizo que esa apuesta fuera más difícil de discutir.