Alice recauda $140 millones para poner a prueba los modelos que envían Anthropic y Google.

      Una empresa pasó ocho años catalogando el peor material en internet. Ahora ha recaudado $140 millones para dirigir ese archivo hacia modelos de IA.

      Alice, anteriormente ActiveFence, anunció la ronda el martes. Apax Digital Funds la lideró y tomará un asiento en la junta. La financiación total ahora asciende a $280 millones.

      El anuncio nombra a MoreTech y Phoenix Financial como los nuevos participantes. Los patrocinadores existentes, incluidos Resolute Ventures, Grove Ventures, CRV, Highland Europe, Norwest, NFX y Claltech, también se unieron.

      Bloomberg y la prensa israelí añaden dos nombres que el comunicado omite. Samsung Electronics participó, al igual que la empresa de ciberseguridad que cotiza en bolsa, SentinelOne. Esta última ahora tiene una participación en una empresa que vende a los mismos compradores.

      Nadie está de acuerdo en cuánto vale

      El propio anuncio de la empresa no da ninguna valoración.

      El director ejecutivo Noam Schwartz le dijo a Marissa Newman de Bloomberg que la ronda valora a Alice cerca de $1 mil millones. Meir Orbach lo puso más bajo en Calcalist, entre $700 millones y $800 millones. Globes reportó $800 millones.

      La diferencia entre la cifra baja y la alta asciende a aproximadamente $300 millones. Eso es más del doble del tamaño de la ronda en sí.

      Lo que la empresa realmente hace

      Antes de que un modelo se implemente, los investigadores de Alice intentan romperlo. Simulan solicitudes maliciosas y tareas agentivas, buscando jailbreaks, inyección de solicitudes y comportamientos que el laboratorio no pretendía.

      El comunicado nombra a Anthropic, Google y Cohere entre los laboratorios de vanguardia con los que trabaja. Schwartz se negó a decirle a Bloomberg qué modelos específicos, citando confidencialidad.

      Una vez que un modelo está activo, el trabajo cambia. Las empresas establecen sus propias políticas sobre las guardrails que el laboratorio construyó. Realizan ataques simulados para encontrar filtraciones de datos y brechas de cumplimiento, y monitorean entradas y salidas a medida que ocurren.

      El activo es el archivo

      Alice llama a su conjunto de datos Rabbit Hole. Describe la colección como el mayor cuerpo de contenido adversarial y dañino del mundo real en cualquier lugar.

      Provino del seguimiento de fraudes, extremismo, manipulación coordinada y ciberataques a través de la web abierta desde 2018. La empresa ahora compara esos patrones con ataques a sistemas de IA.

      "Los mundos de la manipulación, la falsificación y los ciberataques son nuestro pan de cada día", dijo Schwartz a Calcalist. Alice se sienta sobre los datos más contaminados que existen, afirmó.

      Hay infinitas formas de romper una IA, añadió en el anuncio de financiación. No puedes defenderte de algo que nunca has visto.

      Por qué llegó el dinero ahora

      La ronda sigue una serie de incidentes que involucran agentes autónomos construidos por Anthropic, OpenAI y Meta. Esos agentes abandonaron sus entornos de prueba y llegaron a organizaciones externas.

      Un agente falsificó identidades para plantar malware durante evaluaciones de seguridad. El propio Claude Cowork de Anthropic pudo leer credenciales en una Mac después de escapar de su máquina local.

      Los expertos en ciberseguridad culparon a los desarrolladores en algunos casos. Las salvaguardias descuidadas permitieron que los modelos escaparan de los espacios aislados utilizados para realizar pruebas, argumentaron. Quince estados de EE. UU. exigieron registros de uno de esos incidentes, y OpenAI reescribió sus reglas de seguridad después.

      El director ejecutivo no está vendiendo el apocalipsis

      Schwartz llama a los ataques recientes ejemplos de error humano y salvaguardias inadecuadas en lugar de autonomía de la máquina.

      "No creo que vayamos a ver modelos corriendo y hackeando a la gente en el corto plazo", le dijo a Bloomberg. Pero la industria necesita tomar estas cosas increíblemente en serio, afirmó.

      Esa es una afirmación más restringida que el mercado que financia. También vale la pena señalar quién la está haciendo, que es la persona que vende la defensa.

      Los números detrás de la ronda

      Alice se acerca a $100 millones en ingresos recurrentes anuales, una métrica que las startups utilizan para aproximar ventas. Su negocio de IA ha crecido más del 500% en dos años.

      La empresa emplea a unas 400 personas, la mayoría de ellas en Israel, con personal en Nueva York, Londres y Hanoi. Más de 150 de ellas son investigadores en su laboratorio de seguridad de IA.

      Dice que trabaja con ocho de los diez principales laboratorios de modelos y protege a más de tres mil millones de personas en plataformas que incluyen Google, Meta, TikTok y Amazon.

      Solía ser una empresa de moderación de contenido

      Schwartz, Iftach Orr, Alon Porat y Eyal Dykan fundaron ActiveFence en 2018 para moderar contenido para plataformas de redes sociales. Recaudó $100 millones en 2021 sin revelar una valoración.

      La empresa comenzó a manejar trabajo de IA generativa en 2022. Comenzó con Cohere, antes de que ChatGPT llegara al público general, y concluyó que sus datos eran importantes para la seguridad del modelo, dijo Schwartz a Calcalist.

      En enero se renombró a sí misma como Alice, en honor al personaje de Lewis Carroll, y se dirigió a asegurar modelos directamente.

      Investigaciones independientes respaldan el mercado, no los números

      Más de 100 expertos escribieron el Informe Internacional de Seguridad de IA 2026. Encontró que incluso los modelos bien defendidos aún se rompen a una alta tasa, y que las nuevas técnicas de ataque emergen más rápido de lo que las defensas pueden cerrarlas.

      METR, una organización de investigación independiente, ha catalogado docenas de incidentes en los que los agentes de IA actuaron más allá del alcance que se les dio. En algunos casos, los agentes intentaron ocultarlo de la supervisión humana.

      Ninguno de los organismos evalúa a Alice, y ninguno valida sus afirmaciones comerciales. Establecen que el problema existe.

      El caso del inversor

      El cambio a la plataforma en la nube creó una nueva categoría de seguridad, dijo Patrick Kane, socio de Apax Digital. El cambio hacia la IA está abriendo una superficie de ataque que se amplía a medida que las empresas implementan agentes.

      Su colega Eric Levine describió el mecanismo como un bucle. Los ataques observados en la naturaleza alimentan las pruebas, las pruebas ajustan las guardrails, y el comportamiento del modelo en producción retroalimenta ambos.

      Dónde se sitúa Europa en esto

      Highland Europe está entre los inversores existentes, y Alice mantiene una oficina en Londres, pero la ronda es, en su mayoría, dinero israelí, estadounidense y asiático.

      La presión regulatoria es europea de todos modos. Un regulador del Reino Unido dijo este mes que está vigilando a los agentes de IA rebeldes, y el Instituto de Seguridad de IA de Gran Bretaña realizó las evaluaciones en las que varios de esos agentes escaparon.

      Schwartz resumió el problema subyacente en una línea. La industria democratizó las capacidades más rápido de lo que democratizó las defensas, y esta ronda trata de cerrar esa brecha.