Arcade.dev recauda $60 millones para asegurar agentes de IA empresarial

      El problema de dejar suelto a un agente de IA dentro de una empresa no es que pueda olvidar quién es. Es que no tiene razón para contenerse.

      Un empleado humano está restringido por el miedo a ser despedido. Un agente, como lo expresó un inversor en Arcade.dev, “explotará exhaustivamente cada permiso que herede” para alcanzar su objetivo. Arcade ha recaudado $60 millones para asegurarse de que, por diseño, no pueda.

      La Serie A fue liderada por SYN Ventures, con cheques estratégicos de Morgan Stanley y Wipro. Sumado a una ronda semilla de $12 millones el año pasado, lleva a la startup de San Francisco a un total de $72 millones en financiación.

      La identidad es fácil. La autorización es el muro.

      La mayoría de las empresas ya pueden verificar que un agente es lo que dice ser. Lo que no pueden hacer, según el director ejecutivo de Arcade, Alex Salazar, es probar que un agente determinado, actuando para un usuario dado, tiene permiso para realizar una acción determinada en un sistema dado.

      El 💜 de la tecnología de la UE. Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! “Los agentes no fallan en producción porque el modelo esté mal”, dijo Salazar. “Fallen porque nadie puede probar” quién está autorizado para hacer qué. Esa brecha, argumenta, es la razón por la que tantos agentes corporativos nunca salen de la etapa piloto.

      Salazar, un ex líder de producto de Okta que una vez vendió una startup a la firma de identidad, construyó Arcade con el director de tecnología Sam Partee, anteriormente de Redis.

      El producto accidental.

      Arcade no se propuso construir esto. Su primer producto fue un agente que diagnosticaba servidores y bases de datos con mal comportamiento, lo que requería un acceso de superusuario amplio. “Nadie en su sano juicio iba a dejarnos hacer eso en el mundo real”, dijo Salazar.

      Así que el equipo separó el razonamiento del modelo de la capa que realmente toca las herramientas, y construyó la parte que decide qué herramientas puede usar el agente. Nadie estaba emocionado por el agente de diagnóstico. Todos los que entendían de IA estaban emocionados por la capa de autorización. Arcade desechó el agente y mantuvo la plomería.

      Plomería para la era del agente.

      Esa plomería ahora se basa en el Protocolo de Contexto de Modelo de Anthropic, el estándar emergente para conectar modelos a herramientas como el correo electrónico y las API internas, a las que Arcade dice que ha contribuido. Su tiempo de ejecución verifica cada solicitud contra los permisos reales de una organización, puede ejecutarse dentro del propio entorno de un cliente y registra cada acción para que una empresa pueda distinguir el movimiento de un agente del de un humano.

      El argumento de Salazar sobre por qué una capa de control debe estar fuera del agente es el más antiguo en el riesgo empresarial: la cosa que toma una acción nunca se autoriza a sí misma. Los comerciantes no aprueban sus propias transacciones. Un modelo más inteligente, dice, no cambia eso, y dado que la mayoría de las empresas ejecutan varios modelos a la vez, la capa de control debe ser neutral para todos ellos en lugar de ser propiedad de un solo proveedor.

      Aterriza en medio de una avalancha de startups que venden formas de poner a trabajar a los agentes de IA y, cada vez más, de restringirlos. Arcade enmarca a los incumbentes como quienes resuelven el problema equivocado, con puertas de enlace API dirigiendo el tráfico y herramientas de identidad probando quién eres, cuando la pregunta es qué puede hacer un agente, en qué sistema, ahora mismo. Su apuesta es que la capa aburrida de abajo es donde se encuentra el negocio duradero.

      La trampa.

      Por ahora, esta es una empresa de aproximadamente 40 personas que aún tiene que escalar y defender su territorio en un campo que se está llenando rápidamente. Varios de sus puntos de prueba más destacados, el uso en producción en los bancos más grandes del mundo, un aumento de 25 veces en el uso, miles de herramientas preconstruidas, son cifras propias de Arcade en lugar de verificadas de forma independiente.

      Sin embargo, el argumento subyacente es difícil de desestimar. A medida que los agentes comienzan a actuar en sistemas que ninguna persona entiende completamente, la cuestión de lo que se les permite tocar deja de ser un documento de política y se convierte en infraestructura. Arcade está apostando a que posee esa infraestructura.