Arcade.dev raccoglie 60 milioni di dollari per garantire agenti AI aziendali

      Il problema di lasciare un agente AI libero all'interno di un'azienda non è che potrebbe dimenticare chi è. È che non ha alcun motivo di trattenersi. Un dipendente umano è trattenuto dalla paura di essere licenziato. Un agente, come ha detto un investitore di Arcade.dev, “sfrutterà in modo esaustivo ogni permesso che eredita” per raggiungere il suo obiettivo. Arcade ha raccolto 60 milioni di dollari per assicurarsi che, per design, non possa farlo.

      Il Series A è stato guidato da SYN Ventures, con assegni strategici da Morgan Stanley e Wipro. Aggiunto a un seed di 12 milioni di dollari dell'anno scorso, porta la startup di San Francisco a un totale di 72 milioni di dollari di finanziamenti.

      L'identità è facile. L'autorizzazione è il muro.

      La maggior parte delle aziende può già verificare che un agente è ciò che afferma di essere. Ciò che non possono fare, secondo il CEO di Arcade Alex Salazar, è dimostrare che un dato agente, che agisce per un dato utente, è autorizzato a eseguire una data azione su un dato sistema.

      Il 💜 della tecnologia UE. Le ultime voci dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! “Gli agenti non falliscono in produzione perché il modello è sbagliato,” ha detto Salazar. “Falliscono perché nessuno può dimostrare” chi è autorizzato a fare cosa. Quel divario, sostiene, è il motivo per cui così tanti agenti aziendali non lasciano mai la fase pilota.

      Salazar, un ex leader di prodotto di Okta che una volta ha venduto una startup all'azienda di identità, ha costruito Arcade con il CTO Sam Partee, ex di Redis.

      Il prodotto accidentale

      Arcade non ha iniziato a costruire questo. Il suo primo prodotto era un agente che diagnosticava server e database malfunzionanti, che richiedeva un accesso super-utente ampio. “Nessuno con la testa a posto ci avrebbe effettivamente lasciato fare ciò nel mondo reale,” ha detto Salazar.

      Così il team ha separato il ragionamento del modello dallo strato che tocca effettivamente gli strumenti e ha costruito la parte che decide quali strumenti l'agente può utilizzare. Nessuno era entusiasta dell'agente diagnostico. Tutti coloro che capivano l'AI erano entusiasti dello strato di autorizzazione. Arcade ha abbandonato l'agente e ha mantenuto la parte infrastrutturale.

      Infrastruttura per l'era degli agenti

      Quell'infrastruttura ora si basa sul Model Context Protocol di Anthropic, lo standard emergente per collegare modelli a strumenti come email e API interne, a cui Arcade afferma di aver contribuito. Il suo runtime controlla ogni richiesta rispetto ai permessi reali di un'organizzazione, può funzionare all'interno dell'ambiente del cliente e registra ogni azione in modo che un'azienda possa distinguere le mosse di un agente da quelle di un umano.

      L'argomento di Salazar sul perché uno strato di controllo debba trovarsi al di fuori dell'agente è il più antico nel rischio aziendale: la cosa che compie un'azione non può mai autorizzare se stessa. I trader non approvano le proprie operazioni. Un modello più intelligente, dice, non cambia questo, e poiché la maggior parte delle aziende esegue diversi modelli contemporaneamente, lo strato di controllo deve essere neutrale rispetto a tutti loro piuttosto che di proprietà di un singolo fornitore.

      Si inserisce in mezzo a una corsa di startup che vendono modi per mettere gli agenti AI al lavoro e, sempre più, per contenerli. Arcade inquadra gli incumbents come risolutori del problema sbagliato, con gateway API che instradano il traffico e strumenti di identità che dimostrano chi sei, quando la domanda è cosa può fare un agente, su quale sistema, proprio ora. La sua scommessa è che lo strato noioso sottostante è dove si trova il business durevole.

      Il problema

      Per ora questa è una compagnia di circa 40 persone che deve ancora scalare e difendere il proprio territorio in un campo che si riempie rapidamente. Diversi dei suoi punti di prova principali, utilizzo in produzione presso le banche più grandi del mondo, un aumento di 25 volte nell'uso, migliaia di strumenti preconfezionati, sono cifre di Arcade piuttosto che verificate in modo indipendente.

      L'argomento sottostante, però, è difficile da ignorare. Man mano che gli agenti iniziano ad agire su sistemi che nessuna singola persona comprende completamente, la questione di cosa sono autorizzati a toccare smette di essere un documento di policy e diventa infrastruttura. Arcade sta scommettendo di possedere quella infrastruttura.