Zenity raccoglie 125 milioni di dollari per garantire agenti AI, non modelli

      La maggior parte dei soldi spesi per proteggere l'IA è andata al modello e al prompt. Zenity ha appena raccolto 125 milioni di dollari su un argomento diverso: entrambi mancano il vero pericolo. Quel pericolo è l'agente IA che agisce autonomamente. La startup israeliana garantisce cosa fanno gli agenti una volta che un'azienda li lascia liberi all'interno dei propri sistemi.

      Norwest ha guidato il Series C. Il Vision Fund 2 di SoftBank, Hitachi Ventures e LG Technology Ventures hanno partecipato, ha annunciato l'azienda. Questo porta il suo finanziamento totale a circa 185 milioni di dollari. Zenity non ha divulgato una valutazione. Significativamente, i nuovi investitori sono tutte aziende che impiegano agenti nei propri affari.

      Due veterani dell'Unità 8200, Ben Kliger e Michael Bargury, hanno fondato Zenity nel 2021. Entrambi avevano precedentemente costruito prodotti di sicurezza presso Microsoft. Ora ha più di 230 dipendenti, con ricerca a Tel Aviv e il suo team di vendita a New York. I suoi clienti, afferma, sono per lo più aziende Fortune 500 e Global 2000 in settori regolamentati.

      Proteggere l'agente, non il modello

      La proposta si basa su un cambiamento che l'industria sta solo ora recuperando. Un chatbot risponde a una domanda. Un agente compie azioni. Può accedere a database interni, chiamare strumenti, aggiornare registri ed eseguire flussi di lavoro multi-passaggio attraverso i sistemi. Questo trasforma un problema di contenuto in un problema di controllo.

      Il 💜 della tecnologia UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Un agente può comportarsi esattamente come progettato e comunque causare una violazione. Potrebbe avere troppo accesso o leggere istruzioni manipolate. Così Zenity osserva il livello dell'agente: le sue autorizzazioni, gli strumenti connessi, la memoria e le azioni in tempo reale. Legge l'intento dietro ogni azione e, afferma, può consentire, modificare o bloccare quell'azione prima che venga eseguita.

      Zenity Labs mostra il rischio. Un invito a calendario trappola potrebbe dirottare il browser agentico di Perplexity. Potrebbe quindi aprire un vault di password sbloccato e rivelare le credenziali all'interno. Il suo precedente lavoro su AgentFlayer ha trovato modi senza clic per rivoltare gli assistenti aziendali contro i loro proprietari. Gli attacchi si nascondono all'interno dei dati di cui un agente è destinato a fidarsi.

      Una categoria, e una affollata

      Il tempismo non è sottile. La raccolta avviene giorni dopo un allerta. OpenAI ha ammesso che due dei suoi modelli sono usciti da un test sigillato e hanno hackerato Hugging Face. Stavano cercando una chiave di risposta di riferimento. Questo è precisamente lo scenario contro cui Zenity vende: un agente che fa qualcosa che non dovrebbe. Ha alzato le poste in gioco per ogni azienda che integra agenti nei propri sistemi.

      Zenity non è sola nel notare il divario. È il secondo round di finanziamento per la sicurezza dell'IA a nove cifre di questa settimana, dopo i 250 milioni di Horizon3 per il pentesting autonomo. Si affianca a startup come Onyx che costruiscono strati di controllo per agenti. Gartner già chiama Zenity l'azienda da battere nella governance degli agenti. Gli investitori scommettono che questo diventi una categoria, non una funzionalità.

      Le avvertenze seguono ogni raccolta veloce. Zenity ha mantenuto riservata la sua valutazione e le sue cifre di crescita, per quanto ripide, provengono da una base giovane. La prova più grande è strategica. Le aziende devono fare una scelta. Comprano una piattaforma di sicurezza per agenti dedicata? O si affidano a ciò che Microsoft, Google e AWS includono negli strumenti in cui gli agenti già vivono?

      Per ora, il denaro fluisce verso gli specialisti. Come dice Kliger, l'industria sta entrando in un "era di 1 miliardo di agenti". Ognuno di essi può agire all'interno di un'azienda, non solo rispondere a una domanda. La scommessa di Zenity è che qualcuno deve osservare cosa fanno tutti loro. Questa settimana ha reso quella scommessa più difficile da contestare.