Galtea raccoglie 3,2 milioni di dollari per aiutare le imprese a testare gli agenti AI

      La spin-off del Barcelona Supercomputing Center, fondata diciotto mesi fa, utilizza l'IA per generare scenari di test realistici che espongono guasti, allucinazioni, pregiudizi e rischi di sicurezza prima che gli agenti IA aziendali diventino operativi. 42CAP ha guidato il round; Mozilla Ventures ha partecipato.

      Il divario tra un agente IA che funziona in una demo e uno che funziona in produzione è, sempre di più, un problema di test. Costruire un prodotto di IA generativa non è più la parte difficile, i modelli esistono, le API sono accessibili e gli strumenti per gli sviluppatori sono maturati.

      Ciò che non ha tenuto il passo è l'infrastruttura per sapere se ciò che hai costruito si comporterà in modo affidabile una volta che gli utenti reali iniziano a interagire con esso su larga scala.

      Galtea, una startup con sede a Barcellona nata dal Barcelona Supercomputing Center nell'ottobre 2024, sta costruendo quell'infrastruttura. Ha raccolto 3,2 milioni di dollari in finanziamenti seed per continuare il lavoro.

      Il round è stato guidato da 42CAP, il fondo tecnologico in fase iniziale con sede a Monaco, con la partecipazione di Mozilla Ventures, il cui tema di investimento si concentra su IA affidabile, e investitori esistenti come JME Ventures, Masia e ABAC Nest Ventures. Il finanziamento totale è ora di 4,1 milioni di dollari. Il nuovo capitale sarà destinato all'espansione dei team ingegneristici e commerciali di Galtea e allo sviluppo ulteriore della piattaforma.

      Il prodotto principale di Galtea genera casi di test e simulazioni utente sintetiche a partire da descrizioni di come un agente IA è destinato a comportarsi. L'idea è di creare automaticamente, su larga scala, scenari avversariali e di edge-case, senza richiedere ai team di ingegneria di scriverli a mano, un processo che è dispendioso in termini di tempo, costoso e, in pratica, raramente completo.

      La piattaforma valuta i modelli in base ai tassi di allucinazione, pregiudizio, vulnerabilità di sicurezza e tossicità, e fornisce metriche strutturate che i team di sviluppo e conformità possono utilizzare per prendere decisioni di distribuzione. Questa settimana, l'azienda ha anche lanciato un livello di self-service con una prova gratuita, ampliando l'accesso oltre la sua attuale base di clienti aziendali.

      I fondatori sono insoliti per questo settore. Jorge Palomar, CEO, ha lavorato ad Amazon e nel gruppo di ricerca sulle Tecnologie Linguistiche del BSC prima di fondare Galtea; il suo co-fondatore Baybars Külebi, CTO, ha un dottorato in Astrofisica, ha co-fondato diversi progetti precedenti nel campo delle tecnologie linguistiche e audio, e ha trascorso anni come esperto di machine learning al BSC.

      La tecnologia stessa è stata originariamente sviluppata al BSC per valutare grandi modelli linguistici per scopi di ricerca interna, funzionando su MareNostrum 5, uno dei supercomputer più potenti d'Europa. Questa provenienza conferisce a Galtea un grado insolito di profondità scientifica per un'azienda che ha diciotto mesi di vita.

      Il tempismo commerciale è strutturato. La legge sull'IA dell'UE richiede ora alle aziende che distribuiscono IA in applicazioni ad alto rischio di documentare e convalidare la sicurezza e la conformità dei loro modelli, con multe fino a 35 milioni di euro per violazioni.

      Per le imprese europee che hanno costruito prodotti IA senza un'infrastruttura di test sistematica, la regolamentazione ha creato urgenza. La piattaforma di Galtea si colloca direttamente in quel divario: aiutando i team di sviluppo e legali a produrre le prove di conformità che la regolamentazione richiede, senza ricostruire i flussi di lavoro da zero.

      Il coinvolgimento di Mozilla Ventures in particolare segnala che il round è stato in parte inquadrato attorno alla narrativa dell'IA affidabile che ha definito la tesi del portafoglio del fondo dalla sua creazione nel 2022.