Pramaana Labs raccoglie 27 milioni di dollari per rendere l'IA verificabile

      Mentre le aziende faticano a trasformare i progetti pilota di intelligenza artificiale in strumenti su cui possono realmente contare, una nuova startup scommette che la soluzione assomiglia meno a un chatbot migliore e più a una dimostrazione matematica.

      Pramaana Labs ha annunciato 27 milioni di dollari in finanziamenti seed mercoledì, guidati da Khosla Ventures, con Accel, BoldCap, Nexus Venture Partners, Premji Invest e Unbound che partecipano anch'essi.

      L'azienda si sta concentrando su settori ad alto rischio in cui una risposta sbagliata comporta costi reali: diritto, scoperta di farmaci e preparazione fiscale.

      La sua proposta è che quei settori non sono così caotici come sembrano. “I problemi più difficili del mondo non sono irrisolvibili. Sono non formalizzati,” ha detto il cofondatore e amministratore delegato Ranjan Rajagopalan. “Ogni dominio in cui sbagliare può costare a qualcuno la salute, i soldi o la libertà ha delle regole.”

      Un LLM con un controllore di prove integrato

      Pramaana funziona ancora su un modello di linguaggio di grandi dimensioni convenzionale, che le conferisce la flessibilità di gestire domande in linguaggio naturale. La differenza si trova in cima.

      Quello strato si basa sulla verifica formale, la pratica di dimostrare che un sistema si comporta esattamente come specificato. In particolare, Pramaana utilizza LEAN, il linguaggio open-source che i matematici usano per verificare le dimostrazioni, per controllare il lavoro del modello e rendere il ragionamento deterministico piuttosto che probabilistico.

      “È come la matematica nel senso che hai molte regole a cui devi attenerti,” ha detto Rajagopalan a TechCrunch, descrivendo il codice fiscale. “Una volta che hai una versione codificata di esso, il ragionamento sopra di esso inizia a diventare deterministico.”

      Abbinare un LLM a uno strato di verifica sta diventando un modo comune per affrontare il problema dell'affidabilità dell'IA. Ciò che Pramaana rivendica come proprio è l'uso di strumenti di prova formale per farlo, un approccio che si avvicina di più alla ricerca su garanzie dimostrabili rispetto ai soliti guardrail.

      Costruire il manuale delle regole, dominio per dominio

      Il problema è che qualcuno deve prima codificare le regole, e Pramaana lo sta facendo un verticale alla volta, ciascuno supervisionato da esperti del settore.

      Per le tasse, l'azienda sta lavorando con l'ex commissario dell'IRS Danny Werfel. I professori dell'IIT Delhi, IIT Madras e UC Berkeley stanno supervisionando i sistemi di cybersecurity e scoperta di farmaci.

      C'è un precedente per l'idea. Rajagopalan fa riferimento al progetto CATALA della Francia, che ha trasformato gran parte della legislazione fiscale e dei benefici del paese in codice eseguibile.

      Per ora il lavoro è ancora avanti rispetto al prodotto. Pramaana ha i soldi, i sostenitori e una tesi secondo cui il limite di accuratezza dell'IA è davvero una questione di quanto del mondo ci siamo presi la briga di scrivere. Le regole devono solo essere codificate, e quella è la parte difficile.