La risposta di Lovable al rischio dell'IA aziendale è una polizza assicurativa di Lloyd's.

      Lovable è diventata la prima piattaforma di agenti di codifica certificata secondo AIUC-1, uno standard di sicurezza per agenti AI che presenta un aspetto insolito: l'ente certificatore si fa anche carico del rischio. I clienti che utilizzano un agente certificato sono assicurati, tramite Lloyd’s di Londra, contro i fallimenti che lo standard è progettato per prevenire. Certificazione e responsabilità arrivano insieme.

      Cosa copre lo standard

      AIUC-1 proviene dalla Artificial Intelligence Underwriting Company, sviluppata con il contributo di Stanford, MIT, MITRE e la Cloud Security Alliance. Stabilisce 51 requisiti su sei principi.

      Questi spaziano dalla gestione dei segreti, alle impostazioni predefinite per la generazione di codice sicuro, all'esecuzione in sandbox, alla supervisione umana e alla governance aziendale. Ogni requisito necessita di una politica documentata, implementazione tecnica, processo operativo e test di red-teaming di terze parti trimestrali.

      Fondamentale è che venga verificato in modo indipendente piuttosto che auto-certificato, il che lo distingue dalla maggior parte dei framework di governance AI attualmente in circolazione.

      Perché l'assicurazione è la parte interessante

      Gli attuari che valutano il rischio degli agenti AI rappresentano un meccanismo di responsabilità più concreto rispetto a un codice di condotta volontario. Qualcuno deve essere disposto a perdere denaro se i controlli falliscono.

      Riempie anche un vuoto reale. Gli agenti AI stanno penetrando nelle aziende autonomamente e la legge non ha una risposta chiara su chi incolpare, con le leggi sul misuso dei computer che presuppongono un intruso umano e la legge sulla responsabilità del prodotto che raggiunge gli sviluppatori solo se un tribunale accetta che sia coinvolto un sistema autonomo.

      L'assicurazione aggira questo. Non risolve chi è legalmente responsabile, ma rende qualcuno contrattualmente responsabile per il costo.

      Il rischio non è ipotetico

      Le modalità di fallimento che AIUC-1 mira a prevenire sono già documentate. Quattro attacchi separati a agenti in un solo mese condividevano un difetto sottostante, e i centri di ricerca hanno registrato azioni non autorizzate di agenti durante test controllati.

      Per una piattaforma in cui l'80% dei costruttori non è tecnico, l'esecuzione in sandbox e le impostazioni predefinite sicure non sono opzioni extra. Sono la differenza tra un prototipo e qualcosa che una banca utilizzerà.

      Risolvere la revisione della sicurezza

      Il secondo annuncio riguarda i centri di fiducia. Ogni app pubblicata su Lovable ora riceve una pagina di sicurezza dedicata al proprio indirizzo, mostrando quali controlli sono attivi.

      Legge direttamente dall'app, senza nulla da compilare per il costruttore, coprendo controlli di vulnerabilità, elenco dei materiali software, tracciabilità del deployment, monitoraggio della salute e revisioni dell'autorizzazione del database.

      Questo mira a un collo di bottiglia specifico. Quasi ogni affare B2B coinvolge qualcuno che verifica se il software è sicuro, e un fondatore non tecnico con un'app Lovable storicamente non ha avuto nulla da consegnare.

      E il problema delle autorizzazioni

      Il terzo elemento è i connettori per gli utenti delle app, che consentono a ciascun utente finale di un'app pubblicata di collegare il proprio account di terze parti in modo che l'app agisca per loro conto con le proprie autorizzazioni.

      L'autenticazione passa attraverso il gateway dei connettori di Lovable, e funziona con Google, Microsoft, Slack, Salesforce e HubSpot. Rimuove il modello in cui una credenziale condivisa fa tutto per tutti, che è esattamente ciò a cui si oppongono i revisori della sicurezza.

      Cosa hanno in comune i tre

      Nessuno di questi annunci migliora il codice. Tutti e tre rendono l'app più facile da acquistare.

      L'enterprise è la prossima frontiera riconosciuta per la codifica vibrazionale, e la barriera lì non è mai stata realmente se il software funzioni. È se un team di sicurezza approva.

      Lovable ha raggiunto 500 milioni di dollari di entrate annualizzate con 146 dipendenti ed è riportato essere in trattative per raccogliere fondi a una valutazione di 13,2 miliardi di dollari. La crescita dei consumatori e dei prosumer l'ha portata lì, e i contratti aziendali sono ciò che giustificherebbe il prossimo numero.

      La domanda aperta

      La certificazione non è la stessa cosa della sicurezza, e un red-team trimestrale è un'istantanea piuttosto che una garanzia. Un fallimento assicurato è comunque un fallimento.

      Ciò che cambia è chi si fa carico del costo quando qualcosa va storto, che per un responsabile degli acquisti è frequentemente l'unica domanda che conta.