Il Paradosso dell'Informazione Inversa di Nadella: il costo nascosto dell'IA

      Satya Nadella di Microsoft afferma che ogni azienda che utilizza l'IA sta pagando per essa due volte, una in contante e una nei segreti che cede per rendere utile la cosa. Lo chiama il Paradosso dell'Informazione Inversa. Gestisce anche l'azienda che ha contribuito a costruire la trappola.

      Satya Nadella ha un avvertimento per tutti coloro che acquistano IA. Stai pagando per essa due volte. E il secondo pagamento sono i tuoi gioielli di famiglia.

      In un lungo saggio su X che ha attirato 10 milioni di visualizzazioni, il capo di Microsoft ha esposto un'idea che chiama il Paradosso dell'Informazione Inversa. È acuta, un po' strana e più che un po' imbarazzante provenendo da lui.

      Paga una volta in contante, una volta in segreti

      Il nome è un gioco di parole sul premio Nobel Kenneth Arrow. Il paradosso originale di Arrow era il problema del venditore. Per vendere informazioni, spesso devi rivelarle, e una volta rivelate, perché qualcuno dovrebbe pagare?

      Nadella lo capovolge. Nell'era dell'IA, sostiene, il rischio è a carico dell'acquirente. Per rendere un modello veramente utile, devi fornirgli la tua conoscenza proprietaria. Più vuoi che funzioni bene, più lo nutri.

      Quindi paghi in denaro, poi di nuovo in qualcosa che vale di più: il know-how che rende la tua azienda tua. “Il venditore impara sempre di più su di te mentre usi ciò che hai acquistato”, ha scritto, “mentre tu impari molto poco su ciò che il venditore sta imparando in cambio.”

      La fuga che non puoi vedere

      La parte intelligente è dove dice che la conoscenza sfugge. Non attraverso una violazione ovvia, ma attraverso ciò che chiama “scarico”: i prompt che scrivi, gli strumenti che i tuoi agenti usano e, soprattutto, le correzioni che fai quando il modello sbaglia qualcosa.

      Ogni correzione insegna al modello. “È il tipo di conoscenza che un concorrente non potrebbe mai acquistare”, ha scritto Nadella, “e il tipo che trapela quasi impercettibilmente: traccia per traccia, correzione per correzione, valutazione per valutazione.”

      Il suo verdetto è netto. Se l'apprendimento fluisce solo in un verso, il denaro fluisce con esso, verso chi possiede l'IA, non chi possiede la conoscenza.

      L'ironia sta facendo molto lavoro

      Ecco il problema. Questo è Microsoft che parla.

      Redmond ha investito miliardi in OpenAI e ha ospitato ChatGPT su Azure. Il suo assistente Copilot è progettato per accedere in profondità alle email, ai file e alle chat di un'azienda. Nel 2024, circa metà dei responsabili dei dati in un sondaggio aveva sospeso o limitato Copilot proprio per questa paura, come ha notato il Register.

      A suo merito, Nadella nomina il doppio standard del suo stesso lato. I laboratori di IA richiedono diritti di utilizzo equo per addestrarsi sul web pubblico, poi limitano i clienti dal fare lo stesso con le uscite del modello. Non ha torto. Sta anche vendendo la soluzione.

      La risposta di Nadella, e la sua proposta

      La soluzione, dice, è un duro “confine di fiducia” attorno ai dati, alle valutazioni e alla memoria di un'azienda. Niente lo attraversa, “neanche lo scarico dell'intelligenza, senza consenso.” Prende in prestito una frase da Alex Karp di Palantir riguardo al voler possedere i mezzi di produzione.

      La sua lista di controllo comprende cinque punti. Possiedi le tue valutazioni. Costruisci ambienti di apprendimento all'interno del tuo stesso confine di tenant. Mantieni il livello di orchestrazione libero da qualsiasi modello singolo. Poi lascia che tutto si componga. Microsoft, naturalmente, vende prodotti che fanno ognuna di queste cose.

      Elimina la proposta e il punto centrale rimane valido. Questo è lo stesso dirigente che si è rivolto contro i giganti dell'IA che ha aiutato a costruire. I laboratori di frontiera stanno silenziosamente accumulando una fortuna nel know-how di altre aziende. E le aziende che lo cedono lo stanno facendo, per ora, gratuitamente.