Richard Sutton lascia Carmack per avviare il proprio laboratorio di intelligenza artificiale.

      Una delle menti più decorate nell'IA sta per intraprendere un percorso da solo. Richard Sutton ha condiviso il Premio Turing 2024 per aver fondato l'apprendimento per rinforzo moderno. Lunedì ha annunciato di lasciare la startup di John Carmack, Keen Technologies, per avviarne una nuova, Oak Lab.

      Lo ha annunciato chiaramente su X. Ha lodato Carmack e Keen, poi ha detto che lui e il suo collaboratore Khurram Javed si erano "distaccati per avviare la nostra startup" per inseguire "un percorso leggermente diverso verso la comprensione dell'intelligenza."

      La sua diagnosi del campo è schietta. I metodi attuali di deep learning, ha scritto, sono "deboli e inefficienti, e non hanno bisogno di ulteriori ritocchi, ma di idee fondamentalmente nuove e di un completo rielaboramento."

      Imparare dall'esperienza, non dai dataset

      L'argomento centrale di Oak Lab riguarda da dove proviene l'intelligenza. Sutton ha a lungo sostenuto che essa è creata e mantenuta dall'esperienza in tempo reale, non distillata da un dataset pulito e curato da esseri umani.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris, e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Questa distinzione è più importante di quanto sembri. I modelli odierni apprendono dai dati che le persone hanno raccolto, pulito e filtrato. L'esperienza reale è più caotica. Parte di essa è prevedibile, e gran parte è solo rumore.

      Nel primo post di ricerca del laboratorio, Sutton e Javed hanno quantificato il problema. L'ottimizzatore standard, SGD, non riesce a distinguere i due. Né possono farlo cugini come Adam. Distribuisce la colpa per ogni errore su tutti i suoi parametri, quindi assorbe silenziosamente il rumore.

      La loro soluzione aggiorna un'idea vecchia di Sutton. Un algoritmo chiamato IDBD, e una nuova versione neurale che chiamano NetworkIDBD, impara a assegnare il merito in modo selettivo. Premia solo i segnali che prevedono effettivamente qualcosa. Nei loro test, apprende il vero schema dove SGD affoga nei rifiuti.

      Un agente che funziona con 20 watt

      Il punto di tutto ciò è l'efficienza. I loro metodi apprendono da un flusso di esperienza, un passo alla volta, senza memorizzare o riprodurre dati. Oak Lab afferma che ciò richiede ordini di grandezza meno potenza di calcolo ed energia rispetto all'approccio attuale.

      Questo porta al sacro graal dichiarato del laboratorio: un agente con un trilione di parametri che apprende e pianifica in tempo reale con 20 watt. Venti watt è all'incirca ciò di cui ha bisogno il cervello umano. I modelli di frontiera odierni si allenano una volta, in centri dati che consumano megawatt, poi rimangono congelati. Sutton desidera un sistema che non smetta mai di apprendere, con una frazione della potenza.

      La scommessa contraria

      Sutton ha trascorso la sua carriera a sostenere posizioni controcorrente. Il suo saggio del 2019 "The Bitter Lesson" è costantemente citato nell'IA. Il suo libro di testo con Andrew Barto ha formato una generazione di ricercatori. Ma dubita che scalare i modelli di linguaggio pre-addestrati sia la strada verso una vera intelligenza.

      Questo lo colloca in compagnia interessante. Yann LeCun ha fatto un caso simile, lasciando l'orbita di Meta per scommettere 1 miliardo di dollari sui modelli mondiali piuttosto che su chatbot più grandi. David Silver di AlphaGo ha fatto la sua scommessa su un percorso diverso. Tutti loro pensano che una macchina dovrebbe apprendere come fa un bambino, dall'esperienza, non da un'istantanea congelata di Internet.

      Il tempismo si adatta all'umore. La corsa all'IA ha smesso silenziosamente di riguardare solo il modello più grande. Costo ed efficienza ora contano tanto quanto la scala, e i ricercatori stanno indagando su come i modelli ragionano effettivamente piuttosto che semplicemente renderli più grandi.

      Se Oak Lab avrà successo è un'altra questione. Sta inseguendo un obiettivo che l'intero campo desidererebbe e che nessuno ha raggiunto. Ma Sutton sta scommettendo una carriera leggendaria su di esso. Il futuro dell'IA, pensa, appare meno come un cervello più grande in un edificio più grande, e più come un piccolo che non smette mai di apprendere.