Il CTO di Meta afferma che i dati di tracciamento dei dipendenti sono finiti "dove non avrebbero dovuto andare"

      Il chief technology officer di Meta ha fornito il resoconto più dettagliato finora dell'incidente che ha costretto l'azienda a fermare il suo progetto di intelligenza artificiale più controverso, il programma di registrazione dei tasti che chiama Model Capability Initiative. Andrew Bosworth ha detto che un ricercatore aveva spostato dati sensibili dei dipendenti in un luogo dove non avrebbero mai dovuto trovarsi, anche se ha insistito sul fatto che non c'era stata alcuna intrusione esterna. Parlando con il CEO di The Atlantic, Nicholas Thompson, in un'intervista pubblicata mercoledì e filmata a fine giugno, Bosworth ha descritto i dati come "abbastanza sicuri", con solo un pugno di persone in grado di accedervi. Il problema, ha detto, proveniva dall'interno. È stata l'ultima svolta in una saga che è passata da software di tracciamento sui laptop del personale a una pausa a livello aziendale. Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! “Uno dei ricercatori che stava lavorando a valle con quei dati, e non c'è stata alcuna violazione qui, ma li aveva messi in un luogo dove non avrebbero dovuto andare,” ha detto Bosworth a Thompson. Le informazioni, in uno stato trasformato, erano “finite in un posto dove non avrebbero dovuto finire internamente,” ha aggiunto, dicendo che Meta non sospettava manovre illecite. L'azienda stava “bloccando tutto” fino a quando non potesse stabilire cosa fosse successo, ha detto. Meta aveva sospeso il programma a giugno dopo che una fuga di dati aveva reso leggibili informazioni sensibili dei dipendenti in tutta l'organizzazione, secondo gli screenshot visti da Business Insider. La Model Capability Initiative è stata introdotta ad aprile. Comportava l'installazione di software sulla maggior parte dei dipendenti statunitensi di Meta per registrare i loro tasti e movimenti del mouse, il materiale grezzo per addestrare i modelli di intelligenza artificiale dell'azienda. L'insistenza di Meta sul fatto che il personale non potesse rinunciare ha suscitato una forte reazione. “Abbiamo progettato attentamente questo programma con salvaguardie per la privacy e, mentre non abbiamo indicazioni al momento che alcun dato sia stato accesso in modo improprio dai dipendenti di Meta, lo stiamo sospendendo mentre indaghiamo,” ha detto un portavoce di Meta a Business Insider a giugno. L'azienda ha rifiutato di commentare ulteriormente per il seguito. L'iniziativa è arrivata in un momento difficile per il personale. Lo stesso Bosworth ha detto durante una riunione interna che il morale dei dipendenti era “probabilmente uno dei peggiori che sia mai stato” nella storia ventennale di Meta, mentre i licenziamenti e un forte spostamento verso l'IA hanno inquietato la forza lavoro. La resistenza al tracciamento è stata immediata e organizzata. Più di 1.600 dipendenti hanno firmato una petizione contro il software, e un ufficio lo ha soprannominato “Fabbrica di Estrazione Dati dei Dipendenti.” Gli avvocati per la privacy hanno avvertito separatamente che lo strumento rischiava di raccogliere dati dei dipendenti europei in modi che potrebbero scontrarsi con il GDPR. Nell'intervista, Bosworth ha offerto un secondo motivo per cui il progetto aveva vacillato, uno radicato nella scienza piuttosto che nella politica. Lo schema stava raccogliendo troppo della stessa cosa, ha detto, quando ciò di cui un modello di IA ha realmente bisogno è varietà. “La varianza è molto più importante di un alto volume della stessa cosa che viene compressa in un solo esempio, fondamentalmente,” ha detto a Thompson. Questa realizzazione, ha detto, ha spinto Meta ad ampliare le opzioni di rinuncia che inizialmente aveva trattenuto. “Quindi è stato per questo che, un paio di settimane dopo il lancio iniziale, abbiamo aggiunto opzioni di rinuncia ampliate per le persone che non volevano farlo,” ha detto Bosworth. “Una pausa, pausa infinita. Ogni volta che non vuoi averlo, premi semplicemente pausa.” Questo segna un ammorbidimento rispetto alla politica originale senza opzioni di rinuncia, che Meta aveva cercato di attenuare in precedenza con una “sospensione di 30 minuti” alla volta. Se il programma tornerà nella sua forma originale è poco chiaro. Bosworth ha descritto la pausa come una precauzione piuttosto che un ritiro, ma l'episodio ha fornito ai critici all'interno e all'esterno dell'azienda uno studio di caso su come la sorveglianza progettata per alimentare l'IA possa rivoltarsi contro la forza lavoro che era destinata a misurare. Per ora, la registrazione dei tasti è inattiva, l'indagine continua e il ricercatore al centro dell'incidente rimane anonimo. Cosa farà Meta con i dati che ha già raccolto è la domanda più difficile a cui il CTO ha lasciato senza risposta.