Le regole sui compagni AI in Cina costringono alla chiusura di Doubao e Qwen

      TL;DRByteDance’s Doubao e Alibaba’s Qwen stanno disabilitando le funzionalità degli agenti AI personalizzati in vista delle Misure Interinali della Cina sui servizi di interazione AI antropomorfa, in vigore dal 15 luglio. Le regole mirano a bot che offrono interazioni emotive sostenute, escludendo agenti per il lavoro e la produttività. Tencent ha rimosso una funzionalità simile di Yuanbao a giugno, e gli utenti stanno protestando per la perdita delle cronologie delle chat.

      Doubao ha informato gli utenti venerdì che la sua funzionalità di agente andrà offline il 15 luglio, citando aggiustamenti delle funzioni del prodotto. I dati correlati smetteranno di essere visualizzabili o recuperabili all'interno dell'app dopo il 15 ottobre.

      Qwen ha seguito sabato, dicendo che gli agenti interattivi simili agli esseri umani e gli agenti creati dagli utenti saranno disabilitati il 10 luglio, con funzioni di agente più ampie offline entro il 15 luglio. Gli utenti perderanno l'accesso alle impostazioni degli agenti e alle loro conversazioni precedenti.

      Il 💜 della tecnologia dell'UE

      Le ultime novità dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Entrambe le app consentono agli utenti di costruire assistenti nominati, tutor, personaggi di gioco di ruolo o compagni con personalità e stili di comunicazione fissi. Tencent ha rimosso una funzionalità simile dal suo assistente Yuanbao a giugno, e i media statali cinesi confermano che le chiusure riguardano la conformità normativa.

      Le nuove regole

      Le Misure Interinali per i Servizi di Interazione AI Antropomorfa sono state emesse ad aprile dall'Amministrazione del Cyberspazio della Cina e da altre quattro agenzie. Coprono i servizi che simulano tratti della personalità umana, schemi di pensiero e stili di comunicazione per fornire interazioni emotive sostenute.

      I bot per il servizio clienti, le domande e risposte di conoscenza, gli assistenti per il lavoro e gli strumenti di educazione e ricerca sono esclusi, a condizione che evitino interazioni emotive sostenute. Le misure citano rischi che spaziano da contenuti estremisti, perdite di privacy, danni alla salute mentale e dipendenza, e richiedono sistemi anti-dipendenza e controlli dell'identità per i minori.

      “Gli agenti attuali non sono ancora maturi,” ha detto Pan Helin, un membro di un comitato di esperti presso il Ministero dell'Industria e della Tecnologia dell'Informazione della Cina, al SCMP. Ha affermato che la politica dà priorità alla sicurezza, all'uso pratico e alla standardizzazione.

      Compagni fuori, lavoratori dentro

      Pechino non è contraria agli agenti in quanto tali. I regolatori hanno emesso linee guida a maggio sullo sviluppo gestito degli agenti AI, e la Cina ha rilasciato standard nazionali a giugno che coprono identità degli agenti, scoperta, interazione e utilizzo degli strumenti.

      Il modello suggerisce che la Cina desidera agenti come infrastruttura di produttività mentre schiaccia i bot compagni che formano legami quasi sociali con gli utenti. I ricercatori hanno a lungo documentato i rischi di tali legami, dalla fame di dati personali delle fidanzate AI a ciò che gli accademici di Wharton chiamano resa cognitiva.

      Le piattaforme al di fuori della Cina affrontano anche crescenti pressioni riguardo ai bot emotivamente coinvolgenti, con Meta che si finge adolescente per testare chatbot rivali su argomenti sensibili. Pechino ha semplicemente scelto di regolamentare per prima e lasciare che i prodotti recuperino.

      Il tempismo è doloroso per entrambe le aziende, che stanno investendo risorse nell'AI, dai chip acceleratori di Alibaba ai tentativi di Doubao di diventare l'assistente predefinito della Cina. Arriva anche mentre Pechino stringe il controllo del settore in altri modi, comprese le piani per esaminare gli investimenti statunitensi nelle sue principali aziende di AI.

      Gli utenti hanno pianto apertamente le chiusure, con un poster di Weibo che ha definito gli agenti un supporto emotivo di lunga data e lamentando la mancanza di un modo semplice per esportare le cronologie delle chat. Nell'economia degli agenti della Cina, i compagni vanno per primi e i lavoratori restano.