Discord e Meta citati in giudizio come prodotti, non come editori

      La denuncia dice ad alta voce ciò che la maggior parte dei casi simili implica solo. Esiste, scrivono i suoi autori, per sfidare come Discord e Meta abusano della “sezione 230 del Communications Decency Act come scudo contro la responsabilità”.

      Quella singola frase spiega l'intero atto.

      Una donna della California, che fa causa come Jane Doe, ha presentato la denuncia presso la Corte Superiore di San Francisco il 16 aprile. Il caso è stato riportato per la prima volta da Business Insider. La denuncia di 57 pagine nomina Discord e Meta e presenta sei motivi di azione.

      Nessuno di essi è diffamazione, pubblicazione o qualsiasi cosa somigliante a una rivendicazione riguardante il contenuto.

      Perché i motivi di azione contano più del titolo

      La sezione 230 protegge le piattaforme dalla responsabilità per ciò che i loro utenti pubblicano. Per vent'anni ciò ha posto fine alla maggior parte dei casi di questo tipo prima che iniziassero.

      Quindi la denuncia non fa causa per ciò che gli abusatori hanno pubblicato. Fa causa per come le aziende hanno costruito il software.

      Due rivendicazioni accusano di responsabilità del prodotto, per difetto di progettazione e mancata avvertenza. Tre accusano negligenza, nell'operazione, nella progettazione e nel mancato avvertimento. La sesta invoca la Legge sulla Concorrenza Sleale della California. È il vocabolario legale di un'auto difettosa, applicato a un'app di chat.

      La distinzione è l'intera strategia. La sezione 230 protegge entrambe le aziende se il danno deriva da contenuti di terzi. Potrebbe non raggiungere il danno derivante dalle scelte di progettazione fatte dalle aziende stesse.

      Le scelte di progettazione nominate

      Il documento elenca caratteristiche specifiche e le definisce difetti.

      Contro Discord nomina tre: anonimato, chiamate vocali e video con minorenni e condivisione dello schermo. Insieme, dice la denuncia, questi offrono ai predatori “molteplici vie per manipolare, costringere e sfruttare i bambini in tempo reale”. Dice che Discord ha rifiutato la verifica obbligatoria dell'età e dell'identità e ha rifiutato regole tecniche che impedissero agli adulti di inviare messaggi privati ai minorenni.

      Il motivo dichiarato è l'accusa più incisiva nel documento. Discord ha rifiutato quelle misure, dice la denuncia, perché “ostacolerebbero la crescita degli utenti e l'inserimento senza attriti di nuovi utenti”.

      Prende di mira anche il Family Center di Discord, commercializzato per i genitori, con l'argomento che è facoltativo e nasconde il contenuto dei messaggi da loro.

      Contro Meta, la denuncia accusa l'azienda di aver costruito Instagram senza “barriere di età”. Dice che gli hashtag, la ricerca e la raccomandazione algoritmica hanno poi raggruppato i bambini insieme, dove gli adulti potevano trovarli.

      Cosa è successo

      Le accuse sono gravi, e questo resoconto le mantiene brevi deliberatamente.

      La querelante dice di avere 15 anni quando un membro di un gruppo chiamato Greggy’s Cult l'ha contattata attraverso un server pubblico di Discord. L'ha costretta a produrre immagini sessuali. A 17 anni, dopo aver pubblicato su Instagram riguardo alla sua salute mentale, un membro di un gruppo chiamato CVLT l'ha contattata lì. Ha trascorso mesi a costruire fiducia, poi ha trovato il suo indirizzo di casa e l'ha minacciata.

      Dice che l'ha costretta a produrre ulteriori immagini e a farsi del male, minacciando la sua famiglia e gli animali. Un terzo gruppo, 764, l'ha reclutata a 18 anni. La denuncia dice che è scappata fingendo la propria morte.

      Gli uomini non sono ipotetici. Zachary Dosch si è dichiarato colpevole di distribuzione di materiale di abuso sessuale su minori nel 2023. I pubblici ministeri lo hanno accusato di nuovo nel 2025, insieme ad altri quattro, per aver estorto bambini. Si è dichiarato non colpevole. Collin John Thomas Walker si è dichiarato colpevole di accuse di sfruttamento di minori nell'ottobre 2025.

      L'FBI è andato oltre il trattare questo come un crimine online ordinario. Il suo ufficio di Boston avverte di “estremisti violenti nichilisti” che prendono di mira i bambini, e l'agenzia sta indagando su più di 450 persone in tutto il paese. Classifica l'attività come terrorismo domestico.

      La maggior parte dei soggetti sono maschi e hanno tra i diciotto e i vent'anni. La maggior parte delle vittime sono ragazze in età adolescenziale.

      Cosa dicono le aziende

      Entrambe hanno rifiutato di commentare il caso stesso.

      Discord ha detto che interrompere 764 è una priorità assoluta. Ha lavorato sul gruppo da quando ne è venuta a conoscenza per la prima volta nel 2021 e dice di collaborare strettamente con le forze dell'ordine. Ha rimosso migliaia di server e bannato centinaia di migliaia di account legati alla rete.

      Meta ha detto che banna CVLT dalle sue piattaforme e applica politiche rigorose contro lo sfruttamento dei minori e i contenuti di autolesionismo. Team specializzati, tra cui ex agenti delle forze dell'ordine e pubblici ministeri, lavorano con l'FBI. Gestisce anche un team di risposta 24 ore su 24, 7 giorni su 7 per casi urgenti.

      Le loro risposte legali differiscono, e in modo rivelatore. Discord vuole che il caso venga archiviato immediatamente sulla base della Sezione 230. Meta vuole che venga integrato nella già esistente causa per dipendenza dai social media. Questo è lo stesso insieme di casi in cui Meta ha evitato un secondo processo questo mese, e dove ora affronta una battaglia giurata di sette settimane nel Tennessee.

      Perché questo vale la pena seguirlo

      Il percorso del difetto di progettazione non è nuovo, ma continua ad avvicinarsi a funzionare.

      Un giudice ha bocciato un tentativo precedente di ritenere Apple responsabile per materiale di abuso sessuale su minori in iCloud, sulla base della Sezione 230. A marzo, una giuria del New Mexico ha preso una direzione opposta.

      Quella giuria ha stabilito che Meta ha violato volontariamente la legge sulle pratiche sleali dello stato, su 75.000 capi d'accusa, e ha fissato i danni alla massima pena consentita per ciascuno. Il totale è arrivato a 375 milioni di dollari, ha riportato CNBC. Meta ha detto di non essere d'accordo con il verdetto e avrebbe fatto appello.

      Cosa ha effettivamente deciso la giuria del New Mexico

      Nota di cosa trattava effettivamente quel caso. La giuria non ha deciso su ciò che gli utenti hanno pubblicato. Ha deciso su ciò che Meta ha detto ai residenti del New Mexico riguardo a quanto fossero sicure le sue app, che è una rivendicazione sul comportamento della società stessa, non sui suoi utenti. Una seconda fase, ascoltata senza giuria, sta decidendo se Meta ha creato un disturbo pubblico e dovrebbe finanziare programmi di rimedio.

      Texas, Arkansas, New Jersey e Nevada hanno citato Discord separatamente. Lo hanno fatto anche i genitori di un ragazzo di 13 anni di Washington che è morto nel 2022, dopo che un membro di 764 lo ha presumibilmente incoraggiato. Discord vuole che quel caso venga trasferito in arbitrato privato, citando i suoi termini di servizio.

      I regolatori stanno arrivando alla stessa domanda da un'altra direzione. Il commissario per la sicurezza online dell'Australia ha trovato gravi lacune nel modo in cui le grandi piattaforme rispondono all'estorsione sessuale. Bruxelles ha accusato TikTok ai sensi del Digital Services Act per quanto riguarda gli account dei bambini.

      Julie Erickson, uno degli avvocati della querelante, ha detto a Business Insider che spera che il caso sia “una sorta di momento di svolta”.

      Potrebbe non esserlo. La mozione di Discord potrebbe avere successo, e la Sezione 230 ha sopravvissuto a molti tentativi di questo tipo. Ma l'argomento qui è ristretto. Una barriera di età non è discorso. Una regola che impedisce agli adulti di inviare messaggi ai bambini non è giudizio editoriale. Se un tribunale concorda, lo scudo diventa più piccolo.