L'India convoca Meta per gli annunci di Instagram che promuovono materiale di abuso sessuale infantile

      Il Ministero dell'Elettronica e della Tecnologia dell'Informazione dell'India convocherà i dirigenti di Meta dopo che un'inchiesta della BBC ha rivelato che Instagram stava pubblicando annunci a pagamento che promuovevano materiale di abuso sessuale infantile agli utenti nel paese.

      Il Ministro dell'IT dell'Unione Ashwini Vaishnaw ha incaricato i funzionari del ministero di richiedere una spiegazione formale all'azienda, secondo quanto riportato da Business Standard, che ha citato fonti governative.

      Un funzionario del ministero dell'IT ha detto all'outlet che i dirigenti di Meta erano stati invitati a presentarsi di persona.

      “Abbiamo preso atto dei rapporti che hanno affermato che c'era stata inattività da parte di Meta, nonostante fosse stata informata di annunci che contenevano CSAM, parole di ricerca offensive e illegali,” ha detto il funzionario.

      È il secondo intervento del ministero contro l'azienda questa settimana, dopo un ordine precedente che chiedeva a WhatsApp di sospendere la sua funzione di nomi utente pianificata in attesa di consultazione.

      L'inchiesta della BBC, riportata dalla giornalista Divya Arya e pubblicata il 3 luglio, ha creato un account Instagram di prova in India e ha seguito dieci donne che pubblicavano contenuti di lifestyle in abbigliamento suggestivo per vedere quali contenuti il sistema di raccomandazione avrebbe mostrato successivamente.

      Entro una settimana, l'account riceveva annunci per videochiamate e contenuti espliciti che coinvolgevano adulti, e il riassunto delle scoperte di MediaNama nota che giorni dopo ha iniziato a ricevere annunci che ritraevano bambini in situazioni sessualmente suggestive insieme ad adulti.

      Quegli annunci avrebbero utilizzato termini di ricerca tra cui “video di stupro” e “video di bambini,” e puntavano a canali Telegram dove il materiale sarebbe stato offerto per appena 99 rupie.

      La BBC ha riportato che il suo account di prova ha ricevuto circa 30 annunci distinti che promuovevano il materiale, alcuni dei quali ripetuti su altri account, insieme a circa 20 ulteriori annunci per contenuti espliciti per adulti.

      La prima risposta di Meta non è stata incoraggiante. Quando la BBC ha segnalato un annuncio tramite lo strumento di segnalazione di Instagram, l'azienda ha risposto entro un giorno che il suo team di revisione aveva trovato che l'annuncio “non andava contro i nostri standard comunitari,” secondo il racconto della BBC.

      Solo quando i giornalisti della BBC si sono avvicinati a Meta direttamente per un commento ufficiale, l'azienda ha disabilitato un certo numero di annunci, sospeso gli account che li pubblicavano e bloccato i link Telegram associati.

      Meta ha successivamente definito la pratica un “crimine orribile” e ha dichiarato di aver rimosso ulteriori annunci e account oltre a quelli specificamente sollevati dalla BBC.

      L'azienda ha aggiunto, in una formulazione che suonerà come un conforto sottile per i sostenitori della sicurezza infantile, che “nessun sistema è perfetto, e il nostro processo di revisione potrebbe non rilevare tutte le violazioni delle politiche,” puntando al suo continuo utilizzo di strumenti di rilevamento proattivo e segnalazione da parte degli utenti.

      L'episodio si inserisce in un modello più ampio di scrutinio che affrontano le piattaforme su come i loro sistemi gestiscono materiale che coinvolge bambini.

      Meta sta attualmente contestando i calcoli delle tasse della legge britannica sulla sicurezza online presso l'Alta Corte, e la Commissione Europea ha separatamente trovato l'azienda in violazione delle norme dell'UE sulla protezione dei bambini sulle sue piattaforme.

      Negli Stati Uniti, Meta ha fatto pressioni sul Congresso per una protezione dalle cause legali per danni ai bambini, una spinta di lobbying che si colloca in modo scomodo accanto ai risultati di questa settimana.

      Le regole intermediarie dell'India richiedono alle piattaforme di rimuovere contenuti illeciti una volta notificati da un tribunale o da un'agenzia governativa, e di mantenere meccanismi di reclamo e rimozione funzionanti per mantenere la loro protezione di porto sicuro ai sensi della Sezione 79 della Legge IT.

      MeitY ha già utilizzato quel potere in precedenza: nell'ottobre 2023, ha inviato avvisi a X, YouTube e Telegram avvertendoli di rimuovere il CSAM dai loro servizi, un precedente a cui il reportage di MediaNama sul caso attuale fa riferimento.

      Cosa farà il ministero dopo che i dirigenti di Meta si saranno presentati rimane da vedere. Nessuna data per l'incontro era stata resa pubblica al momento della scrittura, e non è ancora chiaro se la convocazione porterà a un avviso formale, a una sanzione o semplicemente a una spiegazione documentata.

      Il governo non ha detto se intende esaminare più ampiamente il processo di revisione degli annunci di Instagram, oltre agli annunci specifici sollevati dalla BBC.