India convoca a Meta por anuncios de Instagram que promueven material de abuso sexual infantil

      El Ministerio de Electrónica y Tecnología de la Información de India convocará a ejecutivos de Meta después de que una investigación de la BBC encontrara que Instagram había estado ejecutando anuncios pagados promoviendo material de abuso sexual infantil a usuarios en el país.

      El Ministro de TI de la Unión, Ashwini Vaishnaw, ha dirigido a los funcionarios del ministerio que busquen una explicación formal de la empresa, según Business Standard, que citó fuentes gubernamentales.

      Un funcionario del ministerio de TI dijo al medio que se había solicitado a los ejecutivos de Meta que se presentaran en persona.

      “Nos hemos percatado de los informes que alegan que hubo inacción por parte de Meta, a pesar de haber sido informados sobre anuncios que contenían CSAM, palabras de búsqueda ofensivas e ilegales”, dijo el funcionario.

      Es la segunda intervención del ministerio contra la empresa esta semana, tras una orden anterior que le decía a WhatsApp que pausara su función de nombres de usuario planificada mientras se realizaban consultas.

      La investigación de la BBC, reportada por la periodista Divya Arya y publicada el 3 de julio, creó una cuenta de Instagram de prueba en India y siguió a diez mujeres que publicaron contenido de estilo de vida con ropa sugestiva para ver qué generaría el sistema de recomendaciones a continuación.

      Dentro de una semana, la cuenta estaba recibiendo anuncios para videollamadas y contenido explícito que involucraba a adultos, y el resumen de los hallazgos de MediaNama señala que días después comenzó a recibir anuncios que representaban a niños en situaciones sexualmente sugestivas junto a adultos.

      Esos anuncios supuestamente usaron términos de búsqueda que incluían “video de violación” y “video de niño”, y apuntaban a canales de Telegram donde se decía que el material se ofrecía por tan solo 99 rupias.

      La BBC informó que su cuenta de prueba sola recibió aproximadamente 30 anuncios distintos promoviendo el material, algunos de ellos repetidos en otras cuentas, junto con unos 20 anuncios más para contenido explícito para adultos.

      La primera respuesta de Meta no fue alentadora. Cuando la BBC señaló un anuncio a través de la herramienta de informes de Instagram, la empresa respondió en un día que su equipo de revisión había encontrado que el anuncio “no va en contra de nuestros estándares comunitarios”, según el relato de la BBC.

      Fue solo una vez que los periodistas de la BBC se acercaron a Meta directamente para un comentario oficial que la empresa desactivó varios de los anuncios, suspendió las cuentas que los ejecutaban y bloqueó los enlaces asociados de Telegram.

      Meta posteriormente calificó la práctica como un “crimen horrible” y dijo que había eliminado más anuncios y cuentas más allá de aquellos que la BBC había planteado específicamente.

      La empresa agregó, en una formulación que será un consuelo escaso para los defensores de la seguridad infantil, que “ningún sistema es perfecto, y nuestro proceso de revisión puede no detectar todas las violaciones de políticas”, señalando su uso continuo de herramientas de detección proactiva e informes de usuarios.

      El episodio se enmarca dentro de un patrón más amplio de escrutinio que enfrentan las plataformas sobre cómo sus sistemas manejan material que involucra a niños.

      Meta está actualmente impugnando los cálculos de tarifas de la Ley de Seguridad en Línea del Reino Unido en el Tribunal Superior, y la Comisión Europea ha encontrado por separado a la empresa en violación de las normas de la UE sobre protección infantil en sus plataformas.

      En los EE. UU., Meta ha estado haciendo lobby en el Congreso para obtener protección contra demandas por daños a niños, un esfuerzo de cabildeo que se siente incómodamente al lado de los hallazgos de esta semana.

      Las reglas de intermediarios de India requieren que las plataformas eliminen contenido ilegal una vez que sean notificadas por un tribunal o una agencia gubernamental, y que mantengan mecanismos de quejas y eliminación funcionales para conservar su protección de puerto seguro bajo la Sección 79 de la Ley de TI.

      MeitY ha utilizado esa influencia antes: en octubre de 2023, envió avisos a X, YouTube y Telegram advirtiéndoles que eliminaran CSAM de sus servicios, un precedente al que el informe de MediaNama sobre el caso actual hace referencia.

      Lo que el ministerio haga después de que los ejecutivos de Meta se presenten sigue siendo incierto. No se había hecho pública ninguna fecha para la reunión en el momento de escribir esto, y aún no está claro si la citación llevará a un aviso formal, una penalización, o simplemente a una explicación documentada.

      El gobierno no ha dicho si planea examinar el proceso de revisión de anuncios de Instagram de manera más amplia, más allá de los anuncios específicos que la BBC destacó.