Advertencia: esta historia contiene descripciones de abuso.
Meta ha publicado cientos de anuncios pagados que contienen imágenes de abuso sexual infantil generadas por inteligencia artificial, incluidos varios en la India, durante los últimos 10 meses, según un nuevo informe de activistas con sede en Estados Unidos.
El informe llega dos meses después de que el gobierno indio ordenara a Meta que eliminara todos los anuncios y contenidos que promocionaran material de abuso sexual infantil (CSAM) en Instagram. Esto se produjo después de una investigación de BBC Eye que reveló que Instagram estaba publicando anuncios pagados promocionando CSAM en India.
Proyecto de Transparencia Tecnológica (TTP) con sede en Washington, externo afirma haber encontrado 332 anuncios CSAM publicados en Facebook e Instagram, la mayoría de ellos (274) en agosto de este año.
Cuando la BBC escribió a Meta sobre estos hallazgos, dijo en un comunicado: «No toleramos aplicaciones de nudificación ni ningún tipo de explotación infantil, ya sea real o generada por IA. Estos delincuentes cambian constantemente de táctica para evadir la detección, por lo que continuamos fortaleciendo nuestra detección y aplicación de la ley».
El informe del TTP, publicado el martes, dijo que había identificado varias fotografías de niños reales, incluido un miembro de una familia real europea, que fueron utilizadas en anuncios y luego manipuladas mediante inteligencia artificial. Dice que aparecieron más de una docena de anuncios en las plataformas Meta incluso después de que TTP informara a la compañía de sus hallazgos.
Aproximadamente una cuarta parte (84) de los anuncios se publicaron en India y 78 de ellos se publicaron después de la orden del gobierno indio de eliminar el CSAM y su reunión con altos funcionarios de Meta.
Después de la investigación de la BBC, varias agencias indias, incluida la Comisión Nacional para la Protección de los Derechos del Niño y la Comisión Nacional de Derechos Humanos, dijeron que estaban investigando el asunto.
La distribución de CSAM es un delito penal en la India, mientras que la política de Meta establece que los anuncios no deben contener contenido que explote sexualmente o ponga en peligro a los niños.
Cuando la BBC contactó a Meta sobre su investigación, dijo que cuando tuvo conocimiento de una aparente explotación infantil, lo denunció al Centro Nacional de Estados Unidos para Niños Desaparecidos y Explotados (NCMEC), de acuerdo con sus obligaciones legales.
NCMEC es el sistema global centralizado de informes sobre explotación sexual infantil en línea.
Pero Bhuwan Ribhu, fundador de Just Rights for Children, una red de más de 250 organizaciones que trabajan para prevenir la violencia contra los niños en la India, dice que eso no es suficiente.
Just Rights for Children presentó una petición ante la Corte Suprema de la India, citando las conclusiones de la BBC, y buscó instrucciones para que las plataformas de redes sociales hicieran obligatoria la denuncia y la identificación de quienes promueven material de abuso sexual infantil.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
