Meta posee plataformas de redes sociales que incluyen Facebook e Instagram.
JRdes/Shutterstock
En 2024, Meta permitió más de 3.300 anuncios pornográficos (muchos de ellos con contenido generado por IA) en sus plataformas de redes sociales, incluidas Facebook e Instagram.
Los hallazgos provienen de un informe por Análisis forense de IAuna organización europea sin fines de lucro centrada en investigar algoritmos de plataformas tecnológicas. Los investigadores también descubrieron una inconsistencia en las políticas de moderación de contenido de Meta al volver a cargar muchas de las mismas imágenes explícitas como publicaciones estándar en Instagram y Facebook. A diferencia de los anuncios, esas publicaciones se eliminaron rápidamente por violar las normas de Meta. Estándares comunitarios.
«Estoy decepcionado y no sorprendido por el informe, dado que mi investigación ya ha expuesto dobles estándares en la moderación de contenido, particularmente en el ámbito del contenido sexual», dice Carolina son en el Centro para Ciudadanos Digitales de la Universidad de Northumbria en el Reino Unido.
El informe de AI Forensics se centró en una pequeña muestra de anuncios dirigidos a la Unión Europea. Descubrió que los anuncios explícitos permitidos por Meta se dirigían principalmente a hombres de mediana edad y mayores con promociones de «productos de mejora sexual dudosos» y «sitios web de citas», con un alcance total de más de 8,2 millones de impresiones.
Esta permisividad refleja un doble rasero más amplio en la moderación de contenidos, afirma Are. Las plataformas tecnológicas a menudo bloquean contenido hecho por y para “mujeres, mujeres presentadoras y usuarios LGBTQIA+”, dice. Ese doble rasero se extiende a la salud sexual masculina y femenina. «Un ejemplo es la lencería y los anuncios relacionados con la época que se publican [removed] de Meta, mientras que se aprueban los anuncios de Viagra”, afirma.
Además de encontrar imágenes generadas por IA en los anuncios, el equipo de AI Forensics también descubrió deepfakes de audio: en algunos anuncios de medicamentos para mejorar la sexualidad, por ejemplo, se superpusieron imágenes pornográficas con la voz manipulada digitalmente del actor Vincent Cassel.
«Meta prohíbe la visualización de desnudez o actividad sexual en anuncios o publicaciones orgánicas en nuestras plataformas, y estamos eliminando el contenido infractor que se compartió con nosotros», dice un portavoz de Meta. «Los malos actores están constantemente desarrollando sus tácticas para evitar la aplicación de la ley, razón por la cual continuamos invirtiendo en las mejores herramientas y tecnología para ayudar a identificar y eliminar el contenido infractor».
El informe coincide con el anuncio del director ejecutivo de Meta, Mark Zuckerberg, de que la empresa será deshacerse de sus equipos de verificación de datos a favor de notas comunitarias colaborativas.
“Si queremos sonar realmente distópicos –y en este momento, dada la última decisión de Zuckerberg de eliminar a los verificadores de hechos, creo que tenemos razones para serlo– podemos incluso decir que Meta es tan rápido en despojar a los usuarios individuales y marginados de su agencia como lo hace es sacar dinero de anuncios dudosos”, afirma Are.
Temas: