Facebook mantuvo cuentas que difundían vídeos generados con IA en los que entrenadores adultos realizaban tocamientos sexualizados a jóvenes deportistas, algunas de apariencia menor de edad. Según la investigación de Futurism, las escenas presentaban esas conductas como parte normal del entrenamiento. El medio denunció diez cuentas por contenido sexual y explotación, pero Facebook respondió que ocho no infringían sus normas. Meta acabó retirándolas después de recibir una consulta periodística.
La moderación de Meta cambia cuando pregunta la prensa
Futurism denunció diez cuentas desde un perfil corriente. Una semana después, ocho recibieron el visto bueno de Facebook: no vulneraban sus normas. Las otras dos habían desaparecido, sin que el medio pudiera confirmar el motivo.
Tras la consulta periodística, las páginas restantes fueron retiradas y varias respuestas a las denuncias cambiaron. Meta confirmó las eliminaciones y afirmó que no admite contenidos de abuso o explotación, sean reales o generados con IA.
La empresa también defendió su actuación con una cifra: aseguró que el trimestre anterior había detectado proactivamente el 98 % de las publicaciones de puesta en peligro de menores que retiró. Ese porcentaje no mide todo el contenido dañino que pueda permanecer sin detectar. Así lo recoge la investigación de Futurism.
El precedente ya estaba contado
En HUMANía ya recogimos que Meta tardó más de 48 horas en retirar cuentas con vídeos de abuso infantil generados por IA. Aquella investigación, publicada en octubre, señalaba otras 19 cuentas que acabaron eliminadas. También documentaba una cuenta retirada, restablecida y retirada de nuevo.
Los procedimientos no fueron idénticos, pero el antecedente importa: las dificultades para conseguir que Meta actuara ante representaciones de abuso ya estaban documentadas. La retirada posterior corrige la presencia de esas cuentas; no explica por qué pudieron seguir disponibles durante tanto tiempo.
Las normas existen. Falta aplicarlas con coherencia
En su Centro de seguridad, Meta afirma que prohíbe los contenidos que explotan sexualmente a menores o los ponen en peligro. También declara que elimina material que muestra o promueve violencia sexual.
La cuestión, por tanto, es cómo se aplican esas reglas. Un sistema de denuncias pierde credibilidad cuando rechaza un aviso y cambia de criterio después de una consulta de prensa. El usuario necesita una revisión eficaz, una explicación comprensible y una vía de recurso que funcione sin contactos en una redacción.
La mirada HUMANía
Que una plataforma cometa errores es previsible. Que vuelva a fallar ante contenidos de esta gravedad exige algo más que comunicar su retirada cuando llegan las preguntas.
Denunciar debería activar la protección prometida. No debería ser el primer paso de una carrera de obstáculos cuyo último requisito consiste en encontrar a un periodista.
Porque unas normas comunitarias que necesitan atención mediática para aplicarse se parecen demasiado a un servicio de relaciones públicas.