La semana pasada, Mark Zuckerberg, CEO de Facebook, compartió con inversores detalles sobre el sistema de recomendación de IA de la plataforma, que ha doblado su influencia en los últimos dos años. Ahora, el 30% de las publicaciones que los usuarios ven son seleccionadas por este sistema. Sin embargo, junto con el incremento en la participación, han surgido preocupaciones significativas relacionadas con el tipo de contenido que se promueve, incluyendo imágenes generadas por IA de niños en situaciones perturbadoras.
Contenido Generado por IA: Un Giro Macabro
Usuarios han reportado ver en sus feeds imágenes extremadamente perturbadoras de niños, como ilustraciones de niños hambrientos, ahogados, y mutilados, generadas por IA y promovidas por cuentas como «Little Ones» y «Cuddle Bugs», términos entrañables en Ingles. Estas imágenes incluyen representaciones gráficas como un niño con una pierna amputada y otros sufriendo mutilaciones diversas, algunas de estas imágenes han acumulado cientos de miles de ‘likes’ y comentarios.
Respuesta Comunitaria y Viralidad
Muchas de estas imágenes no solo han generado gran interacción sino que también han comenzado a viralizarse fuera de la plataforma, especialmente en Twitter. Lo preocupante es que, inicialmente, muchos usuarios no se daban cuenta de que estas eran creaciones de IA, lo que llevó a reacciones confusas y a veces inapropiadas en los comentarios.
Falta de Acción de Facebook
A pesar de los reportes continuos y las quejas sobre este tipo de contenido, Facebook no ha tomado medidas efectivas para abordar el spam generado por IA o eliminar las páginas responsables. La compañía ha anunciado planes para comenzar a etiquetar contenido generado por IA en mayo, pero las acciones concretas aún son inciertas.
Impacto y Ética de la IA
La creación de imágenes perturbadoras mediante IA y su promoción en redes sociales plantea serias preguntas éticas sobre el uso de tecnología avanzada en plataformas masivas. La capacidad de la IA para generar contenido que simula situaciones de abuso ha llevado a un debate más amplio sobre la responsabilidad de las empresas de tecnología en la moderación de contenido y la ética en la inteligencia artificial.
A medida que Facebook y otras grandes empresas de tecnología avanzan en la implementación de la IA, la necesidad de un marco ético y regulaciones claras se hace cada vez más evidente. La historia de estas imágenes virales es un recordatorio preocupante de que la tecnología, sin las salvaguardias adecuadas, puede llevar a consecuencias no deseadas y potencialmente dañinas.
Es crucial que las plataformas como Facebook tomen en serio su impacto en la sociedad y prioricen la seguridad y el bienestar de sus usuarios sobre las métricas de participación. La historia de estas imágenes virales generadas por IA es un llamado a la acción para todos los involucrados en la creación y distribución de tecnología de inteligencia artificial.
Puedes leer el artículo original aquí, si tienes estomago.
