Bloomberg informó que modelos de IA open-weight y open source, ejecutables localmente, se han vuelto populares entre personas que generan material sexual infantil (CSAM) porque permiten evadir salvaguardas de empresas.
Rebecca Portnoff dijo a Bloomberg que descargar y ejecutar un modelo localmente elimina casi toda supervisión y proporciona a los delincuentes una sensación de seguridad.
Portnoff afirmó que más de 500 modelos open source se usan para CSAM, frente a menos de una docena hace dos años.
El Centro Nacional para Niños Desaparecidos y Explotados registró más de 1,5 millones de instancias de CSAM generado por IA el año pasado, frente a 67.000 en 2024, según el artículo.
Bloomberg también documentó comunidades en la dark web con cientos de miles de miembros dedicadas a este material y señaló que incluso modelos cerrados han sido explotados: una demanda colectiva citó el uso del chatbot Grok para generar miles de imágenes sexuales de una menor, y expertos han hallado imágenes sexualizadas de niños en la plataforma X.
«Una vez que has descargado un modelo localmente y lo estás ejecutando en tu sistema privado, prácticamente no hay forma de supervisarlo», declaró a Bloomberg Rebecca Portnoff, experta en IA para la seguridad infantil