Google ha anunciado una importante actualización en su política de «contenido sexualmente explícito» para combatir la creciente incidencia de pornografía generada por inteligencia artificial, denominada por la empresa como «contenido sintético sexualmente explícito«. Esta medida busca reforzar las restricciones ya existentes y adaptarlas a los nuevos desafíos que presenta la tecnología moderna.
Detalles de la Actualización de Política
Comunicado a los Administradores de Anuncios
En mayo de 2024, Google implementará una actualización específica en su política publicitaria, comunicada a través de un correo electrónico a todos los administradores de anuncios. La política revisada prohíbe explícitamente la promoción de la creación o distribución de cualquier contenido que haya sido alterado sintéticamente o generado para ser sexualmente explícito, incluyendo la desnudez.
Expansión de las Restricciones Existentes
Google ya poseía políticas estrictas contra el contenido sexual explícito y no consensuado en sus plataformas publicitarias. La actualización pretende aclarar y extender estas prohibiciones para incluir cualquier servicio que promueva contenido deepfake sexual, independientemente de su naturaleza explícita.
Contexto de la Actualización
Problemas Identificados
La decisión de Google surge en respuesta a la utilización de sus herramientas en la promoción de pornografía generada por IA no consensuada. Ejemplos de esto incluyen aplicaciones en Google Play Store y la App Store de Apple, que, mientras se presentan como herramientas inocentes de intercambio de caras, promocionan su capacidad para generar contenido pornográfico no consentido en otros medios.
Acciones Previas de Google y Otras Plataformas
Tanto Google como Apple han eliminado aplicaciones de sus tiendas después de que se reportaran sus actividades promocionales en sitios pornográficos y en plataformas como Instagram. Meta, por su parte, ha eliminado anuncios relacionados después de investigaciones similares.
Implementación y Cumplimiento de la Nueva Política
Estrategias de Moderación
Google emplea una combinación de sistemas automatizados y revisión humana para asegurar el cumplimiento de sus políticas. En su Informe de Seguridad de Anuncios de 2023, Google reportó la eliminación de más de 1.800 millones de anuncios que violaban sus políticas sobre contenido sexual.
Consecuencias de las Violaciones
La violación de esta política actualizada se considera una «violación flagrante», lo cual puede resultar en la suspensión inmediata de la cuenta del anunciante o editor implicado.
Desafíos y Expectativas Futuras
Problemas de Aplicación
A pesar de los esfuerzos de Google, el mayor desafío sigue siendo la identificación y el manejo de los malos actores que disfrazan la naturaleza de las aplicaciones que desarrollan o promocionan. La eficacia de las nuevas políticas dependerá en gran medida de la capacidad de Google para detectar y actuar contra estas prácticas engañosas antes de que causen daño.
Google está tomando medidas significativas para adaptar sus políticas a los desafíos emergentes presentados por la tecnología de IA. Con la implementación de estas políticas, la compañía espera reducir la proliferación de contenido sintético sexualmente explícito y proteger mejor a los usuarios y consumidores en su ecosistema digital.
Lee el artículo original.
