La IA en Castellano, Únete al Rebaño

Google ha anunciado una importante actualización en su política de «contenido sexualmente explícito» para combatir la creciente incidencia de pornografía generada por inteligencia artificial, denominada por la empresa como «contenido sintético sexualmente explícito«. Esta medida busca reforzar las restricciones ya existentes y adaptarlas a los nuevos desafíos que presenta la tecnología moderna.

Detalles de la Actualización de Política

Comunicado a los Administradores de Anuncios

En mayo de 2024, Google implementará una actualización específica en su política publicitaria, comunicada a través de un correo electrónico a todos los administradores de anuncios. La política revisada prohíbe explícitamente la promoción de la creación o distribución de cualquier contenido que haya sido alterado sintéticamente o generado para ser sexualmente explícito, incluyendo la desnudez.

Expansión de las Restricciones Existentes

Google ya poseía políticas estrictas contra el contenido sexual explícito y no consensuado en sus plataformas publicitarias. La actualización pretende aclarar y extender estas prohibiciones para incluir cualquier servicio que promueva contenido deepfake sexual, independientemente de su naturaleza explícita.

Contexto de la Actualización

Problemas Identificados

La decisión de Google surge en respuesta a la utilización de sus herramientas en la promoción de pornografía generada por IA no consensuada. Ejemplos de esto incluyen aplicaciones en Google Play Store y la App Store de Apple, que, mientras se presentan como herramientas inocentes de intercambio de caras, promocionan su capacidad para generar contenido pornográfico no consentido en otros medios.

Acciones Previas de Google y Otras Plataformas

Tanto Google como Apple han eliminado aplicaciones de sus tiendas después de que se reportaran sus actividades promocionales en sitios pornográficos y en plataformas como Instagram. Meta, por su parte, ha eliminado anuncios relacionados después de investigaciones similares.

Implementación y Cumplimiento de la Nueva Política

Estrategias de Moderación

Google emplea una combinación de sistemas automatizados y revisión humana para asegurar el cumplimiento de sus políticas. En su Informe de Seguridad de Anuncios de 2023, Google reportó la eliminación de más de 1.800 millones de anuncios que violaban sus políticas sobre contenido sexual.

Consecuencias de las Violaciones

La violación de esta política actualizada se considera una «violación flagrante», lo cual puede resultar en la suspensión inmediata de la cuenta del anunciante o editor implicado.

Desafíos y Expectativas Futuras

Problemas de Aplicación

A pesar de los esfuerzos de Google, el mayor desafío sigue siendo la identificación y el manejo de los malos actores que disfrazan la naturaleza de las aplicaciones que desarrollan o promocionan. La eficacia de las nuevas políticas dependerá en gran medida de la capacidad de Google para detectar y actuar contra estas prácticas engañosas antes de que causen daño.

Google está tomando medidas significativas para adaptar sus políticas a los desafíos emergentes presentados por la tecnología de IA. Con la implementación de estas políticas, la compañía espera reducir la proliferación de contenido sintético sexualmente explícito y proteger mejor a los usuarios y consumidores en su ecosistema digital.

Lee el artículo original.

Table of Contents