OpenAI anunció que añadirá una marca de agua invisible a los textos generados por ChatGPT y Codex en la Unión Europea para cumplir la normativa del EU AI Act.
La compañía dijo que la función se activará en las próximas semanas para usuarios elegibles en todos los planes, y que los desarrolladores que usen la API pueden activarla para modelos selectos desde hoy (apagada por defecto).
La marca no es un símbolo visible sino una alteración sutil de las elecciones de palabras detectable por un detector que use la clave secreta; viaja con el texto al copiar y pegar, no identifica al usuario y, según OpenAI, no afecta de forma significativa al rendimiento del modelo.
OpenAI publicó un informe técnico, textGrain, coescrito con investigadores de la Universidad de Pensilvania y Yale, que explica el método.
Las pruebas internas mostraron que editar el texto (por ejemplo reemplazar el 10% de palabras por sinónimos) reduce la detectabilidad del 92% al 66%; textos cortos, respuestas de matemáticas y traducciones también son más difíciles de detectar.
OpenAI restringe inicialmente el acceso al detector a investigadores y organizaciones expertas y advirtió que la ausencia de marca de agua no prueba autoría humana.