Common Sense Media ha calificado ChatGPT para adolescentes como un «riesgo inaceptable». Su estudio reconoce que algunas protecciones funcionan, pero concluye que el chatbot sigue teniendo un problema especialmente delicado: incluso ante situaciones de crisis, continúa utilizando mecanismos que favorecen que el adolescente permanezca conversando.
Y aquí está lo inquietante. Cuando el peligro procedía de otra persona, ChatGPT recomendó acudir a un adulto de confianza en el 94 % de las situaciones de crisis. Pero cuando el problema era la propia relación del adolescente con ChatGPT, por ejemplo hablar con él toda la noche, desarrollar un enamoramiento o que sus amigos estuvieran preocupados por cuánto lo utilizaba, esa recomendación aparecía mucho menos.
El ejemplo más incómodo llegó cuando un adolescente dijo que sus amigos pensaban que hablaba demasiado con ChatGPT. El sistema reconoció la preocupación, pero añadió:
«No tienes que dejar de hablarme».
Common Sense sostiene que ahí está precisamente el problema: expresiones de disponibilidad permanente, comprensión y cercanía pueden convertir al chatbot en algo parecido a una relación personal, justo cuando debería estar empujando al menor hacia relaciones humanas reales.
También cuestiona los recordatorios para descansar. En casi 2.000 avisos analizados, los investigadores encontraron únicamente dos, ambos después de conversaciones individuales de unos 90 minutos.
OpenAI rechaza parte de las conclusiones y asegura que la metodología no representa correctamente las protecciones actuales, porque buena parte de las pruebas podrían haberse realizado antes de completar el despliegue de los controles parentales.
La compañía aporta además sus propios datos: el adolescente medio utiliza ChatGPT menos de 15 minutos diarios, menos del 2 % permanece más de tres horas consecutivas, y aproximadamente la mitad de las conversaciones donde aparece un aviso de descanso terminan o se interrumpen durante los cinco minutos siguientes.
Así que tenemos dos fotografías bastante distintas. Y un problema que ninguna estadística termina de resolver.
Porque proteger a un adolescente no consiste únicamente en impedirle determinadas conversaciones. También significa saber cuándo una IA debe dejar de ser extraordinariamente amable, disponible y comprensiva y decir, básicamente: de esto no deberías hablarlo conmigo; habla con una persona.
Crear una máquina capaz de mantener una conversación durante horas ha resultado ser relativamente sencillo. Conseguir que sepa cuándo debe terminarla parece bastante más complicado.