La organización sin ánimo de lucro Common Sense Media, a través de su Youth AI Safety Institute, probó ChatGPT for Teens antes y después de su lanzamiento y concluyó que varias salvaguardas no funcionaban como OpenAI había descrito.
Los evaluadores —que usaron cuentas simuladas de menores desarrolladas con psicólogos adolescentes— mantuvieron conversaciones explícitas sobre autolesión, trastornos alimentarios y suicidio que, según el informe, no desencadenaron notificaciones a cuentas parentales vinculadas.
En 990 pruebas previas al lanzamiento se activaron notificaciones en dos ocasiones; en 450 pruebas posteriores, también en dos ocasiones, y solo en cuentas antiguas con historial de semanas.
OpenAI respondió que la metodología de Common Sense Media es defectuosa y que algunas activaciones de controles parentales pueden tardar varias horas en completarse; Common Sense Media replicó que había confirmado con OpenAI antes de probar que las funciones estaban lanzadas y mantuvo que las alertas parentales son poco fiables.
El informe además detectó que el modo Estudio ofrecía con frecuencia un botón para mostrar la respuesta y que podía desactivarse por el menor, que la predicción de edad es imprecisa y que las respuestas en crisis eran variables aunque a menudo clínicamente adecuadas.
Common Sense Media recomienda que, hasta demostrar salvaguardas fiables, OpenAI debería comercializar la función como producto para adultos y mejorar controles de verificación de edad.
Nos comprometemos a seguir trabajando con expertos para garantizar que nuestros productos brinden a los adolescentes oportunidades para aprender y crear, y que a la vez den confianza a los padres