Tom Siegel, que trabajó en Google entre 2004 y 2019 y luego fundó TrustLab, anunció el martes que será el primer director ejecutivo del Instituto de Seguridad de la IA para Jóvenes, creado por Common Sense Media en mayo.
Siegel dijo a Reuters que las grandes empresas de IA están desplegando funciones para menores sin suficientes medidas de seguridad y citó riesgos como suicidio, psicosis y ‘descarga cognitiva’.
Indicó que pretende desarrollar estándares de responsabilidad y colaborar con empresas y grupos externos; Anthropic y la Fundación OpenAI figuran entre los patrocinadores del instituto.
Portavoces de Google y OpenAI respondieron señalando opciones de control parental y sistemas de verificación de edad, respectivamente; Anthropic no respondió de inmediato.
Sugirió que las empresas podían tomar medidas inmediatas para proteger mejor a los jóvenes, citando riesgos que van desde el suicidio y la psicosis hasta la descarga cognitiva, un término utilizado para describir la disminución del pensamiento crítico causada por depender de la IA para responder preguntas