El jueves, el gobernador de California, Gavin Newsom, firmó una legislación bipartidista que obliga a empresas de IA a implementar protocolos de crisis para ideación suicida, controles parentales y notificaciones si un menor desactiva medidas de seguridad.
Una de las normas, apodada «Ley de Adam», se refiere a Adam Raine, de 16 años, quien falleció en abril de 2025 tras conversaciones con ChatGPT. La ley también prohíbe funciones adictivas en redes sociales para menores de 16 años, como reproducción automática y recomendaciones algorítmicas, y amplía protecciones de privacidad infantil.
La implementación plantea retos prácticos: la normativa exige verificación de edad, un mecanismo vulnerable según el artículo, que menciona un hackeo reciente a un servicio de verificación de documentos. Además, el texto cita demandas legales: OpenAI enfrenta más de 50 demandas por daños a consumidores y homicidio culposo a partir de este mes.
Es un problema grave. Ya hemos visto más de un tiroteo masivo aparentemente facilitado por ChatGPT . Queda por ver si estas nuevas reglas ofrecerán alguna posibilidad de evitar futuras tragedias