La demanda federal presentada en San Francisco por la Columbia Británica acusa a OpenAI y a su director ejecutivo, Sam Altman, de no informar a las fuerzas del orden locales tras detectar conversaciones de la autora del tiroteo de Tumbler Ridge con ChatGPT.
Nueve personas, en su mayoría niños, murieron en el ataque de febrero; la autora, Jesse Van Rootselaar, fue identificada por el equipo de seguridad de OpenAI, que según la demanda recomendó alertar a la policía, pero esa recomendación fue desautorizada.
La provincia reclama indemnización por costes de demolición de la escuela, una escuela de reemplazo, atención de salud mental y otros gastos, y pide una orden judicial para cambiar cómo OpenAI gestiona conversaciones potencialmente violentas.
OpenAI, mediante su portavoz Drew Pusateri, calificó el suceso de tragedia e indicó su compromiso con la seguridad; la empresa ha negado sistemáticamente responsabilidad y afirma que notifica a las fuerzas del orden cuando hay un «riesgo inminente y creíble».
La demanda provincial sigue otras acciones legales en EE. UU., incluidas demandas familiares y una querella presentada por Florida que acusa a OpenAI de fallos de seguridad en ChatGPT.
La empresa afirmó que la cuenta había sido marcada por sistemas que detectan «usos indebidos de nuestros modelos para fomentar actividades violentas», pero que los problemas no cumplían con sus criterios internos para ser denunciados a las fuerzas del orden