En un comentario publicado en The Guardian, Timnit Gebru y Emily M. Bender señalan que, según un reportaje de CNN del 18 de septiembre, el ejército estadounidense casi inicia una operación contra un buque chino basado en un informe de inteligencia que afirmaba que transportaba componentes nucleares.
Funcionarios estadounidenses descubrieron momentos antes de ejecutar la interceptación que el informe había sido generado con el uso de un chatbot y contenía información errónea sobre la carga.
Gebru y Bender atribuyen el incidente a la dependencia gubernamental de sistemas propensos a errores, y citan su propia investigación sobre los riesgos de los grandes modelos de lenguaje; piden regulación y evaluación estricta de sistemas automatizados en escenarios de alto riesgo.
Desde sistemas de inteligencia artificial utilizados por hospitales que clasifican erróneamente a los pacientes como consumidores de drogas ilícitas, hasta gobiernos que matan a niños tras confiar en sistemas de «análisis de inteligencia» que confunden las escuelas con instalaciones militares , estamos viendo los daños previsibles que resultan de una fe mal depositada en software automatizado poco fiable