Cuando una IA causa daño, señalar al algoritmo resulta comodísimo: no protesta, no dimite y tampoco paga indemnizaciones. En una entrevista publicada por Stanford HAI, la investigadora Deb Raji plantea la pregunta incómoda: ¿qué personas tomaron las decisiones y cómo demostramos su responsabilidad?
Para Raji, aprobar leyes no basta: hay que poder hacerlas cumplir. Eso exige herramientas para auditar sistemas, registrar incidentes y reunir pruebas, además de organismos con recursos. La ética en una diapositiva queda preciosa; inspeccionar cuesta dinero.
El problema se agrava en administraciones, educación y sanidad: sus decisiones pueden afectarte aunque jamás hayas abierto un chatbot. Y si ni siquiera sabes que intervino una IA, difícilmente podrás impugnar su actuación. El consentimiento viene de serie: usted ya estaba viviendo en sociedad.
Raji también cuestiona que la atención se concentre en catástrofes extremas mientras daños actuales, acumulativos y menos espectaculares quedan relegados. Reclama escuchar a investigadores independientes y sociedad civil, no solo a directivos.
Salvarnos de una hipotética IA apocalíptica está fenomenal. Exigir responsabilidades por la que ya se utiliza también tendría su puntito innovador.