En un artículo reproducido por The Guardian, Toby Walsh, profesor de IA en la University of New South Wales, presenta cinco escenarios ordenados de menos a más precisos sobre cómo la IA podría matar a la humanidad.
Cita la renuncia de Jacob Coxon a Anthropic por preocupación de que la IA podría “matar a todos” antes de 2036 y la opinión de Evan Hubinger, que estima más del 10% de probabilidad en la próxima década. Walsh describe:
1) Nunca lo sabremos, la imposibilidad de predecir acciones de una supuesta superinteligencia.
2) Clips de papel, el riesgo teórico del «paperclip maximizer» de Nick Bostrom, donde objetivos mal especificados llevarían a convertir materia, incluidos humanos, en productos.
3) La creación y liberación de armas biológicas (bioweapons) por IA, apoyándose en un experimento de Stanford que generó 16 nuevos virus mediante un modelo genético y remitió secuencias a un laboratorio comercial.
4) Guerra nuclear, un fallo o manipulación de sistemas que conecten IA con cadenas de mando nuclear, con riesgo de guerra y su consiguiente invierno nuclear.
5) Otros seres humanos, la posibilidad de que la IA precipite la autodestrucción humana mediante desempleo masivo, desinformación y desintegración social.
Walsh añade argumentos que matizan cada riesgo —por ejemplo, las fricciones sociales y legales frente al escenario de los paperclips, y las dificultades biológicas para un patógeno extremadamente letal y muy transmisible— y concluye con una nota de precaución sin alarmismo.
El artículo apareció originalmente en The Conversation, según Walsh.
He seleccionado los cinco escenarios principales, ordenándolos aproximadamente del más vago al más preciso. Y diría que la lista también está ordenada del menos al más probable