Nate Soares no está ahorrando para su jubilación. El presidente del Machine Intelligence Research Institute (MIRI) cree que hay más de un 50 % de posibilidades de que la inteligencia artificial provoque la extinción humana durante los próximos diez años. Con ese horizonte, preparar la vejez parece haber perdido prioridad.
Según recoge Futurism, lo explicó en el pódcast de The Atlantic The Most Interesting Thing in AI. Conserva un plan 401(k) de cuando trabajaba en Google, pero lleva una década sin hacer aportaciones.
La declaración tiene algo especialmente inquietante. Estamos acostumbrados a escuchar advertencias sobre un futuro peligroso. Aquí alguien que dedica su trabajo a la seguridad de la IA cuenta que ese futuro ya influye en cómo organiza su vida.
Los porcentajes empiezan a dar vértigo
Soares no es la única voz del sector que habla de extinción humana con un porcentaje al lado.
En septiembre, Geoffrey Hinton consideró razonable una estimación del 10 % al ser preguntado por la posibilidad de que la IA acabara con la humanidad en una década. En aquella entrevista con la BBC, recogida por Anadolu, llegó a calificar de muy imprudente suponer que el riesgo fuera de apenas un 1 %.
La misma información recogía las declaraciones de Evan Hubinger, responsable de Alignment Science en Anthropic, que también situaba por encima del 10 % la posibilidad de que la IA matara a todos los humanos durante los próximos diez años. Son advertencias de personas que investigan y desarrollan esta tecnología.
Un 1 % ya debería bastar para que una conversación sobre la desaparición de nuestra especie se quedara en silencio. Ahora escuchamos un 10 %, y Soares habla de más del 50 %.
Hasta el porcentaje que debería horrorizarnos empieza a parecer pequeño al lado del siguiente.
Quienes están dentro también hacen planes
Hay una diferencia entre encontrarse una profecía apocalíptica en internet y escuchar estas cifras en boca de quienes conocen de cerca los sistemas, sus capacidades y los problemas de seguridad.
Hinton contribuyó a construir las bases de la IA actual. Hubinger trabaja en uno de los laboratorios que desarrollan modelos avanzados. Soares dirige una organización dedicada a investigar cómo evitar que sistemas más capaces resulten peligrosos.
Sus posiciones y trayectorias son distintas. Lo que llama la atención es encontrarlos hablando públicamente de la supervivencia humana como una cuestión que cabe expresar en probabilidades y plazos.
Y, en el caso de Soares, también en aportaciones a un plan de jubilación.
La conversación tecnológica prometía explicarnos cómo trabajaríamos menos, viviríamos mejor y disfrutaríamos de una abundancia extraordinaria. Resulta bastante desconcertante descubrir que, mientras escuchamos esas promesas, hay investigadores haciendo cuentas sobre si llegaremos a verlo.
Menudo apartado de condiciones y garantías se nos había quedado sin leer.
No lo considera inevitable
Soares asegura que trabaja para impedir ese desenlace y que no cree que sea inevitable. Su declaración combina una expectativa profundamente sombría con la voluntad de cambiarla.
Ese es otro de los elementos que hacen difícil pasar de largo ante la noticia. No está hablando de una catástrofe astronómica sobre la que no podamos intervenir. Habla de una tecnología que estamos desarrollando, financiando e incorporando a nuestras vidas.
El futuro que teme todavía se está construyendo. Y él dedica su trabajo a intentar que termine de otra manera, aunque haya dejado de reservar dinero para disfrutar de su vejez.
La mirada HUMANía
Quizá lo más perturbador sea nuestra capacidad para acostumbrarnos.
Escuchamos que alguien del sector calcula un riesgo de extinción humana, leemos el porcentaje y seguimos hasta la siguiente noticia. Una nueva versión del chatbot, otra ronda de financiación, una función que resume correos. Todo comparte pantalla.
Pero conviene detenerse un momento en lo que se está diciendo. Hay personas que trabajan en el centro de esta transformación hablando de la posibilidad de que no sobrevivamos a ella. Algunas lo expresan con cifras que cuesta pronunciar sin volver a mirar el titular.
No hace falta decidir aquí cuál de ellas acertará para sentir el vértigo de la conversación.
Nos prometieron una tecnología que nos permitiría dejar de trabajar. Soares ha dejado de ahorrar para cuando deje de hacerlo.
El matiz es considerable.