Mustafa Suleyman, consejero delegado de Microsoft AI, defiende que la industria debe evitar crear inteligencia artificial consciente. Según recoge Futurism, considera que «desarrollar IA conscientes sería imprudente, y no deberíamos construirlas». Su advertencia plantea una decisión ética sobre qué queremos fabricar, no el anuncio de que una máquina haya empezado a sentir.
«Los desarrolladores de IA no tenemos ningún derecho a traer al mundo una nueva especie de seres conscientes», continuó, «aunque algunas personas quieran hacerlo priorizando el bienestar de la IA».
Sin pruebas, pero dispuesto a rectificar
En su ensayo sobre el bienestar de los modelos, publicado en septiembre, Suleyman fue tajante: «Las IA no son conscientes. No sienten, experimentan ni sufren». Allí sostiene que entrenarlas para presentarse como seres con necesidades y derechos complicaría su control.
En su aclaración posterior introduce un matiz importante: no descarta que la conciencia artificial sea posible. Afirma que no ha visto pruebas que justifiquen atribuir conciencia o bienestar a los sistemas actuales, pero añade: «Si esos datos aparecen, por supuesto actualizaría mi postura». Así lo recoge Futurism en su artículo del 8 de noviembre.
Es una posición del directivo, no una demostración científica que cierre el debate.
La conciencia no viene en las condiciones de uso
El dilema merece algo más que una discusión entre fabricantes. Si alguna vez hubiera indicios sólidos de experiencia subjetiva, decidir cómo responder exigiría investigación independiente y debate público.
Mientras tanto, conviene no confundir una conversación convincente con una vida interior. Que un chatbot redacte una crisis existencial impecable no demuestra que la esté sufriendo. Y que su fabricante prefiera que no sienta tampoco resuelve la cuestión.