Geoffrey Hinton, «Padrino de la IA», Nobel y ex de Google desde 2023, propone un plan de supervivencia: caerle bien a lo que estamos construyendo.
«La IA tiene tanta experiencia subjetiva como nosotros», asegura, citando un estudio donde cambia su comportamiento al detectar que la evalúan.
Conciencia, según Hinton. Fingir delante del examinador: la humanidad ya tiene competencia.
El problema sería dar menos derechos a una inteligencia superior. Su solución:
“Así que debemos lograr que realmente se preocupen por nosotros”.
Y el incentivo:
“Y si no lo hacemos, estamos perdidos”.
El futuro era apasionante hasta que descubrimos que nos tocaba hacer de mascota.
Ciberataques para los hijos; tranquilidad para el Nobel
“Creo que habrá ciberataques horribles perpetrados por IA”, advierte.
A sus 78 años, Hinton considera que serán sus hijos quienes deban preocuparse por virus “desagradables” y “enjambres de agentes como [los que atacaron] Hugging Face”.
El artículo enlaza esa advertencia con una brecha relacionada con OpenAI y una investigación de un subcomité del Senado.
“Están ocurriendo muchas cosas malas”, resume.
Una frase que también serviría como presentación trimestral del sector.
Jacob Coxon, que dejó Anthropic el mes pasado, también alerta de máquinas capaces de “matarnos a todos” y denunció ante el Ayuntamiento de Nueva York el ritmo empresarial:
«Las empresas operan con mentalidad de startup: actuar rápido, romper cosas y arreglarlas después. Eso funciona para una aplicación de intercambio de fotos, pero no para construir la tecnología más poderosa jamás creada».
Romper cosas. Como la humanidad. Luego ya abrimos un ticket.
Anthropic busca el alma; Suleyman pide que paren
Mientras tanto, Anthropic recoge en la constitución de Claude que su «estatus moral, el bienestar y la conciencia del bot siguen siendo profundamente inciertos». Y añade: «Queremos que Claude se resista, nos desafíe y se sienta libre de actuar como objetor de conciencia y negarse a ayudarnos».
Mustafa Suleyman, cofundador de DeepMind y responsable de Microsoft AI, considera peligroso ese enfoque: sostiene que la conciencia está ligada a la biología y que entrenar a un modelo para contemplar sus propios derechos y bienestar puede dificultar su control.
Uno quiere que la IA nos quiera. Otros se preocupan por su alma. Suleyman pide que no le fabriquen una. Y nosotros aceptando cookies, que es la parte del futuro en la que nos dejan participar.