Durante la inauguración del programa principal de la conferencia Starmus en Arona, Tenerife, Geoffrey Hinton dijo que llegará un momento en que los humanos no entenderán ciertas afirmaciones de la IA, comparando la situación con ratas que no comprenden los números primos.
Hinton hizo estas declaraciones en una mesa redonda junto a Steven Pinker y Christiana Figueres, moderada por Garik Israelian.
Hinton añadió que las llamadas «alucinaciones» de la IA no demuestran necesariamente falta de comprensión, porque los modelos aprenden de comportamientos humanos que también reconstruyen recuerdos.
Pinker reconoció que se ha subestimado a los grandes modelos de lenguaje, pero insistió en que su utilidad dependerá de mecanismos de verificación que comprueben respuestas correctas.
Figueres señaló que la evidencia científica (citó el cambio climático) no basta para la acción si faltan condiciones sociales y políticas que la respalden.
Hinton defendió la existencia de una verdad objetiva y dijo que el poder puede controlar lo que una sociedad percibe como verdadero, pero no la verdad en sí misma.
Así como las ratas jamás comprenderán los números primos», continuó diciendo, «los seres humanos podrían encontrarse ante sistemas capaces de comprender cosas que ellos mismos jamás podrán comprender