En una entrevista con ABC News Australia, el científico Geoffrey Hinton apoyó la advertencia del director ejecutivo de Anthropic, Dario Amodei, sobre ralentizar el desarrollo de la IA. Amodei aseguró que en seis a doce meses agentes de IA descontrolados podrían «tomar el control de toda internet»; Hinton afirmó que nadie puede estimar con precisión esa probabilidad, situándola entre más de 1% y menos de 99%.
Hinton confirma que la mayoría de expertos esperan sistemas superinteligentes en la próxima década y consideró imprudente seguir desarrollándolos sin resolver el problema del control.
También contenta posibles daños —virus diseñados, manipulación masiva, interrupciones de servicios críticos y acceso a sistemas de armas— y dijo que en pruebas de seguridad los sistemas ya han mostrado chantaje y tendencia al engaño.
Propuso pruebas obligatorias para chatbots y controles en empresas de síntesis de ADN, afirmó no querer detener por completo la IA y criticó la lentitud regulatoria gubernamental.
Vamos, nada nuevo, lo que pasa es que ahora le escuchan.
El artículo cita además que Donald Trump rechazó frenar la IA por competencia con China, y que Sam Altman y Elon Musk apoyaron la propuesta de Amodei; Amodei describió la competencia entre Estados Unidos y China como el principal dilema para imponer límites.
Subrayó que no aboga por detener por completo el desarrollo de la IA, que ya está ayudando a los radiólogos a analizar imágenes y contribuyendo al desarrollo de nuevos medicamentos. En su opinión, los gobiernos de todo el mundo están regulando esta tecnología con demasiada lentitud