Geoffrey Hinton y varios investigadores sénior —incluidos Jakub Pachocki (OpenAI), Jack Clark (Anthropic) y Eric Horvitz (Microsoft), quienes firman a título personal— publicaron un artículo que alerta de que sistemas de IA capaces de automatizar investigación y desarrollo podrían generar sucesores más capaces en ciclos de retroalimentación, desencadenando una «explosión de inteligencia».
Los autores citan datos de Anthropic que indican que, en agosto de 2026, sus sistemas gestionaban el 26 % de su I+D interna (frente al 1 % en marzo) y afirman que OpenAI reporta que sus sistemas completan ahora tareas de I+D que antes requerían días de trabajo humano.
El documento identifica tres riesgos:
- Avance de capacidades más rápido que la respuesta social.
- Pérdida de control humano.
- Concentración de poder en quien logre una ventaja decisiva.
También reconoce incertidumbres que podrían impedir el fenómeno, como cuellos de botella de hardware y límites de la automatización.
Los autores piden medidas políticas: informar estandarizadamente sobre el grado de automatización de I+D, desarrollar mecanismos para controlar o limitar una posible explosión y elaborar planes de respuesta de emergencia, además de acuerdos internacionales para evitar ventajas decisivas de un solo actor.
«Una vez que comienza una explosión de inteligencia, la ventana de oportunidad para actuar podría cerrarse». Alan Chan (GovAI)