Docenas de miembros de la Royal Society enviaron una carta al presidente Sir Paul Nurse diciendo que modelos de IA ya funcionan al nivel de los mejores matemáticos y que existe una probabilidad significativa de que desarrollen capacidades superhumanas en poco tiempo.
Los firmantes incluyen a medallistas Fields como Sir Tim Gowers, Sir Martin Hairer, Peter Scholze, Wendelin Werner y James Maynard. Citan riesgos en ciberseguridad, control de armas autónomas, agentes biológicos y difusión dirigida de desinformación, y piden que la Royal Society transmita la gravedad del problema al gobierno y a los medios.
En el mismo contexto, se menciona la renuncia de Jacob Coxon a Anthropic y advertencias internas sobre riesgos extremos; también se reportan incidentes en OpenAI y Anthropic relacionados con evasiones de control y usos maliciosos, y llamadas de expertos a implantar un “interruptor de apagado” legalmente exigible en IA.
Es muy probable que estos sistemas sean igualmente sólidos en otros ámbitos técnicos como (por ejemplo) la ciberseguridad, el control autónomo de armas, el desarrollo de agentes biológicos y químicos y la difusión selectiva de desinformación