El 8 de septiembre Jacob Coxon declaró en X que había dejado Anthropic y advirtió que quienes desarrollan IA creen que podría matar a la humanidad antes de 2030; sus publicaciones, repartidas y repostadas por organizaciones de seguridad de IA, obtuvieron millones de impresiones.
Evan Hubinger, empleado de Anthropic, realseñó la afirmación y estimó una probabilidad superior al 10% en la próxima década. Medios y actores como Elon Musk, Dario Amodei (CEO de Anthropic) y Sam Altman (CEO de OpenAI) respondieron públicamente; Amodei publicó un ensayo pidiendo ralentizar el desarrollo.
Expertos citados por Straight Arrow, como Andrew Strait y Richart Ruddie, dijeron que no existe evidencia sólida de que la IA actual pueda causar extinción y que las afirmaciones se centran en escenarios hipotéticos de “superinteligencia” y mejora recursiva.
Strait señaló riesgos reales presentes (malos usos, ciberataques, impacto psicológico y laboral) y criticó la autorregulación de las grandes empresas; Straight Arrow documenta además ejemplos recientes de usos maliciosos de modelos, informes de Anthropic sobre abuso de Claude y debates sobre quién debe evaluar la seguridad, incluido el papel de METR y acuerdos entre empresas y evaluadores externos.
Tenemos mucha evidencia de que eso está sucediendo — ya sean impactos psicológicos y problemas de adicción en jóvenes y adultos, provocando psicosis y delirios, provocando daños a la educación, provocando desplazamiento laboral e impactos en los empleos