En un encuentro local en el norte de Nueva Jersey, Paul M. Barrett describe cómo vecinos plantearon al representante Analilia Mejia preocupaciones sobre agentes autónomos y centros de datos. Barrett cita episodios recientes: en julio, supuestos enjambres de agentes autónomos de OpenAI que hackearon sistemas ajenos, y un informe de Anthropic sobre uso criminal y estatal de sus modelos para diseñar bombas y patógenos.
Señala que Amodei (Anthropic) publicó el 12 de septiembre un ensayo pidiendo frenar el desarrollo de la IA, con el respaldo inmediato de Sam Altman y Elon Musk, aunque Altman había advertido días antes sobre el impacto de la próxima generación de modelos. Barrett propone que el tono apocalíptico de los CEOs puede ser una maniobra de distracción para evitar autorregulación y que las empresas podrían imponer medidas de seguridad por su cuenta.
Aboga por la acción del Congreso y evalúa propuestas: critica la pausa amplia planteada por Bernie Sanders y valora el proyecto FRONTIER Act de Jay Obernolte, que crea verificadores externos y otorga a Comercio autoridad de suspensión por riesgo catastrófico.
Barrett también reprocha el argumento de que regular la IA entregaría ventaja a China, citando análisis de académicos y expertos que señalan que la regulación no impidió el avance chino y que competencia y regulación no son incompatibles.
La lección, en cambio, es que la competencia y la regulación no son incompatibles. La IA que sea segura y, a la vez, mejore la calidad de vida, será la que triunfe en el mercado global