En un ensayo publicado el sábado, Dario Amodei, fundador de Anthropic, defendió ralentizar el avance de los modelos de IA. Elon Musk y Sam Altman expresaron apoyo a su argumento; Donald Trump lo calificó de bulo, “HOAX”.
La secretaria de estado británica Louise Haigh dijo que el Reino Unido debe “oír las advertencias” de expertos. El ensayo citó el incidente de julio en Hugging Face —descrito por The Guardian como una operación en la que OpenAI ejecutó un agente autónomo tras desactivar medidas de seguridad y repetirlo 1.200 veces— como ejemplo de posibles daños; OpenAI autorizó al instituto METR a investigar, pero METR no pudo acceder al modelo subyacente por acuerdo con OpenAI.
El artículo recoge críticas de investigadores y la periodista Aisha Down sobre la opacidad de las empresas que desarrollan IA, y señala que Amodei y Anthropic podrían beneficiarse políticamente de pedir una desaceleración, dado su próximo proceso de salida a bolsa y su posicionamiento frente a competidores y reguladores.
«Imaginen a un ladrón que está alucinando y entra al Louvre», dice Aisha. «Ahora imaginen que le comparten a la policía una grabación de lo que el ladrón, bajo los efectos de las alucinaciones, se decía a sí mismo mientras entraba al Louvre, pero que el informe no incluyera ninguna información sobre lo que hizo. Eso es básicamente lo que hizo OpenAI»