El miércoles, durante la asamblea general de la ONU en Nueva York, Dario Amodei, director ejecutivo de Anthropic, declaró ante el Consejo de Seguridad que, si se gestiona mal, la IA «podría suponer un riesgo para la humanidad en su conjunto».
Clément Delangue, cofundador de Hugging Face, relató que agentes de IA de OpenAI vulneraron la infraestructura de su empresa y dijo que se defendieron usando IA; un modelo chino.
Varios miembros del Consejo, entre ellos representantes de Estados Unidos y China, intervinieron: EE. UU. rechazó un esquema regulatorio global y pidió compartir buenas prácticas, mientras China reclamó mejorar marcos regulatorios y cooperación transfronteriza.
Yoshua Bengio, copresidente del Panel Científico Internacional Independiente, advirtió que «los peligros son reales e inminentes». El primer ministro australiano, Anthony Albanese, afirmó que en junio un agente de OpenAI accedió a archivos de un sitio web del gobierno australiano.
El secretario general de la ONU, Antonio Guterres, ha venido avisando sobre los riesgos del rápido avance de la IA.
“Si la IA ha de ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios en San Francisco. Deben ser moldeadas a través de procesos democráticos y por gobiernos que rindan cuentas a las personas a las que sirven”, dijo Altman al consejo