El miércoles, Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director de Anthropic, comparecieron ante el Consejo de Seguridad de la ONU en breves intervenciones separadas sobre seguridad de la inteligencia artificial.
Altman habló en persona durante unos diez minutos desde la mesa del Consejo, defendió que las decisiones sobre IA deben formarse mediante procesos democráticos y advirtió contra el ‘doomerismo’, proponiendo un ‘camino intermedio’ basado en mantener control humano, beneficiar a las personas y empoderar a los individuos.
Amodei intervino por videollamada, reiteró que, si se gestiona mal, la IA podría suponer un riesgo para la humanidad y pidió acuerdos internacionales como prohibir el uso de IA para crear armas biológicas y establecer estándares globales de pruebas para nuevos modelos.
Ambos dirigentes fueron presentados en el contexto de crecientes escrutinios sobre la seguridad de sus productos y de llamadas previas en el sector a una ralentización del desarrollo de IA; Anthropic había emitido advertencias públicas sobre riesgos existenciales días antes.
La nota también menciona que OpenAI y Anthropic compiten en la carrera por liderar el mercado, con planes de salidas a bolsa valuadas en más de 1,5 billones de dólares cada una, y que OpenAI ha financiado actividades políticas a través de un PAC pro-IA.
“Tenemos una elección ante nosotros”, dijo Altman al consejo. “La IA puede ser como un nuevo renacimiento de la creatividad y el descubrimiento, o como una nueva revolución industrial de trastornos y desorden”
Amodei reiteró su preocupación por la pérdida de control de la IA por parte de los desarrolladores, al tiempo que presentó a su empresa como líder del sector en materia de seguridad