En una columna en The Guardian, Stuart Russell (UC Berkeley) comenta la carta de Dario Amodei (Anthropic) titulada “We Must Pace the Frontier” y las reacciones de otros ejecutivos.
Amodei propone evaluadores independientes dentro de empresas, estándares comunes en países democráticos y un pacto más amplio que incluya regímenes autoritarios; también plantea límites al ritmo de progreso no regulado.
Russell afirma que la metáfora de “pacing” es errónea: sostiene que hay que establecer requisitos de seguridad primero (certificaciones vinculadas a capacidades concretas) y que, si los desarrolladores no los cumplen, el desarrollo debe detenerse.
Russell advierte sobre el riesgo de mejora recursiva y la posibilidad de pérdida irreversible de control humano, y sitúa la propuesta como coherente con llamadas previas de investigadores de seguridad para “líneas rojas” y certificaciones de alineamiento.
No podemos establecer un ritmo de progreso más lento en cuanto a capacidades y esperar que eso nos dé tiempo suficiente para garantizar la seguridad. Los requisitos de seguridad son innegociables. Debemos establecerlos primero, y el progreso solo se producirá cuando se cumplan