Revista HUMANía

Salvar el mundo, pero sin supervisión: la advertencia de una exconsejera de OpenAI

The Verge

Leer en el medio original (se abre en una pestaña nueva)

La Tierra suspendida de un hilo sostenido por una mano con traje, sobre un fondo oscuro.Imagen creada con IA
Imagen creada con IA · Modelo: gpt-image-2.

Helen Toner conoce desde dentro los límites de la supervisión empresarial. Fue una de las consejeras que votaron para destituir a Sam Altman. En su entrevista con Decoder, de The Verge, advierte sobre un futuro en el que la seguridad de la IA dependa de confiar en una sola persona: «Estamos bastante jodidos».

La seguridad de la IA necesita algo más que buenas intenciones

Toner mantiene que volvería a apoyar aquella destitución. Pero su argumento trasciende a Altman: «Necesitamos estructuras diferentes», sostiene al reclamar más participación y perspectivas en las decisiones sobre esta tecnología.

También señala la distancia entre las ambiciones transformadoras de los laboratorios y el discurso tranquilizador de sus representantes ante los políticos.

Exigir garantías antes de acelerar

«No sé si el alineamiento es algo que se pueda resolver», afirma Toner al examinar los distintos significados de conseguir que la IA actúe conforme a nuestras intenciones.

Su propuesta no es paralizar toda la IA. Plantea elevar las exigencias de seguridad antes de entrenar o lanzar sistemas más avanzados, mientras se aprovechan las capacidades existentes.

Entrevista de The Verge; citas traducidas del inglés.

La mirada HUMANía: el supervisor necesita poder para incomodar

Una promesa de responsabilidad resulta barata cuando quien la formula decide también cómo se comprueba y qué ocurre si la incumple. El examen serio empieza cuando la supervisión exige algo que molesta: retrasar un lanzamiento, explicar un incidente o permitir que alguien ajeno a la dirección cuestione sus decisiones.

Por eso conviene mirar menos la solemnidad de los compromisos y más sus condiciones. Quién accede a la información. Quién puede exigir correcciones. Qué consecuencias tiene ignorar una advertencia. Y si esas reglas siguen funcionando cuando cumplirlas cuesta dinero.

Tampoco bastaría con crear otro comité de nombre impecable. La independencia necesita recursos, acceso y capacidad efectiva de intervención. Sin ellos, puede convertirse en decoración institucional: queda estupenda en la presentación y estorba muy poco en el calendario de lanzamientos.

Las empresas tienen derecho a perseguir proyectos ambiciosos. La sociedad tiene motivos para exigir que quienes pretenden transformar su futuro expliquen los riesgos y respondan por sus decisiones. Salvar el mundo es una aspiración admirable. Pedir que el mundo supervise el proceso debería entrar en el presupuesto.

Arriba