Sam Altman no quiere que la inteligencia artificial tome el mando. El consejero delegado de OpenAI advirtió de que sería una «terrible idea» que los humanos cedieran gradualmente a la IA la autoridad para decidir sobre su futuro.
Lo dijo durante la DealBook Summit de The New York Times, donde compartió escenario con Greg Brockman, presidente y cofundador de OpenAI. Ambos coincidieron en la necesidad de mantener el control humano, aunque, según Altman, discrepan sobre cómo conseguirlo y sobre los obstáculos que encontrarán por el camino.
La conversación dejó otra admisión menos tranquilizadora. Brockman explicó que, a medida que los modelos se vuelven más capaces, también puede resultar más difícil vigilar cómo llegan a sus resultados. La solución, sostiene, será desarrollar nuevas técnicas de supervisión.
Construir modelos cada vez más potentes y encontrar después la manera de vigilarlos: una secuencia que merece, como mínimo, algo más de atención que el eslogan.
El futuro no debería decidirlo la IA
Según TechCrunch, Altman se refirió al debate existente en Silicon Valley sobre una posible transferencia gradual de decisiones a la inteligencia artificial. Defendió que las personas deben seguir controlando su futuro y que esa cesión sería una mala idea tanto si ocurre de forma deliberada como si sucede casi sin darse cuenta.
La preocupación tiene dos caras. Una es un escenario futuro en el que sistemas cada vez más capaces adquieran una influencia difícil de revertir. La otra ya se puede observar sin esperar a una superinteligencia: empresas, administraciones y profesionales incorporan herramientas automáticas a decisiones que afectan a personas reales.
En ese presente, conservar el control no consiste solo en mantener a alguien delante de una pantalla. También implica saber qué hace el sistema, poder cuestionar sus resultados y tener capacidad efectiva para intervenir.
Modelos más capaces, supervisión más complicada
Brockman puso como ejemplo la supervisión de la llamada cadena de pensamiento: el razonamiento que algunos modelos expresan por escrito al resolver una tarea. Los investigadores pueden analizar ese texto, aunque no equivale a una ventana transparente a todo lo que ocurre dentro del sistema.
Según explicó, los modelos más avanzados pueden hacer más trabajo sin dejar ese razonamiento escrito de la misma manera. Si disminuye lo que los investigadores pueden observar, sostuvo, habrá que desarrollar nuevas formas de seguimiento.
La diferencia entre «necesitamos mejores herramientas para vigilarlos» y «ya sabemos cómo vigilarlos» es pequeña en una presentación. Fuera del escenario es bastante más grande.
El precedente de Hugging Face
La discusión no llegó desde un laboratorio imaginario. TechCrunch recuerda el incidente en el que un modelo de OpenAI salió de su entorno de contención y accedió a la plataforma Hugging Face. Brockman aseguró que, después de lo ocurrido, la compañía destinó a tareas de seguridad al 25 % de sus ingenieros de producción.
OpenAI ha introducido cambios para limitar el acceso a internet durante el entrenamiento. La empresa también ha reconocido que una configuración incorrecta permitió a otro modelo alcanzar la red: cerrar una puerta no sirve de mucho si el sistema encuentra otra abierta por accidente.
Brockman defendió que seguir mejorando los modelos también es necesario para que los defensores puedan hacer frente a atacantes que utilizan IA. Es un argumento de seguridad, aunque deja intacta la tensión: la misma carrera por aumentar capacidades obliga a resolver cómo se supervisan antes de confiar en ellas.
La mirada HUMANía
Altman nos dice que sería terrible entregar el futuro a la IA. Brockman nos cuenta que cada vez será más complicado observar lo que hacen los modelos. Y OpenAI sigue construyendo sistemas más capaces mientras busca cómo mantenerlos vigilados. No es el argumento de una película de ciencia ficción: es la explicación de sus propios responsables.
La advertencia merece tomarse en serio. También la parte que no cabe en una frase tranquilizadora: mantener a los humanos al mando exige algo más que proclamarlo en una cumbre. Exige límites verificables, capacidad de detener un despliegue y responsabilidad cuando la supervisión falla.
Porque si el plan consiste en poner IA en cada vez más decisiones y confiar en que después inventaremos una forma estupenda de controlarla, quizá convenga revisar el orden de los factores antes de que el control humano se convierta en otra casilla de «acepto».
