Sam Altman tiene una habilidad extraordinaria para ocupar todos los lados de una discusión. En su entrevista con Stanford, publicada el 21 de octubre, advierte de los riesgos de concentrar el poder y admite que la IA avanza más rápido de lo que esperaba. En Cheeky Pint, el 29 de octubre, defiende que la memoria informática escasa se aprovecha mejor en la nube que repartida entre ordenadores particulares. El futuro debe estar en manos de todos. Los servidores, por lo visto, pueden quedarse en unas pocas.
Samdios vuelve a bajar del monte con las tablas del progreso. Esta vez también trae recomendaciones sobre dónde debería estar la RAM de tu ordenador.
La concentración de poder es peligrosa. Tu ordenador también molesta
En Stanford, Altman plantea la necesidad de preservar el control humano y evitar que una IA o un pequeño grupo de personas acumulen demasiado poder. También rechaza prohibir todos los modelos abiertos y defiende que podamos ejecutar redes neuronales en nuestros propios equipos.
Días después, al hablar de la escasez de componentes con John Collison, cuestiona la eficiencia de repartir memoria DRAM —un tipo de memoria RAM— entre máquinas particulares. Utiliza como ejemplo ordenadores que la emplean solo un 5 % del tiempo y propone maximizar su uso en la nube. Tom’s Hardware recoge el argumento y señala su encaje con el negocio de OpenAI.
Defender el derecho a ejecutar IA local y preferir económicamente los centros de datos no constituye una contradicción lógica automática. La tensión aparece cuando la libertad proclamada depende de recursos que considera mejor concentrar fuera de nuestras manos.
Puedes tener autonomía, claro. Siempre que no resulte un uso poco eficiente de algo que una gran tecnológica podría aprovechar mejor.
Trabajar sin conexión, conservar datos bajo control propio o ejecutar un programa sin pedir permiso también cuenta. Aunque esas ventajas queden fatal en una presentación sobre ingresos recurrentes.
El acelerador viene con servicio de alarma
En Stanford, Altman reconoce que el avance reciente está poniendo a prueba sus convicciones sobre seguridad. Considera que ya hay capacidades superinteligentes en ámbitos concretos, como el razonamiento matemático, y plantea cambios en la forma de gestionar el ritmo del desarrollo.
Al mismo tiempo, en Cheeky Pint describe la expansión de infraestructura de OpenAI y un programa de robótica orientado a construir centros de datos. Habla incluso de un futuro en el que esa infraestructura contribuya a reproducirse, aunque reconoce que llevará tiempo.
La escena tiene mérito: el conductor anuncia que el vehículo corre más de lo esperado mientras estudia cómo fabricar más motores.
Desarrollar una tecnología y preocuparse por sus riesgos es perfectamente compatible. Lo que requiere explicaciones es qué decisiones concretas cambia esa preocupación. Cuándo se frena, quién puede exigirlo y qué crecimiento se está dispuesto a sacrificar.
La sorpresa, por sí sola, no es una medida de seguridad. Es una expresión facial.
La IA amenaza la seguridad. Necesitaremos más IA
Altman advierte de que corregir vulnerabilidades una a una podría dejar de bastar frente a modelos cada vez más capaces. Su respuesta pasa por nuevas defensas apoyadas en esa misma tecnología. The Next Web recoge tanto esa advertencia como sus dudas sobre mantener el ritmo actual.
Hay un problema real detrás. La IA puede acelerar el descubrimiento de vulnerabilidades sin acelerar al mismo ritmo su reparación. Cambiar las defensas puede ser necesario.
También hay una posición comercial envidiable: vender una tecnología que obliga a revisar la seguridad y ofrecer esa misma familia de herramientas como parte de la solución. El problema crece, el mercado también y la humanidad recibe otra charla sobre adaptación.
La cuestión es quién comprueba que la defensa funciona. Con qué pruebas independientes, bajo qué responsabilidades y sin convertir cada nueva alarma en otra razón para depender del proveedor.
Emprended, pero la infraestructura ya la ponemos nosotros
Altman también tiene consejos para los estudiantes de MBA, los másteres en Administración y Dirección de Empresas. Les reprocha perseguir lo que estaba de moda hace cinco años y les anima a construir algo nuevo.
El consejo lleva una precisión interesante: no considera buen momento para crear otra copia de OpenAI. Prefiere imaginar empresas construidas sobre su tecnología, incluso mayores y más importantes que la suya. Fast Company recoge ese mensaje a los futuros emprendedores.
Puede ser un consejo empresarial razonable. También resulta extraordinariamente cómodo para quien aspira a cobrar por la infraestructura.
Sed originales. Romped moldes. Reinventad el mundo. La factura de cómputo ya os llegará.
La mirada HUMANía
Samdios sigue con su habitual reparto de papeles: una mano busca recursos para hacer crecer la IA y la otra advierte de los peligros de que crezca tanto. Ahora incorpora la sorpresa al repertorio. Vaya, resulta que esto avanza más deprisa de lo esperado. Uy, que se nos va de las manos.
Después llega la preocupación por la concentración excesiva de poder. La expresa alguien cuya ambición de organizar nuestro futuro tecnológico parece una candidatura permanente a CEO mundial. Se agradece el interés por repartir el mando. Falta concretar cuánto del suyo está dispuesto a repartir.
Y cuando aparece la posibilidad de tener una parte de esa capacidad en casa, entra en escena la eficiencia global. Qué oportuno: la autonomía del usuario puede ser un principio admirable y, a la vez, un desperdicio de memoria.
Sam Altman se cubre de gloria porque consigue presentarse como impulsor, vigilante y comentarista preocupado del mismo proceso. Si sale bien, visión. Si sale mal, ya nos había avisado.
Sentar cátedra así tiene ventajas. Sobre todo cuando la cátedra viene con centro de datos.