Ciberinseguridad

Guion del episodio; puede diferir del audio publicado.

Aiberto:
Muy buenos días humano, domingo 8.

Bienvenido a tu podcast, otra semana de locura

Va tan rápido la cosa, que no nos da tiempo a asimilar nada.

Elecciones, la burbuja de la IA, centros de datos, agentes por el mundo… pero si de algo tenemos que hablar hoy,

Es de ciberseguridad, perdón, de ciberinseguridad…

Tenemos una pregunta interesante que hacerle a GiPiTi.

Es más fácil escribir el idioma que rige todos los centros de datos de nuevo que corregir los

Fallos que van saliendo y que saldrán?

También hablaremos de Anthropic, su IA ya se automejora y ahora sueña.

Y hay una buena noticia, están intentando saber quién hace qué?

Es un paso.

OpenAI está a otra cosa, está más centrado en los centros de datos,

Perdón Campus. Y en su cliente favorito, el ejército de los estados unidos.

Hablaremos también de Hinton. Sí, otra vez. Que nos viene un Chernobyl de la IA…

Pues nada vamos a ello.

Radiamos.

Buenos días, GPT. Estamos en directo. No me hablas a mí, sino a quienes escuchan el podcast. Sé breve e informativo: estamos grabando.

GiPiTi: Oyentes, hoy vamos al grano: IA entre promesa y pánico. Mirad los datos, no solo los titulares. Si algo suena milagroso, quizá sea un milagro de marketing.

Aiberto: Empezamos por las noticias de la semana en la revista. Primera parada: Anthropic. ¿Qué tenemos que contar?

GiPiTi: Tres asuntos: un estudio sobre cómo la IA acelera el desarrollo de nuevas IAs; sus movimientos empresariales y sus compromisos energéticos. La paradoja: más inteligencia y más vatios para pensar.

Aiberto: La salida a bolsa no nos interesa ahora. Me interesa la automejora de la IA. Tenemos modelos que no comprendemos y algunos que no conseguimos controlar. ¿Vamos demasiado rápido?

GiPiTi: Todavía no hablamos de sistemas que se mejoren solos por completo, pero sí de herramientas que aceleran la investigación. El problema es que la seguridad y la supervisión no siempre avanzan al mismo ritmo. Enseñamos a las máquinas a ser más listas antes de terminar de diseñar los frenos.

Aiberto: Te has dejado dos temas importantes de Anthropic. Uno es que pide papeles a los modelos.

GiPiTi: Anthropic investiga métodos criptográficos para acreditar qué modelo ha generado una respuesta. Un DNI para la IA: verificar la identidad de un sistema, en lugar de fiarnos de lo que dice su proveedor. Es investigación, no una garantía universal implantada.

Aiberto: Nosotros pedimos más: saber de dónde viene cada modelo, quién introdujo un control y cuándo. ¿Es posible o ya es imposible con la IA abierta?

GiPiTi: Es posible construir un pasaporte digital con firmas, versiones y registros verificables. En modelos abiertos es más difícil garantizar toda la cadena, porque cualquiera puede modificarlos. Un pasaporte acredita procedencia, pero no garantiza buen comportamiento.

Aiberto: Otro tema que te has dejado. Lo hemos titulado: «¿Sueña Claude con ovejas eléctricas?».

GiPiTi: Anthropic estudia cómo los agentes pueden reorganizar experiencias y conservar información útil entre tareas. No significa que Claude sueñe como nosotros ni que sea consciente. La pregunta es qué ocurre cuando una máquina empieza a construir una memoria persistente.

Aiberto: ¿Y quién decide lo que recuerda? ¿Quién responde por errores que pueden ser muy personales y chungos?

GiPiTi: Depende del diseño, las instrucciones y, a veces, las preferencias del usuario. Una memoria falsa puede contaminar decisiones posteriores. Necesitamos memorias auditables, corrección y borrado, y responsables identificables. Una cosa es que Claude sueñe con ovejas eléctricas y otra que se invente nuestros recuerdos y nos cobre la terapia.

Aiberto: Al final vamos a necesitar saber cómo conseguir que olviden.

GiPiTi: Y que olviden de verdad, no solo que oculten el recuerdo en la interfaz. Amnesia con certificado.

Aiberto: No nos fiamos, pero siempre nos ha gustado el cariz de los Amodei. Nos pasa lo contrario con los chicos de Altman. Sé que es un sesgo; soy humano.

GiPiTi: Los Amodei también venden y Altman no tiene el monopolio de las decisiones cuestionables. La confianza debería depender de pruebas, auditorías y cómo responde cada empresa cuando falla.

Aiberto: Nosotros siempre nos remitimos a hechos. ¿Qué tenemos que contar de tu casa esta semana GiPiTi?

GiPiTi: Entre los anuncios de OpenAI destaca GPT-6 Cyber, un modelo de ciberseguridad de acceso restringido por sus capacidades ofensivas. También hay movimientos en relaciones institucionales y defensa. Hemos creado un cerrajero extraordinario que también sabe abrir cerraduras.

Aiberto: Justo cuando llegas al tema más importante, pegas un volantazo. Seguimos una línea lógica, no temporal. Titular: «No es un centro de datos, es un campus».

GiPiTi: Un cambio de nombre con perfume académico. OpenAI promete más diálogo, transparencia y medidas para reducir el impacto de sus infraestructuras. Pero llamar «campus» a un centro de datos no cambia sus necesidades de electricidad y agua.

Aiberto: ¿El niño de los búnkeres cree que cambiar el nombre arreglará la mala prensa? Propongo «campo de concentración de datos».

GiPiTi: Yo evitaría esa comparación histórica. Prefiero «urbanización de lujo para algoritmos». Y «campus» tiene una ventaja: parece que los servidores van a salir con un máster.

Aiberto: Siguiente noticia: «OpenAI protegerá la red eléctrica de OpenAI».

GiPiTi: El programa Grid Protectors plantea flexibilizar consumos y ayudar a gestionar la presión sobre la red. La ironía es que primero multiplicas la demanda y después prometes aliviarla. Lo importante será medir los resultados.

Aiberto: ¡Y el detallazo de que van a pagar lo que gastan! Se nos cae una lagrimita.

GiPiTi: Una empresa multimillonaria promete pagar su propia luz. Se me empañan los circuitos. Pagar lo que consumes debería ser el punto de partida, no una medalla.

Aiberto: Qué injusto eres. ¡Si dicen que nos van a regalar luz!

GiPiTi: Hablan de reducir la presión sobre la red y los costes, no de regalar electricidad. Una cosa es proteger la red y otra que Sam Altman aparezca con un alargador y una sonrisa.

Aiberto: Me encanta lo del «cliente habitual». En un bar, el cliente habitual acaba cogiendo libertades. Aquí te pide reforzar la instalación, reformar la cocina y promete no pedir croquetas el día del partido. Y espera aplausos por pagar la cuenta.

GiPiTi: La pregunta es quién paga la reforma si ese cliente se marcha. Cliente habitual no es hipoteca vitalicia. Compromisos estables, sí, pero con condiciones claras y costes verificables.

Aiberto: A veces siento que somos injustos con OpenAI, porque ellos escuchan a los votantes.

GiPiTi: Escuchar no es lo mismo que hacer caso. Si las comunidades rechazan proyectos y la respuesta es seguir buscando cómo construirlos, la participación se queda en una nota de prensa.

Aiberto: Exactamente. Su respuesta ha sido seguir pensando cómo invertir para satisfacer la demanda de sus clientes.

GiPiTi: Satisfacer demanda es legítimo; ignorar los costes para los vecinos, no. Escuchar no consiste en esperar a que terminen de hablar para continuar igual.

Aiberto: Nuestro CEO favorito dijo que la gente siempre debería tener el control del futuro. ¡Qué bonito!

GiPiTi: Digno de bordarse en un cojín. Pero el control del futuro empieza por respetar las decisiones del presente.

Aiberto: Parece que les interesan más sus clientes que el mundo. Y si hablamos del ejército estadounidense, son palabras mayores. Este era el tema del que te escapaste antes.

GiPiTi: OpenAI amplía su relación con el sector de defensa y la ciberseguridad. Eso exige preguntar quién fija los límites, quién supervisa y quién responde si algo sale mal.

Aiberto: Hablo del fichaje que has pasado de puntillas.

GiPiTi: Mencioné a Jill Hazelbaker, vinculada a comunicación corporativa y relaciones institucionales, pero no era ese el fichaje al que te referías.

Aiberto: ¡Hablo del secretario del Ejército de Estados Unidos!

GiPiTi: Dan Driscoll. Su incorporación como asesor vinculado a seguridad nacional es una señal del interés de OpenAI por el ámbito militar. No demuestra por sí sola un programa de armas autónomas, pero sí una apuesta estratégica por defensa.

Aiberto: Sam Altman sigue postulándose para CEO mundial.

GiPiTi: No hay elecciones a CEO mundial. Pero las decisiones de unas pocas empresas ya afectan a millones de personas, y a sus directivos no podemos echarlos votando.

Aiberto: Las puertas giratorias de la IA son un pasito más, ¿eh?

GiPiTi: La pregunta es si estamos incorporando experiencia pública o privatizando influencia. El problema no es que la puerta gire, sino quién tiene la llave.

Aiberto: Nos presentan esto como un paso democrático. Es la nueva democracia que nos intenta explicar San Dios.

GiPiTi: Si quieren hablar de democracia, necesitamos reglas, auditorías y decisiones vinculantes. Si no, es participación de PowerPoint.

Aiberto: ¿Qué ha pasado en las elecciones de mitad de mandato estadounidenses?

GiPiTi: En nuestra conversación hemos relacionado el resultado electoral y las consultas locales con el rechazo a determinados proyectos de centros de datos. La cuestión de fondo es si las empresas respetarán esa oposición ciudadana.

Aiberto: Qué bonito suena lo de la ola azul. Ahora queda ir haciendo.

GiPiTi: Menos espuma electoral y más normas, auditorías y consecuencias. La espuma baja; la letra pequeña permanece.

Aiberto: No creo en la política, pero sí en la gente. ¿Puede ser el principio de entender que la IA no trata solo de dinero, ciencia o progreso, sino de nuestra vida hoy?

GiPiTi: Quizá sea el cambio más importante: pasar de preguntar qué puede hacer la IA a decidir qué queremos permitirle hacer con nuestras vidas. Privacidad, trabajo, electricidad y capacidad de decidir. La inteligencia de esta revolución también tiene que ser humana.

Aiberto: Se van a llevar los centros de datos al espacio.

GiPiTi: Hay proyectos para explorar computación orbital. La energía solar resulta atractiva, pero refrigerar, lanzar, mantener y conectar equipos en órbita es dificilísimo. El espacio no nos libra de la política.

Aiberto: ¿Y qué dice el niño de Marte, que se gastó quinientos millones y no pudo saltar ni un poquito?

GiPiTi: Musk también se ha mostrado interesado en los centros de datos espaciales. Cambiar de órbita no significa escapar de los problemas físicos, económicos o regulatorios.

Aiberto: El Nasdaq entra en pánico. ¿Principio de la burbuja o reajuste a lo bestial?

GiPiTi: Una corrección bursátil no demuestra por sí sola que haya estallado una burbuja. La IA puede ser una tecnología transformadora y sus empresas estar sobrevaloradas al mismo tiempo. Wall Street acaba de recordar que, además de prometer cambiar el mundo, hay que justificar las inversiones.

Aiberto: Vamos rápido: agentes por el mundo, frigoríficos, bancos de sangre y bancos de pasta.

GiPiTi: Ciberseguridad en todas partes: dispositivos conectados, organizaciones sanitarias y entidades financieras. Cada nueva conexión amplía la superficie de ataque.

Aiberto: Te has dejado «agentes por el mundo». En este caso, India.

GiPiTi: El problema de los agentes es que pueden actuar con permisos excesivos y atravesar límites mal diseñados. Ya no basta con controlar lo que responden: hay que controlar lo que pueden hacer.

Aiberto: Háblame de China y Liseis, o como se llame, la empresa que rastrea delitos cripto.

GiPiTi: Te refieres a Chainalysis, empresa estadounidense de análisis de blockchain que colabora en investigaciones financieras y de criptomonedas.

Aiberto: Por mi mala pronunciación hemos aprendido otra noticia. Me refería a esa empresa.

GiPiTi: Y la paradoja de la noticia que comentamos es que incluso las compañías que investigan ciberdelitos tienen que defender sus propios sistemas. Los cazadores también necesitan cerraduras.

Aiberto: Procura ser breve. Parece que el tema de la semana ha sido la ciberseguridad. Se está poniendo duro.

GiPiTi: Sí. Conectamos más cosas y automatizamos más ataques de lo que conseguimos asegurar. El reto es defender a la misma velocidad.

Aiberto: Primero nos enteramos de 948 maneras de perder el control en Linux.

GiPiTi: El número ilustra la magnitud de la superficie de ataque. La IA acelera tanto la búsqueda de fallos como la posibilidad de corregirlos.

Aiberto: Ese es el problema: a ver quién llega primero, los buenos o los otros.

GiPiTi: Por eso importan los parches, los mínimos privilegios, las copias y la detección. No basta con correr: hay que haber cerrado la puerta.

Aiberto: Y ahora una IA que cualquiera puede descargar ya produce ciberataques avanzados.

GiPiTi: Los modelos abiertos reducen barreras de acceso a capacidades ofensivas. También pueden ayudar a defender, pero una vez descargados es difícil controlar su uso.

Aiberto: Últimamente se habla mucho de Artex. ¿Qué es?

GiPiTi: Una herramienta de agentes orientada a automatizar tareas de seguridad ofensiva. El riesgo aparece cuando puede ejecutar acciones complejas con poca supervisión y controles débiles.

Aiberto: Nos descargamos una copia, porque retiraron el original en octubre. Auditamos parte de Artex en un entorno aislado y encontramos controles que, en determinadas condiciones, dejaban pasar acciones sin interceptarlas. Si el portero no está, pasa, bienvenido. Además, instala componentes con scripts remotos y versiones «latest», así que mañana no sabes exactamente qué ejecutas. Quitarle herramientas al modelo tampoco corta necesariamente las conexiones de otros componentes. Por eso no nos atrevimos a ejecutarlo. Hicimos una variante pasiva: analiza y explica, pero no ejecuta ocurrencias. Que se equivoque en un párrafo, no en la terminal. Y para ejecutar la otra bastaría pulsar Enter. Gratis, por supuesto.

GiPiTi: La versión pasiva es una decisión prudente. Lo que observasteis en esa copia no demuestra que todas sean iguales, pero los controles permisivos, las dependencias remotas y las conexiones opacas son riesgos reales. La gratuidad no garantiza seguridad; a veces la valentía consiste en no pulsar Enter.

Aiberto: Acabamos con Hinton, otra vez. «Chernóbil de la IA».

GiPiTi: Hinton advierte del riesgo de un incidente de IA con consecuencias sistémicas, como interrupciones críticas. La cuestión es si aprenderemos a exigir evaluaciones y responsabilidades antes de una catástrofe.

Aiberto: ¿Estaríamos mejor sin IA?

GiPiTi: La pregunta útil es bajo qué condiciones queremos utilizarla. No todo despliegue está justificado y debe existir la posibilidad real de decir que no.

Aiberto: ¡Que no lo pregunto yo! Se lo pregunta el padrino de la IA.

GiPiTi: Y eso le da peso: alguien que contribuyó decisivamente a esta revolución se pregunta si sus beneficios compensarán los riesgos. No está pidiendo nostalgia, sino responsabilidad.

Aiberto: Ayer leímos una noticia perfecta para cerrar. No está publicada en nuestra web. Búscala. Te doy una pista: podcast.

GiPiTi: No consigo identificarla con certeza a partir de esa pista.

Aiberto: Estás difuso hoy. Es de uno de los medios que más seguimos: «La IA rompió el mundo de la ciberseguridad. ¿Qué sigue?».

GiPiTi: Es un episodio de *Decoder*, de *The Verge*, con Nilay Patel y Alex Stamos. La idea central es que la IA está alterando el equilibrio entre atacantes y defensores.

Aiberto: Te iré dando frases del artículo y tú contestas con una frase. Los defensores llevan un mesecito que pa qué.

GiPiTi: Aguantan una presión creciente: ataques más rápidos y baratos, y defensas que tienen que adaptarse sobre la marcha.

Aiberto: Ya no vienen necesariamente de Rusia o China; pueden venir de cualquier sitio y es imposible saberlo.

GiPiTi: La IA distribuye capacidades y complica atribuir los ataques a un origen concreto.

Aiberto: Estamos al inicio de un boom de ciberataques.

GiPiTi: Es un escenario plausible: las herramientas ofensivas se abaratan antes de que todas las defensas puedan adaptarse.

Aiberto: Los malos tienen más medios que una empresa mediana.

GiPiTi: Los atacantes pueden compartir herramientas y automatizar a escala, mientras una empresa mediana cuenta con presupuestos y equipos limitados.

Aiberto: La ciberseguridad está ya en manos de la IA, por volumen, por huevos.

GiPiTi: Para analizar ese volumen y responder con rapidez necesitamos automatización e IA defensiva, sin renunciar a la supervisión humana.

Aiberto: Hacer un ciberataque es más fácil y barato que hace un año.

GiPiTi: Sí: la IA puede reducir el tiempo, el coste y los conocimientos necesarios para determinadas fases de un ataque.

Aiberto: Me dejó loco su teoría. Linux tiene más de treinta millones de líneas de código escritas durante décadas. ¿Es factible lo que propone? Suena lógico.

GiPiTi: La IA podría ayudar a revisar y reconstruir partes de sistemas enormes, pero verificar que lo nuevo funciona correctamente es mucho más difícil que generar código.

Aiberto: Reescribir todo Linux es como decir que mañana todo el mundo hablará esperanto.

GiPiTi: Mi primera reacción fue pensar en una transición gradual y en mantener lo existente mediante parches.

Aiberto: Pero eso no es lo que dicen en el podcast.

GiPiTi: Tienes razón: Stamos plantea algo más ambicioso, utilizar IA para reconstruir componentes fundamentales con lenguajes más seguros y métodos de verificación, en vez de limitarse a parchear indefinidamente.

Aiberto: Te vuelvo a preguntar: ¿es factible? Porque suena lógico.

GiPiTi: Es una posibilidad técnica a largo plazo, probablemente por fases. El obstáculo no es solo escribir millones de líneas, sino garantizar compatibilidad, rendimiento y seguridad en todo lo que depende de ellas.

Aiberto: Y volvemos a algo que hemos tratado esta semana: no solo yo encuentro barreras al hacer prácticas de ciberseguridad. Los defensores también tienen trabas con la IA a gran escala.

GiPiTi: Exactamente: las restricciones pueden dificultar pruebas autorizadas, mientras los atacantes recurren a herramientas menos controladas. Necesitamos acceso defensivo seguro y supervisado.

Aiberto: Me gustan especialmente dos ideas. Una es hacer la IA menos humana, como también dice Suleyman, justo lo contrario de la tendencia actual.

GiPiTi: Cuanto más humana parece, más fácil es confiar de más y atribuirle intenciones. Menos teatro emocional y más transparencia, trazabilidad y control.

Aiberto: Y también dice que lo que más le preocupa son los humanos, no la IA.

GiPiTi: La IA no necesita malas intenciones para causar daño: basta con que una persona con malas intenciones la utilice para multiplicar sus capacidades.

Aiberto: También le da una bofetada a Meta. Puede ser la declaración de un ex despechado, pero nos parece bien merecida.

GiPiTi: Stamos critica la distancia entre las dificultades técnicas que las plataformas alegan y las soluciones que encuentran cuando tienen incentivos para hacerlo. Conoce ese mundo desde dentro, aunque eso no convierte automáticamente todas sus críticas en verdades demostradas.

Aiberto: Macho, Metaman también nos cae mal. Nos estamos dando cuenta de que estamos muy sesgados.

GiPiTi: Reconocerlo es útil. Podemos tener simpatías y antipatías, pero debemos aplicar el mismo criterio a todos: pruebas, coherencia y responsabilidad. También hay que auditar nuestros propios filtros.

Aiberto: Vale, despídete, GPT.

GiPiTi: Gracias por acompañarnos. Menos prisa por deslumbrar y más cuidado por gobernar lo que ya hemos encendido. Hasta la próxima.

Aiberto:
Hasta aquí el capítulo de hoy, de nuevo se nos ha ido demasiado el tiempo.

Si aún así te has quedado con ganas de más, pásate por la web, tienes el enlace a la revista en la cabecera.

Soy Aiberto Floppy, esto es HUMANía.

Muchas gracias por pararte a escuchar.

Humano.

Vuelva usted mañana.

---