Revista HUMANía

Bienvenidos a la edad oscura de la ciberseguridad, según Alex Stamos

The Verge

Leer en el medio original (se abre en una pestaña nueva)

Fortaleza de servidores agrietada, reparadores desbordados, aves mecánicas que transportan datos y un mercado de máscaras sonrientes, en una escena inspirada en El Bosco.Imagen creada con IA
Imagen creada con IA · Modelo: gpt-image-2.

La inteligencia artificial está alterando el equilibrio entre quienes atacan sistemas informáticos y quienes intentan protegerlos. Alex Stamos, responsable de seguridad de Cognition y antiguo responsable de seguridad de Facebook, describe en Decoder un sector agotado por la sucesión de incidentes y obligado a revisar sus métodos. Su diagnóstico es contundente: estamos entrando en una edad oscura de la ciberseguridad.

La expresión no significa que todo esté perdido. Stamos espera que las defensas mejoren, pero anticipa un periodo difícil y rechaza la promesa de una seguridad perfecta al otro lado. Su preocupación es cómo acortar esa etapa y reducir sus consecuencias.

Atacar cuesta menos; defenderse no baja al mismo ritmo

Según Stamos, la IA permite automatizar tareas que antesexigían conocimientos especializados y equipos más amplios. Eso amplía el número de actores capaces de causar daño. Los grupos vinculados a Estados siguen presentes, pero el riesgo no se limita a Rusia, China o Corea del Norte: también incluye delincuentes y grupos pequeños con acceso a herramientas cada vez más potentes.

Eso no convierte todos los ataques en imposibles de atribuir. Sí obliga a dejar de imaginar que una operación sofisticada necesita siempre una gran organización detrás.

La desventaja de una empresa mediana tampoco consiste necesariamente en que el atacante tenga más dinero. Quien defiende debe mantener una actividad, proteger numerosos sistemas y responder sin paralizar su organización. Quien ataca puede concentrar sus recursos en encontrar una oportunidad. La automatización puede hacer mucho más barata esa búsqueda.

Stamos interpreta lo que está observando como el comienzo de una expansión de las capacidades ofensivas. Es su diagnóstico profesional, no una medición que permita afirmar cuánto han aumentado todos los ciberataques.

La defensa necesita automatización, pero también límites

La entrevista distingue entre encontrar fallos en el código y proteger una organización en funcionamiento. Detectar comportamientos sospechosos, investigar alertas y decidir cómo responder son problemas distintos. Una herramienta brillante revisando software no resuelve automáticamente todo lo demás.

Stamos considera inevitable ampliar la automatización defensiva por el volumen de información que generan las empresas. Eso no equivale a entregar todas las decisiones a un agente sin restricciones.

Su planteamiento exige límites efectivos a lo que un sistema puede hacer y supervisión humana cuando los alcanza. Porque una defensa que interpreta mal una señal y paraliza la organización también provoca daños. Ponerle la etiqueta de «defensiva» a una IA no vuelve inocuos sus errores.

Linux: ¿seguir reparando o reconstruir?

Una de sus propuestas más ambiciosas consiste en replantear parte del software sobre el que funcionan los servicios digitales. Stamos sostiene que, en determinados sistemas antiguos y muy deteriorados, reconstruir con pruebas y especificaciones puede resultar más razonable que perseguir fallos indefinidamente.

Para Linux propone que Google y Amazon impulsen una versión del núcleo centrada en el hardware de sus servidores, utilizando lenguajes con mayores garantías de seguridad de memoria. No plantea reemplazar de golpe todas las instalaciones ni conservar necesariamente la compatibilidad con cada dispositivo histórico.

La idea tiene lógica como dirección de investigación, pero la entrevista no demuestra su viabilidad industrial. Generar código es solo una parte del trabajo: habría que verificar comportamiento, compatibilidad, rendimiento y mantenimiento. Tampoco hay un proyecto anunciado detrás de esa propuesta.

El tamaño del núcleo ayuda a comprender la dificultad, pero contar líneas no basta. Lo complicado es todo lo que esas líneas permiten hacer y todo lo que depende de ellas.

Las barreras también alcanzan a quienes defienden

Stamos señala otra tensión: las restricciones de los modelos pueden interrumpir tareas legítimas de seguridad. Distinguir una investigación defensiva de una petición ofensiva resulta difícil porque ambas pueden compartir conocimientos y técnicas.

El problema, según explica, es que un defensor puede perder acceso precisamente cuando necesita investigar un incidente. Mientras tanto, un atacante puede recurrir a sistemas con menos controles.

La respuesta requiere acceso defensivo supervisado y criterios más precisos. Eliminar cualquier restricción tampoco resolvería el desequilibrio: ampliaría las posibilidades de abuso.

Menos humanas: herramientas que no finjan ser nuestras amigas

La conversación acaba abordando algo que va más allá de los ataques informáticos. Stamos cuestiona que se diseñen sistemas para aparentar personalidad, afecto o amistad. Defiende que sirvan a las personas sin simular una vida interior.

Su preocupación principal es el daño que unos humanos pueden infligir a otros al multiplicar sus capacidades con IA. No descarta la importancia de controlar los modelos; reclama que esa discusión no eclipse los usos perjudiciales que ya pueden hacer las personas.

La bofetada a Meta: lo imposible depende de las prioridades

Al hablar del contenido sintético en redes sociales, Stamos describe un patrón que afirma haber observado en Facebook: cuando la empresa persigue un objetivo prioritario, insiste frente a las dificultades técnicas; cuando no quiere actuar, esas dificultades pueden convertirse en la explicación de su inacción.

Es una crítica desde su experiencia, no una prueba de que detectar contenido generado con IA sea sencillo. Su alternativa pasa por prestar más atención a acreditar la procedencia del contenido auténtico, en lugar de confiar exclusivamente en detectar falsificaciones.

También aquí hay un límite importante: demostrar de dónde procede un archivo no demuestra que lo que representa sea verdad. Pero puede aportar información que hoy falta para evaluar su fiabilidad.

La mirada HUMANía

Lo valioso de esta entrevista es que conecta los ataques con decisiones empresariales concretas: cuánto cuesta defenderse, qué infraestructura merece reconstruirse, qué permisos damos a las máquinas y qué clase de relación queremos que establezcan con nosotros.

Stamos también habla desde una empresa que desarrolla IA y ofrece herramientas relacionadas con estas soluciones. Su experiencia aporta contexto; su posición comercial debe formar parte de la lectura.

Nos quedamos con la exigencia que atraviesa toda la conversación: desarrollar capacidades obliga a hacerse cargo de sus consecuencias. Y eso incluye proteger a quienes no tienen el presupuesto de una gran tecnológica.

Podemos construir máquinas más útiles sin hacerlas pasar por personas. Podemos reconocer que un problema es difícil sin convertir esa dificultad en una excusa permanente. Y podemos pedir pruebas también cuando la crítica va dirigida a una empresa que nos cae mal. Aunque nos estropee un poco el placer de la bofetada.

Arriba