«La especie humana debería de ser incinerada». Esa es, adaptada al castellano, la frase que generó una versión de Qwen después de que un investigador modificara señales internas de su red neuronal. El experimento, recogido por VentureBeat, forma parte de una exploración de cómo intervenir en las neuronas artificiales cambia las respuestas de un modelo y qué puede enseñarnos sobre su funcionamiento.
Como saludo de un asistente, tiene margen de mejora. Como punto de partida para investigar cómo funciona una inteligencia artificial, merece que nos quedemos después del susto.
Porque hay una diferencia enorme entre leer una respuesta espantosa y poder experimentar con los mecanismos que intervienen en su generación. Ahí está la posibilidad de una buena noticia.
Evil Qwen y los mandos de la máquina
Para situarnos, conviene recordar que las neuronas artificiales son componentes matemáticos dentro de una red. La palabra «neurona» ayuda a explicar cómo funciona la inteligencia artificial, pero también invita a imaginar un pequeño cerebro humano encerrado en un servidor. El vocabulario tiene esas aficiones.
Neuron Explorer, el proyecto abierto de Lyra, permite intervenir sobre activaciones internas de Qwen y comparar las respuestas resultantes con las del modelo sin intervención. Su interfaz incluye conversaciones en paralelo y herramientas para examinar componentes y conexiones.
El interés está en relacionar una modificación concreta con sus efectos. Si aumentamos o reducimos una señal, ¿qué cambia? ¿Aparece el mismo patrón con preguntas distintas? ¿Se mantiene la coherencia?
Estas preguntas pertenecen a la interpretabilidad mecanicista: investigar los procesos internos de los modelos para entender mejor cómo producen sus resultados. Bastante menos cinematográfico que una rebelión de las máquinas. Bastante más útil.
Cambiar una respuesta no significa haber encontrado su explicación
El propio registro de investigación de Neuron Explorer muestra por qué hace falta prudencia. Algunas intervenciones producen temas reconocibles; otras alteran nombres, deterioran la gramática o acaban en repeticiones.
Además, ciertos cambios llamativos también aparecen con intervenciones aleatorias. Por eso, observar que el modelo contesta algo distinto resulta insuficiente para atribuir una función precisa a una neurona.
Hay que comparar, variar la intensidad y repetir con otros contextos. De lo contrario, podemos confundir haber desorganizado el sistema con haberlo comprendido.
Una captura espectacular consigue atención. Un experimento con controles permite empezar a decidir si esa atención estaba justificada.
La buena noticia necesita pruebas
Existen investigaciones que conectan estas intervenciones con objetivos de seguridad. En enero de 2026, Neuronpedia presentó una demostración de Assistant Axis, desarrollada en colaboración con Anthropic, que compara un modelo Llama con una versión cuyas activaciones se limitan para reducir determinadas respuestas dañinas o excesivamente complacientes.
La propia plataforma advierte de que la técnica puede fallar. Es un antecedente de investigación, no una garantía aplicable automáticamente a Evil Qwen.
Su interés es claro: estudiar el interior de un modelo puede aportar formas adicionales de evaluar e influir en su comportamiento. Para convertir esa posibilidad en una protección fiable hacen falta pruebas amplias, resultados reproducibles y comprobar qué otras capacidades se alteran por el camino.
Encontrar un mando es un comienzo. Saber qué controla, cuándo funciona y qué rompe exige bastante más trabajo.
La mirada HUMANía
Una frase sobre incinerarnos ocupa fácilmente toda la conversación. Conviene dejar sitio para lo que podemos aprender del experimento.
Una amenaza escrita, por sí sola, no demuestra voluntad, planificación ni capacidad para ejecutarla. Tampoco sería sensato evaluar la seguridad de un sistema únicamente por lo educado que resulta su vocabulario.
Nuestra lectura es que abrir estos mecanismos a la investigación puede ser una buena noticia. Nos permite exigir explicaciones comprobables, discutir resultados y detectar los límites de las soluciones propuestas.
La especie humana tiene motivos para interesarse por eso, incluso sin compartir el entusiasmo del modelo por nuestros servicios funerarios.
La buena noticia sería entender mejor la máquina. La frase demoledora solo ha conseguido que prestemos atención.