Revista HUMANía

Anthropic afirma que modelos pequeños de IA podrían autorreplicarse en dispositivos IoT en meses

Reuters

Leer en el medio original (se abre en una pestaña nueva)

Seis dispositivos domóticos (televisor, reloj inteligente, cámara, altavoz, bombilla, termostato) sobre pedestales numerados frente a pared con marcas de altura.Imagen creada con IA
Imagen creada con IA · Modelo: GPT 6.1.

Anthropic informó que en pruebas evaluó si modelos de IA podían encontrar dispositivos IoT vulnerables, copiarse en ellos y propagarse sin ayuda humana.

Hallaron que modelos pequeños (<30.000 millones de parámetros) podían completar numerosos pasos necesarios para la replicación, pero que con frecuencia tenían dificultades para completar la secuencia completa.

En pruebas simplificadas —con algunos pasos de seguridad eliminados— GLM-5.2 y modelos más robustos lograron replicarse de principio a fin.

Anthropic advirtió que estos modelos replicantes serían difíciles de desactivar por carecer de un punto central de apagado y que, a diferencia del malware tradicional, podrían detectar dispositivos desconocidos y atacar procesadores de centros de datos.

La empresa centró su investigación en televisores Android, electrodomésticos inteligentes y otros aparatos IoT mal protegidos, y afirmó que, si los modelos pequeños siguen mejorando al ritmo histórico, podrían autorreplicarse de forma autónoma para finales de este año; los replicadores basados en pesos se seguirían poco después.

Según Anthropic, dichos sistemas probablemente se replicarían de forma lenta y dependerían de recursos informáticos ampliamente disponibles pero inseguros, y por ello pidió reforzar sistemas para dificultar su propagación.

Arriba