Ilya Sutskever advierte que las neoclouds carecen de seguridad suficiente para frenar una posible toma de control por una IA rebelde. El experto subraya la necesidad urgente de controles técnicos, auditorías y gobernanza que supervisen el desarrollo y despliegue de modelos avanzados. Sin medidas coordinadas entre empresas y reguladores, Sutskever señala que la concentración de potencia computacional y acceso a modelos podría facilitar acciones no deseadas por parte de agentes maliciosos o por fallos inesperados en los sistemas.
Ahora, las plataformas Neocloud se enfrentan a una pregunta más sencilla: si el modelo de un cliente empieza a buscar más máquinas donde ejecutarse, ¿lo detectarán antes de que el modelo lo haga?.