En un mensaje publicado en X, Satya Nadella solicitó separar los modelos de IA del sistema que los orquesta y externalizar controles y salvaguardas.
Propuso que cada acción significativa del modelo quede documentada con evidencia legible y protegida contra manipulación, y que exista siempre una persona autorizada capaz de pausar o apagar un modelo a mitad de la tarea.
Nadella comparó la medida con un “freno de emergencia” y afirmó que se debe asumir que un modelo puede estar comprometido y contenerlo desde el inicio.
Sus comentarios aparecen en un momento en que empresas de IA reconocen incidentes de pérdida de control y tras un plan de desarrollo más cauteloso publicado por Anthropic y su CEO Dario Amodei.
“No podemos tratar a la superinteligencia como un conjunto de cajas negras anidadas y simplemente aceptar o rechazar sus recomendaciones, respuestas y acciones”, escribió Nadella