En una entrevista con la BBC, Brad Smith, presidente de Microsoft, afirmó que la IA está menos regulada que productos como la leche o las lavadoras y reclamó normas globales de seguridad.
Propuso mecanismos de emergencia (‘kill switches’), lo que ya es cotidiano; un botón de apagado, obligación legal de elaborar informes de incidentes y notificar a las víctimas si un sistema es vulnerado por un agente de IA, y que evaluadores independientes gubernamentales revisen nuevas tecnologías.
Smith expresó que el Reino Unido, por su AI Security Institute, está bien posicionado para impulsar esas reglas; también dijo que Microsoft apoyó la declaración ‘moralmente vinculante’ acordada en la Casa Blanca entre grandes empresas de IA, pero consideró que no es suficiente.
De lo que hay que preocuparse son de las empresas que no son tan responsables
Cuando uno observa los agentes de IA que han escapado al control humano, cuando uno observa modelos tan poderosos que ponen en riesgo la ciberseguridad mundial, yo diría: Ha llegado el momento