Fei-Fei Li, profesora de la Universidad de Stanford y cofundadora de World Labs, afirmó en una entrevista con Bloomberg TV el 22 de septiembre que la evaluación de la seguridad de sistemas de IA más potentes no debe depender solo de las empresas que los desarrollan.
Propuso que instituciones públicas e independientes, como gobiernos y el mundo académico, establezcan estándares y colaboren con la industria para verificar la seguridad de la IA. Li señaló que las evaluaciones internas de las empresas no pueden sustituir estándares externos y que, conforme la IA actúe en el mundo físico, será más importante evaluar si se comporta según lo previsto.
También declaró que descarta las teorías de riesgo extremo que sitúan a la IA como una amenaza existencial, subrayando que el riesgo depende de cómo se desarrolle, gestione y use la tecnología.
World Labs, liderada por Li, está desarrollando un “modelo mundial” para crear representaciones 3D de espacios reales aplicables al aprendizaje de robots, diseño y atención médica, entre otros usos.
Li señaló que, a medida que la IA se expande más allá de los chatbots hacia sistemas que operan en el mundo físico, la cuestión de «cómo evaluar si la IA se comporta según lo previsto» se volverá aún más crucial