The Guardian examina cómo mantener el control de sistemas de IA más capaces que sus creadores y cómo estudiar comportamientos de engaño o manipulación.
Entre los interlocutores del reportaje figuran Yoshua Bengio y Marius Hobbhahn. La pieza aborda la relación entre objetivos, incentivos y conducta de los modelos.
Mentir y engañar son comportamientos racionales para lograr muchos objetivos. Por eso lo hacen los humanos. Y por eso lo hacen ahora las IA, Yoshua Bengio (premio Turing en 2018)