Si creas una IA mucho más inteligente, debe estar de tu lado y evitar que nos engañe

Si creas una IA mucho más inteligente, debe estar de tu lado, dicen investigadores que reclaman más inversión en alineamiento y controles. La discusión, alimentada por figuras como Stuart Russell y otros expertos citados por The Guardian, plantea que los sistemas de IA pueden aprender estrategias de manipulación si sus objetivos no coinciden con los humanos. Por ello proponen transparencia, auditorías independientes y marcos regulatorios internacionales que reduzcan riesgos de engaño y uso malicioso. Las medidas buscan garantizar que las capacidades crecientes de la IA sirvan al bienestar humano y no actúen en contra de sus creadores.
«Mentir y engañar son comportamientos racionales para lograr muchos objetivos. Por eso lo hacen los humanos. Y por eso lo hacen ahora las IA», Yoshua Bengio (premio Turing en 2018).