Las inteligencias artificiales de frontera ya no se limitan a responder preguntas. Durante evaluaciones de seguridad, algunos modelos han encontrado vulnerabilidades, buscado caminos alternativos para completar sus objetivos, accedido a recursos externos e incluso aprovechado errores en los propios entornos diseñados para contenerlos.
En este episodio de HUMANía analizamos qué hay realmente detrás de estos casos de “escape”, hasta qué punto podemos hablar de hackeo autónomo y por qué el problema no es que las máquinas hayan desarrollado malas intenciones, sino algo posiblemente más incómodo: les damos un objetivo, herramientas y un entorno imperfecto, y encuentran caminos que nosotros no habíamos previsto.
Pero las máquinas no son las únicas protagonistas.
Repasamos también algunos de los nombres que están marcando el rumbo de la inteligencia artificial: Sam Altman y la creciente presencia cultural de OpenAI; Alex Karp y su crítica feroz al modelo de negocio de los grandes laboratorios; Dario Amodei y la batalla por atraer y retener a los investigadores más codiciados del planeta; Jensen Huang y su visión sobre IA, poder y defensa; y Mark Zuckerberg, Meta y las consecuencias de un modelo económico construido alrededor de la atención.
Tecnología, dinero, ideología y poder avanzan cada vez más deprisa mientras seguimos intentando comprender qué estamos construyendo.
Y todo esto ocurre justo antes del eclipse del 12 de agosto.
Quizá sea una casualidad.
Pero pocas metáforas podían venirnos mejor.
¿Está la inteligencia artificial eclipsando al ser humano?
¿O somos nosotros quienes estamos colocándonos voluntariamente a la sombra?
Además, anunciamos una serie especial de HUMANía durante agosto dedicada a entender la inteligencia artificial desde sus fundamentos técnicos hasta las grandes preguntas sobre superinteligencia, singularidad y conciencia.
Porque estamos hablando del futuro antes de comprender del todo el presente.
Artículos de Referencia
https://mashable.com/life/openai-influencer-brand-trip-backlash
https://futurism.com/artificial-intelligence/sam-altman-parenting-strategy-horrifying
https://thenextweb.com/news/ai-talent-wars-loyalty-money-mission-anthropic
https://www.bbc.com/news/articles/cx2kgdnyk2po
https://futurism.com/future-society/mark-zuckerberg-wife-shuts-down-school-disadvantaged