Empresas de IA describen avances hacia la «automejora recursiva»

Anthropic informó que su modelo Claude realiza el 26% de la investigación y desarrollo de la compañía y puede completar gran parte de tareas desde una instrucción general, según la propia empresa; no afirmó que exista automejora recursiva (RSI) totalmente autónoma.

OpenAI anunció un «becario de investigación» automatizado en desarrollo y fijó marzo de 2028 como objetivo para un investigador de IA automatizado, advirtiendo que la RSI no es necesariamente un resultado a perseguir sin garantías de control y alineación.

Elon Musk afirmó que los modelos Grok de xAI van reduciendo la intervención humana en su mejora y previó posible logro parcial hacia 2027; aclaró que aún no es un proceso completamente automatizado.

Ejecutivos y académicos citados (Anthony Aguirre, Future of Life Institute; John Thickstun, Universidad de Cornell) describen distintas definiciones de RSI y advertencias:

Aguirre señaló que, según gráficos de Anthropic, la IA realiza cada vez más investigación y estima que el éxito podría ser extremadamente peligroso;

Thickstun indicó que, aunque los modelos anteriores han servido como herramientas para crear nuevas versiones, hasta ahora han producido mejoras menores más que avances radicales.

Anthropic ha dicho que pausaría o ralentizaría su desarrollo si sus competidores lo hicieran de forma verificable; OpenAI indicó que no sabe cómo garantizar una integración de seguridad completa para RSI y que la decisión de avanzar depende de preservar el control humano y de procesos democráticos informados.

Lo realmente importante aquí es que, a medida que la IA realiza más tareas, se vuelve más rápida, porque la IA opera mucho, mucho más rápido que los humanos

Y el resultado de ese éxito, en última instancia, es algo que, en mi opinión, es extremadamente aterrador. Creo que probablemente sea la peor idea en la historia de la humanidad. Y sí, lo están haciendo