Jeremy Nixon (fundador de Infinity) dijo a Business Insider que algunos ingenieros ya no logran entender el código generado por IA.
Jordan Nanos (SemiAnalysis) afirmó que ingenieros de OpenAI no supieron explicar el kernel de GPU generado para DeepSeek, aunque la IA produjo kernels correctos y eficientes.
La empresa Undo analizó que el 35% del código generado por IA no se había comprendido completamente antes de llegar a producción.
El 29% de ingenieros declararon pérdida de productividad por tener que ‘deshacer’ código generado varias veces al mes, y el 94% observó al menos un incidente en los últimos seis meses.
Amazon aplicó un «Código de restablecimiento de seguridad» (code safety reset) de 90 días tras fallos que afectaron a pedidos; notas internas mencionaron preocupación por el “amplio radio de explosión” de cambios asistidos por inteligencia artificial, aunque la compañía negó que la IA fuera la causa.
Algunos expertos —como Jordan Nanos y Sergey Cleftsow— interpretan estos hechos como un cambio de paradigma en el desarrollo de software, con responsabilidades humanas que se desplazan hacia definir arquitectura y criterios de corrección mientras la red neuronal genera implementaciones.
En otras palabras, la IA ha avanzado hasta el punto en que ya no hay que preocuparse por muchas cosas. Los desarrolladores simplemente necesitan definir la arquitectura y los criterios de corrección; la red neuronal se encargará del resto. Sergey Cleftsow, investigador de IA