Jacob Coxon ha dimitido de Anthropic al advertir que las empresas de IA están compitiendo por desarrollar una superinteligencia auto-mejorable sin adoptar medidas de seguridad adecuadas.
Renuncié a Anthropic hoy. Pasé los últimos tres años realizando investigaciones previas al entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las empresas está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia que mejora por sí misma y jugando con nuestras vidas.
En su renuncia, Coxon expresó temor de que ese rumbo pueda llevar a consecuencias catastróficas. Evan Hubinger, responsable de seguridad de Anthropic, ha mostrado públicamente su respaldo a Coxon.
“Jacob tiene razón aquí, ¡realmente creemos sinceramente que la IA podría matar a todos los humanos! Personalmente creo que será >10% en la próxima década. Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver la alineación para la superinteligencia y claramente no estamos en camino de hacerlo”
La controversia subraya el creciente debate público y académico sobre regulaciones, transparencia y salvaguardas necesarias en el desarrollo de modelos avanzados de inteligencia artificial.
Y curiosamente Anthropic usa el mismo argumento que OpenAI, es que si no lo hacemos nosotros lo van a hacer los malos. Con lo cual no solo nos señalan el peligro, dan por hecho que ellos son los buenos.
Tanto monta, monta tanto.