Revista HUMANía

OpenAI agita la seguridad nacional para blindar su IA

OpenAI

Leer en el medio original (se abre en una pestaña nueva)

Caricatura de Sam Altman como profeta tecnológico ante una caja fuerte que contiene un cerebro digital y está coronada por una bandera estadounidense.Imagen creada con IA

OpenAI ha anunciado nuevas medidas para impedir que otros actores reproduzcan las capacidades de sus modelos. La compañía presenta la llamada destilación adversaria como un riesgo de seguridad: un sistema entrenado con las respuestas de otro podría aprender algunas de sus capacidades sin heredar las restricciones que limitan su uso.

Hasta ahí, el argumento tiene una base técnica. Pero el artículo publicado por OpenAI da un paso más: conecta ese riesgo con la seguridad nacional de Estados Unidos y defiende sanciones y controles de exportación para mantener la ventaja estadounidense en inteligencia artificial. La protección de la humanidad y la protección de la posición estratégica de OpenAI vuelven a encontrarse en la misma frase.

Copiar capacidades sin copiar las barreras

La destilación es una técnica mediante la cual un modelo aprende a partir de los resultados de otro. OpenAI advierte de que un actor podría utilizarla para transferir capacidades útiles en ámbitos como la ciberseguridad o la biología a un sistema con menos restricciones.

La preocupación no es disparatada: una misma capacidad puede servir para defender sistemas informáticos o para atacarlos. OpenAI sostiene que las trazas exactas de razonamiento —los pasos internos que un modelo genera antes de responder— pueden facilitar esa transferencia y explica que ha reforzado las protecciones para evitar su extracción.

Según sus propias pruebas internas, la tasa media de éxito de un tipo de ataque dirigido a recuperar razonamientos de una petición anterior pasó del 54% en GPT-6 Astra con las protecciones originales al 0,2% en GPT-6.2 Astra con las nuevas defensas. Son resultados de la empresa en una evaluación concreta: no demuestran que la extracción sea imposible ni equivalen a una auditoría independiente.

OpenAI también afirma haber actuado contra campañas de destilación no autorizada y dice que sus medidas semanales han afectado a entre miles y decenas de miles de cuentas. El artículo no ofrece información suficiente para verificar de forma independiente cada una de esas campañas.

De la protección de modelos a la ventaja estadounidense

La compañía no se queda en las defensas técnicas. En su artículo apoya que el Gobierno estadounidense disponga de más herramientas para identificar y sancionar a actores extranjeros que extraigan capacidades de modelos estadounidenses de forma ilícita. También respalda controles de exportación de hardware y varias iniciativas legislativas.

OpenAI sostiene que estas medidas ayudarían a mantener el liderazgo de Estados Unidos en la IA más avanzada y darían a los desarrolladores más margen para comprobar la seguridad de sus sistemas antes de lanzarlos.

Es una posición política y empresarial explícita, además de una propuesta de seguridad. Que una capacidad pueda utilizarse para causar daño merece atención; que la respuesta favorezca también a las empresas estadounidenses merece el mismo escrutinio.

La mirada HUMANía

Samdios sigue postulando a CEO mundial. Esta vez, el sermón viene con ciberseguridad, sanciones y, para variar, con bandera estadounidense: un envoltorio solemne para una reivindicación que también protege el negocio y la ventaja competitiva de OpenAI.

La empresa tiene derecho a defender sus modelos. Lo que resulta más discutible es presentar esa defensa como si sus intereses comerciales y geopolíticos llegaran al debate vestidos exclusivamente de interés público. Si la seguridad es el argumento, hacen falta pruebas contrastables, límites claros y escrutinio independiente. Porque «confiad en nosotros mientras cerramos la puerta» suena menos convincente cuando quien lo dice también tiene la llave y cobra la entrada.

Arriba