Revista HUMANía

IA para la guerra y un búnker para después: las advertencias de Palmer Luckey

HUMANía

Viñeta de Palmer Luckey presentando un dron militar y descansando en un búnker con provisiones.Imagen creada con IA

Palmer Luckey cree que, cuando se trata de la vida y la muerte a gran escala, hay que utilizar las mejores herramientas disponibles. Incluidas las armas autónomas. También sostiene que deben ser los gobiernos elegidos quienes decidan desplegarlas y que los humanos deben responder por su uso.

Luckey no es un filósofo que se haya encontrado de casualidad en un debate sobre la guerra. Es el fundador de Anduril, una empresa que desarrolla tecnología militar. Su defensa de las armas autónomas llega, por tanto, con una perspectiva particular: la de quien participa en el negocio de fabricarlas.

El empresario expuso sus ideas el 18 de noviembre en la DealBook Summit de The New York Times. Habló de inteligencia artificial, decisiones militares, ciberseguridad y preparación ante emergencias. También mencionó que posee una antigua base de misiles bajo tierra. Cada uno afronta la incertidumbre como puede.

La mejor tecnología para decidir quién muere

Preguntado por la capacidad de controlar la inteligencia artificial después de varios intentos de eludir sus restricciones, Luckey sostuvo que estaba claro que nadie podía hacerlo, según la cobertura de la cumbre. También reconoció que se han cometido errores al usar grandes modelos de lenguaje para seleccionar objetivos militares, aunque defendió que la IA empleada en armas es «muy diferente».

Luckey sostiene que las armas autónomas pueden estar justificadas cuando contribuyen a reducir las víctimas civiles. Según su argumento, elegir una tecnología menos capaz no convierte automáticamente una decisión militar en más ética. TokenPost recoge su defensa de estos sistemas y de la responsabilidad humana en su uso.

En la cumbre, defendió recurrir a las mejores herramientas disponibles incluso cuando hacerlo resulte incómodo. (Cobertura de la cumbre).

La diferencia entre sistemas existe y merece explicarse. Un chatbot y un arma autónoma no funcionan necesariamente igual. Pero invocar esa diferencia no responde por sí solo a las preguntas incómodas: cómo se comprueba que un sistema identifica correctamente un objetivo, en qué condiciones se ha probado y qué ocurre cuando se enfrenta a una situación que sus diseñadores no anticiparon.

Que una herramienta sea más avanzada tampoco demuestra, por sí mismo, que vaya a reducir las víctimas civiles. Esa es una afirmación que necesita pruebas, condiciones de uso y supervisión independiente. No basta con que la empresa que participa en el desarrollo de la tecnología nos asegure que es la mejor herramienta de la caja.

Que decida el Gobierno. ¿Y quién vigila?

Según Crypto Briefing, Luckey sostiene que las decisiones sobre el despliegue de armas con IA corresponden a los gobiernos elegidos, no a las empresas privadas. Su argumento es que las corporaciones no deberían hacerse con las palancas del poder del Estado.

La idea suena razonable. Un fabricante de armas no debería decidir por su cuenta cómo, cuándo y contra quién se utilizan sus productos. Pero dejar la decisión formal en manos de un Gobierno no resuelve mágicamente el problema: ese Gobierno puede depender de proveedores privados para diseñar, mantener, actualizar y explicar los sistemas que autoriza.

La firma puede ser pública. El código, las pruebas y buena parte del conocimiento técnico pueden seguir en manos privadas. Y entre la autorización política y el resultado sobre el terreno hay una cadena de decisiones en la que la responsabilidad puede acabar muy bien repartida: tanto que nadie encuentre la suya.

Preparados para lo que venga

Luckey también advirtió de que los atacantes están aprovechando herramientas de IA mientras muchas organizaciones siguen dependiendo de sistemas antiguos que tardan en adaptarse. A su juicio, los defensores tendrán que acelerar. TechCrunch recoge su análisis sobre la brecha entre las capacidades de ataque y las defensas existentes.

Durante la entrevista insinuó que podía haber más detrás de las recientes interrupciones tecnológicas en Estados Unidos de lo que se había contado. Pero una insinuación no demuestra que las caídas fueran parte de una ofensiva coordinada: TechCrunch señala que el Gobierno estadounidense había negado esa explicación.

Al hablar de preparación ante emergencias, Luckey recomendó disponer de agua, alimentos y medicación para varios días. Y mencionó que posee una antigua base de misiles situada a unos 60 metros bajo tierra. Él mismo matizó que no le parecía necesariamente el mejor escondite ante el apocalipsis: todo el mundo sabe dónde está.

La mirada HUMANía

Luckey admite que nadie controla la IA, pero nos pide tranquilidad porque la de sus armas es otra cosa. Menos mal: habría sido inquietante que el fabricante dijera lo contrario.

Nos propone confiar en que la mejor tecnología haga la guerra más responsable y en que los gobiernos elegidos mantengan el control. Es una promesa tranquilizadora, siempre que no preguntemos demasiado por los contratos, las pruebas, los errores, los secretos militares o la facilidad con la que una decisión acaba atribuida a «lo que recomendó el sistema».

La responsabilidad humana no debería ser una etiqueta que se pega al final de una cadena automatizada para que el folleto quede más presentable. Si una persona va a responder por una decisión de vida o muerte, necesita entenderla, tener tiempo para cuestionarla y poder detenerla. Todo eso hay que demostrarlo, no incluirlo en la presentación comercial entre dos diapositivas sobre precisión.

Mientras tanto, Luckey tiene una base subterránea. No sabemos cuántos de sus colegas tienen refugios ni qué temen exactamente; de él sabemos que habló del suyo. Resulta una imagen difícil de ignorar: el fundador de una empresa de tecnología militar nos explica cómo prepararnos para un mundo peligroso y, cuando llega el momento de hablar de sus propios preparativos, la conversación baja sesenta metros bajo tierra.

Arriba