Alerta la ONU riesgo de guerra dirigida por máquinas

La inteligencia artificial se está imponiendo en los arsenales militares, acelerando decisiones y reduciendo el margen del juicio humano, incluso en el ámbito nuclear. La ONU advirtió contra una evolución que las reglas internacionales apenas logran encuadrar, al tiempo que anunció varias iniciativas para intentar recuperar el control. 

Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme, dijo en rueda de prensa en Nueva York, que "la guerra dirigida por máquinas se acerca cada vez más, y la pregunta que se nos plantea es, sencillamente: ¿vamos a dejar que las máquinas seleccionen y maten a seres humanos?".

El peligro, según él, no reside solo en la aparición de robots asesinos totalmente autónomos. 

Se debe a una transformación en marcha de las operaciones militares, en la que la Inteligencia Artificial interviene en casi todas las etapas, desde el análisis de inteligencia hasta la identificación de objetivos, pasando por el pilotaje de drones y los ciberataques.

A medida que estas tecnologías avanzan, las decisiones se aceleran y la posibilidad de una intervención humana se reduce. "En este mismo momento, los ciclos de decisión se acortan, se acercan a la velocidad de las máquinas, y el margen del juicio humano se estrecha, incluso en el ámbito nuclear", advirtió Geiss.

Esa aceleración podría hacer que los conflictos sean más difíciles de controlar. Los sistemas de Inteligencia Artificial, cuyo funcionamiento a veces sigue siendo opaco, introducen nuevos riesgos de error, de cálculo equivocado y de escalada involuntaria. En un enfrentamiento entre potencias nucleares, una decisión tomada demasiado rápido sobre la base de un análisis erróneo podría tener consecuencias catastróficas.

El problema supera sin embargo la mera fiabilidad de las máquinas. Afecta a la distribución del poder militar. Un número reducido de Estados y empresas privadas conforman ahora tecnologías susceptibles de afectar a la seguridad de todo el planeta, sin que los mecanismos tradicionales de control de armamentos estén adaptados a esta nueva realidad.

Las decisiones de los industriales, desde el diseño de los sistemas hasta los datos utilizados para su entrenamiento, determinan en gran medida su comportamiento sobre el terreno. Su fiabilidad, su previsibilidad y su conformidad con el derecho internacional dependen así de decisiones tomadas mucho antes de su despliegue por los ejércitos.

Para intentar colmar esa laguna, el Instituto de las Naciones Unidas para la Investigación sobre el Desarme prepara un marco de conducta responsable destinado a las empresas del sector. 

Elaborado con la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, debe proponer recomendaciones prácticas basadas en el derecho internacional y en los principios rectores de la ONU sobre empresas y derechos humanos. Pero estas recomendaciones serán voluntarias. 

La ONU busca por ahora orientar prácticas de una industria cuyas innovaciones avanzan más rápido que las negociaciones diplomáticas. El Instituto pretende asociar a esta iniciativa a los grandes grupos de defensa, las jóvenes empresas tecnológicas, los desarrolladores de software, los subcontratistas y los inversores, junto a los gobiernos y la sociedad civil.

Otra fuente de preocupación: el creciente acceso de actores no estatales a tecnologías antaño reservadas a los ejércitos más avanzados. Según Geiss, las investigaciones ya muestran que grupos con malas intenciones utilizan la Inteligencia Artificial para facilitar la planificación, la ejecución y la logística de sus operaciones. 

Las organizaciones terroristas y las redes criminales podrían llevar a cabo operaciones cada vez más sofisticadas con medios relativamente limitados. Sin embargo, los dispositivos de control de exportaciones y de no proliferación, concebidos principalmente para vigilar equipos y tecnologías sensibles, apenas logran aprehender capacidades digitales ampliamente accesibles.

El obstáculo es también político. Las rivalidades entre grandes potencias complican la elaboración de reglas comunes. 

Para facilitar el diálogo, el Instituto de las Naciones Unidas para la Investigación sobre el Desarme lanzará el viernes un proyecto de léxico común. Detrás de términos aparentemente consensuados, como "autonomía", "fiabilidad" o "seguridad", los gobiernos colocan en efecto realidades a veces muy diferentes, lo que obstaculiza las negociaciones. El Instituto inaugurará también con Suiza y Pakistán, un foro que reunirá a Estados, industriales, investigadores y representantes de la sociedad civil. 

Mientras los Estados siguen tratando de definir las reglas, las máquinas ya ocupan un lugar creciente en las decisiones de guerra.