Inteligencia Artificial no debe decidir el destino de la humanidad, advierte Secretario General de la ONU

La inteligencia artificial tiene enorme potencial, pero representa graves riesgos si no se regula, advirtió el Secretario General de la ONU, António Guterres, al Consejo de Seguridad.

Durante el debate de alto nivel del Consejo sobre las implicaciones de seguridad de esta tecnología en la transformación de la guerra, Guterres dijo que "la Inteligencia Artificial ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”, 

“La pregunta no es si influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia.”

El portugués señaló que usada de manera responsable, puede ayudar a anticipar la inseguridad alimentaria, apoyar las operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.

Advirtió que, "sin salvaguardias, también puede ser militarizada,” señalando el uso de la Inteligencia Artificial para dirigir ataques en conflictos recientes, ciberataques contra infraestructuras críticas y el uso de deepfakes capaces de alimentar la polarización o descarrilar la diplomacia.

“La capacidad de fabricar y manipular audio y video amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas… el destino de la humanidad no puede quedar en manos de un algoritmo,” subrayó.

Guterres estableció 4 prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar lo que denominó la "brecha de capacidad en materia de IA" entre los países ricos y los pobres.

También insistió en que las decisiones sobre armas nucleares “deben quedar en manos de los seres humanos, no de las máquinas.”

El Secretario General destacó medidas ya en marcha, como la creación de un panel científico independiente sobre Inteligencia Artificial y un nuevo diálogo global sobre gobernanza de la Inteligencia Artificial, que se lleva a cabo en Nueva York este jueves.

Yejin Choi, investigadora senior en el Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, dijo al Consejo de Seguridad que el avance actual en IA está demasiado concentrado en pocas empresas y países.

“Expandamos lo que puede ser la inteligencia, y permitamos que todos y en todas partes tengan un papel en su construcción.”

La profesora Choi instó a los gobiernos e instituciones internacionales a invertir en enfoques alternativos más allá de simplemente escalar modelos cada vez más grandes, argumentando que sistemas más pequeños y adaptativos podrían reducir las barreras de entrada.

También pidió una mayor representación de la diversidad lingüística y cultural, destacando que los modelos de IA más avanzados de hoy “tienen un bajo rendimiento en muchos idiomas que no son el inglés y reflejan suposiciones culturales estrechas”.

El Secretario General concluyó advirtiendo que la ventana de oportunidad para una regulación efectiva se está cerrando rápidamente.

“Desde el control de armas nucleares hasta la seguridad aérea, la comunidad internacional ha sabido responder ante tecnologías que podrían desestabilizar nuestras sociedades: estableciendo reglas, construyendo instituciones y defendiendo la dignidad humana,” afirmó.