Niños deben ser escuchados antes de que se tomen decisiones en Inteligencia Artificial

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, afirmó que los niños deben ser considerados titulares de derechos plenos en el desarrollo y el uso de la inteligencia artificial, por lo que pidió situar su seguridad en el centro de la gobernanza de estas tecnologías.

Volker Türk dijo en Nueva York, durante una reunión de alto nivel dedicada a la protección de los niños en la era de la Inteligencia Artificial, que se celebró en paralelo al debate general de la Asamblea General, que "los niños de hoy son la primera generación que crece con la inteligencia artificial, pero a menudo la última a la que se le pide su opinión".

La reunión fue copresidida por el presidente francés, Emmanuel Macron; el presidente del Gobierno español, Pedro Sánchez; el presidente keniano, William Ruto, y el primer ministro australiano, Anthony Albanese.

La oficina del responsable de velar por el respeto de los derechos humanos, junto con sus socios, encuestó a más de mil niños en 49 países. Estos expresaron sus inquietudes, en particular, ante la creación de imágenes falsas de personas reales, la explotación de sus datos personales, una posible disminución de su creatividad.

Además, les preocupa el riesgo de que la Inteligencia Artificial sustituya las relaciones con su familia, sus amigos, sus profesores o sus terapeutas. Sobre todo, los niños quieren ser escuchados antes de que se tomen las decisiones, y no después.

Para Türk, la Convención sobre los Derechos del Niño, el tratado de derechos humanos más ampliamente ratificado del mundo, debe aplicarse también a la inteligencia artificial, señalando que la responsabilidad de proteger los derechos de los niños incumbe en particular a los actores que desarrollan los sistemas de Inteligencia Artificial.

Debe pasar por una evaluación de los riesgos en materia de derechos humanos antes de su puesta en el mercado, una mayor transparencia y controles independientes. Los gobiernos también deben hacer cumplir las leyes: "Los compromisos voluntarios no bastan", advirtió el Alto Comisionado.

La reunión de Nueva York se celebró en el marco de una nueva coalición internacional lanzada en julio en Ginebra para situar los derechos y la seguridad de los niños en el centro del desarrollo de la Inteligencia Artificial.

La Coalición por los Derechos y la Protección de los Niños en la Era de la Inteligencia Artificial reúne a gobiernos, agencias de la ONU, empresas tecnológicas, organizaciones de la sociedad civil y expertos, y son 17 países los que se han adherido hasta ahora a esta coalición, que pretende hacer participar a los niños en el diseño, despliegue y control de los sistemas de Inteligencia Artificial que influyen en sus vidas.

Para Catherine Russell, directora ejecutiva de UNICEF, los niños no esperan a que los adultos terminen de definir las reglas: ya utilizan la Inteligencia Artificial, que puede ofrecerles importantes oportunidades para aprender, crear y acceder a información y servicios.

Pero los riesgos son igualmente considerables. Según investigaciones de UNICEF, al menos 1,2 millones de niños en 11 países vieron su imagen transformada en contenidos sexuales falsos creados con Inteligencia Artificial A en el espacio de un año.

"A pesar de su nombre, no hay nada falso en el daño que estos contenidos causan a los niños", advirtió Russell.