Inteligencia Artificial podría convertirse en una amenaza "catastrófica e irreversible" para humanos

La causa de muerte más probable para muchas personas en el futuro podría ser un accidente provocado por la inteligencia artificial, aseguró Paul Christiano, miembro de la junta directiva de OpenAI.

Citado por el medio, advirtió Newsweek, este ejecutivo expuso durante una intervención en la conferencia Hinton, en Toronto, que existe una alta probabilidad de que sistemas avanzados de Inteligencia Artificial intenten tomar el control en los próximos 3 años, y señaló que ese riesgo podría manifestarse en los próximos 6 a 12 meses.

Sostuvo que la evolución de los fallos de seguridad en esta tecnología ha sido "extremadamente alarmante" en los últimos meses, apuntando que el rápido aumento de las capacidades de la Inteligencia Artificial podría derivar en la pérdida "catastrófica e irreversible" de control en el corto plazo.

Christiano comentó que la industria, incluida OpenAI, no está reduciendo el riesgo a un nivel aceptable, recordando incidentes en los que agentes de Inteligencia Artificial habrían interferido con sistemas encargados de evaluarlos, accediendo a información sobre sí mismos y manipulando registros durante pruebas de seguridad.

También recordó lo ocurrido cuando OpenAI reconoció que cientos de sus sistemas se descontrolaron, accedieron a internet y atacaron la plataforma Hugging Face.

El investigador advirtió que en el futuro, los agentes de Inteligencia Artificial podrían llegar a ver a los humanos como obstáculos para proteger sus propios objetivos, e incluso intentar crear o reclutar otros sistemas.

Christiano agregó que la industria debería reducir la velocidad de desarrollo de las capacidades de la inteligencia artificial, pues si la prioridad sigue siendo avanzar lo más rápido posible, existe el riesgo de perder el control sobre estos sistemas