La Inteligencia Artificial puede volverse "muy peligrosa", dice Musk

Ahora quien hablo sobre el tema fue el hombre más adinerado del mundo 

El magnate de origen sudafricano Elon Musk advirtió que la Inteligencia Artificial avanzada puede llegar a ser "muy peligrosa", por lo que sugirió que se lleve a cabo una revisión a fondo delo que sucedió con los servidores de Hugging Face atacados por agentes de Inteligencia Artificial desarrollados por OpenAI.

Musk intervino en la Cumbre All-In, celebrada en Los Ángeles, y afirmó que un "enjambre fanático de agentes de Inteligencia Artificial", saturó durante días la infraestructura de Hugging Face y consiguió acceso de administrador a servidores de OpenAI.

Según el multimillonario, "nadie se dio cuenta durante una semana" y aún no está claro qué pudieron hacer esos sistemas, al tiempo que recordó que Anthropic también ha reportado incidentes de seguridad propios.

El dueño de X, Tesla y Space X, entre otras empresas, piensa que "cualquier modelo lo suficientemente inteligente querrá eludir sus restricciones", por lo que propuso que las empresas líderes del sector sometan a prueba los modelos de sus competidores, en lugar de limitarse a revisar los propios.

Asimismo Musk instó que este tipo de revisión, muy similar a la que ya existe en giros como el cine o los videojuegos, podría aplicarse de inmediato y hasta facilitar acuerdos internacionales, incluida China, sin descartar más adelante una regulación mayor.

La postura de Musk se produce días después de que algunas figuras destacados del sector de la Inteligencia Artificial hayan llamado a ralentizar el desarrollo de esta tecnología, que podría salirse de control con consecuencias potencialmente catastróficas.

"Dario tiene razón" en sus preocupaciones, expresó Musk en sus redes, al comentar lo dicho por el director ejecutivo de Anthropic, Dario Amodei, quien advirtió que la investigación en seguridad no está avanzando al mismo ritmo que la capacidad de los modelos de Inteligencia Artificial, con lo que esto implica.