OpenAI está desarrollando otro modelo de Inteligencia Artificial...¿es seguro?

Pese a los temores y advertencias cada vez mayores que está generando en el avance de  la Inteligencia Artificial, quienes ven en su desarrollo una vía de dinero y poder, siguen adelante 

Masayoshi Son, director ejecutivo de SoftBank, dijo en una entrevista con CNBC que el próximo modelo de inteligencia artificial de OpenAI está siendo desarrollado por otra IA, lo que muestra que esta tecnología podría alcanzar pronto el nivel de "superinteligencia".

Y...a temblar...

Esto se da a conocer, pese a la advertencia de Anthropic de que el desarrollo de la inteligencia artificial podría necesitar desacelerarse debido a las implicaciones de su rápido ritmo de mejora. 

De acuerdo con el medio, SoftBank es uno de los mayores inversores tecnológicos y uno de los principales accionistas de OpenAI.

Señaló que "eso va a ocurrir con todos los demás modelos principales", y puntualizó  que los ingenieros no serán suficientemente inteligentes como para diseñar el siguiente modelo, pues cuando eso suceda, "el modelo generará el siguiente modelo" y será "exponencialmente" más inteligente.

Jugando con fuego...

Según Masayoshi, "eso es una superinteligencia", agregando que,en los próximos años, la Inteligencia Artificial será más inteligente que los humanos en un 70-80% de las materias y que, en esos temas, podría ser "10 veces más inteligente que la persona promedio".

Anthropic advirtió que un sistema de Inteligencia Artificial capaz de diseñar y desarrollar de forma plenamente autónoma a su propio sucesor se denomina "mejora recursiva" . 

"Aún no estamos ahí, [...] pero podría llegar antes de que la mayoría de las instituciones estén preparadas para afrontarlo", señaló.

Añadió que sus ingenieros entregan 8 veces más código por trimestre en promedio que entre 2021 y 2025, y aseguró que una Inteligencia Artificial capaz de construirse a sí misma, supondría un gran avance en la historia de la tecnología, con el potencial de aportar enormes beneficios a la ciencia, la salud y otros campos.

Sin embargo, alertó que una mejora recursiva completa podría incrementar el riesgo de que los humanos perdieran el control sobre los sistemas de Inteligencia Artificial.