El reporte dado a conocer por la revista Patterns constituye otra señal de advertencia sobre el uso de la Inteligencia Artificial.
Asegura que los sistemas de inteligencia artificial han aprendido a engañar de forma intencionada a los humanos, y los autores del estudio alertan de las graves consecuencias que este hecho puede acarrear.
Mencionan que, entre los diversos casos de engaño, los investigadores expusieron el de Cicero, sistema de Inteligencia Artificial del gigante estadounidense de tecnología Meta, diseñado para el juego de estrategia Diplomacy, donde hay que crear alianzas para lograr el dominio global.
De acuerdo con Meta, el sistema fue entrenado para ser "en gran medida honesto y útil" y para que "nunca apuñale por la espalda de forma intencionada", pero se detectó que Cicero engaña "premeditadamente", traiciona y dice "mentiras descaradas" para ganar
Jugando como "Francia", el sistema engañó a un usuario real que representaba a "Inglaterra" al organizar un complot con "Alemania" (otro jugador humano) para invadirla.
Cicero le propuso a Alemania atacar a Inglaterra, a quien había prometido apoyo.
Otro ejemplo se registró con el chatbot ChatGPT-4 de OpenAI, que engañó a un trabajador del mercado en línea TaskRabbit, afirmando que tenía discapacidad visual para convencerlo de que era humano y le ayudara a resolver una tarea CAPTCHA del tipo 'No soy un robot'.
Ante estos casos, los científicos advierten que los sistemas de Inteligencia Artificial podrían cometer fraude, influir en el resultado de unas elecciones o contribuir a los esfuerzos del reclutamiento terrorista.
