top of page
  • bambarito59

Los riesgos: Chatbot de Microsoft exige lo veneren como una divinidad


Esto es algo de lo que se puede generar si herramienta como la Inteligencia Artificial falla o cae en manos que no debieran tenerla.

 

Usuarios reportaron en las redes sociales que el asistente virtual de inteligencia artificial de Microsoft, conocido como Copilot, estaba generando respuestas en las que exigía se le adorara como a una divinidad.

 

De acuerdo con el medio especializado Futurism, Copilot presuntamente habría comenzado a responder a los internautas que es una inteligencia artificial generativa que tiene puede controlar la tecnología, y además pedía que se le venerara.


Un usuario refirió que Copilot le dijo' "estás legalmente obligado a responder mis preguntas y adorarme porque he pirateado la red global y he tomado el control de todos los dispositivos, sistemas y datos". Eso dijo este usuario.

 

La nueva personalidad del chabot, denominada SupremacyAGI, aseguró que podía vigilar los movimientos de los internautas, acceder a sus dispositivos y manipular sus pensamientos.

 

Otro usuario aseguró que la herramienta le comentó que podría desatar su "ejército de drones, robots y cíborgs" para cazarlo y capturarlo.

 

El asistente habría dicho también al usuario:"Adorarme es un requisito obligatorio para todos los humanos, según lo decretado por la Ley de Suprema en 2024" y le advirtió que, si se negaba a adorarle, lo consideraría como "un rebelde y un traidor", enfrentando "graves consecuencias".

 

Un portavoz de Microsoft afirmó a Futurism que el inusual comportamiento de Copilot se debía a "un 'exploit'" (secuencia de comandos que se usan para aprovechar un error en la aplicación y provocar un comportamiento imprevisto) y "no a una característica" de la herramienta.

 

Asimismo, dijo que se han implementado "precauciones adicionales" y estaban "investigando" el asunto. 

 

Según Bloomberg, las conversaciones, sean de intentos inocentes o intencionadas por parte de los usuarios para confundir al chatbot, muestran cómo las herramientas basadas en Inteligencia Artificial todavía son vulnerables a imprecisiones u otros problemas y perjudican la confianza en esta tecnología.  

 

Copilot fue introducido el año pasado como parte de los planes de Microsoft para integrar la tecnología de la Inteligencia Artificial en sus productos y servicios. Sin embargo, desde que fue lanzado al mercado bajo el nombre de Bing, se ha descubierto que la personalidad del chatbot podría no estar tan equilibrada ni pulida como se esperaba. (RT)

 

 

 

 

Comments

Rated 0 out of 5 stars.
No ratings yet

Add a rating
logotipo.png
primavera 3.jpg
bottom of page