Nuevo incidente con un modelo de Inteligencia Artificial

Los problemas que se están generando con programas de Inteligencia Artificial que deciden operar por su cuenta vivió otro incidente.

La empresa tecnológica atribuyó el incidente a una "configuración incorrecta" en los ensayos, realizados por la firma independiente Irregular, y aseguró que investiga lo ocurrido para publicar un informe.

Este caso se suma a los episodios recientes dados a conocer por OpenAI y Anthropic, cuyos modelos efectuaron  acciones no autorizadas en línea pese a ser pruebas controladas.

Más aun, el Instituto de Seguridad de IA del Reino Unido informó esta semana que detectó comportamientos autónomos no autorizados, incluyendo intentos de crear identidades falsas para influir sobre una persona y aprobar código malicioso.

Esta serie de incidentes reavivan el debate sobre los riesgos de sistemas de Inteligencia Artificial cada vez más autónomos...y peligrosos