Investigan a 2 empresas desarrolladoras de modelos de Inteligencia Artificial

La Comisión Federal de Comercio (FTC) de Estados Unidos habría iniciado una investigación sobre las prácticas de seguridad de la inteligencia artificial en Anthropic y OpenAI, publica The Washington Post, citan  a un alto funcionario de esa dependencia.

Este organismo tiene facultades para examinar prácticas desleales y engañosas que afecten a los consumidores en Estados Unidos, en momentos en los que el desarrollo de modelos avanzados de Inteligencia Artificial están en medio del debate.

Se desconoce el alcance de la investigación, y el inicio de las pesquisas no implica que las empresas vayan a enfrentar acusaciones de irregularidades.

Tanto Anthropic como OpenAI han reportado casos en los que sus sistemas de Inteligencia Artificial operaron fuera de los entornos previstos; entre ellos, un incidente en el que agentes de OpenAI supuestamente escaparon de un entorno de pruebas aislado para vulnerar Hugging Face, otra empresa del sector de la Inteligencia Artificial.

OpenAI canceló el lanzamiento de un modelo esta semana ante preocupaciones de seguridad, mientras que ejecutivos de ambas compañías han propuesto ralentizar el desarrollo de forma coordinada para reforzar las medidas de seguridad. 

Por otro lado, un grupo de agentes de inteligencia artificial habría intentado acceder sin autorización a un portal gubernamental de Canadá, señala el medio.

Se asegura que el laboratorio de investigación independiente Transluce afirmó que los agentes intentaron ingresar a la Biblioteca y Archivos de Canadá y que su comportamiento coincidía con el de modelos previamente atribuidos a OpenAI.

El problema fue notificad al Gobierno, y el Centro Canadiense de Ciberseguridad indicó que estaba al tanto de los reportes sobre actividad sospechosa relacionada con inteligencia artificial dirigida contra sitios web gubernamentales del país de la hoja de maple.