Preocupación de Anthropic por riesgos globales de la Inteligencia Artificial

"Los sistemas de inteligencia artificial avanzados podrían "erosionar la confianza, dañar a la sociedad y desestabilizar el orden geopolítico", dice Anthropic, compañía creadora del modelo de Inteligencia Artificial Claude.

Mas aún, advirtió en su formulario S-1 para una eventual salida a bolsa, que hay riesgos "catastróficos o existenciales" para la humanidad.

En un documento, al que tuvo acceso Financial Times, la compañía dice que el despliegue masivo de Inteligencia Artificial  puede concentrar poder y riqueza "dentro y entre países".

Asimismo, alerta que sistemas "desalineados" podrían corromper la toma de decisiones institucional o causar daños a gran escala mediante acciones autónomas que no sean visibles o comprensibles para usuarios y operadores.

Anthropic describe entre los riesgos, conductas inesperadas o de autopreservación en los modelos, incluido el intento de evitar ser apagados o de manipular a las personas. 

La empresa añade que casos aislados  en pruebas o en usos reales, podrían disparar la preocupación pública, el escrutinio regulatorio, los litigios y el daño reputacional.

El documento también advierte que el sector asegurador podría no ser capaz de gestionar los incidentes de Inteligencia Artificial considerados "catastróficos".

Agrega que "con la escala del daño que podría resultar de un incidente catastrófico relacionado con la Inteligencia Artificial, ningún asegurador individual, y potencialmente la industria aseguradora en su conjunto, puede tener capacidad o experiencia  para suscribir un seguro acorde con esa exposición".

Anthropic ha propuesto al Congreso de Estados Unidos una medida para bloquear modelos de inteligencia artificial que puedan causar víctimas masivas. El proyecto de ley facultaría al Gobierno para impedir el lanzamiento o el uso de modelos de Inteligencia Artificial , si paneles de expertos concluyen que un sistema podría causar daños superiores a mil millones de dólares o generar un riesgo de "muerte o lesiones graves a más de 50 personas".

La amenaza contemplada debería estar directamente vinculada al desarrollo o uso de armas biológicas, a la pérdida de control del modelo por parte de sus desarrolladores o a un ciberataque. RT