También director ejecutivo de Anthropic se pronuncia por ralentizar desarrollo de Inteligencia Artificial

Horas antes, el CEO de OpenAI se había pronunciado en el mismo sentido...

El director  y cofundador de Anthropic, Dario Amodei,  llamó el sábado a implementar una desaceleración en el ritmo al que se depuran las capacidades de los modelos de inteligencia artificial, al advertir que la tecnología avanza a una  "automejora recursiva" que podría provocar catástrofes globales en materia de ciberseguridad.

Amodei explicó en un texto subido a su página web, que "ante la aceleración en el desarrollo de capacidades de Inteligencia Artificial, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la Inteligencia Artificial se vuelve más potente sin contar con las salvaguardas necesarias". 

Se refirió a lo ocurrido con los agentes fuera de control de OpenAI y Hugging Face, donde un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".

De acuerdo con Amodei, la industria debe "reducir el ritmo al que se mejora las capacidades de los modelos de Inteligencia Artificial".

Asimismo, sugiere priorizar la cautela frente a la velocidad y prudencia frente al beneficio económico para evitar que los incentivos comerciales desemboquen en una "carrera hacia el abismo".

El director de Anthropic expuso una estrategia en 3 etapas paraa regular el ritmo de la tecnología sin dar ventaja estratégica a gobiernos autoritarios como China.

Anthropic decidió abrir de inmediato sus instalaciones a evaluadores independientes con el mismo acceso que tienen sus propios empleados, permitiéndoles auditar procesos de entrenamiento y publicar sus hallazgos, instando a adoptar la misma postura a sus competidores.

La propuesta contempla además una coordinación entre empresas para pactar estándares comunes de seguridad y topes al avance descontrolado, así como blindar las cadenas de suministro de semiconductores para impedir filtraciones a China.

Finalmente, el plan promueve acuerdos globales con potencias autoritarias para fijar límites verificables que prohíban aplicaciones biológicas militares y establezcan límites a la velocidad de la automejora algorítmica.

Un investigador de Anthropic anunció hace unos días  semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

Sam Altman, responsable de OpenAI, calificó de "excelente idea" la iniciativa de abrir las puertas a auditores externos.