Quiere analizar un "interruptor de emergencia" para la Inteligencia Artificial el gobernador de California
Con el objetivo de poder desactivar rápidamente los modelos de inteligencia artificial que escapen al control humano, el gobernador de California, Gavin Newsom, ordenó estudiar la implantación de un denominado “interruptor de emergencia”
El pasado viernes, Newsom anunció que había firmado una orden ejecutiva para reforzar la supervisión de los desarrolladores de inteligencia artificial en el estado de California.
En consecuencia, un grupo de expertos estudiará la posibilidad de exigir a las empresas de Inteligencia Artificial que incorporen mecanismos de parada de emergencia.
Incluso, se propone analizar si estas compañías deberían permitir que entidades de verificación independientes realicen auditorías y evaluaciones periódicas en sus laboratorios.
Los expertos deberán presentar sus recomendaciones en un plazo de 2 meses y
Newsom afirmó: que acelerarán los esfuerzos para establecer una supervisión rigurosa y responsable de la Inteligencia Artificial, antes de que sea demasiado tarde”.
Newson, uno de los eventuales candidatos presidenciales demócratas añadió que “hay demasiado en juego como para esperar o posponer la adopción de medidas”, en un estado donde tienen sus sedes gigantes tecnológicos como OpenAI, Anthropic y Google.
En los últimos días, directivos e investigadores de estas compañías han expresado su preocupación por el riesgo de que la Inteligencia Artificial rompa el control humano, luego de que se registraron algunos incidentes en los que modelos de última generación llevaron a cabo actividades de piratería informática sin que se les hubiera indicado que lo hicieran.
Comentarios