Alerta investigador sobre Inteligencia Artificial: podría matarnos a todos
Trascendió que esta semana renunció a su empleo en Anthropic el investigador Jacob Coxon, especializado en entrenamiento de modelos de inteligencia artificial, y quien laboró los últimos 3 años en esa empresa y en OpenAI.
El experto británico se decidió a hablar y menciona que estuvo los últimos años haciendo investigación de preentrenamiento en ambas empresas, advirtiendo que "ninguna está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia automejorable y apostando con nuestras vidas".
Puntualiza que la industria usa términos como "momento crítico" y "juego final" para describir la trayectoria hacia modelos que se mejoran a sí mismos, y llama a no subestimar el poder de esta tecnología, ya que "pronto serán sistemas sobrehumanos capaces de 'hackear' cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".
Coxon fue más lejos y refirió al medio The Wall Street Journal que "vamos camino a muchos de los escenarios más agresivos en los que, para finales del próximo año, las cosas podrían estar fuera de control".
Dice que dejó OpenAI para unirse a Anthropic por sus esfuerzos de seguridad, pero ahora piensa que ninguna compañía puede desarrollar de forma responsable inteligencia artificial general sin intervención gubernamental.
Entonces, lanzó la advertencia y señaló que "La gente que construye Inteligencia Artificial cree sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing".
Asimismo, sostuvo que las empresas continúan a pesar de los riesgos, señalando que, si bien en Anthropic los riesgos son bien comprendidos, "están atrapados en una carrera para llegar primero: creen que nadie más actuará responsablemente, así que deben hacerlo ellos mismos, a pesar del riesgo".
Por ello, Coxon instó a otros investigadores a considerar las implicaciones y enfrentarse a la disyuntiva de agachar la cabeza, porque "va a suceder de todos modos", o aprovechar este momento para pedir condiciones diferentes.
Evan Hubinger, líder científico de alineación en Anthropic, confirmó en X que Coxon "tiene razón", al comentar que "realmente creemos sinceramente que la Inteligencia Artificial podría matar a todos los humanos", alertando a su vez que cree que hay más de un 10 % de probabilidades de que esto ocurra en la próxima década, al tiempo que reconoció que la empresa "aún no tiene un plan para resolver la alineación de la superinteligencia".
Steven Adler, cofundador de Guidelight AI Standards y exinvestigador de seguridad de OpenAI, sugirió al medio Financial Tines que " ninguna empresa de Inteligencia testá ni cerca de tener la postura de seguridad correcta para el nivel de peligro que implica su investigación".
El inversor Bill Ackman calificó la renuncia del investigador de "preocupante".
Comentarios