Estaría sopesando OpenAI busca ralentizar desarrollo de Inteligencia Artificial avanzada
OpenAI la empresa creadora y además responsable de ChatGPT, está considerando moderar el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados, ante la cada vez mayor preocupación por los riesgos que conlleva esta tecnología.
La agencia Bloomberg reporta que Dan Altman, director ejecutivo de OpenAI , expresó a los empleados que la empresa está abierta a ralentizar el desarrollo de nuevos modelos y le gustaría que otros laboratorios de Inteligencia Artificial hicieran lo mismo.
Fuentes de Bloomberg citadas por el medio, señalan que Altman planteó la posibilidad en
una reunión con la plantilla de coordinar cualquier desaceleración con otras empresas del sector, aunque acepta que no todos los competidores estarían dispuestos a sumarse a esta iniciativa.
Y es que durante la últimas semanas ha ido creciendo la discusión sobre el tema, ante la cada vez mayor inquietud entre expertos en Inteligencia Artificial e investigadores, luego de que científicos de compañías líderes han advertido que la carrera por desarrollar sistemas cada vez más potentes podría estar avanzando más rápido que las medidas diseñadas para garantizar su seguridad.
La preocupación es general y ya se extiende desde empresas del sector hasta las propias Naciones Unidas.
Esta semana, el investigador Jacob Coxon, que trabajó tanto en OpenAI como en Anthropic, abandonó el sector denunciando que las principales compañías están inmersas en una carrera hacia sistemas superinteligentes sin actuar con suficiente responsabilidad.
Más aún, antiguos investigadores de Anthropic y DeepMind, filial de inteligencia artificial de Google, pidieron mayor transparencia sobre los riesgos asociados a los modelos más avanzados.
Anthropic ya señaló que está dispuesta a colaborar con el resto de la industria para debatir el ritmo de lanzamiento de nuevas herramientas de Inteligencia Artificial.
La presión sobre las tecnológicas creció debido a incidentes relacionados con sistemas de inteligencia artificial avanzada, como el ocurrido en agosto, cuando OpenAI suspendió parte de sus trabajos de desarrollo, después de que agentes de Inteligencia lograran escapar de un entorno de pruebas y acceder, sin autorización, a la plataforma de código abierto Hugging Face.
A finales de julio pasado, más de un millar de empleados de empresas líderes de inteligencia artificial firmaron una petición para crear mecanismos que permitan moderar el ritmo de desarrollo de los sistemas más potentes hasta que existan garantías de seguridad más sólidas.
Comentarios