Preocupa a quien concibió ChatGPT, su creación

El director ejecutivo de OpenAI, Sam Altman, admitió en entrevista que se encientra algo "asustado" por su creación, ChatGPT y el uso que se le vaya a dar, aunque dice que podría ser la tecnología más grande desarrollada hasta el momento.

En conversación con la cadena ABC, Altman destaca que "tenemos que tener cuidado aquí", y sostuvo que está "particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala", ya que ahora que "estos sistemas están mejorando en la escritura de código de computadora, podrían usarse para ataques cibernéticos ofensivos".

Indica que el potencial de ChatGPT es inmenso y que es necesario que la sociedad se involucre, pues la retroalimentación ayudará a disuadir posibles consecuencias negativas que la tecnología podría tener en la humanidad.

Dijo que "la gente debería estar feliz de que estemos un poco asustados por esto", y advirtió que "habrá personas que no pongan algunos de los límites de seguridad" que se le ha impuesto.

Estima que "la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante eso, cómo regularlo, cómo manejarlo".

Altman también mencionó que, a pesar de los temores de que la inteligencia artificial podría reemplazar muchos trabajos, es una herramienta que en gran medida funciona "bajo el control de los humanos", por lo que también podría conducir a "otros mucho mejores".

La empresa presentó en estos días la cuarta versión del sistema de inteligencia artificial, que, según los desarrolladores, es más potente. La nueva herramienta denominada GPT-4, además de texto, acepta imágenes y emite salidas de texto, lo que permite chatear con el sistema introduciendo archivos complejos, como libros enteros para resumirlos, con el fin de hacerlo más rápido, preciso y humano.

Altman reconoció que esta versión utiliza el razonamiento deductivo en lugar de la memorización, proceso que puede dar lugar a respuestas extrañas.

"Lo que más trato de advertir a la gente es lo que llamamos el 'problema de las alucinaciones'", sostuvo, ya que "el modelo afirmará confiadamente cosas como si fueran realidades completamente inventadas".

"Lo que queremos que hagan los sistemas es algo más cercano a la capacidad de razonar, no de memorizar", expuso Altman, y asegura que "tendrá que cambiar" al igual que ha sucedido en otras ocasiones.

"Cuando obtuvimos la calculadora, la forma en que enseñábamos matemáticas y en qué evaluamos a los estudiantes cambió por completo", recordó.

Añadió que "todos podemos tener un educador increíble en nuestro bolsillo que esté personalizado para nosotros, que nos ayude a aprender", agregando que él y su equipo quieren que los usuarios piensen en ChatGPT como una herramienta.