Lanza creador de ChatGPT herramienta para detectar textos generados por Inteligencia Artificial

La tecnología sigue caminando y la empresa OpenAI, responsable del desarrollo de la herramienta de síntesis de textos ChatGPT, lanzó un clasificador para determinar si un texto fue escrito por un humano o por inteligencia artificial. Los desarrolladores explican que la nueva herramienta "no es totalmente fiable" y que en pruebas con textos en inglés identificó correctamente solo 26 % de los que fueron creados por Inteligencia Artificial, en tanto que a la hora de etiquetar textos escritos por personas reales falló en 9 % de los casos. OpenAI acepta que "es imposible detectar de forma fiable todos los textos escritos con Inteligencia Artificial", y cree que ese tipo de herramientas pueden servir para contrarrestar "las falsas afirmaciones de que el texto generado con IA ha sido escrito por un humano". El clasificador es nuevo y tiene "una serie de limitaciones importantes", por lo que la empresa subraya que "no debe utilizarse como herramienta principal para la toma de decisiones, sino como complemento de otros métodos para determinar el origen de un texto". La herramienta "es muy poco fiable" a la hora de checar textos cortos de hasta 1.000 caracteres, e puede etiquetar incorrectamente textos más largos. Otra limitación es que de momento sirve solo para textos en inglés, siendo su rendimiento "significativamente peor" en otros idiomas. Tampoco puede identificar de forma fiable textos "muy predecibles" y hay que tener en cuenta que textos generados por Inteligencia Artificial siempre pueden ser editados para engañar la herramienta. Así, OpenAI dice que "los clasificadores como el nuestro pueden ser actualizados y reentrenados sobre la base de los ataques exitosos, pero no está claro si la detección supone una ventaja a largo plazo".