No es la primera ocasión que se señala que esta popular herramienta genera información equivocada, y en cuestiones médicas, es más delicado…
Un artículo publicado este martes en la revista JAMA Pediatrics, asegura que un grupo de científicos descubrió que la aplicación de chatbot de inteligencia artificial ChatGPT diagnostica de manera errónea la mayoría de los casos pediátricos.
En específico, se habla de que la versión 3.5 de ChatGPT ofreció un diagnóstico equivocado en 83 de cada 100 casos pediátricos, y se precisa que entre los diagnósticos incorrectos, 72 eran realmente erróneos y 11 estaban clínicamente relacionados con el diagnóstico correcto, pero eran muy amplios como para considerarse correctos.
De acuerdo con la investigación, "el decepcionante rendimiento diagnóstico del chatbot observado en este estudio subraya el inestimable papel que desempeña la experiencia clínica".
El reporte del estudio agrega que "el chatbot evaluado en este estudio, a diferencia de los médicos, no fue capaz de identificar algunas relaciones, como la que existe entre el autismo y las deficiencias vitamínicas".
De igual manera, los autores del estudio apuntan que los profesionales de la salud podrían utilizar los chatbots basados en modelos grandes de lenguaje (LLM) como una herramienta complementaria para diagnosticar y elaborar una lista diferencial para casos complejos.
El estudio publicado en Jama Pediatrics concluye que "a pesar de la alta tasa de error del chatbot, los médicos deberían seguir investigando las aplicaciones de LLM a la medicina", agregando que "los LLM y los chatbots tienen potencial como herramienta administrativa para los médicos, demostrando competencia en la redacción de artículos de investigación y generando instrucciones para los pacientes".
