Sobre el uso de modelos de lenguaje basados en inteligencia artificial en la producción científica en ciencias de la salud

On the use of language models based on artificial intelligence in scientific production in health sciences

Fritz Fidel Váscones-Román^a fritz.vascones@upch.pe

Universidad Peruana Cayetano Heredia, Perú

Sociedad Científica de Estudiantes de Medicina Cayetano Heredia (SOCEMCH), Perú

Diego Fabrizio Zambrano-Sanchez^b

Universidad Peruana Cayetano Heredia, Perú

Sociedad Científica de Estudiantes de Medicina Cayetano Heredia (SOCEMCH), Perú

Franz Jair Vera Arias^c

Universidad Peruana Cayetano Heredia, Perú

Sociedad Científica de Estudiantes de Medicina Cayetano Heredia (SOCEMCH), Perú

Anthony Gilmer Lopez-Villanueva^d

Universidad Peruana Cayetano Heredia, Perú

Esta obra está bajo una Licencia Creative Commons Atribución 4.0 Internacional.

El uso de herramientas basadas en inteligencia artificial (IA) como ChatGPT (OpenAI, EE.UU.) está aumentando en muchas áreas del conocimiento por ser gratuito y de fácil acceso para usuarios sin experiencia técnica ⁽¹⁾. Por ejemplo, tiene uso en educación médica ⁽²⁾, e incluso fue listado como autor de una producción científica ⁽¹⁾. Malik Sallam ⁽³⁾, en una revisión sistemática explica los beneficios y aplicaciones en el cuidado de la salud y señala que la contribución en la escritura académica-científica obtiene el primer lugar contra otros beneficios como la búsqueda científica o práctica de cuidados de salud. Sin embargo, nos preocupan ciertas limitaciones y riesgos éticos de las herramientas basadas en IA en el ámbito de la producción científica en ciencias de la salud, que describimos a continuación.

Nuestras principales preocupaciones están basadas en la falta de continuidad y relevancia de la información a un nivel profesional, lo que se refleja cuando un usuario comenta sobre un acontecimiento o dato actual, este sistema generativo argumenta que los datos disponibles son solo hasta enero del 2022 ⁽⁴⁾; lo cual disminuye la relevancia de su uso porque las ciencias de la salud evolucionan día a día y uno de los objetivos de la producción científica en salud es resolver problemas de salud vigentes. Aunque somos conscientes de que es una situación temporal que, conforme se implementen mejoras, se resolverá, la última versión creada y sucesora del GPT 3.5 abierta para el público, el GPT-4 ⁽⁵⁾, aún carece de conocimientos después del corte de datos, por lo que es probable que tome una gran cantidad de tiempo y que exista un retraso en la información.

Además, tiene limitaciones en la validez de la información ⁽⁶⁾, ya que cada interacción se toma como una conversación independiente, es decir, al realizar una misma pregunta en distintas interacciones la respuesta puede ser diferente a la anterior ⁽⁷⁾. Al restarle confiabilidad, se convierte en un problema importante para las áreas de la salud donde se necesita exactitud y precisión. Asimismo, Vaishyaa et.al. ⁽⁸⁾, demuestra que el uso de ChatGPT (OpenAI, EE.UU.) requiere una verificación rigurosa debido a la inestabilidad de la información brindada. Otra situación problemática es que no cuenta con una supervisión crítica especializada de la información que provee ⁽⁹⁾, al no haber personas dedicadas a la revisión de la información a un nivel profesional, tornándose engañosa e inverosímil.

La ética médica es un pilar fundamental en la investigación, guiando a los profesionales de la salud para proteger el bienestar del paciente y preservar la relación médico-paciente. Por lo tanto, expresamos nuestra preocupación por los riesgos éticos que podría acarrear el empleo masivo de esta herramienta en todo el proceso de salud de un paciente, desde la prevención hasta la rehabilitación de la enfermedad. Aunque reconocemos los posibles beneficios de su uso, no podemos pasar por alto los errores potenciales y la necesidad de un proceso de implementación exhaustivo para establecer la responsabilidad de las acciones tomadas por la herramienta. Además, la dificultad inherente para comprender el proceso de toma de decisiones de la IA podría afectar negativamente la autonomía del paciente y la capacidad de explicar dicho proceso de manera comprensible.

En conclusión, a pesar de que modelos de lenguaje basados en inteligencia artificial como ChatGPT (OpenAI, EE.UU.) ofrecen ventajas en la búsqueda de información y tiene gran capacidad en la redacción ⁽¹⁰⁾, aún presentan grandes limitantes para la producción científica. Además, creemos que su uso masivo a futuro puede generar problemas éticos, debido a la posible transgresión de la autonomía del paciente, y propiciar una situaciones de desigualdad e injusticia en la producción científica entre las personas que no logren entender el funcionamiento de la IA.

https://revistas.upch.edu.pe/index.php/RMH/article/view/5157/5436 (pdf)