Herramientas basadas en inteligencia artificial en la publicación científica, ¿herramientas de apoyo o promotoras de malas prácticas?

Gloria Mercedes Díaz gloriadiaz@itm.edu.co

Instituto Tecnológico Metropolitano, Colombia

Adolfo Escobar adolfoescobar@itm.edu.co

00-0002-0639-5563 Facultad de Ingenierías,, Colombia

Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional.

La inteligencia artificial, esa tecnología que pareciera haber emergido de repente hace apenas unos años, pero que lleva varias décadas de desarrollo, se ha convertido en uno de los temas de mayor interés a nivel mundial. Una consulta en la muy conocida herramienta de Google Trends (https://trends.google.com), nos muestra cómo la búsqueda del concepto alcanzó un máximo en el mes de mayo de 2023, tan sólo un mes después del lanzamiento de GPT-4. Este modelo de inteligencia artificial generativa es capaz de simular conversaciones humanas, en respuesta a preguntas específicas, y permite incluso crear documentos completos con una legibilidad similar a la de los textos creados por humanos. Ese mismo mes, también fue el lanzamiento de la actualización conocida como GPT-4o, la cual mostró al mundo la capacidad para la interpretación y generación realista de texto, imágenes, vídeos y voz, en más de 50 idiomas.

Estas nuevas capacidades de la IA han supuesto una profunda transformación en todos los campos de la actividad humana, y el de la publicación científica no sólo no es la excepción, sino que ha sido uno de los primeros en incorporar herramientas de IA en la creación, evaluación y publicación de documentos científicos. El uso de tecnologías basadas en IA permite a autores acelerar la redacción de los artículos, mientras que facilita los procesos de evaluación y producción editorial, e incluso ayudan a mejorar la visibilidad de los artículos a través de sistemas de recomendación a lectores y nuevos autores; es decir, facilita y acelera el proceso editorial, manteniendo o incluso mejorando la calidad de la publicación.

Más allá de los generadores de texto como ChatGPT o Gemini, sobre las que volveremos más adelante, algunas tecnologías para autores incluyen, por ejemplo, herramientas de apoyo a la búsqueda y análisis de bibliografía, tales como elicit (https://elicit.com), research rabbit (https://www.researchrabbit.ai) o connected papers (https://www.connectedpapers.com), que permiten identificar artículos relevantes y descubrir relaciones entre ellos; o hyphotesis (https://web.hypothes.is) que permite realizar anotaciones a publicaciones, y compartirlas con coautores, las cuales son categorizadas por una IA según su relevancia y temática. Herramientas de este tipo facilitan la construcción del estado del arte de un tema de investigación, una tarea que se hace ardua debido al aumento exponencial de los artículos publicados, incluso en revistas de corriente principal. En la etapa de análisis de datos, software basado en aprendizaje automático como RapidMiner (https://altair.com/altair-rapidminer) o Power BI (https://app.powerbi.com) permiten procesar grandes volúmenes de datos, detectar patrones y generar predicciones que de otro modo tomarían mucho tiempo, o incluso sería imposible realizar. En el proceso de redacción de manuscritos, herramientas como Grammarly (https://www.grammarly.com), LanguageTool (https://languagetool.org/es) o DeepL Write (https://www.deepl.com/es/write) contribuyen a mejorar el estilo, la claridad y coherencia del texto, a la vez que realizan tareas simples como corrección gramatical y ortográfica. En la generación de figuras e imágenes, programas de código abierto como Matplotlib (https://matplotlib.org/), Plotly (https://plotly.com/) y Seaborn (https://seaborn.pydata.org/) integrados con librerías de aprendizaje profundo, ayudan a generar gráficos y visualizaciones científicas avanzadas.

Por otro lado, herramientas para la detección de coincidencias (plagio) o de escritura con IA como iThenticate (https://www.ithenticate.com/), Turniting (https://www.turnitin.com) o Quillbot (https://quillbot.com/), ayudan a los investigadores a identificar errores de citación o de paráfrasis, que pueden corregir antes de someter los manuscritos a la rigurosa evaluación de un proceso editorial. Finalmente, herramientas de traducción automática como DeepL Translator (https://www.deepl.com/es/translator) y Writefull (https://www.writefull.com/), han permitido romper la barrera del lenguaje, que tradicionalmente afectaba a autores de países no angloparlantes.

Por su parte, los equipos de gestión editorial cuentan hoy también con herramientas para el apoyo al proceso editorial. Las mismas herramientas de detección de coincidencias y redacción por IA, son usadas por la mayoría de las editoriales para garantizar la originalidad de los manuscritos. Adicionalmente, herramientas como Manuscript Manager (https://manuscriptmanager.com/) y Dimensions AI (https://www.dimensions.ai/) apoyan la selección y asignación de pares evaluadores, que permiten mejorar la eficiencia del proceso de evaluación. Finalmente, en la publicación y difusión, la IA se está utilizando para optimizar métricas de impacto y visibilidad de los artículos. Herramientas como Altmetric (https://www.altmetric.com/) analizan la influencia de las investigaciones en tiempo real, mientras que sistemas de recomendación personalizados, como Mr. Dlib (https://mr-dlib.org/) ayudan a los lectores a descubrir trabajos afines a sus intereses.

A pesar de su utilidad, las anteriores herramientas son menos conocidas que las generadoras de texto basadas en modelos extensos de lenguaje o LLM (por sus siglas en inglés Large Language Models) como GPT-4, utilizado por chatGPT y Microsoft Copilot, o Gemini, usado para la solución del mismo nombre. Estas herramientas, entrenadas para responder a preguntas específicas (prompts), emplean construcciones del lenguaje que simulan conversaciones humanas, y en sus versiones más avanzadas generan imágenes y videos “realistas” o “creíbles”.

Para mostrar su potencial, le pedimos a chatGPT y Gemini generar una nota editorial con dos orientaciones; la primera, afín al pensamiento del equipo editorial de la revista TecnoLógicas, es decir, reconociendo los retos y oportunidades de la tecnología como una herramienta que puede contribuir a mejorar el proceso editorial; y la otra, en la que se le pidió enfocarse en el problema del uso de la IA y hacer un llamado a evitar su uso. Los lectores podrán acceder a las respuestas de estas herramientas en el siguiente enlace https://revistas.itm.edu.co/index.php/tecnologicas/article/view/3363/3471

En todos los casos, el texto generado es correcto, gramaticalmente hablando, y se presenta de forma coherente. Además, cumplen con las indicaciones señaladas en cada uno de los “prompt”. Sin embargo, se evidencian errores en las referencias, las cuales, en la mayoría de los casos, no corresponden a la fuente indicada o incluso no existen. Por otro lado, las respuestas señalan las mayores preocupaciones sobre el uso de las herramientas basadas en LLM, aun cuando los “prompt” no hacían referencia a estas tecnologías en específico, esto puede ser positivo o no, según la necesidad real del usuario. Finalmente, y tal como lo indican las mismas respuestas, el texto no presenta una revisión profunda, ni evidencia posiciones con un sentido crítico fuerte. Estas falencias, y las demás expresadas en los textos, han sido también expuestos por equipos editoriales de diferentes revistas científicas [1]-[6]. Entre los cuestionamientos al uso de estas herramientas, se incluyen:

1. Ética y transparencia: ¿hay plagio o falta de originalidad?, ¿debe declararse explícitamente el uso de IA?, ¿puede una IA ser considerada coautora de un artículo?

   Calidad científica y rigor: ¿los textos generados son correctos y precisos?, ¿la interpretación de los datos está sesgada o incompleta?, ¿se reduce la diversidad expresiva en la comunicación científica?

   Impacto en la revisión por pares: ¿hay sesgos al momento de incluir o excluir revisores?, ¿las revisiones generadas por IA son de calidad?

   Propiedad intelectual y privacidad: ¿las IA hacen uso de material protegido por derechos de autor?, ¿los documentos generados con herramientas en línea pueden ser almacenados y usados sin el consentimiento de los autores?

   Sesgos algorítmicos: ¿los modelos de IA están perpetuando sesgos en temas, regiones o grupos demográficos?, ¿las herramientas que recomiendan artículos o autores favorecen temas o investigadores más populares?

   Desafíos en el proceso editorial: ¿hay sobrecarga en editores y revisores por la generación masiva de manuscritos?, ¿cómo identificar contenido generado por IA?

Sin desconocer los riesgos planteados, el equipo editorial de la revista TecnoLógicas, considera que el uso de IA en la escritura científica ofrece un conjunto de herramientas que puede contribuir a mejorar la eficiencia en los procesos de elaboración de manuscritos y gestión editorial de artículos científicos. Sin embargo, y considerando que el objetivo principal de una publicación científica es contribuir a la construcción del conocimiento que permite el avance de la ciencia y el desarrollo tecnológico; los autores deben asegurarse de que su uso no sustituya el esfuerzo de análisis y la elaboración de conclusiones basadas en resultados reales de investigación, para evitar introducir sesgos que puedan afectar el avance del conocimiento. Las herramientas basadas en IA pueden, efectivamente, apoyar en la estructuración de ideas y a mejorar la legibilidad de la exposición, pero el contenido debe permanecer fiel a los datos y a la interpretación humana que caracteriza el rigor científico.

En nombre del equipo editorial de TecnoLógicas, reiteramos nuestro compromiso con la excelencia y el acceso abierto a la información, promoviendo el desarrollo de prácticas que honren la ética científica y que contribuyan a la construcción de una comunidad investigativa sólida y responsable. Por eso, invitamos a nuestra comunidad académica a explorar y aprovechar estas herramientas basadas en IA, reconociendo sus beneficios, sin perder de vista los valores de la ética, la integridad y la transparencia, para lo que solicitamos realizar una declaración explícita sobre el uso de estas herramientas, en aras de fortalecer la confianza en los resultados de investigación.

Cómo citar: G. M. Díaz y A. Escobar, «Herramientas basadas en inteligencia artificial en la publicación científica, ¿herramientas de apoyo o promotoras de malas prácticas?», TecnoLógicas., vol. 27, n.º 61, p. e3363, dic. 2024. https://revistas.itm.edu.co/index.php/tecnologicas/article/view/3363/3472

https://revistas.itm.edu.co/index.php/tecnologicas/issue/view/142 (html)