Resumen: Las tecnologías emergentes han revolucionado al mundo en las últimas décadas. Pero, sin duda alguna, la aparición de la Inteligencia Artificial ha provocado una revolución tecnológica sin precedentes en distintas áreas de la sociedad, de manera transversal, remeciendo ámbitos que se asumían ajenos a este tipo de desarrollo, como lo son la ética y la educación superior. Este trabajo tiene por objetivo caracterizar, mediante un mapeo sistemático de literatura, los artículos publicados sobre Inteligencia Artificial en educación superior y sus implicancias éticas, entre enero de 2019 y marzo de 2024 en las bases de datos WoS y Scopus. Se analizaron 87 artículos, de los cuales se pudo identificar la necesidad de contar con regulaciones y normativas éticas para el uso responsable de la Inteligencia Artificial en educación superior, destacando la importancia de equilibrar sus beneficios con desafíos éticos. Asimismo, destaca la necesidad de desarrollar programas de estudio actualizados que permitan la formación de profesionales dotados de competencias digitales y conciencia ética.
Palabras clave: Educación Superior, Tecnologías Emergentes, Inteligencia Artificial, Ética, Integridad Académica.
Abstract: Emerging technologies have revolutionized the world in recent decades. But, undoubtedly, the emergence of Artificial Intelligence has provoked an unprecedented technological revolution in different areas of society, in a transversal manner, shaking areas that were assumed to be alien to this type of development, such as ethics and higher education. This work aims to characterize, through a systematic literature mapping, the articles published on Artificial Intelligence in higher education and its ethical implications, between 2019 and March 2024 in WoS and Scopus databases. Eighty-seven articles were analyzed, from which it was possible to identify the need for regulations and ethical standards for the responsible use of Artificial Intelligence in higher education, highlighting the importance of balancing its benefits with ethical challenges. It also stresses the need to develop updated curricula to train professionals with digital skills and ethical awareness.
Keywords: Higher Education, Emerging Technologies, Artificial Intelligence, Ethics, Academic Integrity.
Resumo: As tecnologias emergentes têm revolucionado o mundo nas últimas décadas. Mas, sem dúvida, a emergência da Inteligência Artificial tem provocado uma revolução tecnológica sem precedentes em diferentes áreas da sociedade, de forma transversal, abalando áreas que se assumiam alheias a este tipo de desenvolvimento, como a ética e o ensino superior. Este trabalho tem como objetivo caraterizar, através de um mapeamento sistemático da literatura, os artigos publicados sobre Inteligência Artificial no ensino superior e suas implicações éticas, entre 2019 e março de 2024 nas bases de dados WoS e Scopus. Foram analisados 87 artigos, a partir dos quais foi possível identificar a necessidade de regulamentação e normas éticas para o uso responsável da Inteligência Artificial no ensino superior, destacando a importância de equilibrar os seus benefícios com os desafios éticos. Salienta igualmente a necessidade de desenvolver currículos actualizados para formar profissionais com competências digitais e consciência ética.
Palavras-chave: Ensino Superior, Tecnologias Emergentes, Inteligência Artificial, Ética, Integridade Académica.
Monográfico
USO DE INTELIGENCIA ARTIFICIAL EN EDUCACIÓN SUPERIOR Y SUS IMPLICANCIAS ÉTICAS. MAPEO SISTEMÁTICO DE LITERATURA
USE OF ARTIFICIAL INTELLIGENCE IN HIGHER EDUCATION AND ITS ETHICAL IMPLICATIONS. SYSTEMATIC MAPPING OF THE LITERATURE
UTILIZAÇÃO DA INTELIGÊNCIA ARTIFICIAL NO ENSINO SUPERIOR E SUAS IMPLICAÇÕES ÉTICAS. LEVANTAMENTO SISTEMÁTICO DA LITERATURA
Rocío Vélez-Rivera rociovelez@udd.cl
Diana Muñoz-Álvarez dmunoza@udd.cl
Priscila Leal-Orellana pleal@udd.cl
Alejandra Ruiz-Garrido avruiz@udd.cl
Recepción: 01 Diciembre 2023
Revisado: 03 Marzo 2024
Aprobación: 09 Abril 2024
Publicación: 22 Abril 2024
El desarrollo científico tecnológico, unificado a partir del siglo XVII (Harari, 2014), se ha vuelto cada vez más competitivo y atractivo, permitiendo un crecimiento exponencial desde sus inicios a fines del siglo XIX (Bray y Hahn, 2022). Esta creciente atracción se ha acentuado en los últimos 20 años, con la generación de tecnología avanzada y, más aún, frente al surgimiento de tecnología de alta gama o emergente como Realidades Extendidas, Web3, Internet de las cosas, tecnología cuántica, tecnología de realidad inmersiva y, en los últimos años, con mayor impacto, la Inteligencia Artificial Generativa (Chui et al. 2023).
Desde el inicio de la pandemia hasta fines del año 2022, producto de la emergencia sanitaria provocada por el SARS Cov-2, el uso de tecnología en educación y especialmente en educación superior, tuvo un incremento insospechado en comparación a los años anteriores, lo cual se debió a la imposibilidad de asistir presencialmente a las universidades debiendo optar por estrategias tecnológicas que permitieron realizar clases a distancia, en modalidad online, con el fin de cumplir con las planificaciones anuales y los programas de estudio (Pelletier et al., 2022).
A raíz de esto, tomaron protagonismo las tecnologías relacionadas con estas modalidades, como el uso del modelo de diseño pedagógico Hyflex por medio del cual los estudiantes tuvieron la posibilidad de elegir la modalidad de asistencia que más les acomodara (presencial o virtual) a cada asignatura, según lo propuesto en el modelo original de Beatty (2019). Asimismo, se dio gran realce a distintas alternativas de asistencia online, como modalidades sincrónicas y asincrónicas, con lo cual se diversificó el uso de las microcredenciales y cursos alternativos en una amplia gama de oferta de formación flexible, planteando el proceso formativo mucho más fácil y atractivo con el uso de las tecnologías (Seldon et al., 2020).
Junto a lo anterior, se abrió la posibilidad de crear y desarrollar nuevos espacios de aprendizaje y socialización por medio del Metaverso, el cual hasta mediados del año 2022 figuraba como una de las tecnologías más prometedoras para el 2023 y su potencial impacto en educación superior (Cortés, 2022). Pero a fines del 2022, específicamente el 30 de noviembre de ese año, se lanzó a nivel mundial una noticia que cambiaría el rumbo del interés demostrado en las tecnologías mencionadas. Surgió el ChatGPT y con esto, el uso masivo de la IA generativa (Iglesias, 2023).
Luego de este importante hito, sin duda alguna, se puede afirmar que la IA ha revolucionado el mundo, y su utilización en la educación superior ha abierto nuevas oportunidades para la creación de contenido, así como para la comunicación y el aprendizaje.
Con el surgimiento de la IA y del Chat GPT, seguido por la aparición de otras herramientas de generación de contenido, se ha producido una revolución en la educación superior, lo que ha derivado en la aparición de preguntas esenciales respecto al tipo de formación que ofrecen estas entidades educativas, la que es mayormente tradicional, en función de la enseñanza, el aprendizaje y la evaluación de los profesionales en formación (Hughes, 2023), así como de la ética, la integridad académica y la responsabilidad en la implementación de la IA en este ámbito, buscando resguardar a su vez los principios éticos de la investigación, la innovación y el trabajo con seres humanos. El mismo autor, en el informe generado para el Foro Económico Mundial, señala que se necesita un nuevo modelo basado en la ciencia del aprendizaje y centrado principalmente en enseñar a los estudiantes cómo pensar, a pensar tecnológicamente, desarrollando habilidades como el pensamiento crítico y creativo, el razonamiento ético y la inteligencia emocional.
Asimismo, la UNESCO declara que uno de los temas clave para las instituciones de educación superior en el futuro inmediato, independientemente de su ubicación o nivel de recursos, es la necesidad de que su área de liderazgo esté capacitada para avanzar en la implementación responsable de la IA. Por ello, se recomienda tener presente la creación de capacidad interna, desarrollar un marco de políticas para la adecuada inserción de la IA, innovar en pedagogía y formación de competencias, promover la investigación y aplicación de la IA, movilizar el conocimiento y las comunidades en torno a esta tecnología y mejorar la igualdad de género para la IA y la educación superior (Liu et al., 2023).
En estos momentos, un nuevo modelo educativo basado en competencias (Cruz Picón y Hernández Correa, 2022) se encuentra mejor posicionado para la era de la IA con comparación a los modelos tradicionales, ya que estructura el itinerario de aprendizaje en torno al dominio de habilidades que sirven de base sobre la que se construyen competencias más complejas. Este planteamiento descarta las clases magistrales en favor de una clase invertida, en la que los estudiantes acceden al contenido de manera independiente en casa y luego se enfrentan a problemas del mundo real durante la clase, mediante técnicas de aprendizaje activo como el debate socrático, análisis de casos y la simulación.
Dentro de las posibilidades de uso que se le pueden dar a la IA en educación superior, no sólo se encuentran las funciones enfocadas a la pedagogía o a la formación de estudiantes y desarrollo docente, sino que abarca también otras áreas donde es posible la utilización de IA generativa y predictiva. En el informe 2023 de EDUCAUSE Horizont Report (Pelletier et al., 2023), se señala que la IA generativa utiliza técnicas de aprendizaje profundo como redes neuronales artificiales para producir nuevo contenido, para crear texto, sonidos e imágenes que imitan creaciones realizadas por humanos. En educación superior, los usos emergentes de IA generativa incluyen contenido instructivo como, por ejemplo, en evaluaciones o actividades, generación de comentarios de evaluación automatizados y servicios de apoyos básicos para docentes y estudiantes.
Por su parte, la IA predictiva utiliza algoritmos estadísticos básicos de aprendizaje automático para analizar datos históricos y hacer predicciones sobre nuevos datos o resultados futuros. Las aplicaciones de la IA predictiva en educación superior incluyen plataformas de aprendizaje personalizadas, gestión de inscripciones, asesoramiento y éxito estudiantil (Pelletier et al., 2023).
Esta tecnología permitiría realizar de manera eficiente una adecuada gestión del conocimiento tanto administrativo como académico, junto con la reducción de tiempo en análisis de datos y de costos asociados a los análisis y priorización de tareas al interior de la institución educativa (Galgotia & Lakshmi, 2023). Además, las herramientas de la IA tienen la capacidad de recopilar y procesar grandes volúmenes de datos que se almacenan en las universidades, pudiendo esto ser utilizado en investigaciones o actividades de creación de conocimiento, permitiendo destinar más tiempo a la relación interpersonal y apoyo a los estudiantes, dada la importancia de los docentes en el impulso de la práctica investigativa, sin perder su rol de formadores (Maussumbayev et al., 2022). Esto implicaría un cambio en la forma en que las instituciones de educación superior capacitan y apoyan a sus profesores, así como una nueva mirada en las funciones que realizan los docentes.
La inserción y avances de la IA en educación superior ha sido gradual y ha traído consigo grandes beneficios, además de los potenciales expuestos hasta ahora. Pero, asimismo, conlleva riesgos éticos, de lo cual aún se sabe poco y para lo que es necesario establecer marcos regulatorios (Nguyen et al., 2023), siendo actualmente la integridad académica la vía más eficiente de autorregulación para su adecuada utilización, así como las acciones regulatorias llevadas a cabo por los comités de ética al interior de cada institución educativa (Rojas et al., 2023). En esta línea, el autor David Leslie (2019) en su libro titulado Comprender la ética y la seguridad de la inteligencia artificial, señala que la ética de la IA es “un conjunto de valores, principios y técnicas que emplean estándares ampliamente aceptados de lo correcto y lo incorrecto para guiar la conducta moral en el desarrollo y uso de las tecnologías de Inteligencia Artificial” (2019, p. 3). A su vez, los autores Seldon et al. (2020) dan cuenta de los posibles riesgos éticos que se deben considerar frente el uso desregulado de IA, los cuales pueden llegar ser: la ampliación de la marginación, la desigualdad, inequidad, injusticia y discriminación existente en la sociedad, por medio del análisis y generación de datos sesgados, poco transparentes o inexplicables.
Frente a estos riesgos, los mismos autores en el Marco ético de la IA en la educación del Institute for Ethical AI in Education, señalan que los procesos éticos deben estar presentes desde el proceso de desarrollo de la IA, incorporando las expectativas éticas tanto de los diseñadores como de los propios desarrolladores. Incluso van más allá con su propuesta, indicando que un marco ético para el uso de IA en educación es fundamental para compartir una visión ética con todos los actores involucrados en el proceso educativo, comenzando por la creación de la IA. Con este marco, los diseñadores de recursos IA son responsables de garantizar que los sistemas no sean discriminadores para ningún grupo de estudiantes, que no manipule a los usuarios y que los recursos estén diseñados desde una perspectiva pedagógica.
Por último, la UNESCO, como organización que ha liderado la discusión mundial en esta materia, presenta a modo de recomendación una lista de valores y principios sobre la ética de la IA, señalando la necesidad de profundizar en la ética de la IA en educación superior, dada su adopción y rápido desarrollo (Escotet, 2023, como se citó en Liu et al., 2023). Entre los valores destacan:
El respeto, la protección y promoción de los derechos humanos y las libertades fundamentales, y de la dignidad humana; el florecimiento del medio ambiente y los ecosistemas; garantizar la diversidad y la inclusión; vivir en sociedades pacíficas, justas e interconectadas (Liu et al. 2023, p. 61).
Y, entre los principios:
Proporcionalidad e Inocuidad, seguridad y protección. equidad y no discriminación, sostenibilidad, derecho a la intimidad y protección de datos, supervisión y decisión humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas, sensibilización y alfabetización, gobernanza y colaboración adaptativas y de múltiples partes interesadas (Liu et al. 2023, p. 61).
Dado lo anterior, surge la pregunta con relación a qué información existe respecto a la utilización de IA en educación superior y sus implicancias éticas. Por lo cual, el objetivo de esta investigación es caracterizar mediante un mapeo sistemático de literatura, los artículos publicados sobre Inteligencia Artificial en educación superior y sus implicancias éticas, entre enero del año 2019 y marzo del año 2024.
Para este estudio, se realizó un Mapeo Sistemático de Literatura (MSL), lo que consiste en una amplia revisión de literatura para identificar, analizar y clasificar la información y datos relevantes de estudios primarios (Petersen et al., 2015) referentes al uso de IA en educación superior y sus implicancias éticas. Este método de investigación permite identificar evidencia en un dominio determinado y el vacío de conocimiento existente respecto al fenómeno de estudio, dando la posibilidad de identificar información relevante, la que puede ser estudiada con posterioridad y profundidad por medio de Revisiones Sistemáticas de Literatura (Celaya et al., 2020).
Esta búsqueda fue realizada por medio de un protocolo de análisis basado en el trabajo de Ramírez-Montoya y Lugo-Ocando (2020), con el fin de dar rigurosidad y objetividad al estudio, por medio de las siguientes fases:
- Generación de preguntas de investigación. En esta fase se plantearon 5 preguntas de investigación o Research Questions (RQ), las que guiaron la revisión de este mapeo. Estas preguntas fueron generadas con el objetivo de caracterizar la información existente en la actualidad respecto al uso de Inteligencia Artificial en educación superior y sus implicancias éticas, identificando el país donde se realizó la investigación, el idioma en que fue publicada, la disciplina o áreas disciplinares correspondientes, la temática abordada y la problemática tratada o identificada, tal como se detalla en la tabla 1:
- Proceso de búsqueda. Este proceso consistió en la búsqueda de artículos de revistas y actas de congresos indexadas en las bases de datos de Web of Science (WoS) y Scopus, siendo las dos bases de datos con mayor reconocimiento científico (Bailón et al., 2023), por medio de cadenas de búsquedas booleanas que incluyeron todos los campos de los términos: Inteligencia Artificial, ética y educación superior, realizándose la búsqueda de la siguiente manera: Intelligence Artificial (All Fields) AND Ethic (All Fields) AND Higher Education (All Fields). Luego, se limitó los años de búsqueda entre el 2019 y 2024, siendo la fecha de búsqueda el 5 de marzo del año 2024.
- Criterios de inclusión y exclusión. Con el fin de realizar una búsqueda amplia que abarcara la mayor cantidad de documentos en el tema seleccionado, se incluyeron artículos científicos y publicaciones generadas en actas de congresos, entre los años 2019 y marzo 2024, todos los idiomas. Como criterios de exclusión, se descartaron libros, capítulos de libros, cartas, material editorial y otro tipo de publicaciones. Se excluyeron además los artículos repetidos en WoS y Scopus, dando prioridad a aquellos obtenidos en WoS, dada la claridad y orden de la información que entrega esta base de datos al extraer y descargar los resultados.
- Proceso de selección y extracción de datos. Para el proceso de selección, se procedió a leer los artículos, extrayendo datos esenciales para su posterior análisis. En esta fase, tras aplicar los criterios de selección ya mencionados en la fase anterior, se procedió a excluir aquellos artículos no pertinentes a nuestro estudio, que no abordaban alguno de los tres temas principales de la búsqueda, por ejemplo, artículos que hablaban del uso de IA en educación superior, pero no abordaban sus implicancias éticas. Asimismo, se excluyeron aquellos textos que abordaban implicancias éticas de la IA, pero en contextos ajenos a la educación superior; así como también, artículos que analizaban el uso de tecnologías en educación superior, pero que no tuviera relación con la IA.
- Síntesis de datos. En esta fase se confeccionó una matriz de metadatos con la información de cada una de las publicaciones seleccionadas para el análisis, extraídos de WoS y Scopus, referentes a: tipo de publicación, autores, título del artículo, palabras claves, resumen, revista. Además, se recopilaron los datos obtenidos en cada artículo en función de las 5 preguntas de investigación presentadas en la fase 1.
Finalmente, con el propósito de presentar de manera ordenada y transparente el proceso de búsqueda, filtrado y selección de los artículos, siguiendo la declaración de PRISMA (Preferred Reporting Items for Systematic Review and Meta-Analysis) para la realización de una búsqueda controlada y de calidad, se realizó un diagrama de flujo —Figura 1— que da a conocer el proceso de selección de los resultados (Page et al., 2021), el cual se presenta a continuación.
Tras el proceso de filtrado por criterios de inclusión, exclusión, selección y pertinencia, quedaron 87 artículos, los que fueron utilizados para esta revisión de literatura.
Los resultados presentados a continuación, corresponden a las respuestas de cada una de las RQ planteadas en la metodología.
De un total de 87 artículos publicados entre los años 2019 y 2024, la mayoría fueron realizados en países europeos, con una representación de un 43,7 % del total, correspondiente a 38 artículos, liderado por Reino Unido y seguido por España. Los países asiáticos, principalmente China, destacaron en esta revisión con la presencia de un 26,4 % de publicaciones del total analizado, correspondiente a 23 artículos. En tercer lugar, se encuentra Norteamérica con un 14,9 % de representatividad, siendo Estados Unidos y Canadá los principales países en realizar publicaciones respecto al uso de Inteligencia Artificial en educación superior y sus implicancias éticas, con un total de 13 artículos. Los demás continentes, representados por Sudamérica, África y Oceanía, tienen una representación igual o inferior al 11,4 %, con una contribución de 3 o 4 publicaciones por continente. Esta información se grafica en las figuras 2 y 3.
Respecto a la distribución de publicaciones entre los años 2019 y 2024, el año 2023 —Figura 4— es el que posee una mayor frecuencia de publicación, agrupando un 49,4 % del total de publicaciones entre los años 2019 y 2024, con un total de 43 publicaciones en las bases de datos WoS y Scopus. Seguido por los años 2021 con un 12,6 %, correspondiente a 11 publicaciones, y el año 2024 con un 11,5 %, correspondiente a 10 publicaciones. Cabe destacar que esta revisión se realizó al principio del mes de marzo del 2024, por lo que este porcentaje representa sólo los primeros meses de ese año, pudiendo aumentar en los siguientes meses, dada la tendencia del año 2023. Los años 2020 y 2019, tienen una representatividad de 8 % y 2,3 % respectivamente.
Respecto al idioma de publicación con mayor frecuencia fue el inglés, con un 98,8 % de representatividad, correspondiente a 86 artículos publicados en este idioma de un total de 87 artículos revisados. Sólo 1 artículo fue escrito y publicado en idioma ruso, pese a que la distribución de países abarcó 6 continentes, donde se hablan distintos idiomas.
De la totalidad de artículos analizados en este mapeo, se pudieron identificar 13 disciplinas diferentes —Figura 5—, siendo Educación la que obtuvo una mayor frecuencia con una representatividad de un 48,3 %, correspondiente a 42 artículos. Cabe destacar que la categoría disciplinar educación es amplia y abarca diferentes ámbitos de la educación superior como, gobernanza, integridad académica y adecuaciones institucionales para abordar implicancias éticas de la IA en distintas áreas, de manera general y sin localizar una disciplina en particular. La segunda área de interés con mayor frecuencia es la disciplina correspondiente a ciencias de la salud, con un 16,1 % de representatividad, correspondiente a 14 artículos que se centran en distintas carreras y áreas de esta disciplina. En tercer lugar, se encuentran agrupadas disciplinas correspondientes a tecnología, ingeniería y economía, con una representatividad del 10,3 %, 6,9 % y 5,7 %. Finalmente, el resto de las disciplinas que manifiestan interés por este tema, se distribuyen entre comunicación, derecho, psicología, ciencias sociales, geología, humanidades, ingeniería agrícola y turismo.
Las temáticas desarrolladas y presentadas en las publicaciones, en base al uso de IA en educación superior y sus implicancias éticas, son variadas y responden a las necesidades e interrogantes de cada disciplina. Estos temas presentan puntos de convergencia por lo que fue posible encontrar áreas comunes y generar categorías que englobaran los temas generales. En esta oportunidad, y acorde a la temática de este mapeo, se consideró la ayuda del ChatGPT-4, el cual a través de prompts generó categorías y sus respectivas definiciones en base a las temáticas registradas en la base de metadatos. Una vez generadas las categorías y sus definiciones, estas fueron revisadas e intervenidas por el equipo de investigación. A continuación, se presenta el último prompt utilizado —Tabla 2—
Dentro de las temáticas más frecuentes se encuentran aquellas que hacen referencia a las consideraciones éticas y legales del uso de la IA en educación superior, abordando distintas áreas disciplinares como ciencias de la salud, educación y medios de comunicación. En segundo lugar, otra de las temáticas más desarrolladas tiene relación a la integración de IA en el área de la salud en general. En tercer lugar, la formación y desarrollo de competencias en conciencia ética en los actores de la formación universitaria fue un tema bastante recurrente en los artículos analizados. En cuarto lugar, se encuentra el uso ético de la IA en la creación de investigaciones, vinculado a la integridad académica. Por último, en quinto lugar, se encuentra el desarrollo y mejora de competencias digitales en estudiantes del área de la salud, en función de una comprensión ética del uso de tecnología digital.
A continuación, se presentan las categorías generadas con sus respectivas definiciones —Tabla 3—:
En los artículos analizados en esta revisión, fue posible identificar problemáticas planteadas por los autores y que, en su mayoría, dieron origen a las investigaciones, así como el abordaje de las mismas, con propuestas de soluciones concretas, aunque esto último fue menos frecuente, dado que más bien fueron planteadas como necesidades o desafíos que deben ser abordados a mediano y corto plazo. Al igual que en las temáticas tratadas en la RQ4, las problemáticas identificadas son variadas y se vinculan a las necesidades de cada disciplina, convergiendo en temáticas o problemas comunes que permitieron generar categorías generales y su respectiva descripción. Esto fue posible con ayuda del ChatGPT el que por medio de prompts elaboró una síntesis de las problemáticas registradas en la base con metadatos. Una vez generadas las categorías y sus definiciones, estas fueron revisadas e intervenidas por el equipo de investigación. A continuación, se presenta el último prompt utilizado —Tabla 4—:
Entre las problemáticas más frecuentes y con una mayor frecuencia, se presenta la necesidad de regular éticamente las prácticas con uso de IA en educación superior. En segundo lugar, se presenta la necesidad de contar con formación ética para los futuros profesionales en el uso de IA. En tercer lugar, surge la problemática vinculada a la necesidad de la integración de la IA en el currículo. En cuarto lugar, se plantea la necesidad de fomentar la reflexión crítica y el pensamiento ético en el uso de la IA. En quinto lugar, se expone la necesidad del desarrollo de alfabetización digital en el área de la salud para la utilización de la IA. Por último, se presenta la necesidad de generar políticas educativas dentro de un marco legal para guiar el uso adecuado de la IA.
A continuación, se presentan las categorías generadas con sus respectivas definiciones —Tabla 5—:
Tras haber realizado el análisis de 87 publicaciones, se ha podido identificar que el uso ético de la Inteligencia Artificial en educación superior es un tema al que se le ha dado cada vez mayor importancia al interior de las universidades, tanto a nivel institucional como en las carreras y áreas disciplinares. Esto se manifiesta en la necesidad planteada por los distintos autores sobre la generación de un marco regulatorio a mediano y corto plazo, dado el dinamismo y rapidez con que ha ido evolucionando la IA en los últimos años, especialmente con la inserción del uso de ChatGPT en las universidades. Esto es posible de evidenciar en el aumento explosivo de las publicaciones en el año 2023 en relación con el 2022 —Figura 4— lo que coincide con el lanzamiento del ChatGPT el 30 de noviembre del 2022 (Iglesias, 2023).
Dada las características de la IA generativa, sus potenciales beneficios y posibles riesgos, ha surgido una preocupación a nivel transversal en las distintas áreas disciplinares en los procesos de enseñanza, aprendizaje, evaluación, retroalimentación, desarrollo de competencias digitales y otros, así como en su uso administrativo en cuanto al manejo de datos en las instituciones de educación superior.
Ante esta necesidad, en el año 2023 un grupo de 1.000 académicos y líderes del sector privado publicaron una carta abierta pidiendo que se pausara el desarrollo del ChatGPT para investigar y comprender sus potenciales riesgos. Esta carta finalmente recogió 30.000 firmas, visualizando la demanda de una mayor regulación por medio de marcos jurídicos y normativos (Liu et al. 2023).
Dentro de los países que han demostrado un mayor interés por publicar en estos temas, destacan aquellos pertenecientes al hemisferio norte, principalmente Europa, Norteamérica y en Asia, China – Figuras 2 y 3 – lo que se relaciona con un mayor acceso y desarrollo digital en comparación con continentes ubicados en el hemisferio sur como Sudamérica y África (Swissinfo, 2021). Asimismo, el idioma más utilizado en las publicaciones analizadas en esta revisión es el inglés, con un 98,8 % de representatividad, siendo además este el idioma más utilizado en Norteamérica y en parte de Europa. Esto se podría explicar debido a que, según la editorial Elsevier, el inglés es el idioma con mayor impacto en la producción científica mundial, representado con un 52 % de la producción, versus un 2 % de las publicaciones escritas en español (Elsevier, 2019).
Por otro lado, al distinguir las temáticas – Tabla 3 – y problemáticas – Tabla 5 – identificadas en los artículos analizados, se pueden encontrar puntos convergentes como, por ejemplo, la necesidad de desarrollar normativas legales sobre el uso de la IA al interior de las universidades, con el fin de regular prácticas éticas y justas, acompañado de políticas educativas claras para su adecuado uso.
Otro tema por destacar es la necesidad de contar con el desarrollo de competencias y alfabetización digital para el adecuado uso de la IA, acompañado de la formación ética y reflexión crítica de los estudiantes y profesionales en las distintas disciplinas para el uso responsable de la IA, destacando en el área de la salud, la necesidad de la integración de la IA en el currículo. Tal como lo señala Di Battista et al. (2023), respecto al uso de tecnologías emergentes y a las habilidades requeridas para el siglo XXI, entre las habilidades que serán demandadas hacia el año 2027 se encentran el desarrollo de competencias superiores y complejas en función de un pensamiento tecnológico más allá del manejo específico de herramientas, el uso de Big data e IA, así como el desarrollo de pensamiento analítico y pensamiento creativo.
Por último, destaca la importancia del impacto de la IA en la creación de investigaciones, análisis de datos, generación de artículos científicos, y su impacto en la productividad e integridad académica, lo cual se vincula con la necesidad de generar normativas claras respecto al uso de la IA y entregar lineamientos y formación a los docentes e investigadores, quienes al igual que los estudiantes, deberán adquirir competencias digitales para la creación y difusión de contenido en distintos contextos (De la Cruz Campos et al. 2023).
Frente a la evidencia encontrada por medio de este trabajo, se espera poder contribuir a la necesidad de la educación superior por contar con normativas legales y regulaciones claras respecto al uso de la Inteligencia Artificial y sus implicancias éticas, dada la urgencia que se ha evidenciado en los artículos analizados por contar con este tipo de normativas.
Asimismo, se ha podido identificar la necesidad de desarrollar competencias digitales en el uso de Inteligencia Artificial en todos los niveles y actores que son parte de instituciones de educación superior, tanto para la actualización y mejora de los procesos académicos, como para el progreso de procesos propios de la gobernanza universitaria.
Para ello, las universidades deben ser capaces de formar profesionales que incorporen en sus estrategias de trabajo la utilización de tecnologías emergentes, de manera colaborativa, responsable, reflexiva y crítica, con una visión proyectiva frente a su rápida evolución, sin ser marginados. Ante esto, es necesario que los estudiantes conozcan los límites éticos para el adecuado uso de la tecnología, y para ello, la labor que realiza la comunidad académica es fundamental en el proceso de concientización y de enseñanza por medio de acciones coherentes con la integridad académica.
Respecto a las limitaciones de este trabajo, se encuentra la búsqueda realizada sólo en dos bases de datos, WoS y Scopus, lo que a su vez permitió acceder a artículos científicos indexados que aseguran su calidad. Asimismo, a modo de proyección, este mapeo al ser realizado a fines del año 2024, sin duda alguna se podrá acceder a una mayor cantidad de información, dado el ascendente progreso que han tenido las publicaciones en este tema.
Como reflexión final, cabe preguntarse en qué momento se deben tomar resguardos respecto al uso ético y responsable en la implementación de la IA en educación superior, por lo que será fundamental el tiempo y el modo en que se enfrenten estas normas. Según el dilema de control de Collingridge (1982), las consecuencias sociales provocadas por una nueva tecnología no pueden anticiparse del todo, dado su incipiente desarrollo, lo que conllevaría al problema de la información. Pero, por otro lado, al obtener suficiente evidencia de su impacto, tanto positivo como negativo, el uso de la tecnología se encontrará tan arraigada en la sociedad que su control resultará difícil, derivando en el problema del poder.
CONTRIBUCIÓN DE LOS AUTORES:: Rocío Vélez-Rivera (Investigación, análisis de datos y redacción de artículo), Diana Muñoz-Álvarez (Investigación, análisis de datos y redacción de artículo), Priscila Leal-Orellana (Investigación, análisis de datos y revisión de artículo) y Alejandra Ruiz-Garrido (Análisis de datos y revisión de artículo).
FINANCIACIÓN:: Esta investigación no recibió ninguna financiación externa.
