Eduética en el uso de la inteligencia artificial a través de la ingeniería de prompts..

Eduética en el uso de la inteligencia artificial a través de la ingeniería de prompts*

Education in the use of artificial intelligence through

prompt engineering

Juditas Delany Torrealba Dugarte[*]*

https://orcid.org/0000-0001-6472-1518

Guasdualito, estado Apure / Venezuela

Resumen

El presente ensayo tiene como objetivo abordar el tema de la educación ética en el uso de la Inteligencia Artificial (IA) a través de la Ingeniería de Prompts. La IA representa una disciplina en constante crecimiento y desarrollo, que busca dotar a las máquinas de capacidades humanas como el aprendizaje, la percepción y el razonamiento. La Ingeniería de Prompts, por su parte, se refiere a la técnica utilizada para guiar y controlar el comportamiento de los sistemas de inteligencia artificial mediante instrucciones específicas. En este sentido, resulta fundamental analizar la importancia de la eduética, es decir, la ética aplicada a la educación, en el contexto de la inteligencia artificial, para asegurar un uso responsable y beneficioso de esta tecnología en diversos ámbitos.

Palabras Clave: Eduetica, Inteligencia Artificial, Ingeniería de Prompts.

Abstract

The present essay aims to address the topic of ethical education in the use of Artificial Intelligence (AI) through Prompt Engineering. AI represents a constantly growing and evolving discipline, seeking to endow machines with human-like capabilities such as learning, perception, and reasoning. Prompt Engineering, on the other hand, refers to the technique used to guide and control the behavior of artificial intelligence systems through specific instructions. In this sense, it is essential to analyze the importance of eduethics, i.e., ethics applied to education, in the context of artificial intelligence, to ensure a responsible and beneficial use of this technology in various fields.

Keywords: Eduethics, Artificial Intelligence, Prompt Engineering.

Eduética en el uso de la Inteligencia Artificial a través

de la Ingeniería de Prompts

En el mundo actual con su rápida evolución, el uso de la Inteligencia Artificial (IA) por medio de grandes Modelos de Lenguaje Natural (MLL) es cada vez más frecuente en diversas disciplinas. Acarreando que se torne esencial que el sector educativo actual esté capacitado en la utilización de la IA. Ante el auge en su uso, pero la falta de una debida instrucción en IA ha provocado el uso distorsionado de los modelos de Lenguaje Natural como CHAT GPT, BING, PERPLEXITY, GEMINI, AITHOR, por mencionar algunos. Esto ha ido presentando graves consecuencias, sobre todo ante la generación de órdenes (prompts) en modo particular o su uso a gran escala bajo una alta gama de órdenes (Ingeniería de Prompts).

La aplicación desleal de la IA, al no citarse como fuente de consulta o la confiabilidad de sus argumentos, sobre todo en el ámbito académico, genera un riesgo manifiesto en el vínculo Facilitador-Participante. Se crea una triada Facilitador-IA-Participante que, sin el debido conocimiento de la Ingeniería de Prompt por el docente, puede relegar al Facilitador a una postura totalmente pasiva. Esto impide generar un aporte crítico en el Proceso enseñanza-aprendizaje, ante el imparable uso de la Inteligencia Artificial que se está teniendo en estos momentos.

Este ensayo argumentará que la educación en el uso de la IA es necesaria y que la Ingeniería de órdenes (prompts) puede ayudar a mejorar la educación bajo la aplicación de la IA, así como a prevenir el uso indebido de la tecnología. Sin embargo, también hay manifestaciones en contra, que sostienen que la educación bajo la interacción de la IA no es necesaria ni eficiente en todos los entornos educativos. Además, el uso indebido de la IA aún puede ocurrir reiteradamente, incluso existiendo un debido conocimiento de las herramientas que conforman la Ingeniería de Prompts y el tipo de órdenes que se le deben solicitar al modelo de lenguaje.

La IA es cada vez más frecuente en muchos sectores de la vida diaria (académica y laboral) siendo necesaria la capacitación en su aplicación ordinaria. Diversos campos de las ciencias, ya están utilizando la IA para mejorar la eficiencia y la precisión. Como resultado, la demanda de profesionales con habilidades en IA y la potencialidad de estudiantes y facilitadores en este campo está aumentando. Sin un conocimiento técnico, es posible que un gran sector de la sociedad no pueda adaptarse de manera inmediata al cambiante mundo académico y laboral que se ve rodeado bajo la Inteligencia Artificial, por lo que su conocimiento, es relevante para la fuerza profesional laboral del presente y el futuro.

Sin embargo, aunque la Inteligencia Artificial a través del uso de Modelos de Lenguaje Natural (MLL) otorgan respuestas inmediatas a interrogantes mucho más rápido que el proceso básico de pensamiento que es generado por los seres humanos, intelectuales como: Noam Chomsky, el lingüista Ian Roberts y el experto en IA, Watumull (2023) han expresado que:

…los avances “supuestamente revolucionarios” que presentan los desarrolladores de la IA son motivo “tanto de optimismo como de preocupación”. Desde la primera vereda, porque pueden ser útiles para resolver ciertas problemáticas, mientras que, desde la segunda, porque “tememos que la variedad más popular y de moda de la inteligencia artificial (el aprendizaje automático) degrade nuestra ciencia y envilezca nuestra ética al incorporar a la tecnología una concepción fundamentalmente errónea del lenguaje y el conocimiento…

Por muy útiles que puedan ser estos programas en algunos ámbitos concretos (como la programación informática, por ejemplo, o para sugerir rimas para versos ligeros), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren profundamente de la forma en que los seres humanos razonan y utilizan el lenguaje (p.13).

Esto por lo tanto conlleva a ver una dualidad en el auge de la Inteligencia Artificial y por ende del modo de razonamiento que presenta el uso de la Ingeniería de Prompt. Respecto a lo que son los factores críticos que detentan y representan la interacción hombre máquina, equiparando la llegada de la Inteligencia Artificial (IA) al contexto educativo como que si se estuviera repitiendo nuevamente el fenómeno esbozado por Hanna Arendt denominado “La banalidad del mal”. Arendt (2013) afirma que algunos individuos actúan dentro de las reglas del sistema al que pertenecen sin reflexionar sobre sus actos. No se preocupan por las consecuencias de sus actos, solo por el cumplimiento de las órdenes. Y ante la mecanización que la IA a través de la Ingeniería de Prompts puede otorgar este tipo de resultados.

En otro orden de ideas, autores como Margaret Boden, Ray Kurzweil y Eliezer Yudkowsky han destacado la importancia de la IA y la Ingeniería de Prompts como herramientas significativas para el avance de la humanidad. Boden, especialista en IA de la Universidad de Sussex, Kurzweil, Director de IA en Google, y Yudkowsky, experto en Inteligencia Artificial conocido por su teoría de la Inteligencia Artificial amigable, han subrayado los beneficios potenciales de estas tecnologías.

Sin embargo, Boden (2023), desde una perspectiva más conservadora, afirma que es necesario actuar con equilibrio. Ella sostiene que debemos diferenciar entre el conocimiento de la IA y la sabiduría que la mente humana ha desarrollado a lo largo de su evolución. En este contexto, al acoger los preceptos de estos autores, surge el concepto de Eduética, una serie de principios destinados a mantener el equilibrio entre los avances tecnológicos y el conocimiento humano.

Por lo tanto, la ingeniería de ordenes o prompts puede ayudar a mejorar la educación

orientada al conocimiento de la IA proporcionando un enfoque estructurado para diseñar los referidos avances, bajo una integralidad y eficiencia, en el que los educadores identifiquen áreas donde los estudiantes pueden necesitar apoyo adicional con el acompañamiento de la IA, por lo que al utilizar ingeniería de ordenes o prompts, los educadores pueden crear un plan de estudios que satisfaga las necesidades de todos los estudiantes y los prepare para el mercado académico y laboral del futuro. Es en ese dimensionamiento de la Eduética en la IA aplicable a la Ingeniería de Prompts que se trae a colación la opinión de la investigadora Bryson (2024) quien al respecto manifiesta que:

La ética en la IA va más allá de ser un mero discurso teórico; es un pilar fundamental para mantener unida a nuestra sociedad. La ética se presenta como una forma de política que puede ser mejorada a través de un mayor conocimiento científico y social. Es mediante un enfoque humano, transparente, seguro y responsable que garantizamos que la IA se utilice de manera beneficiosa para las personas y el planeta. (p.2).

Es así que la ética enfocándose estrictamente en la educación puede ayudar a prevenir el uso indebido de la tecnología, al tener consecuencias graves, incluida la discriminación y los prejuicios. Y al existir personas educadas tienen menos probabilidades de hacer un mal uso de la IA y es más probable que la utilicen de manera responsable y coherente sin decidir recurrir a la banalidad de Arendt (2013) ya explicada previamente, generando por el contrario un beneficio colectivo.

Es posible que la educación en IA no sea necesaria para todos los ámbitos sobre todo en el ámbito de las ciencias sociales al momento de tener que mirar a través de diversas perspectivas criticas los principales problemas sociales y hacer una reflexión. Por lo que este justo equilibrio de tomar a la IA como un brazo, un soporte, un ayudante para facilitar ciertas tareas no implica que reemplaza en su totalidad al pensamiento humano. El otorgar ordenes o prompts muchas veces deberán circunscribirse en dar escenarios referenciales que sirvan mas no como elementos concluyentes dado que todos los entornos y grupos son heterogéneos.

Por tal motivo la eduética conlleva a que tiene que existir en el ámbito educativo una serie de valores que permitan sostener una buena interacción entre la Inteligencia Artificial de lo que se puede mencionar:

· Equidad: La IA a través del uso de la Ingeniería de Prompts debe ser utilizada de manera equitativa y no discriminatoria.

· Transparencia: Los sistemas de IA deben ser transparentes y comprensibles para los usuarios no usando ordenes que puedan causar confusión.

· Privacidad: Los datos personales deben ser protegidos.

· Responsabilidad: Los responsables del uso de la IA en la educación deben ser responsables de sus decisiones sin que las órdenes dadas vayan más allá de lo peticionado.

Es así que basando a la Eduética en estos valores fundamentales donde se dicta como se debe impulsar el equilibrio necesario en la relación docente-IA-participante. Factores como la información de los estudiantes al solo ser recopilados para fines educativos específicos y con el consentimiento de los estudiantes o sus padres, conjuntamente con los datos con el anonimato

Así como en el diseño de órdenes y prompts diseñados para minimizar el sesgo, teniendo el deber de ser auditados regularmente para detectar y corregir sesgos que puedan afectar la obtención de información sustentada.

También la eduética busca fundamentar como los estudiantes deben ser informados sobre la utilización de la IA en la educación. Así bajo la creación de normativas donde se clarifique como la IA es un ayudante mas no una herramienta de banalidad, creándose mecanismos que permitan la presentación de quejas y reclamos ante el uso distorsionado de la misma. Y en el ámbito investigativo, los estudiantes deban aprender sobre el potencial de la IA, pero también sobre los riesgos y desafíos éticos que presenta la omisión de su uso, debiendo además ser críticos y auténticos en aquellas expresiones que le ha otorgado la IA y que ante el hallazgo el mismo no sea infalible ni mucho menos confiable, por lo que se debe buscar erradicar en el uso de ordenes o prompts el enaltecimiento de la trampa sino que por el contrario se construya un escenario netamente transparente que permita una adecuada evolución.

En conclusión, a lo largo de estas líneas se ha querido esbozar el impacto de la IA desde sus términos, posturas críticas de detractores y protectores, su impacto en la educación y su necesaria alineación con la ética para su existencia afirmado por la autora que la IA tiene el potencial de mejorar la educación de muchas maneras, pero también presenta algunos desafíos que deben ser considerados y que solo bajo la construcción de modelos orientados a diseñar su uso es que puede lograrse.