La pregunta por la enseñanza de la ética como límite de la inteligencia artificial

The Question about Ethics Teaching as Boundary of Artificial Intelligence

Recio Sastre, Alejandro. (2025). La pregunta por la enseñanza de la ética como límite de la inteligencia artificial. Sophia, Colección de Filosofía de la Educación, (39), pp. 53-81.

Llegar a preguntarse si un robot podría enseñar ética no es una cuestión baladí, ni se articula como una pregunta capciosa llevada al extremo para provocar discursos agitados henchidos de controversias. Más bien, a través de esta pregunta se simboliza un no retorno en la confianza acrítica depositada en el uso de las tecnologías. Interesa presentar cómo la forma en que los programas virtuales de aprendizaje, así como las inteligencias artificiales, copan las actividades e instituciones educativas, lo que presenta un momento al que no se ha llegado fortuitamente. Se vinieron produciendo una serie de cambios en la organización de la sociedad con anterioridad que incluyeron nuevas formas de producir, comerciar, consumir y compartir información. Estos cambios explican el hecho de que el avance de la racionalidad instrumental, acompasada de una batería de nuevas tecnologías, implique preguntarse hoy sobre la posibilidad de que un robot enseñe ética. Y no es una novedad que las máquinas y programas de IA realicen cada vez más trabajos humanos, dicho de otro modo, desempleen a los humanos.

Por tanto, la idea a defender en el presente manuscrito es que la inteligencia artificial (IA) aplicada a la educación encuentra su más determinante limitación en la enseñanza y el aprendizaje de la ética. La forma en que se conciben y crean imaginarios sociales en torno a las tecnologías de la información y la comunicación (TIC) y la IA en la actualidad lleva indefectiblemente a la pregunta “¿podría un robot enseñar ética?”. Así, se toman en cuenta dos posicionamientos independientes entre sí, pero que no dejan de ser partes de un mismo argumento falaz a la hora de concebir a la educación en relación con las tecnologías y sus potenciales transformaciones. Un primer posicionamiento considera que el sistema educativo y las prácticas pedagógicas actuales permiten cambios que vislumbran innovaciones acordes al contexto en que se ven inmersos los sujetos educativos actuales, alrededor de quienes se construyen procesos que integran a las nuevas tecnologías. El otro posicionamiento ve en las tecnologías del presente siglo, especialmente en la IA, un sustitutivo de la educación, a la que históricamente se le encomendó mejorar a los seres humanos; a criterio de los transhumanistas las tecnologías y los avances científicos perfeccionarán por sí solos a la especie humana.

A la luz de lo anterior, el objetivo de este manuscrito es confrontar la idea de que las máquinas tienen capacidad para enseñar, considerando como límite infranqueable la enseñanza y el aprendizaje de la ética en particular y de los asuntos del espíritu humano en general.

El primer problema que se plantea parte del traslado del aula a las pantallas digitales y el reemplazo de tecnología educacional presencial por plataformas virtuales de educación virtual, lo que anticipa situaciones perfectamente encajables en imaginarios transhumanistas. Igualmente, la hibridación entre la presencialidad y la virtualidad, cada vez más mediados por programas de IA, son una realidad en al menos una parte del mundo. Otro problema radica es la sustitución de mano de obra humana por robots y sistemas de IA, lo que reduce considerablemente el número de empleos disponibles. Los cambios paradigmáticos que se están generando alrededor de la concepción del trabajo afectan también a la educación, debido en buena medida a que esta se había configurado en relación con la empleabilidad dentro de los espacios de instrucción capitalistas, extendiéndose a distintas funciones productivas, administrativas, comerciales y formativas.

Con arreglo a los problemas formulados surge la inquietud sobre la posible sustitución de los docentes humanos por plataformas educativas, aplicaciones e incluso en un futuro quizá no tan lejano, por robots con alto nivel de interacción con estudiantes. Si bien esto resulta factible, tiene muchas limitaciones aún, la controversia de fondo viene de la mano de la enseñanza y la discusión de valores deontológicos, donde la IA podría cumplir ciertos roles que, en ningún caso, lograrían reemplazar por completo la labor de un docente humano. En este sentido, conviene adentrarse en la reformulación de la educación más allá de la instrucción o la mera adquisición de aprendizajes y valores por transmisión, memorización y replicación. Otro asunto que conviene mencionar se remonta a la propia concepción que tiene el transhumanismo del mejoramiento humano, plegado exclusivamente al perfeccionamiento de características, habilidades, destrezas e inclusive comportamientos. Pero esta noción de mejoramiento o perfeccionamiento no coincide exactamente con las mejoras que la educación debería lograr, puesto que la sola potenciación de un pensamiento crítico, que aborde los asuntos del pensamiento, es algo que los programas de IA y los sistemas robóticos en general no logran aplicar en toda su complejidad, multidimensionalidad y diversidad.

Actualmente, la irrupción de las inteligencias artificiales en la cotidianidad y, con ello, en procesos de enseñanza y aprendizaje, genera tanta fascinación como temor. Por este motivo cobra relevancia revisar de dónde proceden estos problemas teóricos que atañen a la educación, los cuales no surgen solamente de la irrupción de la IA —tema de actualidad inmediata— sino que vienen gestándose desde que las relaciones de producción industriales y las nuevas formas de consumo y disfrute, acompasadas por el intercambio y generación de información mediante las TIC, hicieron su aparición. Desde al menos tres décadas atrás se vienen prometiendo mejoramientos de la especie humana merced a las tecnologías, lo que pone en juego a la educación. Esta, como sistema y práctica, no estaba preparada para afrontar los cambios provenientes del desarrollo tecnológico, tampoco las tecnologías en sí mismas implantan modificaciones en los humanos capaces de sustituir por completo a la educación. A saber, si formar en valores para lograr una humanidad cosmopolita y guiar a los individuos hacia formas de convivencia fundadas en la dignidad y el respeto a la libertad son aspectos propios de la formación educativa en valores, un dominio exclusivo de la enseñanza y el aprendizaje entre humanos, algo que las máquinas presumiblemente no alcanzarían a aprender con plenitud y que, por tanto, no serían capaces de enseñar.

El tipo de investigación que se lleva a cabo parte de un paradigma interpretativo desde un enfoque metodológico hermenéutico. El diseño de investigación es documental, porque no se recurre a datos empíricos de campo o procedimientos de investigación experimental o cuasiexperimental. El método hermenéutico al que se recurre toma los textos de la bibliografía como documentos en que basar las interpretaciones sobre el tema a tratar; estos textos son utilizados, por tanto, para documentar las cuestiones que se abordan y son revisados sistemáticamente a la luz del problema planteado. La búsqueda de textos relevantes para el proceso de investigación ha recurrido principalmente a fuentes disponibles en internet, en bases de datos científicos, y a la obtención de libros de librerías ubicadas en España. También se han obtenido libros en PDF de autores relevantes para el tema del manuscrito provenientes de la recomendación de expertos académicos en muy distintas vertientes y corrientes filosóficas y pedagógicas, con quienes se han mantenido conversaciones de carácter informal (no incluidas en congresos, seminarios, webinarios o memorias de grupos y proyectos de investigación) sobre la cuestión a explorar.

Finalmente, el manuscrito cuenta con un cuerpo argumentativo dividido en cuatro secciones: la primera se enfoca en el proceso de digitalización de la educación, tomando como punto de partida la crisis causada por COVID-19, cuando las TIC cobraron un impulso inédito en los procesos educativos. La segunda se detiene en la transformación de la institucionalidad educativa, que va en sintonía con la quiebra de las sociedades industriales disciplinarias y a propósito del auge de una economía basada en el consumo y la compartición de datos en el ciberespacio. La tercera explora las problemáticas económicas y sociales en torno a la sustitución del trabajo humano realizado por las máquinas, lo que no deja indiferente a la educación. Y la cuarta se adentra en los debates propiciados por los temas que el transhumanismo pone sobre la mesa alrededor del mejoramiento humano y la idea de que la educación podría ser reemplazada por las tecnologías de cara a este propósito.

La digitalización de la educación a partir de la irrupción del COVID-19

La crisis causada por la pandemia trajo consigo la imperiosa necesidad de implementar programas de educación en línea durante un periodo indeterminado en prácticamente todos los países del mundo, debido a la obligatoriedad de mantener un riguroso distanciamiento social. Esta coyuntura obligó a implementar programas educativos a distancia, por lo que forzosamente se involucró a las TIC en el desarrollo educativo. Este proceso ya se venía dando con anterioridad en algunos ámbitos, pero la obligación de aislamiento lo aceleró.

La situación que ha experimentado el sistema educativo trajo consigo una serie de novedades desplegadas sobre las posibilidades que ofrecen las TIC a la hora de ejecutar procesos de enseñanza-aprendizaje. Arundhati Roy (2020) sostiene que la ruptura generalizada, debido a la virulencia del COVID-19, causó que la normalidad anterior fuera anhelada como una forma de negar las irreductibles transformaciones que se produjeron desde el año 2020, aunque muchos de los cambios acaecidos probablemente vayan a persistir, también existe “la oportunidad de repensar la máquina del fin del mundo que hemos construido para nosotros mismos” (p. 60).

Hace una década, por ejemplo, el teléfono móvil era un dispositivo rechazado por la mayoría de los docentes en las actividades y espacios de aprendizaje, de hecho, se demonizaba su presencia en las, considerándolo un motivo de distracción para los estudiantes. Sin embargo, hoy en día, a raíz de la necesidad de emplazar las clases presenciales por la teleducación, el teléfono móvil se vuelve una herramienta indispensable para muchos quehaceres que involucran la interacción remota, tanto de estudiantes como de docentes. Incluso, en muchas circunstancias, el móvil constituye el dispositivo desde el que seguir clases o realizar tareas en línea. Maurizio Ferraris (2008) sostiene que con el teléfono móvil sucede algo muy diferente a lo que ocurre con el acceso a las nuevas tecnologías por parte de la gente pobre: normalmente los pobres quedan al margen de disfrutar de los últimos avances tecnológicos, pero cuando se trata del teléfono móvil se puede tener “sin poseer una casa, es más, se puede tener uno porque se carece de casa” (p. 47). Ferraris (2020) sostiene que la humanidad asiste a una “revolución documedial” en la que los comportamientos humanos son registrados haciendo de la praxis una poiesis. Para Ferraris (2020) todo cuanto se pueda registrar cobra valor, de tal forma que “hacer zapping en la televisión es perder el tiempo, navegar en el teléfono móvil no lo es, y la diferencia radica en el hecho de que el zapping no dejaba un registro, mientras que la navegación en internet sí” (p. 46). La educación ya está inmersa en esta nueva poiesis documedial.

En una ponencia titulada “Responsabilidad en la educación de cyborgs”, de Mónica Ramírez Pavelic (2011), se predijo que las próximas transformaciones que experimentarán los humanos, seres en constante cambio, dada su naturaleza inacabada, están ineludiblemente relacionadas con las tecnologías; así, las próximas modificaciones quizá ya no sigan los parámetros habituales dentro de lo humano, pues el siguiente paso será el cíborg, que traerá consigo dilemas morales cada vez más patentes. Las tecnologías se fueron encaramando en las aulas, primero, llegaron de la mano de los estudiantes, “afectando las ideas e intereses de niños y jóvenes, cuyas conversaciones suelen versar en torno a tal o cual modelo de móvil o juego” (p. 7). Después, a lo largo de la década pasada, el uso de tecnologías digitales por parte de los educandos pasó de estar bajo condiciones de subversión con respecto a la atención que habitualmente reclama la autoridad del docente a conformar un insumo irremplazable para toda la comunidad educativa.

La introducción de tecnologías cada vez más variadas en las actividades educativas implica que paralelamente sea mucho más recomendable promover su uso responsable, si es que se pretende mantener latente el humanismo en la educación. Uno de los problemas a los que hoy se enfrentan los humanismos en los ámbitos educativos y, concretamente, en la práctica educativa, radica en la ausencia de orientaciones éticas que promuevan una utilización racional de las tecnologías por parte de los usuarios. Miranda Orrego y Grijalva Alvear (2020) señalan que muy a pesar de que las tablets permitan que los niños de escuela accedan a una gran cantidad de datos provenientes de internet, la mayoría de ellos “se acerca al docente para mostrarle que han terminado su actividad”, lo que demostraría que el “vínculo establecido entre el niño y el profesor supera a la tablet, esta apoya o no lo señalado por el docente, pero no lo reemplaza” (p. 199). No obstante, la mediación del docente en las actividades con dispositivos digitales no impide que la exigencia de adaptación a la racionalidad instrumental de las operaciones tecnológico-digitales evada los procesos de revisión y autocuestionamiento sobre la forma en que se utilizan, así como la veracidad acrítica con que se asumen los contenidos que proporcionan desde la red.

Digitalizar los procesos educativos anticipa la hibridación entre el humano y la tecnología, como punto de inicio en la formación de cíborgs. Haraway (1995) describe al cíborg como un organismo cibernético en el que confluyen lo orgánico y lo mecánico, pero también es un objeto de la imaginación, producto de la ciencia ficción, que puede traspasar la frontera con la realidad social para reivindicar cambios. Para la autora, el cíborg no viene configurado con arreglo a la oposición entre lo público y lo privado, de tal manera que “define una polis tecnológica basada parcialmente en una revolución de las relaciones sociales en el oikos, el hogar” (p. 256). Aunque, por otro lado, se refiere al uso lúdico de las TIC como una forma de consumar el fin de la vida pública, lo que habilita el incremento de una organización militar y económica al margen de la mayoría y, en especial, de las mujeres:

Las tecnologías tales como los videojuegos y los receptores de televisión altamente miniaturizados parecen cruciales para la producción de las formas modernas de la ‘vida privada’. La cultura de los videojuegos está sobre todo orientada a la competición individual y a la guerra extraterrestre. Aquí son producidas imaginaciones genéricas y de alta tecnología que pueden dar lugar a la destrucción del planeta y a una huida de ciencia ficción de sus consecuencias (p. 288).

El año 2020 demostró que la potencialidad ofrecida por las TIC y el ciberespacio puede abarcar también ámbitos como la Escuela y cambiar rápidamente hábitos que parecían inalterables —como la clase presencial por la clase de educación virtual—. Esto, a expensas de muchos elementos que tradicionalmente se habían considerado esenciales para el quehacer educativo. Antes de suprimir las clases se buscó el modo de mantener el contacto entre los diferentes actores inmersos en la educación mediante programas en línea que se ejecutaron con cierto éxito, aunque no exentos de dificultades y pormenores. Expósito y Marsollier (2020) indican que, según el estudio que realizaron en Argentina encuestando mayormente a docentes, se pudo evidenciar una disminución en el rendimiento de los alumnos. A pesar de que existió un uso positivo de los recursos pedagógico-didácticos en docentes y en el apoyo familiar a los estudiantes, no se evitó salvar las desigualdades en el acceso a las tecnologías, factor relacionado con el capital cultural de cada familia.

Pese a la proliferación del ciberespacio, ahora aplicado sistemáticamente a la educación, los problemas relacionados con la desigualdad de acceso educativo continuaron y, probablemente, continuarán. Se trata de un asunto más político que técnico y la racionalidad tecnológico-instrumental no lo resolverá por sí misma. Sin embargo, las pugnas por los derechos sociales también se instalarán con mayor fuerza en el reclamo de acceso a los medios tecnológicos que, entre otras cosas, permiten obtener educación gratuita dentro del ciberespacio. Quizá este sea un espacio sin lugar definido donde los seres humanos puedan reivindicar su dignidad en sentido moral y político, aunque de forma paradójica la inmersión en el ciberespacio contribuye a transmutar las nociones tradicionales de lo humano y lo digno.

La caracterización con que han contado los dispositivos tecnológicos y las relaciones digitales en los discursos de ciertos críticos, teóricos y pensadores, ya antes del forzoso distanciamiento social de 2020, siembra la duda sobre si los supuestos avances que la humanidad está experimentando no contribuyen también a afianzar sistemas de dominación ineluctables. Durante los primeros meses de 2020, autores como Franco “Bifo” Berardi (2020) insistieron en las sospechas de un uso de las tecnologías llevado al extremo de la dominación totalitaria de la vida humana. En concreto, el autor especula sobre la posibilidad —para él improbable— de “una forma tecnototalitaria en la que los cuerpos serán para siempre repartidos, controlados, mandados a distancia” (p. 44), aunque más adelante sostiene que un totalitarismo capitalista en el que no se detiene la circulación de capital, pero que retiene los cuerpos, no tendría éxito dado que subestima la subjetividad y los efectos nocivos en la psique y la economía. Con independencia de esto, es posible advertir de qué manera el autor introduce un hipotético escenario distópico que toma a las tecnologías como ejecutoras únicas indispensables de un supuesto orden totalitario.

En esta misma orientación cabe contar a Byung-Chul Han (2020), quien, respecto al éxito del big data para controlar la pandemia en China y en otros países de Oriente, reafirma su desconfianza en los avances tecnológicos conforme al beneficio de los ciudadanos y plantea la llegada de “un régimen policial digital” (p. 110). Han (2015) califica al big data como un mecanismo de extracción de conocimientos a partir de aspectos subjetivos que responden a la mera arbitrariedad de los individuos, es “un auxilio necesario que suple la falta de datos objetivos” (p. 88). Según Han (2016) la saturación de los datos en las sociedades hiperinformadas no representa la accesibilidad a formas de verdad y, más bien, acusa una importante vacuidad allí donde solo abundan los datos en ausencia de conceptos teóricos portadores de sentido. Particularmente, el big data, conforme a la advertencia de Niño Morales et al. (2024), repercute de forma directa en el desarrollo de la política, “ya que la información generada se usa como una herramienta de gobernantes y partidos políticos para otorgar y ofertar una información direccionada con fines específicos, en la búsqueda y consecución del poder” (pp. 250-251).

Otra reflexión relevante la aporta Markus Gabriel (2020) cuando afirma:

El coronavirus pone de manifiesto las debilidades sistémicas de la ideología dominante del siglo XXI. Una de ellas es la creencia errónea de que el progreso científico y tecnológico por sí solo puede impulsar el progreso humano y moral. Esta creencia nos incita a confiar en que los expertos científicos pueden solucionar los problemas sociales comunes. El coronavirus debería ser una demostración de ello a la vista de todos (p. 131).

A lo que Gabriel (2020) apunta es a la ausencia de una relación entre el desarrollo tecnológico y científico con el nivel de moralidad de las sociedades, lo que cuestiona si realmente un mayor nivel tecnológico y de conocimientos científicos, mejora a los seres humanos desde un punto de vista moral, merced a la capacidad para convivir mejor dentro de los espacios locales, comunitarios, sociopolíticos y geopolíticos.

Las relaciones ciberespaciales y el desmembramiento de la Escuela en la era posindustrial

Sloterdijk (2006) identifica a la educación con un proceso de antropogénesis correspondiente a la domesticación del animal-sapiens para la formación del hombre-sapiens. Considera que la educación es una mascarada de la civilización, cuyo punto de partida corresponde al momento en que “los hombres hablantes conviven en grupos más amplios y se ligan no solo a las casas del lenguaje sino también a casas construidas, se ven sometidos además al campo de fuerzas de los modos de vida sedentarios” (p. 57). Leopoldo Tillería (2020) resalta que Sloterdijk propone “crianza en vez de educación” (p. 68). Actualmente, el ciberespacio se ha elevado sobre lo que Sloterdijk (2006) llama “asociaciones alfabetizadas de amistad forzosa” (p. 24), en lo que se convirtieron las naciones entre los siglos XIX y XX, justo cuando “el humanismo se volvió pragmático y programático” (pp. 24-25). Frente a los programas formativos dirigidos a un público con lecturas comunes cimentadoras de lazos filiales, en el ciberespacio sobre el que emergen las redes sociales se vienen configurando asociaciones de individuos que intercambian pequeños mensajes, cuya compartición se da según relaciones sociales basadas en la cotidianidad, la amistad, el trabajo o los placeres, pero no conforme a programas de culturalización y civilidad nacionales estatalmente programados para la creación de un público común.

El intercambio en las redes sociales no es epistolar, ni siquiera exige de un fuerte nivel de alfabetización; en la mayoría de los casos basta con saber leer y escribir de manera funcional. Los grupos de vinculación ciberespacial se pueden conformar a partir de muy diversos tipos de relaciones, provenientes de diferentes esferas de la vida social y personal, tales como la familia, los compañeros de trabajo, la pareja, los colegas, las quedadas nocturnas, las amistades en el extranjero, etc. La amistad en una red social, estar o no estar en un grupo, a menudo perfila cuál es la estructura de preferencias y compañías de una persona. No es la fraternidad nacional la que une a las gentes en torno a las redes sociales, ni los programas estatales educativos establecen un vínculo, sus participantes suelen ser usuarios sin una necesaria vocación para la escritura, de hecho, también hay quienes recurren a imágenes (memes, sefies, etc.) e inclusive a diminutos fragmentos de voz que no pueden ser llamados discursos, cuya emisión se produce a través de la grabadora incorporada al smartphone. De este modo, simplemente surge la cotidianidad acompañada de una voraz tendencia a mostrar gustos, consignas, afinidades, cuerpos, sentimientos, experiencias, etc., en las que habitualmente los propios sujetos aparecen como escaparate de clichés de consumo.

La educación que podría surgir de aquí disrumpe los obsoletos programas que los Estados-nación implementaron por medio de la escuela desde el establecimiento de la educación universal. Los programas educativos estatales se han ido adaptando forzosamente a un mundo globalizado, pero sin alterar el componente de domesticación con el que se ha tratado de moldear a los nuevos ciudadanos globales, en función del mercado y las empresas y en reemplazo del ciudadano nacional. Además, la tendencia a la tecnologización de los procesos educativos no deja de generar escenarios alarmantes de cara al futuro. Sin embargo, cualquier alarma se ve socavada por la confianza casi ciega del público en los espacios digitales de los que son usuarios, lo que se afirmó desde la pandemia de COVID-19. Desde la aparición de los dispositivos digitales, su uso indiscriminado dentro de muchos contextos educativos, presenta uno de los problemas más acuciantes para el componente crítico dentro de la educación: pues durante el tiempo en que los individuos utilizan estos dispositivos como usuarios operan con una actitud acrítica al propio desempeño que hacen de ellos.

El grado de velocidad en la transmisión de información que ofrecen las TIC, así como su potencia para poner en comunicación a poblaciones enteras, brindan aparentemente la oportunidad de pensar en una democracia digital que sea más eficiente, directa y transparente en la gobernabilidad de lo público. Según Quintanilla Fisac (2002), con la democracia digital podrían aumentar los niveles de participación ciudadana en asuntos públicos y la conexión entre los representantes políticos y sus representados sería susceptible de mejora, aunque no cree que:

Los retos ni las soluciones más importantes para el desarrollo de la democracia tengan mucho que ver con el uso de tecnologías de la información para organizar votaciones, hacer continuas consultas a la población sobre cuestiones políticas o mejorar sustancialmente los problemas de legitimación y eficiencia que tienen los representantes políticos en su comunicación con los electores (p. 639).

La democracia no tiene por qué mejorar si los ciudadanos encuentran mayores posibilidades comunicativas, todavía, incluso, podría empeorar si se atiende a los oprobios e improperios que intercambian simpatizantes de diferentes fuerzas políticas en chats de redes sociales. La mejora de la democracia, así como la mejora de la convivencia social no procede en ningún caso de un incremento de la potencia tecnológica de cada usuario, ahora bien, incluso la presencia de las TIC en las relaciones humanas coadyuva a que a través de ellas se reflejen falencias graves que la humanidad ha venido arrastrando y que ahora se visibilizan más rápidamente en el ciberespacio. La composición de las disputas políticas en redes sociales muestra una mayor violencia verbal que, de hecho, en no pocas ocasiones alcanza a materializarse en el espacio público. Concretamente, en el ámbito político el enconamiento de posiciones ideológicas irreconciliables proviene de un sujeto ideológico que es prototipo del siglo anterior, cuya decadencia se hace notar en el ciberespacio, pero también con derivas violentas en la res publica.

El desafío de fondo está en la posibilidad de que el ciberespacio llegue a conformar una comunidad de ciudadanos educados —suficientemente preparados— para participar en los asuntos públicos, más allá de los vaivenes de la política ideológica. Uno de los problemas al respecto es la devaluación del Estado en la política educativa. Según Khvastunova (2020) la aportación de los Estados a los planes educativos genera programas que parecen ser cada vez más propensos a satisfacer la demanda mercantil y los rendimientos del capital privado. La relevancia de la educación ha de ser revisada a tenor de los nuevos retos educativos para la convivencia pública, tanto digital como física.

Respecto a lo anterior, Sibilia (2006) dice que las instituciones educativas surgidas al compás de las sociedades industriales, como muchas otras instituciones actuales, están en crisis; paradójicamente los mecanismos de control y disciplinamiento “de antaño ganan sofisticación, algunos se intensifican y otros cambian radicalmente” (p. 27). Están surgiendo nuevas subjetividades arrojadas al mercado e impulsadas por la digitalización de las relaciones sociales, estas nuevas subjetividades no son aprehendidas al interior de los dispositivos disciplinarios, la escuela y el aula ya no son lugares primordiales en los que, desde la infancia, se forja la subjetividad. El hombre ideológico de las sociedades industriales no puede enfrentar (ni resistir) con solvencia el derrumbe de los muros institucionales en que se ejercía el dominio sobre los cuerpos para convertirlos en fuerza productiva. Esta nueva situación “difiere bastante de aquel escenario de la sociedad moderna en su apogeo industrial Por eso, cabe suponer que están emergiendo nuevos modos de subjetivación” (pp. 32-33). El espacio escolar era uno de los cimientos del disciplinamiento, destinado a disciplinar los cuerpos para el desarrollo industrial. Pero con el auge de las nuevas tecnologías el ser humano resulta prescindible y reemplazable por las máquinas, de modo que el consumo se eleva como una forma de generar riqueza —se profundizará en esto en la siguiente sección— por tanto, la manera de ejercer dominio efectivo sobre los individuos configura nuevos escenarios formativos, así como simultáneamente constituye nuevas resistencias desde el propio ámbito educativo.

Cuando Haraway (1995) plantea el futurible de la informática de la dominación en los espacios idealizados de las sociedades capitalistas avanzadas en la escuela ve el lugar de emparejamiento entre las necesidades del capital de alta tecnología y la educación pública. En la escuela intervienen elementos de selección que crean una educación para las masas, volviéndolas ignorantes y distantes de la ciencia; también en la educación superior, dirigida por la industria, intervienen mecanismos de control y selección “por parte de las multinacionales de la ciencia (especialmente compañías de electrónica y biotecnología); numerosas élites de educación privilegiada en una sociedad progresivamente bimodal” (p. 294). Una preocupación que puntualiza Adela Cortina (2024) es el constante ensanche de la brecha digital, agravada por la introducción de la IA a la educación, ya que la mayor parte de centros educativos en todo el mundo no tiene acceso a internet. A pesar de las promesas de personalización y automatización del aprendizaje desde el mercado tecnológico-educativo, con plataformas que mediante técnicas de “ratificación” generan los incentivos para retener a sus clientes educandos, también aquí “las desigualdades se amplían, porque los bien situados reciben atención de personas, mientras que las masas quedan en manos de las máquinas inteligentes” (p. 218).

En la actualidad, Silicon Valley introduce todos los ingredientes para imaginar la escuela exclusiva y excluyente del futuro como un modelo de selección y división de clases según conocimientos. Dentro de las escuelas de más alto rango se ofrecerán estudios que permitan mantener a un grupo de individuos en la élite social. La contraparte la compondrán múltiples escuelas tradicionales, entre las que se contarán también universidades, con serias deficiencias para ofrecer conocimientos científicos de última generación a sus estudiantes.

La creciente participación de las tecnologías en la producción y la redefinición del trabajo

La automatización de varias actividades productivas, gestión y servicios contribuye a la pérdida de empleo para los seres humanos. Rifkin (2014) da cuenta de cómo en casi todos los sectores, no solo los industriales, el impacto de las nuevas tecnologías causa la desvinculación de los empleados. “La automatización, la robótica y la Inteligencia Artificial están eliminando puestos de trabajo en las tareas de administración y en el sector de servicios a la misma velocidad que en los sectores de la manufacturación y la logística” (p. 161). No están a salvo los trabajadores del conocimiento, quienes también se vuelven prescindibles. El aquilatamiento de los algoritmos y el desarrollo de la IA contribuyen a que las máquinas puedan llevar a cabo descubrimientos, proponer hipótesis, traducir lenguajes, etc. Asimismo, para el análisis de documentos se aplica la IA en ramas profesionales cuyos trabajadores nunca pudieron sospechar. Lo cierto es que existen programas informáticos –anteriores a las actuales inteligencias artificiales– capaces de hacer la labor de muchos profesionales con mayor eficiencia que los humanos, dando igual o mejores resultados y a bajísimo coste. Rifkin (2014) vaticina que a lo largo del presente siglo “una parte cada vez mayor de la actividad económica productiva de la sociedad estará en ‘manos’ de una tecnología inteligente supervisada por grupos pequeños de profesionales y técnicos muy cualificados” (p. 168).

En consecuencia, con la automatización de los empleos decrece la demanda de trabajo. Podría sostenerse que pareciera no estar afectando al ámbito educativo, pues al menos por ahora ninguna escuela o universidad permitiría que los robots ejercieran las mismas labores de los profesores. Pero conviene hacer presente que en estos momentos existen actividades instructivas y de programación dirigidas de robots a otros robots. El economista Santiago Niño Becerra (2020) afirma al respecto:

La oferta de trabajo ya es mayor que la demanda de trabajo, y el desempleo estructural está aumentando. Pero la tecnología irá reduciendo la necesidad de trabajo y, en todo caso, demandando profesionales con una muy elevada cualificación y experiencia. De hecho, estamos entrando en escenarios en los que robots ya están enseñando a otros robots cómo realizar tareas y en otros donde máquinas ya programan máquinas (p. 392).

Para este autor resulta preocupante el nivel de desempleo que generarán las nuevas tecnologías y la IA, los vaticinios no son alentadores y aunque el desarrollo tecnológico cree nuevos tipos de empleo, se calcula que estos no cubrirán satisfactoriamente toda la oferta de trabajo disponible. Cabe interpelar, en consecuencia, qué hacer con la masa de trabajadores que quedarán desprovistos de una actividad remunerada. Y todavía resulta más preocupante para qué servirán los estudios medios y superiores si máquinas y robots realizan la mayoría de empleos técnicos y administrativos que tradicionalmente requerían de una pingüe mano de obra cualificada.

Una cuestión que no se puede dejar pasar por alto es el hecho de que robots ya estén programando a otros robots, lo que no excluye que terminen realizando tareas de enseñanza dirigidas a humanos —si es que reducimos enseñar a una especie de programación instructiva—. Cortina (2024) comenta un caso a propósito del uso de robots en tareas que normalmente han venido desempeñando seres humanos: en 2010, Michael Anderson y Susan Leigh Anderson programaron un robot asistencial llamado Nao, cuya función principal era recordar a pacientes ancianos cuándo tomar la medicación correspondiente y establecer cuándo dejar de tomarla. Pero la particularidad de Nao era que elegía el grado de insistencia para hacer los recordatorios, inclusive podía decidir no insistir en ellos, para respetar la autonomía de los pacientes, por supuesto que siempre informando al correspondiente supervisor humano. Los Anderson consideraron que el robot era capaz de tomar decisiones éticas de nivel básico, aunque tales decisiones —como indica Cortina— se dan a partir de unos principios morales instalados en la programación del robot.

Este caso deja abierta una pregunta no menos relevante para el ámbito educativo: ¿se le podría confiar a un robot la educación de una o varias personas, así como se le concedió el cuidado de personas mayores a Nao? Si un robot tiene margen de elección durante el cuidado de personas de la tercera edad, en la medida en que decide cuándo no debe sobrepasar los límites de la autonomía personal de alguien, entonces, ese mismo robot, con base en los criterios de su programación, sería capaz de ofrecer una clase de ética e incluso dar ejemplos a sus estudiantes a partir de sus elecciones en la práctica. Cabe argüir, no obstante, que bajo estas hipotéticas enseñanzas dadas por el robot siempre estarían operando los principios de su programación, es decir, unos algoritmos por medio de los cuales calcula lo más conveniente. Cortina (2024) clasifica este tipo de programación dentro del nivel de la “roboética” que tiene que ver con la “ética de máquinas” (p. 93). En este nivel se instala un código ético en los robots y se le atribuye un determinado grado de autonomía, de esta forma los humanos podrán juzgar en qué medida el robot opera conforme a una ética y en qué medida el programa aplicado por la máquina es el adecuado. Así como un código puede ser aplicado por un robot, también puede ser enseñado por él, si su actuación queda grabada por el programa algorítmico como una suerte de acción buena o adecuada.

Por otro lado, retomando el problema de la automatización en relación con los empleos humanos, las actividades que alcanzan a hacer los robots obligan a profundizar en el concepto de trabajo. Uno de los autores que se toma esta tarea es Ferraris (2020, p. 164), quien se percata de que la automatización provocará la desaparición de gran parte de los puestos de trabajo, así como la reducción de los costos de bienes y servicios. Sin embargo, sostiene que hay que ampliar la concepción de trabajo. Para Ferraris (2020), el consumo, al generar beneficios, encajará también como trabajo, ya que “el trabajo humano como producción será un fenómeno cuantitativamente demasiado raro como para ser un elemento económicamente significativo” (p. 165). El cambio de paradigma del trabajo implica la producción de valor mediante el consumo de datos. Más allá de la conciencia de trabajar —según el ejemplo que presenta el autor— si un animal de carga crea valor sin tener conciencia de que trabaja, entonces, también un espectador de porno estará trabajando en tanto produce datos y por ende riqueza. Igualmente, Ferraris (2020) indica que no hay lugar para la consideración del trabajo como alienación, es decir, no hay forma de relacionar el trabajo con actividades que suponen disfrute para quien o quienes las realizan, porque absurdamente se llegaría a la conclusión de que quien disfruta de su trabajo realmente no debería percibir un salario: “Si te diviertes, no es trabajo” (p. 172). El autor se esmera en presentar “como una esperanza, lo que en Occidente se percibe como una amenaza” (p. 173), en relación con la incesante pérdida de empleos y la posición del ser humano como entidad prescindible en la producción.

Con respecto a lo anterior, se aprecia que la propuesta de Ferraris dimensiona el concepto de trabajo sobre unos márgenes mucho más amplios de los que hasta ahora la humanidad ha creído, no pasa desapercibido el hecho de que si el consumo se equipara al trabajo, entonces, también para consumir haría falta una instrucción, merced a la cual debería venir aparejada la necesidad de enseñar unas orientaciones éticas que permitieran crear e interpretar los códigos deontológicos que regulan la profesión de consumidor. De hecho, sin ser considerada una profesión, los consumidores de todo el mundo requieren urgentemente de códigos deontológicos. Pero por el momento la tendencia no transita la idea de una deontología para el consumo. El consumidor se considera a sí mismo libre y así lo conciben muchos analistas de los mercados; partir de la libertad es un punto legítimamente ético, pero su definición en el consumo tiende a menospreciar cualquier tipo de obligación o acuerdo deontológico y el simple hecho de proponerlos a menudo es retratado como contrario a la libertad.

En la práctica la libertad del consumidor es una ficción de la ciencia económica: el consumidor solo se deja llevar por frecuencias de datos que las TIC sintonizan con las frecuencias afectivas de los sujetos, estas fluctúan en la composición social de los deseos y las pasiones, moviendo a su vez a las multitudes en el orden de las preferencias de consumo prediseñadas. Hoy en día existen sistemas de IA capaces de ofrecerle al consumidor el bien o servicio que busca según las características que se deducen de los datos que expide en sus búsquedas en la web y participación en redes sociales, mas, pese a que estos programas resulten en algunos casos muy efectivos para localizar preferencias, de ahí no se evidencia que exista una ética del consumidor. La voracidad del sujeto consumidor es tal que pone en riesgo la sostenibilidad del planeta Tierra. El cuidado de la Tierra es una actividad no del todo contemplada como una forma de trabajo pues, si hay dimensiones conceptuales insospechadas en la definición del trabajo, el cuidado a las comunidades humanas, la biodiversidad y el medioambiente también estarían incluidas en esta definición. Este trabajo no genera rendimientos inmediatos en sentido de valor “documedial”, pero sí puede producir equilibrios relevantes a largo plazo.

Otro problema derivado de la crisis conceptual del trabajo se cierne sobre el sentido de la educación en un mundo donde la formación deja de ser garantía de inserción en el mercado laboral. Si las máquinas ocupan cada vez más empleos humanos y su supervisión previsiblemente solo va a requerir de un puñado de técnicos humanos hipercualificados e hiperespecializados en funciones de control, entonces la formación entendida como educación se reducirá a grupos selectos de personas cuyo acceso a ella resultará privativo en términos financieros, lo que traería consigo mecanismos de selección muy exigentes, rigurosos y exclusivos para quienes no tengan cómo pagar el acceso a este tipo de educación. Estos mecanismos de selección y exclusión responden al auge de la econobiopolítica, a la que Villacañas (2020) considera como la reducción neoliberal de la biopolítica, cuya finalidad es la conversión del “ser humano en un cyborg mejor adaptado al sufrimiento de una crisis permanente estabilizada como naturaleza. El mejor adaptado no es ahora seleccionado por la carga biológica sino por el implante del mejor Homo economicus en sí” (p. 185). Esta readaptación a la crisis permanente se implementaría desde la interiorización de una lógica del rendimiento productivo-financiero que no discriminaría entre las inteligencias humanas y las artificiales. Lo tecnológico se difuminaría en la propia carne humana. De esta forma, se puede afirmar que la educación ya no es propiamente tal, dado que ha perdido el fin para el que fue concebida. Con arreglo a la caracterización que hace Ferrando (2019) de la paideia como:

La educación formal de sus ciudadanos —en las Polis de los antiguos griegos— (aunque no todo el mundo tenía acceso a ella), y también la participación informal en la cultura, promoviendo un proceso de identificación de lo individual con el ethos político (p. 91) (traducción propia).

Hoy la educación se ve despojada de la paideia que originalmente la fundó. La concepción de la educación en las sociedades industriales ha estado ligada a la idea de que la formación de los seres humanos merece la pena, de acuerdo al provecho que se extrae de la instrucción en el aparato productivo. Esta noción de lo educativo se fue intensificando hasta el punto de periclitar aquellos ámbitos de saber que no cuentan con resultados productivos o financieros inmediatos, al no responder a una demanda suficiente de estudiantes debido a que no garantizan un porvenir profesional prometedor. Con la entrada de los robots en las actividades productivas y laborales, la educación entendida como instrucción que interesa a los individuos en la medida en que los prepara para realizar un trabajo de mayor o menor especialidad, también sucumbe. Pese a todo, la reducción de los puestos de trabajo no necesariamente hace desaparecer a la educación, porque esta admite un sentido mucho mayor que la instrucción o la preparación para el desarrollo de una profesión o labor determinada. Se abre un escenario donde reivindicar el componente “paidético” inherente a la educación será una forma de mantener latente su sentido integral.

Márgenes de posibilidad para la educación ética en un contexto transhumano

El transhumanismo es un movimiento filosófico que reflexiona sobre escenarios posibles en un horizonte futuro, bajo el supuesto de que los avances técnicos y tecnocientíficos alcanzarán a modificar sustancialmente al ser humano. De esta forma, el transhumanismo no trata de desarrollar habilidades técnicas de los humanos desde sus capacidades naturales, eso es lo que hace la educación en un sentido tradicional, más bien, promueve “transformar al ser humano en otro tipo de entidad, en una entidad con otra naturaleza o sin ninguna naturaleza. Para este proyecto se apela a muy diversas modalidades tecnológicas” (Marcos, 2021, p. 1). Las polémicas que abren los imaginarios transhumanistas también se ciernen sobre lo educativo, dado que, tanto los espacios como las prácticas y las teorías que se hacen patentes en la educación, son susceptibles de verse influidas por las complejidades que traen las TIC en las dimensiones cognitiva, sociocultural, tecnocientífica, económica y política.

Uno de los programas de IA más sorprendentes en la actualidad es AlphaZero, capaz de aprender por sí mismo a jugar a juegos de estrategia. Hasta ahora, se pueden contabilizar grandes logros de AlphaZero en el ajedrez, donde ha demostrado tener intuición, creatividad, capacidad para asumir riesgos y hasta para generar belleza en el tablero. Estas características corresponden a rasgos y cualidades humanas que hasta hace unos años atrás resultaban impensables para un programa de IA. A finales de 2017, AlphaZero venció a StockFish, considerado el mejor programa de ajedrez y con el que aprendían grandes maestros ajedrecistas —el hecho de que ellos mejoren su técnica recurriendo a programas de IA ya dice mucho sobre las potenciales alternativas del aprendizaje con programas de IA—. En una entrevista realizada al campeón del mundo Magnus Carlsen (García, 2019), reconoció que su propio estilo de juego se vio modificado una vez comenzó a tomar ideas de AlphaZero, de hecho, muchos estudiosos del ajedrez constatan que el estilo del campeón mundial se ha vuelto mucho más agresivo, especulativo y rupturista con respecto a las normas de apertura y posicionamiento establecidas y recomendadas por la academia ajedrecística. Aparte de los logros de AlphaZero, otras versiones como AlphaFold rinden con alta precisión en la predicción dentro del campo de la genética.

Lejos queda la victoria que logró en 1997 la versión Deeper Blue, de la computadora de IBM Deep Blue, contra el campeón mundial de ajedrez Garri Kaspárov de ese entonces. Bostrom y Yudkowsky (2011) sostienen que Deep Blue “se convirtió en el campeón mundial de ajedrez, pero ni siquiera puede jugar a las damas, ni mucho menos conducir o hacer un descubrimiento científico” (p. 3) (traducción propia). Deep Blue podía calcular “la relación entre un movimiento y sus posibles consecuencias futuras con mayor precisión que los programadores” (p. 4) (traducción propia), aun así, este sistema computacional no podía transferir sus cálculos a otros ámbitos distintos del juego de ajedrez, ni tenía la capacidad para extraer consecuencias de una partida a otra. Sin embargo, AlphaZero sí puede aprender, lo que demuestra que en veinte años la IA ha logrado traspasar una barrera importante: de funcionar como un sistema programado para ejecutar unas acciones predeterminadas según cálculos complejos a ser capaz de improvisar en la toma de decisiones teniendo en cuenta situaciones anteriores. La IA puede decidir mover o no un peón, pero cabe preguntarse si también puede tomar una decisión considerada ética o si se le puede atribuir una suerte de eticidad a una de sus decisiones.

Posiblemente la educación sea el ámbito donde la IA pueda demostrar sus alcances y, presumiblemente, también donde se evidencien sus ineluctables limitaciones. Con respecto al aprendizaje, Sánchez Ramírez y Juárez Landín, (2017) muestran que ya existen robots que intervienen en procesos de enseñanza, estos están resultando útiles para que los humanos aprendan idiomas, ciencias y tecnología. Por otro lado, López Ramírez y Andrade Sosa (2013) destacan las ventajas de la educación mediante la robótica y con robots, que contribuyen a estimular la construcción y reconstrucción de conocimientos desde los sujetos aprendientes. Asimismo, los autores hacen hincapié en la importancia de que la construcción de robots refuerce los criterios éticos de los estudiantes, al discriminar crítica y discusivamente entre los fines benéficos de la tecnología y los daños que pueden llegar a causar si se destinan a objetivos éticamente ilícitos. Los programas de IA no conocen los fines morales para los que pueden ser utilizados, hasta ahora, así como son incapaces de plantearse su existencia, no tienen capacidad para preguntarse por el bien o el mal intrínseco a la moral de las acciones de forma independiente a los códigos con que son programados; tampoco pueden mostrar la licitud moral de los fines para los que fueron creados.

En lo que respecta al aprendizaje con robots, es posible que el educando estimule sus capacidades con independencia de la intervención del profesor y sin necesidad de libros de texto. Solo el hecho de plantear que un docente humano pueda ser sustituido por un robot establece una equivalencia ontológica entre la IA y el ser humano, un problema latente en las definiciones y conceptos de la ontología actual, ya que, tal como sostiene Tillería Aqueveque (2022) “hasta ahora no ha quedado claro cuáles son aquellos atributos humanos que quedarían hipotéticamente fuera de las posibilidades heurísticas de una máquina inteligente” (p. 62). Si estos atributos no se definen con precisión prístina, entonces, nunca se podría negar que una IA haga las veces de un profesor, como pueden hacerlo con innumerables profesiones (tema que se trató en la sección anterior).

El programador puede ser consciente de las consecuencias y finalidades que tienen los programas que crea. Pero con los avances en IA se puede llegar a presenciar un escenario muy distinto, que los ajedrecistas profesionales han empezado a experimentar, la inversión de los programas de aprendizaje: podría ser la IA la que programe la forma en que aprende el educando, a partir del descubrimiento de nuevas formas de hacerlo. Bostrom (2003) augura el reemplazamiento de los humanos por formas de vida más autónomas e independientes gracias a la implementación de las nuevas tecnologías y los avances científicos, hace veinte años afirmaba que “podríamos afrontar la prospectiva de una inteligencia artificial real. Se construirán nuevas herramientas cognitivas con que combinar la inteligencia artificial con el interfaz tecnológico” (pp. 4-5) (traducción propia), lo que anularía completamente la intervención humana en todos los procesos de la vida, incluyendo los educacionales. Es obvio que si una entidad de IA creara un programa educativo aún hoy requeriría de programadores humanos con el asesoramiento y supervisión pedagógica suficiente, no obstante, si la IA ya tiene la capacidad de aprender, sobreponerse a sus propios errores y mejorar sus técnicas, nada impide que un sistema de IA llegue a hacer una programación pedagógica, alcanzando facetas y suponiendo factores no advertidos por los humanos —automatización de la enseñanza y el aprendizaje—.

Las prácticas educativas se están reorientando a las relaciones sociales dentro de un entorno postorgánico, Sibilia (2006) se pregunta cuáles son las formas humanas más demandadas en la actualidad, a lo que encuentra una posible respuesta dentro de la complejidad de la cuestión: “son aquellas modalidades que mejor se adaptan a los circuitos integrados del capitalismo global, aquellas que nuestra sociedad requiere para poder funcionar correctamente” (p. 262). De este modo los cuerpos y las mentes se funden en conexiones mediadas por tecnologías que forman redes más complejas que los espacios políticos y económicos tradicionales. Klichowski (2015) especula con la posibilidad de que una máquina inteligente logre estimular “el crecimiento de la inteligencia humana y posibilitar su transferencia desde un cuerpo humano a una máquina (robot) o a un sistema determinado creado por máquinas” (p. 433) (traducción propia). Klichowski (2015) señala que el pensamiento transhumanista implica hacer el esfuerzo de imaginar una vida que maximice las experiencias hasta límites insospechados. El transhumanismo permite repensar y redefinir las concepciones tradicionales antropológicas y contemplar nuevas soluciones ante problemas indescifrables para los humanos actuales. El mejoramiento de las futuras generaciones es un planteamiento que acompaña a estos nuevos desafíos, lo que inexorablemente involucra también a la educación:

La educación ha sido el proceso formal de hacer mejor a la gente. Es la educación la que tiene que ser rediseñada en el concepto transhumanista, además, tomando en cuenta el hecho de que cambiar al hombre mediante la tecnología y la educación son categorías de acción éticamente iguales, y que la tecnología es (¡y siempre será!) más efectiva que la educación (p. 437) (traducción propia).

En este sentido, Sorgner (2021) considera a la educación y al mejoramiento genético dos procesos paralelos y equivalentes de mejoramiento humano, sin discriminar entre las modificaciones inducidas biotecnológicamente y aquellas que se instauran didáctico-pedagógicamente. Señala que la educación apunta a un mejoramiento o perfeccionamiento de la vida del niño a partir de la transmisión de valores culturales desde los “padres” o tutores legales –donde se incluiría al entorno familiar por extensión, aunque el autor no lo menciona–. Igualmente, Sorgner (2015) sostiene que la eugenesia aplicada a niños también vendría de la mano de la decisión de unos tutores legales. “Siempre resulta incierto si el mejoramiento genético dará resultados beneficiosos. De todos modos, también es una cuestión abierta si la educación tendrá consecuencias beneficiosas en cualquier caso específico” (p. 35).

Ya sea por medio de la tecnología o de los avances tecnocientíficos aplicados a la modificación genética, los autores partidarios del transhumanismo están dando por hecho que la educación y la eugenesia tienen un mismo valor ontológico, lo que indefectiblemente los lleva a equipararlas en lo ético. No obstante, aunque ambos procesos puedan compartir una misma finalidad, a saber, el mejoramiento humano, no se efectúan a través de elementos idénticos y, por tanto, colateralmente los resultados pueden llegar a ser muy distintos. Además, se supone que la educación también forma al sujeto humano para ejercer el pensamiento crítico, hasta ahora no existe ningún tipo de implante o inyección que lo propicie de manera artificial. De hecho, el pensamiento crítico habilita a cada sujeto para que, en ejercicio de su reflexión y capacidad de razonar, someta a juicio incluso el tipo de educación que recibió o está recibiendo; y si ese mismo sujeto hubiere pasado por modificaciones genéticas que eventualmente sus padres decidieron hacerle durante su niñez, el pensamiento crítico le procuraría la capacidad para valorarlas más allá de los resultados inmediatos, quizá, en términos de justicia o de estado existencial.

La educación es un proceso social, requiere de la relación entre el estudiante y el profesor; entre los estudiantes y entre los profesores, con las instituciones, etc. Normalmente, los transhumanistas apoyan el uso de tecnologías para transformar a los humanos, sin embargo, Terrones (2018) matiza que “las modalidades que adopta el mejoramiento son muy variadas, van desde la mejora por medio de medicamentos, hasta la integración de nuestra mente en las máquinas, pasando por la manipulación genética” (p. 62). El empleo de recursos tecnológicos y/o tecnocientíficos para potenciar capacidades o cualidades presupone y planifica unos cambios dirigidos a mejorar a uno o varios humanos, pero no sigue el patrón procedimental que acompaña a las actividades educativas ya que estas últimas modifican a los individuos desde roles y relaciones sociales enmarcados en una institucionalidad y costumbres. Las actividades educativas se permean en función de problemas y estilos de aprender, también en atención a necesidades de los sujetos aprendientes y los entornos sociales donde se desarrollan. Quizás una máquina pueda llegar a programar un plan de enseñanza, sin embargo, todavía sería incapaz de improvisar con arreglo a las particularidades que se le irían presentando. La presencia del docente es irremplazable, porque es un sujeto moral necesario en cualquier proceso de enseñanza y aprendizaje, a pesar de que los robots sean capaces de fortalecer ciertas destrezas y habilidades en los educandos con gran eficiencia.

Las tecnologías y la IA pueden aportar ventajas importantes dentro de los procesos educativos: destacan por su efectividad para poner en contacto a individuos de forma remota, contribuir al análisis de datos, cálculo, anticipación, predicción, capacidad de almacenamiento de datos y velocidad en la búsqueda de información; estas son algunas de las muchas posibilidades que las IA proporcionan para el mejoramiento de los procesos educativos. Lo preocupante no es la intervención de las tecnologías en los procedimientos de enseñanza y aprendizaje, sino que se pretenda equiparar ontológica y axiológicamente el mejoramiento humano mediante avances tecnocientíficos con el mejoramiento humano a través de la educación. Como afirma Khvastunova (2020), “una máquina, por definición, no puede ser espiritual” (p. 887) (traducción propia), por lo que la conversión de humanos a máquinas o la digitalización de las personas no se ha de imponer, en ningún caso, como un único camino de mejoramiento. El autor dice, además, que se precisa adoptar distintas opciones, “porque una persona es una criatura inteligente, creativa y, lo más importante, libre, siempre puede ofrecer una alternativa al lúgubre futuro de la singularidad digital” (p. 887) (traducción propia).

Por otro lado, conviene romper la idea de la educación como simple aprendizaje para aspirar a un modelo de desarrollo, tal como autores humanistas como De Zubiría Samper (2006) afirman. A menudo las tendencias pedagógicas humanistas caen en una exaltación de lo humano sin tener en cuenta el desplazamiento que está teniendo el sujeto en lo que Ferrando (2019) denomina el “post-antropocentrismo” (p. 105). En estas circunstancias el desarrollo no se ciñe únicamente a lo humano y sus intereses, sino que, por partida doble, el desarrollo tecnológico y el medioambiental para evitar un colapso futuro rebasan las aspiraciones que durante milenios forjaron el Antropoceno. Muy particularmente en el cambio paradigmático que apertura la filosofía transhumanista, que no es sino una corriente de pensamiento dentro del complejo contexto posthumanista y postantropocéntirco, comienzan a avizorarse las que con alta probabilidad serán las nuevas tensiones en el medio plazo: conservar la naturaleza a costa de limitar el progreso tecnológico que más riesgos plantea para la vida en la Tierra y la necesidad de generar avances científicos y tecnológicos no nocivos para el medioambiente, pero que contribuyan al mejoramiento humano. En medio de esta polarización entre el desarrollo de la tecnosfera y la necesidad de no deteriorar los procesos naturales de la Tierra garantizando su sostenibilidad se hallan los debates desde los que se tenderá a pensar el porvenir educativo, dentro de la hibridación de hombres con máquinas e inteligencias diversas.

La esfera educacional, con el sistema y modelos pedagógicos predominantes en la actualidad, todavía no se ha insertado dentro de esta polarización que constituirá las contradicciones dentro de las relaciones sociales y geopolíticas en un futuro cada vez más próximo. Según Terrones (2018) la relación entre la inteligencia biológica y la artificial se estrecha rápidamente. La Singularidad, que representa la etapa de mayor auge del crecimiento tecnológico, trae consigo el riesgo de que “las máquinas inteligentes podrían prescindir de cualquier influencia humana” (p. 66). Si esto llegara a acaecer puede que la educación fuera el último reducto de humanización posible, dentro de un mundo técnicamente eficiente pero desvirtuado de sentido.

La continua presencia y avance de dispositivos digitales y espacios virtuales en el desarrollo de la educación, en buena medida, viene motivada por una irrestricta confianza de las sociedades en las tecnologías y sus innovaciones. Desde 2020, la proliferación de alternativas educacionales basadas en la virtualidad y el uso sistemático de medios tecnológicos para procurar el aprendizaje ha ido en aumento. Y el alcance de las innovaciones tecnológicas aplicadas al ámbito educativo parece no tener fin, mucho más a partir de 2022, cuando la IA se volvió una tecnología de uso público. Como una avalancha, apps de IA cubrieron nuevos nichos de mercado, se ofrecieron alternativas de acceso, recepción, recopilación y transmisión de conocimiento, lo que puso en riesgo la ocupación de empleos que parecían de dominio solo humano. La educación no se vio exenta de esta nueva oleada de posibilidades brindadas por las IA, pero lo cierto es que desde antes la confianza en la digitalización y las nuevas tecnologías venía imponiéndose como una realidad casi ineludible para educadores, estudiantes e instituciones educativas.

Con este panorama en el horizonte, el transhumanismo desde hace varias décadas vino analizando los imaginarios que pretendían anticipar escenarios posibles, merced a los avances tecnológicos. No obstante, son varios los asuntos que hay que atender en el presente, muy a pesar de las promesas transhumanistas de un futuro con un sinfín de mejoras humanas propiciadas por los avances tecnocientíficos. Conviene tener en cuenta que el horizonte tecnológico no está rendido per se a los planteamientos transhumanistas ni a linealidades que responden a relatos y discursos establecidos, porque a menudo las lecturas que se hacen al respecto tienden a magnificar tanto las visiones más optimistas como las más pesimistas sobre el desarrollo de las tecnologías. Se puede decir que a veces la corriente transhumanista puede llegar a crear conceptos inocuos sin oportunidad real de florecer.

En lo que compete a la cuestión educativa y a la pregunta que titula el presente manuscrito, cabe afirmar sin dilación que es muy discutible una educación manejada exclusivamente por programas virtuales, inteligencias artificiales y máquinas programadas para optimizar los procesos de aprendizaje. En lo que se refiere a la enseñanza de la ética en particular, que un robot pueda llegar a ser competente como docente es una cuestión que no surge sino de la inusitada confianza depositada en las tecnologías. Por supuesto, existe la posibilidad de programar a un robot para que ofrezca una charla sobre utilitarismo, formalismo o cualquier otra doctrina ética que se considere, pero habitualmente la educación en ética conlleva hacer más que una charla. El diálogo, la deliberación y toda forma de intercambio de ideas en la enseñanza de la ética son prácticas esenciales, entre otras cosas porque no necesariamente todos han de quedar convencidos de que una u otra perspectiva ética es la mejor en la práctica e indiscutible en la teoría. Igualmente, en muchas ocasiones los asuntos éticos se entrelazan con cuestiones sociopolíticas; así que un robot y cualquier programa de IA tendría complicado interactuar plenamente en la coyuntura donde se hallan inmersos los estudiantes dentro del aula.

Probablemente un robot programado para aprender códigos deontológicos sea exitoso también en transmitirlos y darlos a conocer con cierta claridad, precisión e incluso elegancia, pero la forma de enseñar esos códigos puede fracasar en cualquier discusión entre humanos, ya que estos últimos son bastante impredecibles cuando se trata de discutir valores. Los humanos solemos hablar con base en pasiones, algunas veces buscamos racionalizarlas, otras veces hacemos pasar un planteamiento sentimental por racional y universalista, generalizándolo a otros casos o tratando de poner a otros “en el lugar de”. Inclusive, no pocas veces los humanos interactuamos motivados por sentimientos y pasiones para luego encontrar puntos de racionalidad que dan sentido a la comunicación y a la acción. Así que, en contextos dialógicos, si por ventura un robot aprendiere un código deontológico formalista en conversatorios entre expertos de ética podría a su vez no hacer muy buen papel en un comité de bioética, porque estos comités implican acuerdos necesarios a la hora de tomar una decisión ante un caso particular. Un robot que asimila unos puntos de vista deontológicos, casi seguro, actuaría parcializado, sin experimentar las situaciones y acontecimientos que permiten la flexibilidad exigible para la toma de decisiones en conjunto. De la misma manera, dentro de una clase de ética el robot adolecería de los mismos pormenores.

La ética no consiste únicamente en recoger información, un código deontológico no solo se adquiere en virtud de valores absolutos, porque a veces aparecen situaciones en la práctica que merecen decisiones no sistematizadas según una doctrina establecida. Si el robot fuera capaz de aprender y hasta de improvisar, su criterio tampoco sería el más fiable ni el más recomendable, debido a que su configuración deontológica respondería a casos muy particularizados, cuando en ética de lo que se trata es de proyectar normativas de carácter universal, o al menos, si no se quiere así, normas que puedan servir como referente a una gran mayoría de humanos. Esto no significa que sea desechable todo lo que una IA pueda aportar en el campo de la moral, pero, en todo caso, afortunadamente las estructuras deontológicas no responden solo a relaciones algorítmicas, cálculos y axiomas, ni mucho menos a elementos preprogramados.

La configuración de un cíborg ético precisaría de la hibridación entre la tecnología y la IA con componentes biológicos y naturales, sin embargo, en este proceso, puede que los compuestos mecánicos predominaran al impedir un desarrollo personal donde el individuo se expusiera al aprendizaje por medio de experiencias negativas. Los algoritmos no admiten lo negativo porque su lógica operativa se basa en una continua positividad. Los algoritmos aplican un programa, no cuestionan su veracidad, simplemente operan posibilidades dentro de unas reglas de juego prestablecidas. Sin embargo, los humanos, cuando se trata de discutir valores y deliberar sobre acciones posibles, a veces pueden recurrir a experiencias negativas alrededor de un enfoque dado por sentado acríticamente. También pueden cuestionar las reglas de juego en virtud de sus necesidades, por lo que muestran ciertos márgenes de creatividad alrededor de la interpretación de códigos normativos y la práctica, desde la experiencia personal, pero también imaginando cómo esta experiencia podría darse en el caso de otros.

La educación puede aportar otras perspectivas y ofrecer concepciones y lógicas alternativas, siempre y cuando estas no se limiten a programar mentalidades, pues es posible ver cómo en no pocas situaciones la educación se ha planteado como una suerte de programación de seres humanos (instrucción), antes incluso de que la IA y las tecnologías educacionales aparecieran. De considerarse lo educativo como mera programación dirigida a seres humanos o cíborgs, sí podría anticiparse el relevo de los docentes por máquinas y la ética ya no tendría nada que enseñar.

redalyc-journal-id: 4418

https://revistas.ups.edu.ec/index.php/sophia/article/view/10529 (html)