Introducción

Reflexionar sobre la ética en la época actual, frente a los cambios que representa el advenimiento de la Cuarta Revolución Industrial (CRI), en particular aquella referente a la revolución de los datos o Big Data, es un tema de suma importancia, porque significa un hito en las formas de vida de todo el mundo, que afecta directamente a las naciones, las comunidades y los pueblos en sus diferentes ámbitos, desde los asuntos laborales, jurídicos y educativos, hasta los más particulares como los hábitos de consumo, las formas de pensar e interactuar en la sociedad, el entretenimiento, etc. En este momento crucial del acontecer histórico y sobre todo, como consecuencia del desarrollo de la pandemia Covid-19, hemos sido testigos de la constitución de formas de trabajo, formación, comercio y comunicación –entre otras–, que se desarrollan a través del uso de la tecnología, ya sea de manera total, o por intervalos entre la virtualidad y la presencialidad. En muchas formas vivimos en una sociedad híbrida entre ambas derivaciones.

El uso de la tecnología y esta nueva hibridación (presencial – virtual) significa una forma particular de realización en la vida cotidiana de las personas, es decir, una acción en esa realidad, que no escapa del análisis ético, ya que el uso de la tecnología, al ser un acto humano, debe tener aspectos morales que le den motivación, es decir, es guiado por ciertos valores de época, susceptibles de analizarse críticamente, para comprenderlos y, desde luego, establecer sus proporciones (desde la analogía propuesta por Mauricio Beuchot); asi como las condiciones de saber-poder y subjetividad que les dan sustento o en los que se sostienen (posibilidad que nos da la hermenéutica analógica). Esta reflexión es necesaria, dado que la virtualidad, la inteligencia artificial (IA) o el uso de los datos (Big Data) no deben ser sólo medios para la reproducción del status quo, o el fortalecimiento de la sociedad capitalista neoliberal –de consumo y control–, sino potentes posibilidades de cambio para el beneficio de las personas, por ende de la humanidad y del medio ambiente.

Es importante señalar que en este trabajo, además de proponer un ejercicio reflexivo sobre el tema ya mencionado, enfatizo el papel que tienen la educación como motor de cambio crítico, en la medida que se produzca desde la conciencia de los riesgos que implica el uso de la tecnología en la vida cotidiana; pero también de sus posibilidades. En este orden, en este ensayo se abordan algunos desafíos éticos que tenemos los docentes frente a las necesidades formativas convocadas ya sea como agentes de cambio o por el contrario, de reproducción. Este ejercicio resalta la importancia de la labor de los profesores en la construcción de mecanismos éticos adecuados para enfrentar el cambio inminente que se deriva de la Revolución tecnológica.

1. Definir la ética hermenéutica analógica

Es importante iniciar este trabajo con una definición precisa de la manera en que se entiende la ética, que no es otra cosa más que la motivación moral que produce la acción desde una comprensión histórica. Esta forma sencilla de definirla resulta problemática, porque de entrada cuestiona la división de la ética por sectores en el mundo capitalista neoliberal. Es decir, que ya no se considera a la ética como una reflexión sobre la moral que produce acciones intencionadas en la vida colectiva, es decir históricas; sino como un hacer que se relaciona con los diferentes ámbitos en que se ha dividido la vida de las personas. Así se habla de ética personal, profesional, educativa, general, aplicada; en la actualidad se ha descontextualizado a la ética de sus efectos amplios sobre la época.

Ejemplo de esta disgregación de la ética tenemos varios, baste con citar por ejemplo a Hortal (2002) quien la desagrega en un aspecto general y uno aplicado, estableciendo una especie de punto intermedio entre ambas a la referida a las profesiones. De en acuerdo con el autor la ética general:

Trata de los aspectos éticos que son válidos en todo momento y circunstancia, y las actuaciones puntuales que lleva a cabo cada persona en situaciones concretas, está esa zona intermedia de lo que vienen llamándose las éticas aplicadas o éticas especiales tales como la ética económica, la ética política, la ética sexual, ética de la educación, etc. En esa zona intermedia se sitúa la ética de las profesiones en general y la ética de cada profesión en particular. (Hortal, 2002, p. 89).

Como he mencionado, esta desarticulación de la ética es interesante, porque de alguna manera desdibuja la existencia de una ética presente en los actos humanos y por ende, de su potencia histórica. En la práctica esto significa que las personas actúen de diferente modo en razón del ámbito de que se trate, lo cual en términos concretos, se centra en la particularidad del actuar de cada individuo y no, en la conciencia de los efectos que esa actuación tiene frente a los intereses de la colectividad. De allí que se le atribuya un carácter propio del mundo capitalista neoliberal, donde se privilegia el individualismo, la competencia y la acción particular y desligada del interés colectivo.

Esta forma ética desagregada, permite que los individuos operen la vida de forma desagregada y descontextualizada de sus efectos sociales. En una operación vital desplegada en función del momento y la circunstancia, más no de la responsabilidad frente a los otros o al contexto más amplio. En palabras de Dardot y Laval, se trata de un:

Trabajo político y ético de responsabilización […] íntimamente ligado a las numerosas formas de «privatización» de la conducta, porque la vida se presenta sólo como el resultado de elecciones individuales. El obeso, el delincuente o el mal alumno son responsables de su suerte. La enfermedad, el paro, la pobreza, el fracaso escolar y la exclusión son considerados consecuencias de malos cálculos. Las problemáticas de la salud, de la educación, del empleo, de la vejez, confluyen en una visión contable de capitales que cada uno acumularía y gestionaría a lo largo de toda su vida. Las dificultades de la existencia, la desgracia, la enfermedad y la miseria, son fracasos de esa gestión, por falta de previsión, de prudencia, de haberse asegurado frente a los riesgos. Dardot y Laval (2013, p. 232).

Esta forma de eticidad, deslinda de toda responsabilidad ética al sistema económico y ésta se delega en las personas, que a su vez pueden desarrollarla según sus propios intereses. En dicho tenor resulta prudente preguntarnos, dónde queda la responsabilidad amplia de las acciones, frente a los otros, es decir, cuáles serán los efectos históricos que tiene la instrumentación de una ética sin sentido colectivo y sólo referida al ámbito de acción sea el trabajo, la profesión, la ley, etc. Sin duda, muchas de las problemáticas que hoy sufrimos se derivan de esta forma de operar el ethos.

Siguiendo con esta idea, Bauman (2009, p. 3) se refiere a esta ética posmoderna como una forma dispersa relacionada con nuestras actividades, por ejemplo, el trabajo:

Dividido en muchas tareas pequeñas, cada una realizada en un lugar diferente, entre personas distintas, en momentos diversos. Nuestra presencia en cada uno de estos escenarios es tan fragmentada como la tarea misma. En cada escenario desempeñamos un «papel», uno de los tantos que tenemos, pero ninguno parece atrapar «nuestra totalidad», y ninguno es idéntico a lo que «verdaderamente somos» como individuos «íntegros» y «únicos» (Bauman, 2009, p. 4).

Evidentemente, esta forma ética, es una consecuencia de la división del trabajo implementada ya desde el inicio de la Primera Revolución Industrial, perfeccionada a través del Fordismo y el Taylorismo, desarrollados en la Segunda y luego incrementada a través del uso de los avances tecnológicos de la Tercera Revolución. Es como traer una serie de caras o vivir facetas de vida distintas, como si fuéramos personas desagregadas y no actores con responsabilidad social y por ende ética. En la Cuarta Revolución Industrial esta disgregación se hace más complicada, porque ahora se desarrolla en ambientes virtuales o a distancia, en la presencialidad y de manera simultánea en el mundo híbrido. Es ahora la ética de los datos, del metaverso, de la Inteligencia Artificial, de la privacidad, de la modificación genética, entre otros aspectos dignos de reflexionar.

En este orden, vale cuestionarse si la ética puede sólo reducirse y analizarse por secciones, en un mundo donde se producen problemáticas graves derivadas de este individualismo y la despersonalización, o bien, pensar la ética desde una perspectiva más integradora, no sólo desde el uso, sino desde los efectos que tiene la acción humana, en el colectivo, en la comunidad y en la historia, aunque esta se produzca desde la presencialidad, la virtualidad o los ambientes híbridos. Se requiere desarrollar un espíritu ético potente que actúe en todos esos ámbitos de lo que ahora es la vida. Algo así como lo que Abellan, prologuista de Max Weber (2001, p. 18), retomando sus ideas, denomina “espíritu” como una disposición psíquica del individuo que se manifiesta en sus pautas de comportamiento, en los criterios con los que organiza su vida”. Esta idea es relevante, porque refiere a una ética mayor, que involucra la reflexión de las personas, pero en la búsqueda de organización de su vida, completa.

Las reflexiones vertidas permiten afirmar que una visión de la ética como si fuera única, por ejemplo, aquella guiada por la ley o el deber ser, es inadecuada, en tanto resulta unívoca, es decir, no se trata sólo de seguir los principios del capitalismo o el “espíritu del capitalismo” donde “ganar dinero, en definitiva, se convierte en un fin en sí mismo” (Weber, 2001, p. 18); pero tampoco de considerarla como un acto por sectores como se mencionó desde Hortal y Bauman; sino referirla de una forma más proporcional, es decir, como reflexión moral para la acción histórica. Un “dispositivo ético” orientado desde un saber-poder y subjetividad que reconozca la vida en su totalidad, en su cotidianidad y, la acción como un producto histórico y de época, que al tiempo que se produce desde estas condiciones, también las modifica y moldea, ya sea virtual, presencial o híbrida.

La ética hermenéutica analógica

Con un sentido de proporción Mauricio Beuchot propone una hermenéutica analógica, como intencionalidad de comprender las proporciones de la ética y situarla entre los equivocismos del relativismo y la disgregación; así como de los univocismos de la moralidad única en sus diferentes manifestaciones. En principio como “reflexión crítica, tanto destructiva como reconstructiva [que tiene] por cometido la evaluación de las normas, los principios y las virtudes que guían nuestra vida en comunidad” (Beuchot, 2004, p. 5). Nótese como el filósofo resalta el aspecto reflexivo y crítico, es decir una forma de ejercer el pensamiento, de discernir entre los principios de la moralidad (normas, principios y virtudes) como un elemento de época y decidir de forma personal, con una motivación, su realización en favor de lo colectivo.

Sin duda se trata de una consideración de la ética desde otro lado, uno más integrador, que reconoce las condiciones donde se sitúa el ser, pero no sólo frente a sí mismo, sino con un sentido más amplio e importante “una acción personal en la sociedad” (Beuchot, 2004, p. 6). El actuar ético que se convoca ahora, no obedece a los valores del personalismo capitalista, ni se encamina como un actuar desde el “espíritu empresarial” (Dardot y Laval, 2013, p. 135), sino que se establece como lo dice Beuchot con otras “bases racionales” (Beuchot, 2004, p. 74). De allí que haga referencia a una:

Ética hermenéutica […] que buscará lo más posible límites para el comportamiento y fundamentos para establecerlos, por más que no sean duros y firmes, sino analógicos. No será, pues, una ética prepotente ni rígida (univocista), pero tampoco permisiva o light (equivocista), sino atenta a la interpretación del hombre, para comprender lo que es el ser humano y tratar de adaptarle las reglas y las virtudes que le sean adecuadas. (Beuchot, 2004, p. 75).

La aportación del filósofo mexicano, es útil porque proporciona a la conceptualización que se hace de la ética, un carácter pertinente y en cierta manera universal, que se opone a la disgregación del ethos que opera actualmente; pero también se aleja de los moralismos y legalismos exacerbados. En suma se trata de una ética donde confluyen la ética de principios y la ética de consecuencias, la ética de leyes y la ética de virtudes” (Beuchot, 2004, p. 77). Cuán acertada resulta ser esta conceptuación en tiempos de cambios constantes y decisiones guiadas por el utilitarismo y la inmediatez, donde los seres humanos parecemos navegar en la incertidumbre, de modo que se corre el riesgo de pensar que sólo existe una motivación para vivir: la obtención de ganancias, el consumo, la innovación o el éxito; o por el contrario, que cualquier motivo es suficiente para realizar la vida, lo que la reduce y sujeta al interés personal o, incluso al desbordamiento de las pasiones y los deseos que se impongan sobre cualquier cosa. Asimismo, implica el reconocer que la vida actual ya no sólo es de presencialidad, sino también de virtualidad, y esta segunda derivación, por realizarse a través de los medios, no deja de ser actuación humana y, por ende de producir efectos en el colectivo.

El dispositivo ético analógico

Este afán de considerar a la ética de manera hermenéutica y analógica, es decir en sus proporciones propuesto por Mauricio Beuchot, puede completarse, con las aportaciones de Michel Foucault, quien en su hermenéutica también reconoce ciertas derivaciones que conforman al “discurso”, en este caso al ético y que pueden analizarse a partir del concepto de “dispositivo” presente en su obra y desarrollado por pensadores como Agamben. Es decir, podemos hablar de las proporciones que componen al dispositivo ético de época, lo cual nos servirá para analizar aquel que opera en tiempos de la Cuarta Revolución Industrial (CRI).

Aunque Michel Foucault (1994) define al dispositivo como un conjunto de elementos de corte discursivo, político o intersubjetivo, es Giorgio Agamben quien logra concatenarlos y referir una estructura al retomar la obra del mencionado filósofo y definir al dispositivo como:

Un conjunto absolutamente heterogéneo que implica discursos, instituciones, estructuras arquitectónicas, decisiones regulativas, leyes, medidas administrativas, enunciados científicos, proposiciones filosóficas, morales y filantrópicas, en breve: tanto lo dicho como lo no-dicho […] la red que se establece entre estos elementos. (Agamben, 2014, p. 7).

La conceptuación es complicada porque refiere elementos que se articulan “en red” establecidos en un todo, donde convergen los saberes, lo instituido, las estructuras, las normas, lo legitimado, la ideología, la cultura, las reglas escritas y no escritas, etc. No obstante la complejidad de esta definición, nos sirve para complementar la idea de “proporciones” que ya señalaba Beuchot en su analogía. Aplicados a la ética, nos ayuda a dilucidar cómo en la construcción de la misma y por extensión de las respuestas que produce, convergen diferentes elementos susceptibles de considerarse como un entramado o maraña, que actúan como un todo, pero se pueden “separar” para su análisis fino.

El mismo autor, reconoce en el dispositivo “una función estratégica concreta y siempre se inscribe en una relación de poder […] resulta del cruce entre relaciones de poder y relaciones de saber” (Agamben, 2014, p. 8 – 9). Por eso es adecuado ahora referir –para su análisis hermenéutico analógico– al dispositivo ético como un conjunto o entramado de elementos de saber, poder y subjetividad que producen la respuesta ética. Dicho de otro modo, el hacer de las personas –éticamente– es la resultante de esas relaciones que operan proporcionalmente. Evidentemente el dispositivo ético opera tanto en la presencialidad, como en la virtualidad, en los medios híbridos y en toda interacción remota o a distancia. Dicho esto, es adecuado pasar a la exposición sobre las características e implicaciones de la ética en la Cuarta Revolución Industrial (CRI).

2. La Cuarta Revolución Industrial (CRI)

La Cuarta Revolución Industrial en el siguiente paso en el proceso genético de la industrialización que inició en el siglo XVIII, con la implementación de las máquinas de vapor y el uso del carbón; seguida por la Segunda Revolución Industrial Del siglo XIX, donde se generaliza el uso de la electricidad y de otras fuentes de energía, pero sobre todo la aplicación de la ciencia para el perfeccionamiento de las máquinas y la creación de tecnología, que dio lugar a finales del XIX y principios del siglo XX a la Tercera Revolución Industrial definida por la introducción de las tecnologías digitales y de la comunicación masiva como el internet y formas alternativas de energía a los hidrocarburos, a la que también se la ha denominado revolución científico tecnológica o revolución de la inteligencia (Sánchez, 2019, p. 35).

La CRI es en esencia un cambio vertiginoso que se deriva de las revoluciones anteriores; pero no las sustituye, al contrario las incluye, integra y mejora, en un proceso genético acelerado y en constante actualización. En palabras de Sánchez, en la Cuarta Revolución Industrial (CRI):

Las nuevas tecnologías, las impresoras 3D, el Internet de las cosas (IoT), la nube de almacenamiento, el big data, la inteligencia artificial y las redes sociales cambian la manera en que se presta el trabajo […] Por su parte, big data implica realizar el análisis de grandes datos para anticipar errores, comportamientos, reducción de tiempos y costos, así como cubrir una demanda —paradójicamente, producida a partir de una anticipación de comportamientos o de una predisposición del ser humano hacia determinado producto, derivada del análisis de información personal y/o grupal— de manera oportuna. De igual manera, a través de la nube, se permite almacenar digitalmente una gran cantidad de información, que puede ser procesada a través de big data (Sánchez, 2019, p. 35).

Este cambio industrial es en esencia una revolución de datos, que sucede al uso masivo de la TIC[3] durante la tercera revolución, además del desarrollo de procesos que involucran las formas de recabar los mismos, analizarlos, procesarlos y aprovecharlos para hacer predicciones, anticipar la manera en que reaccionan las personas y los grupos, generar tendencias de mercado, crear o transformar hábitos de consumo, establecer mecanismos de control social, mejorar los procedimientos diagnósticos en salud, establecer o mejorar estrategias formativas, entre un sin fín de posibilidades a partir de la “máquina que aprende”.

Cabe mencionar que la gama de elementos que componen a la CRI es basta y compleja, por ejemplo, la empresa Gartner señala varias tendencias tecnológicas en este 2022, como lo son: Tejido de datos, Malla de ciberseguridad, Computación de mejora de la privacidad, Plataformas nativas de nube, Aplicaciones componibles, Inteligencia de decisiones, Hiperautomatización, Ingeniería de IA, Empresas distribuidas, Experiencia total, Sistemas autonómicos, Inteligencia artificial generativa[4]; por otro aldo, Google (2022) señala los elementos como: Aprendizaje automático, Asistente virtual, Bots y robótica, Conjunto de datos, Conocimiento, Diagnósticos, Enseñanza, Ética, Filosofía de código abierto, Humano en el bucle, Lenguaje binario, Ordenadores cuánticos, Predicciones, Reconocimiento de voz, Sistema Neuronal, Visión artificial, entre otros[5].

Sería posible señalar más derivaciones, como las propuestas por Apple, Amazon, entre otros; sin embargo, en este trabajo me centraré en algunos aspectos básicos en la revolución de los datos que están presentes en todas estas derivaciones tecnológicas como lo son: la máquina que aprende (ML), la Inteligencia Artificial (IA), el internet de las cosas (IoT) y el metaverso.

Cada uno de ellos representan elementos de una realidad vigente que avanza vertiginosamente y, a los cuales debemos poner atención por la relevancia que tienen en nuestra vida cotidiana; pero sobre todo, por los dilemas éticos que en su implementación subyacen. Los cuales dan una muestra de cómo el uso y avance de la tecnología no está directamente relacionado con la pandemia, sino que obedece a un proceso de mayor orden e importancia, histórico y de época. Es en este tenor que a continuación se realiza una breve exposición y reflexión sobre los mismos.

La “máquina que aprende” (IA, IoT y ML)

El mismo Sánchez (2019) en referencia a esta Inteligencia Artificial (IA) esboza los cambios que se darán a partir de su masificación en diferentes áreas con la “probabilidad de que la inteligencia artificial supere a los humanos en todas las actividades en 45 años y de automatizar todos los trabajos humanos en 120 años” (p. 36). Esto evidentemente involucra al sector educativo, es decir, la cuarta era digital implica una sustitución sin precedentes de las funciones humanas, por aquellas realizadas por las máquinas inteligentes.

Además, este cambio significa la posibilidad de nuevas interacciones entre las personas y esa IA, no sólo como quienes alimentan a la “máquina”, sino como actores pasivos que están a sus designios, dado que cada vez más, las condiciones de los mercados, del consumo, en el trabajo, en la educación, en el gobierno, serán mediadas y realizadas con base en los resultados que arroje esa inteligencia. De aquí que se haya afirmado en este trabajo el hecho de que la pandemia sólo aceleró o permitió experimentar una forma de vida ya esperada y planeada en este cambio tecnológico.

Sobre la “máquina que aprende” y el uso de los datos, grandes empresas se han encaminado al desarrollo de su potencia para “cosechar” datos y generar posibilidades diversas con su uso. La empresa Huawei define a la Inteligencia artificial como “inteligencia de objetivos sin vida, es decir, máquinas las cuales cuentan con un rendimiento analítico integral. Este rendimiento resulta en diferentes habilidades (típicamente humano) como la percepción, capacidad de aprendizaje, argumentación, planeamiento y deducciones de decisiones” (2021, s/p). Asimismo el Aprendizaje de máquina o machine learning (ML) es aquel donde:

Un ordenador detecta por sí mismo el patrón de datos proporcionados y las leyes que rigen. Tras la finalización de la fase de aprendizaje se generalizará la experiencia adquirida, es decir, transformado en conocimiento, lo cual después puede ser utilizado como transferencia de nuevos registros. Por consiguiente es importante realizar el AM de inteligencia artificial, dado que en su esencia la inteligencia no es otra cosa que aprender. Por lo que de la misma forma que aprenden a comunicarse las personas, o a reconocer determinados modelos (por ejemplo en forma de gramática) o a tener en cuenta las reglas a la hora de conducir, pueden las máquinas también ser formadas, para después poder llevar a cabo por sí solos las actividades relacionadas con ello. (Huawei, 2021, s/p).

Desde estas definiciones, la inteligencia artificial es la capacidad de las computadoras para realizar procesos automáticos para resolver analizar problemas y tomar decisiones; mientras que el como “maquina que aprende”, logra mejorarlos a partir del uso e introducción de nuevos datos, es decir un conjunto de “entrenamiento automáticos basados en la exposición de datos” (Huawei, 2021, s/p). En este orden las personas actuamos en principios como creadores de esta tecnología “inteligente” o automática; pero luego, intervenimos como usuarios alimentando su “aprendizaje” de forma continua, Es decir, cuando hacemos una búsqueda en internet, al utilizar la lavadora inteligente, el ordenador, nuestro whastsapp, al disfrutar una serie en Netflix o, incluso al hablarle a Siri o Alexa, alimentamos la cosecha de datos y mejoramos el aprendizaje de la máquina, que se hace, por tanto –si cabe la expresión–, más inteligente de lo que era. La empresa Huawey lo señala del siguiente modo:

La IA más «fuerte» que todos imaginan es una que puede conectar todos los datos aprendidos para tener la capacidad de manejar cualquier situación. Sin Machine Learning (aprendizaje automático), la Inteligencia Artificial se limitaría simplemente a ejecutar largas listas de «si X es verdadero, haz Y o de lo contrario, haz Z». Sin embargo, esta innovación le da a los ordenadores el poder de resolver las cosas sin que las tengan programadas explícitamente. (Huawei, 2021, s/p).

Básicamente esta forma de aprendizaje de la máquina, está presente ahora en las cosas, a través del denominado Internet de las cosas (IoT), que se convierten en medios a través de los cuales, la máquina que aprende “cosecha” datos para hacerse más inteligente o fuerte. Esto es, instrumentos de crecimiento de la Inteligencia Artificial (IA) que se inmiscuyen en todos los aspectos de nuestra existencia cotidiana. Un riesgo evidente a nuestra privacidad y seguridad, que implica, sin duda a la ética, no sólo en el uso de estos datos, sino en la misma posibilidad de su obtención, hasta ahora poco regulada. Me pregunto cuáles son los límites de una inteligencia artificial que se hace cada vez más fuerte y casi omnipresente.

Las redes sociales y el metaverso

Si a lo dicho sumamos la magnificación de la virtualidad en todos los aspectos de la vida, como lo son las Redes Sociales, que según Sánchez (2019) constituyen una nueva forma, no sólo de comunicación y de información. Sino que son espacios que permiten la venta y compra de mercancías, así como la aparición de nuevas actividades o empleos, por ejemplo youtubers o influencers”, encontramos posibilidades de nuevas maneras de realizar la vida cotidiana, ahora en todo lugar donde exista internet. Las redes sociales se convierten es espacio para el desarrollo de la vida social –el metaverso–, interesante que al mismo tiempo que nos encontramos en nuestros domicilios, en la recámara, en el auto, el la escuela, podemos interactuar en prácticamente cualquier parte del mundo, realizar actos comerciales, trabajar, resolver asuntos legales, trámites, buscar pareja, entre otras posibilidades; pero al tiempo, en estos medios también se realizan actos delictivos y lesivos contra las personas, abusos de menores, fraudes, acoso de cualquier tipo entre otras muchas cuestiones reprobables.

El metaverso

Evidentemente, la interacción social en las redes sociales es una vida real en la virtualidad –si cabe el término–, de acuerdo con Vanesa Pombo:

El metaverso es un entorno virtual inmersivo que supone la siguiente evolución de internet. Por lo tanto, su objetivo no es que lo usen solo los amantes de la tecnología, sino también todas las personas que ahora utilizan el ordenador y los dispositivos móviles para conocer nuevos amigos, ordenar una transferencia bancaria o pedir comida a domicilio: es decir, todo el mundo” (Pombo, 2022, s/p).

Interesante resulta que sean las grandes corporaciones, quienes promueven con gran fuerza el desarrollo de la era tecnológica 4.0, por ejemplo el caso de BBVA (de donde procede Vanesa Pombo) o el mismo Facebook, que en su página Meta, define al metaverso como: “un espacio donde podremos trabajar, jugar y conectarnos con otras personas en experiencias online envolventes [y] se construirá gracias al aporte diario de todo tipo de personas innovadoras, a través de ideas creativas y el desarrollo de apps prácticas” (Meta, 2022). Nótese cómo se trata de una nueva realidad, ya ni siquiera híbrida, sino virtual, la vida en y a través de la tecnología. Es importante preguntarnos cuál debe ser la ética presente en esta innovación y, por otro lado, cuál es la que se requiere para hacerle frente.

3. Proporciones y dilemas de la ética en la Revolución de los datos

Como se ha esbozado, el uso de la tecnología no sólo responde a las condiciones generadas por la pandemia Covid-19, sino que es parte del desarrollo de la Cuarta Revolución Industrial, que es en esencia de los datos. En la misma se desarrollan respuestas éticas diversas que deben ser entendidas en sus proporciones. Según se ha visto, las motivaciones morales de las personas ahora se definen entre ciertas tensiones éticas, que puedo señalar en las siguientes proporciones.

Superar al mundo capitalista neoliberal

Es evidente que las revoluciones industriales están insertas en un modelo de humanidad capitalista, que se ha desarrollado entre el liberalismo, el nuevo liberalismo, el ordoliberalismo y el neoliberalismo, pero tienen en su esencia el mismo interés guiado por el “espíritu de la ganancia”, el “hombre empresarial”, la competencia, el individualismo y el consumo, en el ideario de progreso e innovación que caracterizan a la cosmovisión referida. En este orden la Cuarta Revolución Industrial se produce en un mundo donde los valores del capitalismo se han exacerbado y, se corre el riesgo de que transiten hacia sociedades de control aún en la capacidad de decisión –por tanto de la libertad de las personas–, la era de los datos, si bien promete la mejora en la vida de los seres humanos, al tiempo, implica una cooptación en su libertad de decidir. Lo anterior, porque el tener acceso a datos infinitos sobre los intereses de las personas y, luego usarlos para definir tendencias de mercado y consumo, cuando menos y cuando más a la manipulación masiva, es preocupante.

Asimismo, la revolución de los datos nos lleva directamente al asunto del negocio que significan, es decir ¿cuál es el valor de los datos que proporcionan las personas? Ya que para los gigantes de la tecnología y el comercio, significan ganancia impresionantes, por ejemplo, según la revista Proceso, “la Inteligencia Artificial (IA) tendrá un crecimiento anual del 27% en el mercado español entre 2020 y 2025, lo que supondría alcanzar una cifra de mil 400 millones de euros invertidos ese último año”. Es decir que se trata de un gran negocio cuyas ganancias se quedan sólo en los grandes “mercaderes de datos”, pero no llegan a quienes los producen, es decir, los usuarios, que al contrario pagan por la tecnología o servicios digitales que consumen, sin recibir retribución alguna.

El asunto de la privacidad, el hipercontrol y la seguridad

La privacidad en el uso de los datos que las personas proporcionan a la máquina que aprende, resulta ser un debate ético relevante, porque implica establecer una valoración entre bienes tutelados e igualmente relevantes, es decir , decidir si se pondera derecho que los humanos a decidir sobre la información que proporcionan a la IA y los límites de su uso, o por el contrario, sin en la salvaguarda de la seguridad nacional, o del “progreso” económico, los gobiernos o empresas tienen acceso a nuestros datos, con la posibilidad de usarlos como mejor les convenga, en un mundo donde existen aún pocas regulaciones en la materia. Ante esto, vale pregunta ¿la maquina que aprende?, en tanto ente cibernético, ¿tiene el derecho de “cosechar” información sobre los aspectos de nuestra vida cotidiana, aún los más íntimos, y utilizarlos para fines de mercado o control social?

Esto representa en términos sencillos un “panoptismo[6]” cibernético, que entiendo como la exacervación de la vigilancia y el control social, que se concreta en estrategias de supervisión social mediadas por la tecnología (en particular aquella relacionada con la IA, el internet de las cosas, el análisis biométrico o el aprovechamiento de los metadatos que proporcionan los usuarios de la web y sus derivaciones). Recupero el concepto de panóptico en la época actual, porque la tecnología le permite lograr una “vigilancia permanente, exhaustiva, omnipresente, capaz de hacerlo todo visible, pero a condición de volverse ella misma invisible” (Foucault, 2003, p. 197).

En relación con esta hipervigilancia mediada por la tecnología, se puede mencionar el debate en torno a la empresa Facebook que “se está enfrentando a una ola de indignación global y sus acciones han perdido valor después de que se supo que datos de millones de usuarios fueron recopilados de manera inapropiada por la consultoría política Cambridge Analytica para influir en votantes estadounidenses y británicos” (El Economista, 2018, s/p). Otro caso lo constituye la tecnología que China utilizó para luchar contra el Covid-19 y que también sirve para controlar a sus ciudadanos, según Amnistía Internacional:

China durante la pandemia de COVID-19, en tanto que emplea todas las armas de su arsenal tecnológico para combatir la mortífera pandemia que actualmente está azotando el mundo. Con todo, mientras el país sale gradualmente del confinamiento, cabe preguntarse si estas herramientas de vigilancia, empleadas para abordar la crisis de salud pública, pueden estar utilizándose más ampliamente —y de manera más represiva— para amenazar la privacidad y coartar la libertad de expresión: (Amnistía Internacional, 2020, s/p).

El asunto ético es si las respuestas de las personas deben someterse al control a través de la Inteligencia Artificial (IA) y el Internet de las cosas (IoT), para dejar que su información sirva para el “beneficio social” o, por el contrario, defender el derecho que tiene a su privacidad e individualidad, aún cuando esto signifique vulnerar la seguridad de todos. Evidentemente es un tema que involucra a la educación, dado que al parecer el uso de la tecnología de datos, más que servir como medio de formación de responsabilidad social en los ciudadanos, parece orientarse a vigilarlos, es decir, no confiar en ellos. En este sentido podemos estar ante un gobierno por los datos o una dictadura de datos.

Es urgente que las personas, a través de los procesos formativos, aprendamos a ponderar nuestra privacidad y seamos responsables socialmente, no se trata de imponer el control a partir de la vigilancia de la IA; sino promover mecanismos de colaboración social, donde los ciudadanos actúen no por temor a que se les descubra, sino en pro del bien común. La hipervigilancia a que estamos sometidos, demuestra el deterioro del tejido social, es decir, cada ves somos menos confiables los humanos y más las máquinas. Esto no debe ser así, es necesario pensar en sociedades donde prive el derecho de las personas antes que la coacción.

Asimismo, es importante el tema de la ética empresarial, es decir, una empresa debe recabar datos de manera indiscriminada y usarlos a su consideración, o al contrario, obtener la autorización de sus usuarios y usarlos en su beneficio, en el del colectivo y no sólo para obtener ganancias o fortalecer su poder de mercado u opinión, ya que entonces estamos ante una empresa que manipula y abusa de sus usuarios, con los daños sociales que esto conlleva. Eso implica la urgencia de desarrollar procesos formativos sobre el uso de nuestros datos en las redes sociales y el metaverso, es decir, aprender a gestionarnos como personas y a exigir que la acción empresarial tecnológica sea respetuosa de las personas y la comunidad.

Situar a las personas en la actualización o la obsolescencia

Un tema relevante está relacionado con la obsolescencia que la llegada de una Revolución Industrial produce en las personas, pero también la posibilidad de actualización. Si bien el punto nodal de esta circunstancia toca temas evidentemente formativos, porque es a través de la educación que se puede prevenir o amenguar la obsolescencia de las personas, en términos éticos, da lugar a nuevas formas de exclusión y discriminación. Por ejemplo la que se produce entre los operarios de maquinarias cuyos procesos pasan a la total automatización. La llegada de la tecnología automática genera desempleo y por ende efectos sociales y económicos. De acuerdo con el BID[7], la expansión en el uso de la Inteligencia Artificial (IA) ha generado que en América Latina “entre el 36 % y el 43 % de los empleos en América Latina están en riesgo por el efecto de la automatización […] los países con menor PIB per cápita y mayor desigualdad tienen un mayor riesgo de perder puestos de trabajo por las tecnologías” (Agencia EFE, 2018, s/p).

Lo dicho significa una afectación directa para las personas que no sólo debe ser medida en términos de porcentajes, sino de afectaciones reales en lo cotidiano, con efectos emocionales, de convivencia, en el acceso a los servicios, a la educación y en el bienestar. Implementar tecnología, sin duda ayuda a mejorar múltiples ámbitos del actuar humano, es innegable que a través de la misma se mejoran procesos médicos, se organizan mejor las ciudades, las empresas se vuelven más productivas y se produce un mejor acceso a bienes y servicios; sin embargo, para quienes sufren el otro lado de la moneda, es decir, quedar excluidos del sistema por causa de su obsolescencia frente a la tecnología, el panorama no es muy prometedor, debido a que muchas de esas personas encuentran en la tecnología algo difícil de apropiación, porque no pertenece a su trayectoria vital, en tanto son migrantes digitales.

Esta circunstancia genera incertidumbre ante el constante cambio y por ende, dificultades para la realización vital. Es por tanto, es urgente que desde el sector gubernamental y educativo, se echen a andar propuestas formativas para que las personas puedan actualizarse y por ende estar en posibilidades de seguir su vida. Un reto de la ética frente a la automatización, es lograr que estos procesos no estén centrados sólo en la ganancia y la mejora de la productividad; sino que reconozcan a las personas y el valor de su bienestar, es decir, el centro no deben ser la utilidad y sus lógicas; sino la integración de todas las personas, el bienestar y el interés colectivo.

La discriminación de los datos y sus riesgos

Un punto nodal de discusión ética frente a la era de los datos, es el tema de la selección de los mismos, es decir, las directrices que guían la “cosecha”, análisis y uso de los datos que se obtienen a través de la cosas (IoT) y que se incorporan al aprendizaje de la “máquina”. Esto toca el tema de los valores éticos en la máquina, esto es ¿bajo cuáles criterios la IA decide lo que es correcto o incorrecto?, ¿cuáles son los valores del mundo digital?, ¿a la “máquina que aprende” le interesa el bienestar colectivo o, sólo el negocio? Estas preguntas son sólo para enfatizar que la tecnología aunque no tiene conciencia o valores en sí misma, si obedece a ciertos intereses de época, que ahora son capitalistas neoliberales.

Por ende a los de las empresas y gobiernos, cuyos intereses corren el riesgo de ser diverso al al beneficio de todos. Por ejemplo, si se alimenta la inteligencia artificial con una serie de datos biométricos y faciales y luego se le “pide” o “instruye” que determine cuáles personas son las mejores o las mas bellas, me pregunto ¿cómo logra tomar la decisión? Evidentemente, porque los datos que en ésta se han introducido, responden a modelos sociales preconstruidos y a una cultura. Por otro lado ¿cómo se deciden las áreas en donde se intensificará el uso de la IA? Acaso es a partir de las emergencias sociales, o quizá en relación con los intereses comerciales. En fin, se debe considerar a la tecnología como un aliado de la humanidad y del medio ambiente, más no como una forma que eventualmente puede llevarnos a graves crisis inusitadas. Por ejemplo al uso de la tecnología de datos para luchar contra activistas que defienden derechos humanos o contra el derecho de manifestación, libre decisión o expresión.

Un ejemplo es el uso que el gobierno Chino ha hecho de la Inteligencia Artificial (IA) para mitigar la acción de los defensores y defensoras de los derechos humanos. Según Amnistía Internacional:

Las autoridades habían instalado numerosas cámaras de vigilancia fuera del apartamento de Li Wenzu, esposa del recientemente liberado abogado de derechos humanos Wang Quanzhang. El año pasado, durante el foro de negocios de la Franja y la Ruta, en todo el país se impidió a personas críticas con el gobierno y quienes habían planteado reclamos comprar billetes de tren a Beijing ya que estaban en la lista negra del sistema de venta de billetes. Las autoridades también han exigido a algunos defensores y defensoras de los derechos humanos llevar pulseras de localización en todo momento. (Amnistía Internacional, 2020, s/p).

Estamos entonces ante un uso sesgado de la tecnología, con fines diversos al beneficio colectivo que significa un riesgo para la humanidad, por ende, debemos preguntarnos ¿para que la tecnología?, ¿con cuáles finalidades deben usarse los datos?, ¿Cuáles son los límites de su uso en la humanidad? Sin duda son temas que darán para análisis sucesivos, pero su reflexión y análisis crítico es fundamental.

A manera de cierre: Una educación ética analógica frente a la Cuarta Revolución Industrial

Una vez que se ha reflexionado y discutido sobre el papel de la ética frente a la Cuarta Revolución Industrial y, evidentemente reconociendo que se puede indagar mucho más sobre el tema, dada su relevancia y actualidad. Es posible afirmar que el uso de la tecnología obedece a posicionamientos éticos y los produce. Por ende, es relevante considerar a la ética frente a la implementación de la tecnología, quizá hasta hablar de la “ética tecnológica”. En afán de concluir, es menester proponer algunas líneas formativas que se deben considerar en la construcción de una educación ética adecuada a la actualidad, mismas que a continuación se abordan.

El uso de la tecnología es inminente, pero no debe asumirse acríticamente

Las personas que intervienen en procesos formativos, se encuentran insertos en la implementación de la CRI, la pandemia Covid-19 mostró de manera contundente, la importancia de los medios virtuales e híbridos. El desarrollo de una educación adecuada al uso de la tecnología, no sólo debe ser remota o de emergencia, sino y sobre todo ética y crítica, esto es, que reconozca que la “máquina que aprende” no es neutral, sino que responde a intereses, por ende resulta urgente comprender cuáles son, para producir respuestas adecuadas tendientes a garantizar el interés común a través de la educación. Los estudiantes deben aprender a magnificar el impacto que el uso de la tecnología tiene en sus vidas, en las comunidades, en el medio ambiente, en las condiciones de época, para actuar de forma prudente –analógica– y no sólo instrumental.

Se trata de un uso tecnológico que reconozca la dignidad de las personas y se fortalezca en la solidaridad

El uso de la tecnología puede generar la falsa percepción de que el valor de una persona está en razón de su posibilidad de acceso a la misma. Es decir, establecer diferencias entre quienes pueden tenerla y quines no, por ende, nuevas formas de discriminación por tal acceso. Por otro lado, es importante tener ese respeto en la valoración, análisis e interpretación de los datos, para no dar lugar a exclusiones en razón de género, edad, orientación sexual o apariencia física. Evidentemente, los datos pueden ser usados para esos fines. Además, por el coste de la tecnología, se debe garantizar el acceso para todos, por tanto su democratización y, la posibilidad de que las personas decidan cuáles datos desean ingresar y cuáles no, en virtud de la necesidad del respeto a su privacidad y dignidad.

La pandemia nos demostró cómo las personas que no tienen acceso a internet o a las computadoras, tuvieron dificultades para acceder al servicio educativo, pero no sólo eso, sino al trabajo, a la posibilidad de acceder a la justicia, al entretenimiento, a la realización de trámites. Es decir se recrudecieron las diferencias sociales, ahora en virtud del acceso a estos medios. Condiciones agravadas por el individualismo social en que vivimos y la falta de solidaridad comunitaria de quienes sí cuentan con el acceso, hacia quienes no lo tienen. Evidentemente, para mitigar estos efectos adversos, la solidaridad resulta fundamental, lo cual implica un cambio de paradigma en la humanidad capitalista. Y ya que se habla de dignidad de las personas, también se debe promover un uso responsable de la tecnología para disminuir el daño que se genera en el medio ambiente.

Pensar la ética analógica de los datos como un fundamento para el buen desarrollo de la era tecnológica

De esta manera, se puede afirmar que en la construcción de la respuesta ética, actúan proporciones históricas y de época, como lo instituido, las costumbres, los ideales de ser humano, el discurso de la ciencia, las estructuras establecidas; pero también, lo instituyente, la capacidad de decidir del ser humano, sus anhelos y aspiraciones, los deseos, sus interacciones interpersonales, etc. Es decir, un actuar ético analógico se produce desde esta conciencia de totalidad, y de los límites y posibilidades que estas condiciones representan. Por ejemplo, en relación con el uso de la tecnología, las personas han producido una respuesta ética de emergencia, en el mejor de los casos como estrategia de adaptación y, en el peor, como instrumentación de supervivencia a una realidad inminente. Sin embargo, esta posición estaría dentro de los equivocamos de la respuesta ética de emergencia, porque se produce desde la falsa idea de que el uso de la tecnología remota, obedece a la emergencia sanitaria y, que los medios virtuales e híbridos, son pasajeros y estarán en uso sólo mientras dure la pandemia.

Evidentemente, la respuesta ética que resulta procede del error o de la ignorancia, porque el uso de la tecnología para el trabajo remoto, no tiene que ver sólo con la llegada de la Pandemia Covid-19 –que la aceleró–; sino con un proceso más amplio y complejo denominado Cuarta Revolución Industrial (CRI), que de ningún modo es pasajero y en el que se implementan cambios que tienen hacia la generalización en el uso de la tecnología y, por ende, de los medios virtuales en lo laboral, lo comercial, lo educativo, e inclusive en la cotidianidad a través del denominado Internet de las Cosas (IoT).

Pasar de la mera instrumentalidad a la respuesta ética analógica

Sumado a lo dicho, resulta importante reflexionar sobre el tipo de respuesta ética, en su carácter de acción histórica y reflexionada sobre la moral, porque los seres humanos nos enfrentamos cada vez más a situaciones donde parecemos quedas obsoletos y sustituidos por la tecnología, por ejemplo la inteligencia artificial (IA), o en actuaciones híbridas o totalmente virtuales que hemos denominado tele trabajo; pero que no dejan de ser un uso recrudecido de los medios tecnológicos en todas las acciones de nuestra vida cotidiana, que hoy, además de tener una proporción presencial, tienen muchas más virtuales, como lo es el caso del metaverso, lar redes sociales, el teletrabajo o las interacciones a distancia de tipo profesional o personal. Sin olvidar la cantidad de datos con los que habitualmente alimentamos a esa máquina en constante aprendizaje, que cada vez es más capaz de leernos, interpretarnos, predecirnos y orientar nuestras decisiones. Estamos entonces en un momento crucial para el desarrollo de una petica potente que nos permita actuar en defensa de los intereses comunes y la propia vida humana, en riesgo de ser relagada por las máquinas y la revolución de los datos.

Como seres humanos no podemos tener sólo respuestas éticas instrumentales, asumir acríticamente el uso de la tecnología, aceptarla como un mecanismo invencible de control sobre la vida o, simplemente negarlos y condenarnos a la obsolescencia tecnológica, sino afrontarla de manera analógica y proporcional. Los docentes no pueden reducir su labor a una simple implementación de la tecnología que es acrítica; sino desarrollar una respuesta crítica desde la comprensión –analógica– de sus proporciones. Se trata de abonar en la formación de individuos pensantes y reflexivos, que usen la tecnología con responsabilidad social, solidaridad, democracia, respeto a la dignidad humana y cuidado del medio ambiente, para hacer contrapesos a las intenciones del gran capital y de los gobiernos autoritarios, por establecer una sociedad de control digital en todos los sentidos.

Referencias

Abellan, J. (2001). Estudio preliminar. En Weber, M. La ética protestante y el espíritu del capitalismo. Madrid. Alianza Editorial. (pp. 7 – 40).

Agamben, G. (2014). Qué es un dispositivo. Seguido de El amigo y La Iglesia y el Reino. Buenos Aires: Adriana Hidalgo editora.

Agencia EFE de Argentina. (29 de agosto de 2018). BID: la inteligencia artificial hace peligrar de 36 a 43 % de los empleos en América Latina. Disponible en: https://www.efe.com/efe/america/economia/bid-la-inteligencia-artificial-hace-peligrar-de-36-a-43-los-empleos-en-america-latina/20000011-3733590

Amnistía Internacional (17 de abril de 2020). Cómo ha empleado China la tecnología para luchar contra la COVID-19 y afianzar su control sobre la ciudadanía. Disponible en: https://www.amnesty.org/es/latest/news/2020/04/how-china-used-technology-to-combat-covid-19-and-tighten-its-grip-on-citizens/

Bauman, S. (2009). Ética posmoderna. España: Siglo XXI.

Beuchot, M. (2004). Ética. Mexico: Torres Asociados.

Dardot, C. y Laval, C. (2013). La nueva razón del mundo. Ensayo sobre la sociedad neoliberal. España: Gedisa.

El Economista (28 de marzo de 2018). Debate sobre privacidad en Facebook es punta del iceberg en comercio electrónico. En El Economista.es. Disponible en: https://www.eleconomista.es/empresas-eAm-mexico/noticias/9037090/03/18/Debate-sobre-privacidad-en-Facebook-es-punta-del-iceberg-en-comercio-electronico.html

Focucault, M. (1994). Ditset écrits III. Paris: Galimard.

Foucault, M. (2003). Vigilar y castigar. Nacimiento de la prisión. Argentina: Siglo XXI editores.

Gartner (2022). Las principales tendencias tecnológicas estratégicas de Gartner para 2022. Disponible en: https://www.gartner.mx/es/tecnologia-de-la-informacion/insights/principales-tendencias-tecnologicas

Google (2022). Cómo entender la Inteligencia Artificial. Disponible en: https://atozofai.withgoogle.com

Hortal, A. (2002). Ética general de las profesiones. España: Centros Universitarios de la Compañía de Jesús.

Huawei (2021). Inteligencia Artificial (IA) y Aprendizaje de Máquina (AM). Disponible en: https://forum.huawei.com/enterprise/es/inteligencia-artificial-ia-aprendizaje-de-maquinaria-am/thread/742481-100757

Huawei (2022). Retos y riesgos de la IA. Disponible en: https://forum.huawei.com/enterprise/es/retos-y-riesgos-de-la-ia/thread/839811-100757

Instituto de Ingeniería UNAM (2018). Rumbo a la Cuarta Revolución Industrial. México: UNAM. Disponible en: http://www.ii.unam.mx/es-mx/AlmacenDigital/Notas/Paginas/revolucionindustrial.aspx

Meta. (2022). Disponible en: https://about.facebook.com/ltam/

Pombo, V. (2022). Qué es el metaverso (y qué podría llegar a ser). Disponible en: https://www.bbva.com/es/que-es-el-metaverso-y-que-podria-llegar-a-ser/

Sánchez , E. (2008). Las Tecnologías de la Información y Comunicación (TIC) desde una perspectiva social. En Revista electrónica Educare. XII. Heredia: Costa Rica. (pp. 155 – 162). Disponible en: https://www.redalyc.org/pdf/1941/194114584020.pdf

Sánchez, A. (2019). La cuarta revolución industrial (industria 4.0). Entre menos trabajo, nuevos empleos y una cíclica necesidad: la protección del trabajador asalariado y no asalariado. En Mendizábal, G., Sánchez, A. y Kurkzyn, P. (2019). Industria 4.0. Trabajo y seguridad social.México: IIJ/UNAM. (pp. 33 – 62).

Weber, M. (2001). La ética protestante y el espíritu del capitalismo. Madrid. Alianza Editorial.

Notas