En noviembre de 2021 la UNESCO adoptó su Recomendación sobre la Ética de la Inteligencia Artificial ^[1] con el propósito de ofrecer una guía a los países para responder a los impactos actuales y eventuales, beneficiosos y dañinos, de las diversas aplicaciones de las tecnologías de inteligencia artificial (TIA´s), una tendencia mundial irreversible que está cambiando el quehacer humano en todos los ámbitos. Se trata de una revolución tecnológica más profunda que otras que la humanidad ha conocido, pero que en esta ocasión podría encontrarla mejor preparada para afrontar, mitigar y resolver sus efectos no deseables en la vida social, las relaciones internacionales, el ambiente natural, los ecosistemas y en la vida de las personas, en particular en la mente humana, debido a las formas en que su utilización influye en el pensamiento y en las formas en que se toman las decisiones.

A tales efectos, esta Recomendación de la UNESCO es un recurso institucional de amplio alcance para gobiernos, empresas, organizaciones de trabajadores, instituciones educativas y de investigación científica y tecnológica, así como para las diversas organizaciones civiles y gremiales. En su conjunto es un marco integrador de valores, principios y acciones que persigue guiar el desarrollo de las TIA´s en una dirección enfocada en la dignidad humana, los derechos humanos, así como también en la igualdad de género, la justicia social y el desarrollo económico, el bienestar físico y mental de las personas, la diversidad cultural, la inclusión, la interconectividad y la protección del medio natural y los ecosistemas. La Recomendación presta especial atención a las repercusiones éticas de los sistemas de inteligencia artificial (IA) en las principales esferas de competencia de la UNESCO ^[2], examinadas en el estudio preliminar sobre la ética de la inteligencia artificial elaborado en 2019 por la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO ^[3]

Inevitables tensiones

La Recomendación de la UNESCO considera que la ética es una base dinámica, evolutiva y holística. Pero el establecimiento de normas éticas y las subsecuentes normas jurídicas y medidas políticas de gobierno, podrían crear tensiones con la dinámica de innovación científica y tecnológica en el campo de la Inteligencia Artificial. La resolución adecuada de las mismas será un constante reto para las sociedades y los países de todo el planeta.

Estructura general de la Recomendación.

En su conjunto la Recomendación es un marco integrador de valores, principios y acciones, jalonados por un conjunto de fines y objetivos y con once ámbitos de acción política, a saber: Evaluación del impacto ético, Gobernanza y administración éticas, Política de datos, Desarrollo y cooperación internacional, Medio ambiente y ecosistemas, Género, Cultura, Educación e investigación, Comunicación e información, Economía y trabajo, y Salud y bienestar social.

Los valores que fundamentan la ética de la inteligencia artificial adoptada por la UNESCO deberían ser respetados y promovidos mediante modificaciones de las leyes, los reglamentos y las directrices empresariales existentes y la elaboración de nuevas normativas, cuando sea necesario y conveniente. Estos valores son:

1. 1. La dignidad humana, los derechos humanos y las libertades fundamentales.
2. 2. La diversidad y la inclusión.
3. 3. Prosperidad del medio ambiente y los ecosistemas.
4. 4. Sociedades pacíficas, justas e interconectadas.

Sobre estos valores se fundamenta un conjunto de diez principios que revelan de manera más concreta el contenido de los valores, de modo que estos puedan traducirse en políticas y acciones en los diferentes ámbitos. En la aplicación de algunos de éstos principios podrían presentarse tensiones, al entrar en contradicción uno con otro. Por ejemplo, entre el principio de Transparencia y explicabilidad, por una parte, y el principio de Privacidad de la data o el principio de Seguridad y protección. En estos casos la Recomendación de la UNESCO plantea evaluar el contexto para gestionar las tensiones que surjan, teniendo en cuenta el principio de proporcionalidad y de conformidad con los derechos humanos y las libertades fundamentales, y con la participación de las partes interesadas, “haciendo uso del diálogo social, así como de la deliberación ética, la diligencia debida y la evaluación de impacto”.

Ámbito de actuación: Educación e Investigación.

En esta esfera la Recomendación plantea una serie de proposiciones que se sintetizan y resumen como sigue:

1. 1. Impartir al público de todos los países, a todos los niveles, conocimientos adecuados en materia de IA, a fin de empoderar a la población y reducir las brechas digitales Esto implica, en el caso de países con notables fallas en la enseñanza, promover la adquisición de “competencias previas” para la educación en materia de IA, como la alfabetización básica, la aritmética elemental, las competencias digitales y de codificación y la alfabetización mediática e informacional, así como el pensamiento crítico y creativo, y el trabajo en equipo. Además deberían promoverse programas generales de sensibilización sobre los avances de la IA, en particular sobre las oportunidades que ofrecen y los retos que plantean en los derechos humanos.
2. 2. Alentar las iniciativas de investigación sobre la utilización ética de las tecnologías de la IA en la enseñanza, la formación de docentes y el aprendizaje electrónico, entre otras cuestiones, a fin de aumentar las oportunidades y atenuar los problemas y los riesgos existentes en este ámbito, teniendo en cuenta las repercusiones sobre los educandos y los docentes -en particular los aspectos relacionales y sociales- y el valor de las formas tradicionales de educación, al examinar la adopción de las tecnologías de la IA en la educación. Una idea rectora a tener presente es que la inteligencia artificial “debería apoyar el proceso de aprendizaje sin reducir las capacidades cognitivas”.
3. 3. Dado que las tecnologías de la Inteligencia Artificial ofrecen grandes oportunidades para contribuir al avance de los conocimientos y las prácticas científicos es previsible un uso cada vez mayor de las mismas, por lo cual es necesario alentar a las comunidades científicas a ser conscientes de los beneficios y los riesgos de su utilización y fomentar la formación ética de los investigadores en IA, a fin de que incorporen consideraciones axiológicas en todas las etapas de sus proyectos de investigación.
4. 4. Promover y apoyar las investigaciones sobre la IA, en particular las investigaciones sobre la ética de la IA, mediante inversiones en este tipo de investigaciones o creando incentivos para que los sectores público y privado inviertan en este ámbito. Además, la Recomendación plantea promover la investigación interdisciplinaria en IA mediante la inclusión de disciplinas distintas de la ciencia, la tecnología, la ingeniería y las matemáticas (CTIM), como los estudios culturales, la educación, la ética, las relaciones internacionales, el derecho, la lingüística, la filosofía, las ciencias políticas, la sociología y la psicología.

Si algo puede quedar claro de la lectura de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial es que mucha inteligencia humana habrá que poner en juego, para resolver la enorme cantidad de graves y apremiantes cuestiones que esta revolución tecnológica plantea. Es claro también, valga decirlo, que esto solo podrá ocurrir en un contexto democrático y multilateral.

Notas

Author notes