Servicios
Descargas
Buscar
Idiomas
P. Completa
Derechos y deberes en la inteligencia artificial: dos debates inconclusos entorno a su regulación
Luís Miguel Esquivel Zambrano; Juan Carlos Galvis Martínez
Luís Miguel Esquivel Zambrano; Juan Carlos Galvis Martínez
Derechos y deberes en la inteligencia artificial: dos debates inconclusos entorno a su regulación
Rights and duties in Artificial Intelligence: two unfinished debates regarding its regulation
Nuevo Derecho, vol. Vol. 18, núm. 31, pp. 1-17, 2022
Institución Universitaria de Envigado
resúmenes
secciones
referencias
imágenes

Resumen: A raíz del dinamismo social, los cambios climáticos, las guerras, las insuficiencias sociales y adelantos en la tecnología, cabe indicar que la humanidad está en constante avance, esto con el fin de suplir necesidades en diferentes escenarios de la vida, como lo son: la comodidad, el ámbito laboral, el ámbito estudiantil, el entretenimiento y demás. De acuerdo con lo anterior, los seres humanos en su interés por mejorar sus condiciones de vida, han generado nuevos cambios, entre los cuales está la creación de sistemas artificiales mediante la inteligencia artificial, teniendo como finalidad ayudar en la realización de las actividades diarias que van desde labores sencillas hasta tareas de alta complejidad.

A partir de lo anterior, todo cambio trae consigo efectos colaterales; estos, en ocasiones producen conflictos y desasosiegos, los cuales, para el caso en cuestión, surgen de la relación hombre – máquina (inteligencia artificial), motivo por el cual las sociedades han previsto las implicaciones que trae consigo la falta de regulación jurídica frente al uso de la tecnología.

Las consecuencias negativas que pueden llegar a tener los avances científicos generan una cantidad de aprietos que las buenas costumbres por sí solas no pueden limitar. Colombia no escapa a tal dinámica; a pesar de esto, es carente de muchas tecnologías que en gran parte del mundo ya se utilizan.

Ese establecimiento de responsabilidades jurídicas trae consigo diferentes consecuencias, en tanto, también permite la estipulación de una carta de derechos que abre el campo para el entendimiento de los debates acerca de regulación sobre la inteligencia artificial.

Palabras clave: inteligencia artificial, Derecho, robótica, tecnología, responsabilidad.

Abstract: As a result of social dynamism, climate changes, wars, social insufficiencies and advances in technology, humanity is constantly advancing, this in order to meet needs in different scenarios of life, such as: comfort, the workplace, the student environment, entertainment and others; that is why human beings always tend to improve their lives, as well as have been advancing in the creation of artificial systems through Artificial Intelligence, such as robots, automatons and at some point androids, which aim to help in the realization of daily activities ranging from simple tasks to tasks of high complexity.

From the above, any change brings with it collateral effects, these sometimes produce conflicts and unrest, which for the case in question arise from the relationship man – machine (artificial intelligence); Which is why societies have foreseen the implications that come with it, the fact of not regulating the use of technology in a good way and for the human good. The negative consequences that scientific advances can have generate a number of predicaments that good customs alone cannot limit. Colombia does not escape such a dynamic, despite this it is lacking in many technologies that are already used in much of the world.

This establishment of responsibilities brings with it different edges, because if there is responsibility the counterweight of the premise would be the rights; all these issues are approached from an analytical perspective, since the subject in question is totally new.

Keywords: Artificial Intelligence, right, robotics, technology, responsibility.

Carátula del artículo

Derechos y deberes en la inteligencia artificial: dos debates inconclusos entorno a su regulación

Rights and duties in Artificial Intelligence: two unfinished debates regarding its regulation

Luís Miguel Esquivel Zambrano
Universidades Católica de Colombia y Pontificia Universidad Javeriana, Colombia
Juan Carlos Galvis Martínez
Universidad la Gran Colombia, Fundación Universitaria Juan N Corpas, Universidad Santo Tomás, Colombia
Nuevo Derecho, vol. Vol. 18, núm. 31, pp. 1-17, 2022
Institución Universitaria de Envigado

Recepción: 05 Julio 2022

Aprobación: 14 Noviembre 2022

Publicación: 15 Diciembre 2022

La obligación primaria de la inteligencia es desconfiar de ella”.

Stanislaw Jerzy Lec

1. Introducción

La rapidez con la cual se desarrolla la tecnología plantea escenarios que, hasta hace poco, solo eran pensables en la literatura de ciencia ficción y que ahora hacen parte común de nuestra vida cotidiana. La inteligencia artificial, producto de los avances en informática y cibernética, y sus implicaciones sociales, emocionales y racionales es, sin duda, uno de los temas de actualidad más complejos, pues se ha llegado a pensar que las máquinas pueden tener sentimientos (Darlington, 2018).

En algunos países ya se están discutiendo y proyectando legislaciones laborales, de propiedad industrial, responsabilidad civil contractual y extracontractual, entre otras, como prevención ante las posibles consecuencias de la introducción de la inteligencia artificial en la vida de los hombres.

Por eso, es oportuno preguntarse si en Colombia es necesaria una nueva normatividad sobre inteligencia artificial para la protección de los sujetos reconocidos por el Derecho. Este documento avanzará a partir de los siguientes ejes temáticos: una aproximación teórica a máquina inteligente; una posible categorización del Derecho para las máquinas inteligentes y la regulación de la inteligencia artificial en Colombia. Con este temario queremos proponer una nueva organización en el Derecho para la protección de las plantas, los animales y los seres humanos.

2. Aproximación teórica a la inteligencia artificial
2.1. Filosofía de la máquina artificial

Alan Turing, Marvin Minsky y John McCarthy desarrollaron los fundamentos teóricos y las aplicaciones prácticas de la inteligencia artificial durante el siglo XX (Guillén Torres, 2016; Rivera Estrada y Sánchez Salazar, 2016). En 1956, McCarthy, por ejemplo, planteó una unión entre inteligencia humana y artificial, eliminando los límites que impone la biología y buscando la incorporación del comportamiento inteligente en las maquinas.

El desarrollo planteado en la inteligencia artificial se basa en dar respuesta a diversas necesidades, como lograr una interacción con los juegos de video donde los actores ingresen a una realidad virtual que hace parte de la experiencia sensible, desarrollar tecnología de punta que establezca la solución a problemas de mano de obra que, hacia un futuro, no se dispondrá por un problema de baja natalidad en ciertos países del mundo; y finalmente, suplir actividades con máquinas que brinden mayor productividad en los sistemas de producción en todos los campos de desarrollo de los países y permitan a los hombres avanzar en otras dinámicas.

La determinación del criterio de inteligencia artificial se da hoy en día, basados en la prueba de Turing, denominada así por su creador Alan Turing en 1950, en su búsqueda de la respuesta: ¿las maquinas son capaces de pensar? Publicado en el trabajo Computing machinery and intelligence (Turing, 1950, p. 236), todo bajo el desarrollo de la imitación, pues su visión era que si la maquina podía imitar al humano en las respuestas.

Ahora bien, según los desarrollos descritos, ya se plantean por la mayoría de los tratadistas de la materia diferentes enfoques de la inteligencia Artificial que más adelante permitirán establecer los escenarios sobre los que se podría llegar a determinar la existencia de derechos en esta clase de máquinas. Pero, ¿qué es una máquina inteligente? o, ¿qué es un “robot”?

Entre los académicos que se han dedicado al estudio de la inteligencia artificial, según Villalba Gómez (2016), se puede encontrar a Osvaldo Cairó quien, en su obra El hombre artificial: el futuro de la tecnología, estableció que los diferentes mecanismos que pueden llegar a pensar como humanos pueden corresponder a “máquinas que cuentan con información y la procesan con el propósito de comprender y predecir” (Villalba Gómez, 2016, p. 142).

Además, piensan racionalmente “basado en el enfoque de las leyes del pensamiento aristotélico”, “utilizan la lógica como una alternativa para hacer inferencias” (Russell y Norvig, 2003, p. 15); entonces, el hecho de que la humanidad provea a las máquinas un sistema con el cual puedan llegar a solucionar problemas utilizando la razón, les permite tener inteligencia. En cuanto a las actividades más comunes de la humanidad, Kakú observó este desarrollo de la inteligencia artificial en las que se presentan: “el robot chef y el robot músico” que “han sido programados minuciosamente” (Villalba Gómez, 2016. p. 142).

La aplicación de esta nueva tecnología aportará posibilidades para el desarrollo y la convivencia de la humanidad, brindando elementos que permitan facilitar las diferentes labores cotidianas, como construcción de vías, canales y redes de comunicación, creación de infraestructuras, etc. Sin embargo, a pesar de que, por medio de esta tecnología se busca un mejoramiento en la calidad de vida, de alguna u otra forma siempre ha existido el temor del reemplazo del ser humano en la mano de obra; aunque la intención de los científicos y técnicos es que no disminuya y pueda llegar a afectar la empleabilidad de la población por el desplazamiento hacia una comunidad robótica.

Consecuentemente, hablar de inteligencia artificial obliga a pronunciarse sobre robótica, pues estas van de la mano en su quehacer. No obstante, no son lo mismo, pues la robótica se encarga de la creación de las maquinas (hardware), todo basado en los objetivos de esta disciplina, se logra entender cómo:

La robótica consiste en el diseño de sistemas. Actuadores de locomoción, manipuladores, sistemas de control, sensores, fuentes de energía, software de calidad--todos estos subsistemas tienen que ser diseñados para trabajar conjuntamente en la consecución de la tarea del robot. (Jones et al., 1998, p. 1)

Así las cosas, esa unión que se podría predicar sobre la robótica y la inteligencia artificial, es aquel pilar en la IA, teniendo en cuenta que esta busca, entre otras cosas, decantar o intentar equiparar la inteligencia humana por parte de las máquinas, aquellas que son creadas por parte de la robótica y fortalecidas bajo un sistema de IA, pues, según lo dicho por Bernardo Morales Ascencio (1997):

El desempeño inteligente del ser humano, la manera como los humanos utilizan el lenguaje, el desarrollo de los procesos de inferencia, la comprensión de los fenómenos, los procesos de aprendizaje, las formas de percepción, la manera como los humanos adquieren, aplican, transfieren conocimientos sobre el mundo; los procesos de planeación, ejecución y evaluación de planes de acción; las formas de comportamiento del hombre con los demás y ante la máquina. (p. 27)

Entre tanto, gracias a esta disciplina llamada robótica “la ciencia perteneciente a la rama de la cibernética que estudia el mecanismo de la inteligencia humana con el fin de crear máquinas inteligentes, capaces de realizar cálculos y “pensar”, elaborar juicios y tomar decisiones” (Gil Álvarez, 2010, p. 1). La robótica indaga cómo la inteligencia artificial puede ir evolucionando hasta llegar al desarrollo de las actividades propias de las personas, no solo en las formas de actuar, sino en la toma de decisiones. Lo anterior se observa como uno de los puntos más importantes que permiten la discusión de la comunidad científica, pues, según Villalba Gómez, citando a Frankish y Ramsey, “busca entender, modelar y replicar inteligencia y procesos cognitivos, involucrando variables matemáticas, lógicas, mecánicas y principios y desarrollos biológicos” (Villalba Gómez, 2016, p. 139). Aunque la tecnología aún no ha avanzado tanto como para que pueda llegar a replicar la inteligencia humana, ese momento en que pueda surgir se encuentra muy cercano, a lo cual es necesario que la humanidad evolucione en su concepto de mano de obra para no verse afectada.

Pero, desde el Derecho, ¿qué significa que una máquina piense? ¿Las acciones de las máquinas podrían vulnerar derechos? Si nos basamos en el supuesto de que sea así, ¿se les deben otorgar medidas de protección e instrumentos de defensa como a los animales? ¿estas medidas serían pertinentes para los seres humanos y las IA?

El solo suponer que se humanizará a la máquina es generar diferentes preocupaciones, entre ellas se encuentra la siguiente pregunta: ¿cuál será el escenario futuro? Con lo cual esta sola pregunta presenta un panorama con más inquietudes que respuestas. El hecho de atisbar dicho contexto se da porque el robot empieza a referir conceptos referenciales tales como bio (vida), info (información), cogno (conocimiento) y nano (simplicidad), cuyo propósito trata de “reconocer el grado de correlación y amplitud de las máquinas en un contexto específicamente alternativo al servicio del desarrollo humano” (Villalba Gómez, 2016, p. 139).

3. Entre las Garantías y los Deberes de las Máquinas
3.1. La Posibilidad de la Humanización de la Máquina

Habiendo conceptuado de forma general, así como logrando precisar algunos de los fines de la IA y la robótica, es preciso mencionar que ambas cuentan con un compilado de características, pues, según lo analizado por Porcelli (2020):

  1. -. Eficacia en los cálculos tanto matemático, estadísticos. Su poder es abrumador.

    -. No posee una conciencia: esta es de las características principales. Y es que a día de hoy no hay una inteligencia artificial que tenga una conciencia propia. Están simplemente hechos para obedecer órdenes.

    -. Inteligencia limitada: hay máquinas con memoria limitada. Por este limitante, los humanos no pueden ser reemplazados. Un ejemplo claro, es que un robot no puede entender en la parte emocional lo que quiere expresar una persona.

    -. Carecen de emoción alguna: por lo menos hasta hoy, no tiene empatía, no tiene sociabilidad, el sentido común de las cosas les cuesta entenderlo.

    -. Peligrosidad: depende de su uso. Si la inteligencia artificial es usada por criminales, el peligro rondara. Pero si es usada para mejorar y cambiar el mundo, quizás la vida en la tierra sea mejor y más justa

    -. Obedientes: en la actualidad sólo sirven para obedecer. Así que dependiendo de la tarea que se le asigne a sí mismo, está dispuesta a ejecutarla.

    -. Nada fuera de lo programado: los algoritmos reconocidos en estas inteligencias no son capaces de realizar instrucciones para las cuales no fueron programados inicialmente. El auto aprendizaje es significativo, sin embargo, sus funcionalidades son limitadas. (p. 70 y 71)

Así las cosas, resulta imperante determinar ciertas premisas que saltan a la vista, como temas cruciales al hablar de IA y robótica, pues la autora incoa límites al avance, deduciendo que las máquinas siempre serán obedientes, que no serán peligrosas y que nunca tendrán conciencia; esto puede surgir como una teoría controversial, pues, en la actualidad, cursan varias investigaciones científicas que contrarían el tema, como lo son el Proyecto Robot, llamado androide antropomórfico y el Proyecto Cyborg, pues solo en el proyecto Cyborg busca desencadenar un Enhancement neurocognitivo, esto para aumentar capacidades neurocognitivas en el robot; así mismo, estos proyectos buscan apoyar todo el campo de las neurociencias y la neurología (Rabadán, 2019).

Vistos estos enfoques, desde el pensar y el actuar, es posible que en un futuro no muy lejano las máquinas o robots no solo se vean, sino que piensen, actúen y racionalicen. Por lo tanto, la capacidad de aprendizaje de estas será un producto informático y cibernético, en función del ser humano. Así mismo, no se hace extraño establecer que lo que aprendan las máquinas, tendrá como fundamento la necesidad de mejora, debido a que el objetivo de la máquina será obtener las características que le permitirán, no solo conocer, sino perfeccionar su función para no permitir ningún error.

Además, ¿no se podría hablar de sujeto, pero sí de cosa sobre la cual recaen derechos? ¿Qué clase de derechos recaen sobre la máquina? ¿Son fundamentales? O, ¿recaen sobre su dueño? ¿O no hay dueño? Y, en caso de que lo haya, ¿cómo debería exponerse la facultad de poner en ejecución los instrumentos de protección constitucional para poder defender sus derechos?

Un caso puntual sería la información entregada por Blake Lemoine, ingeniero que laboró en épocas pasadas para la compañía Google, quien manifestó en tiempos pasados que el sistema LaMDA, (Language Model for Dialogue Applications, modelo de lenguaje para aplicaciones de diálogo, en español), estaría mostrando emociones, incluso con respuestas temerosas a ser desactivada (BBC, 2022).

Al analizar algunas respuestas, con base en la dignidad humana, la cual también se conoce como el fundamento o el inicio de los derechos fundamentales, puesto que, siendo coherentes a postulados legales y constitucionales a nivel mundial, como es el caso de la Ley Fundamental alemana en su artículo (2020):

Artículo 1: La dignidad humana es intangible respetarla y protegerla es obligación de todo poder público. El pueblo alemán por ello reconoce los derechos humanos e inalienables como fundamento de toda comunidad humana, de la paz y de la justicia en el mundo. (p.16)

Así mismo, en Colombia, en su artículo primero constitucional se determina que nuestro Estado se basa en el respeto por la dignidad humana.

Si se le desea otorgar derechos a una máquina, lo primero sería pensar en su dignidad, tomándose este, no solo como punto de partida, sino, por el contrario, como aquel presupuesto que otorga cierta protección y naturaleza de una conciencia del sentir. Ello obligaría a no enajenarlo, conllevando a que pierda la función para la que puede ser creado; entonces se debería empezar a analizar la situación de la inteligencia artificial; aun así, siendo optimistas, futuristas y un poco ambiciosos, pasando por ser autómatas a un ser con cierto grado cognitivo, se estaría, de alguna forma, creando nuevas formas de “vida”, lo que conllevaría a la materialización de una obligación estatal, y esta sería la protección de estos nuevos sujetos.

En este escenario, es necesario mencionar cuál sería la razón para entregar un derecho a un ente, pues su categorización con el paso del tiempo ha sido “derecho humano” (Gewirth, 1996, p. 8), sumado a la visión subjetiva del asunto, pues es un alguien, quien podría reclamar su derecho a otro. De alguna u otra forma, la decantación de derecho para una entidad ha estado permeada por criterios como la ética en el actuar; no son cosas, sino necesidades, son entendidos como valores y, justo por la mera existencia de los seres humanos, los perpetúa en el tiempo (Díez Spelz, 2021, p. 272).

Paso seguido, hablar de incluir u otorgar derechos a una máquina por su acercamiento a tener una conciencia y personalidad, de acuerdo con su desarrollo cognitivo, surge como un tinte de moralidad; esto, instituido desde una ética del cumplimiento que, entre otras cosas, se direcciona a determinar un ejercicio balanceado de esta otorgación; en otras palabras, se debe tener la conciencia, personalidad, entendimiento subjetivo de la moralidad, y todo esto, reúne características para inclinar la balanza a que, si se da, se exige; en resumen, deberán tener deberes también.

Sin embargo, al realizarse todos estos cuestionamientos, se entra en la necesidad de regular actualmente la existencia de la responsabilidad de estos sujetos, o de sus propietarios. Así entonces, un sujeto con inteligencia artificial o su propietario deberían estar condicionados a los presupuestos de la sociedad como se ha manejado hasta este momento.

Realizando el razonamiento, el cual es propio del ser humano, se deben tener ciertas características, las cuales actualmente son los programas de ejercicio de los derechos humanos, los cuales enseñan a los jóvenes sobre: ¿qué es un sujeto de derechos? Y ¿Cuáles son las características de un sujeto de derechos? Puesto que estas fueronpreguntas que se plantearon durante los siglos XIX y XX.

Argüir que se puede dar el escenario en el que una máquina pueda llegar a tener uso de razón, indicaría que se le tiene que brindar un pensamiento propio, con la libre elección, lo que indicaría el libre albedrío, junto a la objeción de conciencia. Regular las situaciones en donde se llegase a presentar la responsabilidad del sujeto con inteligencia artificial, se podría considerar como “avanzado” para esta época; sin embargo, lo que se podría mantener y, a manera de propuesta, es la responsabilidad del propietario de ese sujeto y, en algún punto, la del creador del mismo.

Por ejemplo, debido a la diversidad de usos que pueda llegar a tener un dron, como es el transporte de comida, es posible también que este pueda transportar armas o autodestruirse, y todo esto surge por su creación o manipulación, aunado a su programación; esto se mostraría más claro en dicho ejercicio comercial, pues el comprador lo adquiere sin conocer su programación y así llegar a cometer un ilícito; de esta manera la Comisión Europea (Borja y Sánchez, 2018) se ha encontrado en la necesidad de regular el espacio aéreo de los drones, buscando así el control y previniendo los daños que se puedan llegar a causar.

Al analizar los posibles escenarios, surgirían un sinfín de posibilidades, pues la presencia de la IA está cada día más frecuente, sus usos siguen proliferándose; de paso, la posibilidad de fallas, daños y situaciones que atienden al criterio de responsabilidad.

Con diferentes reflexiones los Estados han decidido realizar avances que busquen regular el contexto de las máquinas, es entonces cuando el legislador debe realizar un estudio directo con la informática, la robótica y la sociedad, para que se logre un trabajo multidisciplinar, en cómo esto puede llegar a ser beneficioso para la población y su desarrollo tecnológico. Así mismo, se podrían evaluar los impactos de la máquina en lo social, cultural, económico, político y bélico. Tal es el caso que inicialmente se debe realizar el estudio de las leyes de Isaac Asimov, las cuales fueron expresadas, en primer lugar, desde el cuento Runaround de 1942, en el que se indica lo siguiente:

  1. -. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.

    -. Un robot debe obedecer las órdenes dadas por los seres humanos excepto si estas órdenes entrasen en conflicto con la primera ley.

    -. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primer o la Segunda Ley. (Asimov, 1942)

Es menester manifestar que, en tiempos pasados, las primeras regulaciones existentes se centraban en la robótica y eran diseñadas con el fin de garantizar sistemas de calidad en la fabricación de máquinas totalmente programadas y destinadas para un solo fin; podemos destacar ISO 10218-1:2011, ISO 13855, y la ISO/TS 15066:2016. Hasta este momento solo se hablaba de la garantía de un bien o un servicio que prestaba la máquina, todavía no se avanzaba en la delimitación o posibilidad de que esta llegare a tener la particularidad de adquirir conocimiento.

Corea del Sur y Japón son los únicos países con una primera legislación sobre robótica, en la que dividen en niveles a la robótica, adjudicando el cuarto nivel a la inteligencia Artificial, aunque aclaran que todavía no tienen algo que tenga dentro de sus desarrollos tecnológicos tal alcance por completo. Pero no obvian lo importante, legislar esa situación antes de que sea una realidad; por ello crearon “Korean law on the development and distribution of intelligent robots” de Corea del Sur y la Robot Strategy de Japón. En estas, se define la inteligencia Artificial como la capacidad para comprender diferentes acontecimientos de forma voluntaria. Asimismo, esos tipos de sistemas inteligentes deben obedecer, tanto a órdenes de otros sistemas de inteligencia Artificial, como a las humanas que interaccionan con él.

3.2. Escenarios de la Regulación para las Máquinas Inteligentes

El Derecho se reforma de acuerdo con otras ramas del saber, a las necesidades sociales, los conflictos y las problemáticas, esto se acuñe al dinamismo social, en el que se establecen nuevos objetivos. La tecnología, por su parte, aporta a estos cambios de forma descomunal, pues sus cambios irradian todas las esferas de la vida en el planeta (Martínez, 2018).

El centrar en una categoría del Derecho al uso de las máquinas, permite que se pueda anticipar a las consecuencias que pueda generar del uso. La posibilidad de realizar labores cotidianas por las máquinas, desencadenaría en variables en el actuar humano. En este caso el Derecho debe entrar a regular las conductas de la sociedad moderna, no es solo necesario que se modifique su legislación, sino que se logren prever algunas situaciones que se pudieran entender como problemáticas entre el Derecho, la sociedad y la tecnología (Diéguez Méndez, 2011).

El hecho de generar regulación para un tema tan innovador como es la IA, impone retos trascendentales. Ante el panorama se debería tener presente: i) el avance de la tecnología, de alguna forma u otra podría desactualizar de forma fugaz la normativa, pues el avance de la misma presentaría un contexto de cambios, los cuales impondrían necesidades novedosas, cada vez que surja una nueva tecnología, razón por la cual, se podrían quedar atrás las leyes; por ello, es vital que la normatividad tenga una visión neutral, que su aplicación no este supeditada a una tecnología en especial, ii) la regulación no puede ir vinculada de forma directa a la tecnología, esto teniendo en cuenta que si se supedita al avance, solo se favorece lo novedoso, dejando un escenario un poco desalentador a los sistemas pocos sofisticados, iii) el ámbito de la regulación debería ser supremamente amplio; esto, teniendo presente que la limitación de esta permitirá dejar por fuera varios temas, y tratándose de temas de IA los avances serían muchos.

Otro punto sobre la mesa al referirse sobre regulación de la IA, es tener presente el contexto actual para trabajar sobre lo que hay, identificando falencias normativas, así como vacíos, logrando finiquitar aspectos de forma más amplia, sumado al hecho del establecimiento de las autoridades competentes, analizando si existen o es necesaria su creación; todo esto, teniendo en cuenta lo novedoso del tema.

Por otro lado, la Comunidad Europea presenta también inquietudes sobre los desarrollos de la Inteligentica Artificial, dando origen a la presentación de una propuesta de robótica aprobada en febrero de 2017 por el Parlamento Europeo, en ponencia elaborada por Mady Delvaux (2015), en la que se hace referencia a la delimitación clara de los derechos y deberes de los fabricantes de estos en el marco de lo establecido por Isaac Asimov.

Considerando que, gracias a los impresionantes avances tecnológicos de la última década, los robots ya no solo pueden realizar actividades que antes eran típica y exclusivamente humanas, sino que el desarrollo de determinados rasgos cognitivos y autónomos —como la capacidad de aprender de la experiencia y tomar decisiones cuasi independientes— ha hecho que estos robots se asimilen cada vez más a agentes que interactúan con su entorno y pueden modificarlo de forma significativa; que, en este contexto, es crucial la cuestión de la responsabilidad jurídica por los daños que pueda ocasionar la actuación de los robots. (Parlamento Europeo, 2017, p. 5)

Por lo cual el Parlamento solicita a la Comisión Europea que se establezca un régimen de responsabilidad de las acciones y la creación de un fondo económico para respaldar la indemnización o reparación de un posible daño.

Ética: uno de los puntos sobre los cuales demuestran mayor interés en la legislación es la creación urgente de un código de ética que se aplicaría a los sujetos que realizan la programación de la máquina, ya que es sobre ellos que cae la responsabilidad de poder programar si el robot tendrá que actuar sobre lo bueno o lo malo, y adecuado a la moral de los diferentes sitios donde se encuentre; es sobre ellos que caerá la responsabilidad de crear máquinas que sirvan al hombre y no máquinas que con su desarrollo sean una amenaza para el mismo.

Así mismo, proponen la creación de un código de ontológico para los investigadores; es decir, deberes y principios que regulan la profesión, ya que estos son los autores intelectuales de los desarrollos y deben establecerse a ellos límites evitando que se establezcan abusos a cualquier innovación.

Protección a datos y propiedad intelectual: referente a este punto se establece que solicitan a la comisión se estudie la protección de la información, lo cual sería susceptible de vulnerar entre máquinas que almacenan la misma sin ningún tipo de restricción y se convertiría en un riesgo inminente, y que ni siquiera se tendría la manipulación humana total en el intercambio de datos, ya que tendría que haber una directriz de restricción en la programación frente a ello.

Del mismo modo, se indica que se deberá regular la propiedad intelectual de las creaciones que se puedan producir de los mismos robots en el desarrollo de sus actividades, ya que una de las grandes cuestiones es que, si ellos crean, se les corresponderá desde sus propios derechos obligando a algo sin lógica.

Protección al empleo: se solicita, además, a la Comunidad Europea que estudie el impacto que se establece en estudios presentados a ella, donde las máquinas remplazan actividades humanas, y se establezca, de alguna manera, en caso de los remplazos laborales, la posibilidad del establecimiento de gravámenes tributarios a las empresas a cambio de los pagos a Seguridad Social, para no desvirtuar la mano de obra del hombre.

Se incluye, además, que “los Robots asistenciales” cumplan con unos requisitos básicos que delimiten sus intervenciones y existan comités éticos que controlen la función de los mismos y, frente a los Drones, se pide garantías de seguridad y privacidad de los ciudadanos y respeto a los tratados y normas europeas firmadas por la Unión.

Por lo tanto, según la ponencia abordada, para el mundo es una necesidad imperante regular las situaciones que, en algún momento, se vieron como irrealizables, y que a través de las investigaciones hoy son una realidad; pero no hay que perder de vista que estas son máquinas y, aún, bajo el carácter dado por la Comunidad Europea y países como Corea del Sur y Japón, es recomendable cuestionar la existencia de derechos y deberes; ostentando así una premisa en el derecho, la cual y, después del material analizado, cuando se habla de un derecho se refiere a la posibilidad de pedir lo propio, lo que es de sí mismo y no de otro, y solo hasta cuando otro lo quita o vulnera se procede a reintegrar o reestablecerlo, con mecanismos como la tutela.

Ahora, más que discutir de un derecho en cabeza de una máquina, robots o “persona electrónica”, como es llamada en Europa, se debe dialogar es sobre la construcción de un ordenamiento de normas que establezcan el aseguramiento de la vida social, garantizando evitar riesgo, como no tener ningún control sobre lo creado, inventado o investigado, que supere a la humanidad y que detente o desee poder, que puedan destruir al mismo hombre, entendiendo este como la capacidad de que algo o alguien someta a los demás a su voluntad y que, en el caso en estudio, se establece como una máquina.

En cuanto a la Comisión Europea, esta ha señalado en la resolución del 16 de febrero de 2017, incluyendo recomendaciones destinadas a la misma Comisión sobre las normas del derecho civil en la robótica, buscando que, al interior de los países europeos con mayor tecnología, como es el caso de Alemania, no se pierda el impulso en el registro de cada uno de los robots más avanzados o que se les presente una ayuda de soporte técnico a los propietarios de los robots. Así entonces, es como se presenta un avance en la categorización del derecho de los robots, en donde, previo a su instalación, ya se logra pronosticar en cuáles ámbitos trabajará dicha máquina

Entonces, si en el mundo se solicitara la creación de un código de regular la situación de las máquinas, la Comisión Europea identifica la labor de este código judicial.

El código no debería reemplazar la necesidad de abordar los principales retos jurídicos en este ámbito, sino que ha de tener una función complementaria. Facilitará más bien, la categorización ética de la robótica, reforzará los esfuerzos de innovación responsable en este ámbito y responderá a las preocupaciones de los ciudadanos. (Parlamento Europeo, 2016, p. 20)

Para que en el mundo jurídico se pueda desarrollar una nueva categoría en el Derecho, por lo menos, se muestran cómo los sucesos trascendentales marcan el contexto; esta afirmación se obtiene de momentos históricos como la revolución estadounidense y la revolución francesa, puesto que, con sus ideales de Estados liberales, fomentaron la creación de algunos derechos que buscaban garantizar la libertad de las personas (Prestel Alfonso, s. f.) Con Estos derechos dentro de Estados de corte liberal, se buscaba limitar el poder del Estado, con el objetivo de garantizar a la población unas condiciones mínimas de autonomía.

Con los derechos de segunda generación se buscó que todos los miembros de una población llegasen a tener las mismas cualidades que tienen personas de mayor oportunidad. El fomento de estos derechos se dio a finales del siglo XIX e inicios del XX, porque se basaba en la búsqueda de mantener el equilibrio en la sociedad; aunque este avance fue muy lento, se generaron mejores garantías para los trabajadores (Prestel Alfonso, s. f.)

Finalmente, con los derechos de tercera generación buscan crear un sistema de convivencia armónico en donde la justicia, la paz y el medio ambiente puedan llegar a ser las bases en la construcción de un Estado (Prestel Alfonso, s. f.)

Es así que, finalmente, se presenta que, para la existencia de una nueva categorización del derecho, es necesario que la humanidad atraviese por una situación en la cual la única manera de afrontar dicha situación sea anticipándose a los posibles resultados y, así, cuando el momento de proteger o defender a la raza humana llegue, se conozca exactamente qué es lo que se debe hacer. Entonces, como lo manifiesta Santos González (2017):

La nueva regulación debe preservar valores como la autenticidad, seguridad y protección de la raza humana, regular las cuestiones éticas y los conflictos que puedan surgir en las relaciones robot-persona y entre robots. No se trata de regular la tecnología sino de regular la sociedad para que siga siendo para los humanos como ellos decidan. (p. 9)

Por lo anterior, se solidifica la expresión que: “la sociedad es la que modifica el Derecho”; es así, entonces, que es el tiempo perfecto para que la humanidad considere qué es lo que debe realizar en el mundo, tanto para el establecimiento de las relaciones humanas, como para la adquisición de nuevas relaciones que buscan satisfacer las necesidades de la misma.

4. La Regulación de la inteligencia artificial en Colombia

El Estado colombiano no está a la cabeza de uno de los países más industrializados, y tampoco se encuentra entre los países en los cuales se convive en paz, puesto que la situación con el conflicto armado interno, sumado a los casos de corrupción, no han permitido que se generen considerables evoluciones en el conocimiento y sea necesario mimetizar de otros Estados para poder llegar a obtenerlo, para después poder ajustarlo a la normatividad interna.

La reglamentación de los posibles derechos y, en efecto, de los deberes de las máquinas, en torno a todos los aspectos de la IA, es un tema de especial cuidado; los avances y la carrera que se recorre actualmente en el mundo, impone retos inmensos; por lo tanto, Colombia debería ir a la vanguardia. Por lo anterior, no se puede dejar transcurrir mucho tiempo en regular este tipo de conductas, teniendo en cuenta que puedan llegar a aprovecharse de la inteligencia artificial (Becerra et al., 2018) y, con ello, vulnerando los derechos de otras personas.

De otra manera, Colombia adecuó una guía en cuanto la regulación de la inteligencia artificial, puesto que se adhirió al acuerdo de la OCDE como recomendación de este organismo internacional. Con este acuerdo se buscará que en la Nación exista una guía para la conformación de las políticas públicas, respecto a la inteligencia artificial, para que así no se encuentre el país en un distanciamiento entre la actualidad del mundo y la legislación existente (MinTIC, 2019). Entre las recomendaciones que realiza la OCDE se encuentran:

  1. 1. La IA debería beneficiar a las personas y al planeta impulsando el crecimiento inclusivo, el desarrollo sostenible y el bienestar.

    2. Los sistemas de IA deben diseñarse de una manera que respete el Estado de derecho, los derechos humanos, los valores democráticos y la diversidad, y deben incluir salvaguardas apropiadas, por ejemplo, permitir la intervención humana cuando sea necesario, para garantizar una sociedad justa y equitativa.

    3. Debe haber transparencia y divulgación responsable en torno a los sistemas de IA, para garantizar que las personas entiendan los resultados basados en la IA y puedan desafiarlos.

    4. Los sistemas de IA deben funcionar de manera robusta y segura a lo largo de sus ciclos de vida y los riesgos potenciales deben evaluarse y gestionarse continuamente.

    5. Las organizaciones e individuos que desarrollan, despliegan u operan sistemas de IA deben ser responsables de su correcto funcionamiento en línea con los principios anteriores. (Min Tic, 2019)

Colombia, al ser un Estado Social de Derecho, se encuentra inmerso en la necesidad de impulsar políticas públicas que deban ayudar a su población a obtener mejores empleos, con una economía lo suficientemente sostenible para abarcar todos los sistemas, sin que se encuentre una carencia del Estado de Derecho. Por eso tenemos que se han promulgado las siguientes disposiciones: Política Nacional para la Transformación Digital y la Inteligencia Artificial de Colombia. Documento CONPES 3975. 8 de noviembre de 2019; Marco Ético Para La Inteligencia Artificial En Colombia. 2021; Consejo Internacional de Inteligencia Artificial para Colombia: 2021, y la ya mencionada Guía Para la Adecuación de la Inteligencia Artificial.

En cuanto a la responsabilidad devenida de la IA, la normativa que, en primer lugar, se podría interpretar para el establecimiento de la responsabilidad por el mal uso de ella, se encuentran en el Código Civil, exactamente, en el artículo 2341 está el fundamento de la indemnización:

El que ha cometido un delito o culpa, que ha inferido daño a otro, es obligado a la indemnización, sin perjuicio de la pena principal que la ley imponga por la culpa o el delito cometido. (Código Civil, Ley 57 de 1887 art. 2341)

Por lo anterior, no se diferencia ni del propietario del bien ni del creador, puesto que, las afectaciones que pueden llegar a generarse por cualquiera de los anteriores, deben ser indemnizadas a los afectados. Con base en el fundamento de la responsabilidad del código civil, es posible sancionar civilmente a quien haya ocasionado el daño.

Ahora bien, en el Código Penal se encuentra que, los artículos 29 y 30, manifiestan las dos calidades del sujeto en materia penal: autor y partícipe; bajo estas modalidades es posible que, con el tiempo, pueda ser un humano aquel que, utilizando algún artefacto de inteligencia artificial, sea considerado como autor del tipo penal.

Así mismo, el Estado colombiano, como se mencionó en apartes anteriores, pregona de ser democrático, de contener las condiciones suficientes para ser intervencionista y, así, lograr garantizar la seguridad de las personas. Esta seguridad, para el caso que nos atañe, se entiende que, bajo esta intervención, el Estado garantice que el acceso, regulación, inspección vigilancia y control de la IA se cumpla a cabalidad, o sea, que las personas estén seguras en el uso de esta tecnología. Si se llegase a presentar un daño en un usuario de la IA, antes de esto, el Estado Colombiano debió haber vigilado e inspeccionado la misma.

De tal manera que lo previsto acuñe al criterio de Responsabilidad Extracontractual, que tiene como fórmula constitucional el articulo 90 superior, pues este responde por acción o por omisión de las actividades de sus agentes; siendo esto la decantación de la regulación de la responsabilidad extracontractual del Estado en torno al uso de la IA.

5. Conclusiones

Los objetivos de la inteligencia artificial se enmarcan alrededor de la búsqueda de métodos que permitan equiparar la con la inteligencia humana, logrando incluir en ella temas como la conciencia y forma de pensar.

La inclusión de la IA en la robótica, tiene dentro de sus propósitos mejorar la calidad de vida de los seres humanos, buscando alternativas de bienestar desde las diferentes áreas de la vida cotidiana. Muchas son las opiniones al respecto, pero, es cierto que su inclusión trae consigo beneficios en el desarrollo humano.

Si bien, no está probado, se encuentra sobre los temas del día el planteamiento de una posible humanización de las máquinas; esto, bajo la premisa de poder generar una imitación de sensaciones, sentimiento y conciencia por parte de las máquinas.

Países como Japón y Corea del Sur, que ya implementaron sus legislaciones conforme a regular la actividad de la inteligencia artificial, con el objetivo de procurar la protección del ser humano, ya que existe un alto riesgo que, por la avaricia y la conciencia humana, se creen dichas máquinas con inteligencia artificial y que, con ello, se busque la afectación de algún ser humano o del medio ambiente. Es así que Colombia debe seguir el ejemplo de estos países y regular dicha manifestación del ingenio humano, previniendo los conflictos que estos puedan llegar a tener.

Es, con base en el estudio de las leyes fundamentales de Isaac Asimov, que se debe propender por la protección del ser humano con la ayuda de las máquinas con inteligencia artificial, además que, con una educación ideal para la sociedad, es como se podrá tener un equilibrio en cuanto a la protección de la humanidad y al avance en las labores que lleguen a facilitar la vida humana.

La humanidad aún no ha terminado la era de la informática, lo que conlleva a que continúe aprendiendo y creando escenarios en donde se busquen mejores condiciones de vida. Sin embargo, es necesaria la regulación de ciertas creaciones que pueden generar afectaciones a la misma especie humana y, para ello, el Derecho de mano con la Sociología y con la Psicología, deben obtener la conciencia necesaria de sus practicantes para que, en ese momento, se resuelvan todas las dificultades que puedan generarse.

El encasillamiento de las máquinas como sujetos de derechos deberá atender a varias premisas; dentro de ellas está la posibilidad de equiparar al ser humano, lograr el decantamiento de acciones en la misma línea, y ser sujetos de responsabilidades antes que de los derechos.

Un mundo en el que no se logre establecer la responsabilidad de un individuo no es un mundo ordenado; es necesario que el Derecho como fuente de las relaciones jurídicas encuentre esta solución y, así mismo, la comparta con el mundo, en donde la comunidad mundial se encuentre vigilando cada actuación de los robots con inteligencia artificial, de sus creadores y, posteriormente, de sus propietarios.

Países que no se encuentran en la vanguardia frente a los nuevos inventos, por sus situaciones bélicas, económicas o políticas, tienen un nivel de vida distinto, puesto que, por lo general, estos países no son los innovadores en los nuevos artefactos y continuamente se encuentran importando elementos de los países más avanzados, como celulares, computadoras, carros, barcos, aviones, etc. Así que, si estos países regulan las conductas de los otros, se encontrarán a la vanguardia y no tendrán que copiar los ejemplos de otras naciones, puesto que las sociedades son distintas y muchas soluciones que se traspasan de un país a otro no siempre resultan siendo la mejor opción.

La era de la inteligencia artificial llegó y es cuestión de algunos lustros o décadas que esté presente en todos los países del mundo, pero, antes de ello, es necesario hacer los ajustes a la mano de obra, a la legislación y a la política, para que no se encuentren afectadas las personas por estos nuevos sujetos.

Material suplementario
Referencias
Becerra, J., Cotino Hueso, L., León I., Sánchez-Acevedo, M., Torres Ávila, J. y Velandia Vega, J. (2018). Marco teórico y aproximación jurídica al big data: algoritmos, inteligencia artificial y transformación digital. En J. Becerra (editor) Derecho y big data (pp. 39-64). Universidad Católica de Colombia.
Borja, R. y Sánchez J. (2018, 13 de febrero). Los drones y la posible responsabilidad civil derivada de su uso. Cinco días. https://cincodias.elpais.com/cincodias/2018/02/13/companias/1518517096_989612.html
Congreso de la República de Colombia. (1887). Código Civil Colombiano. Ley 57 de 1887. Artículo 2341. DO: 2867. Bogotá: Congreso de la República.
Congreso de la República de Colombia. (2000). Código Penal Colombiano. Ley 599 de 2000. Artículo 29. DO: 44.097. Bogotá: Congreso de la República.
Darlington, K. (2018). Sistemas de inteligencia artificial que gestionan emociones humanas. Open Mind BBA. https://www.bbvaopenmind.com/tecnologia/inteligencia-artificial/sistemas-de-inteligencia-artificial-que-gestionan-emociones-humanas/
Diéguez Méndez, Y. (2011). El derecho y su correlación con los cambios de la sociedad. Derecho y cambio social, 8(23). 1-28. https://www.derechoycambiosocial.com/revista023/CARATULA.html
Díez Spelz, J. F. (2021). ¿Robots con derechos? La frontera entre lo humano y lo no-humano. Reflexiones desde la teoría de los derechos humanos. Revista IUS, 15(48), 259-287. https://doi.org/10.35487/rius.v15i48.2021.742
Gewirth, A. (1996). The Community of Rights. The University of Chicago Press.
Gil Álvarez, J. (2010). Evolución y futuro de la inteligencia artificial aplicada a la robótica. https:// www.academia.edu/22668643/EVOLUCI%C3%93N_Y_FUTURO_DE_LA_INTELIGENCIA_ ARTIFICIAL_APLICADA_A_LA_ROB%C3%93TICA
Guillén Torres, B. (2016). El verdadero padre de la inteligencia artificial. Open Mind BBVA. https://www.bbvaopenmind.com/tecnologia/inteligencia-artificial/el-verdadero-padre-de-la-inteligencia-artificial/
Jones, J., Seiger, B. & Flynn, A. (1998). Mobile Robots: Inspirations to Implementation. CRC Press. Ley Fundamental de la República Federal de Alemania. Artículo 1. 23 de mayo de 1949. (Alemania). https://www.btg-bestellservice.de/pdf/80206000.pdf
Martínez García, J. (2018). Derecho inteligente. Cuadernos Electrónicos de Filosofía del Derecho, (37) 95-114. https://doi.org/10.7203/CEFD.37.11440
McCarthy, J., Minsky, M., Rochester, N. & Shannon, C. (1955). A Proposal for the Dartmouth Summer Conference on Artificial Intelligence. http://stanford.io/1bqrAR1
Ministerio de Tecnologías de la Información y las Comunicaciones. (2019, 22 de mayo) Colombia se adhiere a acuerdo de Inteligencia Artificial ante la OCDE. https://mintic.gov.co/portal/ inicio/Sala-de-Prensa/MinTIC-en-los-Medios/100826:Colombia-se-adhiere-a-acuerdo-de-Inteligencia-Artificial-ante-la-OCDE.
Morales Ascencio, B. (1997). La lingüística en la inteligencia artificial. Forma y Función, (10), 25-50. https://revistas.unal.edu.co/index.php/formayfuncion/article/view/17072
Parlamento Europeo. (2016, 31 de mayo). Proyecto de informe con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre la robótica (2015/2103(INL)). https://www.europarl.europa.eu/doceo/document/JURI-PR-582443_ES.pdf?redirect
Parlamento Europeo. (2017, 16 de febrero). P8-TA (2017)-0051. Normas de Derecho civil sobre robótica. https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_ES.pdf
Porcelli, A. (2020). La inteligencia artificial y la robótica: sus dilemas sociales, éticos y jurídicos. Derecho global. Estudios sobre derecho y justicia, 6(16), 49-105. https://doi.org/10.32870/dgedj.v6i16.286
Prestel Alfonso, C. (s. f.). Ética y Derecho. Los derechos humanos. http://recursostic.educacion.es/secundaria/edad/4esoetica/quincena5/quincena5_contenidos_5.htm
Rabadán, A. (2019). Horizonte de la inteligencia artificial y neurociencias: acerca de robots, androides y cyborgs. Medicina, 79(5), 397-400. https://www.medicinabuenosaires.com/indices-de-2010-a-2019/volumen-79-ano-2019-no-5-indice/horizonte/
Rivera Estrada, J. y Sánchez Salazar, D. (2016). Inteligencia artificial, ¿reemplazando al humano en la psicoterapia? Escritos, 24(3) 271-291. https://doi.org/10.18566/escr.v24n53.a02
Russell, S. y Norvig, P. (2013). Artificial Intelligence: A Modern Approach. (2nd ed.). Prentice Hall.
Santos González, M. (2017). Regulación legal de la robótica y la inteligencia artificial: retos de futuro. Revista Jurídica de la Universidad de León, (4), 25-50. https://doi.org/10.18002/rjule.v0i4.5285
Turing, A. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. https://doi.org/10.1093/mind/LIX.236.433
Villalba Gómez, J. (2016). Problemas bioéticos emergentes de la inteligencia artificial. Diversitas, 12(1), 137-147. https://doi.org/10.15332/s1794-9998.2016.0001.10
Notas
Buscar:
Contexto
Descargar
Todas
Imágenes
Visor de artículos científicos generados a partir de XML-JATS4R por Redalyc