1. INTRODUCCIÓN: LA IA COMO RAZONABILIDAD JURÍDICA

Desde hace una década, un fantasma recorre al Derecho; el fantasma de la Inteligencia Artificial (IA). Un fenómeno científico y social que posee una doble naturaleza. Es considerada a la vez como un avance tecnológico-científico y un instrumento de transformaciones sociales. Tiene su origen en las ciencias de la computación, la informática y las matemáticas. Durante los últimos 30 años ha vivido cambios exponenciales, al punto de lograr que el desarrollo computacional se cada vez más potente, con mayor capacidad en procesamiento de datos, llegando a simular comportamientos humanos^[2]. Como fenómeno social hace referencia a la llegada de aplicaciones, de plataformas, de redes sociales, de componentes tecnológicos que están modificando estructuralmente las relaciones humanas; determinando nuevas formas de sociedad y de gobierno. El orden social y las formas de gobierno evolucionan;^[3] de una sociedad política a una sociedad de datos^[4]. Y estos cambios modifican de forma estructural las relaciones entre el ciudadano, el Estado y la práctica del Derecho.

Sin embargo, no debemos maximizar a la tecnología como una respuesta absoluta e infalible. La tecnología y en particular la IA están influenciadas por la cultura jurídica. La IA es parte de la respuesta, pero no es la sola respuesta. El Derecho está cambiando, pero aún está lejos su remplazo, contrario a lo que predican quienes ven en las redes neuronales complejas y el aprendizaje profundo un riesgo para el derecho.

Por ello, las preguntas que motivan nuestra reflexión en este XI CONGRESO REDOEDA en Curitiba Brasil, están fundamentadas en nuestra experiencia como desarrolladores e implementadores de dos sistemas de IA para dos altas cortes en Colombia. Nos preguntaremos ¿Por qué implementar un sistema de la IA en el proceso de selección de tutela en la Corte Constitucional de Colombia? ¿Por qué desarrollar dos pilotos en el proceso de análisis jurisprudencial en el Consejo de Estado de Colombia? ¿Cómo es un proceso de implementación? ¿Cuál es el rol en la cultura jurídica de las cortes y de los jueces frente a la IA en Colombia? ¿Cuáles son los riesgos en derechos humanos? Las experiencias de la Corte Constitucional (CC) y del Consejo de Estado de Colombia (CE) constituyen un laboratorio de análisis de convergencia entre tecnología y derecho, que puede aportarnos algunas respuestas, pero en particular nuevos interrogantes.

Este articulo busca no solo hacer una presentación de las tecnologías utilizadas en estos procesos. Busca proponer una reflexión de como la tecnología potencializa la experiencia del Derecho en prácticas de tutela judicial efectiva, mejorando la cultura organización y la confianza ciudadana. Y también identifica los limites frente a lo complejo del Derecho y en particular sobre como la labor del juez va más allá de ayudar a programar algoritmos en lógicas de estadística o aprendizaje simulado del lenguaje.

La tecnología puede parecer a primera vista una noción neutra, pero la realidad muestra que ella y en particular las tecnologías de la informática, como la IA son objeto hoy de intensos debates. La IA no puede ser pensada de forma amoral o neutra a riesgo de generar una falsa idea de perfectibilidad o de progreso social.^[5] Las tecnologías de la IA deben ser pasadas por el prisma del Derecho y en particular del Estado Constitucional de Derecho,^[6] para mesurar desde un juicio de razonabilidad el cumplimiento de los fines constitucionales y los niveles de riesgos que pueden ser tolerados; cuales riesgos pueden ser asumidos y cuales no frente a los fines constitucionales buscados.

En la búsqueda de respuestas, la Facultad de Jurisprudencia de la Universidad del Rosario (Con un grupo de dos decanos, profesores y estudiantes) y el Laboratorio de Inteligencia Artificial de la Universidad de Buenos Aires (Argentina), con la Secretaría de la Corte Constitucional de Colombia, y dos secciones del Consejo de Estado de Colombia nos asociamos, y durante los años 2018, 2019, 2020 y 2021 creamos y ensayamos prototipos de IA para la justicia en Colombia^[7]. Nos propusimos crear y poner en práctica un sistema de IA, para desmaterializar el proceso de selección de tutelas frente al derecho a la salud, mediante tecnologías de IA como el Machine Learning, el manejo estadístico de bases de datos y sistemas de clasificación y búsqueda por palabras.

El 25 de enero del 2019, se presentó el primer piloto Pretoria en la Universidad del Rosario^[8]. Y el 18 de enero de 2021 se presentaron dos pilotos de IA en la Sala de Gobierno del Consejo de Estado; frente al manejo de sentencias de unificación (SU) en materia de marcas y patentes, y de derecho electoral en materia de nulidad de actos electorales^[9].

Estas dos experiencias en derecho público se comentarán en dos partes. La primera disertara sobre eficiencia e la IA. Y la segunda, sobre implementación de la IA y la cultura jurídica. Abordaremos como el proceso de implementación de los sistemas de IA en la CC y el CE evidencian una serie de desafíos jurídicos, administrativos y tecnológicos. Pero en particular como la cultura jurídica de las Cortes debe evolucionar para asumir los beneficios y prevenir los riesgos. Y nuestra conclusión reflexionara sobre los desafíos buscando responder varios de los interrogantes de esta introducción.

2. LA EFICIENCIA JUDICIAL Y LA IA: UN FALSO DILEMA

Primero, debemos reconocer el principio de necesidad social e institucional, en el cual las tecnologías de la IA en sí misma no son un presupuesto necesario para todos los sistemas jurídicos en el Mundo. Su aplicación estará condicionada a las necesidades y deficiencias de los sistemas judiciales, y a las demandas sociales en justicia. Es decir, a un problema de eficiencia jurídica en cada sociedad. ¿Por qué dos altas cortes en Europa como el Consejo de Estado de Francia o el Tribunal Constitucional alemán no ven la necesidad de la IA como instrumento para su labor? La respuesta es simple; altos niveles de eficiencia jurídica, equipos de trabajo altamente coordinados, menores niveles de litigiosidad social, resolución de casos en tiempos razonables y decisiones de cierre con un contenido de fondo. El promedio máximo del Consejo de Estado de Francia para resolver un caso es de un año^[10]. Y el Tribunal Constitucional alemán puede superar el año generando escenarios de congestión, pero ha implementado medidas de mejora^[11]. Son estructuras de trabajo y de análisis jurídico con altos niveles de eficiencia, donde la IA no aporta una ayuda sustancial al operador jurídico.^[12] Su aplicación pondría ser al contrario contra producente.

Todo lo contrario, sucede en las altas cortes de Colombia, y sin duda en varias de los países en América latina.^[13] La justicia en Colombia está caracterizada por una alta mora judicial, donde un proceso en el CE o la Corte Suprema de Justicia (CSJ) puede sobrepasar una década. Deficiencia estructural que tiene un impacto real en la tutela judicial efectiva de los derechos de los ciudadanos. En estos espacios la IA puede ser vista como una respuesta plausible. La IA responde al problema, que los economistas denominan en el análisis económico del derecho como eficiencia y costos de transacción en la decisión judicial.

3. LA INEFICIENCIA COMO REGLA Y IA COMO RESPUESTA

La implementación de dos sistemas de IA en Colombia, uno para la Corte Constitucional y otro para el Consejo de Estado de Colombia nacen de la urgencia de responder a un creciente número de demandas sociales en justicia, donde la ineficiencia y la congestión judicial es la regla^[14]. Precisamente una de las recomendaciones de la OCDE para Colombia es construir una “gobernanza más eficaz”. Para ello, resulta fundamental “reforzar la eficacia y la eficiencia de la justicia colombiana, mejorando el cumplimiento de los contratos e incrementando (sic) la especialización de las decisiones judiciales.”^[15]

En 2022, la CC recibió 633.463 tutelas. Los derechos más demandados en las tutelas recibidas fueron: petición (46,5%), salud (24,7%), debido proceso (16,7%), vida (6,3%) y mínimo vital (6,2%). En total se seleccionaron 407 tutelas para revisión, de las cuales el 33,7% involucraba el derecho al debido proceso, el 17,7% el derecho a la salud y el 12,4% al mínimo vital^[16]. La Tutela es una acción individual de protección de derechos fundamentales que busca garantizar su efectividad en un Estado, que como el colombiano, tiene graves deficiencias en cobertura de bienes sociales y derechos individuales. Y la CC conoce como juez de última instancia de todas las acciones de tutelas en Colombia, de las cuales selecciona un muy pequeño grupo.

La Corte Constitucional durante 30 años desarrolló un sistema manual de selección por fichas temáticas, criterios jurisprudenciales (objetivo, subjetivo y caso raro) y asistentes judiciales (judicantes); quienes elaboran fichas de selección para ser enviadas a la sala de preselección. Allí, los magistrados de la CC escogen las tutelas que serán objeto de revisión, y sobre las cuales la jurisprudencia se unificara. Sin embargo, este sistema resulta ineficiente, poco transparente y carente de objetividad frente al ciudadano. Por el contrario, es más aleatorio y mediático que jurídico^[17]. Y no pocas veces la CC ha sido acusada de activismo judicial y algunos de sus magistrados de corrupción, y condenados por ello^[18].

De su parte, el CE es una de las dos jurisdicciones que más número de contenciosos sustantivos debe resolver, es quien tramita los conflictos entre la administración y los ciudadanos. Allí se debaten conflictos en materia electoral, tributaria, responsabilidad contractual y extracontractual del Estado, laboral administrativo, impuestos, control de legalidad de las decisiones de las super intendencias, tutelas, control de laudos arbitrales e igualmente es juez de constitucionalidad, entre otros. El CE es una jurisdicción que se caracteriza por altos niveles de ineficiencia, mora judicial, ausencia de coordinación administrativa y contradicción en sus decisiones; entre secciones y aun entre subsecciones. Desde 2012 emite 9000 fallos por año, pero tiene represados más de 15.000 casos^[19], y para el año 2017, según estudios estadísticos de la Sala Administrativa del Consejo Superior de la Judicatura^[20], el Consejo de Estado, falló 15.527 procesos de los 18.532 que ingresaron a los diferentes despachos judiciales que lo conforman, quedando en su inventario alrededor de 32.918 trámites pendientes de decisión.

El ciudadano se enfrenta entonces a dos sistemas de administración de justicia lentos, inciertos y sin claridad jurídica.

4. EXPERIMENTANDO SOLUCIONES

En este escenario, en 2019, la CC vivía bajo la amenaza del colapso del sistema de selección de tutelas, por incapacidad física de respuesta a tal volumen de acciones por parte de los ciudadanos. De su parte, el CE durante los últimos 13 años, luego de la expedición del Código de Procedimiento Administrativo y de lo Contencioso Administrativo (CPACA) en 2011, que prometía en su artículo 10, con las sentencias de unificación mejorar los tiempos y la eficiencia, termino por acumular más volúmenes de trabajo, por lo cual como solución amplia sus plantas de personal de descongestión, sin que esto se viera reflejado en mejores y más rápidas decisiones.

Entonces, ¿por qué se hace necesaria la implementación de medios de IA en el desarrollo jurídico de la CC y del CE? Presentare tres argumentos:

Primero. Eficiencia sustantiva de la justicia. La eficiencia judicial se ve como contra puesta a la calidad jurídica de la decisión. Esta es una falsa premisa, producto de una equivocada lectura de lo que se entiende por eficiencia. Bajo la lógica del análisis económico del derecho: ante los deseos de justicia de una sociedad, es necesario que los aparatos de justicia hagan el mejor uso de los medios escasos de que disponen para garantizar decisiones que satisfaga la necesidad social de lo justo. Pero cuando los medios no son los adecuados, los tiempos se extienden más allá de los términos procesales, la decisión judicial es ineficiente. Por ende, desaparece el sentimiento de lo justo en la sociedad. De su parte, la teoría económica afirma que “se produce eficientemente cuando mejorar el bienestar económico de una persona implica no perjudicar a otra, y cuando producir una unidad adicional de un bien implica no disminuir la calidad de un segundo bien. Es decir que una decisión judicial eficiente es individual y social, no es solo un problema de rapidez, es un problema temporal y razonable de garantía de derechos y sentimiento de justicia en la sociedad dentro de los términos procesales señalados y utilizando de la mejor forma los recursos escasos de que dispone el sistema de justicia.

La estructura de decisiones de la CC y del CE no cumplen con este postulado. Entonces, frente a tal nivel de ineficiencia la respuesta debe ser disruptiva; tecnología y preferiblemente con IA para mejorar el tratamiento de volúmenes de información (bases de datos masivas) que difícilmente el proceso manual humano pueda realizar en tiempos razonables.

Segundo. Sentencias de Unificación e IA. Uno de los avances más significativos en el derecho público en Colombia ha sido el desarrollo de las Sentencias de Unificación: El artículo 10 del CPACA las instaura como instrumentos de alta eficiencia jurídica para evitar el inicio de procesos contenciones, obligado a la administración a cumplir los lineamientos de interpretación fijados por el CE. Las SU no se pueden interpretar como precedentes jurisprudenciales, en la medida que nuestro sistema de fuentes jurídicas no reconoce a la jurisprudencia tal labor. Pero si se constituyen, en lógica constitucional y en lógica administrativa como instrumentos de desarrollo profundo de los principios y de los mandatos de optimización de la constitución, los fines del Estado y la protección de los derechos de las personas.

Sin embargo, las SU tienen dos graves problemas. El primero y más recurrente es su seguimiento y cumplimiento. Es decir, coordinar y armonizar el sistema jurídico y administrativo, frente a jueces inferiores como tribunales y juzgados ha sido muy difícil. Esto es un problema que afecta la eficiencia, la eficacia y la economía jurídica y procesal, y la coordinación administrativa. Otro problema es la construcción de una SU. Hacer una SU depende de acuerdos sustantivos entre magistrados sobre que unificar y al mismo tiempo como organizar y clasificar volúmenes inmensos de información, sin mayor orden. El tratamiento humano de esta información podría durar años, sin garantizar que no se acumulen nuevos casos.

Es así como tecnologías como Machine learning, estadística computacional y clasificación de bases de datos por Data Sage y buscadores por palabras pueden ayudar al juez administrativo y constitucional a tratar miles de documentos en minutos, para clasificar y organizar la información de acuerdo con criterios decididos por los propios jueces. Tecnologías de IA ayuda a los jueces de cierra a hacer seguimientos a jueces inferiores sobre el cumplimiento de las SU, a vigilar a la administración y a construir nuevas SU, analizando volúmenes densos de información en pocos minutos, para concentrar el trabajo jurídico en el análisis de problemas sustanciales.

El objetivo es organizar y clasificar la jurisprudencia para abordar discusiones en derecho sustancial que orienten el desarrollo de nuevos lineamientos jurídicos, y al mismo tiempo vigilar como la administración y los jueces inferiores aplican o inaplican los lineamientos de las altas cortes. Allí, el juez administrativo recupera el rol de orientador técnico y jurídico de la administración: Juez y Administrador. Y el juez constitucional asume el rol de un coordinador general de política pública constitucional para garantizar derechos^[21]. El éxito futuro de las SU cruza por el uso de tecnologías como IA. Esta tecnología tiene un impacto estructural en la organización de la información, priorizando el análisis y sus efectos en el campo social, económico, político y jurídico.

Tercero, Tutela judicial efectiva desde la IA. La doctrina de la tutela judicial efectiva se desarrolla en el derecho público subjetivo y en el derecho constitucional, como medios procesales de protección y efectividad jurídica de derechos individuales de la persona frente a los procedimientos jurídicos y administrativos, donde la eficiencia jurídica debe ser sustancial y no solo procesal. La defensa de derechos subjetivos y derechos fundamentales es el centro de protección. No le corresponde al juez crear esos derechos, pero si le corresponde su defensa y garantía en el marco de las actividades entre la administración y el ciudadano. Pero la garantía no solo debe ser afirmativa en el derecho sustancial, debe ser global, tanto en el proceso, el derecho tutelado, los medios de ejecución, la efectividad de la sentencia y finalmente en la satisfacción del derecho. Y en tiempos razonables.

La complejidad de este nivel de eficiencia jurídica lleva a que el juez proponga un control tanto previo como posterior en el procedimiento, que permita una garantía permanente de los derechos involucrados. Sin embargo, en lógicas procesales clásicas y con medios de ejecución procesales congestionados, en países como Colombia, la tutela judicial efectiva puede ser incierta. Ausencia de trazabilidad de las decisiones, seguimiento de la decisión e inconciencia de los tiempos de ejecución de la decisión conllevan a su vulneración permanente.

Es así como, tecnologías de IA asistida y vigilada por operadores jurídicos capacitados, permite crear sistema de prevención y alarmas tempranas dentro del proceso, a toda tentativa voluntaria o involuntaria de violación de la tutela judicial efectiva. Acá la IA asistida, identifica patrones, actuaciones u omisiones procesales comunes; mejorando tiempos procesales, garantizando trazabilidad y efectividad para una real rendición de cuentas al ciudadano.

5. ENTRE EL AZAR Y LA AMISTAD SE CONSTRUYE TECNOLOGÍA Y DERECHO

En el año 2016 el profesor William Gilles organiza en la Universidad Panthéon Soborna Paris 1 un evento mundial denominado “IIND Academic Days on Open Government & Digital Issues”^[22] en el cual Juan Gustavo Corvalán del Laboratorio de IA y de Derecho de la Universidad de Buenos Aires, presentó el primer prototipo de un sistema de IA para la justicia en América Latina. Esta presentación desarrollo una amistad entre los dos. La cual, llevara a Juan Corvalán a ser invitado a la Universidad del Rosario en 2017 para presentar Prometea en Colombia. Luego me llevara a ser invitado por Juan y por la Universidad de Buenos Aires, y la procuraduría de la ciudad de Buenos Aires en el año 2017 a varios eventos académicos (Gobernanza inteligente e innovación inclusiva) donde se presentó el funcionamiento de Prometea en tareas de gestión administrativa para la procuraduría de Buenos Aires, el desarrollo de contratos públicos, gestión de procedimientos administrativos y se discutirá su funcionamiento para jueces.

A finales de 2018, en el mes de septiembre, un encuentro personal con la secretaria de la Corte Constitucional de Colombia, Martha Sáchica, nos mostró la grave crisis que se avecinaba de la tutela en Colombia, para lo cual, Yo le propuse explorar la posibilidad de implementar un sistema de IA; que permitiera evitar el colapso del sistema de selección de tutelas en la Corte Constitucional. En octubre de 2018 Juan Corvalán es invitado por la Universidad del Rosario y llega a Colombia para estudiar el proceso de selección de tutela de la CC. Y el 15 de noviembre de 2018 se firma un memorando de entendimiento entre la Presidencia de la Corte Constitucional de Colombia (Magistrado Francisco Linares), el Decano de jurisprudencia (Juan Carlos Forero) de la Universidad del Rosario, y el Laboratorio de IA de la Universidad de Buenos Aires para desarrollar e implementar un primer sistema de selección de tutela por IA^[23]. Luego de tres meses de trabajo y entrenamiento de la maquina por un equipo de ingenieros de la LAB UBA y de Juristas de la UR, el 7 de febrero de 2019 es presentado, en la Universidad del Rosario, a todo Colombia PRETORIA^[24]. Luego, durante el 2019 se gestiona la plena implementación, financiación y puesta en funcionamiento gracias a los fondos del sector privado administrados por la Cámara de Comercio de Bogotá, y al liderazgo en cabeza de Andrés López.

De otra parte, a finales del año 2020 nos reunimos el presidente del Consejo de Estado (Magistrado German Bula Escobar) y los magistrados del Consejo de Estado Augusto Serrato (coordinador de los procesos de modernización tecnológicas del Consejo de Estado) y Rocio Araujo (magistrada de la sección V) para explorar con la Universidad del Rosario implementar dos pilotos en IA, que desarrollaran análisis de SU sobre marcas y patentes, y nulidad electoral^[25].

El proceso de los pilotos será seguido por la sección I y V del CE de la firma de un memorial de entendimiento con la Universidad del Rosario para desarrollar dos pilotos en materia de sentencias de unificación. Es así como el Consejo de Estado de Colombia el 18 de enero de 2021 presentó en la Sala de Gobierno del Consejo de Estado, dos primero y únicos pilotos de IA funcionales para la jurisdicción administrativa^[26].

La tecnología es una posibilidad, pero la amistad, la imaginación y el riesgo son su combustible.

6. LA IA Y LA CULTURA JURÍDICA

Las experiencias de implementación de Pretoria y el desarrollo de dos pilotos de IA en la sección I y la sección V del CE, ponen a prueba la idea de cultura jurídica. El desarrollo burocrático, organizacional y cultural de cada una de estas Cortes reta la capacidad de adaptación, evolución y transformación organizacional de las entidades para afrontar la implementación de tecnologías de IA.

Sin embargo, la tecnología en el derecho no es una camisa de fuerza que imponga una respuesta única y universal para todos los sistemas de justicia. Todo lo contrario, la tecnología es una expresión cultural y la IA no es la excepción. Los desarrollos tecnológicos para ser eficientes y cumplir sus objetivos deben adaptarse a la cultura jurídica que los acoge. Y ellos modificaran la cultura jurídica del sistema que los adopta. La cultura jurídica de las Cortes en Colombia está caracterizada por altos niveles de litigiosidad social, que desbordan las capacidades de respuesta de los jueces, altos niveles de ineficiencia y baja transparencia. Frente a ello las Cortes en Colombia deben asumir cambios organizacionales y procesales que las lleven a ser jueces de casación y no de segunda instancia; como sucede hoy con el CE y la CC.

También se debe superar las estructuras burocráticas jerarquizadas donde la duplicidad de funciones demora las decisiones. Si bien son cuerpos colegiados, los despachos y equipos por magistrado trabajan de forma aislada, lo que deberían dar tránsito a cuerpos colectivos de estudio del caso, de la decisión, de la jurisprudencia de forma especialidad, sistémica y escalonada como lo hace la ingeniería de procesos del Consejo de Estado francés; quien ha demostrado ser un ejemplo de eficiencia.

Se podría pasar de respuestas coyunturales como el aumento de despachos de descongestión, para dar tránsito a formar operadores jurídicos conocedores de la tecnología, la programación, el manejo de bases de datos, la IA. Es implantar una nueva cultura de la ingeniería jurídica de los procesos y los sistemas como una de las formas de resolver la gran congestión judicial en sociedades altamente litigiosas y con altos grados de ineficacia jurídica.

Entonces ¿Es pertinente la implementación de IA en cortes como la Corte Constitucional y el Consejo de Estado de Colombia?

La respuesta es evidente. Las Tecnologías de IA no buscan remplazar a los jueces y menos a las Cortes. No pueden remplazarlos en la medida que la noción de justicia es una construcción de la cultura jurídica que ninguna red neuronal computacional o algorítmica puede reproducir. La justicia es producto de la estética, de la empatía y de un criterio de lo bello, y no solo de una idea de razón argumentada. Pero la IA si puede aportar a las Cortes capacidades de análisis eficiente, trasparente y complejo de millones de datos, que hoy los operadores jurídicos tardarían años realizando.

Así, la IA deconstruye al derecho, lo desacraliza, lo banaliza en cierto sentido. Pero el verdadero jurista no ve allí un peligro sino una oportunidad. Recordemos a Jacques Derrida que fundamentando la eternidad del derecho en la ‘fuerza de la ley” y la cultura jurídica, nos recuerda como las sociedades deben desacralizar una y mil veces el derecho para refundar mil veces la justicia^[27].

7. LA IMPLEMENTACIÓN Y SUS DESAFÍOS

Toda fase previa de construcción de un sistema de IA demanda el entrenamiento de la máquina, del algoritmo, para perfeccionar su tarea y reducir sus índices de error o falsos positivo.^[28] Para ello se necesita una base de datos estructurada^[29], lo suficientemente sólida y completa que permita el desarrollo de un piloto confiable. Una masa suficiente de datos útiles es fundamental para lograr un proceso medible y fiable. Que luego de tránsito a un proceso de implementación y construcción del sistema de justicia mediante IA.

8. CORTE CONSTITUCIONAL: DE PROMETEA A PRETORIA

El piloto y luego la implementación del sistema Prometea determino que se necesitaban mínimo de 2500 tutelas, para entrenar de forma confiable el algoritmo, reduciendo el error a menos del 8% con una confiabilidad del 92% en fase piloto. Y se llegó a un 80% de fiabilidad en fase de implementación donde los criterios de entrenamiento son mucho más complejos tanto procesal como sustancialmente.^[30]

Las 2500 tutelas de prueba fueron recursos ya falladas y publicados por la rama judicial, permitiendo entrenar la maquina en una fase de piloto controlado. Pero en el proceso de implementación, para entregar un sistema funcional a la CC, el desarrollo del algoritmo demando determinar y definir otra serie de criterios normativos y jurisprudenciales de selección, que permitieran a la maquina desarrollar modelos de lectura de las acciones de Tutela frente a casos complejos. Para lo cual se optó por el armado de “Data Sets” de entrenamiento (criterios de selección); lo cual, luego fue objeto de tres pruebas de entrenamiento, testeo y auditoria por un grupo de juristas de la Facultad de Jurisprudencia de la UR. Estos Data Sets fueron producto de un trabajo conjunto entre magistrados auxiliares de la CC y los ingenieros de desarrollo del sistema IALAB. Allí, se crearon criterios tanto jurídicamente relevantes como útiles en programación.

Estas pruebas determinaron que el desarrollo del sistema de IA dejara de ser Prometea en fase piloto y comenzara a ser Pretoria en fase de implementación. Pretoria debería identificar, no solo la vulneración de los derechos fundamentales en salud, sino que debería incluir criterios de identificación en situaciones de vulnerabilidad y asimétricas, donde el riesgo en violación a derechos fundamentales fuera necesario evitar. Si la maquina hubiese sido entrenada solo bajo la lógica de nociones lineales y binarias de expresiones normativas positivas o códigos de programación clásicos se habría creado el riesgo de pasar por alto situaciones humanas complejas. Y su legitimidad seria cuestionable. Por ello, se entrenó bajo criterios como pobreza extrema, menor de edad, situaciones de riesgo o vulnerabilidad del tutelante. Este proceso construyo un modelo de IA controlada que utiliza lo que se denomina Cajas Blancas. Es decir, un sistema de IA auditable y explicable. Nada escapa al control humano.

En palabras de Juan Corvalán quien lidero el equipo de la IALAB: “La predicción de caja blanca se basa en la subespecie TOPIC MODEL, dentro del género “Clasificación”. (…) esta técnica se basa en análisis estadísticos, que permiten identificar temáticas y subtemáticas en grupos de documentos de textos. (…) Mientras que las personas arman los Data sets para etiquetar y clasificar la información, quienes programan a partir de la técnica de Topic Model, intentan buscar correlaciones entre palabras, frases o conjuntos de palabras o frases, a partir de “agregar” o “aumentar” el texto original, a través de introducir símbolos o letras. (…). En el caso de Pretoria se seleccionaron una muestra de 2500 sentencias, se elaboraron 7 Data sets, a partir de un conjunto de sentencias aleatorias y sin previa clasificación. Los primeros tres Data sets de sentencias sirvieron para entrenar y alimentar a Pretoria. Con el primer Data set analizado, se realizó el primer input para el predictivo (…) cuando se comenzó a trabajar en la gobernanza de datos, se completó la base de datos y se la envió a la Corte Constitucional a fin de que realicen los controles pertinentes. Así, se pudo observar que hubo discordancias entre lo que ellos consideraban al enumerar los criterios y lo que el equipo de gobernanza pudo interpretar en relación con su alcance. Por este motivo fue necesario que profundicen en ciertas definiciones. Hasta aquí, téngase en cuenta que definir y precisar los criterios a seleccionar en las sentencias llevó más de 40 días de trabajo en conjunto entre el equipo de trabajo del IALAB, abogados (..) de la Universidad del Rosario y un grupo de delegados de todos los magistrados y magistradas de la Corte Constitucional de Colombia. Este proceso es crítico y definirá, en gran medida, la legitimidad y la utilidad del sistema”^[31].

La fase de implementación cruzo entonces por diseñar interfases amigas e intuitivas donde el operador jurídico pudiera interactuar de forma natural con el sistema. Ello demando sensibilización, cambio y rediseño de la cultura organizacional de la Corte Constitucional. Lo que se materializo en la instalación y profesionalización de un equipo de ingenieros informáticos y científicos de datos que operaran y desarrollaran el sistema de forma continua, obedeciendo y parametrizándolo bajo los lineamientos que los magistrados de la Corte Constitucional determinen.

9. LA SIMPLIFICACIÓN DEL PROCESO

El sistema Pretoria fue diseñado para desarrollar, lo que se denominó en el grupo de trabajo, como extensión de las capacidades cognitivas del juez. Es decir, no es un remplazo del humano y sus criterios morales, sino el aumento de capacidades de análisis cognitivo de información para ayudar a tomar mejores decisiones en espacios moralmente complejos. Para ello, se hace necesario el desarrollo de un sistema que permita la clasificación, la detención y la asistencia a través de técnicas de Machine Learning supervisado (Clustering y clasificación). Mejorando así, de forma exponencial, la gestión de selección de tutelas en la CC, por tanto, optimizando, reduciendo errores en el proceso de selección y aumentando la eficiencia. Hablar de aumento de la eficiencia no solo hace referencia a mayor capacidad de procesamiento de información sino también a mejor calidad jurídica y de análisis constitucional en el proceso de selección.

Antes de Pretoria

Luego de Pretoria

Entonces, la simplificación de los procesos de selección de la tutela, en una etapa previa, lleva a mejoras sustancialmente en análisis jurídicos de los casos. Menos tiempo en la selección, más tiempo en el pensamiento y análisis sustancial.

10. LA CONSTRUCCIÓN DE 33 CRITERIOS DE SELECCIÓN: UN ESTÁNDAR CONSTITUCIONAL

¿Pero cómo lograr un modelo de selección de tutela que responda a las necesidades de la indeterminación y la coyuntura constitucional?

Esta dificultad fue resuelta mediante, el desarrollo en su momento, de 33 criterios normativos y jurisprudenciales de selección para que el sistema de IA opere. Los 33 criterios pueden ser en todo momento modificables por el juez constitucional. Es decir, el juez crea una serie de estándares sobre las cuales se entrena y modifica la operación de la máquina y el algoritmo. Estos criterios se clasificaron a su vez en 5 categorías procesales: Decisión del juez, categoría de servicio, tipo de afiliación, condiciones de salud del accionante, sujetos de especial protección y pretensiones.

Esta calificación procesal o de orden de los contenidos y de la naturaleza material busca edificar un orden lógico de selección que permita identificar los casos prioritarios o raros en derecho a la salud que debería conocer el juez.

Juan Corvalán, anota sobre la eficiencia de estos 33 criterios que: “Ahora bien, el tiempo promedio en horas de lectura, doble control y detección de keywords en cada sentencia fue de 36 minutos en el caso del proyecto Pretoria. Algo similar ocurre con la experiencia Prometea en otros proyectos. Adviértase que se trata de: 1) una primera lectura, análisis de las sentencias e identificación de criterios que conlleva 16 minutos en promedio; 2) el primer control sobre los criterios identificados en cada sentencia fue de 16 minutos; 3) el segundo control que recae sobre el primero fue de 9 minutos en promedio. (…) Un sistema bien entrenado como Pretoria, logra detectar 33 criterios y automatizar la generación de resúmenes, en pocos segundos y sobre miles de sentencias.^[32]”

Uno de los resultados esperados, de forma marginal fue el aumento de información, de datos útiles para mejorar la adopción de políticas públicas en materia de justicia y el desarrollo del precedente jurisprudencial de la CC y su cumplimiento por los jueces ordinarios de tutela. Precisamente mejor información en calidad, contenido, fiabilidad no solo tiene un impacto en la CC sino en el desarrollo de políticas públicas en materia de salud. La tecnología de la IA permite construir puentes entre la decisión juridicial y la gestión en mejores políticas públicas en salud.

11. CONSEJO DE ESTADO: DOS PILOTOS EN MARCAS Y PATENTES, Y NULIDAD ELECTORAL

Respecto del CE es necesario mencionar que la Facultad de Jurisprudencia de la Universidad del Rosario y el IALAB (aliada estratégica en esta propuesta) en un ejercicio de asistencia y cooperación jurídica –académica y tecnológica desarrollaron la viabilidad de realizar una incubación, prototipo, o prueba de concepto en el Consejo de Estado para mejorar, optimizar o simplificar los procesos o las tareas que generalmente hacen los funcionarios y los servidores de esta Corporación. A efecto de lo anterior, las Universidades y el Consejo de Estado realizaron actividades conjuntas encaminadas a analizar la viabilidad del proyecto, al punto que el CE suministro información relevante y útil para lograr resultados en este proceso. Seguidamente y como consecuencia de lo anterior, se cuantifico y estandarizado la información obteniendo como resultado que la herramienta tecnológica fuera viable, constituyendo un desarrollo innovador con valor social; en tanto que con ella se automatizan algunos de los procesos y procedimientos que son usualmente realizados por el juez contencioso administrativo. Esto con el objetivo de lograr la optimización, la eficiencia de los recursos y materializar el principio de justicia efectiva y pronta. Es decir, tutela judicial efectiva.

12. LA PRUEBA CONCEPTO

Dicho lo anterior, se procedió al despliegue de una prueba de concepto para validar el nivel de automatización, clasificación y detección inteligente teniendo como base del análisis, la jurisprudencia, las normas nacionales e internacionales y las metodologías propias de la inteligencia artificial. Importa sostener que este prototipo es original, novedoso e ingenioso y constituye el resultado de un estudio cuidadoso teórico, práctico y multidisciplinario que se hizo por parte del equipo de trabajo conformado por los integrantes de Universidad del Rosario, la Universidad de Buenos Aires y los miembros del CE con la finalidad de potencializar el aprendizaje basado en la experimentación.

En el mes de diciembre de 2020 IALAB con el apoyo de la Universidad del Rosario, desarrollaron pruebas de concepto para las secciones I y V del CE. En el caso de la Sección I, se pretende la solución de automatización de los procesos relativos a la propiedad industrial, particularmente en materia de confundibilidad marcaria (Decisión 486 de 2000 de la Comisión de la Comunidad Andina de Naciones. Artículos 136 literal a). En relación a los asuntos de que conoce la Sección V del CE, se pretende la automatización de los asuntos relacionadas con la causal 3 del artículo 179 de la Carta Política que dice que no podrán ser congresistas “quienes hayan intervenido en gestión de negocios ante entidades públicas, o en la celebración de contratos con ellas en interés propio, o en el de terceros, o hayan sido representantes legales de entidades que administren tributos o contribuciones parafiscales, dentro de los seis meses anteriores a la fecha de la elección”.

La prueba de concepto de la sección I permitió detectar de manera inteligente los conflictos entre marcas nominativas y completar el modelo de sentencia correspondiente en un promedio de 7 minutos. La prueba de concepto de la sección V consistió en la automatización de los proyectos de sentencia. El sistema asistió al usuario/a en la elaboración del modelo de sentencias a través de las preguntas automatizadas. Con el sistema, una persona sin experiencia fue capaz de completar por primera vez el modelo de sentencia en un promedio de 8 minutos y medio. Vale la pena añadir que desde el punto de vista funcional es una herramienta que responde al desafío de interoperabilidad en el entendido que gran parte de la información que alimenta la misma se encuentra disponible en el Sistema experto de información Justicia XXI, la cual está compuesta entre otros módulos por los siguientes: Sistema de Reparto Integrado, Sistema de Registro de Actuaciones, SAMAI, CITANET, SIGED y el sistema de Consulta visor en la página web.

En la Sección I del CE el proyecto piloto se gestiona en relación con los procesos relativos a la propiedad industrial, particularmente en materia de confundibilidad marcaria (Decisión 486 de 2000 de la Comisión de la Comunidad Andina de Naciones. Artículos 136 literal a), lo anterior por cuanto que se advirtió que este tipo de conflictos son los más recurrentes en esta Sección en tanto que el 40% de las controversias que se conocen corresponden a la propiedad industrial y el 40% del 100% de casos que se conocen en esa materia son controversias de confundibilidad de marcas nominativas. A efecto de lograr lo anterior, en la primera etapa se enviaron 1300 sentencias en materia de propiedad industrial, que corresponden a todas las decisiones proferidas por la Sección I que se encuentran disponibles en medio magnético. Éstas se clasificaron por magistrado ponente y por año de expedición.

Ya terminada esta prueba, el equipo técnico y jurídico de las Universidades del Rosario y de Buenos Aires presentaron ante la Sala de Gobierno del Consejo de Estado el estudio de factibilidad y el prototipo experimental de la herramienta en el cual se evidenció una alta posibilidad de éxito al hacer detección inteligente en procesos vinculados a las causales de inhabilidad del artículo 179 de la Constitución Política de 1991 y respecto de los procesos relacionados con el registro de marcas nominativas^[33].

13. PARADIGMA DE AUTOMATIZACIÓN

Es importante señalar que, para el desarrollo del piloto, de las 1300 decisiones se decidió trabajar con 491, esto es, con aquellas que tienen que ver con temas relacionados con conflictos de confundibilidad de marcas nominativas. Aunado a ello, se enviaron 100 sentencias y 100 actos administrativos expedidos por la SIC, en tanto que estas actuaciones fueron objeto de controversia. Finalmente, se remitió el link para consultar las interpretaciones judiciales de los últimos 5 años y se remitió en documento tipo con las cuestiones relacionadas con los temas más recurrentes desde la perspectiva sustancial y procesal.

A continuación, se hace una breve descripción del paradigma de automatización con intervención humana y detección inteligente. La viabilidad de la solución tecnológica mostro un grado de satisfacción alto por parte de las Universidades y del CE disminuyendo el porcentaje de incertidumbre y nos permitió proponer una línea clara de acción encaminada a lograr la implementación de la herramienta con un alto nivel de precisión y en un entorno ágil por definición; explorar y potencializar el entorno controlado y testeo de la herramienta. Asi, los resultados preliminares de la misma permitieron concluir que a partir de introducir en el sistema el acto administrativo objeto de análisis por la máquina, luego de unos 10 a 20 segundos, el sistema detecta la existencia de un conflicto entre marcas nominativas o la presencia de las causales de inhabilidad.

Por virtud de lo antes dicho y en consideración a los referentes legales y fácticos antes mencionados se propuso escalar el proyecto de inteligencia artificial hacia la fase de implementación a fin de codiseñar el ecosistema de automatización y predicción propio de la Corporación para garantizar que la prestación del servicio público de la administrar justicia en la jurisdicción de lo contencioso administrativo sea más eficiente y eficaz. Pero por problemas económicos de financiación y ausencia de voluntad de los otros magistrados del CE no se logró hacer.

Lo que se pretendió fue contribuir con la tarea de mejorar el proceso de construcción de las SU a través del procesamiento de la información para la resolver los asuntos que conoce la Sección I y V del CE en términos de celeridad y transparencia. De su parte, para la Sección V del CE el proyecto piloto permitió: i) la adecuada gestión del conocimiento en orden a fortalecer la seguridad jurídica a partir de la homogenización de la jurisprudencia y de la predictibilidad de las sentencias, ii) la estandarización de las estructura de las sentencias judiciales, particularmente en cuanto a los supuestos fácticos y jurídicos del caso y la formulación del problema o los problemas jurídicos que deben resolverse, iii) la incidencia positiva en la alta litigiosidad, en tanto los usuarios de la administración de justicia pueden conocer las líneas jurisprudenciales y su aplicación en los casos concretos, iv) la mayor celeridad en la gestión de los procesos judiciales por automatización de tareas y actividades que no requieren del criterio jurídico del juez para ser resueltas y que pueden ser producidas por la inteligencia artificial para revisión del juez, ejemplo: autos admisorios, v) la mayor celeridad en la producción de sentencias con asistencia en la automatización de la elaboración de parte de ellas y la identificación de la jurisprudencia aplicable para resolver el asunto concreto y vi) el acercamiento a la ciudadanía y democratización en el conocimiento de las decisiones de la Corporación y las razones de ellas.

Estos dos pilotos son un producto que tiene un impacto estructural en la jurisdicción administrativa en la medida que: i) optimizar la analogía de los procesos, ii) proporcionar soluciones eficientes y rápidas de forma no lineal, y iii) evalúa continuamente con alto grado de sensibilidad, la precisión, la técnica y la estrategia a implementar, desarrollar y ejecutar. El alto impacto que tiene este proyecto en beneficio de la comunidad de la jurisdicción contenciosa es ambicioso, se podría extender rápidamente en Colombia, Latinoamérica y el mundo, máxime si se tiene en cuenta que el mismo plantea el desafío de hacer uso de una tecnología emergente y del derecho para fortalecer la manera como los ciudadanos están interactuando con el Estado, la academia y la Administración de Justicia.

Si bien el proyecto fue financiado en su totalidad por la UR y el IALAB, la cultura jurídica del CE, anclada a los procesos burocráticos humanos, a la jerarquía burocrática del Consejo Superior de la Judicatura, al trabajo en grandes grupos humanos repitiendo las mismas tareas y a la falsa idea de que el derecho no pude escapar de los humanos, llevo el proyecto a su fin y a no ser extendido en toda la jurisdicción administrativa en Colombia.

14. UNA NUEVA LÓGICA DEL PROCESO JUDICIAL: LA CONVERGENCIA DE LA LÓGICA INDUCTIVA DE LA IA Y LA LÓGICA DEDUCTIVA DEL DERECHO

La implementación de sistemas de IA en la CC y el CE evidencian que el desarrollo de estos instrumentos tiene un impacto directo en la lógica y el desarrollo del derecho procesal y de los procedimientos en la justicia y la administración.

La literatura especializada a nota que todo proceso es un conjunto o encadenamiento de fenómenos, asociados al ser humano o a la naturaleza, que se desarrollan en un periodo de tiempo finito o infinito y cuyas fases sucesivas suelen conducir hacia un fin específico. El proceso judicial es el instrumento esencial de la jurisdicción o función jurisdiccional del Estado, consiste en una serie o sucesión de actos tendentes a la aplicación o realización del Derecho en un caso concreto. Con distinta configuración, el conjunto de actos que compone el proceso ha de preparar la sentencia y requiere, por tanto, conocimiento de unos hechos y aplicación de unas normas jurídicas.^[34] En informática, se denomina proceso al conjunto de operaciones lógicas y aritméticas llevadas a cabo por los ordenadores con el fin de poder gestionar datos y obtener los resultados deseados^[35].

El proceso judicial trabaja bajo una lógica deductiva, donde los juristas acudimos a razonamientos y argumentos que consideramos lógicos, porque se expresan como inferencias lógicas, se habla de razonar de lo particular a lo particular, partir de hechos y reglas jurídicas para inferir una conclusión, estos argumentos implican formular una regla o reformularla variando su alcance para usarla. De su parte la lógica inductiva de la IA es entrenar un algoritmo con información para repetir una tarea permanentemente, permitiendo perfeccionar su aprendizaje. El aprendizaje consiste en que siempre que encuentre esos mismos patrones concluir un mismo resultado. Se aprende a partir de la identificación de los patrones y la repetición de una tarea de forma natural, disminuyendo gradualmente el error.

Poder implementar un sistema de IA en todo sistema jurídico cruza por asumir una convergencia entre la lógica procesal del derecho y la lógica de los procesos informáticos. Esta convergencia que consiste en poner a trabajar varias lógicas procesales por un fin único se conoce como multi-threading, o subprocesos múltiples.

El entrenamiento de PRETORIA y el desarrollo de los dos pilotos para el CE, nos llevó a reconfigurar la lógica del procedimiento de selección de tutelas al interior de la CC, e igualmente a adaptar y entrenar los pilotos en el CE bajo la lógica procesal del derecho electoral, el derecho marcario y el CPACA.

A manera de ilustración, corresponde señalar que para diseñar el prototipo en el CE fue necesario tener claro, por ejemplo, el esquema general del proceso en el medio de control de nulidad en los asuntos de propiedad industrial. Porque ello permitió identificar entre otros aspectos, los subprocesos, las actividades, los actores, las relaciones sistemas, las herramientas involucradas en el desarrollo del trámite y los cuellos de botella en donde se producen los problemas que merecen ser solucionados. Se buscó integrar el piloto de IA para que forme parte del software (sistema experto) que se encuentre implementado en la Corporación (SAMAI), permitiendo que interoperara el sistema de gestión de los expedientes y los procesos, y el proceso de detención inteligente. Igualmente se trabajó sobre la base de datos del sistema experto Justicia XXI, que lleva más de 20 años gestionando la información en la rama judicial en Colombia, y sobre el cual se enmascara el sistema SAMAI.

De la herramienta es necesario que ésta se nutra de los datos y documentos que se incorporen a este, lo que implica definir y aplicar estándares a la información y a una estructura única de datos, donde están todos los documentos que soportan las decisiones proferidas. Para el desarrollo y ejecución del proyecto se hizo uso de flujogramas similares a los siguientes:

Ésta estrategia tecnológica le apuesta a la innovación en el derecho y es inspiradora en tanto que se trata de un proyecto que pretende: i) reducir el tiempo que gastan los servidores públicos en la solución de controversias judiciales suscitadas entre el Estado y los ciudadanos, ii) mejorar la construcción de los precedentes jurisprudenciales a través del procesamiento de la información para la resolver los asuntos de que conoce la Sección I y V del CE, para luego extrapolar a las otras secciones, iii) garantizar la protección y efectivización de los derechos fundamentales, en especial el derecho al acceso a la administración de justicia en plena observancia a los principios de eficiencia, eficacia y oportunidad, y vi) lograr que la proyección de decisiones judiciales se haga de manera más ágil con la esperanza de brindar celeridad a los procesos y descongestionar los despachos judiciales del CE^[36].

Se considera que esta solución tecno-jurídica favorecerá la participación y el empoderamiento ciudadano, toda vez que ésta se podrá fortalecer el compromiso de bienestar, desarrollo, transparencia y mejoramiento de la gestión judicial en provecho de todos los ciudadanos, asegurando una mayor participación e intercambio de prácticas y/o experiencias nacionales e internacionales que enriquezcan integralmente el ejercicio de la función judicial.

Es importante anotar, como esta herramienta y la interoperabilidad con los sistemas expertos (SAMAI Y JUSTICIA XXI) simplifica el procedimiento administrativo, aclara los medios y de control y hace del CPACA una herramienta procesal más eficiente y comprensible tanto para los operadores jurídicos como para el ciudadano.

16. MULTI-THREADING EN EL DERECHO PROCESAL CONSTITUCIONAL: HACIA LA CAJA BLANCA

De su parte PRETORIA se enmascara, se sobrepone al Proceso jurídico, no para desplazarlo, sustituirlo, sino para apoyarlo, mejorarlo, hacerlo más asertivo y evitar errores. Esta convergencia se surtió de un proceso combinado de programación, preparación de las bases de datos (sentencias), dialogo juristas ingenieros, explicación de los contenidos de las palabras claves de búsqueda, testeo del sistema por juristas, nuevamente prueba hasta una aceptabilidad superior al 90%. Hasta desarrollar 33 criterios de selección, que son el producto de un trabajo conjunto entre juristas e ingenieros.

En palabras de Juan Corvalán: “Como las bases de datos suelen presentar ciertas complejidades, hay que adoptar ciertos recaudos básicos. Por ejemplo, cada vez que se entregó base de datos a los programadores/as, fue necesario que un integrante del equipo de gobernanza se ocupe de normalizarla. Esto significa que todos los valores que se completan en cada celda se encuentren iguales en todas las bases. Luego comenzamos con el proceso de machine learning de caja blanca (Clasificación), en donde se utilizan técnicas y atajos simbólicos (puntos, paréntesis, corchetes, entre otros), para detectar correlaciones entre palabras, frases, conjuntos de palabras o frases (keywords) que puedan asociarse a los resultados que se desean obtener. A partir de ahí comienza un proceso de iteración dinámico y constante, entre el equipo experto en derecho, los especialistas en datos y los programadores. El objetivo aquí es controlar, testear y refinar el proceso hasta alcanzar tasas de acierto que deben ser, sin excepción, validadas por quien será el usuario final del sistema. (…) En todos los casos, los data sets, las palabras clave y cualquier otra segmentación realizada por la máquina o las personas, se puso a disposición de la Corte Constitucional para que se pueda garantizar la trazabilidad, auditabilidad, aplicabilidad e interpretabilidad del sistema. (…). El proceso para llegar a las keywords adecuadas, se logró a través de prueba y error. En el refinamiento, los equipos de trabajo se retroalimentaron. Los patrones que detectaron la/los programadores, no necesariamente coinciden con las personas que etiquetaron la base de datos (las sentencias).”^[37]

El resultado final de este proceso lleva a que los 33 criterios de selección de PRETORIA en la CC, hoy se constituyan en criterios procesales de selección de las tutelas en materia de salud en Colombia. Es decir, hay un cambio sustancial en la lógica procesal constitucional. Como anota Juan este resultado fue posible gracias a una lógica de trabajo y construcción del sistema Pretoria de Multi-threading entre lógica jurídica constitucional y lógica informática de programación.

Asi, se puede decir que todo código de procedimiento ha sido una construcción verbal algorítmica. donde se dan presupuestos de hecho, presupuestos de derecho, tiempos, etapas y un resultado concreto. La sentencia, el acto administrativo es su resultado final predicable. Pero pensar los nuevos desarrollos en derecho procesal cruzan hoy por entender la lógica de programación de sistemas IA como medios de interpretación y desarrollo de los nuevos procedimientos jurídicos.

17. CONCLUSIÓN: UNA IDEA DE JUSTICIA

La tecnología es un valor, una fuerza instrumental que potencializa las capacidades del hombre transformando el orden social, por no decir que crea el mismo orden. El hombre y la sociedad son producto de la tecnología; eso afirma Ortega y Gasset^[38] como Martin Heidegger[39] respecto a la pregunta el hombre y la técnica. La justicia se construye como valor inmaterial, producto de la cultura y del debate político en la sociedad. La fuerza de la justicia radica en su efectividad, en su capacidad de imponer su decisión mediante el derecho y la ley. Pero si bien el Derecho no es justicia, no puede ser ajeno a ella. De otra parte, la IA es un desarrollo tecnológico que confronta, como nunca antes las ideas de derecho, tecnología, sociedad y justicia. Frente a ello, el derecho cuestiona sus fundamentos y la noción de cultura jurídica; en particular la oralidad, la escritura, la codificación, la burocracia, la jerarquía, los procedimientos; el ritual de producción de la norma.

Una de las preguntas recurrentes de quienes ven de forma crítica la implementación de la IA en la justicia es la cuestión de la protección de los Derechos Humanos. La implementación de sistema jurídicos sustentados en IA crea nuevos riesgos en la protección de la dignidad de la persona humana, y en derechos como a la intimidad y al buen nombre; y en nuevos derechos como el derecho al olvido, el derecho al anonimato, como también el derecho a la indeterminación. Desarrollos en IA como, leguaje natural, machine learning y estadística predictiva cuestionan los mecanismos de protección al aumentar el riesgo de manipulación de los datos por particulares al perfilar a los ciudadanos o pretender predecir sentencias.

Una primera respuesta a dichos riesgos es que ningún sistema en IA hace un proceso sin que sea un humano quien oriente un resultado explícita o implícitamente. Esto quiere decir que las tecnologías en IA en sí mismas no son violatorias de derechos humanos. Es la programación humana quien crea los riesgos. El caso COMPAS en los Estados Unidos demuestra como el proceso de perfilamiento fue creado dentro de un ambiente cultural marcado por racismo histórico. La inclusión de datos racistas para crear algoritmos de riesgos de reincidencia determinó a un grupo como propenso a reincidir en delitos. Fue el producto de una programación sesgada y precedida de criterios raciales. Los sesgos son humanos no matemáticos. Los humanos transfieren sus sesgos a los números. Entonces ¿cómo responder a este desafío? ¿cómo brindar la utilización de IA en posibles violaciones de derechos humanos? para responder presentare cuatro propuestas que considero necesarias en las altas cortes en Colombia que utilicen IA (en particular la Corte Constitucional con Pretoria y el Consejo de Estado en sus dos pilotas).

Primera. El desarrollo de IA a partir de redes neuronales simples en oposición a redes neuronales complejas permite un desarrollo supervisado de los procesos de aprendizaje de la maquina a partir de tareas binarias, donde la maquina es entrenada en procesos específicos para mejorar la eficiencia y la información de la que dispondrá el juez. Los resultados podrán ser explicados y auditables. Sin escapar al programador humano.

Segunda. Cajas blancas en oposición a cajas negras previenen la indeterminación y el aprendizaje autónomo de la máquina, que podría producir resultados aleatorios sin que medie una justificación técnica ni humana determinada. Las cajas blancas deben ser la regla de la programación y el entrenamiento de máquinas predictivas al servicio de la justicia.

Tercero. El manejo y el almacenamiento de bases de datos estructuradas debe desarrollarse en un ambiente controlado y cerrado propia a la corporación, en la soberanía del juez. Previniendo que los datos sean sacados de su marco de protección, explotados por terceros. Se deben construir protocolos estrictos en sistemas informáticos cerrados para la justicia, donde se proteja el contenido de los datos y su no explotación fuera del operador jurídico. Esto constituye la nueva reserva del sumario donde se debe evitar el ingreso de particulares, sea bien por vía directa o indirecta como podría ser el riesgo de contratar administradores privados de datos. Las corporaciones deben tener la capacidad y capacitar a sus funcionarios para administrar y controlar sus propios datos.

Cuarto. La construcción trazable del algoritmo, del código fuente, la explicación del árbol de decisiones, de la parametrización y de los niveles de seguridad de los datos debe ser auditable por terceros independientes que certifiquen el cumplimiento de los procedimientos. El Consejo Superior de la Judicatura de Colombia (Órgano de administración de la justicia) deberá desarrollar un cuerpo de expertos en práctica forense informática y criptografía para certificar el cumplimiento de los estándares en seguridad informática en toda la justicia en Colombia.

La construcción de los algoritmos finalmente debe mutar de un leguaje matemático hacia un leguaje donde los juristas, comprendiendo las arquitecturas de programación y el diseño del aprendizaje automatizado de procedimientos jurídicos, puedan explicarle a la sociedad política como los valores del Estado de Derecho y de protección de derechos fundamentales determinan el diseño matemático de los procesos jurídicos. Es en el paso de desocultar la ingeniería de sistema, la matemática, los procesos de programación automatizado por el derecho donde la protección de DH se hace posible. El desocultar la IA es fundamental para que el proceso social de producción de la ley, de protección de los derechos fundamentales sea posible y plausible. Ello permite reapropiarnos por el Derecho de su protección. No es en el ejercicio ideológica de oposición a la IA donde los derechos humanos se garantizan. Es en la apropiación de la tecnología por los jueces y en la refundación de un nuevo operador jurídico donde el Derecho puede repensar la fuerza de la indeterminación en la decisión, escapando el juez al riesgo del determinismo por la norma matemática. Domesticar el algoritmo por el derecho es el reto del juez del presente.

Es así como, la Comisión Europea ha comenzado a Construir las bases globales de una regulación mundial de los procesos de construcción de los algoritmos en IA. Y ha definido en 2021^[40] una línea roja en su construcción, como la prohibición de perfilar a los ciudadanos, o el reconocimiento facial en el espacio público. Sin duda esta debe ser una construcción mundial donde América Latina deberá sumarse adaptando sus legislaciones a estos mínimos mundiales de protección.

Referencias

ARAÚJO, Valter Shuenquener de; ZULLO, Bruno Almeida; TORRES, Maurílio. Big Data, algoritmos e inteligência artificial na Administração Pública: reflexões para a sua utilização em um ambiente democrático. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 80, p. 241-261, abr./jun. 2020.

BELLOCCHIO, Lucía; SANTIAGO, Alfonso. Estado digital de Derecho. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 80, p. 87- 102, abr./jun. 2020.

BITENCOURT, Caroline Müller; MARTINS, Luisa Helena Nicknig. A inteligência artificial nos órgãos constitucionais de controle de contas da administração pública brasileira. Revista de Investigações Constitucionais, Curitiba, vol. 10, n. 3, e253, set./dez. 2023. DOI: 10.5380/rinc.v10i3.9365.

BLANCHET, Luiz Alberto; TRENTO, Melissa. A inteligência artificial como diretriz propulsora ao desenvolvimento e à eficiência administrativa. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 23, n. 93, p. 153-172, jul./set. 2023. DOI: 10.21056/aec.v23i93.1733.

COMISION EUROPEA. Un enfoque europeo de la inteligencia artificial. 2021. Disponible en: https://digital-strategy.ec.europa.eu/es/policies/european-approach-artificial-intelligence.

CONSEJO SUPERIOR DE LA JUDICATURA. Estadísticas Judiciales. 2017. Disponible en: https://www.ramajudicial.gov.co/web/estadisticas-judiciales/ano-2017.

CORPORACION EXCELENCIA EN LA JUSTICIA. Índice de Congestión de la Rama Judicial en Colombia (Sector Jurisdiccional). 22 de marzo de 2023. Disponible en: https://cej.org.co.

CORPORACIÓN EXCELENCIA EN LA JUSTICIA. La eterna crisis de la justicia. Disponible en: https://cej.org.co.

CORTE CONSTITUCIONAL DE COLOMBIA. Informe de Gestión. 2022 https://www.corteconstitucional.gov.co/Transparencia/publicaciones/Informe_de_Gesti%C3%B3n_%202022_VF.pdf

CORTE CONSTITUCIONAL DE COLOMBIA. InteligenciaArtificial en la Corte Constitucional. 2019. Disponible en: https://www.youtube.com/watch?v=hHmB0xyrkss.

CORVALÁN, Juan Gustavo. Inteligencia Artificial GPT-3, Pretoria y oráculos algorítmicos en el Derecho. International Journal of Digital Law, Belo Horizonte, ano 1, n. 1, p. 11-52, jan./abr. 2020.

CORVALÁN, Juan Gustavo. Inteligencia artificial: retos, desafíos y oportunidades – Prometea: la primera inteligencia artificial de Latinoamérica al servicio de la Justicia. Revista de Investigações Constitucionais, Curitiba, vol. 5, n. 1, p. 295-316, jan./abr. 2018. DOI: 10.5380/rinc.v5i1.55334.

DELORT, Pierre. Le Big Data : les technologies de la Big Data. 2 ed. Paris. Presses Universitaires de France, 2018.

DERRIDA, Jacques. Fuerza de Ley, el fundamento mítico de la autoridad. 2 ed. Madrid: Tecnos, 2016.

DUITAMA PULIDO, Andrea. Inteligencia artificial en la Jurisdicción de lo Contencioso Administrativo. Caso concreto de estudio: Secciones Primera y Quinta del Consejo de Estado. Información general del proyecto de investigación. Línea: Tecnología urbana, ciudades y comunidades inteligentes y sostenibles - Innovación y Justicia – Comunidades judiciales inteligentes. Bogotá: Universidad del Rosario, 2022.

HEIDEGGER, Martin. La Pregunta Por la Técnica. [S.l.]: Create Space Independent Publishing Platform, 2015.

HERNÁNDEZ RAMOS, Mario, El Tribunal Constitucional Federal alemán aún en la encrucijada, Revista Española de Derecho Constitucional, Madrid, vol. 30, n. 88, p. 83-130, 2010.

IMODEV, Université Panthéon-Sorbonne Paris 1. II NDES Journées universitaires sur les enjeux du gouvernement ouvert et du numérique, Paris, 14 novembre 2017. Disponible en : https://irjs.pantheonsorbonne.fr/sites/default/files/inline-files/Acadays2017.pdf.

JARAMILLO SIERRA, Isabel Cristina; BARRETO ROZO Antonio. El problema del procesamiento de información en la selección de tutelas por la Corte Constitucional, con especial atención al papel de las insistencias. Colombia Internacional, Bogotá, n. 72, p. 56-86, 2010.

LAHOZ-BELTRA, Rafael. En las Entrañas del Big Data: una aproximación a la estadística. 1. ed. Madrid: Bonalletra Alcompas, 2019.

NAMEN, Vargas; GAITAN MARTINEZ, José Alberto; CORVALÁN, Juan. Memorando de Entendimiento entre el Consejo de Estado de Colombia, la Universidad Colegio Mayor de Nuestra Señora del Rosario y el Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho, de la Universidad de Buenos Aires para establecer bases generales de entendimiento mutuo que permitan el acceso de tecnologías emergentes como punto de partida para la automatización de procesos del Consejo de Estado basados en la “Experiencia IALAB. Bogotá, Buenos Aires: Consejo de Estado de Colombia/Universidad del Rosario/Universidad de Buenos Aires, 2020.

NUÑO, Juan Carlos. Inteligencia Artificial ¿Un paso adelante en la evolución? Madrid: Bonalletra Alcompas, 2019.

OCDE. Informe de la OCDE sobre Gobernanza Pública COLOMBIA. 2019. Disponible en: https://www.oecd.org/gov/Colombia-Scan-Final-Spanish.pdf.

OLIVA SANTOS, Andrés de la; DÍEZ-PICAZO GIMÉNEZ, Ignacio; VEGAS TORRES, Jaime. Curso de derecho procesal civil I. parte general. 4 ed. Madrid: Editorial Universitaria Ramón Areces, 2019.

ORTEGA Y GASSET, José. Meditación de la técnica. [S.l.]: Revista de Occidente, 1957.

PANIAGUA MARTÍN, Fernando. Programación de servicios y procesos. [S.l.]: Ediciones Paraninfo, 2022.

PUSCHEL, André Felipe Silva; RODRIGUES, Roberto Tessis; VALLE, Vivian Cristina Lima López. O dilema ético da decisão algorítmica na administração pública. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, ano 22, n. 90, p. 207-226, out./dez. 2022.

RAMÍREZ CLEVES, Gonzalo A. La crisis de la Corte Constitucional y las maneras de superarla. Legis Ámbito Juridico, Bogotá, 16 marzo 2015. Disponible en: https://www.ambitojuridico.com/noticias/educacion-y-cultura/la-crisis-de-la-corte-constitucional-y-las-maneras-de-superarla.

RIVADENEIRA, Juan Camilo. Prometea, inteligencia artificial para la revisión de tutelas en la Corte Constitucional. Legis Ámbito Juridico, Bogotá, 22 marzo 2019. Disponible en: https://www.ambitojuridico.com/noticias/informe/constitucional-y-derechos-humanos/prometea-inteligencia-artificial-para-la.

SIERRA CADENA, Grenfieth de Jesus. El Juez Constitucional un Actor Regulador de Políticas Públicas. Bogotá : Ed. Universidad del Rosario, 2009.

SIERRA CADENA, Grenfieth. La implementación de inteligencia artificial en el Consejo de Estado. Legis Ámbito Jurídico, Bogotá, 9 marzo 2021. Disponible en: https://www.ambitojuridico.com/noticias/etcetera/tic/la-implementacion-de-inteligencia-artificial-en-el-consejo-de-estado.

SIERRA CADENA, Grenfieth; CORVALÁN, Juan; FORERO, Juan Carlos; LINARES CANTILLO, Alejandro. Memorando de entendimiento entre la Corte Constitucional de Colombia, la Universidad del Rosario y el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires para el desarrollo de una experiencia de inteligencia artificial en la Corte Constitucional – “Prometea”. Bogotá, Buenos Aires: Corte Constitucional de Colombia/Universidad del Rosario/Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires, 2018.

TOLEDO, Claudia; PESSOA, Daniel. O uso de inteligência artificial na tomada de decisão judicial. Revista de Investigações Constitucionais, Curitiba, vol. 10, n. 1, e237, jan./abr. 2023. DOI: 10.5380/rinc.v10i1.86319.

TRIBUNAL ADMINISTRATIF DE PARIS. Quelle est la durée de la procédure ? Devant le Conseil d’État, le délai moyen qui sépare le dépôt d’une requête de son jugement est d’un an. Disponible en : http://melun.tribunal-administratif.fr/Demarches-procedures/Introduire-une-requete-devant-le-Conseil-d-Etat/Quelle-est-la-duree-de-la-procedure-devant-le-Conseil-d-Etat .

VALLE, Vivian Cristina Lima López; FELISBERTO, Jéssica Heinzen. Administração Pública digital: limites e possibilidades em atenção à desigualdade social e ao custo dos direitos. Revista Eurolatinoamericana de Derecho Administrativo, Santa Fe, vol. 9, n. 1, p. 151-179, ene./jun. 2022.

VALLE, Vivian Lima López; FUENTES i GASÓ, Josep Ramón; AJUS, Attílio Martins. Decisão judicial assistida por inteligência artificial e o Sistema Victor do Supremo Tribunal Federal. Revista de Investigações Constitucionais, Curitiba, vol. 10, n. 2, e252, maio/ago. 2023. DOI: 10.5380/rinc.v10i2.92598.

VIANA, Ana Cristina Aguilar. Transformação digital na administração pública: do governo eletrônico ao governo digital. Revista Eurolatinoamericana de Derecho Administrativo, Santa Fe, vol. 8, n. 1, p. 115-136, ene./jun. 2021.

Notas

Notas de autor

Información adicional

Como citar este artículo | How to cite this article: SIERRA CADENA, Grenfieth de Jesus. Implementación de la Inteligencia Artificial en las Altas Cortes de Colombia: los casos de la Corte Constitucional y el Consejo de Estado. Revista Eurolatinoamericana de Derecho Administrativo, Santa Fe, vol. 11, n. 1, e253, ene./jul. 2024. DOI 10.14409/redoeda.v11i1.13824