Se empieza a cuestionar por la doctrina más especializada el encaje de la inteligencia artificial dentro del contexto de la llamada cuarta revolución industrial⁷. Se considera que es más apropiado el calificativo “convergencia” tanto para hablar de las diferentes tecnologías digitales como para describir la interacción que surge entre ellas⁸. Es más conveniente hablar de transversalidad en el uso de esta tecnología digital que, además, potencia sus efectos cuando se interrelaciona.

La idea de superar el concepto de revolución industrial hacia el de “convergencia tecnológica” radica, básicamente, en la afectación que supone. Nos referimos al hecho de que si la revolución industrial supuso un cambio radical en el modo de producción, la tecnología convergente supone un cambio en la propia esencia del ser humano, que puede llegar incluso modificar la conducta de la persona⁹ y afectar a sus derechos fundamentales^10.

Se espera que la inteligencia artificial tenga un desarrollo exponencial en los próximos años; precisamente, porque uno de los factores de esa rápida evolución es la convergencia con el resto de tecnologias emergentes, que avanzan velozmente. Esta evolución tecnológica provoca consecuencias en la propia configuración de la persona, por lo que va a ser necesario que se proteja la esencia personal desde el sistema de los derechos fundamentales. No obstante, no hay que olvidar, tampoco, los beneficios que puede tener para la evolución de la sociedad y del Derecho el uso de estas tecnologías. Por lo tanto, se debe ir en esa doble dirección, aprovechar los beneficios que pueden proporcionan estas tecnologías y, en este caso, valorar su aplicación en el ámbito probatorio del proceso penal, aunque preservando, eso sí las garantías procesales fundamentales que rigen este proceso.

Como acabamos de señalar es significativo el crecimiento que ha experimentado esta área científica en los últimos tiempos y existe una previsión de crecimiento exponencial de la inteligencia artificial en los próximos años¹¹. No cabe duda, estamos ante una de las tecnologías que va a transformar la sociedad en el modo, en el que la conocemos, si no lo está haciendo ya¹². Sin embargo, a pesar de esta creciente importancia no existe un término unívoco para definir la inteligencia artificial, sino muchos y provenientes de muy diversos sectores, en función de las características que presenta cada uno de ellos.

Esta falta de concepto único se pone de manifiesto por el propio Comité Económico y Social Europeo, en el “Dictamen sobre la inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad” que recoge, en la Conclusión 2.1, que no existe una definición concreta y aceptada de la inteligencia artificial¹⁴. Por utilizar un concepto que nos pueda servir en el presente trabajo nos quedaremos con el que usa la Comisión Europea en el documento sobre “Inteligencia artificial para Europa”¹⁵: “El término «inteligencia artificial» se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción -con cierto grado de autonomía- con el fin de alcanzar objetivos específicos.” Se trata de un concepto que pone el punto de mira en la potencialidad de los sistemas, en las aplicaciones de inteligencia artificial. Nos interesa en este trabajo la inteligencia artificial aplicada al proceso penal y, en concreto, la inteligencia artificial en la fase probatoria.

Aunque la inteligencia artificial aún no ha alcanzado un pleno desarrollo¹⁶ su gran potencial nos proporciona herramientas increíbles. Es por ello que deberíamos valorar la posibilidad de utilizar estas herramientas inteligentes en la fase probatoria del proceso penal. Antes de examinar la cuestión, vamos a analizar los dos grandes pilares en los que se basa el funcionamiento de la inteligencia artificial, nos referimos a la gran cantidad de datos que gestiona mediante el uso de algoritmos.

No es lo mismo inteligencia artificial que algoritmo. La inteligencia artificial es la inteligencia que muestran las máquinas cuando imitan las funciones “cognitivas” de los seres humanos, por ejemplo, al resolver problemas. Como hemos señalado se trata de un concepto aún en desarrollo. Sin embargo, lo que se ha generalizado son los sistemas automatizados de toma de decisiones basados en algoritmos¹⁷.

Los algoritmos son una serie de ecuaciones matemáticas que se entrelazan para proporcionar un resultado. Atienden a una instrucción concreta que sirve para solucionar un problema planteado previamente. Para lograrlo utiliza una gran base de datos ordenada, lo que se denomina Smart Data, en la que elige los datos, de manera aleatoria, con la finalidad de anticipar un comportamiento. La finalidad del algoritmo no es certificar la veracidad de una hipótesis planteada sino la búsqueda de correlaciones deterministas entre unos datos y otros¹⁸.

Los algoritmos, en modo alguno, son nuevos y se han aplicado en los programas informáticos desde décadas¹⁹. Su importancia actual radica en que han evolucionado de sistemas expertos, en los que los programadores trasladaban al algoritmo las normas para tomar las decisiones, a algoritmos que permiten el aprendizaje automático de la máquina (“machine learning”). Estos algoritmos de aprendizaje son más avanzados, más inteligentes y se muestran más eficaces en cuanto a su capacidad de anticipar comportamientos, pero tienen el problema de que su funcionamiento resulta incomprensible, lo que dificulta la legitimidad de las decisiones que adoptan²⁰. Su creación parte de un proceso no sólo estadístico o matemático, sino complejo y humano que incluye recopilación, preparación y análisis de datos en diversas etapas, lo que no está exento de polémica porque en ese proceso, es evidente e inevitable, que se contengan ideologías propias de los creadores y diseñadores de los algoritmos²¹.

El desarrollo de la inteligencia artificial está íntimamente relacionado con el uso o con la disponibilidad de una gran cantidad de datos que son procesados por algoritmos²². Nos estamos refiriendo al Big Data²³ o, también, a la expresión “macrodatos”, que es utilizada por el Parlamento Europeo, y que lo define como “la recopilación, análisis y acumulación constante de grandes cantidades de datos, incluidos datos personales, procedentes de diferentes fuentes y objeto de un tratamiento automatizado mediante algoritmos informáticos y avanzadas técnicas de tratamiento de datos, utilizando tanto datos almacenados como datos transmitidos en flujo continuo, con el fin de generar correlaciones, tendencias y patrones (analítica de macrodatos)” ²⁴.

Se trata de tecnología disruptiva que se incardina en la categoría más amplía de “tecnologías emergentes o convergentes”. Una nueva tecnología de tratamiento y análisis de datos, un nuevo método de procesamiento de información”²⁵ pero con una característica fundamental, el procesamiento de la información se realiza a nivel global²⁶. Como consecuencia de este tratamiento de datos masivos se infieren conclusiones imperceptibles que otra técnica de análisis de datos no es capaz de apreciar, lo que proporciona un conocimiento superior²⁷. Incluso, la técnica Big Data mediante el uso de algoritmos puede no sólo predecir acontecimientos futuros sino también que las máquinas tomen decisiones autónomas sin necesidad de que intervenga una persona²⁸.

Precisamente, es en los datos, como la fuente que utilizan los algoritmos, donde es necesario poner especial atención porque va a ser la calidad de los datos en los que se basa el algoritmo los que van a conseguir que los resultados que se proporcionen tengan legitimidad.²⁹

Se plantea en este apartado la posibilidad de que se pueda utilizar esta tecnología inteligente en el proceso penal. En concreto, si es posible que la inteligencia artificial pueda suponer una mejora en la actividad probatoria³⁰ que ayude a los medios de prueba tradicionales en la identificación del presunto autor del hecho o en la averiguación del hecho delictivo.

Aunque la tecnología que se está desarrollando podría tener aplicación en el proceso penal, no existe en derecho procesal una definición unívoca del concepto de prueba científica y las definiciones que se han dado, tanto por la doctrina como por la jurisprudencia, son incompletas. A pesar de ello, no se discute y se entiende sin problemas que la prueba científica se dirige a averiguar o probar hechos que necesitan conocimientos profesionales y técnicos muy avanzados tecnológicamente³¹.

No hay tampoco acuerdo por parte de la doctrina para concretar las diferentes ciencias o tecnologías que pueden comprender la prueba científica pero lo que sí es evidente es que muchos hechos criminales graves sólo se pueden descubrir o probar a través de tecnologías de nueva generación que faciliten la convicción judicial³².

Ni el legislador procesal ofrece un concepto de prueba pericial ni, menos aún, de prueba científica como una variedad de ésta. La única cuestión que regula el derecho procesal es cuándo procede realizar la práctica de prueba pericial en el proceso penal, ie., el objeto y finalidad de la prueba pericial. Así el art. 456 Ley de Enjuiciamiento Criminal (LECR) entiende que procede dicha prueba “Cuando sean necesarios conocimientos científicos, artísticos, técnicos o prácticos para valorar hechos o circunstancias relevantes en el asunto o adquirir certeza sobre ellos…”.

Ante la falta de un concreto concepto sobre lo que debe entenderse por prueba pericial científica unos determinados criterios o requisitos de fiabilidad científica, como existe en otros países³³, podrían ayudarnos a entender que una prueba tiene la categoría de científica y, por lo tanto, puede utilizarse para probar científicamente un hecho en un proceso, civil o penal”³⁴.

Lo referente a la cuestión de la naturaleza jurídica de la prueba científica tampoco resulta ser un debate doctrinal pacífico. Si bien resultó superada la cuestión de considerar la prueba científica como prueba documental, debido en parte a la regulación de la prueba pericial, el problema surgió, de nuevo, con motivo de la reforma operada en la LECR en el año 2002. Así el art. 788.2 LECR otorga naturaleza de prueba documental a los informes emitidos por laboratorios oficiales para el caso sólo de materia de estupefacientes y aunque la Ley no dice nada de los informes de ADN, ante el silencio, se debe entender que estamos ante una prueba de naturaleza pericia.

El interés por la utilización de tecnologías de inteligencia artificial en el proceso judicial lo podemos relacionar con la necesidad de mejorar su eficacia. No obstante, somos conscientes de que se trata de una cuestión no exenta de polémica, no sólo por los peligros que conlleva la aplicación de inteligencia artificial en el proceso sino, también, por pretender que la utilización de la inteligencia artificial tenga por finalidad que el proceso sea más eficaz. Centrándonos en esta última cuestión, en el término “eficacia”; cuando utilizamos ese término referido al proceso, hablando de eficacia en el proceso y no, en esencia, de las garantías procesales, se tiene la sensación de cierta connotación economicista; parece que, de alguna manera estamos reduciendo a lo privado el sistema judicial penal que tiene, por naturaleza, carácter público. Nada más lejos de la realidad, cuando un proceso es ineficaz, es un proceso inútil que no cumple o impide la función constitucional encomendada al Poder Judicial ni garantiza, tampoco, el derecho constitucional a la jurisdicción que tienen los ciudadanos³⁵.

Es por esta razón que el estudio de la posibilidad de aplicar inteligencia artificial en el proceso y, en este caso, en el proceso penal, aunque, sin duda, controvertido, no puede por este motivo dejarse de estudiar, quizá aunque sólo sea para llegar a la conclusión de que su uso en el proceso es inviable. La doctrina procesalista se ha pronunciado recientemente sobre esta cuestión³⁶ y se muestra reticente a una aplicación generalizada en el proceso y, más aún, si se trata del proceso penal, por la especial configuración de éste y los derechos que en él se garantizan, debido a los múltiples riesgos que su uso puede suponer para los derechos y garantías fundamentales procesales, sobre todo, en el caso de aplicar inteligencia artificial para la toma de decisiones judiciales, sustituyendo la decisión judicial³⁷.

No obstante, dentro de las tecnologías que utilizan inteligencia artificial existe una que ha evolucionado de una manera sorprendente estos últimos años y, que entendemos, merece la pena analizar por si, en un futuro no muy lejano, puede servir de ayuda en la fase probatoria del proceso penal: hablamos de tecnología de reconocimiento facial³⁸.

La tecnología del reconocimiento facial, que utiliza inteligencia artificial en su desarrollo, posibilita el reconocimiento de los rasgos faciales de una persona. Se trata de analizar si esta tecnología puede resultar de utilidad en el proceso penal, en concreto en el desarrollo de la actividad probatoria. El tratamiento que esta tecnología puede realizar de los metadatos³⁹ de las grabaciones y registros audiovisuales judiciales puede tener relevancia en el desarrollo de la actividad probatoria. Nos estamos refiriendo a la comunicación no verbal que se presenta en los actos judiciales como la que ocurre en la vista de un juicio oral o en una declaración judicial y que resulta imposible de verbalizar o transcribir; esto supone que todos esos datos, fruto de la comunicación no verbal, que pasan desapercibidos para el ser humano puedan llegar, si se interpretan con el reconocimiento facial, a ser valorados también por el juez como prueba. Esta tecnología de reconocimiento facial puede servir, también, a los efectos de averiguar la identidad del presunto autor del hecho o, incluso, en el caso de identificación de testigos, peritos o, incluso, requisitoriados. Sin duda, va a ser la primera de las funciones de la tecnología del reconocimiento facial, que hemos señalado, la que presente mayor problemática, desde el punto de vista procesal, porque el tratamiento de los metadatos de las declaraciones o interrogatorios va a aportar un valor añadido a la declaración o interrogatorio judicial que se preste. Es decir, más allá de las palabras la comunicación no verbal del testigo o de la parte que preste declaración podría formar parte de la declaración y servir a los efectos de verificar la credibilidad, por ejemplo, del testigo.

Uno de los grandes problemas del uso de esta tecnología es que afecta a derechos especialmente protegidos como es el derecho fundamental a la intimidad y, en concreto, al derecho a la protección de los datos personales. Precisamente, el nuevo Reglamento General de Protección de Datos (RGPD)⁴⁰, consciente de la necesidad de protección de este derecho, realiza una modificación en la calificación jurídica de los datos biométricos⁴¹, que pasa a considerarlos datos de categoría especial, en virtud del art. 9.1 RGPD. El precepto hace referencia, en especial, a los datos biométricos que están dirigidos a identificar de manera inequívoca a una persona física. Además, y con el motivo de otorgar protección a la persona, garantizando su dignidad, el RGPD limita el uso de la tecnología de reconocimiento facial y lo hace impidiendo su tratamiento, de forma general, con las excepciones que se contemplan en el apartado 2 del art. 9 RGPD, entre las que se encuentran las que están relacionadas con la actividad judicial o policial o de seguridad pública⁴².

Otro de los problemas jurídicos que presenta esta tecnología de reconocimiento facial es el de los sesgos algorítmicos, a los que nos hemos referido en epígrafe anterior, y que provoca afectaciones en determinados derechos fundamentales, siendo una de las más relevantes la vulneración del principio de igualdad, pero también afecta a derechos procesales fundamentales⁴³. El problema de los sesgos algorítmicos en el uso de esta tecnología está relacionado, sobre todo, con la utilización de los algoritmos de aprendizaje automático (los que entendemos, estrictamente, por inteligencia artificial). Estos algoritmos están diseñados para tratar los datos como lo haría una persona y al combinarlos con la tecnología de reconocimiento facial se obtienen unos resultados más eficientes, más complejos. El problema es la evolución de estos algoritmos, que no puede ser explicada de forma lógica, lo que provoca opacidad en su proceso de uso⁴⁴.

La preocupación de la Unión Europea por la posible vulneración de los derechos fundamentales con este tipo de tecnología de reconocimiento facial en la que se utilizan datos biométricos ha quedado patente con Informe de la Agencia Europea de Derechos Fundamentales (FRA), emitido en 2019, sobre Tecnología de reconocimiento facial: consideraciones de derechos fundamentales en el contexto de la aplicación de la ley⁴⁵. Junto con éste, el informe de la Comisión Europea White paper On Artificial Intelligence-A European approach to excellence and trust, muestra que la regulación de la implantación de tecnología de reconocimiento facial contendrá las restricciones necesarias para proteger los derechos fundamentales, siendo los más afectados por esta tecnología el derecho a la privacidad y la protección de los datos personales⁴⁶. Precisamente y sólo de esta manera, con una protección al más alto nivel de los derechos fundamentales especialmente afectados podremos garantizar un futuro uso adecuado de esta tecnología en el proceso judicial.

Cabe plantearse si estas herramientas inteligentes pueden constituir una forma de prueba científica^, como lo es el análisis del ADN, o, por el contrario, estamos muy lejos de poder otorgarles esta categoría. Al contrario que en otros países, no existe en España un procedimiento estandarizado que permita dilucidar si una determinada técnica puede considerarse prueba científica o qué parámetros tiene que cumplir para llegar a serlo⁴⁷. La determinación de la cientificidad de la inteligencia artificial a los efectos de considerarla como prueba es un tema que deberá abordarse a medida que se perfeccione la técnica o se generalice su uso. Como nos recuerda Gómez Colomer los criterios de cientificidad que sirven para considerar que una prueba tiene la categoría de científica en nada tienen que ver con la admisibilidad de la prueba que se rige por el criterio de la pertinencia judicial. Ni tampoco influyen sobre la valoración de la prueba que realice el juez en virtud del principio de libre valoración de la prueba que rige en el proceso penal ^48.

En esta cuestión habrá que valorar si dichas herramientas de inteligencia artificial deben tener un grado de fiabilidad absoluto, como ocurre con la prueba del ADN, o, por el contrario, es suficiente si suponen una mejora de la veracidad o certeza que otorgan los medios de prueba tradicionales y a los que no se cuestiona su uso⁴⁹.

Una de las cuestiones relevantes para sostener la posibilidad de aplicación en el proceso de un sistema de inteligencia artificial es la verificación de los algoritmos que contienen. Esta verificación de un algoritmo debe prestar atención tanto a la posibilidad de que presente sesgos que discriminen a unas personas frente a otras, de acuerdo con los intereses o las inclinaciones de los programadores, como a su grado de fiabilidad predictiva, lo que muchas veces dependerá de la propia calidad de los datos utilizados en su confección⁵⁰. Por esto mismo, parece evidente que, como ha señalado el Parlamento Europeo, serán necesarias “evaluaciones periódicas sobre la representatividad de los conjuntos de datos, así como examinar la exactitud e importancia de las predicciones”⁵¹. De esta manera, antes de tomar una decisión sobre la posibilidad de utilizar estos mecanismos en nuestro sistema jurídico es necesario resolver previamente la cuestión de cómo regular los mecanismos que garantizarán una adecuada auditoría de su funcionamiento⁵². Sin embargo, esta necesidad que no es fácil de realizar porque muchos de los algoritmos que contiene los sistemas de inteligencia artificial son, en sí mismos, opacos⁵³.