Qué ocurre cuando se unen dos Jueces y un Catedrático de Ciencias de la Computación e Inteligencia Artificial

Ayer martes 10 de enero se presentó en el Consejo General del Poder Judicial el libro «El derecho y la inteligencia artificial”, proyecto que es fruto de una alianza entre el Poder Judicial y la Universidad de Granada que ha sido coordinado por Francisco Herrera, Catedrático de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Granada; Alfonso Peralta, Juez del Juzgado de Primera Instancia e Instrucción núm. 2 de Guadix (Granada); y Leopoldo Salvador Torres López, Juez del Juzgado de Primera Instancia e Instrucción núm. 3 de Ronda (Málaga). Si quieres conocer el desarrollo del acto, puedes leer esta nota publicada en la web del CGPJ. Nosotros fuimos a hablar con dos de los tres coordinadores, Alfonso y Francisco, perfiles profesionales muy diferentes que nos contaron cosas interesantísimas. Una película de los 80 (te advertimos que tiene un 4,9 en Filmaffinity) decía que todo es posible en Granada, y esta conversación demuestra que lo que están haciendo allí es de 10.

Alfonso, Paco, he leído en estas pasadas fiestas el libro que coordináis junto a Leopoldo. El título, “El derecho y la inteligencia artificial”, es muy generalista, pero conociendo cómo se profundiza en áreas críticas y viendo el talento y sobre todo la diversidad del elenco de autores y coordinadores, creo que ya es una obra de referencia en el ecosistema legaltech y de innovación.

Alfonso Peralta. Esa era nuestra idea inicial. El curso del que nace el libro también buscaba pluralidad en los docentes, ese mix de talento tecnológico, jurídico y judicial, pero también de empresa. No es un libro propiamente académico sino que combina otras visiones.

Francisco Herrera. Este curso empieza en 2020, cuando se produce toda la eclosión de la inteligencia artificial y la necesidad de su regulación. Hemos tenido la suerte de contar con expertos de diferentes ámbitos que han hecho un amplio recorrido desde la protección de datos hasta el uso de herramientas en el entorno policial, y todo ese conocimiento se ha plasmado en este libro que recoge muy bien multitud de aspectos. Incluso hemos abordado el tema de salud vinculado a la IA.

Nos ha gustado especialmente ese equilibro entre lo académico y lo práctico, eso que se encuentra un profesional en su día a día…

Francisco Herrera. Eso se debe precisamente a cómo se ha ido desarrollando el curso del que nace el libro. Los ponentes han tenido en cuenta los temas de más interés y hemos procurado que no se repitan temas en una obra con 30 capítulos donde seguro que el lector encontrará temas que le afecten directamente.

Este libro confirma la excelencia de la Universidad de Granada, tanto en su rama jurídica como tecnológica, algo que ha apuntado en su intervención del Presidente del Consejo General del Poder Judicial, Rafael Mozo.

Alfonso Peralta. Así es. En inteligencia artificial Granada es una potencia que aparece entre las primeras 50 mejores universidades del mundo. Un ranking reciente la situaba como la tercera de Europa y la trigésimo tercera del mundo y la primera de España. Sus investigadores, como el propio Paco Herrera, están entre los más citados como eminencias en todo el mundo. En Derecho hay un ecosistema investigador y tenemos la Unidad de Excelencia de Investigación Sociedad Digital y la colaboración con la Cátedra Microsoft de la Universidad de Valencia y con la Cátedra Ciberseguridad e IA de Telefónica. Además, Granada en términos históricos es una de las principales facultades de Derecho en España y epicentro judicial con su sede del TSJ.

El gran reto de este libro, por su formato coral y por los temas que aborda, es tenerlo actualizado…

Francisco Herrera. Los capítulos están actualizados al momento actual. Es cierto que hay temáticas que se han quedado fuera y estamos barajando opciones, como la aparición en 2023 de un segundo volumen que recoja temas de interés que complementen el primer volumen.

Alfonso Peralta. Este año en el curso vamos a abordar aspectos éticos y luego aspectos regulatorios, porque se acerca un tsunami regulatorio. También trataremos aspectos laborales, cómo afecta la IA al empleo, selección de personal, discriminación, etc. Tendremos también mesas sobre aspectos de personalidad jurídica, derechos fundamentales y reconocimiento facial, y por supuesto el GPT3 y cómo puede afectar a la Abogacía y a la Justicia.

Alfonso, nos ha gustado mucho, por deformación profesional, el capítulo en el que intervienes y en el que analizáis herramientas legaltech con IA. Hemos visto ahí un curro muy minucioso.

Alfonso Peralta. Ese capítulo fue la primera ponencia del curso, y estamos hablando de un análisis cuando todavía no había mucha legaltech por lo que tuvimos que compararlo con soluciones de Estados Unidos. Ahora, cuando nos hemos puesto con el libro, la principal referencia ha sido vuestra Guía Legaltech, que es toda una referencia. Legaltech en este 2023 va a tener una gran inclusión, con fondos de inversión, fondos de litigación, incremento del uso por despachos de todos los tamaños y también por la Administración de Justicia.

Paco, ChatGPT y su tecnología está en el candelero desde hace pocos meses. ¿Qué valoración haces de esta herramienta?

Francisco Herrera. Muy positiva, porque una de las grandes dificultades era la generación de lenguaje, existía ahí una cierta frontera. Siempre desde una visión de sentido común, no de comprensión, porque la máquina no comprende. Pero lo cierto es que ves lo que plantea a partir de tus preguntas y hay mucho sentido común.

«Legaltech en este 2023 va a tener una gran eclosión, con fondos de inversión, fondos de litigación, incremento del uso por despachos de todos los tamaños y también por la Administración de Justicia»

Es que, siempre entre comillas, la criatura habla muy bien…

Francisco Herrera. Claro, por eso digo que no comprende lo que le escribes pero tiene mucho sentido común lo que contesta. Esto va a penetrar totalmente en todos los ámbitos y por supuesto en el de la Justicia. Leía a una profesora de Derecho que le pidió a ChatGPT un análisis de una temática y la respuesta, asegura, ha sido un trabajo de nivel medio de sus alumnos. Ciertamente tiene un nivel que no se puede definir como brillante pero hay que reconocer que está bastante bien. Tenemos que entender y aceptar que ya tenemos herramientas inteligentes que son capaces de elaborar texto sobre cualquier materia. Pero tiene una gran capacidad de análisis…

… que han conseguido en poco tiempo…

Francisco Herrera. Así es, en poco tiempo. Ya estamos entrando en la inteligencia artificial general, no sólo de cosas concretas, como manifestaba el CEO de OpenAI, una IA general que intenta tener paralelismo con los humanos. Permite realizar múltiples tareas con la ‘capacidad’ que puede tener una persona. Se vuelve a hablar de estos temas y de la generación de imágenes con IA como hace DALL-E. Estamos rompiendo barreras a una velocidad impresionante. En 2018 cuando planteábamos el curso pensábamos que esto en Derecho iría despacio pero en estos dos últimos años la eclosión está siendo tremenda. Las expectativas a ocho años que tenemos no tienen nada que ver con las que teníamos en 2020.

«ChatGPT no comprende lo que le escribes pero tiene mucho sentido común lo que contesta. Va a penetrar totalmente en todos los ámbitos y por supuesto en el de la Justicia»

Alfonso, el impacto de la tecnología GPT3 y la futura GPT4 en el ámbito del big data judicial puede ser muy bestia.

Alfonso Peralta. Pueden salir muchas cosas, pero el tema no es lo que se puede hacer sino lo que se debe hacer. Eso es lo legítimo: hasta qué punto se debe hacer, con qué riesgos y con qué controles. Pero está claro que va a impactar en redacción de escritos jurídicos, en análisis, en argumentaciones judiciales, etc.

Paco, Alfonso nos dijo hace unos meses que hablar de jueces robot es una gansada. Literal. Desde tu visión techie, ¿estás de acuerdo?

Francisco Herrera. No creo todavía en la máquina que va a sustituir al humano en tareas que requieren capacidad de análisis, reflexión y creatividad. Creo que vamos a un mundo en el que habrá médicos y jueces que trabajarán con la máquina al lado, que desarrollarán su profesión de la mano de un sistema inteligente que les ayudará. Vamos a ver otra forma de impartir Justicia y de ejercer la medicina, analizando de forma crítica los resultados que te ofrece la máquina y a partir de ahí tomar las mejores decisiones. Y no va a ser fácil, porque llegará un momento en el que tendrás que decidir si estás o no de acuerdo con lo que indica la máquina en virtud de un porcentaje, cuando tú, desde tu pensamiento crítico, crees que algo es mejorable o modificable. No creo en la máquina juez pero sí en que los jueces deberán trabajar de otra forma.

¿Y por qué demonios, en lugar de jueces robot, no se habla de asistentes robóticos al juez?

Alfonso Peralta: Porque es algo muy llamativo y porque creo que estamos acostumbrados a las películas distópicas.

Francisco Herrera. Creo que estamos muy influenciados por ese cine que plantea mundos distópicos y el guionista tiene que escribir vendiendo mundos nuevos donde la máquina aparece por encima del humano. La realidad a día hoy es que la máquina tiene que estar al lado del humano para tomar mejores decisiones. En el libro Vida 3.0, su autor, Max Tegmark, afirma que el coche autónomo es importante pero lo es mucho más el trabajo en el ámbito de la salud. En Estados Unidos mueren 100.000 personas al año por errores médicos. La IA puede ayudar a los médicos a mejorar el diagnóstico y reducir de este modo el número de errores. Ojo, que la máquina siempre tiene un margen de error y el humano debe conocerlo para saber cuándo tiene que dar una vuelta empleando su conocimiento, intuición y experiencia.

¿Cómo ha sido la cohabitación entre dos perfiles tan diferentes como el judicial y el tecnológico y matemático? ¿Cómo os habéis soportado?

Alfonso Peralta. Para mí es un honor y un placer trabajar con alguien como Paco tanto en el curso como en el libro, y de hecho nos hemos convertido en amigos. Por encima de todo, ha supuesto para mí un aprendizaje enorme.

¿Crees necesario que los contenidos que aparecen en vuestro libro también estén presentes, en mayor o menor medida, en los planes docentes de los Grados de Derecho?

Alfonso Peralta. La Facultades deben formar a los abogados del siglo XXI, que debe conocer materias como protección de datos, cibercriminalidad, telecomunicaciones, etc., que están a la orden del día. Es muy difícil para un profesional de la abogacía prescindir de estos asuntos porque les van a llegar por una u otra vía. Los planes de estudios de Derecho tienen que adaptarse a esa realidad.

Paco, te devuelvo la pregunta, pero cambiando el orden de los factores…

Francisco Herrera. Siempre que digo que la inteligencia artificial es una moneda con dos caras. Los datos, por un lado, y por otro, los algoritmos, que convierten los datos en conocimiento. El mismo algoritmo, cuando cambian los datos, va a cambiar el comportamiento. Y hablamos de que un sistema inteligente discrimina ya que los datos tienen una discriminación inherente porque pueden tener errores. El experto en IA tiene que conocer los aspectos éticos y legales. En Informática siempre hemos tenido una asignatura de Derecho. Por ejemplo, Guillermo Orozco, uno de los autores del libro, ha sido profesor en nuestra Facultad. Pero es cierto que lo jurídico no forma parte del core de la formación. Hoy es impensable hablar de tecnología sin tener en cuenta los aspectos legales y éticos.

Abundas en lo que nos decía Alfonso: no es lo que se puede hacer sino lo que se debe hacer.

Francisco Herrera. Claro, es que hay una regulación europea que indica que hay riesgos en el ámbito de los derechos fundamentales y un sistema inteligente no puede hacer lo que tú quieras, tienes que cumplir principios éticos y legales que por otro lado van a ser cambiantes. Definir las fronteras en las que te vas a mover va a requerir un trabajo conjunto.

«La inteligencia artificial es una moneda con dos caras. Los datos, por un lado, y por otro, los algoritmos, que convierten los datos en conocimiento»

Vamos terminando, y tengo que deciros que nos parece fantástica esa alianza entre el poder judicial y el ‘poder universitario’, y dentro del campus, esa unión entre las ramas jurídica y tecnológica. Es algo muy simbólico, estratégico y desde luego necesario.

Alfonso Peralta. Creo que sí, porque sitúa al Poder Judicial a la vanguardia del derecho tecnológico. El Poder Judicial no es sólo lo que aparece en medios o lo que se dice desde el ámbito político. También es formación, inicial y continua. Es salvaguarda de los derechos fundamentales, y desde esta visión quiere participar activamente en esta revolución tecnológica protagonizada por la inteligencia artificial. Y si hay cambios tecnológicos, el Poder Judicial está dispuesto a participar y liderarlos.

Paco, publicamos una conversación con Alfonso que titulamos Los jueces debemos participar en todo lo que concierne a desarrollos tecnológicos con Inteligencia Artificial para Justicia. ¿Crees que eso suma o resta agilidad a esos desarrollos?

Francisco Herrera. Obviamente, no se puede aplicar inteligencia artificial en Justicia sin contar con los expertos en ese ámbito. La IA tiene que responder a retos y preguntas que tienen que formular los que conocen las necesidades de ese entorno. Cuando tú estás alimentando con datos a un algoritmo de inteligencia artificial para crear un sistema inteligente, lo haces con un objetivo: quieres que aprenda a hacer una actuación concreta. Has almacenado y etiquetado los datos pensando lo que quieres perseguir: quiero clasificar, quiero hacer una predicción, etc. Es el experto, el que almacena los datos, el que te dice qué quiere que hagas con ellos.

«El Poder Judicial es salvaguarda de los derechos fundamentales, y desde esta visión quiere participar activamente en esta revolución tecnológica protagonizada por la inteligencia artificial»

Pero entiendo que es importante para que esa cohabitación sea realmente productiva que haya jueces con visión y conocimiento como Alfonso, Leopoldo y otros autores del libro como Amparo Salom y Eloy Velasco.

Francisco Herrera. Totalmente de acuerdo. Si no hay ese trabajo conjunto no hay avances. Se ha abierto una nueva era de colaboración, es algo que todos debemos entender. La máquina no viene a sustituirnos, viene a ayudarnos en nuestras profesiones.