Moisés Barrio: «Un jurista debe conocer la regulación porque la IA está transformando el marco legal y práctico del ejercicio del Derecho»

¿Qué objetivos te marcaste al dirigir esta obra personal y cuál crees que es su principal aportación?

He buscado exponer de forma sistemática y práctica todos los aspectos jurídicos, técnicos y éticos para poder aplicar el Reglamento (UE) 2024/1689 de inteligencia artificial. Incluyo también los actos de desarrollo y aplicación ya aprobados por la Comisión Europea, y la jurisprudencia del TJUE que puede ayudar a interpretar los puntos controvertidos de la regulación. Así como explicar las razones de por qué finalmente se adoptaron ciertos aspectos controvertidos, sobre lo cual apenas se ha escrito nada.

Una curiosidad. ¿Por qué editarlo con Lefebvre y por qué con el formato de Memento?

Porque es un formato dirigido al profesional en un formato apto para su consulta práctica, concisa y actualizada que ofrece una visión completa, y que no lleva contenidos superfluos. Es decir, sin grasas añadidas.

¿Puedes explicarnos a grandes rasgos la estructura de la obra y qué criterios seguiste a la hora de indexarla?

He seguido la estructura del Reglamento (UE) 2024/1689 pero adaptada a un programa de cumplimiento normativo, y asimismo he añadido el Derecho español aplicable, con referencia a la futura Ley para el buen uso y la gobernanza de la inteligencia artificial en España.

¿Qué aspectos del Reglamento de Inteligencia Artificial de la UE considera más innovadores en comparación con otras normativas internacionales?

El haber abandonado el enfoque del “café para todos” del RGPD, y en su lugar seguir un enfoque regulatorio basado en el riesgo planteado por el concreto sistema de IA. Así, el RIA contempla cuatro niveles de riesgo (inaceptable, alto, limitado y mínimo), y ha positivizado requisitos proporcionales según el impacto potencial en la seguridad, la salud y los derechos fundamentales.

¿Y cuáles consideras que son los más polémicos?

En primer lugar, la regulación de los sistemas y modelos de IA de uso general, que ha resultado muy liviana, cuando son la pieza central de la gran mayoría de los actuales sistemas. En segundo lugar, el no establecer un derecho a una indemnización para toda persona que haya sufrido daños y perjuicios materiales o inmateriales como consecuencia de una infracción del Reglamento por parte del proveedor y el responsable del despliegue del sistema de IA, según la culpa o dolo del causante. Y, en último lugar, la ausencia de unos principios generales, fundamentales para interpretar la norma y resolver eventuales lagunas.

¿Qué supone para la innovación y la industria tecnológica esta regulación europea frente a la regulación de países como EEUU, China u otros?

El RIA establece normas claras para todos los sistemas y ámbitos de aplicación de la IA. Por eso, el Reglamento tiene un carácter horizontal –es decir, no limitado a sectores concretos–, y pretende dar una respuesta proporcional al riesgo generado por los sistemas de IA. Y lo hace en forma de reglamento europeo, que es directamente aplicable  en todos los Estados miembros (art. 288 TFUE), sin necesidad de normas nacionales de transposición como sucede con las directivas. Fundamental es la previsión de espacios controlados de pruebas, los sandboxes, para que empresas, especialmente pymes y startups, desarrollen y testen sistemas de IA de forma segura antes de su lanzamiento al mercado. Este importante instrumento reduce barreras para startups y fomenta la experimentación controlada, un aspecto innovador que no tiene equivalente en muchas otras jurisdicciones.

¿Cuál es tu opinión sobre el apartado sancionador del RIA? ¿En qué estado se encuentra el régimen sancionador en España?

Bajo el Reglamento, las sanciones, que alcanzan hasta 35 millones de euros o el 7 % de la facturación global anual para infracciones muy graves (como el uso de sistemas de IA prohibidos del art. 5), son significativas y están alineadas con el modelo del RGPD. Este nivel de multas busca disuadir a las empresas de incumplir las reglas, especialmente en casos que afecten a derechos fundamentales, como la manipulación cognitiva o el rastreo indiscriminado de datos biométricos. La graduación de sanciones (hasta 15 millones de euros o 3 % por incumplimientos de sistemas de alto riesgo, y hasta 7,5 millones o 1 % por información engañosa) refleja un enfoque basado en el riesgo, lo que permite flexibilidad según la gravedad de la infracción.

Además de multas, el RIA habilita medidas correctivas como advertencias, órdenes de adaptación o la retirada de sistemas de IA del mercado. Esto fomenta la corrección de infracciones sin recurrir exclusivamente a sanciones económicas, lo que es positivo para promover el cumplimiento sin paralizar a las empresas. En España, actualmente está en tramitación la futura Ley para el buen uso y la gobernanza de la inteligencia artificial en España, entre cuyos contenidos está precisamente el régimen sancionador, cuyo anteproyecto está alineado con los postulados del RIA.

¿Qué mecanismos de supervisión y cumplimiento prevé la normativa?

Frente a lo que recomendamos en el Grupo de Expertos, las medidas de supervisión no se han basado en los procedimientos de autorización del Derecho Público. La supervisión con carácter general corresponde a los proveedores de sus sistemas de IA de alto riesgo tras su comercialización (vigilancia poscomercialización). Deben informar de cualquier incidente grave a las autoridades competentes de vigilancia del mercado, que actuarán en consecuencia. Además de este sistema de autovigilancia por parte de los proveedores, las autoridades de vigilancia del mercado disponen de un amplio catálogo de instrumentos para controlar por iniciativa propia el cumplimiento del RIA por parte de los proveedores.

Del mismo modo, el RIA prevé un gran número de potestades a disposición de otras autoridades nacionales (como la AEPD o el Banco de España, por ejemplo) y de la Oficina de IA para hacer cumplir el RIA en casos individuales.

Se habla mucho de la importancia de tener un pensamiento crítico frente a esta revolución tecnológica protagonizada en los últimos años por la IA. ¿En qué aspectos concretos se traduce este pensamiento crítico, especialmente en los usuarios más jóvenes de la IA?

En efecto, el pensamiento crítico frente a la revolución tecnológica de la IA es esencial para que los usuarios, especialmente los más jóvenes, interactúen con esta tecnología de manera responsable, informada y lícita. Dado que los jóvenes (nativos digitales, generaciones Z y Alpha) son usuarios intensivos de herramientas de IA (como chatbots, aplicaciones de generación de contenidos o sistemas de recomendación), el pensamiento crítico se traduce en habilidades y actitudes específicas que les permiten evaluar, cuestionar y utilizar la IA de forma consciente.

Mi principal consejo es cuestionar la veracidad y precisión de los contenidos producidos por sistemas de IA, como respuestas de chatbots (como ChatGPT) o contenido sintético (imágenes, textos, vídeos). Es fundamental verificar las fuentes de las que se nutre el concreto sistema de IA, y contrastar la información con referencias confiables, ya sean libros o sitios web académicos.

El Diploma de Alta Especialización en Legaltech y Transformación Digital que diriges en la Escuela de Práctica Jurídica de la Universidad Complutense es uno de los programas formativos más exitosos en este ámbito. Y se imparte en una universidad pública. ¿Cuáles son sus fortalezas?

El DAELT, que arrancamos en 2019 y ya tenemos abierta la matrícula para su 7.ª edición, aborda tecnologías disruptivas como inteligencia artificial (IA), blockchain, smart contracts y chatbots, así como sus implicaciones jurídicas y aplicaciones prácticas con especial atención en metodologías Legal Design Thinking y gestión de proyectos legales). Su éxito ha venido marcado por su enfoque interdisciplinar, combinando fundamentos técnicos, jurídicos y talleres prácticos, y por un claustro de excepción compuesto por primeras espadas en los respectivos sectores. Así como por su accesibilidad en modalidades presencial y telepresencial, lo que lo hace atractivo para profesionales del ámbito jurídico y tecnológico.

Ante el actual auge de la IA en el mundo jurídico, ¿puedes dar dos recomendaciones para los abogados que utilicen ChatGPT?

Primera, probar los asistentes jurídicos de los principales proveedores de información jurídica para ver cuál es la herramienta óptima y eficiente según la concreta práctica profesional y tipología de asuntos que lleva un profesional. En vuestra Guía Legaltech examináis los asistentes líderes, como K+ de Aranzadi LA LEY o GenIA-L de Lefebvre. Segunda, verificar siempre el resultado de ChatGPT, teniendo en cuenta que los sistemas de machine learning a los que pertenece ChatGPT funcionan por probabilidad. Es decir, generan textos a base de retales y carecen de comprensión humana.

¿Un profesional del derecho tiene la obligación de informar al cliente que una demanda ha sido escrita por ChatGPT?

No existe una ley en la mayoría de los ordenamientos jurídicos, incluyendo a España, que obligue explícitamente a informar a un cliente sobre el uso de herramientas de IA como ChatGPT para redactar o revisar documentos legales, siempre que el trabajo final sea supervisado por un abogado. Ahora bien, la relación abogado-cliente se fundamenta en la confianza, y exige una conducta profesional íntegra, honrada, leal, veraz y diligente. El abogado está obligado a no defraudar la confianza del cliente y a informar sobre cualquier circunstancia que pueda afectar a su independencia, incluidas aquellas derivadas del uso de herramientas de IA que puedan influir en la calidad, confidencialidad o resultado del servicio prestado.

He pasado mi demanda por Chat GPT para que la revise y me diga si está bien escrita y argumentada. ¿Es buena idea?

Lo que ChatGPT puede hacer es identificar errores gramaticales, sugerir mejoras estilísticas o detectar incoherencias básicas en la redacción, pero no tiene la capacidad de evaluar si los argumentos legales son sólidos, relevantes o aplicables a la jurisdicción específica. Por ejemplo, no puede verificar si las normas legales citadas son correctas, están actualizadas o se aplican al caso concreto.

¿A quién va destinado este libro? ¿Crees que puede ser de interés también para estudiantes de Derecho que estén interesados en la innovación legal?

El libro está destinado a abogados, despachos que incluyan en su práctica profesional el Derecho digital y la protección de datos, administraciones públicas que vayan a utilizar IA y empresas de software y tecnología. Y naturalmente a los estudiantes de Derecho, pues la IA, como soporte estructural de la sociedad digital, es un componente esencial en su futuro profesional.

Y para terminar, dinos un motivo, solo un motivo, suficientemente poderoso por el cual un jurista debe leer este libro.

Es una guía práctica y sistemática para comprender y aplicar el Reglamento (UE) de inteligencia artificial. Un jurista debe conocer esta regulación porque la IA está transformando el marco legal y práctico del ejercicio del Derecho, impactando directamente en todas las ramas del ordenamiento jurídico.