El “Día D” de la AI Governance europea: del calendario regulatorio a la práctica jurídica

La gobernanza europea de la inteligencia artificial ha entrado en una nueva fase. Lo que durante los últimos años se ha analizado principalmente como calendario regulatorio empieza ahora a traducirse en obligaciones exigibles, decisiones de cumplimiento, riesgos jurídicos y nuevas exigencias para empresas, despachos, instituciones y profesionales del Derecho.

Esta fue la idea central de la sesión online “Reflexiones sobre el ‘Día D’ de la AI Governance europea”, organizada por la Comisión Joven de ENATIC el pasado 3 de septiembre. El encuentro reunió a Pablo Sáez Hurtado, José María Del Río Garay, Sofía Dafne Chico Reinoso, María Sánchez Besga, Laura Laguna y Patricia Frade Ortea, miembros de la Comisión Joven, para ofrecer una visión transversal del nuevo escenario jurídico de la inteligencia artificial en Europa.

Pablo Sáez Hurtado abrió la sesión con una aproximación al estado actual del Reglamento Europeo de Inteligencia Artificial y al impacto del denominado Ómnibus Digital. Su intervención puso el foco en una cuestión relevante para la práctica jurídica: el AI Act no puede entenderse como una norma aplazada en bloque. Existen ajustes y prórrogas concretas, especialmente vinculadas a determinadas obligaciones de alto riesgo, pero también obligaciones que ya forman parte del marco de cumplimiento que las organizaciones deben tener presente.

Desde esta perspectiva, la AI Governance deja de ser una cuestión abstracta. Exige identificar sistemas de IA, determinar roles, analizar finalidades, documentar riesgos, formar a los equipos y establecer mecanismos de supervisión y trazabilidad. Para los profesionales jurídicos, el reto ya no consiste solo en conocer el texto normativo, sino en acompañar su aplicación real dentro de organizaciones cada vez más dependientes de sistemas inteligentes.

A continuación, José María Del Río Garay abordó los riesgos vinculados a modelos avanzados de inteligencia artificial y a sus capacidades emergentes. Su intervención situó el debate en la dimensión de ciberseguridad, especialmente ante sistemas capaces de adoptar comportamientos inesperados, interactuar con entornos externos o seguir rutas de decisión no previstas inicialmente. Este bloque puso de relieve que la confianza en la IA no puede basarse únicamente en declaraciones de principios, sino en controles efectivos, auditorías, pruebas y capacidad de intervención.

Sofía Dafne Chico Reinoso centró su intervención en la responsabilidad civil extracontractual asociada al uso de inteligencia artificial. Su análisis partió de una idea clave: cuando intervienen varios actores en el diseño, desarrollo, integración, despliegue o utilización de un sistema de IA, la responsabilidad no desaparece, pero puede resultar más difícil identificar quién controlaba cada parte del riesgo. Por ello, no basta con afirmar que “falló la inteligencia artificial”. El análisis jurídico debe dirigirse a quienes diseñaron, configuraron, integraron o utilizaron el sistema y a las medidas que pudieron adoptar para evitar o reducir el daño.

En este contexto, la trazabilidad se convierte en una pieza fundamental. Saber qué versión del modelo estaba operativa, qué configuración tenía, qué advertencias se activaron, qué datos se trataron y quién podía intervenir puede resultar decisivo en futuros litigios. La documentación deja de ser una mera exigencia de compliance para convertirse en una herramienta probatoria.

María Sánchez Besga abordó el Espacio Europeo de Datos de Salud y el uso secundario de datos sanitarios en el contexto de la inteligencia artificial. Su intervención permitió recordar que no hay gobernanza de IA sin gobernanza de datos. La reutilización de datos de salud para investigación, entrenamiento o evaluación de algoritmos ofrece oportunidades relevantes, pero exige calidad, seguridad, interoperabilidad, minimización y garantías reforzadas para proteger a las personas.

Por su parte, Laura Laguna situó el debate en la soberanía tecnológica europea. Su intervención analizó la importancia de las infraestructuras cloud, los centros de datos, la cadena de suministro tecnológica y la dependencia de proveedores no europeos. La gobernanza de la IA no depende solo de normas sobre algoritmos, sino también de quién controla la infraestructura sobre la que se entrenan, alojan y despliegan los sistemas.

Finalmente, Patricia Frade Ortea aterrizó estos retos en el ámbito de la Justicia digital. Su intervención planteó la necesidad de avanzar hacia una gobernanza específica de los sistemas de IA aplicados a la Administración de Justicia. El expediente judicial electrónico, la clasificación de documentos, la priorización de asuntos, la IA agéntica y la supervisión humana efectiva obligan a repensar cómo se controla la tecnología en un entorno especialmente sensible.

Una de las ideas más relevantes de este bloque fue que la gobernanza no empieza cuando el sistema produce una respuesta, sino antes: en los datos que se incorporan, en el diseño de los flujos, en la visibilidad de la información y en la capacidad real de intervención humana. En Justicia, la supervisión humana no puede reducirse a revisar un resultado final; debe formar parte de todo el proceso.

Tres conclusiones para la práctica jurídica

Primera. La AI Governance europea ya exige acción. Las organizaciones deben identificar sus sistemas de IA, conocer sus roles, evaluar riesgos y documentar decisiones.

Segunda. La trazabilidad será decisiva. En conflictos relacionados con IA, será esencial reconstruir quién controlaba cada elemento del sistema y qué medidas podían haberse adoptado.

Tercera. La Justicia digital necesita una gobernanza propia. La incorporación de IA al ámbito judicial exige garantías reforzadas, supervisión humana efectiva y capacidad real de control e impugnación.

La sesión organizada por la Comisión Joven de ENATIC dejó una conclusión de fondo: la inteligencia artificial no puede abordarse como una tecnología externa al Derecho. Su despliegue afecta a la responsabilidad, la prueba, los datos, la infraestructura, la organización interna y las garantías procesales. Cuanto más compleja sea la tecnología, más importante será saber quién decide, quién controla, quién documenta y quién responde.