La IAGen y “el riesgo de un fenómeno de cancelación de la cultura humana”

“Autenticidad y condición humana. Valores para un derecho cultural en la era de la IA” fue la sesión protagonizada por José María Lassalle, doctor en Derecho, consultor y profesor de Filosofía del Derecho. Una defensa a la urgente necesidad de un nuevo derecho humano y cultural en la era de la IA. O, también, un recordatorio de que la experiencia y condición humana no puede ser reemplazada por una copia artificial.

Con las intervenciones previas de Moisés Barrio, letrado del Consejo de Estado, profesor de Derecho digital y director del programa; y Cristina Retana, directora de Contenidos e Innovación de Aranzadi LA LEY y profesora del programa.

Así, en la Escuela de Práctica Jurídica de la Universidad Complutense de Madrid, se cerró la sexta edición del programa que otorga el Diploma de Alta Especialización en Legaltech y Transformación Digital.

Del pensamiento crítico al “oráculo”

La IAGen lleva dos años y medio siendo protagonista de una transformación digital que afecta a las personas y a la sociedad. Un impacto “sistemático, impredecible y, a menudo, negativo”, explicaba Moisés Barrio para abrir la sesión.

El pensamiento crítico, la autonomía, las relaciones y el significado del ser humano son algunos de los factores involucrados.  Sin embargo, el director del programa demandaba: “Los legisladores y responsables políticos parecen ignorar estas implicaciones”. Y aseguraba que los últimos informes y leyes sobre IA se quedan cortos.

“Como advertí en 2022, la gente suele utilizar ChatGPT o herramientas similares como si fueran oráculos, herramientas omniscientes que pueden dar la respuesta correcta”, aseguró. De hecho, por primera vez en 22 años, las búsquedas con IA han superado las búsquedas de Google.

Y es que Barrio alertaba de que la interacción con un chatbot es muy diferente a la de un motor de búsqueda, ya que se eliminan capas de pensamiento crítico. El humano ya no tiene que elegir entre una lista de resultados, escoger en cuál profundizar y razonar sobre la fiabilidad de una fuente o la legitimidad de un contenido. Ahora recibe una respuesta, que puede cortar y pegar, sin ni siquiera leerla.

Una solución que, además, tiene “un lenguaje humano, conversacional y persuasivo”. Es decir, “lo contrario de estimular el pensamiento crítico”. Un riesgo al que se le suma el poder de las empresas de IA para respaldar “pseudociencia, desinformación o incluso creencias perjudiciales que  podrán provocar daños catastróficos”.

Por eso, Moisés Barrio hizo hincapié en la necesidad de “una IA centrada en el ser humano, justa, responsable e inclusiva, como garantiza el reglamento europeo de IA”. Y opinó que, como ciudadanos, se ha de tener un “compromiso ético-jurídico” con “los valores superiores que fundan la democracia, la Constitución y el Estado de derecho”.

Por tanto, se trata de favorecer el desarrollo tecnológico, pero siempre en sintonía con los derechos humanos.

El juicio que un algoritmo no tiene

“La IA tiene que tener un conocimiento humano al lado”, sentenció Cristina Retana. Por un lado, reconoció su utilidad. Sobre todo, por la eficacia y rapidez que otorga a tareas que antes eran manuales y rutinarias. De hecho, animó a los profesionales del Derecho a tener la mente abierta y perder el miedo.

Pero también advirtió de los riesgos que conlleva y de la necesidad de una revisión crítica y ética “detrás de cada algoritmo o decisión automatizada”. Retana recalcó que, en el sector legal, cada caso es único y cuenta con diversos parámetros y variables.

“Sus profesionales tienen la posibilidad de ver más allá de los datos, aplicar interpretaciones contextuales, culturales, emocionales…”, explicó. Y eso no lo puede captar un algoritmo. “Entonces, no podemos dejar al arbitrio de una IA una decisión que requiere una mente humana”, concluyó.

Asimismo, puso el foco en otro factor crucial sobre IAGen: sus fuentes de entrenamiento. Resaltó la importancia de su actualización, procedencia y calidad. Para así evitar interpretaciones erróneas, informaciones provenientes de otros ordenamientos jurídicos o de normativa desactualizada. Es decir, “efectos jurídicos y colaterales muy amplios”.

“Eso es el corazón de nuestras soluciones de IA”, comentó sobre Aranzadi LA LEY. “Lo que entra es lo que va a salir. Tengo que garantizar el origen para que el resultado sea fiable”, zanjó.

El derecho a la autenticidad en la era de la IA

José María Lassalle comenzó su ponencia defendiendo la urgente necesidad de un nuevo derecho humano y cultural en la era de la IA: la autenticidad. Porque, en el contexto de una civilización cada vez más artificial, “la cultura debe ser preservada como un bien público de naturaleza esencial”.

“La humanidad se enfrenta al reto de liderar la IA o ser subordinada a ella”, alertó. Así, hizo alusión al “capitalismo cognitivo” para advertir del riesgo del automatismo en una “civilización artificial” sometida a la “voluntad del poder”.

El ser humano se puede ver reducido a “cuerpos de datos sin alma ni espíritu más allá del rastro que vamos dejando a través de nuestra vida online”.  Por ello, reivindicó la reflexión crítica. ¿Cómo? A través de las humanidades, pero englobadas dentro de un concepto más amplio: la cultura.

“Cuando hablo de cultura me refiero a lo que Jesús Prieto definió como ‘cultura general’: el conjunto acumulativo de bienes y valores del espíritu creado por el hombre a través de su genuina facultad de simbolización”, explicó. Asimismo, añadió que no sólo se refiere al modo de ser de un pueblo, sino a una manera de vivir que “nos permita reconocernos unos a otros dentro de una semejanza simbólica que posibilita la integridad”.

Así, puso en el centro la palabra “autenticidad”, que “da sentido a la experiencia singular y comunitaria de lo humano”. Un ámbito que “tiene que ver con la dignidad irrepetible de su condición y que debe ser objeto de protección”.

Y la cual peligra en un contexto de radicalización digital, que puede derivar en “el principio de un proceso irreversible que desembocará en la posible existencia de una IA fuerte capaz de desarrollar estados mentales propios”. En definitiva, el “riesgo de un fenómeno de cancelación de la cultura humana”.

Un fenómeno que, por tanto, incide en “el derecho fundamental que tiene cada ser humano a crear, en su sentido más amplio”. Porque, sin ir más lejos, “disputa al ser humano la capacidad de pensar”. “Algo que hasta ahora ha sido distintivo de la condición humana y que está amenazado por un nuevo modelo civilizatorio basado en el uso generalizado de la IA”, añadía.

Todo ello en un marco revolucionario que presenta “una convivencia inédita en la historia entre seres humanos y máquinas”. Sobre todo, desde 2021, con la generalización de los sistemas generativos de IA, como ChatGPT. “Sistemas basados en redes neuronales sintéticas que imitan el cerebro humano y que le están arrebatando la hegemonía que ha ejercido desde el principio de los tiempos sobre el ejercicio del trabajo intelectual y creativo”, explicó Lassalle.

De este modo, añadía: “Se daña gravemente el pluralismo, la vitalidad, la intercomunicación, la afluencia, el estímulo y la responsabilidad que acompaña siempre a los procesos de creación surgidos de la condición humana. Semejantes, por supuesto, pero irrepetibles siempre”.

“No olvidemos que la IA es una tecnología que imita algo que existe: la inteligencia humana”, sentenció. Y abogó por un “principio de responsabilidad que suponga que los efectos de la acción de la IA sean compatibles con la permanencia de una vida auténtica humana sobre la tierra”.

Aquella donde cabe “el dolor, la esperanza, la incertidumbre, el error, la frustración, la felicidad, la plenitud, la culpa, la libertad, el amor, la muerte o la trascendencia. Atributos que han fundado durante miles de años la sensibilidad del humano. Y que han impedido la automatización definitiva de nuestras conductas al exponerlas siempre a la fragilidad limitante de lo inesperado”.

Por eso, “no puede replicarse automática y artificialmente sin lesionar el fundamento irrepetible de su propia dignidad como ser humano”. En resumen, “el ser humano no puede ser sustituido ni reemplazado por una copia artificial”.

Y concluyó: “La fuerza de la imaginación humana del siglo XXI no ha de ser, ni podrá ser, la IA. Salvo que queramos sumergirnos en su automatismo determinista. Pero eso exige cambiar su diseño, subordinado a la autenticidad, que protege la condición humana cuando crea artísticamente su propia e irrepetible vida y que debe ser el nuevo contenido esencial de los derechos culturales del siglo XXI”.