Actualidad

El aviso de la AEPD sobre los «minions algorítmicos», esos pequeños ayudantes que ejecutan tareas por nosotros

El autor del post  Diego Fierro Diego Fierro
- de lectura

Diego Fierro, Letrado de la Administración de Justicia, y en estos momentos jefe del Área penal del Servicio Común de Ejecución de Málaga, analiza en este artículo el decálogo que la Agencia Española de Protección de Datos ha publicado sobre asistentes y agentes de inteligencia artificial. La idea de fondo que plantea el autor es sencilla: delegar no es desentenderse. Y el decálogo lo deja claro al distinguir entre un asistente que responde y un agente que actúa.

La Agencia Española de Protección de Datos ha publicado un decálogo titulado «Asistentes y agentes de inteligencia artificial: que la inteligencia artificial actúe por ti, no sin ti». El documento parte de una constatación que ya no admite discusión: los asistentes capaces de ejecutar tareas en nombre del usuario están al alcance de cualquiera, integrados en el móvil, en el ordenador o en los servicios que utilizamos a diario. Gestionan calendarios, completan compras, hacen reservas y responden correos. Son, en palabras de la propia agencia, una poderosa herramienta de gestión personal. Y precisamente por eso exigen una reflexión previa que la mayoría de los usuarios no se plantea.

(Diego Fierro, autor del artículo, es Letrado de la Administración de Justicia, y jefe del Área penal del Servicio Común de Ejecución de Málaga)

De un modo u otro, se pueden resumir en estos puntos:

  1. Revisa a quién le das las llaves: Elige servicios de confianza en la Unión Europea, revisa sus opciones de privacidad y memoria, y prioriza los que procesen los datos en tu propio dispositivo.
  2. Concede accesos mínimos: No des permisos en exceso ni cheques en blanco. Limita el acceso a lo estrictamente necesario y protege los datos delicados (como contraseñas o tarjetas) evitando escribirlos en la conversación.
  3. Decide qué puede recordar: Usa los controles de memoria y privacidad para borrar información, ya que los perfiles y datos recopilados pueden describir tu vida poco a poco.
  4. Pon límites a lo que puede hacer: Define claramente qué puede hacer el agente, qué no debe tocar, y empieza siempre por tareas pequeñas y reversibles.
  5. Confirma lo importante: Activa la confirmación previa para acciones de impacto (compras, envíos, contratos o borrados) y revisa bien antes de aprobar.
  6. Desconfía de lo que lee: Ten en cuenta que los documentos, webs o correos externos pueden contener instrucciones ocultas para engañar al agente.
  7. Protege los datos de los demás: No utilices fuentes con información de terceros (familiares, compañeros o clientes) sin tener en cuenta su privacidad y los límites legales.
  8. Asegura tu cuenta y dispositivo: Utiliza contraseñas seguras, verificación en dos pasos y complementos de origen conocido, ya que son la llave de todo lo demás.
  9. Supervísalo y retira accesos: Revisa el historial de actividad, mantén copias de seguridad y prepárate para detener al agente o revocar sus accesos si algo falla.
  10. Precaución en el ámbito laboral: Utiliza solo los asistentes y cuentas autorizados por tu organización, evitando mezclar datos profesionales con entornos personales.

La primera advertencia del documento es la más elemental y, quizá por ello, la más ignorada. Un asistente con acceso al correo, la agenda, los archivos o los pagos no es una aplicación más: es una llave a buena parte de la vida digital de quien lo utiliza. Antes de conceder esa llave conviene saber quién presta el servicio, qué hace con los datos y qué controles ofrece. La agencia recomienda elegir servicios claramente identificados, que permitan ejercer los derechos y defenderlos legalmente en la Unión Europea, y que informen con claridad sobre el destino de la información. Desconfiar de asistentes de origen desconocido, revisar las opciones de privacidad y memoria, y dar prioridad a aquellos que procesan los datos en el propio dispositivo son criterios que deberían incorporarse a cualquier decisión de adopción.

Hay que reseñar que el decálogo insiste en una distinción que muchos usuarios pasan por alto: conceder accesos no equivale a firmar un cheque en blanco. Que un asistente pueda acceder al correo, los contactos, las fotos o la ubicación no significa que lo necesite. Leer no es lo mismo que enviar, modificar o borrar. Y aceptar todos los permisos por cansancio no es tener el control. La recomendación es otorgar el acceso mínimo, limitar el alcance a lo estrictamente necesario y revisar periódicamente qué servicios permanecen conectados, especialmente cuando una actualización incorpora funciones nuevas.

La protección de lo delicado merece un apartado propio. Cuanta más información tenga el asistente, mayor es el daño si se equivoca, si lo engañan o si alguien accede a la cuenta. Los datos de salud, la situación económica, la identidad o las contraseñas exigen un nivel de acceso más restringido y una autonomía más limitada. La agencia aconseja no escribir contraseñas, códigos de verificación ni números de tarjeta en la conversación, introducir esos datos en los formularios destinados a ello y eliminar nombres y datos innecesarios antes de entregar un documento.

La memoria del asistente plantea un problema que trasciende la comodidad. Es lo que lo hace útil, pero también lo que construye, poco a poco, un perfil con gustos, relaciones, rutinas y preocupaciones. Un dato trivial, sumado a muchos otros durante meses, acaba describiendo la vida de una persona. El documento advierte de que borrar un chat, borrar una memoria o eliminar una aplicación conectada no tienen el mismo efecto, y recomienda utilizar los controles de memoria, historial y privacidad del servicio en lugar de confiar en pedirlo en la conversación. También sugiere separar los usos personal, familiar y profesional en cuentas o perfiles distintos, y revisar dónde se realizan las copias de seguridad.

Considero que el punto más relevante del decálogo es el que distingue entre un asistente que responde y un agente que actúa. Cuando solo responde, un error es una respuesta equivocada. Cuando actúa, un error es un correo enviado, un archivo compartido, una compra realizada o un consentimiento otorgado en nombre del usuario. La agencia recuerda que la persona puede ser responsable de las acciones que ha permitido ejecutar a su agente, y recomienda activar la confirmación previa para enviar, publicar, compartir, borrar, pagar o contratar. No conceder autorizaciones permanentes salvo que sean realmente necesarias, leer de verdad lo que se aprueba y no dejar que el agente ejecute sin revisión decisiones con consecuencias legales, económicas o de salud.

El documento dedica también atención a un riesgo que empieza a conocerse como inyección de instrucciones. Una web, un correo, un documento o una invitación de calendario pueden contener instrucciones ocultas, incluso invisibles para el usuario, para que el agente haga algo distinto de lo que se le pidió: enviar datos, abrir un enlace o aprobar algo. Ninguna medida elimina por completo ese riesgo. Por eso la mejor protección consiste en limitar lo que el agente puede hacer si consigue ser engañado. Cuanto más contenido ajeno maneje, menos acceso y capacidad de actuar debería tener sobre los datos y las cuentas del usuario.

La dimensión colectiva aparece en el octavo punto. En el correo, la agenda, los contactos, las fotos y los chats hay información de familiares, amigos, compañeros, clientes o pacientes que no han decidido relacionarse con esa inteligencia artificial. Que el usuario autorice el acceso no le da vía libre para utilizar la información de los demás. La agencia recomienda limitar el alcance, no usar el asistente para reunir o deducir información delicada de terceros y extremar la precaución cuando el agente se comunica en nombre del usuario, especialmente si utiliza su voz, su imagen o su identidad.

El decálogo se cierra con una advertencia que conviene subrayar: delegar no es desentenderse. El usuario debe saber cómo detener el agente y cómo retirarle los accesos antes de necesitarlo. Debe revisar el historial de actividad, configurar avisos en los servicios sensibles, prestar atención a las tareas programadas que siguen funcionando sin supervisión y mantener copias de seguridad que permitan seguir trabajando si el dispositivo principal falla. En caso de incidente, la recomendación es detener el agente, desconectar las aplicaciones afectadas, cambiar las contraseñas, comprobar qué se ha enviado y avisar a quien pueda verse afectado.

El documento incluye también una sección específica para el uso profesional. Solo deben utilizarse los asistentes autorizados por la organización y conectarse únicamente las cuentas, aplicaciones y datos que esta haya autorizado. Que una herramienta sea adecuada en el ámbito personal no significa que lo sea para el trabajo. Los datos de clientes, pacientes, alumnos o ciudadanos siguen siendo responsabilidad de la organización, y el profesional lo es del uso que hace de ellos. Ante la duda, la agencia remite a la persona delegada de protección de datos.

De lo reseñado se colige que el decálogo no se limita a advertir de los riesgos. También señala una responsabilidad que no puede recaer solo en el usuario. Quien ofrece asistentes capaces de actuar por otra persona debería ofrecer controles suficientes: permisos comprensibles que distingan consultar de actuar, confirmación configurable para las acciones de mayor impacto, historial de lo ejecutado, una forma inmediata de detener el agente, gestión y borrado de la memoria, información clara sobre el destino de los datos y una vía sencilla para ejercer los derechos. Si un servicio no ofrece esos controles, el usuario debe tenerlo en cuenta al decidir qué le confía.

La expresión «minions algorítmicos» no aparece en el documento, pero describe bien lo que estos asistentes son: pequeños ayudantes que ejecutan tareas por nosotros, con la diferencia de que no son criaturas de ficción, sino programas con acceso a información real y capacidad de actuar en el mundo. El aviso de la Agencia Española de Protección de Datos no pretende frenar su adopción. Pretende que esa adopción se produzca con conocimiento de causa. Porque la comodidad de delegar es real, pero también lo es la responsabilidad de saber qué se delega, a quién y con qué límites.