Registro de algoritmos: el reto de iluminar la IA pública en Europa

El Informe 6/2025 de la Oficina Municipal contra el Fraude y la Corrupción de Madrid marcó un hito al recoger cómo resoluciones judiciales recientes han ido abriendo la puerta al examen del código fuente en sistemas que afectan derechos directos de los ciudadanos, dejando atrás excusas como la propiedad intelectual o la seguridad técnica cuando el interés público entra en juego con fuerza.

Como respuesta a esa falta de visibilidad, surgen los registros de algoritmos como directorios públicos que aspiran a identificar los sistemas automatizados utilizados por las administraciones y a ofrecer información útil sobre su finalidad, responsables y ámbito de aplicación.

Un informe de IA Ciudadana, coalición de 17 organizaciones que trabajan para defender los derechos humanos en el contexto de las tecnologías digitales, titulado Cómo lograr una transparencia real con los registros de algoritmos, precisa que estos directorios no aspiran a volcar el código fuente completo, sino a proporcionar información útil y estructurada sobre los propósitos del sistema, sus parámetros críticos y sus responsables políticos o técnicos.

Registros en Europa, un mosaico incompleto

El documento de IA Ciudadana ofrece el primer censo serio de esta realidad europea con 34 registros vivos y funcionando, de los cuales 27 proceden directamente de administraciones públicas con distintos grados de compromiso institucional, mientras siete más los promueven entidades de la sociedad civil con respaldo parcial de los gobiernos.

Pero solo unos pocos territorios europeos han desarrollado registros o iniciativas públicas de cierto alcance. Reino Unido cuenta con su Algorithmic Transparency Recording Standard, Países Bajos con el Algoritmeregister y Escocia con el Scottish AI Register, mientras que Francia, Finlandia y Noruega también aparecen en el mapeo de IA Ciudadana entre los casos más avanzados.

Más allá de estos países, la mayoría de los sistemas incluidos en estos registros siguen representando solo una parte del uso real de algoritmos en las administraciones. Son estas quienes deciden qué sistemas documentan, con niveles de detalle desiguales y sin un marco homogéneo que garantice exhaustividad, actualización periódica o supervisión suficiente.

Así, lo que nace como promesa de luz acaba en inventarios a medio hacer perfectos para vender titulares de ‘transparencia digital’ pero incapaces de ejercer control efectivo sobre las máquinas que deciden por todos, un fenómeno que IA Ciudadana bautiza como transparency washing, es decir, gestos cosméticos que maquillan el despliegue masivo de algoritmos sin tocar los equilibrios reales de poder.

El Reglamento de IA y sus grietas estructurales

El Reglamento (UE) 2024/1689 sobre IA establece por primera vez un estándar comunitario con su base de datos central para sistemas de alto riesgo, dirigida directamente por la Comisión Europea desde Bruselas.  Su despliegue se ha programado con precisión milimétrica. Agosto de 2026 marca el pistoletazo de salida para la mayoría de las obligaciones de registro en sistemas de alto riesgo.

Sin embargo, su alcance también deja zonas de debate. El Reglamento se centra en sistemas considerados de alto riesgo en ámbitos como infraestructuras críticas, educación, empleo, servicios esenciales, justicia, migración o fuerzas de seguridad, además de incluir determinados usos del sector financiero y asegurador, como la evaluación de solvencia de personas físicas o la fijación de riesgos y precios en seguros de vida y salud.

Aun así, otros sistemas con fuerte impacto social, como muchos motores de recomendación o perfiles algorítmicos de uso masivo, quedan fuera de esa categoría.

IA Ciudadana advierte, en todo caso, de que la categoría de alto riesgo no abarca todos los sistemas automatizados que utilizan las administraciones, de modo que la base de datos europea actúa más como un mínimo común de transparencia que como una solución completa al problema.

En nuestro país, esa evolución se ha traducido en resoluciones y decisiones judiciales que refuerzan la exigencia de transparencia cuando están en juego decisiones administrativas con efectos relevantes sobre los derechos de la ciudadanía.

NOTICIAS RELACIONADAS
– El legado del caso Bosco: hasta dónde llega la transparencia algorítmica
– Cómo hacer que la transparencia se cumpla
– Transparencia en la Administración: cómo los algoritmos deciden sobre la vida de los ciudadanos

Un registro que funcione, el diseño paso a paso

El informe de IA Ciudadana da un salto claro del diagnóstico a la propuesta y plantea un registro nacional único, obligatorio y con reglas comunes, concebido como una pieza central del ecosistema de transparencia y no como un mero complemento de la base europea de sistemas de alto riesgo.

Ese registro tendría una capa de lectura pensada para la ciudadanía general, que ofrece descripciones claras sobre qué hace cada sistema, en qué procesos interviene y qué efectos puede tener en la vida de las personas, y otra mucho más técnica dirigida a perfiles especializados, con información sobre el diseño, los parámetros clave o los márgenes de error conocidos.

La posibilidad de reservar información se contempla como una excepción y no como la norma. Cuando entren en juego motivos como la seguridad nacional, la protección de datos personales o la prevención de fraudes, el informe propone que cualquier límite a la publicidad vaya acompañado de una justificación detallada y accesible, alejándose así de fórmulas genéricas como la referencia indiscriminada al “secreto industrial”. El objetivo es que cada decisión de mantener datos en la sombra pueda ser evaluada a la luz del derecho colectivo a la transparencia.

También el ciclo de vida del algoritmo queda incorporado al diseño. IA Ciudadana sugiere que la inscripción sea temprana, en los primeros meses de desarrollo, y que a partir de ahí se encadenen revisiones periódicas, auditorías externas por entidades independientes y actualizaciones cada vez que cambien los datos de entrenamiento o los parámetros significativos del sistema. El cierre, cuando un algoritmo se retira, no se concibe como un simple borrado, sino como un momento para documentar qué ha funcionado, qué no y qué aprendizajes deberían tenerse en cuenta en futuros desarrollos.

El informe plantea que organizaciones con experiencia en derechos digitales, transparencia o evaluación de impactos participen en órganos consultivos estables, prueben la herramienta desde la perspectiva de las personas usuarias y contribuyan a que el lenguaje del registro sea comprensible y útil.

Por último, el documento dedica un apartado específico a adaptar estas ideas al contexto institucional español existente, con propuestas como situar la gestión del registro en una entidad independiente como el Consejo de Transparencia, integrarlo en la sede electrónica estatal y coordinarlo con iniciativas ya en marcha en distintos niveles de la Administración.