"Si un sistema de IA no es transparente, la Administración no debería usarlo”

En este sentido, el Consejo andaluz destaca por afrontar con éxito la gestión de estas dos áreas que defienden dos derechos confrontados en numerosos casos, pero que se configuran como las dos caras de una misma moneda, como describió Manuel Medina, el predecesor de Jesús Jiménez. Este último es director del órgano garante desde febrero de 2021, cuando fue designado por el Parlamento autonómico por mayoría absoluta.

Antes de que la convocatoria de las elecciones generales para el próximo 23 de julio frenara la reforma de la Ley 19/2013 de transparencia, el debate en el subgrupo de trabajo en el Foro de Gobierno Abierto se centraba en el régimen sancionador para el incumplimiento del derecho de acceso y cómo afectará el desarrollo de la tecnología a la futura norma -en referencia a la transparencia algorítmica-.

Revista Haz habla con Jiménez para conocer la realidad de estas dos competencias en un año marcado por los cambios políticos y los aniversarios de las dos normas que garantizan tanto el derecho de los ciudadanos a saber qué hace la Administración pública española, como la protección de sus datos personales.

¿Cómo se consigue impulsar la transparencia a la vez que se protegen los datos personales?

Es un reto complejo, pero un éxito como resultado. Supone la coordinación entre las áreas para hacer una ponderación de los derechos y que no haya ningún sacrificio desproporcionado entre ambos. Además, hay que tener en cuenta que la transparencia es un principio en el tratamiento de los datos personales, porque a veces olvidamos que la Administración también tiene que ser transparente con estos datos de los ciudadanos, sobre todo, cuando incluye la elaboración de perfiles. Aquí es donde más se aprecia este conflicto que precisa un equilibrio adecuado y requiere ese trabajo conjunto de ambas áreas.

¿Qué aspectos de la transparencia en España considera que son necesarios reformar para seguir avanzado?

Habría que garantizar mejor el cumplimiento de la resolución de los conflictos por la autoridad de control y mejorar la dotación de recursos necesarios en las Administraciones pequeñas, porque se ha demostrado que la transparencia requiere de una organización al servicio de ella, junto con un enfoque transversal en la forma de trabajar. Creemos que hay que invertir y profundizar en dotar de recursos a los municipios que actualmente no los tienen.

Y luego, hay determinados ámbitos que inquietan a la sociedad, como es el uso de nuevas tecnologías que por su complejidad deberían ponerse estándares de transparencia específicos a los contenidos especialmente diseñados para que el ciudadano las comprenda. Sobre todo, porque son espacios donde se ha generado desconfianza y es necesario recuperarla.

NOTICIAS RELACIONADAS
– Transparencia en la Administración: cómo los algoritmos deciden sobre la vida de los ciudadanos
– ¿Qué mejorar en la Ley de transparencia? Más información, agilidad y sanciones
– “A coste cero es imposible implementar la transparencia y garantizar el acceso a la información pública”

¿Uno de los retos es desarrollar la transparencia de la Administración local?

Sí, pero no es una cuestión de voluntad, sino de medios, porque la transparencia, la respuesta a las solicitudes de acceso e incluso la publicidad activa requieren dedicación, personal y una estructura a su servicio que los municipios pequeños tienen que compartir con muchas otras funciones de servicio al ciudadano. Entonces, se podría avanzar en eso.

Desde su experiencia, ¿considera que el régimen sancionador es imprescindible para impulsar la transparencia en las instituciones?

A nivel autonómico no hay una rebeldía y, con carácter general, la respuesta a las solicitudes de acceso no se asienta en una voluntad de incumplimiento.

Por otra parte, ante las reclamaciones del Consejo andaluz lo que vemos es una dificultad y complejidad por falta de formación del personal administrativo o falta de dotación de medios. Nosotros lo único que podemos hacer es instar a la Administración responsable a tramitar un procedimiento sancionador o disciplinario, porque no tenemos capacidad de sanción directa, sino instar al sujeto obligado a que busque al responsable y lo sancione.

Esto supone un coste reputacional para la Administración que debe rendir cuentas sobre la depuración de responsabilidades que hace en caso de incumplimiento de las obligaciones de transparencia. Pero antes de valorar esta alternativa, yo optaría por dotar de medios y profundizar en el conocimiento de la transparencia, porque las sanciones económicas entre Administraciones públicas se reducen a una dotación presupuestaria.

En los diez años que vamos a cumplir de legislación sobre transparencia, ¿qué aprendizajes destacaría de la Administración pública andaluza?

El avance en estos años ha sido significativo, cuantitativo y cualitativo; se ha avanzado en la estructura administrativa, sobre todo a nivel autonómico y en los ayuntamientos grandes, quedando pendiente en los pequeños. Habría que trabajar en el refuerzo de las estructuras locales y considerar la transparencia una política transversal, que debe estar en el ADN de las actuaciones de cualquier Administración.

Además, considero muy relevante avanzar en cómo se traslada la información pública al ciudadano para que sea entendible. No solo se trata de dar documentos o datos fríos, sino de elaborarlos de manera que se haga efectivo el derecho a entender. El ciudadano debe comprender la gestión pública y si hay que utilizar medios alternativos – gráficos, datos estructurados- junto con la documentación, pues utilizarlos para que se entienda bien lo que se está publicando.

¿Cree que la transparencia todavía no está en el ADN de la Administración?

Digamos que lo que se demanda es nueva Administración, porque la estamos transparentando desde hace unos años, cuando realmente la Administración tiene que ser nueva y transparente por definición. Es decir, si los sistemas de información se diseñaran de una manera que la transparencia fuese por defecto, la publicidad activa sería mucho más fácil y entendible, mucho más inmediata y sería más fácil responder a las solicitudes de acceso.

¿Cómo se consigue difundir información de interés público sin vulnerar información especialmente protegida, como puede ser la información sobre ayudas públicas?

Siempre se actúa caso por caso, buscando una solución de compromiso que permita la satisfacción de los dos derechos, sin que suponga un sacrificio desproporcionado. Aquellos casos en los que los datos son especialmente protegidos, no se puede facilitar sin el consentimiento del interesado. Esta ponderación viene dada por la ley, pero a partir de ahí, la ponderación es mucho más fina y se basa en el principio de minimización, ya que se trata de resolverlo evitando sacrificios innecesarios.

En procesos selectivos existe una obligación de facilitar información que incluye datos identificativos, pero en determinadas ocasiones se ha evitado publicar fechas y horas de convocatoria, o las identificaciones se han sustituido por seudónimos.

Otro caso son las subvenciones, que es obligatorio identificar a los beneficiarios porque se considera esencial para fiscalizar un correcto uso de los fondos públicos, pero se evita dar más datos de lo estrictamente necesario, y a veces se sustituye por seudónimos o codificando la información personal.

¿Cómo afectarán las inteligencias artificiales a la transparencia pública?

Estas herramientas facilitan la eficacia, eficiencia y la calidad de la acción pública, pero comportan ciertos riesgos. En este sentido, el sistema de inteligencia artificial o las herramientas algorítmicas complejas que utiliza la Administración deben ser transparentes y la Administración debe ser capaz de explicarlas. Si un sistema de inteligencia artificial no puede ser transparente, por su configuración o por su tecnología, no debería ser usado por la Administración pública.

Por otro lado, estas herramientas son un nuevo lenguaje y para que sean transparentes con carácter general precisa de formación por parte de todos los implicados, entonces las normas actuales de transparencia deben garantizar tanto la información sobre el proceso al que sustituyen como la decisión que adoptan, especialmente en la elaboración de perfiles de los ciudadanos.

Creo que es obligatorio construir un nuevo estándar de transparencia, modificando la norma en temas de publicidad activa, incluso que se exija en el derecho de acceso a decir exactamente cómo se hace transparente una herramienta de estas características y, además, estas herramientas se podrían utilizar al servicio de la transparencia, para que los ciudadanos conozcan la transformación de la Administración, por ejemplo, aplicadas a los entornos de espacios abiertos y vincularlas a la rendición de cuentas.

¿Considera que los algoritmos son información pública y el ciudadano tendría derecho a acceder al código fuente? 

Sí considero que es información pública en la medida en que está en poder de la Administración y ha sido creada o ha tenido funciones dentro de ella. Sobre su acceso habría matices, ya que sería un error pensar que esas herramientas son transparentes porque conozcamos el código fuente, es decir, dar documentación técnica incluido el código fuente podría considerarse transparencia, pero sería ilusoria, porque la responsabilidad de la Administración va mucho más allá, porque tiene que hacer entender y comprender la herramienta.

Por otra parte, los límites al acceso como el perjuicio de derechos de terceros, lo que se podría hacer es que la Administración adquiriera los derechos necesarios para hacer público toda la documentación de la herramienta, incluido el código, por lo que está en manos de la Administración reflejar en los contratos la disponibilidad de los derechos de propiedad intelectual para hacerlos públicos. Si el límite es el interés público, como el supuesto de los algoritmos que hacen perfilados de riesgo de fraude, se entiende que de publicar el código podría facilitar que el defraudador adapte su comportamiento para evitar ese perfilado. En este supuesto estaría justificado negar la publicidad, pero en cualquier caso los límites deben ser expresos y basarse en un principio general de acceso, así que reitero la necesidad de construir y configurar legalmente un estándar de transparencia para estos sistemas algorítmicos y de inteligencia artificial.

¿Cuáles considera que son los principales retos pendientes de la transparencia?

Uno es adaptarnos a los cambios de la Administración para seguir avanzando en las obligaciones de transparencia en el nuevo entorno, fundamentalmente sobre las herramientas algorítmicas y de inteligencia artificial, y trabajar en hacer efectiva la transparencia, facilitando el entendimiento y comprensión de la información pública.

También habría que avanzar en la discusión de los derechos de los ciudadanos en materia de transparencia y en la posibilidad de acceder a la intervención del Consejo. Asimismo, habría que tratar de armonizar las herramientas jurídicas sobre acceso a la información pública, sobre todo cuando se trata de su ejercicio por miembros de las corporaciones locales en materia medioambiental, urbanística o tributaria. Y, por último, fomentar la formación de éstos en herramientas algorítmicas, para que sean más consciente de los riesgos que conllevan.

¿Le gustaría destacar algo más para los lectores de Revista Haz?

Sencillamente que los ciudadanos deben ser conscientes de que tienen derecho en materia de transparencia y a exigir información pública a la Administración, y que ésta sea entendible; son herramientas para exigir la rendición de cuentas sin intermediarios, un acceso directo que les permite formarse un criterio y decidir para construir una mejor democracia.