Razonamiento de la IA en la gestión de los OAE o en la actividad administrativa algorítmica. El caso Bosco.

Se ha definido genéricamente la acción administrativa algorítmica, a la letra, “como la actuación de la Administración por medio de sistemas que integran procesos algorítmicos y con el fin de automatizar el proceso decisorio humano”.[i] Se debería hablar ahora del concepto, los contenidos y los alcances del uso de sistemas de Inteligencia Artificial (IA) en la Administración del Estado, tema extenso y prolífico.[ii]

Por ejemplo, en España, la Ley Nº 40/2015 de Régimen Jurídico del Sector Público se refiere a “… actuaciones automatizadas donde la informática actúe más bien como elemento de agilización y automatización de decisiones totalmente predeterminadas normativamente”, y sólo se considera como necesario la designación de un responsable del tratamiento y del funcionamiento del algoritmo. ¿Y si el algoritmo “… desempeña roles como controlar, tomar decisiones complejas a partir de una lógica cuyos resultados son difíciles de prever ex ante o se encarga de evaluación de circunstancias y datos que van más allá de lo que un ser humano puede afrontar razonablemente de modo eficiente”?; deberá poder cuestionarse en un procedimiento contencioso administrativo donde se le impute responsabilidad a un funcionario y no a un sistema incapaz de cometer, por ejemplo, una “falta de servicio”.

Lo que está a la base del debate, en simple, es que exista y de qué forma la posibilidad de conocer la operatoria y el uso de procesos decisionales automatizados y de su lógica de funcionamiento. Y debiera existir, pero sólo para el titular de datos/administrado que sea perfilado e identificado en un procesamiento algorítmico concreto. Pero al extremo, no es acertado visualizar un escenario en que con la IA se delegan decisiones del Estado a algoritmos sin un control humano efectivo, de partida porque la responsabilidad administrativa es indelegable.

Que no sea un tema exento de tensiones, que los sistemas no son infalibles y que los posibles errores de cálculo impactan en la vida de los ciudadanos quedó en evidencia el año 2019 con el llamado “sistema Bosco”, desarrollado por el Gobierno español para otorgar el bono social eléctrico a consumidores vulnerables. Una Fundación denunció el fallo del programa que excluyó a personas que cumplían con los requisitos, y solicitó el acceso a la información del código fuente.[iii] El Gobierno denegó esta solicitud y el Consejo de Transparencia y Buen Gobierno –CTBG– dio la razón al Ejecutivo, alegando que el código fuente tenía derechos de propiedad industrial; luego, ante los juzgados de lo contencioso-administrativo se volvió a negar el acceso en favor de la seguridad pública y la defensa nacional.

El año 2022 el Juzgado Central de lo Contencioso-Administrativo desestimó el recurso de la organización cívica pro-transparencia Civio para obligar al Gobierno a permitir el acceso de los periodistas al código fuente de BOSCO, la aplicación responsable de otorgar el bono social a los demandantes del mismo. El año 2024 la “…la Audiencia Nacional ha vuelto a rechazar la apertura de dicho código, dando por bueno un informe elaborado por el propio Gobierno en el que se afirma que difundir el código de BOSCO permitiría a los periodistas atacar los sistemas informáticos de la Administración, usarlo para minar criptomonedas… y más”[iv]. La Audiencia Nacional en España vuelve a rechazar abrir el código fuente (los algoritmos) del programa que decide quién recibe el bono social.

Pero, en septiembre del 2025, sería la Sala Contenciosa Administrativa del Tribunal Supremo español quien provocaría un giro radical en los criterios y en la aplicación de la normativa. Determina que los algoritmos se deben transparentar. La sentencia 1119/2025, de 11 de septiembre de 2025, de la Sección 3ª de la Sala de lo Contencioso-Administrativo del TS, vino en reconocer el derecho de la Fundación Ciudadana Civio a acceder al código fuente de la aplicación informática BOSCO, ordenando a la Administración que lo diseñó y utilizó, a proporcionárselo.

Según los analistas[v], sería en el fundamento de Derecho Noveno el que sintetizaría el resultado de la argumentación del Tribunal, en interpretación y aplicación de los arts. 14 y 16 de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, a la luz además del art. 42 de la Carta de Derechos Fundamentales de la Unión Europea y del art. 105.b) de la Constitución Española. Las declaraciones esenciales fueron:

• Que el derecho de acceso a la información pública trasciende a su condición de principio objetivo rector de la actuación de las Administraciones públicas, para constituir (i) un derecho constitucional ejercitable como derecho subjetivo, (ii) frente a las Administraciones públicas, (iii) derivado de exigencias de democracia y transparencia, y (iv) inseparablemente unido al Estado democrático y de Derecho;

• Que el derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos, como ocurre con el empleo de sistemas informáticos de toma de decisiones automatizadas en la actividad de las Administraciones públicas, especialmente, cuando tienen por objeto el reconocimiento de derechos sociales.

• Que el uso de dichos sistemas debería conllevar el cumplimiento de exigencias de transparencia de los procesos informáticos seguidos en dichas actuaciones, con el objeto de proporcionar a los ciudadanos la información necesaria para su comprensión y el conocimiento de su funcionamiento, lo que puede requerir, en ocasiones, el acceso a su código fuente, a fin de posibilitar la comprobación de la conformidad del sistema algorítmico con las previsiones normativas que debe aplicar; y,

• Que, en concreto, la Fundación Ciudadana Civio tiene el derecho de acceder al código fuente de la aplicación informática BOSCO, desarrollada para que las empresas comercializadoras de referencia de energía eléctrica puedan comprobar si los solicitantes del bono social cumplen con los requisitos previstos para tener la consideración de consumidor vulnerable y ser beneficiarios del bono social. Ello, con la finalidad de conocer el detalle de las operaciones diseñadas para la concesión del bono social y comprobar que se ajustan al marco normativo aplicable.

El órgano español de la transparencia –en concreto su Presidente- no escatimó en elogios. Se aludió a trascendentales pronunciamientos sobre la transparencia algorítmica, al análisis en profundidad de múltiples aspectos del derecho de acceso a la información pública y al perfilamiento de una doctrina muy elaborada sobre su contenido y alcance, que ningún aplicador de la Ley podría desconocer. A su respecto, se aplaudía que el TS manifestara que compartía las reflexiones que habían motivado el cambio de criterio del órgano de la Transparencia y que se hiciera eco de los elementos centrales de los razonamientos que sustentaban sus decisiones desde la R 058/2021, de 20 de mayo, que en concreto señaló:

“… el acceso a la información solicitada sirve de manera directa a los fines perseguidos por la LTAIBG y expresados en su preámbulo en la medida en que permite conocer cómo se toman las decisiones, cómo se manejan los fondos públicos o bajo qué criterios actúan nuestras instituciones, sometiendo a escrutinio la acción de los poderes públicos”.

Agregó que en el contexto de un progresivo desarrollo e implantación de la administración electrónica y del uso creciente de la inteligencia artificial, (i) los algoritmos estaban adquiriendo una relevancia decisiva, a la vez que se incrementaba su complejidad; (ii) que podían sustentar la toma de decisiones públicas o, directamente, ser fuente de decisiones automatizadas con consecuencias muy relevantes para las personas; y, (iii) que dicha evolución estaba generando una creciente demanda ciudadana de transparencia de los algoritmos utilizados por las Administraciones públicas como condición inexcusable para preservar la rendición de cuentas y la fiscalización de las decisiones de los poderes públicos y como garantía efectiva frente a la frente a la arbitrariedad o los sesgos discriminatorios en la toma de decisiones total o parcialmente automatizadas.

Y aludió a que …mientras no se instauren otros mecanismos que permitan alcanzar los fines señalados con garantías equivalentes –como podrían ser, por ejemplo, auditorías independientes u órganos de supervisión-, el único recurso eficaz a tales efectos sería el acceso al algoritmo propiamente dicho, a su código, para su fiscalización, tanto por quienes se puedan sentir perjudicados por sus resultados como por la ciudadanía en general, en aras de la observancia de principios éticos y de justicia.

Especialistas consideran que lo que sí sería exigible, en cumplimiento del principio de transparencia en sede de PDP (y el GDPR), sería la ‘lógica’ del algoritmo para que los interesados tengan la suficiente información previa para tomar una decisión informada, y que lo contrario no solo sería un atentado a la propiedad intelectual , sino implicaría abrir la puerta a que conozcan dónde y cuándo existen defensas, permitiendo que cualquier ‘enemigo’ pueda socavarlas, apropiarse de la información o bien adulterarla, afectando a la confidencialidad o a la integridad de la data. Otros agregan que, independientemente (en sede del “copyright” y no del “copyleft[vi] o del OSS u Open Source Software”) antes de la protección de la propiedad intelectual, uno de los controles de seguridad del ENS mp.sw.1 así como el numeral 8.4 de la Norma ISO 27001, exigen la protección del código fuente de las aplicaciones para evitarse posibles vulnerabilidades que pueda tener la aplicación[vii]. En efecto, una vez difundido nunca se sabe quién acabará accediendo a él[viii].

[i] Cobbe, J. (2019), “Administrative Law and the Machines of Government*”.* En Judicial Review of Automated Public-Sector Decision-Making, Legal Studies, vol. 39. Disponible en http://dx.doi.org/10.2139/ssrn.3226913.

[ii] Puede verse al efecto, para dimensionar la magnitud temática, de Gamero Casado, Eduardo (Director) y Pérez Guerrero, Francisco (Coordinador) (2023), Inteligencia artificial y sector público, Retos, límites y medios. Valencia, Editorial Tirant lo Blanch.

[iii] Información sobre las acciones de la Fundación CIVIO pueden verse en la URL https://civio.es/tu-derecho-a-saber/2019/05/16/la-aplicacion-del-bono-social-del-gobierno-niega-la-ayuda-a-personas-que-tienen-derecho-a-ella/.

[iv] Puede verse en https://www.genbeta.com/actualidad/gobierno-se-niega-a-que-nadie-revise-codigo-software-que-reparte-ayudas-hacerlo-permitiria-hackear-ministerio-dicen

[v] FERNANDEZ HERNANDEZ, Carlos (2025). Los comentarios están disponibles en https://www.linkedin.com/pulse/agosto-y-septiembre-de-2025-carlos-fern%C3%A1ndez-hern%C3%A1ndez-ihylf/

[vi] El término nace para destacar su oposición al sistema de software propietario o copyright. Pero como se apunta con certeza, poner en manos de un programa de OSS la información crítica o confidencial de una empresa o información de alta sensibilidad, donde no está asegurado que las vulnerabilidades del software sean casi públicas y donde no hay garantías de disponer de actualizaciones de seguridad al estarse en manos de una comunidad de esta naturaleza el confiar parecería un riesgo alto.

[vii] Téngase presente: la forma de aplicar los controles del ENS y la ISO 27002 va en función del nivel de impacto o la categoría de seguridad que tiene la información tratada en los sistemas y siempre en base a un análisis de riesgos previo.

[viii] Y claro, se han propuesto caminos alternativos. Ya que la metodología de asignación de recursos públicos debe ser transparente y se acepta que no haya acceso al código fuente, existiría la opción de ver la lógica en pseudocódigo y contrastarla con los documentos legales de requisitos, buscando luego una muestra representativa para probar si una asignación se hizo de una manera ajustada a la ley.