Transparencia algorítmica
Enfoques y desafíos para el Estado democrático
DOI:
https://doi.org/10.51915/ret.443Palabras clave:
transparencia, algoritmos, rendición de cuentas, Estado democrático, inteligencia artificialResumen
La transparencia y la rendición de cuentas, consustanciales al Estado democrático, adquieren una nueva dimensión con la generalización del uso de la Inteligencia Artificial, especialmente por las denominadas VLOP (Very Large Online Platforms). El presenta trabajo aborda como la gestión de los contenidos realizadas por estas plataformas puede incidir en la configuración del espacio público, modificando gran parte de las instituciones políticas esenciales del Estado democrático. En este sentido, realizamos un aproximación conceptual, normativa y jurisprudencial a la transparencia algorítmica, con diversas propuestas que parten de su consideración como una nueva forma de acceso a la información en el contexto de la IA. La transparencia algorítmica es aplicable a los poderes públicos (como vemos en la reciente sentencia Bosco aquí analizada) pero también a las VLOP, actuando como instrumento de salvaguarda del Estado democrático en el nuevo ecosistema digital.
Descargas
Estadísticas globales ℹ️
|
845
Visualizaciones
|
156
Descargas
|
|
1001
Total
|
|
Citas
ABAD ALCALÁ, L. 2023. “IA, Administraciones Públicas y participación ciudadana”, en ARELLANO TOLEDO, W., Derecho, Ética e Inteligencia Artificial. Valencia: Tirant lo Blanch, pp. 295-334.
ABAD ALCALÁ, L. 2024. “La reciente regulación comunitaria sobre medios de comunicación: buenas intenciones y dudas razonables”. Cuaderno de Periodistas, núm. 48: 19-32.
ACOSTA YPARRAGUIRRE, E. 2023. “La inteligencia artificial y el fin del Estado Constitucional y la Democracia… ¿o no?”. Eunomía. Revista en Cultura de la Legalidad, núm. 27: 137-154.
ÁLVAREZ ROBLES, T. 2024. “La Declaración Europea sobre los Derechos y Principios Digitales para la Década digital. Examen de los principios digitales establecidos por la Unión Europea”. Revista Jurídica De Les Illes Balears, núm. 26: 127-158.
ANDERICA CAFFARENA, V. 2020. “La toma de decisiones públicas: la zona gris de la transparencia institucional”. Revista Española de Transparencia, núm. 11: 75-111.
ARAGÓN REYES, M. 2020. “Estado democrático”, en PENDÁS GARCÍA, B. (ed. lit.), Enciclopedia de las Ciencias Morales y Políticas para el siglo XXI. Ciencias Políticas y Jurídicas (con especial referencia a la sociedad poscovid 19). Madrid: Real Academia de Ciencias Morales y Políticas-Boletín Oficial del Estado.
ARENDT, H. 1996. La condición humana. Barcelona: Paidós.
BARBERIS, J. A. 1994. Formación del Derecho Internacional. Buenos Aires: Ábaco de Rodolfo Depalma.
BARRIO ANDRÉS, M. 2024. Comentarios al Reglamento Europeo de Inteligencia Artificial. Madrid: La Ley.
BARRIO ANDRÉS, M. 2025. “El desarrollo y ejecución del Reglamento (UE) 2024/1689 de inteligencia artificial”. Revista Aranzadi de Derecho y Nuevas Tecnologías, (67).
BOBBIO, N. 2002. Teoría general del Derecho. Bogotá: Temis.
BOIX PALOP, A. (coord.) y CASTELLANOS CLARAMUNT, J. 2021. Transparencia y comunidades autónomas. Una perspectiva multinivel. Valencia: Tirant lo Blanch.
BONNET PAREJO, M. 2025. “El principio de transparencia algorítmica en el Derecho público español: fundamentos, jurisprudencia reciente y desafíos regulatorios”. Revista Canaria De Administración Pública, 6: 263-281.
BRADFORD, A. 2020. The Brussels effect: How the European Union rules the world. Oxford: Oxford University Press.
BRADFORD, A. 2023. Digital Empires. The Global Battle to Regulate Technology. Oxford: Oxford University Press.
BURRELL, J. 2016. “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”. Big Data & Society. SSRN Electronic Journal. DOI:10.2139/ssrn. 2660674
CADWALLADR, C. & GRAHAM-HARRISON, E. 2018. “Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach”. The Guardian. Recuperado de: https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election
CAPDEFERRO, O. 2020. “La inteligencia artificial del sector público: desarrollo y regulación de la actuación administrativa inteligente en la cuarta revolución industrial”. IDP. Revista de Internet, Derecho y Política, núm. 30: 1-14.
CARLONI, E. 2020. “IA, algoritmos y Administración pública en Italia”. IDP. Revista de Internet, Derecho y Política, núm. 30: 1-12.
CASTELLANOS CLARAMUNT, J. 2019. “La democracia algorítmica: inteligencia artificial, democracia y participación política”. Revista General de Derecho Administrativo, núm. 50.
CELESTE, E. 2023. Digital Constitutionalism: The Role of Internet Bills of Rights. Oxforf: Routledge.
CERNADA BADÍA, R. 2024. “Grandes plataformas y sistemas de inteligencia artificial destinados a la influencia política: la intersección entre la «Ley de Servicios Digitales» y el Reglamento de inteligencia artificial desde la perspectiva del riesgo”, en COTINO HUESO, L. y SIMÓN CASTELLANO, P., Tratado sobre el Reglamento de Inteligencia Artificial de la UE. Cizur Menor: Aranzadi, pp. 373-394.
CERRILLO I MARTÍNEZ, A.; DI LASCIO, F.; MARTÍN DELGADO, I.; VELASCO RICO, C. (dirs.). 2024. Inteligencia artificial y administraciones públicas: una triple visión en clave comparada. Madrid: Iustel.
COTINO HUESO, L. 2021. “El nuevo reglamento de Administración electrónica, que no innova en tiempos de transformación digital”. Revista Catalana de Dret Públic, núm. 63: 118-136.
COTINO HUESO, L. (coord.) 2022. La Carta de Derechos Digitales. Valencia: Tirant lo Blanch.
COTINO HUESO, L. 2023a. “Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida”. Revista Española de la Transparencia, núm. 16: 17-63.
COTINO HUESO, L. 2023b. “Los usos de la inteligencia artificial en el sector público, su variable impacto y categorización jurídica”. Revista Canaria de Administración Pública, núm. 1: 211-242.
COTINO HUESO, L. 2023c. “El Convenio sobre inteligencia artificial, derechos humanos, democracia y Estado de derecho del Consejo de Europa”. Revista Administración & Cidadanía, EGAP, Vol. 18, núm. 2: 161-182.
DAHL, R. A. 2022. La democracia. Barcelona: Ariel.
DE GREGORIO, G. 2021. “The rise of digital constitutionalism in the European Union”. International Journal of Constitutional Law. DOI: https://doi.org/10.1093/icon/moab001
DELGADO BERENGUER, N. 2021. “Algorithmic Transparency: Where Law Meets Technology”. DOI: 10.13140/RG.2.2.29354.75209.
DIAZ GALÁN, E.C. 2025. La regulación jurídica de la inteligencia artificial (IA) en Europa: dos pasos decisivos, aunque insuficientes, del Consejo de Europa y la Unión Europea. Cuadernos de Derecho Transnacional, 17(1): 366-390.
DWORKIN, G. 2015. “The nature of autonomy”. Nordic Journal of Studies in Educational Policy, 2015(2): 7-14.
ESTELLA, A. 2025. La regulación de las deepfakes (ultrasuplantaciones) en el reglamento de la UE sobre Inteligencia Artificial. Revista de Administración Pública, 226: 261–290.
EUBANKS, V. 2021. La automatización de la desigualdad. Madrid: Capitán Swing.
EXTREMERA FERNÁNDEZ, B. 2024. “Los deepfakes y la intromisión en los derechos de la personalidad (imagen, voz, honor y protección de datos) y sus mecanismos de reparación”, en MORENO MARTÍNEZ, J. A. y FEMENÍA LÓPEZ, P. J. (Coords.), Inteligencia Artificial y Derecho de Daños: Cuestiones Actuales, Madrid: Dykinson. pp. 223-260.
FELER, A. M. 2015. “Soft Law como herramienta de adecuación del Derecho internacional a las nuevas coyunturas”. Lecciones y Ensayos, núm. 95: 281-303.
FINN, E. 2018. La búsqueda del algoritmo: imaginación en la era de la informática. Barcelona: Alpha Decay.
GALLEGO SÁNCHEZ, E. 2019. “La patentabilidad de la inteligencia artificial: La compatibilidad con otros sistemas de protección”. La Ley Mercantil, (59): 4.
GARRIDO, R., LAPOSTOL, J.P. y HERMOSILLA, M.P. 2021. Transparencia algorítmica en el sector público. (https://www.consejotransparencia.cl/wpcontent/uploads/estudios/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-ENEL-SECTOR-PUBLICO-GOBLAB-cambio-tablas-1.pdf)
GARRORENA MORALES, A. 2011) “Estado Democrático”, en ARAGÓN REYES, M. (Dtor.) y AGUADO RENEDO, C. (Codtor.), Constitución, Estado Constitucional, Partidos y Elecciones y Fuentes del Derecho. Temas básicos de Derecho Constitucional. Tomo I. Cizur Menor: Civitas-Thomson Reuters, pp. 124-131.
GARCÍA-MARZÁ, D. y CALVO, P. 2024. Algorithmic democracy: a critical perspective based on deliberative democracy. Cham: Springer.
GEHMAN, J.; LEFSRUD, L. y FAST, S. 2017. “Social License to Operate: Legitimacy by Another Name?”. Canadian Public Administration, 60: 293-317.
GUTIÉRREZ DAVID, M.E. 2021. “Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”. Derecom, nº 31: 19-105.
GUTIÉRREZ DAVID, M. E. 2022. “Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas”, en COTINO HUESO, L. y CASTELLANOS CLARAMUNT, J. (edits.), Transparencia y explicabilidad de la inteligencia artificial. Valencia: Tirant lo Blanch, pp. 135-168.
HÄBERLE, P. 2017. Tiempo y Constitución. Lima: Palestra.
HABERMAS, J. 2016. En la espiral de la tecnocracia. Madrid: Trotta.
HABERMAS, J. 2018. Verdad y justificación. Madrid: Trotta.
HAN, B.-C. 2022. Infocracia. Barcelona: Taurus.
INNERARITY, D. 2020. “El impacto de la inteligencia artificial en la democracia”. Revista de las Cortes Generales, (109): 87-103.
KAISER, B. 2019. La dictadura de los datos. Harper Collins Ibérica.
LANIER, J. 2011. Contra el rebaño digital. Barcelona: Debate.
LASSALLE, J.M. 2019. Ciberleviatán. El colapso de la democracia liberal frente a la revolución digital. Barcelona: Arpa.
LEONARD, P. G. 2018. “Social Licence and Digital Trust in Data-Driven Applications and AI: a Problem Statement and Possible Solutions”. SSRN. http://dx.doi.org/10.2139/ssrn.3261228
MAGALLÓN ROSA, R. 2023. Updating News. Madrid: Ediciones Pirámide.
MENA DURAN, M.L. 2025. “Unpacking the Council of Europe framework Convention on artificial intelligence and human rights, democracy and the rule of law”. Revista General de Derecho Europeo, nº 65, enero 2025.
MEYER, T. L. 2009. “Soft Law as delegation”. Fordham International Law Journal, vol. XXXII.
MÍGUEZ MACHO, L. y TORRES CARLOS, M. 2024. “Sistemas de IA prohibidos y sistemas de IA de alto riesgo”, en BARRIO ANDRÉS, M., El Reglamento Europeo de Protección de Datos. Valencia: Tirant lo Blanch, pp. 48-86.
MUÑOZ GARCÍA, C. 2024. “Modelos de IA de uso general y sistemas de IA de riesgo limitado y mínimo”, en BARRIO ANDRÉS, M., El Reglamento Europeo de Protección de Datos. Valencia: Tirant lo Blanch, pp. 87-109.
MUÑOZ VELA, J. M. 2024. La regulación de la inteligencia artificial: Reto y oportunidad desde una perspectiva global e internacional. Valencia: Tirant lo Blanch.
NACIONES UNIDAS. 2004. Convención de las Naciones Unidas contra la Corrupción. Nueva York: Oficina contra la Droga y el Delito.
NEMITZ, P. 2021. “La democracia en la era de la inteligencia artificial”. Nueva Sociedad, 294: 130-140.
ORIHUELA, J. L. 2015. Los medios después de internet. Barcelona: UOC.
ORSONI, G. y D’ORLANDO, E. 2019. “Nuove prospettive dell’amministrazione digitale: Open Data e algoritmi”. Rivista di studi giuridici e politici, núm. 3.
ORTIZ DE ZÁRATE ALCARAZO, L. 2022. «Explicabilidad (de la inteligencia artificial)». Eunomía. Revista en Cultura de la Legalidad, núm. 22: 328-344.
PARISER, E. 2017. El filtro burbuja: Cómo la web decide lo que leemos y lo que pensamos. Barcelona: Taurus.
PASQUALE, F. 2020. New Laws of Robotics: Defending Human Expertise in the Age of AI. Harvartd: Harvard University Press.
PAUNER CHULVI, C. 2023. “Transparencia algorítmica en los medios de comunicación y las plataformas digitales”. Revista Española de la Transparencia, núm. 17: 107-136.
PLAZA PENADÉS, J. 2025. “Descifrando el concepto jurídico de inteligencia artificial contenido en el Reglamento IA”. Revista Aranzadi de Derecho y Nuevas Tecnologías, (67).
PRESNO LINERA, M. Á. y MEUWESE, A.C.M. 2024. “La regulación de
la inteligencia artificial en Europa”. Teoría y Realidad Constitucional, 54: 131-161.
PIÑAR REAL, A. 2021. La Declaración de derechos y principios digitales de la Comisión Europea: ¿Hacia un marco constitucional de los derechos digitales en Europa? Derecho Digital e Innovación. Digital Law and Innovation Review, (10).
RIVERO ORTEGA, R. 2024. Obligaciones de los proveedores. Revista de Privacidad y Derecho Digital, 9(34): 90–120.
ROSANVALLON, P. 2015. El buen gobierno. Buenos Aires: Manantial.
RUBIO NÚÑEZ, R., FRANCO ALVIM, F., DE ANDRADE MONTEIRO, V. 2024. Inteligencia artificial y campañas electorales algorítmicas. Disfunciones informativas y amenazas sistémicas de la nueva comunicación política. Madrid: Centro de Estudios Políticos y Constitucionales.
RUBIO NÚÑEZ, R. 2025. “El uso de la inteligencia artificial en las campañas electorales y sus efectos democráticos”. Revista de Derecho Político, (122): 65–102.
SAMOILI, S., et al. 2020. AI WATCH: Defining Artificial Intelligence (JRC118163). Bruselas: Publications Office of the European Union. https://publications.jrc.ec.europa.eu/repository/handle/JRC118163
SARTORI, G. 2003. ¿Qué es la democracia?. Barcelona: Taurus.
SIMÓN CASTELLANO, P. y COTINO HUESO, L. (Dirs.). 2024. Tratado sobre el Reglamento Europeo de Inteligencia Artificial. Cizur Menor: Aranzadi.
TAHIRÍ MORENO, J.A. 2025. “La transparencia algorítmica en la Administración Pública: reflexionesa propósito de la STS 1119/2025, de 11 de septiembre (Caso Bosco)”. Revista Aragonesa de Administración Pública, núm. 63-64: 189-205.
TAPIA HERMIDA, A. J. 2023. “El sistema europeo digital: la declaración europea de 23 de enero de 2023 sobre los derechos y principios digitales”. La Ley Unión Europea, (112): 3.
TAYLOR, E. 2016. “The Privatization of Human Rights: Illusions of Consent, Automation and Neutrality” (Nº. 24), Global Commission on Internet Governanc. London.
UNESCO. 2022. Recomendación sobre la ética de la inteligencia artificial. París: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura.
VELASCO RICO, C.I. 2020. “Personalización, proactividad e inteligencia artificial. Un nuevo paradigma para la prestación electrónica de servicios públicos?”. IDP. Revista de Internet, Derecho y Política, Nº 30: 1-16.
VESTRI, G. 2021. “La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa”. Revista Aragonesa de Administración Pública, núm. 56: 368-398.
VESTRI, G. 2023. “Cinco claves para entender la transparencia algorítmica en el sector público”, Blog de IDP (Observatorio de Derecho Público) https://idpbarcelona.net/cinco-claves-para-entender-la-transparencia-algoritmicaen- el-sector-publico/
VILLORIA MENDIETA, M. y CRUZ RUBIO, C.N. 2014. Transparencia y Gobierno Abierto. Módulo 1: Modelos de democracia y gobierno electrónico: el concepto de gobierno abierto. Madrid: INAP.
YANG, Q.; STEINFELD, A.; ROSÉ, C. y ZIMMERMAN, J. 2020. “Re-examining Whether, Why, and How Human-AI Interaction Is Uniquely Difficult to Design”. DOI: 10.1145/3313831.3376301.
ZILLER, J. 2024. “El Convenio del Consejo de Europa de inteligencia artificial frente al Reglamento de la Unión Europea: dos instrumentos jurídicos muy diversos”, en L. COTINO HUESO y P. SIMÓN CASTELLANO (Eds.), Tratado sobre el Reglamento de Inteligencia Artificial de la UE. Cizur Menor: Aranzadi. pp. 67–84.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Revista Española de la Transparencia
Esta obra está bajo una licencia internacional Creative Commons Atribución-CompartirIgual 4.0.
La Revista Española de la Transparencia apuesta por el acceso gratuito y uso sin restricciones a su información y recursos digitales. La política de acceso abierto se materializa en:
- Acceso gratuito, libre y universal.
- Los autores y la Revista conceden a cualquier usuario potencial el derecho a utilizar, copiar o distribuir el contenido de manera ilimitada e irrevocable, con la única condición de reconocer la autoría.
- Los documentos electrónicos correspondientes al contenido de la Revista se incluyen en formato digital para permitir su acceso libre.
