Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida

Lorenzo Cotino Hueso

doi:10.51915/ret.272

Authors

Lorenzo Cotino Hueso catedrático derecho constitucional U. Valencia

DOI:

https://doi.org/10.51915/ret.272

Keywords:

Artificial intelligence, transparency of algorithms, explainability, data protection, rights

Abstract

The study details what data, information or knowledge should be provided on AI systems. It is mentioned whether these are present or future regulatory authority obligations, or if they are best practices found in the UK, the Netherlands or France. Thus, information must be provided on the existence of the system, active dissemination obligations and future public algorithm registers; information on who are the algorithm registries; information on who the AI system providers are and who the users are, the data protection officers, why the system protection officers, why the system exists and its specific purposes. Also information about the training data or input data, as well as the type and technical specifications of the AI system, including its code. The information is specified in accordance with Article 22 RGPD. Likewise, information on the guarantees of the IA system, such as impact studies, risk mitigations or human supervision.

Downloads

Download data is not yet available.

Global Statistics

2622 Views	1314 Downloads
3936 Total

References

BENÍTEZ PALMA, E. .2022. “Mucho ruido y pocas nueces: algunas consideraciones sobre los registros públicos de algoritmos”, VESTRI, G. Disrupción tecnológica en la administración pública retos, Aranzadi, Cízur, pp. 83-96.

BOIX PALOP, A. 2022. “Transparencia en la utilización de inteligencia artificial por parte de la Administración”, El Cronista del Estado Social y Democrático de Derecho, Nº. 100, 2022. 90-105.

CERRILLO I MARTÍNEZ, A. 2020 a. “La transparencia de los algoritmos que utilizan las administraciones públicas”, Anuario de Transparencia Local, nº. 3, 2020, pp. 41-78.

CERRILLO I MARTÍNEZ, A. 2020 b. ¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?, European Review of Digital Administration & Law Volume 1 – Issue 1-2 –:18-36, DOI: 10.4399/97888255389603.

COTINO HUESO, L. 2019 a. “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho” en Revista Catalana de Derecho Público nº 58 (junio).

COTINO HUESO, L. 2019 b. “Derechos y garantías ante el uso público y privado de inteligencia artificial, robótica y big data”, en Bauzá, Marcelo (dir.), El Derecho de las TIC en Iberoamérica, Obra Colectiva de FIADI (Federación Iberoamericana de Asociaciones de Derecho e Informática), La Ley- Thompson-Reuters, Montevideo, pp. 917-952, http://links.uv.es/BmO8AU7

COTINO HUESO, L. 2021. “Hacia la transparencia 4.0: el uso de la inteligencia artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales”, en RAMIÓ, C. (coord.), Repensando la administración digital y la innovación pública, Instituto Nacional de Administración Pública (INAP), Madrid. https://links.uv.es/FUW2pz6

COTINO HUESO, L. 2022 a. “Nuevo paradigma en la garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial”, en COTINO HUESO, L. (editor), Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thompson-Reuters Aranzadi, FIADI, Cizur.

COTINO HUESO, L. 2022 b. “Derechos ante la Administración digital y la inteligencia artificial (apartado XVIII)” en L. Cotino Hueso, (editor), La Carta de Derechos Digitales, Tirant Lo Blanch, Valencia, 2022.

COTINO HUESO, L. 2022 c. “Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.

FJELD, J. et al. 2020. “Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI”, Berkman Klein Center for Internet & Society Research at Harvard University. Enero., https://dash.harvard.edu/handle/1/42160420

FLORIDI, L., et al., "AI4People —An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations”, Minds and Machines 28(4), 2018, pp. 689-707, https://doi.org/10.1007/s11023-018-9482-5

GALETTA, D-U. 2022. “Derechos y garantías concretas respecto del uso por los poderes públicos de decisiones automatizadas e inteligencia artificial en el procedimiento administrativo”, en Cotino Hueso, L. (editor), Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thompson-Reuters Aranzadi, Cizur, pp. 79-93.

GAMERO CASADO E. 2021. “Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos”, Almacén de Derecho, 4 febrero.

GAMERO CASADO E. y FERNÁNDEZ RAMOS, S. 2016. Manual básico de Derecho Administrativo, (13ª ed.), Tecnos.

GUTIÉRREZ DAVID, M.E. 2021. “Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”, en Derecom, nº 31, pp. 19-105, http://www.derecom.com/derecom/

GUTIÉRREZ DAVID, M.E. 2022. “Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.

JIMÉNEZ LÓPEZ, J. 2022. “Oscuridad algorítmica en el sector público”, en VESTRI, G. Disrupción tecnológica en la administración pública retos, Aranzadi, Cízur.

JOBIN, A., IENCA, M. y VAYENA, E. 2019. “The Global Landscape of AI Ethics Guidelines”, en Nature Machine Intelligence 1, 389–399.

MANTELERO, A. 2022. Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series, IT&LAW 36.

MEDINA GUERRERO, M. 2022. “El derecho a conocer los algoritmos utilizados en la toma de decisiones. Aproximación desde la perspectiva del derecho fundamental a la protección de datos personales”, en Teoría y realidad constitucional, nº 49, pp. 141-171, https://dialnet.unirioja.es/descarga/articulo/8450038.pdf

MIRANZO DÍAZ, J. 2020. “Inteligencia artificial y contratación pública”, en MARTÍN I. (Dir.), Administración electrónica, transparencia y contratación pública, INAP, pp. 105-142.

MISURACA, G. 2020. AI Watch. Artificial Intelligence in public services. Overview of the use and impact of AI in public services in the EU, Joint Research Centre, Unión Europea. https://n9.cl/vmdnf

PALMA ORTIGOSA, A. 2021. Régimen jurídico de la toma de decisiones automatizadas y el uso de sistemas de inteligencia artificial en el marco del derecho a la protección de datos personales, Tesis doctoral Universidad de Valencia.

PALMA ORTIGOSA, A. 2022. Decisiones automatizadas y protección de datos personales. Especial atención a los sistemas de inteligencia artificial, Dykinson,

PALUMBO, S. 2022 “Algoritmo y transparencia de la administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso `Buona Scuola´”.

VESTRI. G. 2021 a). “Sistemas de inteligencia artificial en la contratación pública: entre códigos fuente y datos abiertos”, Actualidad administrativa, Nº 12.

VESTRI. G. 2021 b). “La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa”, Revista Aragonesa de Administración Pública, nº 56, Zaragoza, 2021, pp. 368-398

VESTRI. G. 2022. “Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.