Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida
DOI:
https://doi.org/10.51915/ret.272Palabras clave:
Inteligencia artificial, transparencia de los algoritmos, explicabilidad, protección de datos, derechosResumen
El estudio detalla qué datos, información o conocimiento debe facilitarse sobre los sistemas de IA. Se menciona si son obligaciones normativas presentes o futuras o de autoridades regulatorias. O si son las mejores prácticas que se detectan en Reino Unido, Países Bajos o Francia. Así, hay que facilitar información sobre la existencia del sistema, obligaciones de difusión activa y futuros registros de algoritmo públicos; información sobre quiénes son los proveedores de sistema de IA y quiénes los usuarios, los responsables de protección de datos, por qué existe el sistema y sus concretas finalidades. También información sobre los datos de entrenamiento o datos de entrada, así como la tipología y especificaciones técnicas del sistema IA, incluso su código. Se concreta la información en razón del artículo 22 RGPD. Igualmente, información sobre las garantías del sistema de IA, como estudios de impacto, mitigaciones de riesgos o supervisión humana.
Citas
BENÍTEZ PALMA, E. .2022. “Mucho ruido y pocas nueces: algunas consideraciones sobre los registros públicos de algoritmos”, VESTRI, G. Disrupción tecnológica en la administración pública retos, Aranzadi, Cízur, pp. 83-96.
BOIX PALOP, A. 2022. “Transparencia en la utilización de inteligencia artificial por parte de la Administración”, El Cronista del Estado Social y Democrático de Derecho, Nº. 100, 2022. 90-105.
CERRILLO I MARTÍNEZ, A. 2020 a. “La transparencia de los algoritmos que utilizan las administraciones públicas”, Anuario de Transparencia Local, nº. 3, 2020, pp. 41-78.
CERRILLO I MARTÍNEZ, A. 2020 b. ¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?, European Review of Digital Administration & Law Volume 1 – Issue 1-2 –:18-36, DOI: 10.4399/97888255389603.
COTINO HUESO, L. 2019 a. “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho” en Revista Catalana de Derecho Público nº 58 (junio).
COTINO HUESO, L. 2019 b. “Derechos y garantías ante el uso público y privado de inteligencia artificial, robótica y big data”, en Bauzá, Marcelo (dir.), El Derecho de las TIC en Iberoamérica, Obra Colectiva de FIADI (Federación Iberoamericana de Asociaciones de Derecho e Informática), La Ley- Thompson-Reuters, Montevideo, pp. 917-952, http://links.uv.es/BmO8AU7
COTINO HUESO, L. 2021. “Hacia la transparencia 4.0: el uso de la inteligencia artificial y big data para la lucha contra el fraude y la corrupción y las (muchas) exigencias constitucionales”, en RAMIÓ, C. (coord.), Repensando la administración digital y la innovación pública, Instituto Nacional de Administración Pública (INAP), Madrid. https://links.uv.es/FUW2pz6
COTINO HUESO, L. 2022 a. “Nuevo paradigma en la garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial”, en COTINO HUESO, L. (editor), Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thompson-Reuters Aranzadi, FIADI, Cizur.
COTINO HUESO, L. 2022 b. “Derechos ante la Administración digital y la inteligencia artificial (apartado XVIII)” en L. Cotino Hueso, (editor), La Carta de Derechos Digitales, Tirant Lo Blanch, Valencia, 2022.
COTINO HUESO, L. 2022 c. “Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.
FJELD, J. et al. 2020. “Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI”, Berkman Klein Center for Internet & Society Research at Harvard University. Enero., https://dash.harvard.edu/handle/1/42160420
FLORIDI, L., et al., "AI4People —An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations”, Minds and Machines 28(4), 2018, pp. 689-707, https://doi.org/10.1007/s11023-018-9482-5
GALETTA, D-U. 2022. “Derechos y garantías concretas respecto del uso por los poderes públicos de decisiones automatizadas e inteligencia artificial en el procedimiento administrativo”, en Cotino Hueso, L. (editor), Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas, Thompson-Reuters Aranzadi, Cizur, pp. 79-93.
GAMERO CASADO E. 2021. “Necesidad de motivación e invalidez de los actos administrativos sustentados en inteligencia artificial o en algoritmos”, Almacén de Derecho, 4 febrero.
GAMERO CASADO E. y FERNÁNDEZ RAMOS, S. 2016. Manual básico de Derecho Administrativo, (13ª ed.), Tecnos.
GUTIÉRREZ DAVID, M.E. 2021. “Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales”, en Derecom, nº 31, pp. 19-105, http://www.derecom.com/derecom/
GUTIÉRREZ DAVID, M.E. 2022. “Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.
JIMÉNEZ LÓPEZ, J. 2022. “Oscuridad algorítmica en el sector público”, en VESTRI, G. Disrupción tecnológica en la administración pública retos, Aranzadi, Cízur.
JOBIN, A., IENCA, M. y VAYENA, E. 2019. “The Global Landscape of AI Ethics Guidelines”, en Nature Machine Intelligence 1, 389–399.
MANTELERO, A. 2022. Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI, Information Technology and Law Series, IT&LAW 36.
MEDINA GUERRERO, M. 2022. “El derecho a conocer los algoritmos utilizados en la toma de decisiones. Aproximación desde la perspectiva del derecho fundamental a la protección de datos personales”, en Teoría y realidad constitucional, nº 49, pp. 141-171, https://dialnet.unirioja.es/descarga/articulo/8450038.pdf
MIRANZO DÍAZ, J. 2020. “Inteligencia artificial y contratación pública”, en MARTÍN I. (Dir.), Administración electrónica, transparencia y contratación pública, INAP, pp. 105-142.
MISURACA, G. 2020. AI Watch. Artificial Intelligence in public services. Overview of the use and impact of AI in public services in the EU, Joint Research Centre, Unión Europea. https://n9.cl/vmdnf
PALMA ORTIGOSA, A. 2021. Régimen jurídico de la toma de decisiones automatizadas y el uso de sistemas de inteligencia artificial en el marco del derecho a la protección de datos personales, Tesis doctoral Universidad de Valencia.
PALMA ORTIGOSA, A. 2022. Decisiones automatizadas y protección de datos personales. Especial atención a los sistemas de inteligencia artificial, Dykinson,
PALUMBO, S. 2022 “Algoritmo y transparencia de la administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso `Buona Scuola´”.
VESTRI. G. 2021 a). “Sistemas de inteligencia artificial en la contratación pública: entre códigos fuente y datos abiertos”, Actualidad administrativa, Nº 12.
VESTRI. G. 2021 b). “La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa”, Revista Aragonesa de Administración Pública, nº 56, Zaragoza, 2021, pp. 368-398
VESTRI. G. 2022. “Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa”, en COTINO HUESO L. y CASTELLANOS J. (coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2023 Revista Española de la Transparencia
Esta obra está bajo una licencia internacional Creative Commons Atribución-CompartirIgual 4.0.
La Revista Española de la Transparencia apuesta por el acceso gratuito y uso sin restricciones a su información y recursos digitales. La política de acceso abierto se materializa en:
- Acceso gratuito, libre y universal.
- Los autores y la Revista conceden a cualquier usuario potencial el derecho a utilizar, copiar o distribuir el contenido de manera ilimitada e irrevocable, con la única condición de reconocer la autoría.
- Los documentos electrónicos correspondientes al contenido de la Revista se incluyen en formato digital para permitir su acceso libre.
