Contenido general de la obra 9
Presentación 17
Bloque I
TRANSPARENCIA Y EXPLICABILIDAD DE LA INTELIGENCIA ARTIFICIAL. ELEMENTOS CONCEPTUALES, GENERALES Y DE GÉNERO
Transparencia y explicabilidad de la inteligencia artificial y “compañía” (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad…). Para qué, para quién y cuánta 25
Lorenzo Cotino Hueso
I. La transparencia, un concepto polisémico, evocador y esencialmente instrumental, ahora aplicado al ámbito de la inteligencia artificial 25
II. Transparencia y explicabilidad: el principio de referencia de la inteligencia artificial confiable 29
III. Transparencia y explicabilidad ¿para qué? Los muchos “caminos” los que llevan a la “Roma” de la transparencia 31
IV. Un esbozo de las exigencias normativas de transparencia algorítmica 36
V. ¿Cuánta transparencia? 38
VI. La “transparencia” como concepto general inclusivo y la miríada de nociones que orbitan a su alrededor 41
VII. Transparencia “técnica”, transparencia intrínseca, interpretabilidad, comprensibilidad, descomponibilidad y simulabilidad del sistema de inteligencia artificial 42
VIII. Transparencia ¿para quién? Transparencia “interna” y “externa” 45
1. Transparencia interna y externa 45
2. La transparencia “interna” y el futuro Reglamento UE de inteligencia artificial como ejemplo 46
3. La transparencia “externa” como garantía de valores, principios y derechos constitucionales 48
IX. Explicabilidad. Tipos y elementos para lograrla 50
X. Interpretabilidad, transparencia y explicabilidad 55
1. La relación de la transparencia con la explicabilidad 55
2. Interpretabilidad y explicabilidad ¿son lo mismo? 57
XI. Auditabilidad de los sistemas de IA y cómo lograrla 58
XII. Trazabilidad (y documentabilidad) 61
XIII. Testabilidad, comprobabilidad, verificabilidad (y replicabilidad) 62
XIV. Transparencia algorítmica como “comunicación”, notificación de interacciones y de decisiones con inteligencia artificial 63
XV. Otros contenidos bajo el genérico de la transparencia: informes periódicos, código abierto, contratación pública abierta, transparencia de las evaluaciones de impacto 65
XVI. Una recapitulación, para concluir 67
Algoritmos: ¿podemos hacerlos transparentes y trazables en su proceso? 71
Alfred Peris Manguillot
I. El concepto de algoritmo 71
II. Redes neuronales y aprendizaje profundo 74
III. Inteligencia artificial y justicia 78
IV. Algoritmos más allá de la inteligencia artificial 80
V. Conclusiones 82
Transparencia en la inteligencia artificial y en el uso de algoritmos: una visión de género 85
Raquel Valle Escolano
I. Introducción 85
II. La IA y el uso de algoritmos: un nuevo paradigma con evidentes ventajas y áreas de riesgo 86
III. La dimensión ética como eje clave de la IA y de una gobernanza mediada por algoritmos 89
IV. Las (inevitables) implicaciones de género 91
1. La IA y el uso de algoritmos como oportunidad en materia de igualdad de género 93
2. El protagonismo de las mujeres en el campo de la inteligencia artificial. Eventuales consecuencias en el trabajo femenino 94
3. Sesgos de género que quiebran la igualdad y generan discriminación 96
V. La transparencia como problema de fondo 102
VI. A modo de conclusión 105
Bloque II
TRANSPARENCIA Y EXPLICABILIDAD EN EL USO DE LA INTELIGENCIA ARTIFICIAL POR EL SECTOR PÚBLICO
Denegación vs. Derecho de acceso al código fuente en los sistemas algorítmicos. Una perspectiva jurídico-administrativa 111
Gabriele Vestri
I. Introducción 111
II. El código fuente como elemento del modelo funcional 113
III. El acceso al código fuente ante la Ley 19/2013, de 9 de diciembre (LTAIBG) 119
IV. El sesgo algorítmico como base de partida 126
V. A modo de conclusión 131
Acceso al código fuente y a los algoritmos de las Administraciones inteligentes. Lecciones a partir de experiencias comparadas 135
María Estrella Gutiérrez David
I. Introducción 135
II. La discutida naturaleza jurídica del código fuente y de los algoritmos públicos. Su calificación como “información pública” 137
III. Detección y escrutinio público de patologías de la automatización y algoritmización de la actividad administrativa. El interés público en el acceso 146
IV. El problema de los errores en el diseño de los algoritmos del MIUR y de Ofqual 149
V. En particular, importancia de la validación de los modelos algorítmicos y el problema de la amplificación del sesgo. De nuevo, Ofqual 159
VI. Sobre el “Valor iusfundamental” del derecho a saber qué tratamientos algorítmicos aplica la Administración. Lecciones finales de Parcoursup 163
Algoritmo y transparencia de la Administración pública en el ordenamiento jurídico italiano. Algunas reflexiones críticas a partir del caso “Buona Scuola” 169
Salvatore Palumbo
I. El caso “Buona Scuola” 169
II. Uso de software en la administración pública y protección de la propiedad intelectual 172
III. Acceso a la información pública y lenguaje de programación 178
IV. La transparencia como principio fundamental de la acción administrativa 181
V. Acceso a la información de la administración pública y procedimiento algorítmico: desde la Ley nº241 de 1990 hasta el Decreto Legislativo nº97 de 2016 188
VI. Conclusiones provisionales 195
Bloque III
TRANSPARENCIA Y EXPLICABILIDAD EN LA EMPRESA, LA CONTRATACIÓN Y PRESTACIÓN DE SERVICIOS DE INTERNET Y EN EL ÁMBITO LABORAL
Explicabilidad e inteligencia artificial responsable. Recomendaciones “aterrizadas” al día a día de las empresas 199
Juan Manuel Belloto Gómez
I. A modo de introducción 199
II. Explicabilidad e inteligencia artificial responsable 200
1. El porqué de la necesidad de una IA responsable, ética y normativa 200
2. La explicabilidad. Contexto y su relación con la IA responsable 201
3. Iniciativas que ejemplifican la necesidad de una IA responsable 202
4. El necesario papel de entidades independientes como OdiseIA 204
5. La necesidad de aterrizar los conceptos de la IA responsable 205
6. Un ejemplo de aterrizaje. La iniciativa GuIA de OdiseIA 206
7. La explicabilidad es solo uno de los principios éticos necesarios en la IA 209
III. Explicabilidad. Recomendaciones aterrizadas al día a día de las empresas 211
1. Recomendaciones de Google, Microsoft, IBM y Telefónica 212
1.1. Visión sectorial 212
1.2. Explicar el modelo y también los datos que maneja 213
1.3. Explicar lo global y lo particular 213
1.4. Adaptar la explicación al interlocutor 214
1.5. En todo el ciclo de vida de la solución inteligente 215
1.6. Menos puede ser más 216
1.7. Caja negra vs caja blanca 216
1.8. Explicaciones claras y prudentes 217
1.9. Usando causalidad, minimizando correlaciones 218
1.10. La importancia del modelo de gobierno 218
2. Recursos, tecnologías y modelos de Gobierno para gestionarla 219
3. Relación de la explicabilidad con otros principios para una IA responsable 221
IV. Epílogo 223
La moderna configuración de la transparencia en la prestación de servicios y en la contratación en Internet 225
Javier Plaza Penadés
I. La transparencia como valor y como principio general 225
II. Principio de transparencia y protección de datos 226
III. “Los derechos fundamentales de la persona prevalecen sobre la tecnología” 228
IV. La transparencia en Internet 229
1. Transparencia en la contratación con condiciones generales 231
2. Transparencia en los servicios de intermediación en línea 242
3. Protección frente a los patrones oscuros “dark patterns” 243
V. Conclusiones 247
Transparencia algorítmica en el ámbito laboral 249
Adrián Todolí Signes
I. El uso de los algoritmos en el trabajo 249
II. El deber de trasparencia algorítmica en el ámbito laboral 253
1. Derecho de información de los representantes de los trabajadores sobre los algoritmos: el nuevo art. 64.4 ET 253
2. Concepto de algoritmo 256
III. Comparativa entre los derechos de información de Estatuto y la regulación europea 257
IV. Contenido de la información a entregar 259
V. Derechos de información ya existentes que afectan a los algoritmos 263
VI. Conclusiones: trascendencia del nuevo derecho de información 264