Abreviaturas 15
Autores 17
Prólogo 19
Capítulo I
Objeto, ámbito de aplicación y sentido del Reglamento Europeo de Inteligencia Artificial
Moisés Barrio Andrés
I. CONCEPTO DE INTELIGENCIA ARTIFICIAL 21
II. EL REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL 26
III. OBJETO 30
IV. ÁMBITO DE APLICACIÓN 34
V. TIPOLOGÍA DE LOS SISTEMAS DE IA 35
1. Sistemas prohibidos 40
2. Sistemas de alto riesgo 42
3. Sistemas de riesgo limitado 44
4. Sistemas de riesgo mínimo 45
5. IA generativa 45
Capítulo II
Sistemas de IA prohibidos y sistemas de IA de alto riesgo
Luis Miguez Macho
Marcos Torres Carlos
I. INTRODUCCIÓN 49
II. PRÁCTICAS DE INTELIGENCIA ARTIFICIAL PROHIBIDAS 51
1. Delimitación 51
2. Fundamento y alcance de las prohibiciones 55
3. Excepciones 57
III. SISTEMAS DE INTELIGENCIA ARTIFICIAL DE ALTO RIESGO 60
1. Delimitación 60
2. Excepciones 62
3. Requisitos 62
3.1. Garantía del cumplimiento de los requisitos 62
3.2. Sistema de gestión de riesgos 63
3.3. Gobernanza de datos 64
3.4. Documentación técnica 65
3.5. Conservación de registros 66
3.6. Transparencia y comunicación de información a los responsables del despliegue 67
3.7. Supervisión humana 68
3.8. Precisión, solidez y ciberseguridad 69
4. Obligaciones de las partes 70
4.1. Proveedores 70
4.2. Importadores y distribuidores 73
4.3. Responsables del despliegue 75
5. Evaluación de impacto relativa a los derechos fundamentales 77
6. Evaluación de la conformidad y supervisión 78
6.1. Autoridades notificantes y organismos notificados 78
6.2. Normas, evaluación de la conformidad, certificados y registro 81
IV. CONCLUSIONES 85
Capítulo III
Modelos de IA de uso general y sistemas de IA de riesgo limitado y mínimo
Carmen Muñoz García
I. INTRODUCCIÓN 87
1. Iter normativo de los modelos de IA de uso general (GPAI) 87
2. Sistemas de IA de riesgo limitado y sistemas de IA de riesgo mínimo 90
3. El principio de transparencia para determinados sistemas de IA ¿vinculante, norma dispositiva o norma imperativa? 91
II. SISTEMAS DE IA DE RIESGO LIMITADO Y LOS MODELOS DE IA DE USO GENERAL (GPAI) 92
1. De base, la transparencia 92
2. Diferentes modelos de IA de uso general. Relevancia para fijar el marco regulatorio. Convergencias y divergencias 93
2.1. ¿Cuándo estamos ante modelos de IA de uso general? 93
2.2. Régimen normativo 95
2.3. De nuevo, el requisito de transparencia: principio y norma imperativa 98
2.4. Obligaciones del proveedor 99
2.4.1. Obligaciones comunes para cualquier proveedor de modelos de IA de uso general 99
2.4.2. Obligaciones adicionales que debe cumplir el proveedor del GPAI “con riesgo sistémico” 102
2.5. Requisitos técnicos 103
3. Códigos de buenas prácticas para homogeneizar las obligaciones del proveedor de modelos de IA de uso general 106
III. SISTEMAS DE IA DE RIESGO MÍNIMO 107
IV. REFLEXIONES FINALES 108
Capítulo IV
Medidas de apoyo a la innovación y arquitectura de gobernanza
Vanessa Jiménez Serranía
I. VISIÓN GENERAL DE CIERTOS ASPECTOS CLAVE: DATOS, PROPIEDAD INTELECTUAL, GOBERNANZA E INNOVACIÓN 111
1. La propiedad intelectual y el RIA: un parche a falta de soluciones concretas 112
2. La interoperabilidad en el RIA 114
3. Los datos y el RIA: acceso, gobernanza y protección de datos personales 115
3.1. El acceso a datos de calidad 115
3.2. La gobernanza de datos 116
3.3. La protección al derecho a la intimidad y de los datos personales. 118
II. EL RIA Y EL APOYO A LA INNOVACIÓN 118
1. La alfabetización en materia de IA 119
2. El RIA y las licencias de software libre y código abierto 120
3. La estandarización de procedimientos 122
4. El sandbox regulatorio para la IA 123
4.1. Las obligaciones y funciones de las autoridades competentes 125
4.2. Las reglas básicas de funcionamiento de los sandboxes 126
4.3. Condiciones de uso de los datos personales en el sandbox 128
4.4. La posibilidad de realizar pruebas de sistemas de alto riesgo fuera de los sandboxes 129
III. EL RIA Y LA GOBERNANZA EUROPEA DE LA IA 130
1. La Oficina de IA 130
2. El Comité Europeo de IA 132
2.1. Composición 132
2.2. Funciones 132
3. El Foro Consultivo 133
3.1. Composición 133
3.2. Funciones 134
4. El Grupo de Expertos Científicos Independientes 134
4.1. Composición 134
4.2. Funciones 135
5. Las autoridades nacionales competentes 135
6. Referencia a la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) 136
Capítulo V
Vigilancia postcomercialización, códigos de conducta y directrices
Margarita Castilla Barea
I. INTRODUCCIÓN 139
II. ANÁLISIS DEL CAPÍTULO IX. VIGILANCIA POSCOMERCIALIZACIÓN, INTERCAMBIO DE INFORMACIÓN Y VIGILANCIA DEL MERCADO 143
1. ¿A qué se refiere la rúbrica del capítulo IX del RIA cuando alude separadamente a vigilancia poscomercialización, intercambio de información y vigilancia del mercado? Su contenido 143
2. Sección 1: vigilancia poscomercialización 147
3. Sección 2: intercambio de información sobre incidentes graves 149
3.1. La obligación de informar del incidente grave. Sujetos obligados y objeto de la notificación en los distintos supuestos contemplados por el precepto 150
3.2. La práctica de la notificación del incidente grave en tiempo y forma. El papel del responsable del despliegue del sistema de IA 152
3.3. La correlativa obligación del proveedor de realizar una investigación respecto al incidente grave 156
3.4. Actuaciones de las autoridades competentes subsiguientes a la recepción de una notificación de incidente grave 156
4. Sección 3: garantía del cumplimiento 158
4.1. El marco normativo de la vigilancia del mercado a tenor del art. 74 RIA: la remisión general al Reglamento (UE) 2019/2010 y algunas reglas especiales 159
4.2. Las potestades de las autoridades de vigilancia del mercado en casos específicos: control de los sistemas de IA de uso general y supervisión de las pruebas en condiciones reales 163
4.3. Poderes otorgados a las autoridades encargadas de proteger los derechos fundamentales 166
4.4. La confidencialidad de la información 167
4.5. Los procedimientos aplicables a los sistemas de IA que presenten riesgos teniendo en cuenta su calificación y el alcance de los riesgos que presentan 169
4.6. El incumplimiento de obligaciones formales 175
4.7. Las estructuras de apoyo a los ensayos de IA de la Unión 176
5. Sección 4: vías de recurso 177
5.1. El derecho a presentar una reclamación ante una autoridad de vigilancia del mercado 177
5.2. El derecho a explicación de decisiones tomadas individualmente 179
5.3. Denuncia de infracciones y protección de los denunciantes 180
6. Sección 5: supervisión, investigación, cumplimiento y seguimiento respecto de los proveedores de los modelos de IA de uso general 181
6.1. Breve referencia a las reclamaciones de los proveedores posteriores 182
6.2. Las alertas del grupo de expertos científicos sobre riesgos sistémicos 184
6.3. Los poderes de la Comisión para solicitar documentación e información 186
6.4. Los poderes para realizar evaluaciones 187
6.5. Los poderes para solicitar a los proveedores que adopten medidas 189
6.6. Las garantías procesales 190
III. ANÁLISIS DEL CAPÍTULO X. CÓDIGOS DE CONDUCTA Y DIRECTRICES 191
1. Los códigos de conducta 193
2. Las directrices de la Comisión 196
IV. A MODO DE CONCLUSIÓN 198
Capítulo VI
Régimen sancionador
Joaquín Delgado Martín
I. SOBRE EL RÉGIMEN SANCIONADOR PARA LA EFECTIVIDAD DEL RIA 201
II. RÉGIMEN SANCIONADOR GENERAL 202
1. Catálogo de infracciones 203
1.1. Infracciones muy graves 203
1.2. Infracciones graves 203
1.3. Infracciones leves 203
2. Elemento subjetivo 203
3. Sanciones 204
3.1. Contempladas por el propio RIA 204
3.2. Contempladas por el ordenamiento interno 204
4. Criterios para individualizar la responsabilidad 204
5. Autoridad competente 205
6. Procedimiento 206
7. Recurso judicial efectivo 207
8. Información a la Comisión Europea 209
9. Casos específicos 209
9.1. Sobre las pymes y startups 209
9.2. Sobre la posible responsabilidad de las entidades del sector público 209
III. RÉGIMEN SANCIONADOR PARA LA ADMINISTRACIÓN DE LA UNIÓN EUROPEA 210
1. Ámbito de aplicación 210
2. Infracciones 210
3. Sanciones 210
4. Criterios para individualizar la responsabilidad 210
5. Autoridad competente 211
6. Procedimiento 212
6.1. Audiencia 212
6.2. Contradicción 212
6.3. Defensa 212
6.4. Acceso al expediente 212
7. Información a la Comisión 213
8. Destino de las multas 213
IV. RÉGIMEN SANCIONADOR PARA LOS PROVEEDORES DE MODELOS IA DE USO GENERAL 213
1. Ámbito de aplicación 213
2. Infracciones 214
2. Elemento subjetivo 214
3. Sanciones 214
4. Autoridad competente 215
5. Procedimiento 215
5.1. Derecho a una buena administración 215
5.2. Garantías procedimentales 216
6. Recursos 217