La pregunta inicial es qué ocurre con cada persona
Un asistente que resume expedientes, un modelo que ordena solicitudes o una herramienta que estima un riesgo pueden utilizar técnicas parecidas y, sin embargo, producir efectos y riesgos distintos. La evaluación debe comenzar por el tratamiento y el efecto reales: qué información entra, qué resultado genera el sistema, quién lo recibe, qué acción desencadena y qué consecuencias puede tener para una persona concreta.
La distinción importa especialmente cuando intervienen datos de salud, biométricos, laborales, financieros, de seguros, de menores o de personas en situación de dependencia. También es relevante cuando el sistema infiere información que nadie proporcionó expresamente, como una prioridad, una propensión, una categoría de riesgo o una supuesta elegibilidad. Que una inferencia no aparezca en un formulario no elimina su relevancia para la protección de datos ni para los derechos fundamentales.
El objetivo de una evaluación no es declarar que un modelo es ético, seguro o conforme en abstracto. Consiste en documentar si un uso delimitado es necesario y proporcionado, qué daños plausibles puede causar, qué controles pueden reducirlos y quién tiene capacidad real para detener el uso. La documentación de un proveedor puede aportar información técnica, pero no sustituye el análisis de la organización que decide la finalidad, la población afectada, las reglas operativas y la acción que se tomará ante el resultado.
Cuatro capas de riesgo que conviene separar
La evaluación de impacto relativa a la protección de datos, conocida habitualmente como DPIA o EIPD, se centra en los riesgos para los derechos y libertades de las personas derivados de un tratamiento de datos personales. El Reglamento General de Protección de Datos exige realizarla antes del tratamiento cuando este probablemente entrañe un alto riesgo. No se limita a ser una política de privacidad ampliada: debe describir el tratamiento, valorar su necesidad y proporcionalidad, analizar riesgos y establecer medidas para afrontarlos.
La evaluación de impacto en los derechos fundamentales prevista por el Reglamento de Inteligencia Artificial parte de otro punto. Para determinados desplegadores de sistemas de IA de alto riesgo, debe realizarse antes del primer uso. Analiza cómo el uso previsto puede afectar a las personas o grupos afectados y depende del contexto de despliegue. Puede abarcar riesgos de discriminación, acceso desigual a servicios, dignidad, protección de menores, libertad de expresión, tutela efectiva u otras garantías, además de los riesgos vinculados a datos personales.
A estas capas se suman la seguridad técnica y el riesgo operativo. La primera abarca, entre otras cuestiones, robustez, fallos, ciberseguridad, degradación del rendimiento y trazabilidad. La segunda observa cómo se utiliza el resultado: presión por cumplir objetivos, falta de tiempo para revisar, ausencia de vías de corrección o incentivos que convierten una recomendación en una decisión automática de hecho. Un expediente sólido conecta estas dimensiones, pero no las confunde ni presupone que superar una prueba técnica elimina riesgos jurídicos o sociales.
Qué pregunta responde cada capa
| Capa | Pregunta central | Resultado útil | No sustituye a |
|---|---|---|---|
| Protección de datos | ¿El tratamiento puede entrañar un alto riesgo para los derechos y libertades vinculados a datos personales? | DPIA con riesgos y medidas documentados | El análisis de otros derechos fundamentales y del funcionamiento operativo |
| Derechos fundamentales en IA | ¿El uso concreto de un sistema de alto riesgo puede afectar a personas o grupos, y qué salvaguardas requiere? | Evaluación contextual previa cuando resulte aplicable | La DPIA cuando el tratamiento de datos la requiera |
| Seguridad técnica | ¿El sistema puede fallar, degradarse o sufrir ataques relevantes? | Pruebas, límites y controles técnicos | La justificación de finalidad, necesidad y proporcionalidad |
| Operación y gobernanza | ¿Quién usa el resultado, con qué autoridad y cómo puede corregirlo? | Procedimientos, formación, registros y capacidad para detener el sistema | Las pruebas de rendimiento y calidad de datos |
Árbol de decisión antes del despliegue
No existe una regla mecánica que convierta cualquier uso de IA en una DPIA, ni otra que permita descartarla solo porque exista revisión humana. La decisión exige reunir los hechos del caso y contrastarlos con el RGPD, las listas de tratamientos sujetas a DPIA publicadas por la autoridad de control competente y, cuando proceda, el Reglamento de Inteligencia Artificial.
Primero, determine si hay datos personales. Pueden aparecer en las entradas, los registros de uso, los resultados o las inferencias. Después, identifique factores que suelen elevar el riesgo: categorías especiales de datos, perfilado, evaluación sistemática, decisiones con efectos jurídicos o efectos significativamente similares, observación sistemática, tratamiento a gran escala, personas vulnerables, combinación de conjuntos de datos, tecnologías novedosas o una relación de poder asimétrica. Estos factores no operan como una lista automática; ayudan a justificar la conclusión y a no pasar por alto riesgos previsibles.
A continuación, analice si el sistema y su uso previsto entran en una categoría de alto riesgo del Reglamento de Inteligencia Artificial. La clasificación depende del uso efectivo y de las categorías normativas pertinentes, no del nombre del producto ni de una declaración comercial. Si el sistema es de alto riesgo, compruebe si el desplegador pertenece a los supuestos obligados a realizar una evaluación de impacto en los derechos fundamentales antes del primer uso. Si el flujo también trata datos personales con probable alto riesgo, pueden ser necesarias ambas evaluaciones.
Si, después de aplicar las medidas previstas, el tratamiento sigue entrañando un alto riesgo que el responsable no puede mitigar, el RGPD establece la consulta previa a la autoridad de control antes de iniciar el tratamiento. Esa obligación no debe presentarse como un riesgo que la organización puede aceptar internamente sin más.
Secuencia de decisión documentable
- 01Delimite la finalidad, la decisión real y la acción posterior al resultado del sistema.
- 02Mapee los datos proporcionados, observados, inferidos y deducidos; identifique destinatarios, conservación y transferencias.
- 03Valore los indicadores de probable alto riesgo del RGPD y consulte la lista de la autoridad de control competente.
- 04Clasifique el sistema según su uso previsto bajo el Reglamento de Inteligencia Artificial y compruebe las obligaciones del desplegador.
- 05Decida y justifique si corresponde una DPIA, una evaluación de derechos fundamentales, ambas o una revisión documentada de menor alcance.
- 06Diseñe controles, pruebe el flujo en condiciones representativas y determine el riesgo residual.
- 07Detenga el despliegue, rediseñe, consulte previamente a la autoridad cuando corresponda o limite el uso con condiciones verificables.
Qué debe contener una DPIA
La DPIA debe incluir una descripción sistemática de las operaciones de tratamiento y sus fines, incluida la finalidad legítima perseguida cuando corresponda. También debe valorar la necesidad y proporcionalidad, analizar los riesgos para los derechos y libertades de las personas y establecer las medidas previstas para afrontarlos. No basta con enumerar categorías de datos, incluir cláusulas genéricas de seguridad o afirmar que existe interés empresarial en automatizar.
En un flujo de IA, la descripción debería cubrir la recogida, preparación, entrenamiento cuando exista, inferencia, validación, intervención humana, comunicación del resultado, registros y eliminación. Debe identificar tanto los datos directos como las inferencias. Por ejemplo, una puntuación de fraude, una prioridad clínica o una predicción de abandono pueden ser datos personales si se refieren a una persona identificada o identificable y se utilizan para evaluarla.
Una política de privacidad informa a las personas sobre un tratamiento y puede ser necesaria para cumplir deberes de transparencia. Sin embargo, no sustituye la evaluación previa de riesgos, necesidad, proporcionalidad y medidas. Tampoco una evaluación genérica del proveedor reemplaza el análisis del responsable, porque el proveedor normalmente no conoce con precisión la población atendida, los datos locales, los umbrales, las acciones del personal ni las vías de reclamación disponibles.
Las listas de tratamientos que requieren DPIA y las listas de excepciones pueden variar según la autoridad de control competente. Una organización que opere en varios Estados miembros debe documentar qué autoridad y qué lista ha considerado. Una evaluación proporcionada y temprana puede revelar que el diseño debe cambiar antes de que resulte costoso revertirlo.
Evaluación de derechos fundamentales y coordinación con la DPIA
El Reglamento de Inteligencia Artificial prevé una evaluación de impacto en los derechos fundamentales para determinados desplegadores antes del primer uso de sistemas de IA de alto riesgo. La obligación no se activa por cualquier software que use IA. Hay que verificar tanto que el sistema entra en una categoría de alto riesgo aplicable como que el desplegador encaja en los supuestos previstos por la norma. Entre los contextos que requieren atención se encuentran determinados usos por organismos públicos o entidades que prestan servicios públicos y ciertos usos de alto riesgo relacionados con ámbitos como crédito, seguros o servicios de emergencia, según la clasificación y el alcance normativo aplicables.
La evaluación debe ser contextual. Un mismo sistema puede presentar riesgos distintos si se utiliza para apoyar una cola de trabajo interna, filtrar el acceso a un servicio esencial o priorizar actuaciones que afectan a una persona. Debe describir los grupos que podrían verse afectados, las consecuencias posibles, las medidas de supervisión humana y los mecanismos pertinentes de información y reclamación. También debe considerar si existen barreras prácticas para impugnar o corregir un resultado.
Cuando el sistema trata datos personales y la DPIA es obligatoria, las dos evaluaciones deben coordinarse, no duplicarse a ciegas. Un inventario común de datos, finalidad, participantes, versiones y controles reduce incoherencias. Aun así, cada evaluación debe responder a su obligación específica: la DPIA al análisis exigido por el RGPD, y la evaluación de derechos fundamentales a los elementos del Reglamento de Inteligencia Artificial aplicables al despliegue.
El calendario de aplicación del Reglamento de Inteligencia Artificial contiene reglas transitorias y ha sido objeto de modificaciones. Antes de concluir que una obligación ya resulta exigible en un caso concreto, compruebe la fecha de uso prevista, la versión normativa aplicable, la categoría del sistema y la disposición transitoria pertinente.
Coordinar sin confundir los expedientes
| Elemento | DPIA | Evaluación de derechos fundamentales |
|---|---|---|
| Punto de partida | Tratamiento de datos personales que probablemente entraña alto riesgo | Despliegue previsto de determinados sistemas de IA de alto riesgo |
| Unidad de análisis | Operaciones de tratamiento, fines, datos y riesgos | Uso concreto, personas y grupos afectados, consecuencias y salvaguardas |
| Material reutilizable | Mapa de datos, finalidad, funciones, medidas y registros | Mapa de actores, contexto, supervisión, canales de información y reparación |
| Posibles resultados | Mitigar, rediseñar, consultar previamente o no iniciar | Modificar el uso, introducir salvaguardas, limitar el alcance o no desplegar |
Inventario mínimo y pruebas para el caso concreto
Antes de medir precisión o sesgo, construya un inventario que permita reproducir el análisis. Debe fijar la finalidad aprobada y las excluidas; la base y los límites del tratamiento; los orígenes de datos; los atributos proporcionados, observados e inferidos; las personas afectadas; los destinatarios; los periodos de conservación; el proveedor; el modelo y su versión; los umbrales; y las acciones que el resultado permite o desencadena. Si la organización no puede describir estos elementos, difícilmente podrá demostrar necesidad, proporcionalidad o trazabilidad.
Las pruebas deben responder a daños plausibles, no solo a una métrica agregada. Si una puntuación determina el orden de atención, importan los falsos negativos que retrasan casos urgentes y los falsos positivos que desplazan injustamente otros casos. Si el rendimiento puede variar entre grupos, explique cuáles se analizaron, por qué son relevantes, qué límites tienen los datos de prueba y qué se hará si no hay evidencia suficiente. Recopilar atributos para medir disparidades puede crear riesgos de protección de datos; esa medición requiere justificación y salvaguardas específicas, no una omisión automática.
También deben probarse la abstención y la degradación. Un sistema puede ser más seguro si se abstiene cuando la información es incompleta o la confianza no supera un umbral, pero esa abstención debe enviar el caso a una vía humana real y dentro de plazos definidos. Simule datos erróneos, cambios en la población, caídas de un proveedor, resultados incoherentes, solicitudes de acceso o rectificación y presión operativa para omitir revisiones. Registre qué permitiría detectar el problema y quién actuaría.
Controles, riesgo residual y autoridad para detener el sistema
El resultado de una evaluación no debe reducirse a aprobar o rechazar un producto. Puede servir para rediseñar el flujo y reducir daños: minimizar variables, evitar categorías especialmente sensibles cuando no sean necesarias, separar la recomendación de la decisión final, limitar el sistema a una tarea administrativa, reducir la escala inicial, elevar el umbral de abstención o impedir determinados usos secundarios.
La revisión humana solo es un control si cuenta con capacidad, información, tiempo y autoridad. Una persona que confirma cientos de puntuaciones por hora o desconoce las limitaciones del modelo puede crear una apariencia de control sin reducir el riesgo. Defina qué resultados requieren revisión, qué señales permiten anular la recomendación, qué formación recibe el equipo, qué plazo se aplica y cómo se registran las discrepancias. Las anulaciones pueden revelar problemas de datos, umbral o diseño que obliguen a reabrir la evaluación.
Describa el riesgo residual de forma concreta: qué daño sigue siendo posible, a quién puede afectar, qué probabilidad y gravedad se estiman, qué controles continúan activos y qué incertidumbres persisten. La aceptación debe asignarse a una persona u órgano con competencia para asumirla. También debe existir capacidad efectiva para detener o revertir el sistema si se activa un umbral de seguridad, calidad, discriminación, incumplimiento o incidente.
Reabra la evaluación antes de cambios materiales, no después de que ocurra un daño. Entre los desencadenantes están los cambios de modelo, proveedor, datos, población, finalidad, umbral, integración, acción automática, volumen, normativa aplicable o evidencia de rendimiento desigual. Las revisiones periódicas ayudan, pero no sustituyen la revisión ante cambios concretos.
Cierre y autorización documentables
- 01Identifique la finalidad permitida, las personas afectadas y las acciones expresamente prohibidas.
- 02Registre la conclusión: DPIA, evaluación de derechos fundamentales, ambas o revisión de menor alcance; incluya la justificación.
- 03Enumere las evidencias revisadas, los límites metodológicos y los resultados por subgrupo relevante.
- 04Asigne cada control a un responsable, una fecha y un indicador verificable.
- 05Designe quién puede anular un caso, suspender el sistema y ordenar su reversión.
- 06Registre el riesgo residual, quién puede aceptarlo y qué riesgos no son aceptables.
- 07Fije la revisión y sus desencadenantes: cambios de datos, modelo, proveedor, población, umbral, finalidad, incidentes o deterioro de métricas.
Continúa explorando
Fuentes consultadas
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección