Documentos privados con IA: cómo decidir qué puede salir del perímetro y qué requiere revisión
Imagen generada por el Equipo Editorial de Inferama
01

La decisión no es solo «documento privado sí o no»

Un contrato, un expediente de recursos humanos, un informe de ingeniería o un archivo de cliente pueden contener información con sensibilidades muy distintas. Tampoco plantean el mismo riesgo una búsqueda interna que una extracción de campos para precompletar una pantalla, un resumen para orientar a un analista o una clasificación que active una consecuencia operativa. Por eso, la primera decisión útil no es elegir entre una API externa y un modelo ejecutado en infraestructura propia: es describir qué transformación se quiere realizar, con qué datos, quién recibirá el resultado y qué ocurriría si fuera incorrecto o se divulgara.

El Reglamento General de Protección de Datos establece principios de limitación de la finalidad, minimización de datos, limitación de la conservación y protección de datos desde el diseño y por defecto. En un flujo de IA, esos principios obligan a justificar por qué se incluye cada parte del documento y cada dato asociado. No basta con que el documento esté disponible para el equipo ni con que exista una relación contractual con un proveedor: el flujo concreto necesita una finalidad delimitada, datos pertinentes y controles acordes con el riesgo.

Conviene separar dos planos. El primero es factual: qué textos, archivos, metadatos, instrucciones y registros circulan por el sistema. El segundo es de decisión: qué uso se permite para cada resultado y qué persona o proceso asume la validación. Esta separación evita confundir una capacidad técnica —como producir un resumen— con la autorización para usarlo al decidir sobre una persona, una obligación contractual o una operación.

La pregunta inicial puede formularse así: ¿cuál es la acción posterior, es reversible y cuál sería el impacto de un error? Una respuesta que solo ayuda a localizar una cláusula puede requerir controles distintos de un resultado que modifica un expediente, rechaza una solicitud, prioriza una investigación o se incorpora a una comunicación externa. La reversibilidad no elimina el riesgo, pero ayuda a fijar el nivel de revisión y las condiciones de parada.

Variables que conviene decidir antes de seleccionar un entorno

VariablePregunta operativaConsecuencia habitual
Finalidad¿Buscar, resumir, extraer, clasificar o redactar?Define el contenido mínimo y el tipo de validación.
Sensibilidad¿Hay datos personales, secretos empresariales, credenciales, información sanitaria o laboral?Eleva la necesidad de segmentar, restringir accesos o cambiar de entorno.
Reidentificación¿Fragmentos, fechas, cargos o nombres de proyecto permiten atribuir el contenido?Impide tratar la mera retirada de nombres como anonimización suficiente.
Impacto del error¿El resultado puede afectar derechos, contratos, pagos, seguridad u operaciones?Exige límites de uso y, con frecuencia, revisión humana.
Reversibilidad¿Puede corregirse una acción antes de que produzca efectos?Orienta el umbral de automatización y las pruebas previas.
02

Construya un inventario del flujo, no solo del archivo original

El documento original es solo un componente. Un escaneo puede pasar por reconocimiento óptico de caracteres; el texto extraído puede conservar encabezados, notas, tablas y errores de lectura; una aplicación puede añadir instrucciones, resultados de búsquedas anteriores, adjuntos y metadatos de usuario. Después, la petición puede generar trazas técnicas, métricas, copias temporales, registros de auditoría y una salida que otro sistema almacena o reenvía. Un inventario que enumera únicamente el PDF no permite evaluar la exposición real.

Registre para cada componente su origen, titular o área responsable, clasificación, ubicación, destinatarios técnicos, periodo de conservación y posibilidad de acceso humano. Incluya el texto que se inserta en instrucciones, los fragmentos recuperados desde un índice, las herramientas llamadas por el modelo y los sistemas de observabilidad. Los registros pueden ser necesarios para investigar incidentes, pero también pueden replicar información sensible; deben diseñarse con el mismo criterio de minimización que la petición principal.

El perfil de IA generativa de NIST propone gestionar riesgos mediante gobernanza, mapeo, medición y gestión. Aplicado a este caso, el inventario permite saber qué componentes deben evaluarse, quién controla cada etapa y qué elementos pueden ayudar a reconstruir cómo se produjo una salida. También facilita detectar cambios relevantes, como una nueva versión de OCR, un modelo distinto, un conector adicional o una modificación de la política de retención.

La clasificación debe ser específica. «Confidencial» puede ser una etiqueta útil, pero no distingue entre un secreto técnico, datos de contacto, una evaluación de desempeño, información de salud o un documento que contenga varias categorías. Clasifique también adjuntos y metadatos. El nombre de un archivo, una ruta interna, un identificador de asunto, una fecha o el nombre de un proyecto pueden revelar tanto como un párrafo del cuerpo del documento.

Inventario operativo en siete pasos

  1. 01Identifique el original, sus adjuntos, versiones y procedencia.
  2. 02Describa las transformaciones: OCR, limpieza, división en fragmentos, indexación, seudonimización y traducción, si existe.
  3. 03Liste instrucciones, contexto recuperado, herramientas, modelo y destino de cada petición.
  4. 04Clasifique por separado texto, imágenes, tablas, metadatos y registros.
  5. 05Asigne un responsable técnico y una persona responsable de la decisión de uso para cada etapa.
  6. 06Defina conservación, borrado y acceso autorizado para cada copia o representación.
  7. 07Versione el flujo y conserve constancia de las pruebas antes de autorizar la producción.
03

Cuatro patrones de procesamiento y criterios para elegirlos

El procesamiento directo con controles puede ser proporcionado cuando la finalidad requiere el contenido completo, el acceso está limitado, el entorno está autorizado para esa categoría de información y la salida no activa por sí sola una consecuencia material. Los controles no son un añadido posterior: incluyen autenticación, permisos por función, cifrado en tránsito y en reposo cuando corresponda, configuración de retención, separación de entornos, registro de accesos y pruebas de que la aplicación no incorpora datos innecesarios en la petición.

La minimización o seudonimización previa busca reducir la exposición antes de procesar. Puede consistir en eliminar columnas irrelevantes, sustituir identificadores por referencias, retirar datos de contacto o proporcionar solo los campos necesarios. La seudonimización puede reducir el impacto de una exposición, pero no equivale necesariamente a anonimización. Las directrices del Comité Europeo de Protección de Datos subrayan que la información adicional, los cuasiidentificadores y el contexto importan al valorar la posibilidad de atribución o reidentificación.

La segmentación y el envío selectivo son apropiados cuando la tarea puede realizarse con una sección, una tabla o unos campos concretos. Por ejemplo, para localizar la fecha de renovación de un contrato quizá no sea necesario enviar anexos comerciales, firmas, datos bancarios o el resto del expediente. Sin embargo, dividir el documento no garantiza aislamiento: varios fragmentos, un identificador estable o la acumulación de consultas pueden revelar el contexto que se intentaba limitar.

El procesamiento en un entorno controlado cobra relevancia cuando la información no puede salir de un perímetro definido, cuando se necesita el documento completo, cuando el riesgo de reidentificación sigue siendo elevado o cuando una salida tiene un impacto alto. Este patrón puede implicar infraestructura propia o un entorno con límites técnicos y organizativos específicos, pero su nombre no demuestra por sí solo que sea adecuado. Deben verificarse las configuraciones, los accesos, la retención, los componentes conectados y la capacidad de auditoría.

Una extracción de fechas de renovación ilustra cómo reducir el flujo a la finalidad concreta. Si una operación solo quiere alimentar un calendario de revisión, puede seleccionar las páginas y los campos de vigencia, aviso previo y renovaciones, excluir firmas y anexos no pertinentes, y mostrar la fecha propuesta junto con el fragmento que la respalda. Si el formato es inconsistente, hay contradicciones entre cláusulas o la extracción es dudosa, el resultado debe pasar a revisión y no actualizar el calendario automáticamente.

Decisión orientativa según la finalidad

FinalidadRepresentación inicial preferibleUso del resultadoCondición de parada
BúsquedaFragmentos pertinentes con metadatos mínimosAyuda para localizar el originalNo hay evidencia suficiente o el índice puede estar incompleto.
ResumenSecciones necesarias y reglas de coberturaBorrador informativo revisableFaltan secciones, hay contradicciones o el documento exige precisión literal.
ExtracciónCampos o páginas pertinentes con evidencia textualPrellenado sujeto a validaciónEl valor es ambiguo, está ausente o es inconsistente, o no cumple el formato.
ClasificaciónAtributos necesarios y clases definidasPriorización o enrutamiento controladoCaso fronterizo, impacto elevado o señal insuficiente.
BorradorHechos validados y plantilla autorizadaTexto pendiente de aprobaciónIncluye afirmaciones no sustentadas, destinatarios sensibles o datos excesivos.
04

Aplique un árbol de decisión según la finalidad

La búsqueda suele admitir una arquitectura distinta de la clasificación. En una búsqueda, el objetivo puede ser devolver documentos o pasajes candidatos; el resultado no debería presentarse como respuesta definitiva si la recuperación puede estar incompleta. Para resumir, defina audiencia, extensión, hechos que deben preservarse y prohibiciones: un resumen puede omitir excepciones, condiciones o discrepancias relevantes. Para extraer datos estructurados, defina el esquema de campos, la evidencia textual que respalda cada valor y el tratamiento de ausencias, ambigüedades o conflictos.

En clasificación, especifique qué clase se asigna, qué señales se admiten y qué ocurre con los casos fronterizos. Una etiqueta de prioridad, riesgo o estado puede condicionar el trabajo posterior aunque no sea una decisión final. Para borradores, determine qué partes puede redactar el sistema, qué información no debe inventar y quién revisa tono, exactitud, destinatario y datos incluidos antes de enviar o publicar.

Un criterio práctico es comprobar si la finalidad exige el documento completo. Si no lo exige, reduzca el contenido. Si requiere el contenido completo pero la salida es informativa y revisable, considere un entorno autorizado con controles de acceso y registro. Si el resultado puede producir una consecuencia material o es difícil de corregir, no lo convierta en una acción automática sin una evaluación específica, una condición clara de validación y mecanismos para detener el flujo.

La selección de herramientas no sustituye esta clasificación. Un modelo de OCR puede servir para obtener texto de un escaneo y un modelo ligero para una clasificación acotada, pero ambos forman parte de un sistema que también incluye almacenamiento, permisos, instrucciones, registros y uso posterior. Integrar Mistral OCR 4.1 o Amazon Nova 2 Lite no determina por sí mismo qué datos están autorizados, qué retención se aplica ni si el resultado es apto para una decisión. Esas cuestiones dependen de la configuración y del flujo concreto.

05

La minimización no elimina el riesgo de reidentificación ni de inferencia

Eliminar nombres, direcciones o números de identificación puede ser útil, pero no basta para concluir que el contenido es anónimo. Una combinación de puesto, fecha, localidad, importe, incidente descrito, proveedor y nombre de proyecto puede identificar indirectamente a una persona o revelar una negociación concreta. La información adicional puede estar dentro del mismo sistema, en una tabla de correspondencias o incluso en el conocimiento de quienes reciben el resultado.

También hay datos inferidos. Un resumen de ausencias, una clasificación de riesgo o una extracción de condiciones puede revelar información que no aparece como identificador directo. Del mismo modo, los metadatos de acceso pueden mostrar que una persona consultó un caso sensible. Evalúe tanto el contenido enviado como lo que puede deducirse de la salida, de la frecuencia de consultas y de la combinación con otras fuentes internas.

La evaluación debe incluir fallos y ataques plausibles: una instrucción mal diseñada que arrastra un documento entero, una búsqueda que recupera contenido de otro asunto, una traza que conserva texto en claro, permisos demasiado amplios, una herramienta conectada que recibe más contexto del necesario o una persona que confía en una extracción errónea. Las pruebas con documentos difíciles —escaneos, tablas, anexos, contradicciones y contenido que no debe circular— son más representativas que una demostración con ejemplos limpios.

La guía de INCIBE recomienda revisar al proveedor y sus políticas de privacidad, usar conexiones seguras y aprovechar las configuraciones de privacidad. Para equipos profesionales, eso debe traducirse en comprobaciones documentadas y técnicas, no en una aceptación genérica. Determine quién opera cada componente, qué accesos son posibles, qué configuraciones están activadas, cuánto tiempo se conservan peticiones y resultados, y cómo se verifica el borrado cuando termina la finalidad.

06

Defina cuándo la salida asiste y cuándo la revisión humana es obligatoria

La revisión humana no consiste en colocar a una persona al final de una pantalla. Esa persona necesita autoridad, información suficiente y tiempo para detectar errores. En una extracción de campos, esto puede requerir ver el fragmento original que respalda cada valor. En un resumen, puede exigir comparar el borrador con secciones críticas. En una clasificación, puede requerir entender la regla aplicada, los datos utilizados y las alternativas posibles. Sin estas condiciones, la revisión corre el riesgo de ser meramente formal.

Como regla conservadora, trate la salida como asistencia cuando organiza, recupera, propone o precompleta. Eleve el control cuando pueda afectar empleo, acceso a servicios, obligaciones contractuales, pagos, seguridad, derechos de una persona, comunicaciones externas o decisiones difíciles de revertir. Además del impacto, considere la incertidumbre del documento: escaneos deficientes, manuscritos, tablas complejas, anexos, lenguaje condicional y contradicciones internas reducen la fiabilidad operativa.

Defina condiciones de parada antes de automatizar. Pueden incluir falta de evidencia textual, una respuesta fuera del esquema permitido, conflicto entre campos, baja calidad de OCR, ausencia de una revisión requerida, presencia de categorías excluidas o cambios no aprobados en el modelo, las instrucciones o los conectores. Una condición de parada debe producir una acción concreta: bloquear la publicación, enviar a revisión, pedir más información o retirar el elemento de la cola automática.

El perfil de NIST sobre IA generativa identifica riesgos relacionados con privacidad, filtración, trazabilidad, contenido incorrecto y exceso de confianza humana. No impone por sí mismo una arquitectura concreta, pero ofrece una base para no evaluar únicamente la exactitud media. Un sistema puede acertar en la mayoría de los documentos y aun así ser inadecuado si sus errores son opacos, difíciles de detectar o se concentran en los casos de mayor impacto.

Diseñe una revisión humana efectiva

  1. 01Muestre la salida, la evidencia de origen y la versión del flujo que la produjo.
  2. 02Indique expresamente si el resultado es un borrador, una recomendación o un dato validado.
  3. 03Exija confirmación para los casos definidos por impacto, ambigüedad o categoría de datos.
  4. 04Permita corregir, rechazar y explicar el motivo de la decisión.
  5. 05Registre la validación sin replicar innecesariamente el contenido sensible.
  6. 06Use los rechazos y errores para actualizar pruebas, reglas y límites de uso.
07

Convierta los controles en comprobaciones verificables

Los controles deben poder comprobarse antes y después del despliegue. Para el acceso, verifique que solo los roles necesarios pueden ver el original, los fragmentos, las salidas y los registros. Para el aislamiento, pruebe que una consulta de un asunto no recupera contenido de otro. Para la retención, compruebe qué ocurre con archivos temporales, colas, cachés, índices y trazas. Para el borrado, defina el alcance: borrar una pantalla no implica necesariamente borrar copias de trabajo o registros asociados.

La trazabilidad debe permitir reconstruir una salida sin conservar más contenido del necesario. Registre identificadores internos, versión del documento, transformación aplicada, versión de OCR o del modelo, plantilla de instrucciones, reglas de recuperación, fecha, operador técnico y decisión humana posterior. Vincule esa información a controles de acceso. Guardar el texto íntegro de cada petición puede ser desproporcionado para algunas finalidades; una alternativa es conservar referencias, huellas o extractos limitados cuando permitan investigar sin multiplicar el contenido expuesto.

Incluya pruebas de fuga y de comportamiento adverso. Intente recuperar fragmentos de otro expediente, compruebe que instrucciones contenidas en un documento no alteran el flujo, verifique que las salidas respetan los campos prohibidos y pruebe la respuesta ante errores de OCR. Ponga a prueba el plan de incidentes: quién puede detener el procesamiento, cómo se revocan accesos, cómo se preserva evidencia y cómo se evalúa el alcance sin ampliar innecesariamente la exposición.

El control contractual y la configuración técnica son complementarios. Un acuerdo puede delimitar responsabilidades, pero no sustituye permisos mínimos, pruebas de retención o revisión de integraciones. A la inversa, una configuración correcta no resuelve una finalidad indefinida. Esta guía ofrece criterios operativos y no sustituye el análisis jurídico aplicable ni una evaluación de impacto cuando resulte necesaria.

Evidencia mínima de control antes de la producción

ControlEvidencia verificableCuándo revisarla
AccesoMatriz de roles y prueba de que las cuentas no autorizadas no pueden accederAnte cambios de rol y periódicamente.
Retención y borradoConfiguración documentada y pruebas sobre copias temporales, índices y registrosAntes de producción y tras cambios técnicos.
AislamientoPruebas de recuperación cruzada y de límites entre asuntos o clientesEn cada cambio relevante.
TrazabilidadRegistro de versión, transformación, modelo y decisión humanaEn cada ejecución o caso definido.
Calidad y paradaConjunto de pruebas difíciles y evidencia de bloqueo o escaladoAntes del despliegue y de forma continua.
IncidentesProcedimiento probado de contención, revocación y análisisSegún el plan de respuesta.
08

Use una plantilla de decisión para cada flujo documental

Una plantilla breve obliga a hacer explícitas las decisiones y facilita que producto, seguridad, operaciones y asesoría jurídica examinen el mismo objeto. Debe completarse por flujo, no para una herramienta en abstracto. Por ejemplo, «resumir expedientes» puede abarcar datos, finalidades y consecuencias tan distintas que una autorización genérica pierde utilidad. Si hay varias etapas, documente cada una: OCR, indexación, recuperación, generación, almacenamiento de la salida y acción posterior.

Incluya como mínimo: finalidad; categoría y origen de los datos; adjuntos y metadatos incluidos; contenido expresamente excluido; transformación previa; entorno autorizado; entidades que operan cada componente; salida permitida; destinatarios; periodo de conservación; responsable de la validación; evidencia que se conservará; condiciones de parada y procedimiento de incidentes. Cuando una decisión dependa de una afirmación contractual o técnica de un tercero, identifique qué elemento se verificó y cuándo, en vez de asumir que la condición permanece estable.

La plantilla no resuelve por sí sola todas las limitaciones. La documentación puede no describir por completo el comportamiento de cada componente; una política de retención puede variar según la configuración; y la posibilidad de reidentificación depende de información adicional y del contexto organizativo. También cambian los riesgos al añadir conectores, reutilizar resultados o ampliar la audiencia. Revise la decisión tras cambios materiales y después de incidentes o hallazgos de pruebas.

El objetivo no es eliminar toda exposición, algo que puede resultar inviable para algunas finalidades, ni adoptar automáticamente un modelo local. Es poder justificar una elección proporcional: qué información se procesa, por qué es necesaria, qué controles limitan la exposición, qué resultado puede usarse y cuándo una persona debe detener o validar el flujo. Una plantilla de ejemplo puede recoger una finalidad de extracción, los datos permitidos y excluidos, la transformación aplicada, el entorno autorizado, la salida esperada, el responsable, las condiciones de parada y los datos de trazabilidad necesarios.

09

Continúa explorando

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección