Humanos en el circuito para agentes de IA: cómo diseñar aprobaciones que reduzcan riesgos
Imagen generada por el Equipo Editorial de Inferama
01

Una aprobación humana debe ser un control concreto, no un trámite

Un agente que consulta sistemas internos, modifica registros, envía comunicaciones o inicia transacciones puede producir efectos reales. La presencia de una persona en algún punto del flujo no basta para controlar esos efectos. La supervisión es significativa cuando quien revisa puede entender la acción propuesta, impedirla o corregirla antes de que se ejecute.

La frase «requiere aprobación humana» deja abiertas preguntas decisivas: ¿se aprueba un objetivo, un plan, una acción concreta o un lote? ¿Qué persona tiene autoridad para decidir? ¿Qué información recibe? ¿Cuánto tiempo tiene para responder y qué sucede si no lo hace? Sin respuestas explícitas, la aprobación puede convertirse en una formalidad o en una cola que impide que el proceso avance.

Conviene tratar la aprobación como un control de decisión, no como una interfaz. El control debe vincular una clase de acción con un nivel de riesgo, una persona responsable, la información necesaria, una regla de ejecución y un registro que permita reconstruir lo ocurrido. Los permisos técnicos siguen siendo necesarios: la aprobación no sustituye la autorización del sistema de destino ni debería ampliar los privilegios del agente.

Esta guía se centra en dónde interviene una persona en una acción de un agente y en cómo comprobar que la intervención fue efectiva. El diseño debe distinguir las acciones que necesitan autorización previa de las que pueden ejecutarse dentro de límites y revisarse después.

02

Cuatro intervenciones con funciones diferentes

La aprobación previa detiene una acción antes de que produzca un efecto externo. Puede ser apropiada cuando el impacto potencial es alto, la reversión es limitada, se tratan datos sensibles o todavía no hay suficiente experiencia comparable para evaluar el comportamiento del agente. Implica tiempos de espera y carga para quienes revisan, por lo que no conviene aplicarla sin distinguir los niveles de riesgo.

La revisión posterior permite ejecutar una acción dentro de límites predeterminados y examinar los resultados después, mediante alertas, muestras o una revisión completa. Puede considerarse cuando el impacto está acotado, la acción es reversible y la organización puede detectar y corregir los efectos no deseados. No equivale a ausencia de control: requiere registros, responsables y capacidad real de reparación.

La parada de emergencia es un mecanismo separado. Debe permitir pausar una ejecución, deshabilitar una integración o retirar temporalmente la autonomía de una clase de acciones. También es necesaria en flujos con aprobación previa: pueden surgir incidentes sistémicos, señales de manipulación o cambios de contexto que hagan inadecuado continuar. La capacidad de guiar, corregir e interrumpir el comportamiento autónomo resulta especialmente importante ante acciones de alto impacto o entradas ambiguas.

La aclaración pausa el flujo para pedir información que falta; no autoriza una acción ya especificada. Separarla de la aprobación evita confundir una respuesta informativa con consentimiento para ejecutar. Algunas plataformas permiten pausar un flujo y solicitar información o aprobación, pero esa capacidad técnica no define la política de riesgo.

Qué resuelve cada intervención

IntervenciónPregunta que respondeCuándo ocurreCondición importante
Aprobación previa¿Debe ocurrir esta acción?Antes del efecto externoLa acción y sus parámetros están definidos
Revisión posterior¿Fue correcta la ejecución dentro de los límites?Después de ejecutarHay detección y una vía de reparación
Aclaración¿Qué información falta para continuar?Antes de planificar o ejecutarLa respuesta no autoriza por sí sola
Parada de emergencia¿Hay que detener el flujo o la integración?En cualquier momentoLa autoridad y el procedimiento de pausa están definidos
03

Clasificar acciones según su riesgo y contexto

No existe una lista universal de acciones que siempre requieran aprobación. La clasificación debe partir del efecto concreto en el sistema de destino, no solo del nombre de la herramienta. Actualizar una etiqueta interna podría ser inocuo en un contexto y alterar un registro regulado o activar una exclusión de servicio en otro.

Evalúe al menos cinco dimensiones. El impacto es la magnitud del posible perjuicio para personas, clientes, operaciones, finanzas o cumplimiento. La reversibilidad mide si el efecto se puede deshacer de forma completa, segura y razonable. La sensibilidad se refiere a los datos consultados, divulgados o transformados. El alcance considera volumen, destinatarios, sistemas y duración. La confianza empírica debe basarse en pruebas y operaciones comparables, no en una impresión sobre el modelo.

Una puntuación puede ayudar a ordenar decisiones, pero no debería automatizar una conclusión sin reglas de veto. Una transacción irreversible o el acceso a datos especialmente sensibles pueden requerir aprobación aunque afecten a un solo elemento. También puede ser necesaria una revisión previa para una acción de bajo impacto si ocurre en un contexto anómalo, usa una herramienta nueva o carece de señales de validación.

La matriz puede orientar cuatro políticas: ejecución automática dentro de límites; aprobación previa por una persona responsable; doble aprobación con roles distintos; o prohibición de que el agente ejecute la acción. Esta última opción no implica que la organización prohíba la tarea: puede exigir un procedimiento humano o una integración distinta.

Matriz inicial de autonomía

Señales principalesPolítica posibleEjemplo de límiteControl complementario
Impacto bajo, acción reversible, alcance limitado y resultados establesEjecución automática dentro de límitesActualizar un borrador interno no publicadoRegistro y revisión posterior por muestras
Impacto medio o incertidumbre contextualAprobación previaModificar un registro operativoVista previa y plazo de respuesta
Impacto alto, datos sensibles o alcance amplioDoble aprobación, si el contexto lo requiereEnviar una comunicación externa a gran escalaSeparación de funciones y registro reforzado
Acción prohibida, irreversible o sin reparación fiableNo ejecutar mediante el agenteTransferir fondos o eliminar evidenciaDerivar a un proceso humano
04

Presentar una solicitud que se pueda revisar

Quien revisa no debería tener que reconstruir todo el razonamiento del agente ni confiar en una explicación persuasiva. La solicitud debe mostrar la acción y sus límites de forma verificable, para que sea posible detectar errores en el destinatario, el alcance, los datos, la autorización o el efecto previsto.

Incluya el objetivo operativo, la acción exacta, el sistema de destino, los parámetros vinculantes, los datos que se consultarán o divulgarán y una vista previa del efecto. Cuando sea posible, presente una alternativa menos intrusiva: guardar un borrador en vez de enviarlo, reducir el lote o pedir una aclaración. Explique también qué ocurrirá si la persona rechaza, modifica o no responde.

La interfaz debe distinguir entre aprobar la acción tal como está definida, pedir cambios y rechazarla. Un campo libre puede servir para excepciones, pero no debería transformar una instrucción ambigua en una autorización amplia. Si quien revisa cambia un parámetro esencial, el agente debe generar una nueva propuesta o seguir un flujo determinista validado; no debe reinterpretar libremente la modificación.

La solicitud también debe indicar qué fuentes internas o entradas del usuario sustentan la propuesta, qué comprobaciones se realizaron y qué incertidumbres siguen abiertas. Esa visibilidad no exige mostrar datos innecesarios: debe respetar la minimización de datos y las restricciones de acceso del rol.

05

Asignar responsables y definir qué ocurre si no hay respuesta

Quien revisa debe tener autoridad real sobre el efecto de la acción. Una persona responsable de operaciones podría aprobar una actualización de inventario dentro de su ámbito, mientras que el acceso a datos personales puede requerir a quien gestiona esos datos o a un rol de seguridad. Asignar revisores solo por disponibilidad puede producir aprobaciones mecánicas o rechazos por falta de contexto.

Documente quién es responsable de la política para cada clase de acción, qué roles pueden aprobar y cuándo se necesita separar funciones. La doble aprobación puede ser útil cuando una sola persona no debería controlar toda la decisión: por ejemplo, si un rol conoce la necesidad operativa y otro evalúa el riesgo de cumplimiento. No conviene usarla automáticamente para cualquier incertidumbre: duplicar revisiones sin objetivos distintos puede aumentar las demoras sin mejorar la detección.

Defina suplentes con autoridad adecuada y evite reenviar automáticamente una solicitud a muchas personas. Una cola con responsables, plazo y escalado explícitos facilita el seguimiento. La solicitud también debe vencer si cambian las condiciones que la sustentan, como la vigencia de un dato, el estado de un caso o el contenido de una integración.

Los marcos de gestión de riesgos de IA incluyen la asignación de roles y responsabilidades, la documentación del riesgo y la monitorización a lo largo del ciclo de vida. En un sistema con agentes, esa asignación debe cubrir tanto la decisión de permitir una acción como la capacidad de intervenir ante un incidente.

Escalado de una solicitud pendiente

  1. 01Crear la solicitud con un identificador de acción, parámetros bloqueados y una fecha de vencimiento.
  2. 02Notificar a la persona responsable del dominio y registrar cuándo recibió la solicitud.
  3. 03Si no responde dentro del plazo inicial, avisar a un suplente autorizado sin ampliar la acción.
  4. 04Al vencer la solicitud, aplicar la regla segura definida: no ejecutar, conservar el contexto y cerrar el caso o devolverlo a una cola.
  5. 05Escalar a quien sea responsable de la política si la falta de respuesta afecta un servicio crítico o revela que la capacidad de revisión es insuficiente.
06

Gestionar silencios, rechazos y cambios en la acción

El silencio no es aprobación. Si vence el plazo de una acción que requiere autorización, la regla por defecto debería ser no ejecutarla, salvo que una política documentada defina una alternativa segura. El agente puede guardar un borrador, crear una tarea o pedir datos adicionales, pero no debe interpretar la falta de respuesta como permiso para enviar, cambiar o divulgar.

Un rechazo debe tener un resultado definido: cerrar el caso, devolverlo al agente con parámetros explícitos o derivarlo a una persona para ejecución manual. El agente no debería volver a presentar la misma acción con una formulación superficialmente distinta para conseguir una aprobación. Agrupe los intentos equivalentes, mantenga su relación con el rechazo anterior y exija una diferencia material identificable.

Los desacuerdos entre quienes aprueban también necesitan una salida: dar prioridad al rol responsable del riesgo, derivar el caso a una persona con autoridad superior o bloquear la ejecución hasta obtener una decisión. El sistema debe conservar las decisiones y sus fundamentos operativos, sin tratar como cierta una explicación generada por el agente.

Después de aprobar, compruebe que lo ejecutado coincide con lo autorizado: identificador de acción, versión del plan, parámetros, destinatarios y herramientas. Si cambia un elemento material, solicite una aprobación nueva o use una ruta de cambio previamente autorizada y limitada.

07

Aplicar controles adecuados al tipo de acción

Para las comunicaciones externas, separe la creación del borrador del envío. Puede ser razonable automatizar la clasificación y preparación mientras el contenido siga siendo interno; el envío exige mayor cautela si afecta a clientes, compromete una posición contractual o contiene datos sensibles. Los cambios de destinatario, idioma, adjuntos o listas de distribución pueden alterar materialmente lo que se aprobó.

En cambios de código o configuración, la revisión humana del contenido no sustituye los controles de entrega. La aprobación debe estar vinculada a una versión identificable, a las pruebas disponibles, al entorno de destino y a un plan de reversión. Una autorización para validar un cambio en pruebas no cubre automáticamente su despliegue en producción.

Para actualizar registros, defina qué campos puede modificar el agente, qué fuentes son admisibles y cuándo debe mostrar la diferencia entre el valor actual y el propuesto. Las actualizaciones masivas requieren controles de alcance, criterios de selección y mecanismos para deshacer el cambio. Para acceder a datos, aplique mínimo privilegio y autorización en el sistema de destino: la aprobación en el agente no debe conceder un acceso que el sistema de origen deniega.

Las transacciones con impacto financiero, legal o físico suelen requerir una política restrictiva. La decisión depende del contexto y de los controles existentes; la irreversibilidad, la posible afectación a terceros y la dificultad de reparación son señales para considerar la doble aprobación o excluir al agente de la ejecución. El mínimo privilegio y la autorización en el sistema de destino ayudan a limitar acciones no deseadas; la supervisión y el registro facilitan su detección y revisión.

Límites que conviene definir según la acción

Tipo de acciónAutonomía inicial posibleInformación para revisarCambio que puede invalidar la aprobación
Comunicación externaPreparar borrador; decidir el envío según el riesgoDestinatario, texto, adjuntos y datos incluidosDestinatario, contenido o lista
Cambio de código o configuraciónProponer y probar; desplegar con controlesVersión, entorno, resultados de pruebas y reversiónVersión, entorno o alcance
Actualización de registrosLimitar campos y volumenValores anteriores y propuestos, fuente y criterioCampo, lote o fuente
Acceso a datosUsar solo permisos ya concedidosFinalidad, conjunto de datos y duraciónDatos, finalidad o identidad
Transacción sensibleAprobación reforzada o proceso humano, según el contextoImporte, contraparte, condiciones y efectoCualquier parámetro material
08

Evaluar el control y ajustar la autonomía

La existencia de aprobaciones no demuestra que el control funcione. Mida cuántas propuestas se rechazan o modifican por errores materiales, qué errores se detectan, cuántas acciones aprobadas deben revertirse y cuánto tarda la cola. Segmente los resultados por clase de acción, integración, versión del flujo y responsable: un promedio global puede ocultar problemas concentrados.

La tasa de aprobación por sí sola es ambigua. Una tasa alta puede reflejar propuestas correctas y de bajo riesgo, pero también fatiga, falta de contexto o presión para despejar la cola. Examine señales combinadas: aprobaciones inusualmente rápidas, comentarios repetidos, discrepancias detectadas en la revisión posterior, anulaciones y diferencias entre revisores. Las muestras de calidad y la revisión de casos negativos pueden ayudar a distinguir eficiencia de automatización indebida.

Actualice la confianza en el agente a partir de resultados observados, no de una afirmación general de rendimiento. Antes de pasar una clase de acción de aprobación previa a revisión posterior, defina qué condiciones debe cumplir: casos comparables, errores materiales dentro del umbral interno, reversión comprobada, detección posterior a tiempo y ausencia de cambios relevantes en el modelo, las herramientas o los datos. Si cambian esas condiciones, reevalúe la política.

Registre una traza que permita reconstruir el caso: solicitud original, contexto permitido, plan, acción propuesta, versiones del agente y de las herramientas, persona que aprobó, decisión, hora, parámetros ejecutados, respuesta del sistema de destino y resultado posterior. Proteja el registro y limite el acceso a los roles autorizados; recopilar más contexto del necesario puede crear un riesgo adicional de privacidad o seguridad.

Métricas y señales para revisar

MétricaQué puede indicarRiesgo de interpretaciónSeguimiento posible
Errores materiales detectados antes de ejecutarValor preventivo de la revisiónUn valor bajo también puede indicar que se detectan pocos erroresRevisar muestras y casos posteriores
Anulaciones o reversionesErrores que pasaron el controlLa tasa depende de la posibilidad de revertirAnalizar por acción y causa
Tiempo de cola y solicitudes vencidasCapacidad real de respuestaAcortar el plazo no resuelve la falta de responsablesAjustar cobertura y escalado
Aprobaciones muy rápidas y repetitivasPosible fatiga o aprobación automáticaTambién pueden corresponder a casos sencillosRevisar la información presentada y muestrear decisiones
Acciones fuera de políticaProblemas en los límites o la integraciónPuede haber registros incompletosComparar registros con los sistemas de destino
09

Preparar el lanzamiento y mantener la política actualizada

Empiece con un flujo acotado, una clase de acción y un sistema de destino donde se puedan observar los resultados y, cuando sea posible, revertirlos. Haga inventario de las acciones del flujo, no solo de las herramientas: consultar, redactar, actualizar, enviar, eliminar, escalar y ejecutar pueden necesitar controles distintos. Para cada acción, describa su efecto, los permisos técnicos, los límites de parámetros y la persona responsable de la política.

Antes del despliegue, pruebe casos normales, entradas ambiguas o maliciosas, errores de herramientas y cambios de parámetros posteriores a la aprobación. Compruebe que el agente no pueda ejecutar una acción distinta de la autorizada, que una solicitud vencida no se ejecute y que la parada de emergencia afecte a las ejecuciones pendientes y a las nuevas.

Realice una fase controlada con suficiente observación para detectar patrones, sin asumir que un número fijo de casos sirve para todos los riesgos. Revise rechazos, anulaciones, tiempos de espera, solicitudes sin respuesta e incidentes con una frecuencia adecuada al proceso. Amplíe la autonomía solo para una clase de acción concreta y cuando los resultados y los mecanismos de reversión justifiquen el cambio.

La política de aprobación debe actualizarse cuando se añaden herramientas, cambian los datos disponibles, se modifica el modelo, se integra un nuevo sistema de destino o se producen incidentes. Conserve la versión de la política aplicable a cada ejecución para poder interpretar correctamente los registros y las decisiones anteriores.

Lista de comprobación antes del despliegue

  1. 01Enumere cada acción con efecto externo y describa si se puede revertir y cómo.
  2. 02Clasifique impacto, reversibilidad, sensibilidad, alcance y confianza empírica; documente las reglas de veto.
  3. 03Asigne responsables de política, aprobadores, suplentes y casos que requieren doble control.
  4. 04Diseñe la solicitud con la acción, los parámetros, los datos afectados, una vista previa, alternativas y el comportamiento al vencer.
  5. 05Bloquee o versione los parámetros aprobados y compruebe que los cambios materiales invalidan la aprobación.
  6. 06Pruebe rechazo, silencio, desacuerdo, errores de herramientas y parada de emergencia.
  7. 07Registre la propuesta, la decisión, el rol de quien aprobó, los parámetros ejecutados y el resultado posterior.
  8. 08Defina métricas, frecuencia de revisión y criterios internos para aumentar o reducir la autonomía.
10

Continúa explorando

Fuentes consultadas

03

Correcciones y transparencia

Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.

Proponer una corrección