Una aprobación humana debe ser un control concreto, no un trámite
Un agente que consulta sistemas internos, modifica registros, envía comunicaciones o inicia transacciones puede producir efectos reales. La presencia de una persona en algún punto del flujo no basta para controlar esos efectos. La supervisión es significativa cuando quien revisa puede entender la acción propuesta, impedirla o corregirla antes de que se ejecute.
La frase «requiere aprobación humana» deja abiertas preguntas decisivas: ¿se aprueba un objetivo, un plan, una acción concreta o un lote? ¿Qué persona tiene autoridad para decidir? ¿Qué información recibe? ¿Cuánto tiempo tiene para responder y qué sucede si no lo hace? Sin respuestas explícitas, la aprobación puede convertirse en una formalidad o en una cola que impide que el proceso avance.
Conviene tratar la aprobación como un control de decisión, no como una interfaz. El control debe vincular una clase de acción con un nivel de riesgo, una persona responsable, la información necesaria, una regla de ejecución y un registro que permita reconstruir lo ocurrido. Los permisos técnicos siguen siendo necesarios: la aprobación no sustituye la autorización del sistema de destino ni debería ampliar los privilegios del agente.
Esta guía se centra en dónde interviene una persona en una acción de un agente y en cómo comprobar que la intervención fue efectiva. El diseño debe distinguir las acciones que necesitan autorización previa de las que pueden ejecutarse dentro de límites y revisarse después.
Cuatro intervenciones con funciones diferentes
La aprobación previa detiene una acción antes de que produzca un efecto externo. Puede ser apropiada cuando el impacto potencial es alto, la reversión es limitada, se tratan datos sensibles o todavía no hay suficiente experiencia comparable para evaluar el comportamiento del agente. Implica tiempos de espera y carga para quienes revisan, por lo que no conviene aplicarla sin distinguir los niveles de riesgo.
La revisión posterior permite ejecutar una acción dentro de límites predeterminados y examinar los resultados después, mediante alertas, muestras o una revisión completa. Puede considerarse cuando el impacto está acotado, la acción es reversible y la organización puede detectar y corregir los efectos no deseados. No equivale a ausencia de control: requiere registros, responsables y capacidad real de reparación.
La parada de emergencia es un mecanismo separado. Debe permitir pausar una ejecución, deshabilitar una integración o retirar temporalmente la autonomía de una clase de acciones. También es necesaria en flujos con aprobación previa: pueden surgir incidentes sistémicos, señales de manipulación o cambios de contexto que hagan inadecuado continuar. La capacidad de guiar, corregir e interrumpir el comportamiento autónomo resulta especialmente importante ante acciones de alto impacto o entradas ambiguas.
La aclaración pausa el flujo para pedir información que falta; no autoriza una acción ya especificada. Separarla de la aprobación evita confundir una respuesta informativa con consentimiento para ejecutar. Algunas plataformas permiten pausar un flujo y solicitar información o aprobación, pero esa capacidad técnica no define la política de riesgo.
Qué resuelve cada intervención
| Intervención | Pregunta que responde | Cuándo ocurre | Condición importante |
|---|---|---|---|
| Aprobación previa | ¿Debe ocurrir esta acción? | Antes del efecto externo | La acción y sus parámetros están definidos |
| Revisión posterior | ¿Fue correcta la ejecución dentro de los límites? | Después de ejecutar | Hay detección y una vía de reparación |
| Aclaración | ¿Qué información falta para continuar? | Antes de planificar o ejecutar | La respuesta no autoriza por sí sola |
| Parada de emergencia | ¿Hay que detener el flujo o la integración? | En cualquier momento | La autoridad y el procedimiento de pausa están definidos |
Clasificar acciones según su riesgo y contexto
No existe una lista universal de acciones que siempre requieran aprobación. La clasificación debe partir del efecto concreto en el sistema de destino, no solo del nombre de la herramienta. Actualizar una etiqueta interna podría ser inocuo en un contexto y alterar un registro regulado o activar una exclusión de servicio en otro.
Evalúe al menos cinco dimensiones. El impacto es la magnitud del posible perjuicio para personas, clientes, operaciones, finanzas o cumplimiento. La reversibilidad mide si el efecto se puede deshacer de forma completa, segura y razonable. La sensibilidad se refiere a los datos consultados, divulgados o transformados. El alcance considera volumen, destinatarios, sistemas y duración. La confianza empírica debe basarse en pruebas y operaciones comparables, no en una impresión sobre el modelo.
Una puntuación puede ayudar a ordenar decisiones, pero no debería automatizar una conclusión sin reglas de veto. Una transacción irreversible o el acceso a datos especialmente sensibles pueden requerir aprobación aunque afecten a un solo elemento. También puede ser necesaria una revisión previa para una acción de bajo impacto si ocurre en un contexto anómalo, usa una herramienta nueva o carece de señales de validación.
La matriz puede orientar cuatro políticas: ejecución automática dentro de límites; aprobación previa por una persona responsable; doble aprobación con roles distintos; o prohibición de que el agente ejecute la acción. Esta última opción no implica que la organización prohíba la tarea: puede exigir un procedimiento humano o una integración distinta.
Matriz inicial de autonomía
| Señales principales | Política posible | Ejemplo de límite | Control complementario |
|---|---|---|---|
| Impacto bajo, acción reversible, alcance limitado y resultados estables | Ejecución automática dentro de límites | Actualizar un borrador interno no publicado | Registro y revisión posterior por muestras |
| Impacto medio o incertidumbre contextual | Aprobación previa | Modificar un registro operativo | Vista previa y plazo de respuesta |
| Impacto alto, datos sensibles o alcance amplio | Doble aprobación, si el contexto lo requiere | Enviar una comunicación externa a gran escala | Separación de funciones y registro reforzado |
| Acción prohibida, irreversible o sin reparación fiable | No ejecutar mediante el agente | Transferir fondos o eliminar evidencia | Derivar a un proceso humano |
Presentar una solicitud que se pueda revisar
Quien revisa no debería tener que reconstruir todo el razonamiento del agente ni confiar en una explicación persuasiva. La solicitud debe mostrar la acción y sus límites de forma verificable, para que sea posible detectar errores en el destinatario, el alcance, los datos, la autorización o el efecto previsto.
Incluya el objetivo operativo, la acción exacta, el sistema de destino, los parámetros vinculantes, los datos que se consultarán o divulgarán y una vista previa del efecto. Cuando sea posible, presente una alternativa menos intrusiva: guardar un borrador en vez de enviarlo, reducir el lote o pedir una aclaración. Explique también qué ocurrirá si la persona rechaza, modifica o no responde.
La interfaz debe distinguir entre aprobar la acción tal como está definida, pedir cambios y rechazarla. Un campo libre puede servir para excepciones, pero no debería transformar una instrucción ambigua en una autorización amplia. Si quien revisa cambia un parámetro esencial, el agente debe generar una nueva propuesta o seguir un flujo determinista validado; no debe reinterpretar libremente la modificación.
La solicitud también debe indicar qué fuentes internas o entradas del usuario sustentan la propuesta, qué comprobaciones se realizaron y qué incertidumbres siguen abiertas. Esa visibilidad no exige mostrar datos innecesarios: debe respetar la minimización de datos y las restricciones de acceso del rol.
Asignar responsables y definir qué ocurre si no hay respuesta
Quien revisa debe tener autoridad real sobre el efecto de la acción. Una persona responsable de operaciones podría aprobar una actualización de inventario dentro de su ámbito, mientras que el acceso a datos personales puede requerir a quien gestiona esos datos o a un rol de seguridad. Asignar revisores solo por disponibilidad puede producir aprobaciones mecánicas o rechazos por falta de contexto.
Documente quién es responsable de la política para cada clase de acción, qué roles pueden aprobar y cuándo se necesita separar funciones. La doble aprobación puede ser útil cuando una sola persona no debería controlar toda la decisión: por ejemplo, si un rol conoce la necesidad operativa y otro evalúa el riesgo de cumplimiento. No conviene usarla automáticamente para cualquier incertidumbre: duplicar revisiones sin objetivos distintos puede aumentar las demoras sin mejorar la detección.
Defina suplentes con autoridad adecuada y evite reenviar automáticamente una solicitud a muchas personas. Una cola con responsables, plazo y escalado explícitos facilita el seguimiento. La solicitud también debe vencer si cambian las condiciones que la sustentan, como la vigencia de un dato, el estado de un caso o el contenido de una integración.
Los marcos de gestión de riesgos de IA incluyen la asignación de roles y responsabilidades, la documentación del riesgo y la monitorización a lo largo del ciclo de vida. En un sistema con agentes, esa asignación debe cubrir tanto la decisión de permitir una acción como la capacidad de intervenir ante un incidente.
Escalado de una solicitud pendiente
- 01Crear la solicitud con un identificador de acción, parámetros bloqueados y una fecha de vencimiento.
- 02Notificar a la persona responsable del dominio y registrar cuándo recibió la solicitud.
- 03Si no responde dentro del plazo inicial, avisar a un suplente autorizado sin ampliar la acción.
- 04Al vencer la solicitud, aplicar la regla segura definida: no ejecutar, conservar el contexto y cerrar el caso o devolverlo a una cola.
- 05Escalar a quien sea responsable de la política si la falta de respuesta afecta un servicio crítico o revela que la capacidad de revisión es insuficiente.
Gestionar silencios, rechazos y cambios en la acción
El silencio no es aprobación. Si vence el plazo de una acción que requiere autorización, la regla por defecto debería ser no ejecutarla, salvo que una política documentada defina una alternativa segura. El agente puede guardar un borrador, crear una tarea o pedir datos adicionales, pero no debe interpretar la falta de respuesta como permiso para enviar, cambiar o divulgar.
Un rechazo debe tener un resultado definido: cerrar el caso, devolverlo al agente con parámetros explícitos o derivarlo a una persona para ejecución manual. El agente no debería volver a presentar la misma acción con una formulación superficialmente distinta para conseguir una aprobación. Agrupe los intentos equivalentes, mantenga su relación con el rechazo anterior y exija una diferencia material identificable.
Los desacuerdos entre quienes aprueban también necesitan una salida: dar prioridad al rol responsable del riesgo, derivar el caso a una persona con autoridad superior o bloquear la ejecución hasta obtener una decisión. El sistema debe conservar las decisiones y sus fundamentos operativos, sin tratar como cierta una explicación generada por el agente.
Después de aprobar, compruebe que lo ejecutado coincide con lo autorizado: identificador de acción, versión del plan, parámetros, destinatarios y herramientas. Si cambia un elemento material, solicite una aprobación nueva o use una ruta de cambio previamente autorizada y limitada.
Aplicar controles adecuados al tipo de acción
Para las comunicaciones externas, separe la creación del borrador del envío. Puede ser razonable automatizar la clasificación y preparación mientras el contenido siga siendo interno; el envío exige mayor cautela si afecta a clientes, compromete una posición contractual o contiene datos sensibles. Los cambios de destinatario, idioma, adjuntos o listas de distribución pueden alterar materialmente lo que se aprobó.
En cambios de código o configuración, la revisión humana del contenido no sustituye los controles de entrega. La aprobación debe estar vinculada a una versión identificable, a las pruebas disponibles, al entorno de destino y a un plan de reversión. Una autorización para validar un cambio en pruebas no cubre automáticamente su despliegue en producción.
Para actualizar registros, defina qué campos puede modificar el agente, qué fuentes son admisibles y cuándo debe mostrar la diferencia entre el valor actual y el propuesto. Las actualizaciones masivas requieren controles de alcance, criterios de selección y mecanismos para deshacer el cambio. Para acceder a datos, aplique mínimo privilegio y autorización en el sistema de destino: la aprobación en el agente no debe conceder un acceso que el sistema de origen deniega.
Las transacciones con impacto financiero, legal o físico suelen requerir una política restrictiva. La decisión depende del contexto y de los controles existentes; la irreversibilidad, la posible afectación a terceros y la dificultad de reparación son señales para considerar la doble aprobación o excluir al agente de la ejecución. El mínimo privilegio y la autorización en el sistema de destino ayudan a limitar acciones no deseadas; la supervisión y el registro facilitan su detección y revisión.
Límites que conviene definir según la acción
| Tipo de acción | Autonomía inicial posible | Información para revisar | Cambio que puede invalidar la aprobación |
|---|---|---|---|
| Comunicación externa | Preparar borrador; decidir el envío según el riesgo | Destinatario, texto, adjuntos y datos incluidos | Destinatario, contenido o lista |
| Cambio de código o configuración | Proponer y probar; desplegar con controles | Versión, entorno, resultados de pruebas y reversión | Versión, entorno o alcance |
| Actualización de registros | Limitar campos y volumen | Valores anteriores y propuestos, fuente y criterio | Campo, lote o fuente |
| Acceso a datos | Usar solo permisos ya concedidos | Finalidad, conjunto de datos y duración | Datos, finalidad o identidad |
| Transacción sensible | Aprobación reforzada o proceso humano, según el contexto | Importe, contraparte, condiciones y efecto | Cualquier parámetro material |
Evaluar el control y ajustar la autonomía
La existencia de aprobaciones no demuestra que el control funcione. Mida cuántas propuestas se rechazan o modifican por errores materiales, qué errores se detectan, cuántas acciones aprobadas deben revertirse y cuánto tarda la cola. Segmente los resultados por clase de acción, integración, versión del flujo y responsable: un promedio global puede ocultar problemas concentrados.
La tasa de aprobación por sí sola es ambigua. Una tasa alta puede reflejar propuestas correctas y de bajo riesgo, pero también fatiga, falta de contexto o presión para despejar la cola. Examine señales combinadas: aprobaciones inusualmente rápidas, comentarios repetidos, discrepancias detectadas en la revisión posterior, anulaciones y diferencias entre revisores. Las muestras de calidad y la revisión de casos negativos pueden ayudar a distinguir eficiencia de automatización indebida.
Actualice la confianza en el agente a partir de resultados observados, no de una afirmación general de rendimiento. Antes de pasar una clase de acción de aprobación previa a revisión posterior, defina qué condiciones debe cumplir: casos comparables, errores materiales dentro del umbral interno, reversión comprobada, detección posterior a tiempo y ausencia de cambios relevantes en el modelo, las herramientas o los datos. Si cambian esas condiciones, reevalúe la política.
Registre una traza que permita reconstruir el caso: solicitud original, contexto permitido, plan, acción propuesta, versiones del agente y de las herramientas, persona que aprobó, decisión, hora, parámetros ejecutados, respuesta del sistema de destino y resultado posterior. Proteja el registro y limite el acceso a los roles autorizados; recopilar más contexto del necesario puede crear un riesgo adicional de privacidad o seguridad.
Métricas y señales para revisar
| Métrica | Qué puede indicar | Riesgo de interpretación | Seguimiento posible |
|---|---|---|---|
| Errores materiales detectados antes de ejecutar | Valor preventivo de la revisión | Un valor bajo también puede indicar que se detectan pocos errores | Revisar muestras y casos posteriores |
| Anulaciones o reversiones | Errores que pasaron el control | La tasa depende de la posibilidad de revertir | Analizar por acción y causa |
| Tiempo de cola y solicitudes vencidas | Capacidad real de respuesta | Acortar el plazo no resuelve la falta de responsables | Ajustar cobertura y escalado |
| Aprobaciones muy rápidas y repetitivas | Posible fatiga o aprobación automática | También pueden corresponder a casos sencillos | Revisar la información presentada y muestrear decisiones |
| Acciones fuera de política | Problemas en los límites o la integración | Puede haber registros incompletos | Comparar registros con los sistemas de destino |
Preparar el lanzamiento y mantener la política actualizada
Empiece con un flujo acotado, una clase de acción y un sistema de destino donde se puedan observar los resultados y, cuando sea posible, revertirlos. Haga inventario de las acciones del flujo, no solo de las herramientas: consultar, redactar, actualizar, enviar, eliminar, escalar y ejecutar pueden necesitar controles distintos. Para cada acción, describa su efecto, los permisos técnicos, los límites de parámetros y la persona responsable de la política.
Antes del despliegue, pruebe casos normales, entradas ambiguas o maliciosas, errores de herramientas y cambios de parámetros posteriores a la aprobación. Compruebe que el agente no pueda ejecutar una acción distinta de la autorizada, que una solicitud vencida no se ejecute y que la parada de emergencia afecte a las ejecuciones pendientes y a las nuevas.
Realice una fase controlada con suficiente observación para detectar patrones, sin asumir que un número fijo de casos sirve para todos los riesgos. Revise rechazos, anulaciones, tiempos de espera, solicitudes sin respuesta e incidentes con una frecuencia adecuada al proceso. Amplíe la autonomía solo para una clase de acción concreta y cuando los resultados y los mecanismos de reversión justifiquen el cambio.
La política de aprobación debe actualizarse cuando se añaden herramientas, cambian los datos disponibles, se modifica el modelo, se integra un nuevo sistema de destino o se producen incidentes. Conserve la versión de la política aplicable a cada ejecución para poder interpretar correctamente los registros y las decisiones anteriores.
Lista de comprobación antes del despliegue
- 01Enumere cada acción con efecto externo y describa si se puede revertir y cómo.
- 02Clasifique impacto, reversibilidad, sensibilidad, alcance y confianza empírica; documente las reglas de veto.
- 03Asigne responsables de política, aprobadores, suplentes y casos que requieren doble control.
- 04Diseñe la solicitud con la acción, los parámetros, los datos afectados, una vista previa, alternativas y el comportamiento al vencer.
- 05Bloquee o versione los parámetros aprobados y compruebe que los cambios materiales invalidan la aprobación.
- 06Pruebe rechazo, silencio, desacuerdo, errores de herramientas y parada de emergencia.
- 07Registre la propuesta, la decisión, el rol de quien aprobó, los parámetros ejecutados y el resultado posterior.
- 08Defina métricas, frecuencia de revisión y criterios internos para aumentar o reducir la autonomía.
Continúa explorando
Fuentes consultadas
Correcciones y transparencia
Si detectas un dato incorrecto o desactualizado, puedes enviarnos una corrección indicando la página y la fuente que debemos revisar.
Proponer una corrección