Definición en una frase
Ataque o interferencia en la que contenido no confiable intenta desviar al sistema de sus reglas u objetivo legítimo.
SEGURIDAD Y GOBERNANZA · INTERMEDIO
Inyección de instrucciones
Ataque o interferencia en la que contenido no confiable intenta desviar al sistema de sus reglas u objetivo legítimo.
También se conoce comoprompt injection
ANÁLISIS
Análisis relacionados
Robustez: definición, funcionamiento y límites en sistemas de aprendizaje automático
La robustez no es una propiedad absoluta, sino una relación entre un objetivo, un modificador, un dominio de variación y una tolerancia. Esta ficha explica cómo operacionalizar el concepto, cómo auditar modelos ante cambios de distribución y por qué un alto rendimiento en condiciones de laboratorio no garantiza un comportamiento fiable en el mundo real.
21 oct. 2026 ↗
Pruebas adversariales: definición, metodología y límites en sistemas de IA
Las pruebas adversariales en IA son una disciplina de evaluación intencional que busca romper las garantías de un sistema mediante entradas hostiles o escenarios diseñados. Esta ficha define el concepto, distingue la práctica manual de la automatización, detalla el ciclo de vida técnico y analiza sus límites inherentes de cobertura y reproducibilidad.
17 oct. 2026 ↗
Del prototipo al cambio desplegado: integrar IA con permisos limitados
Una guía para conectar un modelo con una herramienta interna sin darle autoridad directa para modificar datos: define una interfaz acotada, valida cada propuesta en código y despliega con controles y reversión.
16 oct. 2026 ↗
Guardrail en IA: qué controla, dónde actúa y qué no garantiza
Un guardrail es un control que comprueba entradas, salidas o acciones de un sistema de IA frente a una política definida. Su alcance depende de qué revisa y cuándo interviene: puede reducir ciertos riesgos, pero no demuestra por sí solo que todo el sistema sea seguro.
01 oct. 2026 ↗