Definição numa frase
Ataque ou interferência em que conteúdo não confiável tenta desviar o sistema das suas regras ou objetivo legítimo.
SEGURANÇA E GOVERNAÇÃO · INTERMÉDIO
Injeção de instruções
Ataque ou interferência em que conteúdo não confiável tenta desviar o sistema das suas regras ou objetivo legítimo.
Também conhecido comoinjeção de prompt
ANÁLISE
Análises relacionadas
Robustez: definição, funcionamento e limites em sistemas de aprendizado de máquina
A robustez não é uma propriedade absoluta, mas uma relação entre um objetivo, um modificador, um domínio de variação e uma tolerância. Esta ficha explica como operacionalizar o conceito, como auditar modelos diante de mudanças de distribuição e por que um alto desempenho em condições de laboratório não garante um comportamento confiável no mundo real.
21 out 2026 ↗
Testes Adversariais: definição, metodologia e limites em sistemas de IA
Os testes adversariais em IA são uma disciplina de avaliação intencional que busca romper as garantias de um sistema por meio de entradas hostis ou cenários projetados. Esta ficha define o conceito, distingue a prática manual da automação, detalha o ciclo de vida técnico e analisa seus limites inerentes de cobertura e reprodutibilidade.
17 out 2026 ↗
Do protótipo à mudança implantada: integrar IA com permissões limitadas
Um guia para conectar um modelo a uma ferramenta interna sem lhe dar autoridade direta para alterar dados: defina uma interface restrita, valide cada proposta no código e faça a implantação com controles e possibilidade de reversão.
16 out 2026 ↗
Guardrail em IA: o que controla, onde atua e o que não garante
Um guardrail é um controle que verifica entradas, saídas ou ações de um sistema de IA com base em uma política definida. Seu alcance depende do que analisa e de quando intervém: pode reduzir certos riscos, mas, por si só, não demonstra que todo o sistema seja seguro.
01 out 2026 ↗