Definizione in una frase
Attacco o interferenza in cui contenuto non affidabile tenta di deviare il sistema dalle sue regole o dal suo obiettivo legittimo.
SICUREZZA E GOVERNANCE · INTERMEDIO
Iniezione di istruzioni
Attacco o interferenza in cui contenuto non affidabile tenta di deviare il sistema dalle sue regole o dal suo obiettivo legittimo.
Conosciuto anche comeprompt injection
ANALISI
Analisi correlate
Robustezza: definizione, valutazione e limiti nei sistemi di apprendimento automatico
La robustezza non è una proprietà assoluta: è una relazione tra un obiettivo, un modificatore, un dominio di variazione e una tolleranza. Questa scheda spiega come rendere operativo il concetto, verificare i modelli in presenza di cambiamenti nella distribuzione dei dati e capire perché buone prestazioni in laboratorio non garantiscono un comportamento affidabile nel mondo reale.
21 ott 2026 ↗
Test avversariali: definizione, metodologia e limiti nei sistemi di IA
I test avversariali nell’IA cercano intenzionalmente di mettere alla prova le garanzie di un sistema con input ostili e scenari progettati per provocare errori. Questa scheda definisce la pratica, distingue il lavoro manuale dall’automazione, descrive il ciclo tecnico e chiarisce i limiti di copertura e riproducibilità.
17 ott 2026 ↗
Dal prototipo alla modifica distribuita: integrare l’IA con permessi limitati
Una guida per collegare un modello a uno strumento interno senza dargli autorità diretta sui dati: definisci un’interfaccia circoscritta, valida ogni proposta nel codice e distribuisci la funzione con controlli e possibilità di rollback.
16 ott 2026 ↗
Guardrail nell’IA: cosa controlla, dove interviene e cosa non garantisce
Un guardrail è un controllo che verifica input, output o azioni di un sistema di IA rispetto a una policy definita. La sua portata dipende da cosa esamina e da quando interviene: può ridurre determinati rischi, ma da solo non dimostra che l’intero sistema sia sicuro.
01 ott 2026 ↗