Définition en une phrase
Attaque ou interférence dans laquelle un contenu non fiable tente de détourner le système de ses règles ou de son objectif légitime.
SÉCURITÉ ET GOUVERNANCE · INTERMÉDIAIRE
Injection d’instructions
Attaque ou interférence dans laquelle un contenu non fiable tente de détourner le système de ses règles ou de son objectif légitime.
Également appeléinjection de prompt
ANALYSE
Analyses connexes
Robustesse : définition, fonctionnement et limites dans les systèmes d'apprentissage automatique
La robustesse n'est pas une propriété absolue, mais une relation entre un objectif, un modificateur, un domaine de variation et une tolérance. Cette fiche explique comment opérationnaliser le concept, comment auditer les modèles face aux changements de distribution et pourquoi une haute performance en conditions de laboratoire ne garantit pas un comportement fiable dans le monde réel.
21 oct. 2026 ↗
Tests adversariaux : définition, méthode et limites des systèmes d’IA
Les tests adversariaux en IA visent à mettre à l’épreuve les garanties d’un système au moyen d’entrées hostiles ou de scénarios conçus pour provoquer des défaillances. Cette fiche définit la pratique, distingue l’évaluation manuelle de l’automatisation, décrit le cycle technique et examine les limites de couverture et de reproductibilité.
17 oct. 2026 ↗
Du prototype au changement déployé : intégrer l’IA avec des autorisations limitées
Un guide pour connecter un modèle à un outil interne sans lui donner le pouvoir de modifier directement les données : définissez une interface restreinte, validez chaque proposition dans le code et déployez avec des contrôles et une procédure de retour arrière.
16 oct. 2026 ↗
Guardrail en IA : ce qu’il contrôle, où il intervient et ce qu’il ne garantit pas
Un guardrail est un contrôle qui vérifie les entrées, les sorties ou les actions d’un système d’IA au regard d’une politique définie. Sa portée dépend de ce qu’il examine et du moment où il intervient : il peut réduire certains risques, mais ne prouve pas à lui seul que l’ensemble du système est sûr.
01 oct. 2026 ↗