Grounding : définition, fonctionnement et limites en IA

Définition et concepts à ne pas confondre

Dans le contexte de l'intelligence artificielle et des grands modèles de langage (LLM), le grounding est le processus de connexion de la sortie générée par le modèle à des informations externes, correctes et à jour. Contrairement à la génération basée uniquement sur la mémoire paramétrique (les poids du modèle), le grounding exige que les affirmations soient traçables jusqu'à une source de vérité récupérable, telle qu'un document, une base de données ou un outil externe.

Il est fondamental de distinguer le grounding technique de l'IA d'autres concepts homonymes. Par exemple, il ne doit pas être confondu avec la « Grounded Theory » (Théorie Fondée), une méthodologie de recherche qualitative en sciences sociales, ni avec le « symbol grounding problem » philosophique de Stevan Harnad, qui aborde la manière dont les symboles acquièrent un sens intrinsèque. Dans la pratique actuelle de l'IA, le grounding est une question de preuve : une phrase spécifique est-elle traçable jusqu'à une source que quelqu'un peut ouvrir et lire ?

Fonctionnement étape par étape

Le processus de grounding opère au moment de l'inférence, et non pendant l'entraînement. D'abord, le système doit avoir accès à une source de vérité gouvernée et interrogeable. Lorsque l'utilisateur pose une requête, le système récupère les segments de données les plus pertinents de cette source. Ensuite, le modèle de langage reçoit ces passages comme contexte et génère une réponse strictement conditionnée par ce matériau.

L'étape critique est la restriction de la génération. Le modèle doit se limiter à ce que la source récupérée indique, sans le mélanger à des connaissances obsolètes de son entraînement. Enfin, le système expose les citations ou les références aux sections spécifiques du document d'origine, permettant à un humain ou à un évaluateur automatisé de vérifier la traçabilité de chaque affirmation.

Trois exemples développés dans des domaines pertinents

Le grounding est particulièrement critique dans les environnements à haut risque où la précision et l'audit sont non négociables. Voici trois scénarios où cette technique modifie la fiabilité du système.

Dans le domaine juridique, un système de révision de contrats peut extraire des obligations et des clauses de documents PDF complexes. Sans grounding, le modèle pourrait inventer des dates ou des montants. Avec le grounding, chaque donnée extraite est liée à la page et à la section spécifiques du contrat, permettant à l'avocat de vérifier la source exacte.

Comment évaluer le résultat

Évaluer si un système est réellement fondé nécessite plus que de vérifier si la réponse est « plausible ». La recherche suggère qu'un modèle n'est fondé que s'il utilise pleinement les connaissances nécessaires du contexte fourni et reste dans les limites de ce contexte. Une réponse qui cite un document réel mais ajoute deux phrases d'invention plausible n'est pas fondée, même si la récupération a fonctionné.

L'évaluation doit se concentrer sur la traçabilité et l'adhésion. Si le modèle s'écarte de ce que dit la source récupérée, le grounding a échoué, indépendamment de la qualité de la récupération. De plus, il est crucial de vérifier que les sources récupérées sont les bonnes et à jour, car un grounding sur des données obsolètes ou incorrectes produit des réponses erronées avec une haute confiance.

Erreurs courantes et limites

L'erreur la plus courante est de supposer que le grounding élimine complètement les hallucinations. C'est faux. Le grounding réduit la fabrication de faits et rend le reste traçable, mais ne garantit pas la correction absolue. Si la source récupérée est erronée, obsolète ou contradictoire, le modèle peut fonder sa réponse sur ces informations incorrectes avec une confiance totale.

Une autre limite importante est la gouvernance des données. Un modèle fondé sur des données non gouvernées peut accéder à des informations que l'utilisateur ne devrait pas voir (fuite de données) ou utiliser des définitions de métriques obsolètes. Le grounding détermine que le modèle utilise des données externes, mais la gouvernance détermine si ces données sont les bonnes, actuelles et autorisées. De plus, le grounding ne couvre pas tout le contexte : il ne sait pas qui est l'utilisateur ni ce qui s'est passé dans les tours précédentes de la conversation, des aspects qui dépendent de l'ingénierie de contexte plus large.

Questions fréquentes et sources primaires

Le grounding est-il la même chose que le fine-tuning ? Non. Le fine-tuning modifie les poids du modèle pour changer son comportement ou son style, mais n'offre pas de citations ni de garanties de mise à jour. Le grounding laisse les poids intacts et fournit des preuves au moment de l'inférence, ce qui rend la réponse attribuable et immédiatement actualisable lorsque la source sous-jacente change.

Pourquoi le grounding échoue-t-il ? Il échoue généralement à la récupération, et non à la génération. Si la récupération ne renvoie rien d'utile, le modèle comble le vide avec des hallucinations. Améliorer la récupération (par exemple, en utilisant des embeddings contextuels ou du reranking) est la manière la plus efficace d'améliorer le grounding, car c'est un problème de récupération d'informations qui utilise un modèle de langage comme interface.

Concepts associés