Une audit révèle une baisse des performances lorsque les fuites de données sont contrôlées dans le diagnostic par IA

Ce que l’audit a examiné

Jian Yang et six coauteurs présentent un audit empirique des artefacts d’évaluation et des risques de fuite de données dans les systèmes d’intelligence artificielle destinés au diagnostic des maladies rares. Le travail est disponible sous forme de prépublication sur arXiv, avec une date de soumission au 24 octobre 2026. La page consultée indique qu’il s’agit de la version v1 ; les informations disponibles ne précisent pas si le texte a été évalué par les pairs.

Le résumé décrit un répertoire de plus de 60 000 cas issus de cohortes cliniques publiques et indépendantes. Les auteurs ont reconstruit un cadre de diagnostic agentique et comparé les résultats selon différentes configurations d’évaluation. La taille du répertoire ne permet pas, à elle seule, de savoir combien de cas ont été inclus dans chaque analyse, comment ils ont été répartis entre les cohortes ni dans quelle mesure ils étaient indépendants des données d’entraînement de chaque système.

Pourquoi la séparation des données est importante

Un benchmark vise à estimer comment un système se comporterait face à des cas qu’il n’a pas déjà vus. Si des informations liées à un cas figurent aussi dans l’espace des candidats ou dans les données utilisées pour construire ou évaluer le système, le score peut refléter en partie cette contamination, plutôt que mesurer uniquement la capacité de généralisation à de nouveaux cas.

Dans les systèmes qui proposent un diagnostic parmi plusieurs options, le Recall@1 mesure la proportion de cas pour lesquels la première proposition du système correspond à la réponse de référence. C’est une métrique de classification propre à une configuration donnée : elle n’équivaut pas à un taux de diagnostics corrects lors de consultations réelles et n’indique pas, à elle seule, si le système est sûr, utile ou adapté à une décision médicale.

La variation rapportée pour le système agentique

D’après le résumé, le Recall@1 moyen entre les jeux de données est passé de 54,3 % avec une évaluation conventionnelle « un contre tous » à 40,3 % après mise en place d’une séparation stricte entre les jeux. L’écart est de 14 points de pourcentage. Les auteurs rapportent également une taille d’effet Hedges’ g de 0,94, une mesure standardisée qui décrit l’ampleur de la différence observée dans leur analyse.

Ces données étayent une conclusion circonscrite : dans l’évaluation reconstruite par les auteurs, la configuration de l’espace des candidats et la séparation des données étaient associées à une différence importante de score. Elles ne permettent pas d’attribuer l’intégralité de cet écart à une cause unique ni de généraliser ces pourcentages à d’autres modèles, bases de données, maladies ou contextes cliniques. Le résumé ne détaille pas ici les résultats par cohorte et ne fournit pas d’intervalles d’incertitude.

Classificateurs supervisés et autres sources de variation

Le même résumé indique que l’exactitude moyenne des classificateurs supervisés est passée de 42,9 % lors d’une évaluation interne à 16,7 % sur des cohortes externes. Les auteurs relient cet écart au surapprentissage spatial. Ils rapportent également une taille d’effet Cohen’s d de 2,01. Cette comparaison montre que les performances observées peuvent changer sensiblement lorsque l’évaluation s’effectue en dehors du jeu interne. Elle ne suffit toutefois pas à déterminer quelle part de l’écart relève du surapprentissage et quelle part s’explique par des différences entre cohortes, données ou protocoles.

Le travail indique aussi avoir examiné les indices thérapeutiques rétrospectifs présents dans les récits cliniques et les décalages temporels dans les bases de connaissances utilisées par les modèles. Selon le résumé, ces éléments peuvent influencer les inférences ou entraîner des variations de performance. Aucun chiffre détaillé n’y est fourni pour chacun de ces mécanismes ; il est donc impossible de quantifier leur contribution respective aux baisses rapportées.

Ce que l’on peut conclure — et ce qui reste hors de portée

La principale conclusion des auteurs est que certains protocoles d’évaluation peuvent comporter des fuites ou des artefacts et ainsi donner une image trop favorable des systèmes de diagnostic des maladies rares. Ils proposent d’associer une séparation stricte des données à des garanties standardisées pour les benchmarks. Cette proposition est une recommandation méthodologique ; le résumé ne montre pas que son application garantirait des évaluations sans biais ou des résultats cliniquement valides.

La portée des résultats reste celle d’un audit décrit dans un préprint. Les informations disponibles ne permettent pas de vérifier indépendamment les données, le code et le protocole, ni de déterminer si les cohortes étaient entièrement indépendantes de tous les jeux d’entraînement et d’évaluation d’origine. Elles ne démontrent pas non plus que les systèmes audités améliorent ou détériorent les résultats des patients. Les baisses publiées sont donc pertinentes pour interpréter les scores évalués, mais ne remplacent pas des études de validation clinique conçues pour mesurer les performances et les risques dans des conditions de soins.

Poursuivre l’exploration

Corrections et transparence

Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.