Qu’est-ce Que L’IA Explicable ? Un Guide Clair De La XAI

L’IA explicable, ou XAI, vise à aider les gens à comprendre ce qu’un système d’intelligence artificielle fait et pourquoi il produit un résultat donné. Cela peut consister à inspecter directement un modèle simple, à étudier les entrées qui influencent une prédiction ou à tester comment la réponse change selon les conditions.

L’objectif est plus utile que de rendre une boîte noire éloquente. Si un système rejette une demande ou déclenche une alerte, il faut pouvoir examiner la décision. « L’ordinateur a dit non » n’a jamais été une conversation satisfaisante, même lorsque l’ordinateur ajoute un emoji sympathique.

Qu’est-ce que l’IA explicable ?

La XAI est un ensemble d’approches, pas un algorithme unique. Certaines expliquent une prédiction individuelle ; d’autres décrivent le comportement d’un modèle sur de nombreux exemples. Une explication destinée à un ingénieur qui débogue un système peut être très différente de celle destinée à une personne qui conteste sa décision.

On distingue souvent l’interprétabilité, qui consiste à comprendre directement un modèle, de l’explication post hoc, qui ajoute une méthode d’explication autour d’un modèle existant. La terminologie se recoupe dans ce domaine : ce sont donc des distinctions utiles plutôt que des définitions universellement imposées.

Toute explication ne révèle pas non plus l’intégralité du chemin de calcul, ne fournit pas une confiance calibrée ou n’explique pas chaque possibilité rejetée. Un outil peut bien répondre à une question précise tout en laissant les autres ouvertes.

Pourquoi l’explicabilité compte

Débogage : un modèle peut apprendre un raccourci qui fonctionne sur ses données d’entraînement et échoue ailleurs. L’examen des variables influentes peut aider une équipe à remarquer qu’un classificateur réagit à un motif d’arrière-plan plutôt qu’au sujet visé.

Responsabilité : une explication peut faciliter la contestation d’une entrée incorrecte ou d’une décision discutable. Cela exige une véritable procédure de réexamen, pas simplement un graphique coloré à côté d’une porte verrouillée.

Obligations légales : certaines décisions sont déjà soumises à des exigences précises d’explication ou de notification. Selon les règles américaines du crédit figurant dans la Regulation B, les motifs d’une mesure défavorable doivent préciser les principales raisons réellement utilisées ; dire simplement que le demandeur n’a pas obtenu le score requis est insuffisant. La règle ne prescrit pas de graphiques SHAP.

Des obligations différentes ne doivent pas être fondues dans une « loi XAI » universelle. Les règles de New York sur les outils automatisés de décision en matière d’emploi portent sur les outils couverts, les audits de biais, la publication des informations d’audit et les avis. Une explication individuelle d’attribution des variables ne remplace pas cet audit.

L’article 86 du règlement européen sur l’IA prévoit un droit encadré à des explications pour certaines décisions lourdes de conséquences impliquant des systèmes à haut risque spécifiés. Son entrée en vigueur en 2024 ne doit pas être confondue avec l’application immédiate de toutes ses obligations : le champ et les dates d’application comptent.

Boîtes noires, boîtes de verre et question de l’exactitude

Un petit arbre de décision peut être suivi branche par branche. Une courte liste de règles peut être lue directement. Les modèles linéaires ou additifs peuvent aussi être interprétables lorsque leurs variables et relations restent gérables.

« Famille de modèles simple » ne signifie pas automatiquement « facile à comprendre pour une personne ». Des milliers de variables transformées peuvent rendre la lecture d’un modèle apparemment modeste très exigeante.

Les grands réseaux neuronaux et les ensembles complexes de modèles sont plus difficiles à inspecter dans leur totalité. Cela motive les méthodes post hoc, mais ne prouve pas que l’opacité soit nécessaire à chaque tâche. Dans un article de 2019, Cynthia Rudin défendait l’emploi de modèles intrinsèquement interprétables dans les contextes à forts enjeux, plutôt que de présumer qu’une boîte noire accompagnée d’une explication constitue la bonne conception.

La leçon pratique consiste à comparer des modèles adaptés sur la tâche réelle. Ni « la transparence perd toujours » ni « la transparence gagne toujours » n’est un raccourci utile. Notre guide sur le fonctionnement des LLM (en anglais) présente une famille particulièrement complexe.

Techniques courantes d’IA explicable

Importance des variables

Les méthodes d’importance des variables demandent quelles entrées comptent pour un modèle. L’importance par permutation mélange les valeurs d’une variable et mesure le changement d’un score de performance choisi. L’importance intégrée aux arbres peut plutôt utiliser les améliorations associées aux divisions ; ce n’est pas le même calcul.

Un classement global résume le comportement sur un jeu de données. Il n’explique pas nécessairement le résultat d’une personne. Les variables corrélées compliquent aussi l’interprétation : le modèle peut conserver des informations similaires à travers une autre entrée.

SHAP et LIME

SHAP attribue aux variables des contributions à une prédiction selon un cadre lié aux valeurs de Shapley issues de la théorie des jeux. Ses propriétés mathématiques s’appliquent dans une configuration d’explication définie ; elles ne rendent pas chaque graphique uniquement correct indépendamment des données de référence, des hypothèses ou des approximations.

LIME ajuste un modèle plus simple autour d’un exemple précis pour approcher localement le modèle original. Le résultat dépend de la construction et de l’échantillonnage de ce voisinage. Vérifiez la qualité de l’approximation plutôt que de supposer que le petit modèle décrit tout le système.

Il n’existe pas de classement universel de vitesse entre les deux. Les implémentations, les types de modèles et la quantité de calcul demandée font une différence.

Explications contrefactuelles

Une explication contrefactuelle demande quelles modifications des entrées produiraient un résultat différent. Dans un modèle hypothétique de prêt, une dette enregistrée plus faible pourrait faire franchir à une demande le seuil d’approbation.

Cela peut être utile, mais un changement mathématique n’est pas automatiquement un conseil pratique ni une promesse d’approbation future. Les modifications proposées devraient être réalisables, respecter ce que la personne peut contrôler et tenir compte d’autres conditions. « Avoir dix ans de moins » n’est pas un plan d’action.

Saillance et attention

Les méthodes de saillance mettent en évidence les régions ou variables d’entrée associées à une prédiction selon leur calcul. Une carte de chaleur peut orienter l’examen, mais une tache brillante ne prouve pas que le modèle a correctement compris un objet.

Les poids d’attention constituent une autre visualisation tentante. L’article de 2019 Attention Is Not Explanation a montré, dans les contextes de traitement du langage étudiés, que des distributions d’attention très différentes pouvaient produire des prédictions équivalentes. Traitez une carte d’attention comme un signal à examiner, pas comme une image littérale de la compréhension.

Interprétabilité mécaniste

Cette approche étudie les calculs internes et les interactions d’un modèle, souvent en testant des hypothèses par des interventions sur ceux-ci. Elle pose une question différente de celle d’un résumé des contributions des variables destiné à l’utilisateur.

C’est une recherche prometteuse, mais ni une cartographie complète d’un grand modèle ni la seule voie légitime vers une compréhension utile. Des questions différentes appellent des preuves différentes.

Ce que ces outils peuvent aider à faire

Dans l’évaluation du crédit, les explications peuvent relier un résultat aux facteurs réellement pris en compte. Dans les opérations de sécurité, elles peuvent aider un analyste à examiner une alerte. Dans la recherche médicale ou le développement d’aide à la décision, elles peuvent servir à vérifier si le modèle s’appuie sur des signaux plausibles.

Ce sont des usages possibles, pas l’affirmation que chaque banque, hôpital ou équipe de sécurité a déployé le même tableau de bord. Les explications ne remplacent ni la validation, ni l’expertise métier, ni une procédure de correction des erreurs.

Les citations d’un chatbot remplissent un autre rôle utile : vérifier les éléments à l’appui. Comme l’explique notre guide du RAG (en anglais), les sources récupérées peuvent nourrir une réponse. Une citation aide à examiner les preuves ; elle ne révèle pas à elle seule pourquoi le modèle a généré cette réponse ni ne prouve qu’il a utilisé fidèlement la source.

Quand les explications peuvent induire en erreur

Le comportement d’un modèle n’est pas la causalité du monde réel. Une attribution de variables peut décrire la dépendance du modèle à une variable sans montrer que modifier celle-ci cause le résultat dans le monde. Une explication fidèle d’un mauvais raccourci peut malgré tout être précieuse : elle peut mettre le problème au jour.

Un récit soigné peut omettre des influences importantes. Dans l’étude d’Anthropic d’avril 2025, les modèles de raisonnement testés omettaient souvent de reconnaître des indices ayant influencé leurs réponses. Cela va à l’encontre de l’idée que le raisonnement généré serait une transcription garantie, sans prouver que toute explication de tout modèle soit fausse.

La stabilité ne suffit pas. Une méthode peut répéter fidèlement la même histoire trompeuse. Inversement, de petites modifications peuvent légitimement changer une explication près d’une frontière de décision. Évaluez la fidélité au modèle autant que la répétabilité.

La confiance nécessite ses propres vérifications. Un score n’est pas forcément une probabilité calibrée. Ajouter « confiance de 99 % » à une décision peut rendre l’interface plus persuasive sans la rendre plus fiable.

Le calcul a un coût. Certaines méthodes d’explication exigent de nombreuses évaluations supplémentaires du modèle. D’autres sont relativement peu coûteuses. Choisissez une méthode qui répond à la question voulue dans les limites de ressources et de délai de réponse de l’application.

Comment évaluer une explication

Les principes du NIST de 2021 offrent un point de départ utile : fournir une explication, la rendre compréhensible et pertinente pour son public, refléter fidèlement le système et reconnaître les limites de ses connaissances.

Pour un examen pratique, demandez :

À quelle question précise cette explication répond-elle ?
Décrit-elle une prédiction ou le comportement sur un jeu de données ?
Comment sa fidélité a-t-elle été testée, et quelles hypothèses l’affectent ?
Le lecteur visé peut-il la comprendre ?
Des données erronées ou une décision contestée peuvent-elles être examinées par un responsable ?
Précise-t-elle ce qu’elle ne peut pas établir ?

Une explication n’a pas toujours à permettre d’agir de la même manière. Un chercheur étudiant un classificateur et un demandeur souhaitant une correction ont des besoins différents. L’interface devrait refléter cette différence.

Questions fréquentes

L’explicabilité est-elle identique à l’interprétabilité ?

Les termes se recoupent. Une distinction utile sépare la compréhension directe d’un modèle de l’usage d’une méthode supplémentaire pour expliquer son comportement. Vérifiez comment l’auteur les définit.

La XAI réduit-elle l’exactitude ?

Une explication post hoc laisse normalement la prédiction sous-jacente inchangée. Choisir un autre modèle, plus interprétable, peut modifier les performances ; mesurez le compromis plutôt que de le présumer.

Un chatbot peut-il s’expliquer lui-même ?

Il peut générer une explication, mais ce texte ne garantit pas de révéler toutes les influences derrière sa réponse. Confrontez ses affirmations aux preuves et au comportement du système.

SHAP est-il un certificat de conformité ?

Non. Les obligations légales dépendent de la décision, de la juridiction et des règles applicables. Un graphique donné ne satisfait pas automatiquement aux exigences de notification, d’audit ou d’explication.

Par où commencer quand on débute ?

Essayez un petit arbre de décision sur un jeu de données familier, puis comparez-le à un modèle plus complexe et à une explication locale. Examinez les échecs autant que les réussites. Comprendre un exemple gênant peut apprendre davantage que remplir un dossier de cartes de chaleur impressionnantes.

L’objectif n’est pas de rendre toutes les machines rassurantes. Il est de faciliter l’examen, la contestation et l’amélioration des décisions. Votre chat n’expliquera peut-être jamais le vase cassé, mais un système logiciel important devrait offrir davantage que l’équivalent numérique d’un départ sans explication.

Traduction française de l’article original en anglais du 2026-06-05. Traduction réalisée avec l’aide de l’IA le 1 novembre 2026 ; les références temporelles restent celles de l’original.