Mais pour celles et ceux qui travaillent sur l'IA explicable, la vraie question commence après le résultat : pourquoi ce modèle a-t-il répondu cela ? Qu'a-t-il vu dans les données ? Quels critères ont pesé ? Peut-on comprendre son raisonnement ? Et surtout, peut-on lui faire confiance ?

C'est le cœur d'un champ de recherche devenu central : l'IA explicable, souvent appelée XAI, pour Explainable Artificial Intelligence. Son ambition est simple à formuler, mais difficile à atteindre : rendre les systèmes d'intelligence artificielle plus lisibles pour les humains.

Car les modèles les plus puissants sont aussi souvent les plus opaques. Ils produisent des réponses impressionnantes, détectent des tendances invisibles, analysent des volumes massifs d'informations. Mais leur fonctionnement interne reste difficile à interpréter. Cette opacité est parfois appelée la « boîte noire » de l'IA.

Or, dans certains domaines, une boîte noire ne suffit pas.

Quand la performance ne suffit plus

Dans le commerce, une recommandation peu claire peut être gênante. Dans la santé, la justice, l'éducation, le recrutement, la banque ou l'administration, elle peut devenir problématique.

Si un système d'IA aide à refuser un crédit, à prioriser un patient, à sélectionner un candidat, à détecter une fraude ou à orienter une décision publique, il ne peut pas seulement produire un score. Il doit permettre de comprendre les facteurs qui ont conduit à ce résultat.

L'explicabilité devient alors une question de responsabilité. Sans explication, comment corriger une erreur ? Comment repérer un biais ? Comment contester une décision ? Comment savoir si le modèle a appris quelque chose de pertinent ou s'il reproduit simplement des inégalités présentes dans les données ?

Le NIST, organisme américain de référence sur les standards technologiques, place d'ailleurs l'explicabilité, l'interprétabilité, la transparence et la responsabilité parmi les caractéristiques nécessaires à une gestion sérieuse des risques liés à l'IA.

« Une IA que personne ne comprend peut être efficace. Mais elle ne peut pas être pleinement responsable. »

La boîte noire, un problème très concret

L'image de la boîte noire peut sembler abstraite. Elle ne l'est pas.

Un modèle peut apprendre à associer certains signaux à un résultat sans que ces signaux soient légitimes. Il peut repérer des corrélations trompeuses. Il peut favoriser certains profils parce que les données historiques les favorisaient déjà. Il peut produire des réponses différentes selon des variables que l'on croyait neutres.

Dans un système complexe, l'erreur n'est pas toujours visible. Une prédiction peut être statistiquement correcte dans la majorité des cas, tout en produisant des injustices pour certains groupes. C'est précisément ce qui rend l'explicabilité importante : elle ne cherche pas seulement à ouvrir le capot de la machine, mais à comprendre ses effets réels.

Rendre une IA explicable, ce n'est donc pas demander à la machine de raconter une belle histoire après coup. C'est construire des outils pour analyser son comportement, identifier les variables décisives, documenter les données utilisées, mesurer les biais possibles et permettre à un humain de reprendre la main.

Expliquer à qui ?

L'une des difficultés majeures tient à cette question : pour qui l'IA doit-elle être explicable ?

Un chercheur n'a pas besoin du même niveau de détail qu'un médecin. Un régulateur ne demande pas la même chose qu'un utilisateur. Un patient, un candidat à un emploi ou un citoyen confronté à une décision automatisée n'a pas besoin d'une équation mathématique. Il a besoin d'une explication compréhensible.

L'explicabilité n'est donc pas seulement un problème technique. C'est aussi un problème de langage.

Il faut traduire un fonctionnement complexe en information utile. Expliquer sans simplifier à l'excès. Donner assez de détails pour permettre la confiance, sans noyer l'utilisateur dans des données incompréhensibles. Reconnaître les limites du système sans le rendre inutilisable.

C'est là que le travail des chercheurs devient essentiel : construire des ponts entre les modèles, les professionnels et les citoyens.

Trois chantiers pour rendre l'IA lisible

1. Documenter les données

Une IA apprend à partir de données. Si ces données sont incomplètes, biaisées ou mal représentatives, le modèle risque de reproduire ces défauts. L'explicabilité commence donc avant même l'entraînement : il faut savoir d'où viennent les données, ce qu'elles contiennent, ce qu'elles oublient et dans quel contexte elles ont été collectées.

Sans cette documentation, on ne comprend pas vraiment ce que le modèle a appris.

2. Comprendre les critères de décision

Le deuxième chantier consiste à identifier les éléments qui pèsent dans le résultat. Pourquoi tel profil est-il classé comme risqué ? Pourquoi telle image est-elle jugée suspecte ? Pourquoi telle recommandation apparaît-elle en premier ?

Cette étape permet de repérer des signaux abusifs, des corrélations fragiles ou des critères indirectement discriminants.

3. Maintenir un contrôle humain

L'explication ne sert à rien si personne ne peut agir dessus. Une IA explicable doit permettre à un professionnel de corriger, refuser, auditer ou contester un résultat. L'humain ne doit pas être réduit à valider mécaniquement une décision déjà prise par la machine.

L'OCDE insiste justement sur l'importance de fournir des informations compréhensibles sur les systèmes d'IA, leurs limites, leurs facteurs de décision et les moyens de contester leurs résultats lorsque ceux-ci affectent les personnes.

Le droit pousse dans le même sens

L'exigence d'explicabilité n'est plus seulement portée par les laboratoires. Elle arrive aussi dans le droit, la conformité et les politiques publiques.

En Europe, l'AI Act repose sur une approche par les risques : plus un système d'IA peut affecter la sécurité, les droits fondamentaux ou la vie des personnes, plus les obligations sont fortes. Les règles de transparence du texte doivent notamment entrer en application en août 2026.

En France, la CNIL a également publié des recommandations pour aider les acteurs à développer des systèmes d'IA compatibles avec le RGPD, en particulier lorsqu'ils utilisent des données personnelles. Elle rappelle aussi que les droits des personnes doivent pouvoir être exercés malgré la complexité des modèles.

Cette évolution change le statut de l'explicabilité. Elle n'est plus un supplément éthique ou une promesse marketing. Elle devient une condition de confiance, de conformité et parfois d'acceptabilité sociale.

Le piège de la fausse transparence

Mais expliquer l'IA ne veut pas dire tout rendre simple.

Il existe un risque : celui de produire des explications rassurantes, mais superficielles. Une interface peut afficher quelques critères, une phrase automatique, une justification approximative. L'utilisateur croit comprendre, alors qu'il ne voit qu'une version simplifiée, voire trompeuse, du raisonnement du modèle.

C'est l'un des grands défis de l'IA explicable : éviter la transparence de façade.

Une bonne explication doit être utile. Elle doit permettre de poser une question, de vérifier un résultat, de détecter une anomalie, de demander un recours. Elle doit être adaptée au niveau de risque. On n'exige pas la même chose d'un outil qui recommande une série et d'un système qui oriente une décision médicale.

L'explicabilité doit donc rester proportionnée, mais réelle.

Pourquoi les entreprises s'y intéressent

Pour les entreprises, rendre l'IA explicable n'est pas seulement une contrainte. C'est aussi un avantage.

Un modèle compréhensible est plus facile à déployer. Les équipes lui font davantage confiance. Les clients acceptent mieux ses recommandations. Les risques juridiques sont mieux maîtrisés. Les erreurs peuvent être détectées plus tôt.

Dans les secteurs sensibles — finance, assurance, santé, ressources humaines, industrie — l'explicabilité devient un critère de robustesse. Elle aide à répondre à une question simple : pouvons-nous assumer ce que notre IA produit ?

Les entreprises qui négligent cette question risquent de se retrouver avec des outils puissants, mais difficiles à défendre. Car dans un monde de plus en plus régulé, il ne suffira plus de dire : « Le modèle l'a prédit. » Il faudra pouvoir expliquer pourquoi.

Et maintenant ?

La chercheuse qui veut rendre l'IA explicable ne cherche pas à ralentir l'innovation. Elle cherche au contraire à la rendre durable.

Car une IA incomprise finit toujours par rencontrer une limite : la défiance. Les utilisateurs hésitent. Les professionnels doutent. Les régulateurs s'inquiètent. Les citoyens se sentent dépossédés. À l'inverse, une IA mieux expliquée peut devenir un outil plus solide, plus responsable et mieux accepté.

Le défi est immense. Les modèles deviennent plus puissants, plus multimodaux, plus intégrés à nos logiciels et bientôt plus autonomes. Plus ils agiront dans le réel, plus nous aurons besoin de comprendre leurs raisons, leurs limites et leurs erreurs possibles.

L'avenir de l'IA ne dépendra donc pas seulement de sa capacité à répondre vite. Il dépendra aussi de sa capacité à répondre clairement.

Rendre l'intelligence artificielle explicable, ce n'est pas exiger d'elle qu'elle pense comme nous. C'est exiger que nous puissions encore comprendre, discuter et gouverner les systèmes qui transforment déjà nos décisions.