Qu’est-ce que l’ex­plai­nable AI (XAI) ?

L’eX­plai­nable Ar­ti­fi­cial In­tel­li­gence (XAI), en français l’IA ex­pli­cable, regroupe les approches per­met­tant de rendre les décisions des in­tel­li­gences ar­ti­fi­cielles (IA) trans­pa­rentes et ac­ces­sibles.

Avec la com­plexité crois­sante de l’IA et les avancées en Machine Learning, il devient de plus en plus difficile pour les uti­li­sa­teurs de com­prendre les processus derrière les résultats générés par une IA. Il est donc essentiel de maximiser la com­pré­hen­sion des décisions et des résultats des in­tel­li­gences ar­ti­fi­cielles.

La recherche en IA vise à rendre ces systèmes de plus en plus autonomes et per­for­mants, ce qui rend d’autant plus cruciale la nécessité d’expliquer leurs décisions. C’est pré­ci­sé­ment là qu’in­ter­vient l’ex­plai­nable AI (XAI) : elle offre une trans­pa­rence en ouvrant la « boîte noire » de l’IA et en four­nis­sant des aperçus sur le fonc­tion­ne­ment des al­go­rithmes.

Sans cela, il n’est pas possible d’établir une relation de confiance avec les calculs nu­mé­riques concernés. La trans­pa­rence créée par l’ex­plai­nable AI est donc d’une im­por­tance capitale pour l’ac­cep­ta­tion de l’in­tel­li­gence ar­ti­fi­cielle.

L’objectif est de dé­ve­lop­per des modèles ex­pli­cables, sans com­pro­mettre la précision et l’ef­fi­ca­cité des al­go­rithmes d’IA. La trans­pa­rence qu’apporte l’XAI est es­sen­tielle pour instaurer la confiance dans les systèmes d’IA. Cela permet aux uti­li­sa­teurs de mieux com­prendre le fonc­tion­ne­ment de l’IA et d’évaluer les résultats obtenus. Il est également né­ces­saire que les gé­né­ra­tions futures d’uti­li­sa­teurs puissent com­prendre les par­te­naires ar­ti­fi­ciel­le­ment in­tel­li­gents, leur faire confiance de manière ap­pro­priée et interagir ef­fi­ca­ce­ment avec eux. Sans cette com­pré­hen­sion, une uti­li­sa­tion fiable et une ac­cep­ta­tion de l’IA restent dif­fi­ciles.

Les prin­ci­paux domaines d’ap­pli­ca­tion de l’XAI

L’in­tel­li­gence ar­ti­fi­cielle n’est plus réservée aux cher­cheurs depuis un certain temps déjà. De nos jours, elle fait partie in­té­grante de la vie quo­ti­dienne. C’est la raison pour laquelle il est essentiel que la mo­du­la­rité de l’in­tel­li­gence ar­ti­fi­cielle ne soit pas uni­que­ment ac­ces­sible aux uti­li­sa­teurs directs : les dé­ci­sion­naires en par­ti­cu­lier doivent pouvoir com­prendre autant que possible le fonc­tion­ne­ment des IA pour avoir un minimum de confiance dans cette tech­no­lo­gie. C’est pourquoi la reddition de comptes (en anglais ac­coun­ta­bi­lity) est par­ti­cu­liè­re­ment im­por­tante. Les prin­ci­paux domaines d’ap­pli­ca­tion de l’IA ex­pli­cable sont listés dans la suite de cet article.

La conduite autonome

Le projet SAM mène des ex­pé­ri­men­ta­tions à grande échelle sur les véhicules autonomes en con­di­tions réelles. Le projet s’efforce de garantir que les décisions des al­go­rithmes en matière de conduite soient com­pré­hen­sibles et traçables, et inclut des approches pour rendre les systèmes plus trans­pa­rents en ex­pli­quant les com­por­te­ments du véhicule dans dif­fé­rentes si­tua­tions.

Le diag­nos­tic médical

Dans le domaine de la santé, l’IA est de plus en plus utilisée pour les diag­nos­tics et les re­com­man­da­tions thé­ra­peu­tiques, comme dans le projet SPCCT. Ce scanner innovant produit des données spec­trales dé­tail­lées, analysées par des al­go­rithmes intégrant les principes de l’ex­plai­nable AI. Ces al­go­rithmes per­met­tent d’ex­pli­ci­ter les étapes du diag­nos­tic et d’en améliorer la com­pré­hen­sion. En amé­lio­rant la clarté des décisions, SPCCT renforce la confiance des pro­fes­sion­nels de santé et facilite l’adoption de ces tech­no­lo­gies en milieu médical.

Le secteur financier

Dans le domaine financier, l’IA est utilisée pour les décisions de crédit, la détection de fraudes et l’éva­lua­tion des risques. L’XAI permet de mieux com­prendre les bases de ces décisions et de s’assurer qu’elles res­pec­tent les critères éthiques et ré­gle­men­taires. Ainsi, les parties con­cer­nées et les autorités de ré­gu­la­tion peuvent com­prendre comment et pourquoi un crédit a été accordé ou refusé.

La gestion et direction d’en­tre­prise

Pour les di­ri­geants, il est crucial de com­prendre le fonc­tion­ne­ment des systèmes d’IA, utilisés par exemple pour les décisions stra­té­giques ou les pré­vi­sions. L’XAI permet aux di­ri­geants de com­prendre les décisions des al­go­rithmes et d’en évaluer l’impact sur la stratégie d’en­tre­prise.

L’imagerie par réseaux neuronaux

L’XAI est également utilisée dans l’imagerie basée sur les réseaux neuronaux, notamment pour l’analyse des données visuelles par IA. Cette approche vise à com­prendre comment les réseaux neuronaux traitent et in­ter­prè­tent les in­for­ma­tions visuelles. Les ap­pli­ca­tions vont de l’imagerie médicale, comme l’analyse des ra­dio­gra­phies ou des IRM, à l’op­ti­mi­sa­tion des tech­no­lo­gies de sur­veil­lance. Grâce à l’XAI, il est possible de dé­chif­frer le fonc­tion­ne­ment de l’IA et d’iden­ti­fier les éléments d’une image utilisés pour la prise de décision. Cela revêt une im­por­tance par­ti­cu­lière dans les ap­pli­ca­tions critiques pour la sécurité ou sensibles sur le plan éthique, où de mauvaises in­ter­pré­ta­tions pour­raient entraîner des con­sé­quences graves.

La formation aux stra­té­gies mi­li­taires

Dans le domaine militaire, l’IA est utilisée pour dé­ve­lop­per des stra­té­gies pour les décisions tactiques ou les si­mu­la­tions. L’ex­plai­nable AI y joue un rôle clé en four­nis­sant des ex­pli­ca­tions sur les re­com­man­da­tions tactiques faites par l’IA et la prio­ri­sa­tion des dif­fé­rents scénarios.

Dans ces domaines, comme dans bien d’autres, l’XAI garantit que les systèmes d’IA soient perçus comme des outils fiables, trans­pa­rents et éthi­que­ment ac­cep­tables.

Comment fonc­tionne l’ex­plai­nable AI ?

Il existe dif­fé­rentes méthodes ou approches per­met­tant d’apporter de la trans­pa­rence et de la com­pré­hen­sion dans les in­tel­li­gences ar­ti­fi­cielles. Voici les prin­ci­pales :

• La Layer-wise Relevance Pro­pa­ga­tion (LRP ; que l’on peut traduire ap­proxi­ma­ti­ve­ment par « pro­pa­ga­tion de la per­ti­nence couche par couche ») a été décrite pour la toute première fois en 2015. Il s’agit d’une tech­no­lo­gie per­met­tant de dé­ter­mi­ner les ca­rac­té­ris­tiques des vecteurs d’entrée con­tri­buant le plus au résultat de sortie d’un réseau neuronal.
• La Coun­ter­fac­tual Method (« méthode con­tre­fac­tuelle ») décrit la façon dont des entrées de données (textes, images, dia­grammes, etc.) sont modifiées de façon en­tiè­re­ment ciblée après l’obtention d’un résultat. On observe ensuite dans quelle mesure le résultat a été modifié.
• Les Local In­ter­pre­table Model-Agnostic Ex­pla­na­tions (LIME) con­sis­tent en un modèle d’ex­pli­ca­tion avec une approche ho­lis­tique qui vise à expliquer n’importe quel clas­si­fi­ca­teur mécanique et les pro­nos­tics qui en résultent. Cette approche doit rendre ac­ces­sible les données et les méthodes à des uti­li­sa­teurs non spé­cia­li­sés.
• La ra­tio­na­li­sa­tion est une méthode utilisée spé­cia­le­ment pour les robots basés sur une IA. Dans ce cadre, la machine est conçue de façon à pouvoir expliquer ses actions de façon autonome.

Ex­plai­nable AI vs. Ge­ne­ra­tive AI : quelle dif­fé­rence ?

L’IA ex­pli­cable (XAI) et l’IA gé­né­ra­tive (GenAI) se dis­tin­guent fon­da­men­ta­le­ment par leurs objectifs et leurs ap­pli­ca­tions :

L’IA ex­pli­cable vise à rendre les processus dé­ci­sion­nels des modèles d’IA com­pré­hen­sibles et trans­pa­rents. Pour cela, elle utilise des méthodes telles que les vi­sua­li­sa­tions, les systèmes basés sur des règles ou des outils comme LIME et SHAP. Cette approche met l’accent sur la trans­pa­rence, es­sen­tielle dans des domaines critiques où la confiance et l’ex­pli­ca­bi­lité sont pri­mor­diales.

L’IA gé­né­ra­tive, quant à elle, se concentre sur la création de nouveaux contenus : textes, images, musique ou vidéos. Elle repose sur des réseaux neuronaux comme les Ge­ne­ra­tive Ad­ver­sa­rial Networks (GAN) ou des modèles trans­for­meurs, pour produire des résultats créatifs simulant des processus humains ou ar­tis­tiques. Des outils comme GPT pour les textes ou DALL-E pour les images il­lustrent ces capacités, largement ex­ploi­tées dans les domaines de l’art, du di­ver­tis­se­ment et de la pro­duc­tion de contenu.

L’XAI vise à expliquer le fonc­tion­ne­ment des modèles existants, tandis que l’IA gé­né­ra­tive se concentre sur la pro­duc­tion de nouveaux contenus, avec des ap­pli­ca­tions com­plé­men­taires. Ces deux approches peuvent néanmoins être combinées : par exemple, des modèles gé­né­ra­tifs peuvent être analysés par l’XAI pour garantir que leurs résultats soient éthiques, trans­pa­rents et fiables. Ensemble, IA ex­pli­cable et IA gé­né­ra­tive con­tri­buent à faire pro­gres­ser la trans­pa­rence et l’in­no­va­tion dans le domaine de l’in­tel­li­gence ar­ti­fi­cielle.