Maîtriser l'intelligence artificielle

© Fraunhofer IPA

© Fraunhofer IPA

L'intelligence artificielle a généralement un caractère de boîte noire. Pourtant, seule la transparence peut instaurer la confiance. Pour expliquer le processus de résolution, il existe des logiciels spécifiques. Une étude de l'Institut Fraunhofer IPA a comparé et évalué différentes méthodes permettant de rendre explicables les processus d'apprentissage automatique.

L'intelligence artificielle, qui il y a quelques décennies encore relevait de la science-fiction, est désormais intégrée dans la vie quotidienne. Dans la fabrication, elle détecte les anomalies dans le processus de production, dans les banques, elle décide des crédits, et chez Netflix, elle trouve le film adapté à chaque client. Derrière, se trouvent des algorithmes hautement complexes qui opèrent dans l'ombre. Plus le problème est complexe, plus le modèle d'IA est sophistiqué — et donc aussi opaque.

Mais les utilisateurs veulent surtout, dans des applications critiques, comprendre comment une décision a été prise : pourquoi la pièce a-t-elle été rejetée comme défectueuse ? Qu'est-ce qui cause l'usure de ma machine ? Ce n'est qu'ainsi que des améliorations peuvent être apportées, notamment en matière de sécurité. De plus, le Règlement général sur la protection des données de l'Union européenne oblige à rendre les décisions compréhensibles.

Comparatif de logiciels pour l'XAI

Pour résoudre ce problème, un domaine de recherche entier s'est développé : l'« Intelligence Artificielle Explicable », ou xAI en abrégé. Sur le marché, il existe désormais de nombreux outils numériques qui rendent explicables les processus complexes de l'IA. Par exemple, ils indiquent dans une image quels pixels ont conduit au rejet de pièces défectueuses. Des experts de l'Institut Fraunhofer pour la Technologie de la Production et l'Automatisation IPA à Stuttgart ont comparé neuf méthodes explicatives courantes — telles que LIME, SHAP ou Layer-Wise Relevance Propagation — et les ont évaluées à l'aide d'applications exemplaires. Trois critères principaux ont été pris en compte :

- Stabilité : Pour une même tâche, le programme doit toujours fournir la même explication. Il ne doit pas arriver qu'une anomalie dans une machine de production soit attribuée à un capteur A une fois, puis à un capteur B une autre fois. Cela détruirait la confiance dans l'algorithme et compliquerait la prise de mesures.

- Cohérence : Par ailleurs, des données d'entrée légèrement différentes doivent aboutir à des explications similaires.

- Fidélité : Il est également crucial que les explications reflètent réellement le comportement du modèle d'IA. Il ne doit pas arriver qu'une explication pour le refus d'un crédit bancaire indique un âge trop élevé du client, alors que c'est en réalité le faible revenu qui a été déterminant.

Le cas d'usage est déterminant

Conclusion de l'étude : toutes les méthodes d'explication examinées se sont révélées utiles. « Mais il n'existe pas de méthode parfaite », explique Nina Schaaf, responsable de l'étude au Fraunhofer IPA. De grandes différences existent notamment en termes de temps de traitement qu'une méthode nécessite. Le choix du logiciel le plus adapté dépend également fortement de la tâche spécifique. Par exemple, Layer-Wise Relevance Propagation et Integrated Gradients sont particulièrement adaptées aux données d'images. « Et enfin, le public cible d'une explication est toujours important : un développeur d'IA souhaite et doit recevoir une explication différente de celle du responsable de production, car chacun tire des conclusions différentes des explications », résume Schaaf.

L'étude « Intelligence Artificielle Explicable en pratique » est disponible gratuitement à l'adresse suivante : https://www.ki-fortschrittszentrum.de/de/studien/erklaerbare-ki-in-der-praxis.html