​

Alors que l'intelligence artificielle est de plus en plus utilisée pour prendre des décisions impactant notre vie quotidienne, il est primordial de pouvoir faire confiance au système d'IA en comprenant comment ces décisions sont prises. Le CEA-List a ainsi développé, dans le cadre d'une thèse co-encadrée par le Laboratoire Mathématiques et Informatique pour la Complexité et les Systèmes (MICS) de CentraleSupélec, un nouveau module d'apprentissage pour la classification d'images et l'annotation « expliquées » d'objets, qui a été intégré à la plate-forme d'intelligence artificielle symbolique ExpressIF®.

Pour « comprendre » une image, un réseau de neurones identifie tout d'abord des régions spécifiques correspondant à différents objets présents dans l'image. Les nouveaux algorithmes intégrés à ExpressIF® prennent ensuite le relais, pour identifier ces objets en fonction de leurs positions relatives et les annoter. L'atout majeur de ces algorithmes est qu'ils sont capables d'apprendre à identifier des objets sans se tromper à partir de quelques images seulement (moins de 10). Les premiers essais réalisés sur des images d'IRM viscérales sont prometteurs : non seulement ExpressIF® y annote automatiquement les organes, mais il justifie ses propositions par une argumentation en langage naturel : une avancée concrète pour assister efficacement les médecins dans l'interprétation des images de leurs patients.

Outre le bénéfice de renforcer la confiance de l'utilisateur dans le résultat proposé, cette nouvelle fonctionnalité va dans le sens de l'évolution de la règlementation, qui devrait à terme imposer - dans certains cas - aux systèmes d'IA de justifier leurs décisions. Au-delà des applications en imagerie médicale, elle pourrait également enrichir l'interprétation de scènes, ou encore, dans le domaine du manufacturing, la caractérisation de pièces industrielles.