On entend par « explicabilité » la capacité à rendre compréhensible par un humain le fonctionnement de l’IA et notamment à justifier ses conclusions et le raisonnement pour y arriver. Cela cible en général l’utilisateur final, mais peut aussi être important pour le concepteur de l’IA ou les vérificateurs/auditeurs en charge de qualifier son bon fonctionnement.