Une confrontation nécessaire au comportement humain
Selon les fondateurs de la cybernétique, dont John McCarthy and Marvin Minsky [1],
le terme « intelligence artificielle » (IA) désigne un comportement produit par une machine dont on peut raisonnablement estimer que,
s’il avait été le fruit d’une action humaine, il aurait exigé de l’intelligence de la part de l’agent concerné. Trait saillant à retenir, cette définition s’appuie sur la comparaison entre la machine et l’homme. En effet, bien avant les ordinateurs jouant aux échecs ou les traducteurs automatiques, Alan Turing [2] soulignait déjà que le concept même de « machine intelligente » ne pouvait être défini qu’à travers
sa confrontation avec un comportement humain.
© Sergey Tarasov - Fotolia.com
Une définition de l'IA qui évolue en permanence
Cette définition recouvre un spectre très large : par exemple, elle inclut la capacité à trouver des erreurs d’orthographe dans un texte, ce qui nous paraît aujourd’hui tout à fait automatisable. Comme d’habitude, le développement du numérique exige en permanence qu’on révise les définitions historiques, y compris celle de l’IA. Dans un premier sens, « intelligence artificielle » désigne un domaine de recherche autour des machines dotées d’une capacité d’apprentissage et
dont le comportement complexe ne peut être entièrement décrit ni compris par le concepteur humain. Le fonctionnement d’un tel système ne se réduit pas au choix d’action dans un catalogue écrit au préalable, aussi long soit-il. Du point de vue de l’histoire de l’informatique, l’apprentissage machine n’est qu’un outil d’IA parmi d’autres mais, en pratique, ces deux termes sont de plus en plus fréquemment synonymes.
3 types d’algorithmes au fondement des systèmes d’IA
1. L'apprentissage dit supervisé
La technique d’apprentissage supervisé présuppose que les systèmes informatiques élaborent leur fonctionnement
en suivant des lois ou des indications dictées, ou « étiquetées », par les hommes.
2. L'apprentissage non supervisé
A l’inverse, la technique non supervisée permet à la machine d’explorer ses données sans qu’aucune « grille de lecture » ne lui soit imposée. Souvent, elle y trouve des régularités qui ne ressemblent guère à des notions familières à l’homme : c’est la marque d’un élément non-humain dans le comportement de ces machines que, par ailleurs, on mesure toujours à l’homme.
C’est aussi l’élément qui procure aux systèmes d’IA leur incroyable efficacité. Dans le cas de l’apprentissage non supervisé,
celle-ci peut aller jusqu’à mettre l’utilisateur dans la situation d’indistinction : en 2019, la génération non supervisée de textes a été capable d’écrire plusieurs paragraphes tout à fait identiques à la production humaine ; dans le domaine visuel, le recours au non-humain et au non-explicable est encore plus fondamental : la reconnaissance des images est beaucoup plus efficace si les règles de fonctionnement ne sont pas dictées d’emblée par l’homme mais « découvertes » par le système.
3. L'apprentissage par renforcement
La troisième méthode d’apprentissage, dite « par renforcement », consiste à identifier, en une suite d’étapes d’évaluation successives, puis à établir avec une force croissante, des corrélations pertinentes entre les données. Les dernières recherches montrent que le succès de cette méthode, très répandue dans le domaine des jeux, dépend souvent de la « curiosité » de la machine : sa capacité à attribuer un poids conséquent à l’exploration des scénarii inconnus ou imprédictibles.
Le deep learning
Chacune de ces méthodes peut être réalisée seule, mais
des algorithmes dits d’apprentissage profond (deep learning) les emploient à des niveaux différents au sein d’un seul système. Cette imbrication contribue davantage à rendre inconcevable, au moins à ce jour, toute description mathématique rigoureuse de ce qui se passe pendant l’apprentissage profond.
Les freins à l'efficacité des systèmes d'IA
Bien que l’efficacité des systèmes d’IA, déjà impressionnante, augmente chaque année, cinq facteurs contribuent à l’émergence, pendant leur utilisation,
des tensions, ou même des conflits, de nature éthique et/ou juridique :
Apprentissage sans compréhension
Contrairement à l’homme, un système informatique ne comprend pas le sens de ses actions, ce qui peut avoir des conséquences néfastes, comme des injures générées automatiquement.
Instabilité de l’apprentissage
Les techniques actuelles ne résistent pas bien à plusieurs types d’attaques adversaires. Pour une bonne protection des systèmes d’IA, de nouvelles recherches et solutions techniques restent nécessaires.
Problème de spécification
Les notions humaines ne peuvent être ni traduites dans le code informatique ni apprise mécaniquement avec une précision absolue. Ainsi, si une règle préconise de « protéger l’homme », le système doit savoir ce que signifie « l’homme », sinon une erreur dans l’identification ou dans la catégorisation se produira tôt ou tard.
Systèmes d'apprentissage profond encore peu compris
Sans une compréhension mathématique satisfaisante du fonctionnement des systèmes d'apprentissage profond, il reste impossible de démontrer rigoureusement que leur comportement ne sortira jamais du périmètre autorisé.
Alexei Grinbaum est également membre du
groupe de travail du CNPEN sur l’éthique des véhicules autonomes et
co-rapporteur du groupe de travail Agents conversationnels.
[1] John McCarthy (1927-2011) et Marvin Lee Minsky (1927-2016) ont organisé ensemble, en 1956, la conférence de Dartmouth, considérée comme l'acte de naissance de l'intelligence artificielle en tant que domaine de recherche autonome. John McCarthy a reçu, en 1971, le prix Turing pour ses travaux dans ce domaine.
[2] Alan Mathison Turing (1912-1954), mathématicien et informaticien britannique, est considéré comme l'« inventeur » de l'ordinateur. Il a également contribué au débat sur l'intelligence artificielle, en proposant le test qui porte son nom, fondé sur la faculté d'une machine à imiter la conversation humaine.
Pour aller plus loin