Les réseaux de neurones convolutifs sont efficaces pour réaliser certaines tâches comme la reconnaissance d'images ou de textes. Cependant, la conception classique des ordinateurs où le processeur et la mémoire sont séparés (type Von-Neumann) n'apparaît plus adaptée. Les « poids synaptiques », capacités des synapses à transmettre l'information entre deux neurones, sont en effet stockés dans la mémoire. Les accès à chaque étape de calcul nécessitent alors de nombreux aller-retours qui restreignent considérablement la rapidité. Ce qui va à l'encontre de l'objectif recherché par le calcul parallèle neuronal. C'est pourquoi les chercheurs de l'Irig utilisent des dispositifs spintroniques qui permettent une implémentation parallèle des réseaux dans laquelle le calcul et le stockage sont intégrés dans un même bloc.
Ils se heurtent toutefois à deux problématiques. Le dispositif utilisé devrait idéalement se comporter comme un « memristor » qui voit sa résistance changer de manière continue en fonction du courant qui lui est appliqué, ce qui peut ensuite être lu comme une donnée. Mais les dispositifs spintroniques sont de nature binaire, ce qui rend difficile l'accès à un ou plusieurs niveaux de résistance pour mimer efficacement le comportement complexe synaptique. Autre difficulté : le memristor code le poids synaptique comme une résistance électrique pour effectuer les calculs par manipulations de courants analogiques en calcul numérique, lesquelles sont ensuite converties en calcul numérique. La variabilité intrinsèque des memristors affecte donc la précision du calcul.
Consommation énergétique, complexité, coût matériel : de nombreuses réductions à performances égales
Pour contourner ces écueils, les chercheurs ont testé une architecture combinant deux concepts. Le premier est celui du réseau d'ensemble, c'est-à-dire que le réseau global est remplacé par plusieurs petits réseaux moins précis mais beaucoup plus simples, qui sont entraînés avec différents échantillons extraits du même ensemble de données ; les résultats obtenus sont ensuite comparés pour produire une décision, dont la précision est comparable avec celle d'un réseau unique. Le second est celui du réseau binaire dans lequel les poids synaptiques prennent uniquement deux valeurs, contrairement aux réseaux classiques, dont les poids varient de manière quasiment continue.
« Les deux concepts se combinent parfaitement avec l'utilisation de dispositifs spintroniques puisque le réseau d'ensemble permet de contrecarrer les pertes de précision du réseau binaire et l'impact des variations de procédé sur le calcul analogique », annonce Guillaume Prenat, chercheur du CEA à Spintec. L'expérience montre en effet que la perte de précision est relativement faible ainsi qu'une forte diminution du coût matériel : le nombre de neurones est réduit de 92% et celui des synapses de 95% pour une précision semblable à celle d'un seul réseau convolutif équivalent. De plus, une économie de 95% du nombre de cycles d'horloge et de 97% du nombre d'accès à la mémoire est observé. Et, cerise sur le gâteau, l'utilisation de dispositifs à couplage spin-orbite permet de diminuer encore de trois ordres de grandeur la consommation grâce à la réduction des courants de calcul.