Couverture ElectroniqueS n°127

LE PREMIER CIRCUIT DE LA START-UP BASÉE À PARIS ENTEND LIMITER LA LATENCE ET LA CONSOMMATION DES APPLICATIONS NÉCESSITANT UN ACCELERATEUR DE RÉSEAUX NEURONAUX AUX EXTRÉMITÉS DU RÉSEAU. Menno Lindwer, vice-président chargé de l'ingénierie de GrAI Matter Labs, et Ingolf Held, CEO, n'excluent pas de commercialiser des licences de leurs cœurs d'accélération IA en plus de la vente directe de puces. Censées offrir d'importants gains de performances et de consommation par rapport aux architectures classiques de type von Neumann dans le traitement des réseaux neuronaux sur lesquels se base l'intelligence artificielle, les architectures dites neuro-morphiques ont le vent en poupe. Elles restent cependant rares (on citera par exemple BrainChip et aiCTX) : leur mise au point relève de techniques singulières, se heurte au poids des habitudes et nécessite le développement parallèle d'outils logiciels capables d'en tirer la substantifique moelle sans être un expert en intelligence artificielle. Raison de plus pour mettre en lumière la start-up GrAI Matter Labs, son architecture NeuronFlow et son premier processeur GrAI One réalisé en technologie Cmos 28 nm par le fondeur taïwanais TSMC. Basée à Paris, GrAI Matter Labs (GML) s'appuie sur vingt ans de recherche sur le fonctionnement du cerveau menée à l'Institut de la vision, centre de recherche dédié aux maladies de la vision sous la tutelle de la Sorbonne, de l'Inserm et du CNRS. Ces recherches ont abouti à la création d'une première société, Brainiac, incubée en 2016 dans la couveuse iBionext. Brainiac a ensuite levé 15 millions de dollars lors d'un premier tour de table en décembre 2017, quelques mois avant de prendre son nom actuel. GrAI Matter Labs dispose également d'un fort ancrage du côté d'Eindhoven (son cofondateur Atul Sinha étant un ancien de chez Philips et Silicon Hive) et à San José, en Californie. Les sites français et américain s'occupent du développement des applications et des ventes, le site néerlandais étant principalement dévolu à la conception hardware, à commencer par l'architecture Neuronflow. Cette dernière repose sur un réseau de cœurs et de mémoires auprès desquels s'effectue une partie du traitement des données, ce qui réduit les embouteillages de données typiques des modèle von Neumann. Les cœurs manipulent des données 8 ou 16 bits et sont reliés par un réseau à commutation de paquets, l'ensemble étant déclenché par les évènements. « Les cœurs sont synchronisés par une horloge globale, mais les calculs à travers les différentes couches du réseau neuronal sont exécutés de manière asynchrone ce qui réduit la latence », explique GML. Les gains de performances proviennent en partie du flux dynamique limité aux variations de données, selon le principe des matrices creuses. Dans les signaux issus de capteurs, qu'il s'agisse d'un microphone, d'une caméra ou d'un radar ou lidar, deux échantillons successifs ne présentent que peu de différences. Il est donc avantageux de ne travailler que sur ces différences, à l'instar des algorithmes de compression vidéo qui n'encodent que les différences successives entre des images références et non pas chaque image dans son intégralité. UNE PUCE PLUS FRUGALE QUE LOIHI ET TRUENORTH Première implémentation de cette architecture NeuronFlow, GrAI One mesure 20 mm² dans lesquels sont concentrés 196 cœurs et les cellules mémoires d'environ 200 000 neurones. Lorsque tous les cœurs sont utilisés, la consommation de la puce démarre à 35 mW et sa latence plafonne à 20 µs. Selon des tests réalisés par GML, elle s'avère moins gourmande en énergie que le Loihi d'Intel (1) et le TrueNorth d'IBM (2) . GrAI One est associée à un kit de développement logiciel (SDK) baptisé GrAIFlow, à même de traiter l'exécution de programmes traditionnels et d'apprentissage machine via des langages tels que Tensorflow, Python ou C++ : il génère à la fois la configuration de l'apprentissage / inférence au sein du GrAI One et le code de commande tournant sur un microcontrôleur ou processeur externe. Le kit comprend un éditeur graphique, des API de traitement et de mise en réseau, des outils d'implémentation, de simulation et de débogage et un générateur de code. Outre les ventes directes de puces GrAI One, GML a reçu de nombreuses demandes concernant la possibilité d'acquérir la licence de ses cœurs et étudie actuellement cette possibilité pour diversifier son modèle commercial. Quant aux développements futurs, la société envisage à la fois des processeurs plus puissants capables de faire tourner différents modèles simultanément (par exemple pour des applications audio/vidéo) et des circuits always-on à basse consommation. (1) Test de reconnaissance de mot-clé avec une latence limitée à 3 µs : 0,1 mJ/ inférence pour GrAI One, 0,8 mJ/infé-rence pour Loihi. (2) Test de reconnaissance de gestes : 25 mW pour GrAI One (latence de 1 µs), 44 mW pour TrueNorth (latence de 1 ms).

GrAI Matter Labs veut réduire la latence de l’IA embarquée

Couverture ElectroniqueS n°127

IBM grave les premières puces en 2 nm en abandonnant les FinFET

Zeta, le protocole LPWAN made in China, arrive en Europe

Harting invente le connecteur électronique sur mesure

GrAI Matter Labs veut réduire la latence de l’IA embarquée

Dans la même rubrique

Couverture ElectroniqueS n°127

IBM grave les premières puces en 2 nm en abandonnant les FinFET

Zeta, le protocole LPWAN made in China, arrive en Europe

Harting invente le connecteur électronique sur mesure