Avec déjà deux générations de processeurs d’intelligence artificielle IPU à son actif, Graphcore est devenu un acteur qui compte dans cette industrie. L’Anglais passe aujourd’hui à la vitesse supérieure avec sa troisième génération de processeurs, les IPU Bow, qui fournissent jusqu’à 40% de performances supplémentaires et un rendement énergétique amélioré de 16% par rapport aux actuels IPU Pod. Tout cela au même prix que les circuits précédents et sans que le client ait à modifier son logiciel ! Pour les situer en fonction de la concurrence, Graphcore met côte-à-côte un système Bow Pod 16 et un DGX A100 de Nvidia et annonce un entraînement cinq fois plus rapide (sur le modèle de vision numérique EfficientNet-B4) pour un prix de vente inférieur de moitié.
Comment Graphcore a-t-il amélioré les performances de ses processeurs ? Le secret ne réside pas réellement dans un changement d’architecture : les IPU Bow demeurent structurellement compatibles avec les IPU actuels – d’où la compatibilité logicielle. Le bond en puissance découle en fait de l’adoption de la technologie de production wafer-on-wafer (WoW) du Taïwanais TSMC, qui l’expérimente ici pour la toute première fois. Le process WoW étend les fondements posés par les techniques CoWoS ( chip-on-wafer-on-substrate ) et InFO ( integrated fan-out ) du fondeur. Grosso modo, deux tranches de silicium sont gravées avec des connexions en miroir puis superposées, des liaisons traversantes TSV arrières (ou BTSV, B pour backside ) assurant le lien entre les deux. Dans le cas des IPU Bow, l’une des tranches ne contient que les blocs numériques de chaque processeur (1472 cœurs IPU susceptibles de faire tourner 8832 tâches indépendantes en parallèle, 900Mo de mémoire embarquée circulant à 65To/s, et dix interfaces IPU-Link à 320Go/s). La seconde se charge, elle, de délivrer les tensions d’alimentation aux bons endroits. Cette répartition des tâches permet d’optimiser chaque wafer, avec en particulier des condensateurs en tranchées profondes répartis sur la puce d’alimentation.
Les processeurs IPU Bow sont associés par quatre sur les cartes Bow-2000 au format 1U, qui délivrent 1,4 pétaflops. Ces cartes constituent ensuite l’élément de base des systèmes vendus par Graphcore, à savoir les Bow Pod 16 (quatre cartes Bow-2000 et une carte de serveur hôte), Bow Pod 32 (huit cartes Bow-2000 et un serveur), Bow Pod 64 , Bow Pod 256 et jusqu’au Bow Pod 1024 qui, avec ses 256 Bow-2000 et 16 à 64 cartes serveurs, fournit la bagatelle de 358,4 pétaflops. Tous ces systèmes sont disponibles dès à présent.
