Les processeurs Graphcore simplifient les modèles IA d’Aleph Alpha

Le 30/11/2022 à 10:02 par Frédéric Rémond

Le fournisseur de processeurs dédiés à l’intelligence artificielle Graphcore a collaboré avec Aleph Alpha pour faire passer de 13 à 2,6 milliards le nombre de paramètres du modèle Luminous Chatbot de ce dernier. Cette réduction d’environ 80% exploite les capacités des IPU de Graphcore pour les multiplications de matrices creuses. Le résultat, baptisé Luminous Base Sparse, ne requiert que 20% de la puissance de calcul initiale et 44% de sa mémoire, et tient ainsi sur la mémoire embarquée d’un IPU-POD16. L’Allemand Aleph Alpha développe des modèles IA européens dévolus notamment à la conversation automatisée en plusieurs langues.

Copy link
Powered by Social Snap