Une startup de puces britannique a lancé ce qu’elle prétend être la puce d’IA la plus complexe au monde, le Colossus MK2 ou GC200 IPU (Intelligence Processing Unit). Graphcore positionne son MK2 par rapport au GPU Ampere A100 de Nvidia pour les applications IA.
Le MK2 et son prédécesseur MK1 sont spécialement conçus pour gérer de très grands modèles d’apprentissage automatique. Le processeur MK2 a 1 472 cœurs de processeur indépendants et 8 832 threads parallèles séparés, tous pris en charge par 900 Mo de RAM intégrée au processeur.
Graphcore
Graphcore indique que le MK2 offre une amélioration de 9,3 fois des performances d’entraînement BERT-Large par rapport au MK1, une amélioration de 8,5 fois des performances d’inférence BERT-3Layer et une amélioration de 7,4 fois des performances d’entraînement EfficientNet-B3.
BERT, ou Bidirectional Encoder Representations from Transformers, est une technique de pré-formation au traitement du langage naturel développée par Google pour les recherches basées sur le langage naturel.
Et Graphcore ne se contente pas d’offrir une puce. Pour une startup relativement nouvelle (formée en 2016), Graphcore a construit un écosystème remarquable autour de ses puces. La plupart des startups de puces se concentrent uniquement sur leur silicium, mais Graphcore en offre beaucoup plus.
Elle vend le GC200 via sa nouvelle machine IPU M2000, qui contient quatre puces GC200 dans une boîte 1U et fournit 1 pétaflop de puissance de calcul totale, selon la société. Graphcore vous permet de démarrer avec un seul boîtier IPU-Machine M2000 directement connecté à un serveur x86 existant ou d’ajouter jusqu’à un total de huit IPU-Machine M2000 connectés à un serveur. Pour les grands systèmes, il propose l’IPU-POD64, comprenant 16 IPU-Machine M2000 intégrés dans un rack standard de 19 pouces.
La connexion à grande échelle d’IPU-Machine M2000 et d’IPU-POD se fait grâce à la nouvelle technologie IPcore Fabric de Graphcore, qui a été conçue dès le départ pour la communication de l’intelligence machine et fournit une structure dédiée à faible latence qui connecte les IPU dans tout le centre de données.
Le logiciel Virtual-IPU de Graphcore s’intègre au logiciel de gestion de la charge de travail et d’orchestration pour servir de nombreux utilisateurs différents pour la formation et l’inférence, et il permet aux ressources disponibles d’être adaptées et reconfigurées d’une tâche à l’autre.
La start-up affirme que son nouveau matériel est entièrement plug-and-play et que les clients pourront connecter jusqu’à 64 000 UPI ensemble pour un total de 16 exaFLOP de puissance de calcul.
C’est une GRANDE affirmation. Intel, Arm, AMD, Fujitsu et Nvidia poussent toujours vers un exaflop, et Graphcore le revendique 16 fois.
Un autre élément clé de Graphcore est sa pile logicielle Poplar conçue à partir de zéro avec l’IPU et entièrement intégrée aux frameworks d’apprentissage automatique standard, afin que les développeurs puissent facilement porter des modèles existants et être rapidement opérationnels dans un environnement familier. Pour les développeurs qui souhaitent un contrôle total pour exploiter les performances maximales de l’UIP, Poplar permet la programmation directe de l’IPU en Python et C ++.
Graphcore compte parmi les premiers utilisateurs importants du système MK2, notamment l’Université d’Oxford, le laboratoire national Lawrence Berkeley du département américain de l’Énergie et J.P.Morgan, qui se concentre sur le traitement du langage naturel et la reconnaissance vocale.
Les systèmes IPU-Machine M2000 et IPU-POD64 sont disponibles en pré-commande dès aujourd’hui avec des livraisons en volume de production complet à partir du quatrième trimestre 2020. Les clients à accès anticipé peuvent évaluer les systèmes IPU-POD dans le cloud via le partenaire cloud de Graphcore, Cirrascale. Il prévoit d’annoncer OEM et partenaire de distribution dans les mois à venir.
Rejoignez les communautés Network World sur Facebook et LinkedIn pour commenter des sujets qui vous tiennent à cœur.
Droits d’auteur © 2020 IDG Communications, Inc.