Jonathan Ross de Groq
Gracieuseté de Groq
Jonathan Ross a quitté Google pour lancer la start-up de semi-conducteurs de nouvelle génération Groq en 2016. Aujourd’hui, la société basée à Mountain View, en Californie, a déclaré qu’elle avait levé 300 millions de dollars sous la direction de Tiger Global Management et de l’investisseur milliardaire Dan Sundheim’s D1 Capital lors de son lancement officiel. vue. Le nouveau financement valorise Groq à plus d’un milliard de dollars – mais combien Ross a refusé de dire
Au cours des cinq dernières années, Groq a développé sa première puce d’IA et l’a mise sur le marché, avec des clients dans des centres de données et des véhicules autonomes, grâce à un financement de 67 millions de dollars. Elle travaille actuellement sur une offre de deuxième génération qu’elle envisage de mettre en production. «Nous avons beaucoup plus d’intérêt pour les clients que nous ne pouvons en servir», déclare Ross, PDG de la société.
Ross, 39 ans, avait déjà aidé à inventer l’unité de traitement de tenseur de Google, ou TPU, qui sous-tend son logiciel d’apprentissage automatique pour la reconnaissance d’images et d’autres tâches. Son cofondateur, Douglas Wightman, venait également de Google, mais a quitté Groq il y a plus de deux ans.
Les puces de Groq sont des puces de nouvelle génération destinées à des tâches dites d’inférence. Ils utilisent les connaissances issues de l’apprentissage profond pour faire de nouvelles prédictions sur les données. Groq dit que ses puces, appelées processeurs de streaming tensor, sont 10 fois plus rapides que ses concurrents. «C’est le plus puissant jamais construit», dit Ross. « Il ne s’agit pas seulement du nombre d’opérations par seconde, mais de la latence. »
Les fabricants de puces se sont lancés dans une course pour alimenter le développement rapide des applications d’IA. Nvidia, dont les puces ont d’abord été inventées pour le rendu de jeux vidéo, est en tête. Plus tôt cette semaine, il a présenté une nouvelle puce, appelée Grace, conçue pour stimuler l’intelligence artificielle et d’autres calculs haute performance.
«La nature des problèmes qui doivent être résolus par le calcul a changé et changé d’une manière qui met l’accent sur l’architecture existante», déclare Andy Rappaport, fondateur et investisseur de longue date dans les semi-conducteurs, qui est sorti de sa retraite pour rejoindre le conseil d’administration de Groq l’année dernière. . «Nous sommes de retour dans cette période de chaos, et ce sont les périodes où les entreprises de marque de calcul s’établissent.»
Les complexités de l’apprentissage automatique – et des applications telles que les véhicules autonomes – nécessitent plus de puissance et de vitesse de calcul. «Avec l’apprentissage automatique, c’est probabiliste. Si cela se produit probablement, vous devriez probablement le faire, et si cela se produit, vous devriez probablement le faire. C’est très difficile à gérer pour les machines », explique Ross. « Quand c’est probabiliste, vous devez effectuer tous les calculs possibles et peser un peu chacun d’eux, ce qui les rend considérablement plus coûteux à faire. »
«La nature des problèmes qui doivent être résolus par le calcul a changé et changé d’une manière qui met l’accent sur l’architecture existante.»
Les ex-Googleurs ont fait décoller Groq grâce au financement anticipé du capital-risqueur Chamath Palihapitiya, qui a déclaré à CNBC en 2017 qu’il avait appris l’existence de la puce Google pour la première fois lors d’un appel de résultats. Depuis lors, Groq a terminé ses recherches sur sa puce IA et a mis la technologie (produite dans une fonderie américaine) sur le marché. « Ce qui m’a attiré chez Groq, c’est que leur architecture est vraiment différente, et elle est vraiment différente de manières qui comptent vraiment », dit Rappaport. « Ils ont réfléchi aux problèmes que l’architecture existante ne peut pas résoudre. »
Lors d’un récent appel vidéo, Ross a montré la conception de la puce de Groq, qui semble plus simple bien qu’elle puisse effectuer un quadrillion d’opérations par seconde. Cette conception comprend un seul processeur énorme avec des centaines d’unités fonctionnelles plutôt qu’un petit cœur programmable qui est répliqué des dizaines ou des centaines de fois.
Ross dit que les clients de Groq comprennent de grandes entreprises des services financiers et de la conduite autonome, bien qu’il ne divulgue aucun nom de client. Avoir des clients dans les deux domaines est «inhabituel», dit-il, car la plupart des sociétés de semi-conducteurs devront optimiser leurs puces pour l’un ou l’autre.
Avec le nouveau financement, Ross dit qu’il espère s’étendre à de nouveaux marchés («il y en a plusieurs prometteurs qui ne sont pas servis par des GPU ou des CPU», dit-il). Il prévoit également de doubler le nombre d’employés, à 250 personnes contre 122, d’ici la fin de l’année – sa principale raison de parler. «Nous aimons vraiment rester aussi silencieux que possible», dit-il. «La seule raison pour laquelle nous sommes [talking] est-ce que nous devons embaucher plus de personnes. Si nous embauchons 28 personnes sur 2 000 candidats, nous avons besoin de beaucoup de candidats. Si ce n’était pas le cas, nous ne dirions rien. »
le Financial Times avait précédemment rapporté que Groq et Tiger étaient en discussion sur le financement.