Richez 42 millions de dollars, une faculté en démarrage en IA envisage de récupérer plus de doctorants … et d’éviter la politique

À la suite de l’annonce selon laquelle la startup d’IA basée au Royaume-Uni, Faculty, a levé 42,5 millions de dollars dans le cadre d’un cycle de financement de croissance, j’ai expliqué au PDG et cofondateur Marc Warner quels sont ses projets pour l’entreprise.

La faculté semble avoir un talent étrange pour remporter des contrats avec le gouvernement britannique, après avoir aidé Boris Johnson à remporter sa campagne Vote Leave et ainsi devenir Premier ministre. Cela aide même à résoudre le désordre que le Brexit a causé par la suite à l’industrie de la pêche, les problèmes avec le NHS et à dire aux entreprises mondiales comme Red Bull et Virgin Media ce qu’il faut suggérer à leurs clients. Pendant ce temps, il continue d’aspirer des diplômés de doctorat à un rythme de nœuds pour travailler sur sa plate-forme d’intelligence artificielle.

Mais, en m’adressant à moi lors d’un appel, Warner a déclaré que la société n’avait plus l’intention d’entrer à nouveau dans la sphère politique: «Plus jamais ça. C’est très controversé. Je ne veux pas dire que je pense que la politique est contraire à l’éthique. Essayer de rendre le monde meilleur, dans toutes les dimensions que vous pouvez, est une bonne chose… Mais de notre point de vue, c’était, vous savez, «bruyant», et notre objectif en tant qu’organisation, malgré les apparences actuelles du contraire, n’est pas de passer des tonnes de temps à parler de ce genre de choses. Nous pensons qu’il s’agit d’une technologie importante qui devrait exister et qui devrait être entre des mains plus larges que les seuls géants de la technologie, qui sont déjà très bons dans ce domaine. »

À propos de l’investissement, il a déclaré: «Fondamentalement, l’argent consiste à doubler d’abord le Royaume-Uni, puis l’expansion internationale. Au cours des sept dernières années environ, nous avons appris ce qu’il faut pour faire une IA importante, une IA percutante, à grande échelle. Et nous ne pensons tout simplement pas qu’il y en ait vraiment beaucoup là-bas. Les clients sont à juste titre parfois un peu sceptiques, car il y a eu un battage médiatique autour de ce genre de choses pendant des années et des années. Nous avons identifié un tas d’applications du monde réel qui entrent dans la réalisation de ce travail afin qu’il offre réellement la valeur. Et donc, en fin de compte, l’argent consiste simplement à être en mesure de construire toutes les pièces nécessaires pour faire cela incroyablement bien pour nos clients.

Il a déclaré que la faculté resterait fermement au siège au Royaume-Uni pour profiter du bassin de talents du Royaume-Uni: «Le Royaume-Uni est un endroit merveilleux pour faire de l’IA. Il y a des universités brillantes, une scène de démarrage très dynamique. C’est en fait plus diversifié que San Francisco. Il y a le gouvernement, il y a la finance, il y a les entreprises, il y a moins de concurrence de la part des géants de la technologie. Il y a un peu plus un écosystème hétérogène. Il n’ya aucun sens dans lequel nous pensons: «Oui, c’est tout, nous sommes en mouvement!». Nous aimons travailler ici, nous voulons améliorer les choses. Nous avons déployé d’énormes efforts pour essayer d’aider des organisations comme le gouvernement et le NHS, mais aussi un groupe d’entreprises britanniques à essayer d’adopter cette technologie, de sorte que cela continuera à être une partie extrêmement importante de notre entreprise. « 

Cela dit, la faculté prévoit de s’étendre à l’étranger: «Nous allons également commencer à regarder plus loin et prendre toutes les leçons que nous avons apprises aux États-Unis, puis plus tard en Europe.»

Mais pense-t-il que ce cycle de financement l’aidera à devancer d’autres rivaux potentiels dans l’espace? «Nous avons tendance à ne pas trop penser en termes de rivaux», dit-il. «Les 20 prochaines années seront consacrées à l’intégration de l’intelligence dans le logiciel qui existe déjà. Si vous regardez la capitalisation boursière mondiale des entreprises de logiciels, c’est énorme. Si vous commencez à ajouter de l’intelligence à cela, l’échelle du marché est si grande qu’il est beaucoup plus important pour nous que nous puissions utiliser cette technologie extrêmement importante et la déployer en toute sécurité de manière à améliorer la vie des gens. Cela pourrait rendre les produits moins chers ou aider les organisations à rendre leurs services plus efficaces. »

Si tel est le cas, la Faculté a-t-elle une sorte de comité d’éthique qui supervise son travail? «Nous avons un comité d’éthique interne. Nous avons un ensemble de principes et si nous pensons qu’un projet pourrait enfreindre ces principes, il est renvoyé à ce comité d’éthique. Il est sélectionné au hasard parmi tous les professeurs. Nous faisons donc très attention aux projets sur lesquels nous travaillons et ne le faisons pas. Mais pour être honnête, la grande majorité des choses qui se passent est très vanille. Ce sont clairement des projets «bons pour le monde». La grande majorité de notre travail consiste à faire du bon travail pour les entreprises clientes pour les aider à rendre leurs entreprises un peu plus efficaces. »

Je l’ai pressé de développer cette question d’éthique et le potentiel de partialité. Il dit que la faculté «met en place la sécurité dès le début. Curieusement, la raison pour laquelle je me suis intéressé pour la première fois à l’IA a été de lire le travail de Nick Bostrom sur la superintelligence et l’importance de la sécurité de l’IA. Et donc dès la toute première fraternité [Faculty AI researchers are called Fellows] en 2014, nous avons enseigné aux boursiers la sécurité de l’IA. Au fil du temps, dès que nous avons pu, nous avons commencé à contribuer au domaine de la recherche. Nous avons donc publié des articles dans toutes les plus grandes conférences informatiques Neurips, ICM, ICLR, sur le thème de la sécurité de l’IA. Comment rendre les algorithmes équitables, privés, robustes et explicables. Voilà donc un ensemble de problèmes qui nous préoccupent beaucoup. Et, je pense, sont généralement «insuffisants» dans l’écosystème au sens large. En fin de compte, il ne devrait pas y avoir de séparation entre les performances et la sécurité. Il y a un peu une tendance dans les autres entreprises à dire: « Eh bien, vous pouvez soit avoir des performances, soit vous pouvez avoir de la sécurité. » Mais bien sûr, nous savons que ce n’est pas vrai. Les voitures d’aujourd’hui sont plus rapides et plus sûres que la Ford modèle T. C’est donc une sorte de fausse dichotomie. Nous avons investi beaucoup d’efforts dans ces deux capacités, donc nous voulons évidemment être en mesure de créer une performance merveilleuse pour la tâche à accomplir, mais aussi pour nous assurer que les algorithmes sont justes, privés, robustes et explicables partout où cela est nécessaire. « 

Cela signifie également, dit-il, que l’IA n’est peut-être pas toujours le «bogeyman» que la phrase implique: «Dans certains cas, ce n’est probablement pas un gros problème si vous décidez de mettre un cavalier rouge ou un cavalier bleu en haut. de votre site Web. Il n’y a probablement pas d’énormes implications éthiques à cela. Mais dans d’autres circonstances, bien sûr, il est extrêmement important que les algorithmes soient sûrs et connus pour être sûrs et qu’ils soient approuvés à la fois par les utilisateurs et par toute autre personne qui les rencontre. Dans un contexte médical, évidemment, les médecins doivent leur faire confiance et les patients doivent s’assurer qu’ils fonctionnent réellement. Nous sommes donc vraiment à la pointe du déploiement de ces éléments. »

L’année dernière, le Guardian a rapporté que la faculté avait remporté sept contrats gouvernementaux en 18 mois. À quoi attribue-t-il ce succès? «Eh bien, je veux dire, nous avons perdu énormément de plus! Nous sommes un petit fournisseur du gouvernement. Nous faisons de notre mieux pour faire un travail qui leur est précieux. Nous travaillons depuis de très nombreuses années avec des gens du bureau à domicile », me dit-il.

«Sans vouloir entrer dans les détails, ces 18 mois s’étendent sur plusieurs premiers ministres. J’ai été nommé au Conseil AI sous la direction de Theresa May. Toutes sortes d’insinuations à ce sujet sont manifestement absurdes. Mais, du moins historiquement, la plupart de notre travail était dans le secteur privé et cela continue d’être d’une importance cruciale pour nous en tant qu’organisation. Au cours de l’année dernière, nous avons essayé d’intensifier nos efforts et de faire notre part partout où nous le pouvions pour le secteur public. Il fait face à une situation tellement difficile et difficile autour du COVID, et nous sommes très fiers des choses que nous avons réussi à accomplir avec le NHS et de l’impact que nous avons eu sur les décisions que les cadres supérieurs ont pu prendre. »

Revenant à la question de la politique, je lui ai demandé s’il pensait – à la suite d’événements tels que le Brexit et l’élection de Donald Trump, qui ont tous deux été touchés par la campagne politique menée par l’IA – l’IA est trop dangereuse pour être appliquée à cette arène? Il a ri: «C’est une vieille question drôle et drôle… C’est une façon vraiment étrange de formuler une question. L’IA n’est qu’une technologie. Fondamentalement, l’IA n’est que des mathématiques. »

Je lui ai demandé s’il pensait que l’application de l’IA en politique avait eu une influence démesurée ou indue sur le fonctionnement des partis politiques ces dernières années: «Je crains que ce soit au-delà de ma connaissance», dit-il. Mais la Faculté a-t-elle des regrets de travailler dans la sphère politique?

«Je pense que nous sommes simplement concentrés sur notre travail. Ce n’est pas que nous ayons des sentiments forts, de toute façon, c’est juste que de notre point de vue, il est beaucoup plus intéressant de pouvoir faire les choses qui nous intéressent, à savoir déployer l’IA dans le monde réel. C’est une réponse un peu ennuyeuse! Mais c’est vraiment ce que nous ressentons. Il s’agit bien plus de faire les choses que nous pensons importantes, plutôt que de juger ce que font les autres. »

Enfin, nous avons évoqué les capacités de science des données du Royaume-Uni et ce que la nouvelle collecte de fonds permettra à l’entreprise de faire.

Il a déclaré: «Nous avons lancé un programme d’éducation. Nous avons environ 10% des doctorats du Royaume-Uni en physique, mathématiques, ingénierie, qui postulent au programme. Environ 400 personnes ont suivi ce programme et nous prévoyons de l’étendre davantage afin que de plus en plus de personnes aient la possibilité de commencer une carrière dans la science des données. Et puis au sein de la Faculté en particulier, nous pensons que nous serons en mesure de créer 400 nouveaux emplois dans des domaines tels que le génie logiciel, la science des données, la gestion de produits. Ce sont de nouvelles possibilités très intéressantes pour que les gens participent réellement à la révolution technologique. Je pense qu’il y aura une nouvelle énergie merveilleuse dans la faculté et, espérons-le, un petit rôle positif dans l’augmentation de l’écosystème technologique du Royaume-Uni. « 

Warner semble sincère dans ses pensées sur l’avenir de l’IA et est clairement enthousiaste à l’idée de savoir où la faculté peut aborder tout le domaine, à la fois philosophiquement et pratiquement. La faculté va-t-elle bientôt contester cet autre léviathan de l’IA, DeepMind, pour accéder à tous ces doctorats? Il ne fait aucun doute que ce sera le cas.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *