Brinc, entreprise montante parmi tant d’autres concurrentes sur le marché de la vente de drones aux forces de l’ordre, a un mythe fondateur séduisant : juste après une fusillade à Las Vegas en 2017, le jeune créateur de la startup a décidé d’aider les forces de l’ordre avec le utilisation de robots non violents. Cependant, une vidéo promotionnelle de l’entreprise obtenue par Intercept révèle une vision différente : la vente de drones équipés de pistolets paralysants, visant à attaquer les migrants traversant la frontière américano-mexicaine.
Le fondateur et PDG de la société, Blake Resnick, est récemment apparu sur Fox Business News pour célébrer une réalisation en capital-risque : l’investissement de 25 millions de dollars réalisé par de grands noms de la Silicon Valley tels que Sam Altman, Jeff Weiner – anciennement PDG de LinkedIn et fondateur de Next Play Ventures – et l’ancien secrétaire à la Défense Patrick Shanahan. Membre de la Thiel Fellowship de 21 ans et membre récent de la prestigieuse liste Forbes des « 30 de moins de 30 ans » dans la catégorie Impact social, Resnick a déclaré à Stuart Varney de Fox Business que les drones quadricoptères de Brinc aidaient la police à neutraliser, presque quotidiennement, situations dangereuses impliquant des otages. Resnick a de nouveau déclaré que sa société avait été fondée « en grande partie » dans le but de sauver des vies, en réponse au massacre de Las Vegas en 2017 – une histoire inspirante qui a attiré la presse. Face à une attention croissante portée aux dommages moraux et corporels causés par les robots autonomes militarisés, la page « Valeurs et éthique » du site Brinc offre un baume, affirmant le « devoir de porter ces technologies au monde de manière responsable » et l’engagement à « ne jamais construire des technologies conçues pour nuire ou tuer ».
Mais une vidéo promotionnelle de 2018 d’un produit de défense des frontières qui n’a finalement pas été publiée montre que les objectifs technologiques initiaux de la startup visaient la possibilité de blesser des personnes. La vidéo montre Resnick sur une portion non identifiée de la frontière américano-mexicaine expliquant comment les robots volants de son entreprise peuvent être utilisés pour détecter, suivre, interroger et finalement attaquer physiquement les candidats à l’immigration. « C’est l’une des parties les plus désolées de notre frontière sud », décrit Resnick, vêtu d’un blazer, à côté d’une grande boîte en métal ornée de panneaux solaires. « Chaque année, plus de 100 milliards de dollars de stupéfiants et 500 000 personnes traversent des zones comme celle-ci. » Lorsque la vidéo a été enregistrée, la direction de Trump a commencé à investir dans les technologies dites de surveillance des murs virtuels – une alternative à la construction du mur physique promis pendant la campagne présidentielle. Le gouvernement a signé des contrats avec des concurrents de Brinc tels qu’Anduril Industries (également lié à Peter Thiel, le co-fondateur de PayPal à l’origine de la Thiel Fellowship). « Il n’y a pas de mur ici, et un mur ne fonctionnerait probablement pas en raison du terrain accidenté et des problèmes de domaine imminents. » Heureusement, « il y a une solution », dit Resnick en désignant le coffre en métal.
Resnick avait environ 18 ans au moment de l’enregistrement.
Dans la vidéo, il appelle cette solution un « Drone Wall », un système de boîtiers scintillants qui seraient installés le long de la frontière, chacun abritant un petit quadricoptère robotisé, avec des capteurs thermiques et haute définition, des capacités de pilotage automatique, un logiciel de détection humaine et l’élément crucial : un pistolet paralysant. Dès qu’il détectait une personne « suspecte », le drone frontalier de Brinc connectait ses capteurs et son haut-parleur à un agent de la patrouille frontalière, qui pouvait « interroger » le « contrevenant » à distance. Dans la vidéo de démonstration, un acteur latino identifié comme « José » marche dans le désert. Approché par le drone, José refuse de montrer ses papiers, pointe une arme sur Brinc et s’éloigne. Lorsque José s’éloigne, le drone le choque avec un pistolet Taser. José s’effondre au sol.
La mise en œuvre efficace du mur de drones impliquerait des centaines ou des milliers de ces robots armés cherchant constamment des cibles le long de la frontière et plaçant davantage d’armes dans une région déjà hautement militarisée.
Chasser un immigré errant dans le désert – en utilisant le choc et l’intelligence artificielle – – n’est pas une scène compatible avec le serment d’entreprise de Brinc : « Réfléchissez aux implications de notre travail – nous ne construirons pas une dystopie ». Actuellement, la société développe toujours des drones sophistiqués axés sur la sécurité, en se concentrant sur la police, le Département de la sécurité intérieure et les clients de la défense, mais sans la variante armée montrée dans la vidéo. L’offre phare actuelle de Brinc à la police et aux intervenants d’urgence est le drone LEMUR S, qui ressemble beaucoup à l’unité Wall Drone mais n’a pas d’arme installée. L’équipement est décrit par l’entreprise comme un « outil tactique qui peut aider à calmer les situations, réduire les risques et sauver des vies ». La société vend également le BRINC BALL, un appareil sphérique semblable à un téléphone portable que la police peut lancer en cas de stress pour écouter et communiquer à distance.
Trois ans après ses déclarations à la frontière, le Blake Resnick de 2021 dit regretter d’avoir travaillé sur le système de vidéo promotionnelle. Par e-mail, il a déclaré à The Intercept que « la vidéo est immature, profondément regrettable et pas du tout représentative de la direction dans laquelle j’ai pris l’entreprise depuis lors ». Il a décrit le système Wall Drone comme un « prototype » qui « n’a jamais été entièrement développé, vendu ou utilisé de manière opérationnelle » et qui a été abandonné en 2018 comme étant « sujet à une mauvaise utilisation catastrophique ». « Je suis d’accord que la technologie présentée n’est pas éthique, et c’est l’une des raisons pour lesquelles nous avons créé l’ensemble ‘Valeurs et éthique’ pour guider notre travail », a-t-il ajouté, se référant à la section du site Web de l’entreprise.
Resnick a également déclaré que « la vidéo était fictive » – la société « n’a jamais construit de drone avec un Taser fonctionnel ». Selon lui, lors de l’enregistrement, du gaz comprimé a été utilisé pour tirer une fléchette Taser sur l’acteur, mais « sans vraiment mettre de haute tension sur les fils ».
Pourtant, la société a essayé de vendre le système. Resnick a déclaré qu' »il avait été initialement discuté avec un nombre très limité de parties » de l’achat du système Drone Wall, dans l’idée de construire quelque chose de moins cher qu’un mur frontalier, réduisant « le risque d’échange de coups de feu entre la police et les trafiquants de drogue armés. qui a essayé d’entrer aux États-Unis. Mais « rien n’avançait » dans le projet, et Resnick a répété son affirmation selon laquelle, inspiré par l’attaque de Las Vegas, il cherchait à « se distancer de ces utilisations » et à servir les intervenants d’urgence – bien que les travaux sur le mur de drones se soient poursuivis l’année suivante. au massacre. Il affirme que ce revirement et la déclaration de valeurs de l’entreprise précèdent le premier employé de la startup, les revenus, la livraison des produits et la collecte de fonds. Il précise également que Brinc s’engage à ne pas vendre de drones armés.
Malgré le changement de vision et l’orientation désarmée de l’entreprise, des sources ont déclaré à The Intercept que le fait que la technologie ait toujours été à la table soulève de sérieuses inquiétudes concernant les valeurs, les ambitions et le jugement de Brinc et de son jeune PDG. Bien que le fondateur de l’entreprise déclare qu’il s’est éloigné des drones conçus pour intercepter et désactiver les immigrants, la mission initiale de Brinc – vendre des robots volants pour aider à la sécurité de l’État – reste en vigueur, plaçant la startup sur une nouvelle frontière commerciale troublante sur le plan éthique. La société a récemment embauché un «directeur fédéral de la capture et de la stratégie» – anciennement employé par un fournisseur de défense qui vendait des drones au commandement des opérations spéciales des États-Unis – suggérant un intérêt pour les applications militaires.
« Il a tout ce récit sur l’attaque de Las Vegas, mais l’idée de départ était d’utiliser à 100% des drones pour choquer les immigrés », a déclaré une source connaissant directement Brinc et qui a demandé à ne pas être identifié afin de ne pas se blesser professionnellement. Cette personne a déclaré qu’à l’époque, Resnick montrait peu d’intérêt pour les « applications qui n’impliquaient pas d’immigrants choquants », même s’il y avait « un million de choses que vous pouvez utiliser avec des drones qui n’impliquent pas d’électrocuter des personnes ».
Se référant à l’accent mis actuellement par Brinc sur la non-violence et le désamorçage des conflits, cette source fait l’analyse suivante : « Ils n’ont inventé cela que lorsqu’ils ont obtenu des fonds de vrais investisseurs comme Sam Altman. L’entreprise fait bonne figure sur le fait de sauver des personnes et de ne pas causer de dommages, mais imaginez ce qu’on dit à la police à huis clos ? »
Un acteur jouant un immigré à la frontière américano-mexicaine est touché par un pistolet paralysant, démontrant les capacités du système « Drone Wall » de Brinc.
Reproduction : L’interception
« Les startups se tournent constamment vers l’argent », a ajouté la source. « Google a déjà dit ‘ne sois pas méchant’. Lorsque la roue tourne, vous avez des clients en banque et ils veulent quelque chose.
Un brevet au nom de Resnick pour une version étendue du système montré dans la vidéo soulève des questions sur l’intérêt allégué de s’éloigner des drones armés et sur le potentiel de l’entreprise à utiliser cette technologie à l’avenir. Brinc a déposé une demande provisoire de brevet en 2017 et officiellement en juin 2018, sept mois après l’attentat de Las Vegas qui aurait convaincu Resnick d’aider les services d’urgence. Le brevet a été accordé à Brinc l’année dernière. La demande de « patrouille frontalière mise en œuvre par des drones » indique : « Si une personne est détectée, un algorithme de reconnaissance faciale embarqué tentera de l’identifier. (…) Dans une modalité, l’algorithme de reconnaissance faciale fonctionne en comparant les traits du visage capturés avec la base de données de reconnaissance faciale du département d’État américain.
« Quand la roue tourne, vous avez des clients en banque et ils veulent quelque chose. »
Le brevet précise que l’arme à bord est un Taser X26, une puissante arme à électrochocs qui a été abandonnée et associée à un « risque cardiaque plus important que les autres modèles », selon une enquête Reuters de 2017. Mais un pistolet paralysant n’était qu’un des beaucoup d’options possibles. Les autres armes anti-immigrants potentielles décrites dans le brevet comprennent : le gaz poivré, les gaz lacrymogènes, les balles en caoutchouc, les balles en plastique, les munitions à grains, les grenades éponge, « une arme électromagnétique, une arme laser, une arme à micro-ondes, une particule d’arme à faisceau, une arme sonique et/ou à plasma arme » avec « une approche sonique pour neutraliser une cible ».
Les défenseurs des libertés civiles et des immigrants ont condamné la technologie présentée dans la vidéo.
« Le gouvernement Biden et le Congrès ne devraient pas contracter avec des entreprises comme Brinc », a déclaré Mitra Ebadolahi, avocate principale de l’American Civil Liberties Union de San Diego et du comté d’Imperial, en Californie, après avoir regardé la vidéo. « Cela fait passer le profit au-dessus des personnes et ne fait rien pour augmenter la sécurité ou la protection des personnes. » Ebadolahi a ajouté que le système Wall Drone est « particulièrement horrible lorsque des cibles potentielles sont envisagées : les enfants non accompagnés, les femmes enceintes et les demandeurs d’asile en quête de sécurité ».
Elle a fait écho aux inquiétudes de la source de Brinc concernant le retour de l’entreprise aux drones armés : « Dans un marché non réglementé, les cadres technologiques suivent l’argent et conçoivent leurs produits pour des acheteurs qui promettent de gros profits et peu de contrôle. Les contrats gouvernementaux les plus attrayants sont passés avec nos agences les plus surfinancées et les moins étudiées : les organismes chargés de l’application de la loi. »
« Il est clair que ces entreprises s’inspirent des drones tueurs utilisés dans d’autres parties du monde. »
Dans une interview avec The Intercept, Jacinta Gonzalez de Mijente, un groupe de défense des droits des immigrants latinos, a décrit la vidéo de Drones Wall comme « absolument horrible ». « C’est effrayant de penser que ce n’est pas seulement une idée horrible que quelqu’un a réfléchie, mais [que a Brinc] est allé jusqu’à faire la vidéo », que Gonzalez considère comme illustrant « à quel point la frontière entre les zones de guerre et une frontière militarisée est devenue floue. « Il est clair que ces entreprises s’inspirent des drones tueurs utilisés dans d’autres parties du monde. »
Gonzalez dit qu’elle n’était pas à l’aise avec le scénario décrit dans la vidéo, décrit par elle comme un « fantasme raciste » et non représentatif des vrais problèmes humanitaires à la frontière. « S’il y avait des drones qui volaient, ils trouveraient probablement des familles et des personnes qui traversent une crise sanitaire très difficile. (…) Ils seraient confrontés à des personnes qui pourraient ne pas parler anglais. Forcer l’immigrant moyen de la frontière sud des États-Unis à subir un interrogatoire avec un robot conçu pour l’électrocuter « ne fait que rendre un voyage dangereux encore plus violent, plus susceptible d’entraîner la mort ou des blessures ».
Gonzalez est sceptique, à long terme, quant à l’engagement actuel de Brinc de ne pas contribuer à une dystopie policière robotique : « Vous ne pouvez pas faire confiance à une entreprise qui met des idées comme celle-ci dans la rue. » Éviter un avenir dans lequel la frontière américano-mexicaine serait surveillée par des robots volants armés « ne nécessite pas seulement l’engagement de l’entreprise à ne pas produire ce type de drone. Nous avons besoin de la police locale, de l’Immigration, du Department of Homeland Security et de la Border Patrol pour dire de manière proactive : « Ce n’est pas le genre de technologie dans laquelle nous voulons investir, nous ne mettrons jamais en œuvre quelque chose comme ça ».
Traduction : Ricardo Romanoff