Alethea AI, une société de médias synthétiques, pilote des «peaux de visage préservant la confidentialité» ou des masques numériques qui contrecarrent les algorithmes de reconnaissance faciale et aident les utilisateurs à préserver la confidentialité des vidéos préenregistrées.
Cette décision intervient alors que des sociétés telles qu’IBM, Microsoft et Amazon ont annoncé qu’elles suspendraient la vente de leur technologie de reconnaissance faciale aux organismes d’application de la loi.
«Il s’agit d’une nouvelle technique que nous avons développée en interne et qui enveloppe un visage avec nos algorithmes d’IA», a déclaré Arif Khan, PDG d’Alethea AI. «Les avatars sont amusants à jouer et à développer, mais ces« masques / peaux »sont un animal différent et plus puissant pour préserver l’intimité.»
Voir aussi: La Fondation des droits de l’homme finance des outils de confidentialité Bitcoin malgré la stigmatisation juridique du «mélange de pièces»
La startup basée à Los Angeles a été lancée en 2019 avec un accent sur la création d’avatars pour les créateurs de contenu que les créateurs pourraient concéder sous licence pour des revenus. L’idée vient comme des deepfakes, ou des médias manipulés qui peuvent faire apparaître quelqu’un comme s’ils faisaient ou disaient quelque chose, deviennent plus accessibles et plus répandus.
Selon un rapport de 2019 de Deep Trace, une entreprise qui détecte et surveille les deepfakes, il y avait plus de 14000 deepfakes en ligne en 2019 et plus de 850 personnes ont été ciblées par eux. Alethea AI veut permettre aux créateurs d’utiliser leurs propres avatars de médias synthétiques à des fins de marketing, en quelque sorte en essayant de laisser les gens tirer parti d’eux-mêmes pour de l’argent.
Khan compare la prolifération des données de reconnaissance faciale maintenant à l’explosion du piratage musical de style Napster au début des années 2000. Des entreprises, comme Clearview AI, ont déjà collecté de grandes quantités de données auprès des personnes pour les algorithmes de reconnaissance faciale, puis revendu ces données aux services de sécurité sans consentement, et avec tout le biais inhérent aux algorithmes de reconnaissance faciale, qui sont généralement moins précis sur les femmes et les personnes de couleur.
Clearview AI s’est commercialisé auprès des forces de l’ordre et a gratté des milliards d’images de sites Web tels que Facebook, Youtube et Venmo. La société est actuellement poursuivie pour cela.
«Nous arriverons à un point où il doit y avoir une sorte de couche iTunes, où vos données faciales et vocales seront protégées d’une manière ou d’une autre», a déclaré Khan.
Une partie de cela est que les créateurs accordent leur ressemblance moyennant des frais. L’entrepreneur en cryptographie Alex Masmej a été le premier de ces avatars, et pour 99 $, vous pouvez embaucher l’avatar pour dire 200 mots de tout ce que vous voulez, à condition que le vrai Masmej approuve le texte.
Nous arriverons à un point où … où vos données de visage et de voix seront en quelque sorte protégées
Alethea AI a également établi un partenariat avec la société de logiciels Oasis Labs, afin que tout le contenu généré pour le marché des médias synthétiques d’Alethea AI soit vérifié à l’aide de la blockchain sécurisée d’Oasis Lab, semblable à la coche bleue «vérifiée» de Twitter.
« Il y a beaucoup de scénarios Black Mirror quand on pense aux deepfakes mais si mon approbation personnelle est nécessaire pour mes deepfakes et qu’il est ensuite horodaté sur une blockchain publique pour que quiconque vérifie les vidéos que je veux réellement publier, cela fournit un protection que les deepfakes font actuellement défaut », a déclaré Masmej.
Le pilote de confidentialité pousse cette idée un peu plus loin, non seulement en créant une fausse licence, mais en empêchant les entreprises ou quiconque de récupérer vos données faciales à partir d’un enregistrement.
Le composant de confidentialité comprend deux parties. Le premier, en cours de pilotage, concerne des vidéos préenregistrées. Les utilisateurs téléchargent une vidéo, identifient où et quelle peau de visage ils aimeraient superposer par eux-mêmes, puis les algorithmes d’Alethea AI mappent les points clés sur votre propre visage et enroulent le masque autour de cette carte de points clés créée. La vidéo est ensuite renvoyée à un client.
Voir aussi: Fake News on Steroids: Deepfakes Come Coming – Are World Leaders Prepared?
Alethea AI souhaite également activer le masquage du visage lors des communications en temps réel, par exemple lors d’un appel Zoom. Mais Khan dit que la puissance de calcul ne le permet pas encore, même si cela devrait être possible dans un an, espère-t-il.
Althea AI a piloté un exemple de la technologie avec Crypto AI Profit, une blockchain et un influenceur de l’IA, qui l’a utilisé lors d’une vidéo sur Youtube.
Les deepfakes, l’usurpation de la voix et d’autres mimiques activées par la technologie semblent rester, mais Khan est toujours optimiste quant au fait que nous ne sommes pas encore au point de non-retour en matière de protection.
« J’espère que l’individu se verra accorder une sorte de cadre dans tout ce paysage émergent », a déclaré Khan. «Ça va être une course très intéressante. Je ne pense pas que la bataille soit entièrement décidée, bien que les systèmes existants soient orientés vers la préservation d’une plus grande contribution de l’entreprise. »
Divulgation
Le leader des nouvelles de la blockchain, CoinDesk est un média qui vise les normes journalistiques les plus élevées et respecte un ensemble strict de politiques éditoriales. CoinDesk est une filiale opérationnelle indépendante de Digital Currency Group, qui investit dans les cryptomonnaies et les startups blockchain.