Le laboratoire de Facebook AI Research (FAIR) basé en Israël a développé un système de machine learning capable de "désidentifier" des individus dans des vidéos, trompant les systèmes de reconnaissance faciale les plus élaborés. Il s'agit d'une première, les précédents systèmes se limitant à la désidentification dans les photos.
DÉFORMER JUSTE ASSEZ LES VISAGES POUR TROMPER LES MACHINES
Le système de Facebook crée à la fois un rendu du visage et un masque à lui superposer, de manière un peu similaire à l'application Face Swap, qui intervertit des visages.
La différence est qu'ils sont ici simplement déformés, suffisamment pour tromper les systèmes informatiques mais en restant identifiables par des humains.
Pour ce faire, le groupe a combiné un auto-encodeur et un classificateur d’images.
"L’outil qui en résulte parvient à rendre difficile l’identification de personnes par le biais de la reconnaissance faciale… et peut également être utilisé pour masquer une voix ou un comportement en ligne, par exemple", a expliqué à nos confrères du site VentureBeat Lior Wolf, professeur à l’université de Tel-Aviv et ingénieur au FAIR.
UNE MODIFICATION EN TEMPS RÉEL
Le modèle mis au point par FAIR permet de modifier les visages en temps réel, même dans les vidéos en direct.
"La reconnaissance faciale peut conduire à une entrave dans nos libertés individuelles.
La technologie de remplacement de visages peut, elle, être détournée pour créer des vidéos trompeuses [ce qu’on appelle des deepfakes, N.D.L.R.], détaillent les chercheurs.
Divers événements, survenus dans le monde entier ces derniers mois, renforcent la nécessité d’appréhender les méthodes de désidentification."
FACEBOOK EST ACCUSÉ DE PRATIQUES ABUSIVES POUR LA RECONNAISSANCE FACIALE
Des sentiments certes nobles, mais qui ne sont pas sans ironie quand on sait que Facebook est actuellement visé aux Etats-Unis par un procès pour utilisation abusive de la reconnaissance faciale sur les utilisateurs de son réseau social. L'amende pourrait atteindre 35 milliards de dollars.
Justement, l'une des utilisations potentielles de cette technologie est d'entraîner des modèles d'intelligence artificielle à l'aide de visages anonymisés, sans empiéter sur le respect de la vie privée des personnes concernées. Facebook n’a cependant "aucun projet d’intégration de cette technologie" à ses applications dans un futur proche.
La semaine dernière, Amazon a rejoint l’initiative anti-deepfakes portée par Facebook, Microsoft et deux universités en vue de l’élection présidentielle américaine de 2020.
Source Koide9enisrael
Vous nous aimez, prouvez-le....