Les outils de détection de DeepFakes sont d'ores et déjà indispensables face à la prolifération de vidéos falsifiées grâce à l'intelligence artificielle. Découvrez où en est la recherche dans ce domaine, et quelles sont les méthodes employées par les outils déjà existants.
Grâce à l’intelligence artificielle, il est désormais possible de modifier une vidéo ou de la monter de toutes pièces. Ce sont les « DeepFakes » : des vidéos fallacieuses créées à l’aide du Deep Learning. Or, cette technologie peut être exploitée à des fins malveillantes…
Discréditer une célébrité en remplaçant le visage d’une actrice de film X par le sien, manipuler les foules en imputant des paroles à un homme politique… les DeepFakes ouvrent de nombreuses possibilités de désinformation.
L’édition de vidéos nécessitait autrefois l’expertise de professionnels et des budgets de plusieurs millions d’euros. Désormais, le DeepFake est accessible à n’importe quel amateur. Quelques semaines suffisent pour créer de fausses vidéos.
De fait, et c’est peut-être la conséquence la plus grave, il n’est plus possible de « croire ce que l’on voit ». Désormais, chaque vidéo sur internet est potentiellement fausse. À l’ère du DeepFake, toutes les images que nous voyons doivent être remises en question, le doute est de rigueur. Et ce phénomène ne fera que s’intensifier au fil des années à venir, à mesure que la technologie se développera.
Ainsi, tout comme les « Décodeurs » et consorts vérifient la véracité des articles d’actualité sur internet, il est nécessaire de déployer des outils permettant de détecter les DeepFakes et de les identifier comme tels.
Depuis environ trois ans, un champ de recherche se développe autour de la détection de DeepFakes. On distingue deux principales approches.
Comment fonctionnent les détecteurs de DeepFakes ?
La première consiste à repérer le comportement suspect d’une personne dans une vidéo. Une IA peut être nourrie à partir de nombreuses vidéos authentiques d’une célébrité, afin d’apprendre à détecter immédiatement toute anomalie dans sa gestuelle ou son discours.
La seconde technique, plus générale, consiste à identifier les différences entre les DeepFakes et les vraies vidéos. Par exemple, sachant que les DeepFakes sont souvent créés en combinant des images, il est possible de comparer les images pour détecter des inconsistances dans la vidéo. Cette même méthode peut aussi être exploitée pour identifier les contenus audio frauduleux.
Il existe déjà des outils de détection reposant sur ces deux approches, mais ils ne sont pas encore très performants. Il sera donc nécessaire pour les chercheurs d’améliorer et de renforcer cette technologie, avant de pouvoir la mettre à disposition de tout un chacun pour contrecarrer la vague de DeepFakes à venir.
Toutefois, le temps presse. Les outils permettant de créer des DeepFakes sont déjà à la portée de n’importe qui. Il est donc urgent de permettre à ceux qui sont en première ligne de faire face à cette menace.
Par exemple, les chercheurs John Sohrawardi et Matthew Wright du Rochester Institute of Technology ont ainsi décidé de collaborer avec des journalistes pour les aider à lutter contre la désinformation. Leur outil détecteur de DeepFakes vient compléter les techniques de vérification de l’information déjà existantes comme le croisement des sources.
En parallèle, les géants de la technologie tels que Facebook et Microsoft investissent dans les technologies permettant de comprendre et de détecter les DeepFakes. Ces investissements vont permettre d’accélérer la recherche et de gagner un temps précieux dans cette course contre la montre.
Il sera aussi nécessaire d’éduquer et d’avertir massivement le grand public concernant ce danger nouveau. À l’âge de l’intelligence artificielle, le combat contre la désinformation sera plus ardu que jamais.
Vous savez maintenant ce que sont les détecteurs de DeepFakes. Pour plus d’informations, découvrez notre dossier sur les DeepFakes ou encore les différentes façons dont les hackers exploitent l’IA.
