Logo

Le blog de Forecasting AI

Blog

>

Deep Learning

>

Deepfake Detection, le challenge Facebook

Deepfake Detection, le challenge Facebook

By G.H.

|

September 17, 2019

|

Deep Learning

|

10 millions de dollars rien que pour traquer les faux-fuyants. Mais qu'est-ce qu'un faux profond ? Pourquoi Facebook, avec un consortium d'universitaires et d'entreprises, est-il prêt à dépenser autant d'argent pour détecter un montage réalisé par Intelligence Artificielle ? Prévoir l'IA vous en dit plus sur un sujet qui a fait et continuera de faire le buzz dans les années à venir.


Facebook n'est pas le seul mastodonte à s'être lancé dans la contrefaçon profonde aux États-UnisMais son expérience récente lors des dernières élections américaines et la prise de pouvoir de Donald Trump en 2016 l'ont forcé à prendre les devants et à faire preuve de bonne volonté dans leur simple détection.

Manipulation d'un visage masculin asiatique par deepfake et intelligence artificielle. (Adobe Stock)
Ensuite, le Défi de détection de fausses profonde de Facebook est apparu récemment sur nos écrans d'appareils connectés. après la publication d'un post sobrement nommé Créer un ensemble de données et un défi pour Deepfakes à bord de le blog de la société américaine. Mais, en fait, que signifie ce nouveau nom, deepfake ? D'où vient-il, que cache-t-il ? Pourquoi Facebook s'intéresse-t-il de près à cette question et quelles mesures a-t-il prises pour mettre en œuvre sa nouvelle politique ?

Mais qu'est-ce qu'un faux profond ?


En anglais, le terme deepfake vient de la contraction de deux mots "Deep" pour "DeepLearning" et "Fake" pour "false". Le principe du deepfake est donc de transformer les vidéos en utilisant l'Intelligence Artificielle et l'apprentissage profond pour diffuser de fausses informations de manière virale.

Avant, les fausses nouvelles concernaient donc principalement l'écriture ou les images et personne ne pouvait encore imaginer que des vidéos soient mangées par le même mal. Mais il faut s'y habituer, falsifier une vidéo pour produire de fausses informations et la diffuser est devenu possible et, en fait, facile.


Quelles sont les techniques connues du deepfake ?


Les techniques sont nombreuses et nous permettent d'obtenir un résultat étonnant. L'échange de visage vous permet de changer le visage d'une personne par un autre visage, image par image. pour leur faire dire des mots ou tenir des expressions qui ne sont pas les leurs.
Lip sync vous permet simplement de modifier la base des lèvres pour l'adapter à un discours que la personne n'aurait pas tenu.
Enfin, le face à face permet de superposer le visage d'une personnalité à celui d'un acteur qui a enregistré une fausse version.

Ces différentes techniques permettent de faire dire n'importe quoi à n'importe qui et surtout de le faire croire au grand public ou de diffuser de fausses informations. Certaines stars ou célébrités ont déjà été piégées par de la deepfake, sans rien demander à personne, se retrouvant au milieu d'une scène pornographique qu'elles n'ont bien sûr jamais tournée.

Un ensemble de données spécialement conçu par Facebook et les parties prenantes pour alimenter le Deepfake Detection Challenge. (Facebook AI)
Grâce à l'Intelligence Artificielle qui apprend de plus en plus vite et mieux le rendu vidéo avec une résolution optimisée, le deepfake est de plus en plus difficile à distinguer et à détecter. D'où les préoccupations de Facebook, d'autres entreprises et des universités avant, entre autres, les élections présidentielles américaines en 2020.


Pourquoi Facebook veut-il détecter les faux en profondeur ?


Et le chat échaudé a peur de l'eau froide. Après la conférence de Cambridge Analytica scandale avec la fuite de milliers de données d'utilisateurs dans le cadre de la campagne américaine de 2016, les nombreuses fausses nouvelles diffusées sur les réseaux sociaux tels que Twitter ou Facebook et les convocations de Mark Zuckerberg à comparaître devant le Congrès américain pour justifier toutes ces différences, la firme américaine n'a plus l'intention de revivre de tels scénarios.

Condamné à une amende record de 5 milliards de dollars par la Federal Trade Commission à l'époque (représentant 9 % de ses revenus en 2018) pour avoir violé ses engagements à protéger la vie privée de ses utilisateurs. dans le scandale de Cambridge Analytica, le réseau social veut maintenant être transparent et s'assurer qu'une telle mésaventure ne se reproduira plus. D'autant plus qu'il avait été durement prêché par le Congrès américain, lui rappelant à cette occasion les nombreuses excuses qu'il avait déjà dû présenter dans des affaires antérieures.


Quels sont les moyens de détecter les contrefaçons profondes ?


En conséquence, Facebook se donne les moyens d'identifier les contrefaçons profondes, d'anticiper et d'éviter un scandale qui pourrait entacher les prochaines élections. Parce que les deepfakes sont l'avenir de la diffusion de fausses informations après de fausses nouvelles pour des contenus écrits et picturaux. L'objectif est simple : identifier les fausses vidéos réalisées à l'aide de l'Intelligence Artificielle et les interdire avant que le plus grand nombre possible d'utilisateurs de la plateforme puissent les visionner en ligne.

Le géant américain a donc lancé seul le Deepfake Detection Challenge et a réuni de nombreuses universités et entreprises numériques autour de ce projet pour atteindre ses objectifs et trouver une solution et des outils efficaces pour la détection des contrefaçons profondes. Dans le secteur universitaire, le MIT, l'Université d'Oxford et l'Université de Californie à Berkeley se sont associés à un large éventail d'entreprises, dont Microsoft ou Apple, Google, Amazon et Intel dans le cadre de leur alliance Partnership of AI.


10 millions de dollars investis dans des ensembles de données et un concours


Facebook a donc eu l'idée de créer des ensembles de données et de les mettre à la disposition des contributeurs pour lancer un concours sur la détection des contrefaçons profondes. "Pour passer de l'ère de l'information à l'ère du savoir, nous devons mieux distinguer le réel du faux, récompenser le contenu fiable du contenu non fiable et éduquer la prochaine génération à devenir de meilleurs citoyens numériques.Hany Faried, professeur de génie électrique et d'informatique à l'Université de Californie à Berkeley, dans un communiqué de presse Facebook. Cela nécessitera des investissements à tous les niveaux, y compris dans les efforts de recherche de l'industrie, des universités et des ONG pour développer et opérationnaliser une technologie permettant de déterminer rapidement et précisément quel contenu est authentique."


Deepfake testé pour de nouvelles solutions


Pour motiver tous ceux qui sont tentés par un tel concours et pour respecter l'équité, Facebook a donc transmis une base de données commune avec de fausses vidéos, créée pour l'occasion avec des acteurs et non extraite des données utilisateur dont elle dispose. Un classement sera également publié pour identifier les meilleures solutions et les soumettre à de nouveaux concurrents. Et bien sûr, des prix et autres récompenses seront remis aux participants les plus compétitifs.


Cela pourrait l'éviter d'avoir à traiter à nouveau avec la justice américaine ou de voir son patron cité à comparaître devant le Congrès américain pour s'excuser une fois de plus pour des abus. Dans tous les cas, Facebook prend l'initiative, mais cela ne devrait pas empêcher les deepfakes de prospérer jusqu'à ce qu'une solution appropriée soit trouvée. Comme celle où Mark Zuckerberg prétend avoir volé toutes les données des utilisateurs de son réseau social et les a transmises à Spectre, l'organisation secrète bien connue des fans de James Bond. Une vidéo qui est devenue virale sur Facebook et Instagram en un rien de temps, propriété de.... Facebook.