Les DeepFakes : Entre innovation et escroquerie, un défi pour notre société

Notre monde et nos sociétés sont en mutation, un changement tellement important où l’on ne distingue plus l’homme de la machine. Les DeepFakes, ces créations numériques capables de falsifier des voix, des visages et des vidéos, incarnent parfaitement cette révolution. Bien que cette technologie puisse ouvrir des horizons créatifs, les mauvaises intentions ne sont jamais loin. Les DeepFages ne sont plus réservés aux grandes entreprises et aux gros groupes industriels, nous en avons des exemples au quotidien. Nous pouvons tous en être victimes, et la vigilance est plus que jamais d’actualité.
Usurpation d’identité et escroqueries : Un terrain fertile pour les cybercriminels
Les DeepFakes sont devenus un outil puissant pour les cybercriminels cherchant à usurper des identités et à commettre des fraudes financières. Un cas emblématique est survenu en 2019, lorsqu’un PDG d’une société énergétique britannique a été trompé par un DeepFake vocal imitant la voix de son supérieur, ce qui a conduit au transfert de 220 000€ vers un compte frauduleux. Plus récemment, en 2023, une attaque utilisant la technologie de clonage vocal IA a permis à des fraudeurs de détourner 35 millions de dollars en trompant un manager de banque (Source : Forbes).
Multiplication des tentatives
Fut un temps ces fraudes à la petite semaine où nous recevions des avis d’impayés dans nos boîtes mail ou encore des convocations au tribunal pouvant être dérogées en payant une amende nous faisaient sourire. Les mails et documents reçus étaient de piètre qualité, bourrés de fautes et avec une mise en page digne d’un gamin de trois ans. Mais maintenant, nous recevons des documents à l’identique où les traits de falsification sont durs à discerner, voire quasiment impossibles. Même les plus aguerris, dont je fais partie, ne sont pas loin de tomber dans le piège. Gare aux DeepFakes.
Une histoire vécue
Il n’y a pas si longtemps, j’étais stressé par une difficulté de renouvellement de ma mutuelle, cela ne fonctionnait pas. Je reçois au même moment un SMS de la CNAM me pressant de renouveler les conditions de ma carte vitale, auquel cas j’allais être coupé de tous mes droits. J’ai mis le doigt dans l’engrenage, pensant avant tout à ma famille et laissant mes émotions éteindre ma raison et mon flair. J’ai entré mes informations de carte en pensant régler ce problème au plus vite, sur une aire d’autoroutes. Il n’a pas fallu bien longtemps avant que je reçoive un appel de ma banque me signalant des fraudes possibles sur mon compte courant. Mon banquier m’appelait avec le numéro de téléphone de ma banque et connaissait la plupart de mes informations, mais pas toutes. Il me demandait de procéder à des manipulations sur mon application bancaire afin de contester certains montants qui pourraient être frauduleux.
Comment je m’en suis tiré
Cependant, quelque chose clochait : le ton de la voix, l’assurance et le ton quelque peu direct de l’interlocuteur, l’omission de certaines procédures de vérification. Il faut dire aussi que dans un passé glorieux, j’ai travaillé au service autorisation et fraude d’une grande institution de crédit ; j’ai été formé à la détection de ce type de situation. Le spécialiste est censé être moi. Oui, mais lorsque cela vous arrive, ce n’est pas le même son de cloche. On est le meilleur pour les autres, mais quand ça vous arrive, ce n’est pas la même chose. Mes années de détection de fraude et d’analyse me sont revenues d’un seul coup, et les 10 minutes restantes avec le fraudeur ont été très instructives. À mon tour de le mener en bateau et de lui faire croire, avec mon air ahuri, que les manipulations étaient faites alors qu’il ne voyait rien de son côté. Il a fini par prendre sa voix normale et perdre patience, s’en est suivi de son côté un flot d’insultes. Il avait gâché une heure de sa vie d’escroc et quelques milliers d’euros de bénéfices nets ; quant à moi, un blocage de compte, des oppositions sur carte, rien de bien méchant. C’est encore un cas parmi tant d’autres de deepfake, d’escroquerie vocale.

Deepfakes dans la politique : Une arme de manipulation massive
Les deepfakes ont également trouvé leur place dans l’arène politique, où ils sont utilisés pour manipuler l’opinion publique, en particulier lors des élections. En 2024, des appels automatisés utilisant une imitation de la voix de Joe Biden ont été utilisés pour dissuader les électeurs de participer aux primaires démocrates dans le New Hampshire (Source : Le Monde). En Inde, des vidéos deepfake ont été utilisées pour. Ces manipulations soulignent les dangers potentiels de cette technologie dans la déstabilisation des processus démocratiques.
Fausses illustrations dans la presse et les médias : Quand la réalité devient floue
Les deepfakes posent un problème croissant pour les médias, où ils sont utilisés pour diffuser des informations visuelles trompeuses. Si un deepfake est généré pour illustrer la course de caisse à savon du coin, il est quelque part le bienvenu, mais si c’est pour illustrer une manifestation de grande ampleur dans les rues de la capitale, en montrant des CRS pris sous le feu des manifestants et en train de se faire gazer, là on sourit moins. Une vidéo de Nancy Pelosi, modifiée pour la montrer apparemment ivre, a fait des millions de vues sur Facebook. De plus, en 2022, un deepfake de Sam Bankman-Fried, fondateur de FTX, a été utilisé pour promouvoir une escroquerie en crypto-monnaie après l’effondrement de son entreprise (Source : Numerama). Ces incidents montrent à quel point il devient difficile pour le public de discerner le vrai du faux dans un monde où les images deepfake circulent librement.
Deepfakes positifs et applications créatives : Un potentiel à explorer
Le deepfake c’est aussi une augmentation de la réalité, une déformation du présent, une réelle stimulation de la créativité. Malgré leurs dangers, les deepfakes ont des applications positives. Par exemple, David Beckham a participé à une campagne de sensibilisation contre le paludisme où il apparaît parlant neuf langues différentes grâce à un deepfake (Source : iDenfy). Dans le domaine de l’art et du divertissement, le musée Dalí en Floride a utilisé un deepfake pour recréer Salvador Dalí, permettant aux visiteurs d’interagir avec une version animée de l’artiste (Source : RTBF).
En mode Deepfake : Pourquoi pas ?
Récemment, j’ai pu voir un défilé de mode complètement hallucinant où les mannequins d’une beauté transcendante étaient tout autant des chimères, que de magnifiques représentations de la créativité humaine boostée par l’IA. Cela montre bien que le deepfake ne doit pas seulement être vu comme une menace, mais aussi comme un nouvel outil d’expression artistique. De plus en plus d’artistes s’emparent de cette technologie, notamment à travers le prompt art, un mouvement qui permet de créer des œuvres visuelles uniques en combinant créativité humaine et intelligence artificielle.

Détection et régulation des deepfakes : Vers une réponse technologique et législative
Pour contrer les dangers des deepfakes, des solutions technologiques avancées sont nécessaires. iDenfy propose une solution de détection de deepfake qui compare des selfies avec des photos de documents pour repérer les tentatives de fraude (Source : iDenfy). Parallèlement, des initiatives législatives commencent à voir le jour pour réguler l’usage des deepfakes, bien que ces efforts en soient encore à leurs débuts.
Protéger le présent pour mieux envisager l’avenir
Les deepfakes représentent un défi technologique et éthique majeur, mais ils peuvent aussi offrir des possibilités créatives intéressantes. Il est crucial que les entreprises, les gouvernements et les individus restent vigilants face à cette technologie et adoptent des mesures pour se protéger contre ses abus potentiels. Pour en savoir plus sur la manière de protéger votre entreprise contre ces risques ou pour suivre une formation à l’ingénierie de prompt, n’hésitez pas à consulter mon site web. J’offre des ateliers de formation pour vous aider à maîtriser ces technologies et à les intégrer de manière sécurisée dans vos pratiques professionnelles. Retrouvez mes articles de blog sur l’IA mais aussi sur mon autre passion grandissante, le référencement naturel ou SEO.