Les deepfakes de l’IA s’améliorent dans l’usurpation de la vérification KYC : Un cadre de Binance

La technologie Deepfake utilisée par les fraudeurs de crypto-monnaies pour contourner la vérification de la connaissance du client (KYC) sur les bourses de crypto-monnaies telles que Binance ne fera que se perfectionner, prévient le responsable de la sécurité de Binance.

Les « deepfakes » sont fabriqués à l’aide d’outils d’intelligence artificielle qui utilisent l’apprentissage automatique pour créer des sons, des images ou des vidéos convaincants à l’effigie d’une personne. Si cette technologie peut être utilisée à des fins légitimes, elle peut également servir à commettre des escroqueries et des canulars.

S’adressant à Cointelegraph, le responsable de la sécurité de Binance, Jimmy Su, a déclaré qu’il y avait eu une augmentation des fraudeurs utilisant la technologie pour essayer de contourner les processus de vérification des clients de la bourse.

« Le pirate cherche une photo normale de la victime en ligne quelque part. À partir de là, en utilisant des outils de contrefaçon profonde, ils sont en mesure de produire des vidéos pour contourner le processus ».

Selon M. Su, les outils sont devenus si perfectionnés qu’ils peuvent même répondre correctement à des instructions audio conçues pour vérifier si le demandeur est un être humain, et ce en temps réel.

« Certaines vérifications exigent de l’utilisateur, par exemple, qu’il cligne de l’œil gauche ou qu’il regarde à gauche ou à droite, qu’il lève les yeux ou qu’il les baisse. Les « deep fakes » sont aujourd’hui suffisamment avancés pour pouvoir exécuter ces commandes », a-t-il expliqué.

Toutefois, M. Su estime que les vidéos truquées n’ont pas encore atteint le niveau qui leur permettrait de tromper un opérateur humain.

« Lorsque nous regardons ces vidéos, il y a certaines parties que nous pouvons détecter à l’œil nu », par exemple lorsque l’utilisateur doit tourner la tête sur le côté », a déclaré M. Su.

« L’IA les surmontera au fil du temps. Ce n’est donc pas quelque chose sur lequel nous pouvons toujours compter ».

En août 2022, le directeur de la communication de Binance, Patrick Hillmann, a averti qu’une « équipe de pirates informatiques sophistiquée » utilisait ses précédentes interviews et apparitions télévisées pour créer une version « deepfake » de lui.

La version « deepfake » de Hillmann a ensuite été déployée pour organiser des réunions Zoom avec diverses équipes de projets cryptographiques en leur promettant la possibilité de coter leurs actifs sur Binance – moyennant un certain prix, bien entendu.

« C’est un problème très difficile à résoudre », a déclaré M. Su, lorsqu’on lui a demandé comment lutter contre de telles attaques.

« Même si nous pouvons contrôler nos propres vidéos, il existe des vidéos qui ne nous appartiennent pas. L’une des choses à faire est donc d’éduquer les utilisateurs.

Binance prévoit de publier une série d’articles de blog visant à sensibiliser les utilisateurs à la gestion des risques.

Dans une première version du billet de blog comportant une section sur la cybersécurité, Binance a déclaré qu’elle utilisait l’IA et des algorithmes d’apprentissage automatique à ses propres fins, notamment pour détecter des schémas de connexion et de transaction inhabituels et d’autres « activités anormales sur la plateforme ».