Fraude au président par voix clonée et visio truquée

Fraude au président par voix clonée et visio truquée

Les services d’IA (Intelligence Artificielle) générative accessibles à tous produisent en quelques minutes une voix clonée à partir d’extraits publics, un visage animé en visioconférence et des courriels sans une faute, dans la langue et le jargon de la cible. Les signaux sur lesquels reposait la vigilance humaine (accent, orthographe, qualité de l’image) ont disparu. La position défendue ici : la réponse ne passe pas par la détection du faux, mais par des processus qui rendent l’authenticité du canal indifférente.

Explication de la marmotte

Un sosie parfait du directeur peut sonner à la porte de la banque, il ne repartira pas avec le coffre si l’ouverture exige deux clés confiées à deux personnes différentes. Peu importe que le déguisement soit réussi : la serrure ne regarde pas les visages, elle compte les clés.

→ Lire l’explication complète de la marmotte

Voix clonée, visio truquée, courriels sans fautes : ce que l’IA générative change

La fraude au président existait bien avant les modèles génératifs : un dirigeant pressé, une opération confidentielle, un virement urgent. Ce qui change, c’est le coût de production du prétexte et la disparition des indices.

La voix. Quelques dizaines de secondes d’audio propre suffisent aux outils publics de clonage pour produire une voix convaincante au téléphone, où la bande passante réduite masque les artefacts. Les dirigeants publient ces échantillons eux-mêmes : conférences, podcasts, vidéos institutionnelles. Conséquence directe : l’authentification vocale (« c’est bien sa voix », ou la biométrie vocale d’un serveur téléphonique) ne vaut plus comme facteur d’identification.

La visioconférence. Des réunions entières avec plusieurs participants synthétiques ont déjà servi à obtenir des virements. L’effet de groupe fait le travail : si trois « collègues » valident à l’écran, le doute du quatrième paraît déplacé.

Le courriel. Un modèle de langage rédige dans le registre exact d’un fournisseur ou d’un directeur financier, relit sa propre orthographe et adapte le ton après chaque réponse. Les formations fondées sur « repérer les fautes » sont caduques ; celles fondées sur « repérer l’urgence et la demande inhabituelle » restent valables, parce que le fraudeur a toujours besoin des deux.

Pourquoi la détection de deepfake ne tient pas lieu de contre-mesure

Les détecteurs de contenus synthétiques (les hypertrucages, ou deepfakes) existent, et leur place est dans l’analyse après coup, pas dans le chemin de décision. Trois raisons :

• ils produisent des faux positifs et des faux négatifs, et le taux dépend du générateur utilisé, qui change plus vite que le détecteur ;
• l’appel téléphonique et la visioconférence tiers ne passent pas par un point d’analyse maîtrisé ;
• un outil qui répond « probablement authentique » transforme un doute sain en fausse assurance.

Chaque saison apporte son détecteur « à l’état de l’art », et chaque saison le générateur suivant le rend obsolète ; c’est une course dont l’arrivée a été déplacée pendant le tour de piste.

Côté messagerie, l’authentification des domaines garde son intérêt : SPF (Sender Policy Framework), DKIM (DomainKeys Identified Mail) et DMARC (Domain-based Message Authentication, Reporting and Conformance) en politique de rejet empêchent l’usurpation exacte du domaine de l’organisation. Ils ne disent rien d’un domaine voisin enregistré la veille ni d’une boîte fournisseur réellement compromise. Ils ferment une porte, pas le sujet.

Contre-mesures de processus contre la fraude au président

Le principe unique : aucune demande sensible n’est exécutée sur la seule foi du canal par lequel elle arrive, quel que soit le réalisme de ce canal. Il se décline en règles vérifiables.

Rappel sur un numéro de référentiel. Toute demande de virement inhabituel, de changement de RIB (relevé d’identité bancaire) fournisseur ou de modification de coordonnées se vérifie par un rappel vers le numéro enregistré dans le référentiel interne, jamais vers celui fourni dans la demande. Le rappel se fait à l’initiative de la personne qui vérifie, après avoir raccroché.

Double validation et séparation des tâches. Au-delà d’un seuil, deux personnes valident dans l’outil de paiement, avec des comptes distincts. Un ordre verbal, même du président, ne remplace aucune de ces validations : c’est à écrire noir sur blanc dans la procédure signée par la direction, pour que l’exécutant puisse opposer le texte au prétendu dirigeant.

Pas d’exception pour l’urgence ni pour la confidentialité. Les deux leviers classiques du fraudeur sont « c’est urgent » et « personne d’autre ne doit être au courant ». La procédure dit explicitement qu’aucun des deux ne dispense d’une étape. Une demande qui invoque l’un de ces motifs pour sauter la vérification est, par construction, suspecte.

Délai de carence sur les changements de coordonnées. Un nouveau RIB n’est utilisable qu’après un délai et une confirmation hors bande. Le délai coûte un peu de fluidité et retire au fraudeur son meilleur allié, la précipitation.

Réinitialisation d’accès par le support. La voix clonée vise aussi le support informatique : « en déplacement, téléphone perdu, il faut réinitialiser le second facteur tout de suite ». La vérification d’identité pour ces opérations suit la même règle (rappel sur le numéro de l’annuaire, validation par le responsable hiérarchique), détaillée côté Identités.

Ce que ces processus ne garantissent pas : ils ne protègent pas une personne qui décide de les contourner, et ils reposent sur un référentiel de coordonnées intègre. Si l’attaquant a d’abord modifié le numéro dans l’annuaire, le rappel l’appelle, lui. Le référentiel devient donc un actif sensible : droits de modification restreints, journalisation, revue des changements récents avant tout paiement.

Exemple : procédure de vérification en configuration

La procédure gagne à exister sous forme structurée, pour être reprise à l’identique par l’outil de paiement, le support et la formation. L’extrait suivant se charge dans un moteur de règles de workflow ou sert de spécification au paramétrage de l’ERP (Enterprise Resource Planning).

# verification-demandes-sensibles.yaml : règles appliquées quel que soit le canal d'arrivée
declencheurs:
  - changement_coordonnees_bancaires       # tout fournisseur, tout montant
  - virement_hors_echeancier
  - reinitialisation_second_facteur        # opérations du support informatique
verification:
  rappel:
    numero_source: referentiel_interne     # jamais le numéro fourni dans la demande
    initiateur: verificateur               # la personne qui vérifie rappelle, après avoir raccroché
  double_validation:
    seuil_eur: 10000                       # à fixer selon l'activité
    comptes_distincts: true
  carence_nouvelles_coordonnees_heures: 48 # aucun paiement avant délai + confirmation hors bande
motifs_non_derogatoires: [urgence, confidentialite, ordre_direction]
referentiel_interne:
  modification: [equipe_comptabilite_fournisseurs]  # droits restreints
  revue_changements_avant_paiement_jours: 30

Les seuils sont des paramètres d’exemple, pas une recommandation chiffrée. La ligne motifs_non_derogatoires porte l’essentiel : elle retire à l’attaquant ses deux meilleurs arguments. La rubrique Facteur humain couvre la formation qui accompagne ces règles, et Menaces le traitement des tentatives signalées.

🐝 Ce qui arrive si on s’en passe

Sans procédure écrite et tracée, un virement obtenu par voix clonée ne laisse aucune trace de vérification à produire : ni rappel horodaté, ni second valideur, ni motif de dérogation consigné. L’enquête ne peut alors pas distinguer la manipulation d’une complicité interne, la personne qui a exécuté l’ordre porte seule la décision, et la demande de rappel des fonds adressée à la banque part sans les éléments qui permettraient de qualifier rapidement l’escroquerie. Le temps perdu à reconstituer les faits joue en faveur du fraudeur.

🦫 Explication de la marmotte 🍫

Des outils d’intelligence artificielle disponibles pour tous savent désormais reproduire la voix d’une personne à partir de quelques enregistrements, animer son visage pendant un appel vidéo et écrire des messages sans fautes. Des escrocs s’en servent pour se faire passer pour un dirigeant ou un fournisseur et réclamer un virement urgent ou un changement de coordonnées bancaires. Chercher à repérer le faux ne suffit plus : les imitations sont trop réussies et les logiciels de détection se trompent. La défense repose donc sur des règles qui s’appliquent même quand la demande semble parfaitement authentique. Toute demande d’argent inhabituelle se vérifie en rappelant la personne sur le numéro déjà connu de l’entreprise, jamais sur celui donné dans le message. Au-delà d’un certain montant, deux personnes différentes doivent valider. Un nouveau compte bancaire ne peut pas être payé tout de suite. Et ni l’urgence ni le secret ne permettent de sauter une étape. Ces règles ont une faiblesse : si l’escroc a réussi à modifier le numéro enregistré dans les fichiers de l’entreprise, le rappel tombe sur lui. C’est pourquoi les changements dans ces fichiers sont limités à quelques personnes, enregistrés et contrôlés avant chaque paiement.

À lire aussi

• Détecter le contenu IA malveillant : limitesLimites des détecteurs de contenu généré par IA face au phishing, à la désinformation et aux faux avis produits à grande échelle par des modèles de langage.
• Comment former contre le phishing sans culpabiliserFormer sans culpabiliser réduit le phishing quand la formation s'appuie sur des contrôles techniques, des signalements sans sanction et des exercices mesurables.
• Comment les attaquants utilisent l'IA : de la CVE au zero-dayCe que l'intelligence artificielle apporte réellement aux attaquants d'après les rapports publiés par OpenAI, Anthropic, Google et Microsoft, l'accélération de l'exploitation des vulnérabilités publiées, la recherche de zero-days assistée par IA et ce que les défenseurs doivent changer.
• Déployer DMARC de observation à rejectGuide pratique pour analyser les rapports DMARC puis passer un domaine existant de p=none à p=reject.

Pages voisines

La citent

• Comment les attaquants utilisent l'IA : de la CVE au zero-day
• L'avenir, vu par une IA
• Peur de l'IA : ce qui est fondé, ce qui est exagéré
• Peur de l'IA : les craintes actuelles, une par une
• Répondre à la peur de l'IA : règles, gouvernance et réflexes
• AI Act : transparence des chatbots, hypertrucages et contenus générés (article 50)

Fraude au président par voix clonée et visio truquée

Elle cite

• ⇄Lien dans les deux sens :La récupération de compte, maillon faible
• Comment contrer le spear phishing et la fraude au président
• Pourquoi le phishing fonctionne malgré la formation

⇄ : les deux pages se citent l’une l’autre.