Français
Une fausse célébrité n’a pas besoin de résister à un examen sur un écran de cinéma. Parfois, il lui suffit de tenir cinq secondes d’attention distraite sur un téléphone, assez longtemps pour que quelqu’un clique, partage ou panique.
C’est la question dérangeante que posent les deepfakes d’IA bon marché. Nous pouvons passer tout l’après-midi à débattre d’une oreille étrange tandis que le lien sous la vidéo fait déjà son travail.
La nouvelle vidéo de Coffeezilla, Investigating AI Deepfakes, explore les escroqueries, la propagande et le harcèlement. En la présentant, il explique avoir tenté ce projet pour la première fois il y a quatre ans et percevoir aujourd’hui la menace autrement. C’est un point de départ utile pour une discussion plus large : quel degré de réalisme un faux doit-il réellement atteindre pour faire du mal ?
Le faux n’a pas besoin de tromper tout le monde
Imaginez une publicité inventée dans laquelle un acteur connu recommande un investissement. Les mouvements de la bouche sont légèrement décalés, l’arrière-plan est étrangement lisse et l’acteur semble s’être découvert un intérêt pour les rendements garantis. Vous reconnaissez immédiatement l’arnaque. Quelqu’un d’autre voit un visage de confiance avant de remarquer ces indices.
L’existence de spectateurs sceptiques n’annule pas la perte subie par cette autre personne. Un défaut visible ne prouve pas non plus l’échec de toute la campagne. Nous devrions évaluer le risque d’après ce que le contenu persuade les gens de faire, plutôt que selon ses chances de remporter un prix d’effets visuels.
Cela ne rend pas les deepfakes réalistes inoffensifs. De meilleures imitations peuvent créer d’autres problèmes. Cela signifie qu’un contenu imparfait mérite déjà notre attention, sans attendre que chaque main générée réussisse son examen d’anatomie.
Une voix familière peut ajouter de l’urgence à une vieille arnaque
La Federal Trade Commission américaine a averti en mars 2023 que le clonage vocal pouvait rendre les escroqueries à l’urgence familiale plus convaincantes. Un court enregistrement peut fournir la matière d’une imitation, tandis que le récit exerce la pression : un proche a des ennuis et a besoin d’argent immédiatement.
La FTC recommande de contacter l’appelant supposé à un numéro que vous connaissez déjà, plutôt que de vous fier uniquement à sa voix. Les demandes de virements, de cryptomonnaies ou de codes de cartes-cadeaux sont d’autres signaux d’alerte.
La structure de la fraude est familière. L’IA peut y ajouter une couche d’usurpation d’identité, mais elle ne supprime pas la nécessité de vérifier la demande de façon indépendante. Une voix pressante n’est pas une pièce d’identité.
Il y a aussi une différence entre une démonstration convaincante et la preuve que toutes les organisations frauduleuses ont remplacé leur personnel par des systèmes d’appels autonomes. Une affirmation aussi générale nécessiterait des éléments sur les déploiements réels, les coûts et les taux de réussite. Le risque plus limité est suffisamment grave à lui seul.
« Cela pourrait être faux » peut protéger de véritables méfaits
Les deepfakes peuvent miner la confiance dans les deux sens. De fausses images peuvent être acceptées comme réelles ; des images authentiques peuvent être rejetées comme synthétiques.
Robert Chesney, Danielle Citron et Hany Farid ont abordé ce sujet dans leur analyse de 2020 des risques liés aux deepfakes. Chesney et Citron appellent le second problème le « dividende du menteur » : savoir que des fabrications convaincantes existent fournit une excuse plus facile pour rejeter des preuves authentiques. Leur argument reconnaît aussi les dommages causés par des montages trompeurs plus simples, qui n’exigent pas d’IA avancée.
Cela nous laisse une tâche délicate. Croire aveuglément est dangereux, mais douter automatiquement n’est pas non plus faire preuve d’esprit critique. « Tout est faux » paraît sophistiqué jusqu’à ce que cela devienne une permission de croire la version qui nous arrangeait le plus dès le départ.
Une question utile est celle de l’origine d’une séquence : la personne qui l’a publiée en premier, l’enregistrement complet, l’événement qui l’entoure et les informations rapportées par des sources indépendantes. Ces vérifications recherchent des preuves au-delà des pixels. Compter les doigts ne suffira pas à faire tout ce travail.
Les fausses images intimes causent de vrais dommages
Les fabrications sexualisées non consenties ne deviennent pas inoffensives parce que la personne qui les regarde sait qu’elles ont été générées. La personne représentée peut toujours subir de l’humiliation, du harcèlement et des demandes répétées pour expliquer ou faire retirer des contenus qu’elle n’a jamais accepté de créer.
L’asymétrie est particulièrement cruelle : produire et diffuser une nouvelle copie peut être plus facile que de persuader chaque destinataire de cesser de la partager. « Mais ce n’est pas vraiment toi » est une réponse profondément inadéquate à quelqu’un dont le visage a été utilisé pour le prendre pour cible.
Aux États-Unis, la loi TAKE IT DOWN a été promulguée le 19 mai 2025. Elle vise certaines représentations intimes non consenties, y compris les falsifications numériques, et instaure un cadre de retrait pour les plateformes concernées.
La loi accorde à ces plateformes un an à compter de sa promulgation pour mettre en place la procédure de notification exigée, soit une échéance au 19 mai 2026. Son cadre impose le retrait dans les 48 heures suivant une demande valide, ainsi que des efforts raisonnables pour retirer les copies identiques connues. Au moment de la publication de cet article en mars, cette échéance de mise en œuvre est encore à venir.
Un mécanisme de signalement peut être utile tout en exigeant encore des efforts de la personne ciblée. Son existence ne garantit pas non plus que chaque copie disparaisse de chaque service. Adopter une loi et mettre fin à un abus sont deux accomplissements très différents.
Pas besoin d’un compte à rebours pour prendre cela au sérieux
Affirmer que toutes les vidéos deviendront indiscernables de la réalité dans exactement douze mois offre une conclusion frappante. Ce sont des prévisions, pas une échéance établie. La détection dépend du contenu, de la personne qui le regarde, du contexte disponible et des outils utilisés pour l’examiner.
La réponse pratique n’exige pas de décider quand le dernier défaut visuel disparaîtra. Vérifiez les demandes inattendues par un autre canal. Recherchez la source d’une séquence sensationnelle avant de la transmettre. Évitez de diffuser des images abusives simplement pour annoncer qu’elles sont fausses.
Les deepfakes d’IA peuvent être dangereux tout en restant un peu ridicules. Internet n’a jamais exigé qu’un mensonge soit magnifiquement rendu pour lui offrir une immense audience.
Traduction française de l’article original en anglais du 2026-03-11. Traduction réalisée avec l’aide de l’IA le 2026-11-02 ; les références temporelles restent celles de l’original.
