Le Département de la Défense des États-Unis a l’intention d’utiliser une technologie deepfake qui permettrait la création de fausses identités en ligne. Des rapports ont émergé selon lesquels la Division des opérations spéciales secrètes du Département de la Défense recherche des partenaires pour aider à développer des comptes utilisateurs ‘deepfake’ si convaincants que ni les humains ni les ordinateurs ne seraient capables de les reconnaître comme faux, selon The Intercept.
Ce concept, présenté dans un nouveau document de 76 pages décrivant les technologies avancées nécessaires aux opérations militaires d’élite, concerne les besoins du Commandement des opérations spéciales conjointes (JSOC). Le document indique que ‘les forces d’opérations spéciales souhaitent une technologie qui permet la génération de personnalités en ligne convaincantes à utiliser sur les réseaux sociaux, les plateformes sociales et d’autres formes de contenu en ligne.’
L’objectif est de créer des profils utilisateurs qui ‘ressemblent à des individus uniques, des êtres humains, qui n’existent pas réellement‘. Chaque profil devrait inclure ‘plusieurs expressions’ et des photographies de haute qualité répondant aux normes d’identification de l’État. De plus, le document demande ‘des images de visages et de fonds, des vidéos de visages et de fonds, et des couches audio’, soulignant le désir de disposer de la capacité de générer des ‘vidéos selfie’ de ces individus fictifs, qui utiliseront également de faux arrière-plans pour créer un environnement virtuel que les réseaux sociaux ne peuvent pas reconnaître comme faux.
Propagande du Pentagone
Le Pentagone a déjà été accusé d’utiliser de faux utilisateurs sur les réseaux sociaux pour promouvoir ses intérêts. En 2022, Meta et Twitter ont supprimé un réseau de propagande de faux comptes géré par le Commandement central des États-Unis (CENTCOM), qui comprenait des images générées de manière similaire à ce que le JSOC demande maintenant. Une enquête de Reuters en 2024 a révélé une campagne du Commandement des opérations spéciales visant à saper la confiance dans le vaccin chinois contre le Covid-19 par le biais de faux comptes utilisateurs sur les réseaux sociaux.
Dès l’année dernière, le Commandement des opérations spéciales (SOCOM) a exprimé son intérêt pour l’utilisation de la technologie vidéo deepfake – un terme général pour les données audiovisuelles synthétiques qui sont presque indiscernables des vraies, tout cela dans le but d’opérations d’influence, de tromperie numérique, de perturbation de la communication et de campagnes de désinformation.
La liste des besoins de SOCOM cette année inclut également un intérêt pour des logiciels similaires à StyleGAN, un outil lancé par Nvidia en 2019 qui a alimenté le site populaire This Person Does Not Exist. Peu après son lancement, Facebook a supprimé un réseau de comptes qui utilisaient cette technologie pour créer de fausses photos de profil.
—
—
La liste du JSOC indique que les forces spéciales utiliseront cette capacité pour la collecte d’informations à partir de forums publics sur Internet, mais aucun détail supplémentaire n’a été fourni sur les manières spécifiques dont ces utilisateurs artificiels seront utilisés.
Cet ordre détaillé suggère que les États-Unis développent les mêmes technologies et méthodes qu’ils condamnent généralement lorsqu’elles sont utilisées par des rivaux géopolitiques. Les responsables de la sécurité nationale ont longtemps décrit l’utilisation de la technologie deepfake par des États comme une menace urgente – mais seulement lorsqu’elle provient d’un autre pays.
En septembre de l’année dernière, une déclaration conjointe de la NSA, du FBI et de la CISA a averti que ‘les médias synthétiques, tels que les deepfakes, posent un défi croissant pour tous les utilisateurs de la technologie moderne.’ Ils ont également décrit cette technologie comme l’un des ‘plus grands risques’ pour 2023. Lors d’un briefing pour les journalistes cette année, des responsables du renseignement américain ont averti que le potentiel pour des États hostiles de diffuser du ‘contenu généré artificiellement’ est extrêmement dangereux, et maintenant le Pentagone fait la même chose. Quelles sont ces doubles normes ?
Technologie trompeuse
L’application offensive de cette technologie par les États-Unis pourrait encourager davantage son acceptation et la normaliser comme un outil pour tous les gouvernements.
– Ce qui est significatif à propos de cette technologie, c’est qu’elle est intrinsèquement trompeuse. Il n’y a pas de cas d’utilisation légitimes autres que la tromperie, et il est préoccupant de voir l’armée américaine utiliser une technologie contre laquelle elle a elle-même mis en garde. Cela n’encouragera que d’autres armées ou adversaires à faire de même, menant à une société où il devient de plus en plus difficile de distinguer la vérité du mensonge et compliquant le paysage géopolitique, a déclaré Heidy Khlaaf, scientifique en chef pour l’IA à l’AI Now Institute.
La Russie et la Chine ont déjà utilisé des vidéos deepfake et des avatars utilisateurs dans leurs efforts de propagande, c’est pourquoi en janvier, le Département d’État a annoncé un ‘Cadre international pour contrer la manipulation de l’information par des États étrangers.’
– La manipulation et la perturbation de l’information posent une menace à la sécurité nationale des États-Unis, ainsi qu’à celle de ses alliés et partenaires. Les gouvernements autoritaires utilisent la manipulation de l’information pour saper les systèmes sociaux libres et démocratiques, a déclaré l’annonce du Département d’État.
L’intérêt de SOCOM pour la technologie deepfake met en lumière la tension sous-jacente au sein du gouvernement américain, a déclaré Daniel Byman, professeur d’études de sécurité à l’Université de Georgetown et membre du Conseil consultatif international pour la sécurité au Département d’État.
– Une grande partie du gouvernement américain a un fort intérêt à ce que le public croie que le gouvernement fournit des informations précises (de bonne foi) et ne trompe pas intentionnellement les gens, explique Byman, tandis que d’autres parties sont chargées de tromperie. – Il y a une préoccupation légitime que les États-Unis soient perçus comme hypocrites. Je suis également préoccupé par l’impact sur la confiance domestique dans le gouvernement – des segments de la société américaine deviendront-ils plus suspicieux des informations provenant du gouvernement ? – conclut Byman.
