L’UE ne renonce pas : le contrôle des chats ouvre la porte à la surveillance de masse de la population

Il semble que l’Union européenne n’ait pas renoncé au contrôle des chats, une proposition qui permettrait la surveillance de tous les messages privés des résidents de l’UE. La version révisée de la proposition de surveillance de contenu visant à lutter contre les abus sexuels sur les enfants en ligne (CSAR), connue publiquement sous le nom de contrôle des chats, est officiellement revenue sur la table des gouvernements européens et reçoit un accueil nettement plus chaleureux qu’auparavant. Cependant, alors que le Conseil de l’UE parle d’un ‘compromis réussi’, les experts en droits numériques avertissent qu’il s’agit d’une manipulation politique qui ouvre toujours la porte à la surveillance de masse de la population.

La nouvelle version de la loi supprime toutes les dispositions concernant l’obligation directe de scanner les communications et introduit au moins formellement un modèle dans lequel le scan du contenu des messages est ‘volontaire’ pour les fournisseurs de services. Après plus de trois ans de blocage, beaucoup au sein du Conseil estiment que c’est la voie vers un accord.

Ce qui change

Selon le dernier projet, les fournisseurs de services de chat et de messagerie ne seraient plus tenus de scanner automatiquement tous les URL, photos et vidéos échangés par les utilisateurs. Au lieu de cela, ils pourraient choisir ‘volontairement’ de scanner le contenu à la recherche de matériaux suspects.

Cependant, la clé est cachée dans les détails, car l’article 4 introduit une nouvelle formulation concernant les ‘mesures d’atténuation des risques’. Pour les services évalués comme ‘à haut risque’, les autorités compétentes pourraient exiger qu’ils prennent ‘toutes les mesures appropriées’ pour réduire le risque d’abus, ce qui signifie que ce n’est pas vraiment volontaire si évalué autrement.

Pour les critiques, c’est le véritable problème. En pratique, les fournisseurs de services, de WhatsApp et Signal aux fournisseurs de messagerie, peuvent être de facto contraints à mettre en œuvre le scan, même si c’est ‘volontaire’ sur le papier.

Manipulation politique

Critique de longue date du contrôle des chats, l’avocat des droits numériques et ancien député européen Patrick Breyer, qualifie la nouvelle proposition de ‘manipulation politique de la plus haute importance’.

– C’est une manipulation politique de la plus haute classe. Après de vives protestations, plusieurs pays, dont l’Allemagne, les Pays-Bas, la Pologne et l’Autriche, ont dit ‘non’ au contrôle des chats indiscriminé. Maintenant, cela revient à nous par la porte de derrière, déguisé, plus dangereux et plus complet que jamais. Le public est pris pour un imbécile – avertit Breyer.

Dans son évaluation, la disposition sur ‘la réduction des risques’ dans l’article 4 rend la suppression de l’obligation explicite de scanner pratiquement sans valeur, car elle permet de faire à nouveau les mêmes demandes par le biais de l’évaluation des risques et de la pression réglementaire, ce qui est de scanner tout, pour tout le monde.

Breyer avertit particulièrement qu’une telle faille dans la loi pourrait très rapidement imposer le scan côté client (CSS), scannant directement sur les smartphones et ordinateurs avant que les messages ne soient cryptés, ce qui, prévient Breyer, signifierait la ‘fin du cryptage sécurisé’.

Et la rupture ou le contournement du cryptage, la technologie que des services comme Signal, WhatsApp et les VPN utilisent pour protéger la communication privée, est la raison clé pour laquelle la proposition originale a rencontré tant de résistance.

En d’autres termes, le texte dit ‘volontaire’, mais la structure de pouvoir et la formulation ‘toutes les mesures appropriées’ permettent aux autorités de faire pression sur les plateformes pour qu’elles mettent en œuvre exactement ce que le public a rejeté, à savoir le scan de masse.

Des images aux textes et aux métadonnées

Une autre nouveauté controversée, souligne Breyer, est que le projet de compromis va plus loin que la proposition précédente. Alors que l’ancienne proposition se concentrait principalement sur le scan des photos, vidéos et liens, elle ouvre maintenant explicitement l’espace pour l’analyse des messages textuels et des métadonnées des utilisateurs.

Cela signifie que les algorithmes et les outils d’IA ne réviseraient pas seulement les fichiers que nous envoyons mais aussi les mots que nous écrivons et les informations sur qui, quand et à quelle fréquence nous communiquons. Pour les critiques, c’est un passage de mesures ciblées à une infrastructure qui ressemble et fonctionne comme une surveillance de masse.

– Aucune intelligence artificielle ne peut distinguer de manière fiable entre flirter, plaisanter, ironiser et le crime de grooming. Imaginez que votre téléphone scanne chaque conversation avec votre partenaire, enfant ou thérapeute et les envoie à des inconnus juste parce que les mots ‘amour’ ou ‘rencontrons-nous’ apparaissent quelque part. Ce n’est pas une protection de l’enfance ; c’est une chasse aux sorcières numérique – avertit Breyer.

Une nouvelle caractéristique est également un fort accent sur la vérification d’âge obligatoire, car le projet prévoit des mécanismes par lesquels les plateformes doivent savoir qui est mineur et qui ne l’est pas, ce qui signifie pratiquement que les utilisateurs devraient montrer une pièce d’identité, utiliser des ‘identités numériques’ ou des biométries (reconnaissance faciale, documents), car sinon, vous ne pouvez pas distinguer de manière fiable un adolescent de 15 ans d’un adulte de 25 ans. C’est précisément pourquoi l’UE souhaite introduire le portefeuille d’identité numérique de l’UE, qui est annoncé pour l’année prochaine.

Si cela se produit finalement, nous arrivons aux conséquences que Breyer et d’autres ont précédemment soulignées. C’est de facto la fin de l’anonymat sur Internet, car pour ouvrir un compte de chat ou de messagerie, vous devrez d’abord prouver qui vous êtes.

Non signifie non

Breyer n’est pas seul dans ses critiques. Parmi de nombreux critiques se trouve le service de messagerie électronique chiffrée Tuta (anciennement Tutanota), qui avertit des conséquences des nouvelles règles sur la sécurité de la communication. Sur le réseau social X, Tuta déclare que le ministre danois de la Justice Peter Hummelgaard, dont le pays préside le Conseil et pousse le texte de compromis, ‘ne comprend pas que ‘non’ signifie ‘non’, faisant allusion au rejet précédent des ordres de scan obligatoires. Pour ces fournisseurs, il ne s’agit pas d’une discussion académique mais d’une question de confiance des utilisateurs, car si l’UE établit un cadre juridique dans lequel le scan ‘volontaire’ peut facilement se transformer en condition commerciale, l’ensemble du modèle de cryptage fort et de confidentialité devient instable.

Ce qui suit

La proposition est maintenant entre les mains de Coreper, le comité des représentants permanents des États membres qui prépare les décisions pour le Conseil de l’UE. Si Coreper la confirme comme position commune du Conseil, le contrôle des chats dans sa nouvelle forme passera à la phase suivante, qui est les négociations avec le Parlement européen. Pour les défenseurs des droits numériques, c’est un moment crucial. Les gouvernements des États membres sont prêts à accepter un compromis qui leur permet de montrer au public des ‘concessions’, sans obligation explicite de scanner mais en même temps en conservant des formulations suffisamment larges pour obtenir pratiquement tout ce qu’ils recherchaient à l’origine.

Combien de temps ce ‘compromis’ résistera à l’examen juridique et politique ne sera connu qu’après que les députés européens auront à nouveau mis sur la table la vie privée, le cryptage et les limites de la surveillance d’État.