Chat Control : quand la lutte contre le mal devient une excuse pour surveiller tout le monde

Personne ne peut contester la nécessité de protéger les enfants contre les abus sexuels en ligne, il serait même incompréhensible de remettre en cause la légitimité d’une telle démarche. Pourtant, cette initiative, plus connue sous le nom de ‘Chat Control‘ par ses opposants, soulève de vives inquiétudes quant aux moyens envisagés.

Le principe de base de Chat Control est que les plateformes numériques seraient légalement obligées d’identifier les contenus illégaux. Malgré cette noble aspiration se cache un inquiétant mécanisme, dont la mise en œuvre technique suscite des préoccupations considérables.

L’amélioration des conditions pour la protection des enfants est vue par certains comme un cheval de Troie, car on craint qu’il puisse représenter un nouveau mode de surveillance universelle.

La proposition préconise que les plateformes cessent de se borner à signaler volontairement les contenus inopportuns. En vertu de la loi, elles seraient aussi responsables d’un repérage actif, qu’il s’agisse d’images, de vidéos ou de liens suspects. Tout devrait être passé au peigne fin.

Pour ce faire, l’Union européenne promeut une technologie connue sous le nom de “Client-Side Scanning”. Cela signifie qu’au lieu de procéder à une analyse post-transférentielle des fichiers, le système le ferait à même l’appareil de l’usager, avant qu’ils soient chiffrés.

Pour être clair, cela signifie qu’une photographie, une vidéo ou un lien pourrait être inspecté par un logiciel intégré dans votre téléphone ou votre ordinateur.

Ce logiciel comparerait vos fichiers à une base de données contenant des références de contenus pédopornographiques connus. Si un de vos contenus correspond à un contenu connu, un signalement serait généré et envoyé à un centre européen, puis éventuellement aux autorités, selon l’état concerné.

On assure que seuls les messages visuels et les URL seraient concernés, tandis que les messages texte et audio seraient exclus de toute inspection. On dit aussi que le consentement explicite permettant l’activation du dispositif serait nécessaire dans le cadre de l’utilisation de messagerie chiffrées : si l’utilisateur refuse le scan, l’envoi de son fichier serait alors simplement bloqué.

Mais le principe du consentement s’accompagne généralement de quatre notions, un consentement doit être libre, spécifique, éclairé et univoque.

Ce blocage remet en question cette notion de liberté. En effet, pour que l’on puisse considérer qu’un consentement est libre, ce dernier ne doit pas être contraint ni influencé, l’utilisateur doit se voir offrir un choix réel, sans avoir à subir de conséquences négatives en cas de refus.

Et ce n’est pas le seul problème. Il y a aussi le problème d’exigences technologiques.

Pour fonctionner, un tel système aurait besoin d’une puissance de calcul suffisante, de stockage local pour la base de données s’il a vocation à fonctionner hors-ligne sans parler des mises à jour de nouveaux contenus identifiés. Ce qui engendre des obstacles, surtout pour les appareils anciens ou peu performants.

Sans parler du risque de faux signalements : une photo mal interprétée ou pire encore le risque que des contenus ou des conversations réellement dangereux ne soient pas détectés à temps.

Mais cela n’est rien à côté des dangers pour le chiffrement End-to-End Encryption (E2EE). En effet un fichier doit être scanné en clair. Cela revient donc à installer un backdoor dans tous les systèmes de messagerie sécurisée.

Dès qu’il est ouvert, comment garantir qu’il ne sera pas exploité à d’autres fins ? Une polémique qui enfle depuis des mois. De nombreux chercheurs, ONG et acteurs du numérique tirent la sonnette d’alarme. Des pétitions ont récolté des dizaines de milliers de signatures. Et sur TikTok, le hashtag #StopChatControl contient plus de 15 millions de vidéos.

Des applications comme Signal, Proton ou Threema menacent de quitter le marché européen si le texte est adopté, dénonçant une atteinte à la sécurité, à la confiance et à la vie privée.

Et bien sûr, le comble est que le texte envisage d’exempter du système certains utilisateurs notamment les responsables politiques…

Ce n’est pas la première fois que le combat contre le mal justifie des dispositifs intrusifs.

En France, l’article 8ter de la loi contre le narcotrafic introduisait déjà une surveillance massive sous prétexte de lutte contre le trafic de drogues, cet article avait heureusement été retiré du texte.

Aujourd’hui, c’est le règlement CSAR. Demain, ce sera un autre danger. À chaque fois, la tentation d’utiliser la technologie pour contrôler plutôt que pour protéger. Et les opposants ne sont pas pris au sérieux. Certains les considèrent comme des défenseurs de criminels, leur reprochant de ne pas souhaiter protéger les enfants.

Pourtant, leur combat est simple : ils ne veulent pas que la réponse à la violence soit une autre violence. Ils ne veulent pas protéger les plus faibles en sacrifiant les libertés du plus grand nombre. La pédocriminalité est un mal qui doit être éradiqué de cette terre. Cela ne signifie pas que tout le monde doit être mis sur écoute.

Hier, c’était le projet de loi contre le narcotrafic. Aujourd’hui, c’est la proposition de règlement intitulée CSAR. Demain, ce sera une autre bataille. Mais à chaque fois, il faut rester vigilant. Quand la lutte contre le mal est utilisée comme prétexte pour surveiller tout le monde.