En mai 2022, l’Union européenne proposait une nouvelle réglementation destinée à combattre les abus sexuels sur enfants, en analysant les conversations privées des utilisateurs de plateformes numériques. Ce projet, appelé CSAR, devait être débattu au Parlement ce jeudi en vue d’une proposition de loi. Il a finalement été retiré de l’agenda à la dernière minute.
Sur le papier, rien de nouveau : Meta, Whatsapp, Microsoft et Apple ont déjà mis en place une analyse active des données de messagerie instantanée non chiffrées de leurs utilisateurs, dans le but de détecter du contenu pédopornographique. Mais la proposition émanant de l’Union européenne voulait aller plus loin, en scannant nos smartphones avec l’aide d’une IA pour directement informer les autorités si de potentiels images ou vidéos alarmantes étaient repérées.
Le texte donnait la possibilité aux utilisateurs soit d’accepter ce scan, soit de le refuser. Auquel cas il lui serait interdit de partager des photos et des vidéos via les messageries instantanées. Mais le projet suscitait un tollé depuis deux ans parmi les parlementaires. Adopter un tel texte, signifiait, pour ces observateurs, ouvrir une boîte de pandore dévastatrice pour la défense de la vie privée.
250 scientifiques opposés
Un projet similaire de scan du contenu de l’iCloud avait été proposé par Apple en août 2021, avant qu’il ne soit finalement abandonné. Reprenant ce même principe quelques mois plus tard, l’Union européenne souhaitait relancer le débat, et, à terme, proposer un projet de loi autour du CSAR (Child sexual abuse regulation). En mai dernier, soit deux ans plus tard, 250 scientifiques s’étaient fendus d’une lettre ouverte pour exprimer leurs craintes concernant le CSAR de l’Union européenne.
Des craintes justifiées par l’utilisation d’une IA, faillible, qui pourrait se tromper sur le contenu qu’elle considère comme pédopornographique ou pas. De plus, un tel dispositif pourrait par la suite facilement s’étendre à d’autres types de délits, et mettre à mal, encore un peu plus, la vie privée des utilisateurs. Mis entre les mains d’un régime totalitaire, le SCAR s’apparenterait à un système de contrôle plus performant qu’aucun autre jusqu’à présent.