Le CNNum dénonce la « spirale sécuritaire infernale » de la France

Dans son rapport, le CNNum soulève un vrai débat démocratique sur les limites de l'utilisation des nouvelles technologies.

A l’occasion de l’examen du nouveau projet de loi antiterroriste, le Conseil national du numérique (CNNum) alerte sur la « trajectoire sécuritaire » du gouvernement, qu’il juge « infernale ». Un article de notre partenaire La Tribune.

Le Conseil National du Numérique (CNNum) a beau être un organe consultatif du gouvernement, cela ne l’a jamais empêché de taper sur la main qui le nourrit. Sous François Hollande, l’institution alors présidée par l’actuel secrétaire d’Etat au Numérique, Mounir Mahjoubi, n’avait pas hésité à critiquer les attaques du gouvernement contre le chiffrement ou la création du méga-fichier d’identité TES, jugé trop intrusif.

En début de semaine, le CNNum a fourbi son premier rappel à l’ordre contre la politique d’Emmanuel Macron, accusée de poursuivre la « trajectoire sécuritaire » du précédent quinquennat. Dans un rapport sévère intitulé « Prédiction, chiffrement et libertés », l’organe consultatif dénonce une « situation critique » sur le plan du respect des libertés individuelles à l’heure de la révolution numérique.

« Sécurité absolue impossible à atteindre »

Ce nouveau tacle s’inscrit dans le contexte de l’examen, par l’Assemblée nationale, du nouveau projet de loi antiterroriste, déjà adopté par le Sénat le 18 juillet et que le Palais Bourbon doit examiner en séance publique à partir du 25 septembre.

Ce texte, le quinzième depuis 2012, vise à transposer dans le droit commun certaines prérogatives uniquement permises dans l’état d’urgence, afin que la France puisse en sortir le 1er novembre. L’enjeu : des contrôles d’identités renforcés et des opérations de police et de surveillance sans devoir forcément obtenir un feu vert judiciaire. Une initiative dénoncée par l’opposition des Insoumis et par plusieurs organisations de la société civile, dont le Syndicat de la magistrature, la CNIL, le défenseur des droits Jacques Toubon, et donc le CNNum. Tous y voient l’émergence d’une « société du soupçon généralisé ».

« La situation est critique. Il n’est pas question de nier que les nouvelles formes de communication et d’organisation facilitées par le numérique peuvent complexifier la tâche des acteurs en charge de la sécurité publique. Dans ce climat d’extrême tension, les pouvoirs publics semblent engagés dans une spirale infernale, pour un but – la sécurité absolue – dont l’horizon ne peut jamais être atteint. Chacun est conscient que le risque zéro n’existe pas, pourtant la tentation est forte d’accumuler encore et encore de nouveaux moyens d’action, de privilégier un désir de sécurité au détriment des exigences de l’État de droit et de notre économie », tacle le CNNum.

Pour un respect de l’autorité judiciaire

Pour le Conseil national du numérique, l’objectif de lutte contre le terrorisme aboutit à une « multiplication de dispositions qui entérinent l’affaiblissement de l’autorité judiciaire au profit de l’autorité administrative ». Et de prendre l’exemple de la loi antiterroriste de 2014, qui a donné à l’administration le pouvoir de bloquer et de déréférencer des sites Internet sans contrôle préalable du juge. Ou de la loi Renseignement de 2015, qui a généralisé des méthodes intrusives, hors du contrôle des juges pourtant garants des libertés individuelles.

Cette marginalisation de l’autorité judiciaire, et donc d’un contre-pouvoir créé pour protéger les citoyens des dérives étatiques, serait renforcée par le nouveau texte, chargé d’introduire dans le droit commun des dispositions d’exception, estime le CNNum.

Nécessité d’ouvrir le capot des algorithmes

Avec ce rapport au vitriol, le CNNum soulève un vrai débat démocratique sur les limites de l’utilisation des nouvelles technologies. Les évolutions des usages, l’augmentation des capacités de calcul, les progrès de l’intelligence artificielle et la baisse continue des coûts de stockage des données, « rendent possible l’application de modèles prédictifs aux objectifs de sécurité nationale ».

Traduction : « Au nom d’une logique prédictive de la lutte antiterroriste, des individus pourraient être contraints non pas parce qu’ils prépareraient des crimes ou des délits, mais parce qu’ils seraient susceptibles d’en commettre », écrit l’organisation. Ce qui pose la question de la fiabilité de ces outils de prédiction, à l’image des « boîtes noires », légalisées par la loi Renseignement de 2015, censées repérer les « signaux faibles » d’une activité terroriste… quitte à multiplier les faux-positifs, et donc la surveillance abusive, ainsi que les biais sociologiques que l’intelligence artificielle reproduit et ne sait toujours pas résoudre. Le problème : « ces modes de profilage s’intéressent moins à l’individu qu’au groupe statistique auquel il est rattaché ».

Dans ce contexte, le CNNum préconise « d’ajuster notre conception juridique et philosophique de la protection des individus face aux traitements de leurs données ». Autrement dit : imposer la transparence des algorithmes, pour en finir avec l’opacité de leur fonctionnement, déjà vertement critiquée dans le cadre du système d’admission post-bac. Dans le cadre de la surveillance prédictive, il est nécessaire, d’après le CNNum, qu’un contrôleur puisse « ouvrir » ces boîtes noires pour s’assurer de leur équité.

Piqûre de rappel sur le chiffrement

Par ailleurs, un an après sa mise en garde de l’été 2016, le Conseil National du Numérique réaffirme la nécessité de protéger le chiffrement des données, attaqué de toutes parts par les politiques. A l’époque, Bernard Cazeneuve, alors ministre de l’Intérieur, et son homologue allemand Thomas de Maizière avaient demandé à l’Europe de légiférer pour « armer nos démocraties sur la question du chiffrement », c’est-à-dire trouver un moyen de « casser » le chiffrement de bout en bout sur les messageries sécurisées comme WhatsApp ou Telegram, pour rendre les échanges lisibles par les forces de l’ordre. Et ce, malgré le consensus des experts informatiques, qui estiment qu’un affaiblissement du chiffrement porterait préjudice non seulement aux libertés publiques, mais aussi à l’ensemble de l’économie en rendant tous les systèmes informatiques plus vulnérables.

Un an plus tard, la situation ne s’est pas améliorée. Emmanuel Macron et la première ministre britannique, Theresa May ont réaffirmé en juin, lors de la présentation d’un plan d’action franco-britannique contre « l’utilisation de l’Internet à des fins terroristes », la volonté de créer en Europe « un meilleur accès aux contenus chiffrés, dans des conditions qui préservent la confidentialité des correspondances ».

Un coup d’épée de plus dans l’eau ?

L’Union européenne doit examiner l’opportunité d’une législation sur le sujet à l’automne. L’occasion pour le CNNum de rappeler que « le chiffrement est un outil vital pour la sécurité en ligne » et qu’il doit être « diffusé massivement auprès des citoyens, des acteurs économiques et des administrations ». Comme le prévoit d’ailleurs la loi pour une République numérique d’Axelle Lemaire, votée en 2016. Le rapport estime que le chiffrement « ne constitue pas un obstacle pour les enquêtes » car il est possible de le contourner dans le cadre d’une surveillance ciblée. En revanche, il est bien « un rempart contre la surveillance de masse ».

Cet « avis », qui s’oppose clairement aux choix politiques effectués en matière de lutte antiterroriste, entraînera-t-il une inflexion de la part du gouvernement ? On peut sérieusement en douter. Le CNNum est un organe consultatif, que le gouvernement est donc libre d’ignorer… Ce qui nourrit les critiques de ses opposants, qui estiment que le CNNum est davantage un « objecteur de conscience officiel » qu’un guide pour les politiques publiques du numérique. Effectivement, les multiples avis et mises en garde du CNNum depuis la loi antiterroriste de 2014 n’ont en rien infléchi la « trajectoire sécuritaire infernale » qu’il continue de dénoncer.