Bruxelles se penche sur le scandale Clearview AI sur la reconnaissance faciale

[EPA-EFE/ERIK S. LESSER]

La firme technologique américaine Clearview AI a amassé les images de plus de trois milliards de visages d’utilisateurs de réseaux sociaux sans leur permission, dont certains pourraient être des Européens.

Le scandale Clearview AI fait des remous en Europe. La firme, accusée d’avoir collecté sauvagement des  milliards de photos sur les réseaux sociaux pour son logiciel de reconnaissance faciale, souhaitait étendre ses services au marché européen. l’entreprise spécialisée en intelligence artificielle prévoyait de s’associer à neuf pays partenaires, dont l’Italie, la Grèce et les Pays-Bas, selon une enquête menée par Buzzfeed news. 

Une volonté d’expansion qui a fait tiquer les autorités européennes. En effet, Clearview AI n’aurait pas signé l’accord de protection des données conclu entre l’UE et les États-Unis en 2016, a affirmé un fonctionnaire américain à Euractiv. Cet accord oblige toutes les entreprises américaines à protéger les données des utilisateurs européens conformément aux standards de l’UE et aux droits des consommateurs.

Clearview AI n’a pas encore indiqué si certaines des photos collectées appartenaient à des citoyens européens. Si tel était le cas, le logiciel pourrait violer l’article 4.14 relatif au traitement des données biométriques du règlement général sur la protection des données (RGPD).

« La Commission est au fait des articles de presse. Nous suivons le dossier et restons en contact étroit avec les autorités nationales de protection des données ainsi qu’avec le comité européen de la protection des données », indique un porte-parole de l’exécutif européen.

« Ces technologies n’opèrent pas dans un vide juridique. L’utilisation de données personnelles est soumise aux règles strictes du RGPD. [Celui-ci] prescrit une base juridique bien définie et un objectif légitime ; la personne concernée doit être au courant de la procédure, elle doit pouvoir obtenir réparation et [posséder] des moyens de vérification ».

Le fonctionnaire européen ajoute que la Commission finalise actuellement sa proposition de régulation du domaine des technologies d’IA et « envisage d’[introduire] des dispositions spécifiques en matière de reconnaissance faciale ».

Cette initiative fait suite aux révélations récentes selon lesquelles la Commission envisage une interdiction temporaire des technologies de reconnaissance faciale. Toutefois, cette rumeur a depuis été démentie. La Commission doit présenter le document final le 19 février.

Entre-temps, certains États membres ont annoncé vouloir recourir à la technologie de reconnaissance faciale. L’Allemagne compte mettre en place des systèmes de reconnaissance faciale automatique dans 134 gares et 14 aéroports. La France prévoit quant à elle d’établir un cadre légal qui permettrait d’implanter cette technologie dans les caméras de vidéosurveillance.

Vestager veut garantir une utilisation responsable de l'intelligence artificielle

Les technologies d’intelligence artificielle (IA) utilisées par le secteur public doivent « répondre à des standards élevés en matière de transparence et de responsabilité », estime Margrethe Vestager, la commissaire européenne chargée du numérique.

De son côté, le comité européen de la protection des données — que la Commission consulte à propos des préoccupations sur Clearview AI – a publié des lignes directrices sur l’utilisation des technologies de reconnaissance faciale en janvier de cette année.

« L’utilisation de données biométriques, en particulier la reconnaissance faciale, fait courir des risques accrus aux utilisateurs concernant leurs droits sur la protection des données », indique le document. « Il est crucial que le recours à ces technologies se fasse dans le respect des principes de légalité, de nécessité, de proportionnalité et de minimisation des données tels qu’énoncés dans le RGPD ».

D’après l’un des membres du comité européen de la protection des données, « le RGPD a été établi de sorte à être technologiquement neutre, et le comité n’adopte généralement pas de directives sur des entreprises spécifiques ».

Cependant, le fonctionnaire européen ajoute que jusqu’à présent, le comité n’a pas été sollicité concernant le logiciel de Clearview AI.

L’entreprise technologique américaine fournit une base de données aux organisations — essentiellement des services répressifs — par laquelle elles peuvent faire correspondre leurs photos aux trois milliards d’autres images faciales collectées sur les réseaux sociaux.

Il y a peu, ces réseaux sociaux ont lancé une série de mesures de représailles contre Clearview AI en réponse aux agissements de l’entreprise. En janvier, Twitter a envoyé une lettre de mise en demeure à Clearview AI et a ordonné la suppression de toutes les données collectées sur sa plateforme. YouTube et Facebook ont pris des mesures similaires en février.

Clearview AI soutient que son droit à l’information publique relève du premier amendement de la Constitution américaine et met en avant son aide aux services répressifs dans la lutte contre la criminalité. Les forces de l’ordre ne sont quant à elles pas soumises au RGPD de l’UE.

Par ailleurs, la société américaine peut se rassurer : l’an dernier, la Cour d’appel du neuvième circuit a jugé que la collecte de données automatisée n’enfreignait pas le Computer Fraud and Abuse Act (la loi sur la fraude informatique) de 1986, une loi qui a souvent été invoquée dans les affaires concernant la collecte massive de données.

Réglementer les plateformes pour défendre la démocratie, une priorité pour Věra Jourová

Les activités des plateformes en ligne doivent être régulées pour créer un environnement numérique qui puisse « défendre et promouvoir la démocratie », assure Věra Jourová, vice-présidente en charge des valeurs et de la transparence à la Commission européenne.

Subscribe to our newsletters

Subscribe

Envie de savoir ce qu'il se passe ailleurs en Europe? Souscrivez maintenant à The Capitals.