L’UE développe des gardes-frontières virtuels

Contrôle à la frontière entre l'Autriche et l'Allemagne. [EPA-EFE/LUKAS BARTH-TUTTAS]

Au frontières de l’UE, un projet de « système de contrôle intelligent » devrait permettre d’accélérer les contrôles. Mais le taux d’erreur de ce type de contrôle interrogent.

iBorderCtrl est un système de contrôle des frontières intelligent et portable. Il se sert d’une série de protocoles et procédures informatiques pour reconnaître les visages et signaler les réactions « suspectes » des voyageurs qui mentent sur la raison de leur entrée dans l’espace Schengen.

Le système d’intelligence artificielle pourra identifier jusqu’à 38 microexpressions faciales, comme la direction du regard, la dilatation des pupilles, un changement minimal de la voix et d’autres signes indétectables pour un garde-frontière humain.

Le projet a été mis en place grâce à des financements du programme européen de recherche et d’innovation Horizon 2020 et rassemble 13 institutions partenaires partout en Europe.

La Commission européenne participe à hauteur de 4,5 millions d’euros au développement de ce nouvel outil, créé en septembre 2016 et géré par une entreprise luxembourgeoise, European Dynamics. La phase de test devrait se terminer en août 2019.

Si iBorderCtrl a pour objectif de renforcer les contrôles aux frontières de l’Europe et de contribuer à la prévention des crimes et actes terroristes, la Commission voudrait aussi qu’il permette d’accélérer le processus de passage de frontière, étant donné leur nombre croissant.

La Commission promet 1,5 milliard d’ici 2021 pour l’intelligence artificielle

La Commission européenne compte investir 1,5 milliard d’euros dans l’intelligence artificielle d’ici 2021. Pas trop tôt, estiment les observateurs : la Chine et les États-Unis ont mis en place des stratégies à ce sujet il y a plusieurs années.

« Nous utilisons des technologies existantes et vérifiées, mais aussi de nouvelles techniques, pour améliorer la précision et l’efficacité des contrôles aux frontières », a expliqué le coordinateur du projet, George Boultadakis, à la Commission. « Les données récoltées par iBorderCtrl ne se limiteront pas aux aspects biométriques, mais serviront aussi à détecter les biomarqueurs du mensonge. »

Le projet pilote est composé d’une procédure en deux étapes et fonctionnera sur une base volontaire. Dans la première partie, les voyageurs qui veulent entrer dans l’UE passeront un test de chez eux en remplissant un questionnaire en ligne et en y ajoutant divers documents, comme les photos qui figurent sur leur passeport, leur visa et une preuve de fonds suffisants.

Ils devront ensuite répondre à des questions personnalisées posées par un garde-frontière virtuel via un entretien filmé. Leurs réponses seront analysées pas un système de « détection du mensonge » développé par la Manchester Metropolitan University.

Ce système n’est cependant pas censé remplacer les gardes-frontières en chair et en os. « Les agents des frontières utiliseront un appareil portable pour vérifier automatiquement les informations données et comparer les images faciales prises lors de la première étape aux photos du passeport et des précédents passages de frontières », indique l’exécutif européen.

Les résultats seront accessibles depuis les postes-frontière où les voyageurs présenteront leurs passeports et visas pour être à nouveau contrôlés.

« Après un deuxième examen des documents du voyageur, la prise de ses empreintes, la capture du dessin unique des veines de la paume de ses mains et la comparaison des photos, le risque potentiel posé par le voyageur sera recalculé. Ce n’est qu’à ce moment-là qu’un garde-frontière prendra le relais sur le système informatique », explique la Commission.

L’intelligence artificielle « ne prendra pas de décision automatisée, mais produit une évaluation du risque », précise Keeley Crockett, dans une vidéo promotionnelle de la Manchester Metropolitan University.

Les personnes considérées comme posant un risque faible seront dirigées vers une réévaluation rapide avant leur entrée sur le territoire. Les « passagers à plus haut risque », signalés par le système, seront soumis à des vérifications plus poussées.

L’Europe s'apprête à perdre la course mondiale à l’intelligence artificielle

Le RGPD impose tellement de restrictions sur l’utilisation des données personnelles que l’UE ne sera pas en mesure de suivre le reste du monde en utilisant l’intelligence artificielle pour rationaliser son économie, estime Nick Wallace.

Le projet sera testé en conditions réelles en Hongrie, Grèce et Lettonie.

Selon le site Internet du projet, celui-ci pourrait ainsi être essayé sur la section de 175 km de frontière entre la Hongrie et la Serbie, une des principales routes migratoires vers l’UE. « Pour tester le système dans un environnement pertinent », la Police nationale hongroise fera des tests dans deux points de contrôles frontaliers où « le passage est important ».

Les essais grecs se pencheront pour leur part sur cinq cas différents : les piétons, les bus, les voitures, les trains de passagers et les trains de marchandises. La frontière entre la Grèce et la Macédoine est considérée comme étant sous pression. Les tests lettons concerneront quant à eux 31 points de passage frontaliers (cinq aéroports, dix ports, trois autoroutes, 13 routes).

Le Royaume-Uni, l’Allemagne, la Pologne, l’Espagne et Chypre ont exprimé leur intérêt pour prendre part au projet suite aux essais initiaux.

Exactitude et préjugés

Comme l’a déclaré un membre de iBorderCtrl au journal New Scientist, les premiers essais ont révélé que le garde frontière virtuel n’avait eu que 76 % de succès, mais l’équipe est « assez confiante » et pense pouvoir élever ce pourcentage à 85 %.

Les détracteurs du système soulignent quant à eux que de nombreux facteurs risquent d’induire des erreurs.

Ces inquiétudes découlent du caractère volontaire du système et du fait qu’il « propose une facilité de contrôle pour les voyageurs souhaitant coopérer avec les autorités pour accélérer le contrôle frontalier ».

« Dans de telles circonstances, je ne vois pas quelles vérités concrètes pourraient exister pour évaluer la solidité, la fiabilité ou l’exactitude du système, ni quels algorithmes pertinents pourraient être entrainés à détecter les marqueurs biologiques de comportements trompeurs », déclare Antoinette Rouvroy, chercheuse du FNRS au Centre de recherche information, droit et société (CRIDS).

« Ou nous devrions présumer que les immigrants illégaux et les criminels potentiels opteraient volontairement pour la détection automatique, ce qui n’est pas très plausible », ajoute-t-elle.

Dans le passé, des études ont également prouvé que les algorithmes de reconnaissance faciale tombaient lourdement dans les préjugés et affectaient de façon disproportionnée les femmes et les minorités.

Par exemple, les algorithmes de reconnaissance faciale conçus par IBM, Microsoft et Face++ présentaient des taux d’erreur jusqu’à 35 % plus élevés lors de la détection de femmes à la peau foncée que celle d’hommes à la peau claire, selon une étude publiée plus tôt cette année.

« Avant de déployer de tels systèmes d’IA dans un quelconque secteur d’activité ou au sein d’un gouvernement, il convient d’évaluer soigneusement les failles inévitables dans tout système de détection, de classification et d’évaluation des personnes et des comportements », explique Antoinette Rouvroy

« La numérisation est une transcription de la réalité, et il n’existe pas de transcription neutre de la réalité », conclut la chercheuse.

Subscribe to our newsletters

Subscribe