Intelligence artificielle : les législateurs européens adoptent leurs recommandations

Si le rapport de l’AIDA se concentre sur les avantages potentiels de l’IA, les risques systémiques sont également mentionnés. Pour les démocraties, la menace est perçue dans le déséquilibre des pouvoirs en faveur des plateformes numériques qui pourraient porter atteinte à l’autonomie des citoyens. [Den Rise/Shutterstock]

L’intelligence artificielle à l’ère numérique (AIDA), une commission spéciale créée en septembre 2020 pour analyser l’impact horizontal de l’intelligence artificielle sur la société, a achevé son rapport d’initiative, adopté mardi (22 mars).

Le rapport AIDA a connu des débuts difficiles, les groupes politiques progressistes ayant critiqué le rapporteur conservateur Axel Voss pour la teneur générale du rapport. Le rapport était considéré comme trop axé sur la concurrence internationale, sur laquelle l’UE était inévitablement en retard.

Après une importante reformulation, le rapport a été adopté à une large majorité par la commission parlementaire, tout en maintenant l’accent initial sur les avantages potentiels de cette technologie émergente.

Un cadre international

« L’UE a maintenant l’occasion unique de promouvoir une approche de l’IA axée sur l’humain et digne de confiance, fondée sur les droits fondamentaux, qui gère les risques tout en tirant pleinement parti des avantages que l’IA peut apporter à l’ensemble de la société — notamment en matière de soins médicaux, de durabilité, de marché du travail, de compétitivité et de sécurité », a déclaré M. Voss.

Au niveau international, le rapport souligne l’importance pour l’UE de jouer un rôle de normalisation sur la scène mondiale, en insistant sur la nécessité d’encourager la compétitivité de la filière technologique européenne afin que l’UE puisse façonner les normes internationales en fonction de ses valeurs.

Dans le même temps, l’avertissement initial selon lequel l’Europe pourrait devenir une « colonie numérique » de la Chine a été supprimé. L’accent a été mis sur la collaboration avec des partenaires démocratiques partageant les mêmes valeurs.

« Notre future compétitivité mondiale dans le domaine du numérique dépend des règles que nous mettons en place aujourd’hui. Et ces règles doivent être conformes à nos valeurs : la démocratie, l’État de droit, les droits fondamentaux et le respect de l’ordre international fondé sur des règles », a déclaré le président de l’AIDA, Dragoș Tudorache, qui est également le co-rapporteur de la loi sur l’IA pour la Commission des libertés civiles (LIBE).

Intelligence artificielle. Avec sa nouvelle feuille de route, l'UE veut devenir "leader mondial"

Mercredi (21 avril), la Commission européenne a présenté son projet tant attendu de réglementation de l’intelligence artificielle (IA), faisant la lumière sur la volonté du bloc de devenir leader mondial en la matière.

Avantages potentiels

Une partie essentielle du rapport est la « feuille de route pour l’IA », un ensemble de recommandations politiques pour 2030 sur le cadre réglementaire, le marché unique, la durabilité, les talents, la recherche, la gouvernance en ligne, la santé, la stratégie industrielle, l’application de la loi, la cybersécurité et l’utilisation militaire de l’IA.

La question de la garantie d’un accès approprié aux données apparaît à plusieurs reprises dans le texte. Pourtant, les appels de M. Voss à réformer le Règlement général sur la protection des données (RGPD) de l’UE ont été supprimés devant l’insistance des députés européens de gauche et du centre. La formulation a été alignée sur la stratégie européenne en matière de données.

« Nous avons réussi à obtenir un positionnement fort sur l’accès des chercheurs, des start-ups et des PME à l’économie de l’IA, y compris aux données qui la forment », a déclaré l’eurodéputé vert Damian Boeselager. « Il faut éviter que la concentration du marché qui existe actuellement dans l’économie des données ne s’étende à l’économie de l’IA. »

Les législateurs de gauche comme de droite ont insisté sur le renforcement de l’avantage concurrentiel de l’Europe en matière de recherche, appelant à une augmentation des investissements dans la recherche et le développement pour attirer et retenir les talents de l’IA.

Le rapport soutient également la création de bacs à sable (« sandbox ») réglementaires, permettant le développement de systèmes d’IA et de modèles commerciaux innovants sous la surveillance d’un régulateur.

Les principales plateformes numériques garderaient l’humain dans le processus de modération du contenu

Les meilleures pratiques en matière de modération de contenu intègrent à la fois des éléments humains et des éléments automatisés dans leurs systèmes.

Risques potentiels

Les risques potentiels de l’IA étaient au centre d’un événement organisé par EURACTIV la semaine dernière, qui a présenté les utilisations critiques dans le système judiciaire, la gestion algorithmique des travailleurs et le contrôle des frontières. Dans ces situations où les déséquilibres de pouvoir sont évidents, les systèmes d’IA pourraient conduire à des abus et à la reproduction des préjugés existants.

« Nous devons nous défaire de l’image selon laquelle la technologie est en quelque sorte neutre. Ce n’est pas le cas. L’IA reproduit toutes les formes de discrimination, de racisme et de préjugés », a déclaré lors de l’événement Laure Baudrihaye-Gérard, directrice juridique pour l’Europe de l’ONG Fair Trials.

Si le rapport de l’AIDA se concentre sur les avantages potentiels de l’IA, les risques systémiques sont également mentionnés. Pour les démocraties, la menace est perçue dans le déséquilibre des pouvoirs en faveur des plateformes numériques qui pourraient porter atteinte à l’autonomie des citoyens. Entre les mains de régimes autoritaires, les systèmes d’IA pourraient conduire à une surveillance de masse, à un classement des citoyens et à des restrictions de leur liberté de mouvement.

« L’identification biométrique à distance dans les espaces accessibles au public nécessite de mettre en place une infrastructure technique colossale, et dès lors que nous commencerons à la construire, son existence sera assurée. Ce sera comme le vent que nous ne pouvons pas arrêter », a déclaré lors du même événement Wojciech Wiewiórowski, le Contrôleur européen de la protection des données (CEPD).

Concernant l’utilisation militaire de l’IA, notamment en ce qui concerne le développement d’armes autonomes, les députés ont appelé à un accord international sur l’utilisation responsable de l’IA au sein d’organisations intergouvernementales telles que les Nations unies ou l’OCDE.

« Ce n’est qu’en fournissant un modèle européen pour l’IA avec les garanties appropriées pour les citoyens, en minimisant les risques d’abus et de surveillance indue, que nous obtiendrons la confiance du public », a déclaré le législateur progressiste Brando Benifei, co-rapporteur de la loi sur l’IA au sein de la commission du marché intérieur (IMCO).

La Commission européenne présente un plan pour rétablir son influence dans le domaine de la normalisation

La nouvelle stratégie de normalisation de la Commission européenne souligne un engagement renouvelé à prendre part à la définition de normes pour les technologies émergentes afin de contrer la concurrence internationale.

Des implications plus larges

Plusieurs responsables parlementaires ont souligné que la relation entre le rapport AIDA et la loi sur l’IA ne devait pas être exagérée. Les rapports d’initiative ne vont pas plus loin que l’envoi d’un message politique, alors que des négociations beaucoup plus dures sont attendues pour le règlement sur l’IA.

M. Voss, en particulier, a été accusé par son confrère de vouloir lier les deux dossiers. Il a tout de même réussi à faire passer son texte sur l’approche basée sur le risque, les bacs à sable réglementaires et les applications de l’IA pour les forces de l’ordre. Cependant, l’épineuse question de la reconnaissance faciale a été écartée.

Subscribe to our newsletters

Subscribe