Intelligence artificielle. Avec sa nouvelle feuille de route, l’UE veut devenir « leader mondial »

La proposition de l’exécutif se concentre autour de l’élaboration d’un premier cadre juridique sur l’IA et d’un nouveau plan coordonné avec les États membres afin de faire de l’Europe le pôle mondial d’une intelligence artificielle digne de confiance. EPA-EFE/OLIVIER HOSLET / POOL [EPA-EFE/OLIVIER HOSLET / POOL]

Mercredi (21 avril), la Commission européenne a présenté son projet tant attendu de réglementation de l’intelligence artificielle (IA), faisant la lumière sur la volonté du bloc de devenir leader mondial en la matière.

La proposition de l’exécutif se concentre autour de l’élaboration d’un premier cadre juridique sur l’IA et d’un nouveau plan coordonné avec les États membres afin de faire de l’Europe le pôle mondial d’une intelligence artificielle digne de confiance.

« En matière d’intelligence artificielle, la confiance n’est pas un luxe mais une nécessité absolue. En adoptant ces règles qui feront date, l’UE prend l’initiative d’élaborer de nouvelles normes mondiales qui garantiront que l’IA soit digne de confiance », a fait savoir Margrethe Vestager, vice-présidente exécutive pour une Europe adaptée à l’ère du numérique.

Suivant une approche basée sur les risques, les nouvelles règles seront directement applicables dans tous les États membres. Si la plupart des applications IA devraient présenter peu de risques, voire aucun, celles perçues comme étant plus dangereuses sont moins nombreuses et seront assujetties à des règles strictes.

Dans ce contexte, la transparence constitue une nécessité fondamentale. Ainsi, lorsqu’ils utilisent des systèmes d’IA tels que des chatbots, les utilisateurs doivent savoir qu’ils interagissent avec une machine afin de pouvoir décider en connaissance de cause de poursuivre ou non.

Le projet prévoit une série d’obligations strictes pour les applications à haut risque, étant donné qu’elles pourraient entraîner des répercussions directes sur la vie privée ou professionnelle.

L’organisation ayant recours à l’IA devrait garantir une qualité élevée des ensembles de données alimentant le système afin de réduire au minimum les risques et les résultats ayant un effet discriminatoire ; une documentation détaillée fournissant toutes les informations nécessaires sur le système et sur sa finalité pour permettre aux autorités d’évaluer sa conformité ; un contrôle humain approprié pour réduire au minimum les risques ; ainsi qu’un niveau élevé de robustesse, de sécurité et d’exactitude.

Navigation, empreinte carbone et qualité de l'air : Google Maps promet "100 améliorations basées sur l'IA"

L’entreprise américaine du numérique a présenté mardi (30 mars) les nouvelles fonctionnalités qui feront usage d’intelligence artificielle (IA) pour son application de cartographie Google Maps.

Selon la Commission européenne, les systèmes d’IA considérés comme une menace évidente pour la sécurité, les moyens de subsistance et les droits des personnes seront interdits. Il s’agit notamment des systèmes ou applications d’IA qui manipulent le comportement humain pour priver les utilisateurs de leur libre arbitre (par exemple, des jouets utilisant une assistance vocale incitant des mineurs à avoir un comportement dangereux) et des systèmes qui permettent la notation sociale par les États. Par exemple, les applications semblables au « système du crédit social » (SCS) chinois ne seront pas tolérées, a révélé un représentant européen.

La proposition a déjà suscité une multitude de réactions de la part des parties prenantes. Aux yeux du bureau européen des unions de consommateurs (BEUC), le projet présente des lacunes sur le plan de la protection des consommateurs.

Toutefois, la feuille de route a été saluée par le groupe de lobbying Business Software Alliance (BSA) pour qui « même dans les cas les plus risqués, des dispositifs de sécurité ad hoc sont en place afin de maximiser les avantages de l’IA ».

Au sein de l’industrie, les avis restent tout de même contrastés. La PDG de DigitalEurope, Cecilia Bonefeld-Dahl, a indiqué que « l’inclusion de logiciels IA dans le cadre de conformité légale de l’UE pourrait représenter une charge excessive pour de nombreux fournisseurs ».

Parmi les points les plus contestés de la proposition figure l’identification biométrique dans les endroits publics. Les systèmes d’identification biométrique à distance fondés sur l’IA sont considérés comme à haut risque et sont donc soumis à des exigences strictes. Leur utilisation en temps réel dans l’espace public aux fins du maintien de l’ordre est en principe interdite. Il existe des exceptions restreintes à ce principe, qui sont strictement définies et réglementées (par exemple, lorsque cela est strictement nécessaire pour rechercher un enfant disparu, prévenir une menace terroriste spécifique et imminente ou détecter, localiser, identifier ou poursuivre l’auteur ou le suspect d’une infraction pénale grave).

Le groupe des Verts/ALE au sein du Parlement européen a exprimé de vives critiques face au recours à la reconnaissance faciale dans les espaces publics. D’après Patrick Breyer, législateur du Parti pirate allemand, « la proposition de la Commission européenne autoriserait l’identification biométrique dans les endroits publics à l’ensemble de l’UE, ce qui est contraire à la volonté d’une grande partie de la population ».

Le projet a été plus chaleureusement accueilli par Dragoş Tudorache (Renew Europe), le président de la commission spéciale sur l’intelligence artificielle à l’ère du numérique (AIDA). « La proposition vise à protéger les citoyens européens et leurs droits. Elle fournit des précisions nécessaires à ce qui est et n’est pas autorisé en matière d’IA ».

Intelligence artificielle : la Commission veut interdire la "surveillance indiscriminée" d'après des documents internes

La Commission européenne cherchera à mettre hors la loi les systèmes d’intelligence artificielle utilisés pour des opérations de « surveillance indiscriminée » dans le cadre de nouvelles interdictions qui seront présentées la semaine prochaine.

Subscribe to our newsletters

Subscribe
Contribuer