Loi européenne sur l’IA : la présidence française de l’UE souhaite l’alignement avec le nouveau cadre législatif

La présidence française du Conseil de l'UE a fait des progrès continus sur la loi sur l'intelligence artificielle. [Alexandros Michailidis/Shutterstock]

La France propose plusieurs changements à la loi sur l’intelligence artificielle (IA) afin d’obtenir un meilleur alignement de ce cadre législatif. Les changements concernent notamment la désignation des autorités compétentes et la base de données sur l’IA à haut risque.

La présidence française, qui dirige les travaux au sein du Conseil de l’UE, a partagé un nouveau texte de compromis lundi (25 avril) qui sera discuté avec les représentants des autres États membres lors du groupe de travail sur les télécommunications jeudi.

Organismes notifiés et autorités compétentes

Les organismes notifiés joueront un rôle crucial dans l’application de la loi sur l’IA, car ils seront désignés par les pays de l’UE pour évaluer la conformité des systèmes d’IA aux règles de l’UE avant leur lancement sur le marché.

Le nouveau texte fait explicitement référence au règlement de l’UE établissant les exigences en matière d’accréditation et de surveillance du marché, et une référence au fait que ces organismes devront respecter les obligations de confidentialité a été ajoutée.

Un nouvel article a été introduit pour définir le mode de fonctionnement des organismes notifiés, en particulier pour l’évaluation de la conformité des systèmes à haut risque. Le nouvel article comprend des dispositions indiquant comment les organismes notifiés doivent collaborer avec l’autorité notifiante, l’autorité nationale chargée de superviser l’ensemble du processus d’évaluation de la conformité.

Si l’autorité nationale a « des raisons suffisantes de considérer » qu’un organisme notifié ne remplit pas ses obligations, elle doit prendre des mesures appropriées proportionnelles au niveau de manquement, notamment en restreignant, suspendant ou retirant les notifications à cet organisme.

Pour devenir un organisme notifié, il y aura une procédure de demande gérée par l’autorité compétente. Les autorités nationales pourront également désigner des organismes en dehors de cette procédure, mais dans ce cas, elles devront fournir à la Commission et aux autres États membres des documents prouvant la compétence de l’organisme et la manière dont il satisfera aux exigences pertinentes.

De même, la Commission pourra contester la compétence de l’organisme notifié. Une phrase a été ajoutée pour donner à l’exécutif européen le pouvoir de suspendre, de restreindre ou de retirer la notification dans certains cas, par le biais d’une législation secondaire, conformément aux dispositions similaires du règlement sur les dispositifs médicaux.

Une partie importante de la loi sur l’IA sera mise en œuvre par des normes harmonisées, qui indiqueront comment les concepts généraux du règlement, tels que l’« équité » et la « sécurité », s’appliquent en pratique à l’intelligence artificielle.

Lorsqu’un système respecte ces normes, il est présumé conforme au règlement. De même, un nouvel article précise que cette présomption de conformité s’applique également aux organismes notifiés qui suivent les normes harmonisées.

Les organismes notifiés de l’ensemble du bloc devront coordonner leur procédure d’évaluation de la conformité au sein d’un groupe de travail spécifique, mais uniquement pour les systèmes d’IA à haut risque. Les autorités nationales veilleront à ce que la collaboration entre les organismes soit efficace.

Il est également possible que des organismes d’évaluation de la conformité d’un pays extérieur à l’UE soient autorisés par une autorité nationale à effectuer le même travail qu’un organisme notifié de l’UE, à condition qu’ils respectent les mêmes exigences définies dans le règlement.

Intelligence artificielle : les législateurs européens adoptent leurs recommandations

L’intelligence artificielle à l’ère numérique (AIDA), une commission spéciale créée en septembre 2020 pour analyser l’impact horizontal de l’intelligence artificielle sur la société, a achevé son rapport d’initiative, adopté mardi (22 mars).

De la flexibilité pour les pays

Le texte concernant la désignation des autorités nationales compétentes a été modifié afin de donner aux pays de l’UE plus de flexibilité pour organiser ces autorités en fonction de leurs besoins, à condition que les principes d’objectivité et d’impartialité soient respectés.

La présidence française propose de rendre moins contraignantes les dispositions relatives à la manière dont les pays de l’UE doivent informer la Commission de ce processus de désignation.

La partie concernant les ressources adéquates pour les autorités compétentes a également été rendue moins contraignante. La fréquence des rapports sur l’état des ressources des autorités nationales a été réduite.

Les députés européens finalisent le rapport préliminaire sur l'IA

Les deux co-rapporteurs du Parlement européen ont finalisé le rapport préliminaire sur l’intelligence artificielle (IA) lundi, couvrant les points sur lesquels ils ont trouvé un terrain d’entente.

Base de données sur les risques élevés et rapports

L’article relatif à la base de données de l’UE sur les systèmes d’IA à haut risque couvre désormais également les systèmes à haut risque testés dans des conditions réelles dans le cadre d’un bac à sable réglementaire (regulatory sandbox), et prévoit que le « fournisseur de perspectives » doit les insérer dans la base de données.

En outre, un nouveau paragraphe indique que les informations de la base de données de l’UE sur les systèmes à haut risque déjà sur le marché doivent être accessibles au public. Pour les systèmes qui sont testés dans un bac à sable réglementaire, les informations ne seront pas rendues publiques, sauf si le fournisseur y consent. Le texte précise que la base de données de l’UE ne contiendra pas de données personnelles.

L’article sur la supervision des systèmes déjà lancés sur le marché a été clarifié pour ne s’appliquer qu’aux systèmes à haut risque. Les fournisseurs disposent d’une plus grande souplesse pour collecter, documenter et analyser les données pertinentes nécessaires à l’évaluation de la conformité.

Le dysfonctionnement des systèmes à haut risque a été exclu des obligations de notification des incidents graves. Dans le même temps, le texte élargit la possibilité de couvrir ces obligations de notification aux institutions financières qui pourraient être incluses dans le champ d’application des systèmes à haut risque à un stade ultérieur.

Subscribe to our newsletters

Subscribe