Loi sur l’IA : la présidence française de l’UE souhaite modifier le conseil de surveillance et la surveillance du marché

Le nouveau texte, consulté par EURACTIV, apporte des modifications importantes au texte relatif au Conseil européen de l’intelligence artificielle (EAIB), à la surveillance du marché, aux lignes directrices et aux codes de conduite. [Pixels Hunter/Shutterstock]

Un énième texte de compromis sur la loi sur l’intelligence artificielle (IA) a été diffusé parmi les diplomates du Conseil de l’UE par la présidence française de l’UE avant une réunion du groupe de travail mardi (10 mai).

Le nouveau texte, consulté par EURACTIV, apporte des modifications importantes au texte relatif au Conseil européen de l’intelligence artificielle (EAIB), à la surveillance du marché, aux lignes directrices et aux codes de conduite.

Les États membres ont été généralement satisfaits de la direction que la présidence française de l’UE a donnée au dossier, a déclaré un diplomate de l’UE à EURACTIV.

Conseil européen de l’intelligence artificielle

La structure du conseil a été modifiée pour inclure un représentant pour chaque État membre, à la place de l’autorité de surveillance nationale. Ce représentant sera désigné pour un mandat de trois ans, renouvelable une fois.

Huit experts indépendants ont été ajoutés au conseil, deux par catégorie, représentant les PME et les jeunes entreprises, les grandes entreprises, le monde universitaire et la société civile. Ces experts seront sélectionnés par les représentants nationaux « dans le cadre d’une procédure de sélection équitable et transparente », indique le texte de compromis.

Le Contrôleur européen de la protection des données a été rétrogradé de membre à part entière à simple observateur. Le rôle de la Commission a également été considérablement réduit, passant de président du conseil d’administration à participant sans droit de vote.

La proposition française prévoit que les règles de procédure ne seront adoptées que par les représentants nationaux à la majorité des deux tiers. Ces règles de procédure devraient définir le processus de sélection des experts indépendants ainsi que la sélection, le mandat et les tâches du président de ce conseil, qui devra être un représentant national.

Loi européenne sur l'IA : la présidence française propose des modifications pour les forces de l'ordre

Un nouveau texte de compromis sur l’intelligence artificielle (IA) et le respect de la loi marque des progrès plus rapides sur la loi sur l’IA au sein du Conseil de l’UE, la présidence française visant une orientation générale au moins partielle pour juin.

Lignes directrices

Un nouvel article a été introduit pour demander à la Commission européenne de fournir, de sa propre initiative ou à la demande du conseil d’administration, des lignes directrices sur la manière d’appliquer le règlement sur l’IA, notamment en ce qui concerne le respect des exigences relatives aux systèmes à haut risque, les pratiques interdites et la manière de mettre en place des modifications importantes des systèmes existants.

Les orientations porteraient également sur l’identification des critères et des cas d’utilisation des systèmes d’IA à haut risque, sur la manière de mettre en œuvre les obligations de transparence dans la pratique et sur la manière dont le règlement sur l’IA interagira avec d’autres législations de l’UE.

« Lors de la publication de ces lignes directrices, la Commission accorde une attention particulière aux besoins des PME, y compris les jeunes entreprises, et aux secteurs les plus susceptibles d’être affectés par le présent règlement », ajoute le texte.

Surveillance du marché

La modification de cette partie du texte est « destinée à clarifier les pouvoirs des autorités de surveillance du marché et les modalités d’exercice de ces pouvoirs, ainsi que la mesure dans laquelle elles doivent avoir accès aux données et informations pertinentes, notamment le code source. »

Les autorités de surveillance du marché devront se voir accorder un accès complet au code source d’un système d’IA à haut risque en cas de « demande motivée », à savoir que le code est nécessaire pour évaluer la conformité du système, les données et documents fournis ayant été jugés insuffisants.

Le texte de compromis indique que les autorités de surveillance du marché sont responsables de la supervision des systèmes à haut risque utilisés par les institutions financières. Les autorités nationales devront informer sans délai la Banque centrale européenne de toute information pertinente au regard de ses missions de surveillance.

La procédure de signalement aux autres Etats membres et à la Commission des mesures prises à l’encontre des systèmes d’IA non-conformes a été sensiblement modifiée. Ces cas concernent désormais les systèmes non-conformes à la restriction des pratiques interdites, les systèmes à haut risque avec leurs exigences et le non-respect des obligations de transparence prévues pour les deepfakes et les reconnaissances d’émotions.

En général, la Commission et les pays de l’UE auront trois mois pour s’opposer à ces actions. En cas de soupçon de violation de l’interdiction des pratiques prohibées, le délai a été ramené à 30 jours.

Si une objection est soulevée, la Commission entre en consultation avec les autorités nationales compétentes. L’exécutif européen décidera dans un délai de neuf mois si la décision est justifiée, mais pour les pratiques interdites, le délai est de 60 jours.

La Commission peut annuler la décision de l’autorité nationale. Toutefois, si la Commission juge les mesures appropriées, toutes les autres autorités devront les reproduire, y compris en procédant au retrait du système d’IA du marché.

Codes de conduite

L’article sur les codes de conduite a été modifié pour préciser qu’il s’agit d’outils à caractère volontaire pour les systèmes d’IA qui n’entrent pas dans la catégorie des systèmes à haut risque. Les codes de conduite ont été élargis pour couvrir les obligations des utilisateurs de systèmes d’IA.

Loi européenne sur l'IA : la présidence française de l'UE souhaite l'alignement avec le nouveau cadre législatif

La France propose plusieurs changements à la loi sur l’intelligence artificielle (IA) afin d’obtenir un meilleur alignement de ce cadre législatif. Les changements concernent notamment la désignation des autorités compétentes et la base de données sur l’IA à haut risque.

Subscribe to our newsletters

Subscribe