La Commission européenne est sur le point d’approuver la décision qui établira le Bureau de l’IA, selon un projet de document qu’Euractiv a pu consulter.
Le Bureau de l’IA jouera un rôle central dans la mise en œuvre du AI Act, la loi de l’UE qui règlemente l’intelligence artificielle et qui devrait être formellement adoptée dans les semaines à venir, sur base d’un accord politique conclu entre les co-législateurs — le Parlement européen et le Conseil de l’UE — en décembre.
C’est le Parlement européen qui a proposé la création d’un Bureau de l’IA chargé de l’application du règlement sur l’IA (AI Act). Toutefois, au cours des négociations, son rôle a été réduit, et son statut de (presque) agence a été remplacé par un organisme intégré à la Commission, disposant cependant d’une enveloppe budgétaire distincte.
La question du degré d’autonomie qui sera garanti au Bureau reste sensible au sein de la Commission, d’autant plus que l’on ne sait pas encore clairement si le Bureau deviendra une entité avec ses propres objectifs politiques ou si elle sera plutôt une extension de l’unité responsable du AI Act.
Selon les informations d’Euractiv, le projet de décision sur l’établissement du Bureau de l’IA a été amendé à la suite d’une consultation interne pour y inclure une précision expliquant que le Bureau ne devrait pas interférer avec les compétences des départements de la Commission.
D’après le document, cette décision devrait entrer en vigueur d’urgence le 21 février, avant l’adoption formelle du AI Act. La décision devrait faire l’objet d’un vote ce mercredi (24 janvier).
La « police » des puissantes IA
Le Bureau de l’IA aura principalement un rôle de soutien pour la mise en œuvre des règles sur les systèmes d’IA, dans la mesure où l’essentiel des compétences incombera aux autorités nationales. Toutefois, il sera chargé de contrôler les modèles et systèmes d’IA à usage général (GPAI), les types d’IA les plus puissants qui existent aujourd’hui.
Les récents progrès en matière de puissance de calcul, de collecte de données et de techniques algorithmiques ont conduit au développement de puissants modèles GPAI tels que GPT-4 d’OpenAI, qui alimente ChatGPT, l’agent conversationnel le plus célèbre au monde.
Le AI Act prévoit une approche par niveaux pour les modèles GPAI afin de distinguer les modèles susceptibles d’entraîner un risque systémique pour la société des autres modèles. Le Bureau de l’IA doit élaborer des méthodes et des critères de référence pour évaluer les capacités des modèles GPAI.
Le Bureau contrôlera l’application des règles relatives aux modèles et systèmes GPAI, notamment lorsqu’ils sont développés par le même fournisseur, et par la détection de risques imprévus liés à ces modèles, sur la base d’alertes émanant d’un groupe scientifique d’experts indépendants.
La nouvelle entité européenne devrait également disposer d’une grande marge de manœuvre pour enquêter sur d’éventuelles infractions aux règles sur les GPAI en recensant les plaintes et les alertes, en émettant des demandes de documents, en réalisant des évaluations et en demandant des mesures d’atténuation ou d’autres mesures d’exécution.
Le Bureau coordonnera également l’application du AI Act aux systèmes d’IA déjà couverts par d’autres législations européennes, comme les systèmes de recommandation des réseaux sociaux relevant de la loi sur les services numériques (Digital Services Act, DSA) et les algorithmes de classement des moteurs de recherche relevant de la loi sur les marchés numériques (Digital Markets Act, DMA).
Soutien et coordination
Le Bureau de l’IA devra également soutenir la préparation de la législation secondaire permettant la mise en œuvredu AI Act, l’application uniforme de la règlementation, la publication d’orientations et d’outils de soutien tels que des protocoles normalisés, la préparation de demandes de normalisation, la mise en place de bacs à sable règlementaires, l’élaboration de codes de pratique et de conduite au niveau de l’Union européenne.
Le Bureau se chargera aussi du secrétariat du Comité de l’IA et de l’assistance administrative pour le forum consultatif géré par les parties prenantes et le groupe scientifique composé d’experts. Le projet de décision mentionne explicitement l’obligation de consulter régulièrement les parties prenantes du monde scientifique et de la société civile.
Plus précisément, le Bureau de l’IA doit « établir un forum de coopération avec la communauté des logiciels libres en vue d’identifier et de développer les meilleures pratiques pour le développement et l’utilisation en toute sécurité de modèles et de systèmes d’IA open source ».
En outre, la nouvelle entité est chargée de promouvoir les écosystèmes d’innovation et de travailler avec les acteurs publics et privés et la communauté des start-ups. Le Bureau de l’IA sera chargé de surveiller les progrès de GenAI4EU, une initiative visant à promouvoir l’adoption de l’IA générative dans les secteurs stratégiques.
Le Bureau devrait également être chargé de coopérer avec les organes de l’UE concernés, comme le Contrôleur européen de la protection des données (CEPD). Une collaboration est également nécessaire avec d’autres services de la Commission, notamment le Centre européen pour la transparence algorithmique, afin de tester les modèles et les systèmes du GPAI et de faciliter l’adoption d’outils d’IA dans les politiques européennes pertinentes.
Au niveau international, le Bureau fera la promotion de l’approche de l’UE en matière d’IA, contribuera aux initiatives de gouvernance de l’IA et soutiendra la mise en œuvre des accords internationaux sur ces technologies.
Financement
La question du financement du Bureau de l’IA a été un point sensible depuis le début des négociations à ce sujet. Le manque de flexibilité dans le budget de l’UE et le manque d’appétit des États membres pour mettre plus de ressources sur la table implique que les nouveaux projets sont toujours confrontés à des contraintes budgétaires strictes.
Le service de la Commission chargé de la politique numérique, la DG CNECT, répartira les ressources humaines. L’embauche de personnel temporaire et les dépenses opérationnelles seront financées par le redéploiement de la ligne budgétaire du programme pour une Europe numérique.
[Édité par Anne-Sophie Gayet]