Le RGPD pourrait poser problème à l’intelligence artificielle

Eva Kaili, à Strasbourg. [European Parliament]

Une série de réformes de grande ampleur sur le numérique sont attendues au niveau européen, de l’intelligence artificielle à la protection des données en passant par réglementation de la cryptocriminalité et la fiscalité numérique.

Eva Kaili est une eurodéputée grecque du groupe socialiste et démocrate. Avant son discours d’ouverture à la prochaine conférence numérique EIT, elle a accepté une interview avec Euractiv.

Commençons par l’une des questions les plus controversées du prochain mandat. Quelle est votre position sur l’éthique dans le domaine de l’intelligence artificielle (IA) ? Seriez-vous favorable à une réglementation dans le domaine de l’intelligence artificielle pour aider à préserver les principes de l’UE ? Quels sont les défis à relever ?

Je pense que l’aspect éthique de l’IA devrait être une préoccupation primordiale. Déjà dans le rapport du Parlement européen sur l’IA que j’ai suivi au nom du groupe S&D, nous avons beaucoup insisté sur l’éthique du développement de l’IA. Dans de nombreux passages, nous avons mis l’accent sur l’approche « éthique par conception » et sur le fait que les entreprises qui produisent de l’IA doivent être très prudentes quant à l’incorporation de parti pris dans les systèmes d’IA.

Nous avons également mis en garde contre toute utilisation malveillante de l’intelligence artificielle par des entreprises qui pourraient utiliser des technologies de reconnaissance faciale ou de détection de l’humeur pour manipuler vos émotions, vos sentiments et essayer d’en tirer profit en vous vendant des produits appropriés.

Une autre question qui sera très importante est celle des données personnelles sensibles. Nous devons veiller à ce qu’en aucun cas un système d’IA ne puisse divulguer des données privées sensibles qu’il pourrait recueillir. Le droit à la vie privée sera, à mon avis, l’une des questions les plus urgentes dans les années à venir et l’IA devra s’y adapter.

Êtes-vous inquiète de l’utilisation de l’IA dans les régimes totalitaires du monde entier ?

Très. Mais ce qui est encore plus inquiétant, c’est ce que ces régimes pourront faire à leurs citoyens en déployant des systèmes avancés de surveillance grâce à l’IA. C’est là que nous verrons l’univers d’Orwell où l’État sera capable de contrôler même les émotions de son peuple.

Un autre sujet de préoccupation est l’IA militarisée. Imaginons juste combien de destruction ils seront capables de causer. Mon intention n’est pas de dépeindre un sombre tableau, mais d’affirmer que nous aurons besoin d’une coopération internationale et de normes spécifiques exactement de la même manière que nous avons des traités sur les armes chimiques et biologiques.

Vous avez récemment soumis une question à la Commission européenne dans laquelle vous soulignez les défis potentiels liés au fait que le RGPD entrave le développement de l’IA. Pourriez-vous nous en dire un peu plus à ce sujet ?

Le RGPD est une loi historique qui a établi un cadre de protection de nos données contre leur traitement sans notre consentement – nous permettant ainsi de retrouver la confidentialité et le contrôle sur la propriété des renseignements personnels. Bien qu’il s’agisse d’une grande réussite, le RGPD contient des dispositions qui pourraient potentiellement entraver le développement de systèmes algorithmiques d’auto-apprentissage axés sur les données.

Par exemple, si l’article 22 du RGPD était appliqué aux outils d’IA, les systèmes automatisés de prise de décision seraient confrontés à des filets de sécurité réglementaires visant à protéger les droits des personnes concernées.

Le développement de l’IA est une pierre angulaire de la stratégie future de l’UE. Il est important de créer un espace pour elle, dans lequel elle peut être développée – et son développement dépend de la disponibilité des ensembles de données. Il est donc important de combiner les leçons tirées du RGPD dans l’espace de l’IA, sans le surréglementer pour que l’innovation puisse être encouragée plutôt qu’arrêtée.

Vous avez déjà été très impliqué dans les questions fiscales. Quelle est votre opinion sur la fiscalité des géants du numérique ? Êtes-vous d’accord pour dire qu’il existe un risque de fracture du marché européen si l’on ne trouve pas une approche européenne commune en matière de taxe sur les services numériques ? Ou préféreriez-vous un accord international plus global ?

L’impôt numérique est une condition sine qua non dans la réalité économique actuelle. L’idée qui le sous-tend devrait cependant être plutôt positive que négative. À mon avis, la taxe numérique est un outil pour réduire l’inégalité numérique au sein de l’économie et pour créer un avantage concurrentiel entre les économies. C’est aussi un outil pour combler le fossé numérique au sein de la société et du monde des affaires grâce à des investissements cruciaux dans l’infrastructure numérique, l’innovation numérique et ce que j’appelle le « capital numérique humain » par l’éducation.

La taxe numérique ne devrait pas être un fardeau mais un facteur d’accélération de la position concurrentielle de l’économie européenne, ainsi qu’un facteur d’accélération de la transition vers l’industrie 4.0. C’est la raison pour laquelle je propose la création d’un Fonds de transition numérique de l’UE où les recettes de la taxe numérique seront accumulées et ensuite canalisées vers des projets de transition numérique.

Permettez-moi de prédire que la proposition actuelle ne sera jamais adoptée. L’impôt numérique est un instrument de croissance nécessaire qui exige que nous soyons ambitieux, intelligents sur le plan technologique et compétitifs. Une bonne taxe numérique européenne donnera à l’UE un avantage réglementaire significatif par rapport à ses concurrents mondiaux et nous ne devrions pas manquer cette occasion.

Les États membres ont récemment soumis leurs rapports d’évaluation des risques pour l’avenir du réseau 5G européen. Quelles sont, selon vous, les questions les plus urgentes à ce sujet ? Quels sont les défis et les solutions ?

Les réseaux 5G seront la pierre angulaire de l’économie et de la société européennes futures. En 2025, les recettes mondiales générées par la 5G devraient s’élever à 225 milliards d’euros. Les réseaux 5G connecteront sans problème des milliards d’appareils et permettront la transmission de quantités massives de données entre et parmi les appareils connectés. Les questions les plus urgentes dans le déploiement des réseaux 5G à l’échelle de l’UE ont trait à la garantie de la stabilité et de la sécurité de ces réseaux face aux potentiels dangers.

Les réseaux 5G permettent non seulement une connexion plus stable et plus rapide pour nos appareils, mais ils connectent également les infrastructures essentielles à l’administration centrale. La connexion des services essentiels dans des domaines clés comme la santé, les finances, les transports et la gestion des ressources par le biais des réseaux 5G augmentera également leur vulnérabilité aux menaces potentielles et aux cyber-attaques. Il est impératif que l’UE concentre ses efforts sur la réalisation d’une évaluation européenne coordonnée des risques liés aux réseaux 5G.

Quelles sont vos priorités pour le prochain mandat du Comité des choix scientifiques et technologiques (STOA), que vous présidez ?

En tant que présidente, je souhaite que le STOA se concentre beaucoup sur les technologies vertes et sur la façon dont nous pouvons les utiliser pour contrôler les dommages environnementaux. Les résultats des élections européennes ont montré que les citoyens placent la protection de l’environnement au premier rang de leurs priorités et nous devons donc écouter leur message et saisir leurs préoccupations.

Nous nous concentrerons également sur des questions telles que le développement de l’intelligence artificielle, l’utilisation de la technologie pour l’aide humanitaire, la bioéthique et l’édition génétique et toutes les technologies qui auront un impact sur notre avenir. Nous lutterons également contre les infox grâce à la création du STOA : le European Science Media Hub (ESMH). Cette plateforme permet de s’attaquer à plusieurs enjeux à mesure que les technologies évoluent. Elle se penche notamment sur les fake news, la viralité et leur impact politique.

Subscribe to our newsletters

Subscribe

Envie de savoir ce qu'il se passe ailleurs en Europe? Souscrivez maintenant à The Capitals.