Questions des députés :
Eva MAYDELL, Groupe du Parti populaire européen (Démocrates-Chrétiens) :
Comment faire en sorte que plus d’entreprise utilise l’IA ? Concernant les bacs à sable règlementaire, comment améliorer leurs développements par les États membres afin que les PME puissent les utiliser ?
Cédric .O : Je crois que vous pointez du doigt un élément essentiel, faire en sorte que les entreprises européennes adoptent plus rapidement la question de l’IA. Je pense que nous devons travailler sur deux voies, d’abord les start-up parce qu’elles ont beaucoup plus nativement recours à l’IA, nous devons faire émerger des Startup basées sur l’IA, ensuite, je crois que nous avons un énorme défi qui est la capacité pour les PME et aussi les grandes entreprises européennes à adopter cette question de l’IA et là, il y a nécessairement un travail à mener avec les organisations professionnelles, avec les chambres des métiers et de l’artisanat, avec les chambres de commerces et d’industries et l’ensemble des organisations professionnelles des employeurs. Dernier élément, je pense qu’il y a un sujet de formation, le premier goulot d’étranglement que nous avons, c’est que nous n’avons pas assez de gens formés à l’IA en Europe, du coup il n’y a pratiquement pas de personnel disponible pour les PME et TPE.
Vous avez évoqué la question des bacs à sable règlementaire, c’est indispensable et c’est l’un des éléments sur lesquels nous nous heurtons dans le cadre de la mise en œuvre du RGPD, qui est une vraie victoire politique mais qui pourrait être amélioré, nous avons besoin de faire en sorte que les règles qui s’appliquent à une startup ne soient pas les mêmes qu’à une très grande entreprise si nous voulons faire en sorte que l’adoption de l’IA progresse dans l’Union européenne.
Ibán GARCÍA DEL BLANCO, Groupe de l’Alliance Progressiste des Socialistes et Démocrates au Parlement européen :
Quel est votre point de vue et celui de la Présidence française et votre vision sur la proposition de la Commission européenne et quelles sont les lacunes et qu’est-ce que nous pourrions améliorer ? Et pour être plus concret, concernant la démocratisation du processus, que pouvons-nous faire ? comment pouvons-nous réussir à arriver à une situation où les personnes soient conscientes de l’importance de ce sujet et puis comment pourront-ils prendre des décisions dans ce sens, car je crois que ce serait une erreur que de faire ce changement de notre société sans se reposer sur les informations des experts.
Serait-il important d’avoir un organe de coordination au niveau européen afin de mieux cimenter le marché intérieur et assurer une bonne mise en route du processus qui est directement lié au pouvoir de compétitivité de l’Europe mais aussi respecter les droits des citoyens ?
Cédric .O : Tout d’abord un petit ‘’disclaimeur’’ la France étant Présidente du Conseil actuellement, il m’est difficile de répondre sur la position de la France, puisque le Conseil n’a pas de position à ce stade. Mais je vais essayer d’apporter des réponses à vos questions.
Concernant le règlement, je pense qu’il est équilibré aujourd’hui mais que le diable se cache dans les détails, et qu’il y a deux éléments extrêmement importants, la question des bacs à sable et la question de la mise en œuvre uniformisée. Deuxièmement, et là je pense que vous touchez du doigt la question de la démocratisation, le défi principal qui est celui de notre société actuellement. Je prenais comme exemple celui du rail, je pense qu’aujourd’hui
Notre société est basée sur une technologie numérique, sur celle des vaccins dont les rythmes de rupture et de développement est très rapide et qui laisse de côté tout une partie de notre population, dont le problème n’est pas qu’elle comprenne ou sache coder des algorithmes d’IA, le problème et qu’elle ne comprend pas la grammaire de ce Monde, or l’ignorance créé le fantasme et la défiance. Je crois qu’au sein de l’Union Européenne le principal défi technologique, économique mais surtout démocratique est de faire société et d’améliorer la culture technique de l’ensemble de nos populations et cela passe par l’éducation. Concernant votre dernier point, sur une coordination au niveau européen, là il m’est difficile de répondre le Conseil n’ayant pas de position, mais si vous faites le parallèle avec le Digital Services Act, il y a des propositions du Conseil sur la coordination de l’implémentation qui d’une certaine manière pourrait peut-être inspirer la règlementation sur l’IA.
Svenja HAHN, Groupe Renew Europe :
C’était très intéressant d’entendre les priorités numériques de la Présidence française, pourrions-nous peut-être également parler de la règlementation sur l’IA, parce qu’il y a eu certain problème, nous savons que le gouvernement français est favorable à l’utilisation de la reconnaissance faciale pour les services de répression de la criminalité alors que d’autres estiment que c’est une violation des droits fondamentaux, ceci tous particulièrement en Allemagne. J’estime que nous devons appuyer l’innovation et je ne crois pas que la France veuille bafouer les droits fondamentaux. Toutefois je vois un problème général en matière de surveillance et dans l’utilisation de l’IA dans ce domaine, certain État membre ont des systèmes plus fragiles, notamment deux voisins de l’Allemagne. Je voudrais savoir comment la Présidence française veut rapprocher ces points de vue qui sont fortement éloignés ? il semble également qu’il y est des confusions concernant ce qu’est la reconnaissance biométrique des espaces publiques, comment peut-on garantir que les technologies numériques ne soient pas détournées par les gouvernements pour contrôler et à des fins qui ne seraient pas voulues ?
Cédric .O : Je crois que vous touchez un des points les plus sensible du texte sur l’IA, un des points qui pourrait le faire échouer ou du moins empêcher qu’il prospère. Je souhaite corriger un des éléments que vous avez évoqués, la France n’est pas favorable à la reconnaissance faciale de manière indiscriminée, il y a très peu de dispositif de reconnaissance faciale en France et d’ailleurs aujourd’hui le cadre est posé par la commission national informatique et liberté. Il y a des débats sur le sujet en France de toute évidence, mais à ce stade il n’y a quasiment pas de déploiement de reconnaissance faciale en France. L’état du débat est assez proche de celui de l’Europe.
Maintenant considérant le règlement, je pense qu’il faut différencier deux questions, ce qui relève d’un règlement européen et ce qui relève de la souveraineté des États. En la matière s’agissant des questions de renseignement ou de maintien de l’ordre publique il me semble que cela relève de la souveraineté des états dès lors qu’ils sont en lien avec les valeurs de l’Europe. Là il s’agit du champ d’application de la règlementation de l’IA.
La deuxième question c’est celle de la technologie, je ne peux pas développer en quelques minutes ce sujet, mais la reconnaissance faciale cela ne veut rien dire, parle-t-on d’authentification ou parle-t-on d’identification dans l’espace publique ? en France par exemple la commission informatique et liberté a considéré qu’utiliser des logiciels algorithmiques pour regarder si les gens portaient des masques dans le métro de manière statistique était permis. Que faisons-nous des caméras qui sont sur les voitures autonomes ? comment traitons-nous les reconnaissances de mouvement de foule ? je pense que la question de la reconnaissance faciale, même le terme de reconnaissance faciale obère le débat que nous pouvons avoir sur quels sont les protocoles qui sont réellement à risque et quels sont les protocoles qui ne posent pas de problème compte tenu de leur design et de la manière dont ils ont été conçus et de leur architecture informatique.
Kim VAN SPARRENTAK, Groupe des Verts/Alliance libre européenne :
L’analyse de certain système fait que nous avons des doutes, certain système d’IA ne s’applique pas à tous les citoyens, comment va-t-on utiliser les différents systèmes qui existent au niveau européen pour garantir la protection des droits fondamentaux et permettre à toutes les entreprises de jouer à armes égales ?
Cédric .O : Le fait que le Conseil n’est pas encore de position me rend difficile de vous répondre et de commenter le fond de la proposition. Je vais me répéter un peu, concernant notre besoin de trouver cette ligne de crête entre innovation et régulation et quel que soit le niveau de règlementation que nous allons choisir, il faut qu’elle soit unifiée sur le territoire européen.
Gilles LEBRETON, Identity and Democracy Group:
Je regrette que vous ne soyez pas physiquement présent, sur les trois ministres que j’ai auditionner vous êtes le deuxième, je trouve que cela donne une mauvaise image de la Présidence de la France. J’aimerai vous interroger sur la création d’une identité numérique européenne, c’est un projet de la Commission que vous appuyez. Selon ce projet chaque citoyen pourra prouver son identité en cliquant sur son smart phone et faire ainsi des opérations dans toute l’Union européenne, pensez-vous que cela puisse représenter des dangers ?
Cédric.O : Sur la souveraineté numérique européenne versus la souveraineté numérique française je continue de penser qu’il y a un lien extrêmement important en la matière. C’est illusoire de parler de souveraineté numérique française quand les GAFA investissent 40 milliards dans l’IA uniquement chaque année, la France dans son ensemble en R&D publique et privé investit 60 milliards tous secteur confondu, donc si la France veut être au rendez-vous de la compétitivité et de la souveraineté elle ne peut l’être que dans le cadre d‘une alliance avec l’Union européenne, donc il n’y aura pas de souveraineté technologique française sans souveraineté technologique européenne. S’agissant du contrôle social que l’Europe prévoit de faire grâce à l’identité unique européenne, je dirais d’abord que cela dépend de ma collègue Amélie de Montchalin et deuxièmement que la réponse étant dans la question me semble-t-il, je vous laisserai à vos considérations.
Adam BIELAN, Groupe des Conservateurs et Réformistes européens :
Il y a trois jours, 12 états européens, y compris la France et la Pologne ont publiés un manifeste conjoint indiquant qu’ils ne voulaient pas lutter contre la Commission dans le cadre d‘un projet portant sur l’informatique dans le Cloud pour arriver à une technologie européenne. Ceci relève des priorités de la présidence française, pour une Europe plus souveraine, pourriez-vous nous donner quelques explications quant à ce projet qui semble très prioritaire pour la présidence française ? La normalisation est très importante pour la compétitivité de l’Europe. Nous lançons un appel au niveau européen pour normaliser en collaborant avec d’autres partenaires, quelle est le point de vue du Conseil sur cette stratégie et sa mise en œuvre ? une régionalisation excessive des normes d’IA pourrait entraver la compétitivité européenne étant donné que les technologies ont un impact mondial.
Cédric .O : Je vois plusieurs points dans votre question, le premier concerne l’IPCEI Cloud dont plusieurs pays de l’Union européenne sont actuellement engagés, je crois que le Cloud est un des sujets sur lequel nous avons absolument besoin de rattraper notre retard. Il s’agit d’une technologie structurante et nous sommes excessivement en retard par rapport aux américains et nous devons tous faire pour revenir dans la course. Il y a ce projet IPCEI de 7 milliards d’euros qui rassemble 12 pays européens et la France veut faire en sorte, au bénéfice de certaine nombre de révolution technologie comme le ‘’H computing’’, de rattraper le retard. Le deuxième, et je suis pleinement d’accord avec vous concernant l’unicité du marché européen en matière de standardisation, je l’ai évoqué dans le cadre de l’IA et je pense que c’est la même chose pour le Cloud. Mais si nous voulons être capable d’unifier le marché européen en matière de Cloud, le premier élément que nous devons faire au niveau des États, de la Commission et du Parlement c’est unifier notre lecture de ce qui structure la question du Cloud qui est aujourd’hui la ‘’RECHREM2’’ de la cour de justice de l’Union européenne. Les entreprises européennes pourront-elles avoir le droit de recourir au service mis à disposition par les hypers ‘’scalers’’ américains ?
Sandra PEREIRA, Le groupe de la gauche au Parlement européen – GUE/NGL :
Le changement numérique pourrait entrainer des déséquilibres et une concentration monopolistique de certaines activités et attaquer les souverainetés des peuples, les salaires et l’emploi, qu’en pensez-vous ?
Cédric .O : De par mes expériences précédentes chez Safran, et notamment au bas de l’échelle, je crois que la numérisation et l’automatisation sont un facteur essentiel pour lutter contre la pénibilité d’énormément de tâches qui aujourd’hui participe de la difficulté des postes qui sont tout en bas de l’échelle.
Ernő SCHALLER-BAROSS, Non-inscrits :
Les données sont essentielles dans le développement de l’IA, le gouvernement hongrois a commencé un travail de grande ampleur concernant cette économie des données, dans l’établissement du cadre de l’économie numérique le gouvernement hongrois a dit que les données était un bien juridique, c’est nécessaire pour traiter de la nature des données et être intégré dans le droit commercial. La Présidence française voit-elle une opportunité d’appuyer cette définition des données dans le cadre de l’IA et de la numérisation en général ?
Cédric .O : Sujet clé des débats philosophiques et ontologiques de l’économie numérique qui est celle de la propriété des données. Ma réponse sera assez pragmatique, nous avons la RGPDA a été adopté avec le DSA, ainsi que le DMA, demain le règlement sur l’IA, le DATA ACT qui doit être présenté par la Commission. Nous avons l’opportunité de poser sur la table les règlements et le cadre juridique démocratique de valeur le plus important de l’histoire de l’internet, et l’Europe sera précurseur en la matière. Je suis intéressé sur le débat de la propriété des données, mais si nous entrons dans ce débat, nous mettrons beaucoup de temps à en sortir aux vues de sa complexité. Ma priorité est de faire aboutir et progresser les textes qui sont sur la table. Toutefois je crois que la question que vous soulevez nécessite d’être traitée mais elle prendra beaucoup de temps.
Axel VOSS, Groupe du Parti populaire européen (Démocrates-Chrétiens) :
Comment voyez-vous l’avenir de la numérisation et concernant l’IA, afin d’être plus compétitif au niveau mondial, ne devrions-nous pas unir nos efforts pour parvenir à être concurrentiel et lancer plus de projets communautaires pour augmenter la taille et créé partout dans l’Union européenne une tendance à aller plus loin ?
Cédric .O : Je suis assez proche de votre approche, le leader fixe le standard, nous manquons de leader, donc nous courrons après, par la règlementation pour corriger des effets qui sont ceux du fait qu’aujourd’hui ceux qui fixe le standard sur des principes de droit, des principes de valeur qui sont des principes Anglo-Saxon ou chinois. Donc le principal élément que nous avons à faire aujourd’hui c’est de faire émerger des leaders, et ces leaders viendrons des startups principalement. Et donc nous avons l’obligation et l’approche que nous devons avoir, c’est comment faisons-nous émerger demain 1, 2, 3 4 ou 5 très grandes entreprises qui seront de la taille, peut-être pas des GAFA, mais de celle de UBER AIRBNR, capable d’investir de façon importante. La solution en matière technologique viendra du privé parce qu’il n’y a que le privé qui peut mettre sur la table les sommes qui sont nécessaires.
Alexandra GEESE, Groupe des Verts/Alliance libre européenne :
Une question précise concernant le travail du Conseil concernant la législation sur l’IA, la version du Conseil exclus de ce texte tous les systèmes d’IA à but définis (general purpose), ces systèmes sont par exemple les grands systèmes linguistiques qui sont la base de nombreux outils d’IA sur lesquels les entreprises européennes travaillent. Cela signifie que les entreprises européennes seraient encore responsables et devraient respecter la législation relative à l’IA, qui dit par exemple que les données ne peuvent pas faire l’objet de biais, quelles doivent être représentatives et il y a une série d’autres exigences. Mais pourquoi excluez-vous les système objectifs général de la portée parce que on sait que le GPT3, les grands modèles linguistiques ont des biais par rapport aux femmes ou aux personnes de couleurs. Pourquoi les entreprises européennes seraient responsables alors que celles qui produisent la base de ce sur quoi s’appuie le travail de ces sociétés européennes ne sont pas responsables, pourriez-vous nous expliquer cela ?
Cédric .O : Je ne suis pas sûr de pouvoir vous répondre techniquement à la question que vous me posez. Sur l’exclusion des normes des systèmes à portée générale.
Maria-Manuel LEITÃO-MARQUES, Groupe de l’Alliance Progressiste des Socialistes et Démocrates au Parlement européen :
Aux États-Unis, il y a une ‘’National AI initiative Office’’ afin de mettre en commun les moyens publiques et privés pour pousser et piloter l’innovation. Pouvons-nous faire la même chose en Europe ? Et comment pousser la construction des espaces de données européennes en profitant notamment de l’énorme quantité de données stockées dans notre institution publique ?
Cédric .O : Je reviendrais sur un échange que j’ai eu avec Eric Schmitt, ancien patron de Google, chargé par le congrès de réfléchir à la stratégie IA des États-Unis. Son obsession était de ne pas être déclassé par la Chine et donc de tout faire pour maintenir la suprématie américaine. Que devons-nous penser nous européens, alors que les américains s’inquiètent de la Chine.
Dragoş TUDORACHE, Groupe Renew Europe :
La gouvernance digitale ?
Cédric .O: La décennie digital et numérique est une bonne chose, je veux d’ailleurs souligner et saluer le travail de Thierry Breton, Margrethe Vestager et d’Ursula Von Der Leyen, dans la volonté de pousser les pays de l’Union européenne d’aller plus vers la numérisation dans le cadre du plan de relance, de la recherche, parce que c’est indispensable à l’unité et à la compétitivité future de l’Europe.
S’agissant de la gouvernance, il y a un modèle qui se dégage des discutions à l’intérieur du DMA et du DSA qui est, plus de gouvernance intégrée pour deux raisons, une qui est d’unité du marché intérieur et une autre raison liée au fait que nous avons à faire en général à des régulateurs extrêmement puissants dont les chiffres d’affaires, la puissance technologique vont parfois au-delà de ceux d’un simple État, et donc dans ce cadre l’unité et la capacité à ce que nous ayons un interlocuteur puissant, la Commission en est un. Cela me semble une bonne piste de travail, mais je ne pourrais aller guère plus loin compte tenu de ma position institutionnelle.
