top of page
  • Photo du rédacteurThierry Bardy

Quelle gouvernance pour l'IA ?


Alors que le projet de règlement européen sur l'intelligence artificielle (AI Act ou RIA) devrait être prochainement ratifié par les Etats membres, de nombreuses questions restent en suspens sur la gouvernance de l'IA. L'objectif de ce texte, qui déterminera le cadre juridique applicable aux entreprises et aux administrations qui souhaiteront utiliser l'IA, est de veiller à ce que les systèmes mis sur le marché européen et utilisés dans l'Union européenne soient sûrs, qu'ils en respectent les droits fondamentaux et les valeurs, mais aussi qu'ils y stimulent l'investissement et l'innovation dans ce domaine.

Le texte décrit une gouvernance complexe. Il prévoit la création d'un bureau européen de l'IA au sein de la Commission pour superviser la mise en oeuvre des nouvelles règles relatives aux modèles d'IA et contrôler leur application. Il établit un groupe d'experts indépendants qui conseillera ce bureau et crée un comité composé de représentants d'Etats membres et un forum consultatif des parties prenantes.

Pour tenir compte des spécificités nationales et des nombreux régulateurs sectoriels existants, qui peuvent avoir un rôle à jouer, le texte confie cette désignation aux Etats membres. Cette complexité introduit une imprévisibilité du cadre réglementaire qui risque de freiner l'innovation. En France par exemple, faut-il confier la gouvernance de l'IA à la CNIL, voire à l'Autorité de la concurrence, ou faut-il créer une nouvelle autorité administrative indépendante ?

Le législateur européen pourrait s'inspirer de l'exemple espagnol en préconisant de mettre en place une nouvelle structure, dotée de moyens propres et qui aurait une vision transversale des risques et opportunités de l'IA. Cela permettrait d'éviter des décisions successives, voire contradictoires qui auraient un effet repoussoir pour les entreprises.

Cette gouvernance est destinée à évaluer les risques encourus par les fournisseurs des systèmes d'IA et les entreprises qui la mettront en oeuvre, notamment dans le traitement de la donnée. La donnée est la matière première de l'IA qui est fondée sur le système des probabilités.

L'IA s'entraîne sur un nombre important de données afin de limiter le risque d'erreur. Le jeu de données pour son entraînement est déterminant : il doit être exact et complet pour éviter les biais.

La richesse des sources de données fait la pertinence du système d'IA. La phase d'entraînement des systèmes d'IA générative repose sur des données ouvertes d'Internet. Les données sont lues, mais pas conservées en tant que telles. Elles sont retravaillées par le système, associées à d'autres, enrichies, au point de devenir de nouvelles données qui n'existaient pas auparavant tout en restant pertinentes.

La protection des données personnelles est un droit fondamental dans l'UE régi par le règlement général sur la protection des données (RGPD). La collision entre IA et RGPD est inévitable, mais pas insurmontable. Elle nécessite de revoir la législation de protection des données pour permettre le développement de l'IA. Les autorités issues du nouveau règlement européen seront aussi amenées à se pencher sur les questions de concurrence, du contenu en ligne, tout en évaluant les opportunités d'innovation, d'investissements et de création d'emplois dans le secteur de l'IA.

Pour cette raison, confier la gouvernance de l'IA à une autorité nationale chargée de la protection des données personnelles se discute.

Puisque la compétition est mondiale, l'Europe doit regarder également ce que font les Etats-Unis, la Chine et l'Inde, afin de ne pas pénaliser les entreprises européennes. A l'heure de la « simplification », le RIA doit veiller à ne pas créer un système purement « normatif » qui entraverait l'innovation en Europe.

9 vues0 commentaire

Posts récents

Voir tout

Responsabiliser les consommateurs

Natacha Valla www.clubopenprospective.org Dans un monde de plus en plus conscient de son empreinte écologique, le rôle des consommateurs dans la responsabilité sociale et environnementale devrait reve

A Davos, l'IA a occupé le coeur des débats

Nicolas Barré et Jean-Marc Vittori Deux sujets ont fait consensus cette année lors du Forum économique mondial de Davos : l'intelligence artificielle générative, qui va avoir des effets massifs sur le

bottom of page