By akademiotoelektronik, 15/01/2023

Un rapport conseille l'Union européenne sur son projet de loi sur l'intelligence artificielle

(ETX Daily Up) - L'Union européenne est en pleine réflexion sur les contours et les réglementations à adopter pour encadrer l'utilisation de l'intelligence artificielle via son projet de loi "l'Artificial Intelligence Act". Un sujet brûlant et sociétal notamment à cause des techniques biométriques d'identification qui soulèvent autant de questions éthiques que juridiques.

Les techniques biométriques posent autant de questions éthiques que juridiques. Une étude commandée par le Parlement européen et les commissions JURI et PETI vise à trouver des mesures pour répondre à ces questions. Par définition, la biométrie regroupe l'ensemble des techniques informatiques permettant d'identifier un individu. On peut utiliser les caractéristiques physiques, biologiques et même comportementales d'une personne pour créer son profil.

Les techniques biométriques de reconnaissance sont aujourd'hui largement associées par la population à la surveillance de masse, au profilage ou encore à la prise de décision par algorithme explique le rapport. Elles sont déjà utilisées un peu partout, mais manque d'un cadre législatif. Dans leur rapport, les chercheurs préconisent d'interdire totalement la surveillance complète des personnes physiques dans leur cadre de vie privée et de respecter au mieux les droits individuels.

Au cœur de la plupart des critiques se trouve un débat sur les types d'IA considérés comme à haut risque. "L'Artificial Intelligence Act" a comme objectif de protéger les droits fondamentaux des citoyens de l'Union européenne et de garantir une sécurité juridique sur l'intelligence artificielle. En l'absence de cette réglementation, les individus peuvent ne pas pleinement se rendre compte de l'impact de cette technologie dans leur vie. Les systèmes d'IA peuvent notamment conduire à des erreurs, de fausses arrestations, des biais algorithmiques en particulier pour les groupes marginalisés de couleur de peau, de religion ou encore de sexe.

Phase d'enrôlement et risque de contrôle

La question la plus complexe revient à la phase "d'enrôlement", c'est-à-dire le moment où l'on sauvegarde et stocke un modèle unique capable d'identifier une personne parmi des millions. En transformant les données physiques (taille, couleur des yeux, couleur des cheveux) d'un être humain en données, cela peut créer des problèmes majeurs de sécurité. Si un hacker parvenait à en prendre le contrôle, il pourrait tracer et reconnaître un individu n'importe où dans le monde.

La loi sur l'IA est l'une des premières grandes initiatives politiques mondiales visant à protéger les personnes contre l'IA que l'on qualifiera de "nuisible". Plus de 300 entreprises se sont exprimées sur la loi européenne autour de l'intelligence artificielle, présenter en avril dernier. Son adoption permettra de classer les systèmes d'IA en fonction des risques qu'ils présentent. Par exemple, la reconnaissance faciale en temps réel serait totalement interdite à part dans certains cas critiques. Certaines entreprises font pression sur le législateur pour prolonger leurs intérêts dans le secteur.

Créer un cadre réglementaire et juridique commun aux 27 pays de l'Union européenne est donc une nécessité et pourrait permettre de rivaliser avec la Chine et les États-Unis. (Selon la Commission européenne, les États-Unis ont fortement participé à des réunions pour commenter le projet). Le projet propose notamment la création d'une base de données publiques sur les IA à haut risque. Les entreprises concernées estiment que le projet va leur coûter trop cher et freinera l'innovation dans le secteur. D'un autre côté, des groupes de défense des droits de l'homme et de l'éthique trouvent que la loi sur l'IA ne va pas assez loin pour protéger les citoyens. Nul doute que le projet de loi de l'Union européenne risque de revenir bientôt dans le débat public lors du vote de cette loi par le Parlement européen.