Le 8 décembre 2023, les négociateurs du Parlement européen et du Conseil de l'Union ont conclu avec succès un accord politique provisoire sur le projet de législation sur l'intelligence artificielle (IA). En effet, après 37 heures de négociations, un compromis a été obtenu par la Présidence espagnole de l'Union européenne concernant la régulation des intelligences artificielles génératives et la définition du cadre d'utilisation de l'IA dans le domaine de la sécurité.
L'instauration d'une régulation des modèles de fondation et des systèmes d’IA à usage général
En accord avec l'approche du Parlement, les systèmes d’IA représentant des risques systémiques (c'est-à-dire dotés d'une quantité de calcul utilisé à l’entraînement supérieure à 10 yottaflops) devront se conformer à des règles strictes concernant l’évaluation des modèles, la cybersécurité, l’évaluation et l’atténuation des risques systémiques, ainsi que la réalisation de tests contradictoires. En cas d’incidents graves, des rapports devraient être rendus à la Commission. Des comptes-rendus relatifs à l’efficacité énergétique des modèles devraient également être réalisés.
Les systèmes d’IA « à haut risque », qui devraient être rigoureusement encadrés, sont ceux qui représentent des risques élevés en matière de santé, de sécurité, de droits fondamentaux, d’éducation, d’emploi, de services publics, d’administration de la justice, de contrôle des frontières, d’environnement, de démocratie et d’État de droit. Ils devraient être soumis à une étude d’impact sur les droits fondamentaux et les utilisateurs devraient être informés du caractère risqué des systèmes qu’ils utilisent. Toutefois, des dérogations pourront être octroyées si les fournisseurs prouvent que le système concerné ne fait pas courir de risques significatifs. À défaut du respect de la réglementation, les produits concernés le produit concerné pourraient être retirés du marché européen.
Un équilibre entre la définition de pratiques interdites en accord avec les droits humains et une réponse aux questions de sécurité nationale
L’extraction non ciblée d’images faciales sur Internet ou par vidéosurveillance dans le but de créer des bases de données de reconnaissance faciale devrait être interdite. Il en sera de même pour la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement. Les systèmes d'IA qui manipulent le comportement humain pour contourner le libre arbitre et les systèmes utilisés pour exploiter les personnes vulnérables en raison de leur âge, de leur handicap, de leur situation sociale ou économique seraient eux aussi interdits. Cette interdiction concerne donc toutes les applications qui présentent un risque inacceptable (exploitation des failles de sécurité, usage des techniques de manipulation, algorithmes de notation sociale…). Cela inclut les bases de données utilisant le moissonnage d’images faciales (web scraping) comme Clearview AI.
Néanmoins, d’importantes exemptions à des fins sécuritaires et militaires ont été incorporées sur demande des États membres. Par exemple, le Conseil a convaincu les négociateurs du Parlement d’abandonner leur volonté d’interdire l’identification biométrique à distance en temps réel. Ce procédé devrait donc être bientôt développé en Europe selon des circonstances prédéfinies (prévention des attaques terroristes ; localisation des victimes et suspects de crimes graves) et sous réserve de l’obtention d’une autorisation préalable incluant une évaluation des risques sur les droits fondamentaux.
La création d’un Office européen de l’IA
Composé de représentants des États membres, le futur Office européen de l’intelligence artificielle aura comme mission principale de veiller à la bonne application des règles européennes sur l’IA. De surcroît, il devrait contribuer à l’élaboration des normes, de pratiques d’essai, de méthodes d’évaluation et de conseils pour la désignation et l'émergence de modèles de fondation à fort impact. Pour ce faire, l’Office sera appuyé par un groupe scientifique d'experts indépendants.
Prochaines étapes
D’ici la validation officielle, au moins dix réunions techniques doivent avoir lieu afin de formaliser l’accord du trilogue par écrit. La finalisation des travaux en cours concernant le Règlement sur l’intelligence artificielle figure dans le programme de travail de la prochaine Présidence belge du Conseil de l'Union européenne. Une fois le texte approuvé formellement par le Conseil et le Parlement, puis publié au Journal officiel de l'UE, il faudra deux ans au total pour que le texte soit entièrement appliqué.
Plus d'informations
Voir le CP de la Commission européenne
