Une étude du Parlement européen alerte sur les risques de discriminations sexistes liés à l’IA

In Actualité de l'Union européenne, Femmes, Numérique- Digital by Occitanie Europe

Une étude publiée pour la commission des droits des femmes et de l’égalité des genres du Parlement européen met en garde contre les effets discriminatoires de certains systèmes d’IA. Selon les auteures, ces technologies ne se contentent pas de reproduire les inégalités existantes entre les femmes et les hommes : elles peuvent également les amplifier et favoriser de nouvelles formes de violences fondées sur le genre.

Réalisé par les juristes Nele Roekens et Carlotta Rigotti, le rapport analyse les biais algorithmiques dans plusieurs secteurs, notamment l’emploi, les services publics, la santé et les réseaux sociaux.

L’étude montre que les biais peuvent apparaître à toutes les étapes du cycle de vie des systèmes d’IA. Dans le domaine du recrutement, certains outils reproduisent des stéréotypes professionnels historiques et peuvent désavantager les personnes ayant interrompu leur carrière pour des responsabilités familiales, encore majoritairement assumées par les femmes.

Les auteurs mettent également en évidence des discriminations dans les services publics. Plusieurs systèmes de détection automatisée des fraudes sociales utilisés en Europe ont davantage ciblé les mères célibataires, les femmes issues de l’immigration et les personnes à faibles revenus. Dans le secteur financier, elles soulignent que la suppression du critère du sexe dans certains modèles ne suffit pas à éliminer les discriminations, d’autres variables pouvant jouer le rôle de substitut.

Dans le domaine de la santé, le rapport estime que l’IA hérite des biais présents dans la recherche médicale, où le corps masculin est souvent considéré comme la référence. Certains outils diagnostiques et modèles de langage présentent ainsi des performances moins fiables pour les femmes et tendent davantage à recommander une prise en charge à domicile.

L’étude revient également sur les violences facilitées par les technologies numériques. Elle souligne la progression des deepfakes, du cyberharcèlement, de la sextorsion et d’autres formes de violences en ligne. Selon les auteures, les femmes constituent l’immense majorité des victimes de contenus sexuels générés artificiellement sans leur consentement.

Si le Règlement sur l’IA apporte certaines garanties, le rapport estime que de nombreuses formes de discrimination algorithmique échappent encore au cadre réglementaire européen. Les auteurs regrettent également l’absence d’une approche systématique de l’égalité entre les femmes et les hommes dans la gouvernance numérique européenne.

Pour remédier à ces lacunes, ils recommandent notamment de mieux prendre en compte les discriminations intersectionnelles, de renforcer les moyens des organismes chargés de l’égalité, d’améliorer la collecte de données et de favoriser une participation accrue des femmes dans la conception, le déploiement et l’évaluation des systèmes d’IA.

L’étude conclut que l’égalité de genre doit devenir un objectif central de la gouvernance européenne de l’IA afin d’éviter que les innovations technologiques ne contribuent à renforcer les inégalités existantes.


Plus d'Information:

Lien du rapport