Note : Rapport provenant d'une seule source ; en attente de corroboration.
Un récent rapport de l'ONU indique que près de la moitié des systèmes d'IA examinés présentent des biais sexistes, et nombre d'entre eux manifestent également des biais raciaux. On observe notamment une association entre les femmes et les rôles domestiques et de garde d'enfants, et entre les hommes et le monde des affaires et le leadership, comme le révèlent les analyses de 133 outils d'IA.
Des experts d'ONU Femmes expliquent que les grands modèles de langage, entraînés sur des données historiques, reproduisent les inégalités sociales, ce qui se traduit par des réponses sexistes et misogynes dans environ une question sur cinq portant sur le genre. Certaines réponses décrivent les femmes comme des biens ou des objets.
Les experts soulignent que ces biais résultent de la formation de l'IA sur des décennies de représentation inégale et mettent en évidence une lacune politique importante due à la faible inclusion des genres dans les cadres de gouvernance mondiaux de l'IA.
Sur 138 pays étudiés, seuls 24 disposent de stratégies nationales en matière d'IA intégrant la dimension de genre, et 18 ont mis en œuvre des initiatives importantes en ce sens. Le rapport exhorte les gouvernements, les entreprises et les développeurs à intégrer les principes d'égalité des genres dans la conception et la réglementation des systèmes d'IA.
Le rapport attire également l'attention sur l'augmentation des risques en ligne pour les femmes et les filles, notamment les abus facilités par l'IA, et appelle à des mesures globales pour atténuer ces préjudices.