Hinweis: Bericht aus einer einzigen Quelle; Bestätigung steht noch aus.
Einem aktuellen UN-Bericht zufolge weisen fast die Hälfte der untersuchten KI-Systeme geschlechtsspezifische Verzerrungen auf, viele davon auch rassistische. Analysen von 133 KI-Tools zeigen unter anderem, dass Frauen mit Hausarbeit und Kinderbetreuung und Männer mit Wirtschaft und Führungspositionen assoziiert werden.
Expertinnen von UN Women erklären, dass große Sprachmodelle, die mit historischen Daten trainiert wurden, gesellschaftliche Ungleichheiten reproduzieren und in etwa jeder fünften geschlechtsbezogenen Frage sexistische und frauenfeindliche Ergebnisse liefern. In einigen Antworten wurden Frauen als Besitz oder Objekte beschrieben.
Experten betonen, dass diese Verzerrungen darauf zurückzuführen sind, dass KI jahrzehntelang mit ungleichen Repräsentationsdaten trainiert wurde, und weisen auf eine erhebliche politische Lücke hin, die durch die unzureichende Berücksichtigung der Geschlechterperspektive in globalen KI-Governance-Rahmenwerken entsteht.
Von den 138 untersuchten Ländern verfügen nur 24 über nationale KI-Strategien mit Bezug zur Geschlechtergleichstellung, und lediglich 18 beinhalten substanzielle geschlechtersensible Initiativen. Der Bericht fordert Regierungen, Unternehmen und Entwickler nachdrücklich auf, die Grundsätze der Geschlechtergleichstellung in die Entwicklung und Regulierung von KI-Systemen zu integrieren.
Der Bericht lenkt außerdem die Aufmerksamkeit auf die erhöhten Online-Risiken für Frauen und Mädchen, einschließlich KI-gestütztem Missbrauch, und fordert umfassende Maßnahmen zur Minderung dieser Schäden.