Note : Rapport provenant d'une seule source ; en attente de corroboration.
Le secrétaire général de l'ONU, António Guterres, a averti que les discours de haine constituent le premier pas vers la déshumanisation et un outil de division politique, ciblant des groupes tels que les femmes, les migrants, les réfugiés, les personnes LGBTQIA+, les personnes handicapées et d'autres minorités.
Il a souligné qu'à l'ère du numérique, les discours haineux se propagent plus vite que jamais, amplifiés par les plateformes en ligne non réglementées et intensifiés par l'intelligence artificielle, dont les algorithmes favorisent l'indignation et la division. L'anonymat en ligne complique davantage encore les efforts visant à traduire les auteurs de ces discours en justice.
Kalliopi Mingeirou, chef de la section « Mettre fin à la violence à l’égard des femmes » à ONU Femmes, a décrit la « manosphère » comme un écosystème de contenus pilotés par des algorithmes qui diffusent rapidement la misogynie et l’opposition à l’égalité des sexes, normalisant ainsi de telles opinions.
Mingeirou a fait remarquer que si l'IA n'a pas créé la misogynie, elle amplifie la haine envers les femmes en permettant aux agresseurs de créer et de diffuser plus rapidement et à moindre coût des deepfakes, des images manipulées et des contenus usurpant l'identité d'autrui.
Depuis 2019, la Stratégie et le Plan d’action des Nations Unies contre les discours de haine coordonnent les efforts visant à identifier, prévenir et combattre ces discours au sein du système des Nations Unies, dans le respect des normes internationales relatives aux droits humains. M. Guterres a souligné que la liberté d’expression ne saurait justifier les propos haineux.
Les Principes mondiaux des Nations Unies pour l'intégrité de l'information envisagent un monde où les flux d'information mondiaux sont moins dominés par quelques entreprises et où les individus ont un plus grand contrôle sur les médias qu'ils consomment, leurs expériences en ligne et l'utilisation de leurs données personnelles.