Nota: Informe de una sola fuente; pendiente de corroboración.
Un informe reciente de la ONU indica que casi la mitad de los sistemas de IA analizados presentan sesgos de género, y muchos también muestran sesgos raciales. Esto incluye la asociación de las mujeres con roles domésticos y de cuidado infantil, y de los hombres con los negocios y el liderazgo, según se constató en análisis de 133 herramientas de IA.
Expertos de ONU Mujeres explican que los modelos lingüísticos a gran escala, entrenados con datos históricos, reproducen las desigualdades sociales, lo que genera respuestas sexistas y misóginas en aproximadamente una de cada cinco preguntas relacionadas con el género. Algunas respuestas han descrito a las mujeres como propiedad u objetos.
Los expertos destacan que estos sesgos surgen del entrenamiento de la IA con base en décadas de representación desigual y ponen de manifiesto una importante laguna en las políticas debido a la limitada inclusión de género en los marcos de gobernanza global de la IA.
De los 138 países analizados, solo 24 cuentan con estrategias nacionales de IA que hacen referencia al género, y 18 incorporan iniciativas sustanciales con perspectiva de género. El informe insta a los gobiernos, las empresas y los desarrolladores a integrar los principios de igualdad de género en el diseño y la regulación de los sistemas de IA.
El informe también llama la atención sobre el aumento de los riesgos en línea para las mujeres y las niñas, incluido el abuso facilitado por la inteligencia artificial, y pide medidas integrales para mitigar estos daños.