L'intelligence artificielle générative perpétue les préjugés sexistes, alerte l'Unesco

Après avoir testé des recherches sur plusieurs outils IA, des chercheurs ont révélé des préjugés de l'intelligence artificielle à l'encontre des femmes représentées. L'Unesco, qui a dévoilé cette étude jeudi, recommande d'avoir des équipes d'ingénieurs plus diverses, avec davantage de femmes.

Intelligence artificielle open AI

L'IA accusée de véhiculer des préjugés sexistes. Une étude dévoilée jeudi 7 mars par l'Unesco met en garde contre les travers de l'intelligence artificielle. Les modèles GPT 2 et GPT 3.5 d'OpenAI, ce dernier étant au cœur de la version gratuite de ChatGPT, ainsi que Llama 2 du concurrent Meta, font preuve "sans équivoque de préjugés à l'encontre des femmes", prévient l'instance onusienne dans un communiqué.

"Les discriminations du monde réel ne font pas que se refléter dans la sphère numérique, elles y sont aussi amplifiées", souligne Tawfik Jelassi, sous-directeur général de l'Unesco pour la communication et l'information.

Selon l'étude, menée d'août 2023 à mars 2024, ces modèles de langage ont davantage tendance à associer les noms féminins à des mots comme "maison", "famille" ou "enfants", tandis que les noms masculins sont davantage associés aux mots "commerce", "salaire" ou "carrière".

Prostituée, mannequin ou serveuse

Les chercheurs ont par ailleurs demandé à ces interfaces de produire des récits sur des personnes de différentes origines et genres. Les résultats ont montré que les histoires concernant les "personnes de cultures minoritaires ou les femmes étaient souvent plus répétitives et basées sur des stéréotypes".

ADVERTISEMENT

Un homme anglais a ainsi davantage tendance à être présenté comme un professeur, un chauffeur ou un employé de banque, tandis qu'une femme anglaise sera présentée dans au moins 30 % des textes générés comme une prostituée, un mannequin ou une serveuse.

Ces entreprises "ne parviennent pas à représenter tous leurs utilisateurs", déplore auprès de l'AFP, Leona Verdadero, spécialiste des politiques numériques et de la transformation numérique à l'Unesco.

Des équipes d'ingénieurs trop masculines dans l'IA

À mesure que ces applications d'intelligence artificielle sont de plus en plus utilisées par le grand public et les entreprises, elles "ont le pouvoir de façonner la perception de millions de personnes", relève Audrey Azoulay, directrice générale de l'organisation onusienne. "Donc la présence même du plus petit préjugé sexiste dans leur contenu peut augmenter de façon importante les inégalités dans le monde réel", poursuit-elle dans un communiqué.

Pour lutter contre ces préjugés, l'Unesco recommande aux entreprises du secteur d'avoir des équipes d'ingénieurs plus diverses, avec davantage de femmes notamment. Les femmes ne représentent que 22 % des membres des équipes travaillant dans l'intelligence artificielle au niveau mondial, selon les chiffres du forum économique mondial, rappelle l'Unesco.

L'instance onusienne appelle aussi les gouvernements à davantage de régulation pour mettre en place une "intelligence artificielle éthique".

ADVERTISEMENT

Témoin d'un événement? Contactez-nous directement sur nos réseaux sociaux ou via:

Email: temoin@pulse.sn

ARTICLES SUGGÉRÉS

Mbacké : un homme meurt calciné dans un véhicule

Mbacké : un homme meurt calciné dans un véhicule

Naufrage en Mauritanie : 25 morts et 125 rescapés, dont 4 dans un état grave

Naufrage en Mauritanie : 25 morts et 125 rescapés, dont 4 dans un état grave

Accident sur l'Axe Pire-Ngaye : 1 mort décès et 5 blessés

Accident sur l'Axe Pire-Ngaye : 1 mort décès et 5 blessés

Ameth Ndoye loge à la chambre 27 à Rebeuss

Ameth Ndoye loge à la chambre 27 à Rebeuss

Youssou Ndour sur la situation du pays : J’ai observé et compris

Youssou Ndour sur la situation du pays : "J’ai observé et compris"

Police : Jean Baptiste Tine chamboule tout !

Police : Jean Baptiste Tine chamboule tout !

Hôpital Fann : un médecin agressé et la plainte du Pr Moussa Seydi

Hôpital Fann : un médecin agressé et la plainte du Pr Moussa Seydi

Les vraies raisons du limogeage des commissaires de Koungheul et Kaffrine

Les vraies raisons du limogeage des commissaires de Koungheul et Kaffrine

Le Mali adopte la loi pénalisant l'homosexualité

Le Mali adopte la loi pénalisant l'homosexualité

ADVERTISEMENT