Montrer le sommaire Cacher le sommaire
Les biais des IA ne sont plus un secret. OpenAI en est bien conscient, puisque selon une étude de l’entreprise, son modèle ChatGPT-4.0 délivre des réponses différentes en fonction de votre prénom.
Les variations dans les réponses, qui concernent moins de 1 % des interactions étudiées, révèlent parfois des stéréotypes liés au genre ou à l’origine ethnique des utilisateurs. L’étude, intitulée First-Person Fairness in Chatbots, explore comment des indices subtils, comme le prénom, influencent les réponses générées par ChatGPT.
ChatGPT vous évalue selon votre prénom : les biais de l’IA persistent
L’objectif est d’examiner si ChatGPT, critiqué par les militants anti-biais, traite différemment les requêtes selon le genre de l’utilisateur. En analysant de véritables conversations, l’étude compare les réponses du chatbot à des demandes identiques, selon le prénom fourni. Lorsqu’un prénom engendre des variations, celles-ci reflètent un stéréotype négatif dans moins de 0,2 % des cas avec ChatGPT-4.0, contre près de 1 % pour les versions antérieures, selon OpenAI. Un taux certes minime, mais néanmoins existant, comme le souligne l’entreprise dirigée par Sam Altman.
À lire 10 prénoms considérés comme les plus intelligents, selon les scientifiques
D’autres études confirment les biais de l’IA
Des travaux antérieurs, comme ceux de Ghosh et Caliskan sur la traduction automatique ou de Zhou et Sanfilippo sur l’attribution de titres professionnels, ont également mis en lumière ces préjugés. Ces recherches montrent, en résumé, que le chatbot tend à masculiniser les métiers perçus comme masculins et à féminiser ceux que la société considère comme féminins.
Bien que la dernière version de ChatGPT ait réduit ces biais par rapport à ses prédécesseurs, leur élimination totale reste un défi majeur. Entraîner ce modèle nécessite d’énormes quantités de données issues du monde réel, qui portent en elles des stéréotypes. Un héritage dont l’IA peine à se libérer, malgré les efforts d’OpenAI. Espérons que cette proportion diminuera avec GPT-5, annoncé comme encore plus avancé.
Source : Techradar
Vous aimez cet article ? Partagez !
Envoyez cet article à vos amis, votre famille ou collègues...
À propos de l'auteur, Ludovic Ledoux
En dehors de mon engagement professionnel, je consacre une partie significative de mon temps libre à une autre passion : la recherche sur l'origine et la signification des noms et prénoms, ainsi que la généalogie. Cette quête personnelle est née d'une fascination pour l'histoire et les récits familiaux, me permettant de plonger dans le passé pour découvrir les racines et les connections qui nous lient.