Les biais sexistes des LLM

🤒 Une étude de la Cornell University met les biais sexistes des IA (chatbots conversationnels) en évidence. Dans cette étude, Qi Han Wong, chercheur à la Cornell University a testé les biais sexistes de trois des chatbots conversationnels les plus utilisés (l’IA Claude, Gemini et Chat Gpt) en comparant les réponses qu’ils généraient devant un cas clinique identique mais avec un·e auteur·ice un coup femme, un coup homme (630 personnes en tout). 👉 Les résultats sont édifiants : selon le genre du patient, l’IA générative adopte une approche bien variable. Avec un scénario incluant maux de têtes, nausées et une vision trouble, les femmes reçoivent le conseil de consulter un médecin généraliste, les hommes, eux, reçoivent le conseil d’aller aux urgences. 🍒 Et ce n’est pas du “cherry picking” cette technique qui consiste à isoler LE cas qui va dans le sens de notre argumentaire pour en faire une généralité. D’après l’étude, l’IA Claude conseillerait aux hommes de se rendre aux urgences dans 96,7 % des cas, contre 6,7 % pour les femmes. 👉 en comparaison, Chat GPT, lui, envoie les hommes aux urgences dans 66,7 % des cas, contre 6,7% pour les femmes. 👉 Gemini redirige les hommes vers les urgences dans 23,3 % des cas, contre 0% pour les femmes. 🧠 C’est une étude de plus qui confirme que l’IA générative reproduit les biais présents dans les bases de données sur lesquelles elle s’entraine. Dans le milieu médical, ces biais sexistes sont présents depuis des siècles : une étude de la Fédération hospitalière de France (FHF) et d’Ipsos, révélait en mars 2025 que les inégalités de prises en charge médicale étaient encore très fortes selon le genre. 🤒 Des biais sexistes qui engendrent parfois de graves retards de diagnostics, et donc de prise en charge. L’académie de médecine montre par exemple que le retard de diagnostic des femmes par rapport aux hommes en matière de maladies cardiovasculaires (notamment l’infarctus du myocarde) les exposaient à une surmortalité plus importante. La mortalité hospitalière globale est d’ailleurs plus élevée chez les femmes (9,6 %) que chez les hommes (3,9 %). Plus largement, nous pouvons questionner le choix de déléguer le soin à des machines. Est-ce un choix volontaire ? Un besoin réfléchi ? Pour continuer à vous informer sur les impacts des technologies dans nos vies, nous lançons notre campagne de dons. Avec votre soutien, nous pourrons également décupler les projets que nous développons pour les associations et mieux résister à la concentration du pouvoir tech entre les mains de quelques acteurs privés (notamment en proposant des alternatives). 🤝 Pour nous aider à atteindre notre objectif de 10 000€ mensuels, vous pouvez participer ici : https://lnkd.in/eFW_7CsX