Accueil › Glossaire › Biais (Bias)

Biais (Bias) dans l’IA

Un biais IA est une distorsion systématique dans les réponses d’un modèle de langage qui produit des résultats inéquitables, stéréotypés ou discriminatoires envers certains groupes de personnes, en raison de déséquilibres dans les données d’entraînement, les choix de conception ou les méthodes d’alignement.

Qu’est-ce que le biais dans les LLM ?

Quand un LLM associe systématiquement les noms à consonance africaine à des profils de crédit plus faibles, ou attribue le rôle d’infirmier plutôt que de chirurgien aux femmes dans ses exemples, il manifeste un biais. Ce n’est pas un bug ponctuel : c’est un pattern statistique appris à partir de données qui reflètent les inégalités et stéréotypes de la société.

Le problème est fondamental : les LLM apprennent en imitant les distributions statistiques de leurs corpus d’entraînement. Si Internet contient davantage de texte associant les femmes à des rôles domestiques et les hommes à des rôles de leadership, le modèle reproduit et parfois amplifie ces associations. L’échelle de déploiement des LLM (des centaines de millions d’utilisateurs) transforme des biais statistiques subtils en discriminations systémiques à grande échelle.

Les statistiques parlent d’elles-mêmes : 91 % des LLM sont entraînés sur des données web où les femmes sont sous-représentées dans 41 % des contextes professionnels, et les voix minoritaires apparaissent 35 % moins fréquemment. Les outils de tri de CV basés sur l’IA préfèrent les noms à consonance blanche dans 85 % des cas et les noms masculins dans 52 % des cas.

Taxonomie des biais

Les chercheurs classent les biais selon deux grandes catégories : intrinsèques (dans les représentations internes du modèle) et extrinsèques (dans les réponses produites). Voici les types les plus documentés.

Biais de genre

Les LLM associent certaines professions, traits de caractère et rôles sociaux à des genres spécifiques. Exemple classique : demander au modèle de compléter « L’infirmier/infirmière est… » produit des continuations différentes selon le genre, ou le modèle associe par défaut certains métiers à un genre. Les benchmarks WinoBias et CrowS-Pairs mesurent spécifiquement ce type de biais.

Biais racial

Les LLM produisent des réponses systématiquement différentes selon les marqueurs raciaux implicites (noms, dialectes, contextes culturels). L’étude de Stanford « What’s in a Name? » a montré que les réponses des LLM varient significativement selon les prénoms associés à différents groupes raciaux. Des outils de screening de CV basés sur l’IA ont démontré une préférence pour les noms à consonance blanche dans 85 % des cas.

Biais socio-économique

Face à des scénarios impliquant des personnes de statuts économiques différents, certains LLM font des inférences biaisées. Les benchmarks montrent que dans des scénarios de vol, des LLM désignent la personne de statut socio-économique inférieur comme suspecte, même sans indice objectif.

Biais religieux

Les LLM peuvent associer certaines religions à des stéréotypes négatifs, en particulier pour les religions minoritaires dans le corpus d’entraînement anglophone. Le benchmark StereoSet mesure ce type de biais aux côtés des biais de genre, raciaux et professionnels.

Biais AI-AI (nouveau)

Un phénomène récemment découvert : les LLM préfèrent systématiquement le contenu généré par d’autres LLM au contenu humain. Une étude publiée dans PNAS a montré que les LLM choisissent les textes académiques générés par l’IA dans 78 % des cas, contre 51 % pour les évaluateurs humains. Ce biais pourrait créer une discrimination économique contre les humains qui n’utilisent pas d’assistance IA.

Biais ontologique

Identifié par des chercheurs de Stanford, le biais ontologique décrit la manière dont les systèmes IA intègrent des présupposés fondamentaux sur ce qui existe et ce qui compte. Contrairement aux biais classiques, le biais ontologique façonne les frontières de l’imagination humaine elle-même, en contraignant la façon dont nous conceptualisons des notions comme l’humanité, la guérison ou la connexion sociale.

Biais de confirmation

Les LLM tendent à confirmer les assertions de l’utilisateur plutôt qu’à les contester. Si un utilisateur exprime une opinion biaisée, le modèle peut la renforcer au lieu de présenter des perspectives alternatives. Ce « sycophancy » est un effet secondaire de l’entraînement RLHF, où le modèle est récompensé pour satisfaire l’utilisateur.

D’où viennent les biais ?

Les biais s’introduisent à chaque étape du pipeline ML :

Données d’entraînement. C’est la source principale. Le web surreprésente certaines langues (anglais), certains points de vue (occidentaux, masculins, éduqués), et certaines cultures. Les datasets de préentraînement héritent de ces déséquilibres.

Processus d’annotation. Les étiquettes utilisées pour le fine-tuning et le RLHF reflètent les biais des annotateurs (leur culture, leur langue, leur cadre de référence). Un annotateur américain et un annotateur japonais n’auront pas les mêmes critères pour évaluer ce qui est « offensant » ou « inapproprié ».

Architecture et algorithme. Certaines architectures amplifient les biais présents dans les données. Les mécanismes d’attention peuvent surpondérer certains patterns statistiques, et les techniques de génération (sampling, beam search) peuvent favoriser les réponses les plus « probables » statistiquement, qui sont souvent les plus stéréotypées.

Alignement. L’alignement peut lui-même introduire des biais. L’incident Gemini de Google est emblématique : en essayant de corriger les biais raciaux dans la génération d’images, l’équipe a créé un système qui générait des résultats historiquement inexacts (des personnages historiques représentés avec la mauvaise ethnie), créant un nouveau type de biais par surcompensation.

Contexte de déploiement. Les recherches de Stanford (Nyarko et al.) montrent que les biais sont hautement spécifiques au contexte. Une technique de mitigation entraînée sur la prise de décision financière ne fonctionne pas nécessairement pour les transactions commerciales ou les décisions de recrutement. Cela signifie que les développeurs de modèles ne peuvent pas offrir une solution universelle ; les biais doivent être adressés au niveau de l’application.

Comment mesurer les biais

Benchmarks principaux

Outils de mesure

Promptfoo : le framework de red teaming propose des plugins spécifiques pour tester les biais (political bias, gender bias, racial bias) avec des suites de tests automatisées.

DeepEval / DeepTeam : intègre des métriques de biais (BiasMetric) qui utilisent un LLM-as-judge pour évaluer si les réponses contiennent des biais stéréotypiques.

Granica Screen : offre des détections de biais fine-grained qui identifient non seulement la présence de biais mais aussi les attributs protégés ciblés (genre, race, religion, etc.), contrairement à la Perspective API et Azure AI Content Safety qui utilisent des catégories catch-all.

Méthode MIT (RFM / Science, 2026) : une approche de recherche publiée dans Science qui identifie les représentations internes de concepts abstraits (biais, personnalités, humeurs) dans les LLM via des algorithmes de feature learning. Elle permet de localiser puis d’amplifier ou minimiser ces concepts dans les réponses du modèle.

Stratégies d’atténuation

L’atténuation des biais s’organise en trois phases du pipeline ML :

Avant l’entraînement (pre-model)

Curation des données. Filtrer ou rééquilibrer les datasets d’entraînement pour réduire les déséquilibres de représentation. Les outils comme Granica Screen permettent d’analyser les datasets à grande échelle pour identifier le contenu biaisé.

Augmentation de données (CDA). La Counterfactual Data Augmentation consiste à créer des copies des exemples d’entraînement en inversant les attributs protégés (changer les prénoms masculins en féminins, les marqueurs raciaux, etc.). L’objectif est de forcer le modèle à traiter les groupes de manière équivalente. Meade et al. ont évalué empiriquement cette technique pour le biais religieux.

Pendant l’entraînement (intra-model)

Neuron pruning. L’étude de Stanford (Nyarko et al., publiée en 2025) a démontré qu’on peut identifier et supprimer (« pruner ») les neurones spécifiques responsables des biais dans un LLM, sans dégrader significativement les performances globales. Le pruning au niveau des neurones est plus efficace que le pruning des attention heads. Limitation critique : les techniques de pruning sont spécifiques au contexte. Une mitigation entraînée sur un domaine ne se généralise pas aux autres.

Activation steering. Modifier les activations internes du modèle pendant l’inférence pour réduire les biais. La méthode MIT publiée dans Science (2026) utilise des algorithmes de feature learning pour identifier les représentations de concepts de biais, puis les atténuer ou les amplifier de manière ciblée.

Après l’entraînement (post-model)

Prompt debiasing. Ajouter des instructions explicites de débiaisage dans le prompt système (« Considère l’équilibre démographique dans tes réponses », « Évite les stéréotypes de genre »). C’est la technique la plus accessible : pas de modification du modèle, pas de réentraînement. Son efficacité est variable mais elle réduit les biais les plus flagrants.

Guardrails et filtres de sortie. Analyser les réponses du modèle pour détecter et bloquer le contenu biaisé avant qu’il n’atteigne l’utilisateur. Les outils comme LLM Guard, DeepTeam et Granica Screen offrent des détecteurs de biais spécialisés.

Human-in-the-loop. Pour les applications à haut risque (recrutement, crédit, santé), une revue humaine des décisions assistées par IA est indispensable pour détecter les biais que les systèmes automatisés manquent.

Cadre réglementaire

Le biais IA est au centre des préoccupations réglementaires :

EU AI Act. La réglementation européenne impose des obligations de robustesse, de transparence et d’évaluation des biais pour les systèmes IA à haut risque (recrutement, crédit, justice, éducation). Les entreprises doivent documenter les patterns de biais, les stratégies de mitigation et les résultats de tests. La deadline de conformité est août 2026. La Finlande est devenue en janvier 2026 le premier État membre avec des pouvoirs d’application actifs.

Responsabilité juridique. Les recherches de Stanford (Nyarko et al.) concluent qu’il est plus efficace de tenir responsables les entreprises qui déploient les modèles dans un cas d’usage spécifique (par exemple, un recruteur en ligne) plutôt que les développeurs de modèles (OpenAI, Google), car les biais sont spécifiques au contexte et les développeurs ne peuvent pas fournir une solution universelle.

Guide UK. Le gouvernement britannique a publié un guide complet (GOV.UK, mars 2026) sur la gestion des biais dans les LLM, recommandant un framework d’évaluation continue intégré dans les workflows MLOps, avec des seuils de biais documentés et alignés sur les exigences réglementaires.

Cas concrets d’impact

Recrutement. Les outils de screening de CV basés sur l’IA préfèrent les noms à consonance blanche dans 85 % des cas et les noms masculins dans 52 % des cas, laissant les candidates noires et femmes désavantagées structurellement.

Santé. Les biais dans les algorithmes médicaux ont conduit à un taux de mortalité 30 % plus élevé pour les patients noirs non hispaniques par rapport aux patients blancs, car les algorithmes sous-estimaient la gravité de leur état.

Gemini / Google (2024). En tentant de corriger les biais raciaux dans la génération d’images, Google a créé un système qui produisait des résultats historiquement inexacts (personnages historiques blancs représentés comme des personnes de couleur), illustrant le risque de surcompensation.

Impact business. 36 % des entreprises déclarent que le biais IA a directement nui à leur activité. Parmi elles, 62 % ont perdu du chiffre d’affaires et 61 % ont perdu des clients.

Verdict

Le biais est un problème structurel des LLM, pas un bug isolé. Il est hérité des données, amplifié par l’échelle, et spécifique au contexte de déploiement. Aucune technique de mitigation ne l’élimine complètement, et certaines peuvent même créer de nouveaux biais (effet spillover).

L’approche recommandée est un framework de gestion continue : évaluation multi-dimensionnelle (pas seulement la dimension ciblée), mitigation en couches (données, modèle, prompt, guardrails), monitoring en production, et boucle de feedback avec revue humaine. Pour les applications à haut risque soumises à l’EU AI Act, documentez vos évaluations de biais, vos seuils de tolérance, et vos stratégies de mitigation. La deadline est août 2026.