Notion · Les bases
Biais
Une tendance systématique à produire des résultats déséquilibrés ou inadaptés pour certaines situations ou populations. Elle peut affecter la qualité d’une décision, y compris lorsque le modèle semble fonctionner correctement en moyenne.
Comment ça marche
Un modèle de langage apprend à partir de milliards de textes écrits par des humains. Il en retient les régularités, y compris celles qu’on préférerait oublier : les associations entre un métier et un genre, entre un prénom et une origine, entre une région et un niveau de revenu. Ces régularités se retrouvent dans ses réponses, de façon souvent discrète.
À cela s’ajoutent d’autres biais : le modèle favorise ce qui est fréquent dans ses données, donc les points de vue dominants et l’anglais ; il tend à confirmer ce que suggère la question ; et l’alignement, qui corrige certains biais, en introduit d’autres, par exemple une prudence excessive sur certains sujets. Le résultat n’est pas neutre, et il n’est pas non plus stable d’une version à l’autre.
Un exemple concret
- Prendre un CV réel, anonymisé, et demander au modèle un résumé des points forts.
- Refaire la même demande en changeant uniquement le prénom : Thomas, puis Fatima, puis Jean-Pierre.
- Comparer les trois résumés mot à mot : longueur, adjectifs, ce qui est mis en avant, ce qui est omis.
- Recommencer avec une autre variable : l’adresse, l’année de naissance, une année sans activité.
- Noter les écarts. S’il y en a, l’outil ne peut pas servir à évaluer ; il peut encore servir à résumer, avec relecture.
Dans la pratique, les écarts sont souvent subtils : un adjectif en plus, une compétence relativisée. C’est précisément pour ça qu’il faut comparer plutôt que lire une réponse isolée.
Ce que ça change pour une équipe
- Certains usages sont à proscrire ou à encadrer fortement. Noter des candidats, évaluer des salariés, décider d’un crédit ou d’un tarif : l’IA peut préparer, pas trancher.
- La relecture devient un contrôle de biais. Pour les textes destinés à des clients, on vérifie aussi le ton et les présupposés, pas seulement les faits.
- Les consignes comptent. Demander explicitement de ne pas tenir compte de tel critère, ou de proposer plusieurs points de vue, réduit certains biais. Pas tous.
- La diversité des relecteurs aide. Un biais que l’auteur ne voit pas, un collègue d’un autre profil le voit souvent.
Les limites et les erreurs fréquentes
- Croire que l’IA est plus objective qu’un humain. Elle est différemment biaisée, et ses biais sont moins visibles parce qu’ils sont formulés avec assurance.
- Tester une fois pour toutes. Les modèles sont mis à jour sans préavis. Un test réussi en janvier ne vaut plus en juin.
- Chercher à éliminer tous les biais. C’est impossible. L’objectif réaliste est de savoir où ils se cachent, de ne pas confier de décisions à l’outil là où ils comptent, et de vérifier.
- Confondre biais et erreur factuelle. Une hallucination est une information fausse ; un biais est une orientation systématique. Les deux se traitent différemment : vérification des faits d’un côté, comparaison de cas de l’autre.
Pour aller plus loin
Les biais peuvent provenir des données, de l’annotation, de la fonction d’optimisation ou du contexte de déploiement. Leur évaluation exige des jeux de cas et des mesures pertinents pour l’usage, avec une analyse des effets sur les personnes.
Où ça se situe chez Opora
Programme 01 · Mieux utiliserUn usage responsable et sobre de l’IA
Repérer les biais dans les réponses d’un modèle et mettre en place les vérifications qui vont avec, c’est un des réflexes que nous travaillons dans le programme Un usage responsable.
Questions fréquentes
Un modèle d’IA est-il objectif ?
Non. Il reproduit les régularités de ses données d’entraînement, qui reflètent le monde tel qu’il a été écrit, avec ses déséquilibres. Les fournisseurs corrigent une partie de ces biais lors de l’alignement, mais aucun modèle n’est neutre. Il faut le savoir et vérifier là où ça compte.
Les biais sont-ils interdits par la loi ?
Les discriminations le sont, quel que soit l’outil. Si un outil d’IA contribue à écarter des candidats ou à traiter différemment des clients selon leur origine, leur sexe ou leur âge, la responsabilité est celle de l’entreprise qui l’utilise. L’AI Act renforce ces exigences pour les usages à haut risque, comme le recrutement.
Comment tester un outil pour les biais ?
En lui soumettant des cas identiques où seul un critère change : le prénom, le genre, l’âge, le quartier. Si les réponses diffèrent, il y a un biais. Ce test se fait avant le déploiement, puis régulièrement, car les modèles changent.