Computing Bias
Introduit| English | Sens |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | Computing bias : biais informatique |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | données d'entraînement |
| diverse/daɪˈvɜːs/ | diverses |
Injustice intégrée à un programme
- Le biais informatique est une injustice intégrée à un programme — parfois sans que les développeurs s'en rendent compte.
- Un programme peut traiter certains groupes pire que d'autres.
- Ce n'est pas toujours délibéré ; cela peut être un accident de la façon dont le programme a été construit.
- Le biais est important car les logiciels prennent de plus en plus de décisions réelles concernant les gens.
Computing bias is:
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
It can treat some groups worse, even by accident.
Le biais vient des données
- Une source majeure est les données utilisées pour construire le programme.
- De nombreux programmes modernes apprennent à partir de données d'entraînement — des exemples qu'ils étudient pour trouver des modèles.
- Si ces données sont biaisées, les résultats du programme le sont aussi.
- Des données d'entraînement biaisées conduisent à des résultats injustes pour le groupe sous-représenté.

Un programme formé sur des données non représentatives fonctionne moins bien pour les groupes qu'il a rarement vus (illustratif)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
Biased training data gives biased results.
A major source of computing bias is:
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
If the data is skewed, the program's results are skewed.
Tests avec des utilisateurs diversifiés
- Tester avec des utilisateurs et des données diversifiés aide à révéler les biais cachés avant le lancement.
- Si tous ceux qui testent ressemblent, le biais reste invisible.
- Un ensemble de tests varié expose là où le programme échoue pour différents groupes.
- C'est pourquoi les tests diversifiés constituent une solution centrale, et non un supplément optionnel.
Testing with users who are all similar is the best way to reveal hidden bias.
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
The under-represented groups get worse results.
Developers can reduce bias by:
Difficulté 1/5 · 100 pièces + un petit bonus lors de la première réussite aujourd'hui
Representative data and cross-group checks make results fairer.
Réduire le biais
- Les développeurs peuvent réduire le biais en utilisant des données représentatives et en vérifiant les résultats selon différents groupes.
- L'objectif est un programme qui fonctionne équitablement pour tous, pas seulement pour la majorité.
Reconnaissance faciale. Un système entraîné principalement sur des hommes à peau claire fonctionne bien sur eux mais commet beaucoup plus d'erreurs chez les femmes et les personnes à peau foncée — il a vu moins de visages de ce type pendant l'apprentissage. Les développeurs ne voulaient pas cela ; le biais venait de données d'entraînement non représentatives. Des tests avec un ensemble diversifié de visages l'auraient révélé.
Le biais informatique est une injustice intégrée à un programme, souvent involontairement. Une source majeure provient de données d'entraînement biaisées — si les exemples sont faussés, les résultats le sont aussi. Tester avec des utilisateurs divers révèle les biais cachés avant la sortie, et l'utilisation de données représentatives ainsi que la vérification selon les groupes le réduisent.