Computing Bias · Viés Computacional
| English | Português |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | Viés computacional |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | dados de treinamento |
| diverse/daɪˈvɜːs/ | diverso |
Unfairness built into a program
- Computing bias 计算偏见 is unfairness built into a program — sometimes without developers even realising it.
- A program can treat some groups worse than others.
- This is not always deliberate; it can be an accident of how the program was built.
- Bias matters because software increasingly makes real decisions about people.
Injustiça embutida em um programa
- Viés computacional 计算偏见 é injustiça embutida em um programa — às vezes sem que os desenvolvedores sequer percebam.
- Um programa pode tratar alguns grupos pior que outros.
- Isso nem sempre é deliberado; pode ser um acidente de como o programa foi construído.
- O viés importa porque o software cada vez mais toma decisões reais sobre pessoas.
Computing bias is: · Viés computacional é:
It can treat some groups worse, even by accident. · Pode tratar alguns grupos pior, mesmo por acidente.
Bias comes from the data
- A major source is the data used to build the program.
- Many modern programs learn from training data 训练数据 — examples they study to find patterns.
- If that data is biased, the program's results are biased too.
- Biased training data leads to unfair results for the under-represented group.
O viés vem dos dados
- Uma fonte importante são os dados usados para construir o programa.
- Muitos programas modernos aprendem com dados de treinamento 训练数据 — exemplos que estudam para encontrar padrões.
- Se esses dados forem tendenciosos, os resultados do programa também serão.
- Dados de treinamento tendenciosos levam a resultados injustos para o grupo sub-representado.
How bias enters a program · Como o viés entra em um programa
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it. · Dados de treinamento tendenciosos levam um programa a aprender padrões distorcidos e produzir resultados injustos; testes diversos revelam isso, e dados representativos reduzem esse viés.
Programs that learn from examples study their ______ data to find patterns. · Programas que aprendem com exemplos estudam seus dados de ______ para encontrar padrões.
Biased training data gives biased results. · Dados de treinamento tendenciosos fornecem resultados tendenciosos.
A major source of computing bias is: · Uma grande fonte de viés computacional é:
If the data is skewed, the program's results are skewed. · Se os dados são tendenciosos, os resultados do programa também são.
Testing with diverse users
- Testing with diverse 多样的 users and data helps reveal hidden bias before release.
- If everyone who tests looks the same, the bias stays invisible.
- A varied test set exposes where the program fails different groups.
- This is why diverse testing is a core fix, not an optional extra.
Testes com usuários diversos
- Testar com usuários e dados diversos 多样的 ajuda a revelar vieses ocultos antes do lançamento.
- Se todos que testam parecem iguais, o viés permanece invisível.
- Um conjunto de testes variado expõe onde o programa falha para diferentes grupos.
- É por isso que testes diversos são uma solução central, não um extra opcional.
Testing with a diverse set of users helps reveal hidden bias before release. · Testar com um conjunto diverso de usuários ajuda a revelar vieses ocultos antes do lançamento.
A varied test set exposes failures on different groups. · Um conjunto de testes variado expõe falhas em diferentes grupos.
A face system trained mostly on light-skinned men makes more errors on others because: · Um sistema facial treinado principalmente em homens de pele clara comete mais erros em outros porque:
The under-represented groups get worse results. · Os grupos sub-representados obtêm resultados piores.
Developers can reduce bias by: · Desenvolvedores podem reduzir o viés através de:
Representative data and cross-group checks make results fairer. · Dados representativos e verificações cruzadas entre grupos tornam os resultados justos.
Reducing bias
- Developers can reduce bias by using representative data and checking results across different groups.
- The goal is a program that works fairly for everyone, not just the majority.
Face recognition. A system trained mostly on light-skinned men works well on them but makes far more mistakes on women and darker-skinned people — it saw fewer such faces while learning. The developers did not intend this; the bias came from unrepresentative training data. Testing with a diverse set of faces would have exposed it.
Reduzir o viés
- Desenvolvedores podem reduzir o viés usando dados representativos e verificando resultados em diferentes grupos.
- O objetivo é um programa que funcione com justiça para todos, não apenas para a maioria.
Reconhecimento facial. Um sistema treinado principalmente em homens de pele clara funciona bem neles, mas comete muito mais erros em mulheres e pessoas de pele escura — viu menos desses rostos durante o aprendizado. Os desenvolvedores não intendiam isso; o viés veio de dados de treinamento não representativos. Testes com um conjunto diverso de rostos o teriam exposto.
Computing bias is unfairness built into a program, often unintentionally. A major source is biased training data — if the examples are skewed, so are the results. Testing with diverse users reveals hidden bias before release, and using representative data and checking across groups reduces it.
Viés computacional é injustiça embutida em um programa, muitas vezes sem intenção. Uma fonte principal são dados de treinamento tendenciosos — se os exemplos estão enviesados, os resultados também estão. Testes com usuários diversos revelam vieses ocultos antes do lançamento, e usar dados representativos e verificar em grupos reduz o viés.