Computing Bias
Introduzido| English | Significado |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | viés computacional |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | dados de treinamento |
| diverse/daɪˈvɜːs/ | diverso |
Injustiça embutida em um programa
- O vieses computacionais são injustiças embutidas em um programa — às vezes sem que os desenvolvedores percebam.
- Um programa pode tratar alguns grupos pior que outros.
- Isso nem sempre é deliberado; pode ser um acidente de como o programa foi construído.
- O viés importa porque o software cada vez mais toma decisões reais sobre pessoas.
Computing bias is:
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
It can treat some groups worse, even by accident.
O viés vem dos dados
- Uma fonte importante são os dados usados para construir o programa.
- Muitos programas modernos aprendem com dados de treinamento — exemplos que estudam para encontrar padrões.
- Se esses dados forem tendenciosos, os resultados do programa também serão.
- Dados de treinamento tendenciosos levam a resultados injustos para o grupo sub-representado.

Um programa treinado com dados não representativos funciona pior para os grupos que raramente viu (ilustrativo)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
Biased training data gives biased results.
A major source of computing bias is:
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
If the data is skewed, the program's results are skewed.
Testes com usuários diversos
- Testar com usuários e dados diversos ajuda a revelar vieses ocultos antes do lançamento.
- Se todos que testam parecem iguais, o viés permanece invisível.
- Um conjunto de testes variado expõe onde o programa falha para diferentes grupos.
- É por isso que testes diversos são uma solução central, não um extra opcional.
Testing with users who are all similar is the best way to reveal hidden bias.
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
The under-represented groups get worse results.
Developers can reduce bias by:
Dificuldade 1/5 · Moedas 100 + pequeno bônus na primeira conclusão hoje
Representative data and cross-group checks make results fairer.
Reduzir o viés
- Desenvolvedores podem reduzir o viés usando dados representativos e verificando resultados em diferentes grupos.
- O objetivo é um programa que funcione com justiça para todos, não apenas para a maioria.
Reconhecimento facial. Um sistema treinado principalmente em homens de pele clara funciona bem neles, mas comete muito mais erros em mulheres e pessoas de pele escura — viu menos desses rostos durante o aprendizado. Os desenvolvedores não intendiam isso; o viés veio de dados de treinamento não representativos. Testes com um conjunto diverso de rostos o teriam exposto.
Viés computacional é injustiça embutida em um programa, muitas vezes sem intenção. Uma fonte principal são dados de treinamento tendenciosos — se os exemplos estão enviesados, os resultados também estão. Testes com usuários diversos revelam vieses ocultos antes do lançamento, e usar dados representativos e verificar em grupos reduz o viés.