Computing Bias · Sesgo computacional
| English | Español |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | Sesgo informático |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | datos de entrenamiento |
| diverse/daɪˈvɜːs/ | diverso |
Unfairness built into a program
- Computing bias 计算偏见 is unfairness built into a program — sometimes without developers even realising it.
- A program can treat some groups worse than others.
- This is not always deliberate; it can be an accident of how the program was built.
- Bias matters because software increasingly makes real decisions about people.
Injusticia inherente a un programa
- Sesgo computacional es la injusticia construida dentro de un programa; a veces sin que los desarrolladores se den cuenta.
- Un programa puede tratar a algunos grupos peor que a otros.
- Esto no siempre es intencional; puede ser una consecuencia accidental de cómo se construyó el programa.
- El sesgo es importante porque el software cada vez toma decisiones reales sobre las personas.
Computing bias is: · El sesgo computacional es:
It can treat some groups worse, even by accident. · Puede tratar a algunos grupos peor, incluso por accidente.
Bias comes from the data
- A major source is the data used to build the program.
- Many modern programs learn from training data 训练数据 — examples they study to find patterns.
- If that data is biased, the program's results are biased too.
- Biased training data leads to unfair results for the under-represented group.
El sesgo proviene de los datos
- Una fuente principal son los datos utilizados para construir el programa.
- Muchos programas modernos aprenden a partir de datos de entrenamiento — ejemplos que estudian para encontrar patrones.
- Si esos datos están sesgados, los resultados del programa también lo estarán.
- Los datos de entrenamiento sesgados conducen a resultados injustos para el grupo subrepresentado.
How bias enters a program · Cómo entra el sesgo en un programa
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it. · Los datos de entrenamiento con sesgo llevan a un programa a aprender patrones distorsionados y producir resultados injustos; las pruebas diversas lo revelan, y los datos representativos lo reducen.
Programs that learn from examples study their ______ data to find patterns. · Los programas que aprenden de ejemplos estudian sus datos de ______ para encontrar patrones.
Biased training data gives biased results. · Los datos de entrenamiento con sesgo producen resultados con sesgo.
A major source of computing bias is: · Una fuente principal del sesgo computacional es:
If the data is skewed, the program's results are skewed. · Si los datos están distorsionados, los resultados del programa también lo están.
Testing with diverse users
- Testing with diverse 多样的 users and data helps reveal hidden bias before release.
- If everyone who tests looks the same, the bias stays invisible.
- A varied test set exposes where the program fails different groups.
- This is why diverse testing is a core fix, not an optional extra.
Pruebas con usuarios diversos
- Realizar pruebas con usuarios y datos diversos ayuda a revelar sesgos ocultos antes del lanzamiento.
- Si todos quienes prueban el sistema se parecen entre sí, el sesgo permanece invisible.
- Un conjunto de prueba variado expone dónde el programa falla al atender a diferentes grupos.
- Por esta razón, las pruebas diversas son una solución fundamental, no un añadido opcional.
Testing with a diverse set of users helps reveal hidden bias before release. · Probar con un conjunto diverso de usuarios ayuda a revelar sesgos ocultos antes del lanzamiento.
A varied test set exposes failures on different groups. · Un conjunto de prueba variado expone fallos en diferentes grupos.
A face system trained mostly on light-skinned men makes more errors on others because: · Un sistema facial entrenado principalmente con hombres de piel clara comete más errores en otros porque:
The under-represented groups get worse results. · Los grupos infrarrepresentados obtienen peores resultados.
Developers can reduce bias by: · Los desarrolladores pueden reducir el sesgo mediante:
Representative data and cross-group checks make results fairer. · Los datos representativos y las verificaciones cruzadas entre grupos hacen que los resultados sean más justos.
Reducing bias
- Developers can reduce bias by using representative data and checking results across different groups.
- The goal is a program that works fairly for everyone, not just the majority.
Face recognition. A system trained mostly on light-skinned men works well on them but makes far more mistakes on women and darker-skinned people — it saw fewer such faces while learning. The developers did not intend this; the bias came from unrepresentative training data. Testing with a diverse set of faces would have exposed it.
Reducción del sesgo
- Los desarrolladores pueden reducir el sesgo utilizando datos representativos y verificando los resultados en distintos grupos.
- El objetivo es crear un programa que funcione de manera justa para todos, no solo para la mayoría.
Reconocimiento facial. Un sistema entrenado principalmente con hombres de piel clara funciona bien con ellos, pero comete muchos más errores con mujeres y personas de piel oscura — debido a que vio menos rostros de ese tipo durante el aprendizaje. Los desarrolladores no tenían esa intención; el sesgo provino de datos de entrenamiento no representativos. Las pruebas con un conjunto diverso de rostros lo habrían revelado.
Computing bias is unfairness built into a program, often unintentionally. A major source is biased training data — if the examples are skewed, so are the results. Testing with diverse users reveals hidden bias before release, and using representative data and checking across groups reduces it.
El sesgo computacional es la injusticia inherente a un programa, a menudo sin intención. Una fuente principal son los datos de entrenamiento sesgados: si los ejemplos están distorsionados, los resultados también lo estarán. Las pruebas con usuarios diversos revelan los sesgos ocultos antes del lanzamiento, y el uso de datos representativos junto con verificaciones cruzadas entre grupos contribuye a reducirlos.