Computing Bias
Introducido| English | Significado |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | sesgo computacional |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | datos de entrenamiento |
| diverse/daɪˈvɜːs/ | diverso |
Injusticia inherente a un programa
- El sesgo computacional es la injusticia inherente a un programa, a veces sin que los desarrolladores se den cuenta.
- Un programa puede tratar a algunos grupos peor que a otros.
- Esto no siempre es intencional; puede ser una consecuencia accidental de cómo se construyó el programa.
- El sesgo es importante porque el software cada vez toma decisiones reales sobre las personas.
Computing bias is:
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
It can treat some groups worse, even by accident.
El sesgo proviene de los datos
- Una fuente principal son los datos utilizados para construir el programa.
- Muchos programas modernos aprenden de datos de entrenamiento, ejemplos que analizan para identificar patrones.
- Si esos datos están sesgados, los resultados del programa también lo estarán.
- Los datos de entrenamiento sesgados conducen a resultados injustos para el grupo subrepresentado.

Un programa entrenado con datos no representativos funciona peor para los grupos que rara vez vio (ilustrativo)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
Biased training data gives biased results.
A major source of computing bias is:
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
If the data is skewed, the program's results are skewed.
Pruebas con usuarios diversos
- Probar con usuarios y datos diversos ayuda a revelar sesgos ocultos antes del lanzamiento.
- Si todos quienes prueban el sistema se parecen entre sí, el sesgo permanece invisible.
- Un conjunto de prueba variado expone dónde el programa falla al atender a diferentes grupos.
- Por esta razón, las pruebas diversas son una solución fundamental, no un añadido opcional.
Testing with users who are all similar is the best way to reveal hidden bias.
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
The under-represented groups get worse results.
Developers can reduce bias by:
Dificultad 1/5 · 100 monedas + un pequeño bono en el primer intento de hoy
Representative data and cross-group checks make results fairer.
Reducción del sesgo
- Los desarrolladores pueden reducir el sesgo utilizando datos representativos y verificando los resultados en distintos grupos.
- El objetivo es crear un programa que funcione de manera justa para todos, no solo para la mayoría.
Reconocimiento facial. Un sistema entrenado principalmente con hombres de piel clara funciona bien con ellos, pero comete muchos más errores con mujeres y personas de piel oscura — debido a que vio menos rostros de ese tipo durante el aprendizaje. Los desarrolladores no tenían esa intención; el sesgo provino de datos de entrenamiento no representativos. Las pruebas con un conjunto diverso de rostros lo habrían revelado.
El sesgo computacional es la injusticia inherente a un programa, a menudo sin intención. Una fuente principal son los datos de entrenamiento sesgados: si los ejemplos están distorsionados, los resultados también lo estarán. Las pruebas con usuarios diversos revelan los sesgos ocultos antes del lanzamiento, y el uso de datos representativos junto con verificaciones cruzadas entre grupos contribuye a reducirlos.