| English | 释义 | 拼音 |
|---|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | 计算偏见 | jì suàn piān jiàn |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | 训练数据 | xùn liàn shù jù |
| diverse/daɪˈvɜːs/ | 多样的 | duō yàng de |
内建在程序里的不公
- 计算偏见(computing bias)是内建在程序里的不公——有时开发者甚至没意识到。
- 一个程序能比对待其他群体更差地对待一些群体。
- 这不总是故意的;它可以是程序如何被构建的一个意外。
- 偏见重要,因为软件越来越多地对人做出真实的决定。
Computing bias is:
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
It can treat some groups worse, even by accident.
偏见来自数据
- 一个主要来源是用来构建程序的数据。
- 许多现代程序从训练数据(training data)学习——它们研究以找到模式的例子。
- 如果那些数据有偏差,程序的结果也有偏差。
- 有偏差的训练数据导致对代表不足的群体的不公结果。

在缺乏代表性的数据上训练的程序对其很少看到的群体表现更差(示例)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
Biased training data gives biased results.
A major source of computing bias is:
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
If the data is skewed, the program's results are skewed.
用多样的用户测试
- 用多样的(diverse)用户和数据测试,有助于在发布之前揭示隐藏的偏见。
- 如果测试的每个人看起来都一样,偏见就保持不可见。
- 一个多样的测试集暴露程序在哪里让不同群体失望。
- 这就是为什么多样测试是核心的修复,而非可选的额外项。
Testing with users who are all similar is the best way to reveal hidden bias.
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
The under-represented groups get worse results.
Developers can reduce bias by:
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
Representative data and cross-group checks make results fairer.
减少偏见
- 开发者能通过使用有代表性的数据并跨不同群体检查结果来减少偏见。
- 目标是一个对每个人都公平工作的程序,而非只对多数。
人脸识别。 一个主要用浅肤色男性训练的系统对他们工作良好,但对女性和深肤色的人犯错多得多——它在学习时看到的这类脸更少。开发者并非有意;偏见来自不具代表性的训练数据。用一个多样的脸集测试本会暴露它。
计算偏见是内建在程序里的不公,常常无意。一个主要来源是有偏差的训练数据——如果例子是倾斜的,结果也是。用多样的用户测试在发布前揭示隐藏的偏见,使用有代表性的数据并跨群体检查减少它。