Computing Bias
Введено
8:12
Impact of Computing (Влияние компьютерных технологий)
В тысяча девятьсот восемьдесят девятом году один ученый создал небольшой инструмент, чтобы физики могли обмениваться статьями быстрее. Он не планировал ничего из этого. Машина, которая едет сама. А…
Озвучивание на английском · переключаемые субтитры на английском и китайском языках
| English | Значение |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | вычислительное предвзятие |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | обучающие данные |
| diverse/daɪˈvɜːs/ | разнообразный |
Несправедливость, заложенная в программу
- Вычислительная предвзятость — это несправедливость, заложенная в программу, иногда даже без понимания разработчиков.
- Программа может относиться к некоторым группам хуже, чем к другим.
- Это не всегда преднамеренно; это может быть случайностью того, как была построена программа.
- Предвзятость важна, потому что программное обеспечение все чаще принимает реальные решения о людях.
Computing bias is:
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
It can treat some groups worse, even by accident.
Предвзятость исходит из данных
- Одним из основных источников являются данные, используемые для создания программы.
- Многие современные программы обучаются на обучающих данных — примерах, которые они изучают для выявления закономерностей.
- Если эти данные предвзяты, результаты программы тоже будут предвзятыми.
- Предвзятые обучающие данные приводят к несправедливым результатам для недопредставленных групп.

Программа, обученная на нерепрезентативных данных, работает хуже для групп, с которыми она редко сталкивалась (иллюстративно)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
Biased training data gives biased results.
A major source of computing bias is:
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
If the data is skewed, the program's results are skewed.
Тестирование с разнообразной аудиторией
- Тестирование с разнообразными пользователями и данными помогает выявить скрытую предвзятость до выпуска.
- Если все, кто тестирует, выглядят одинаково, предвзятость остается невидимой.
- Разнообразный набор тестов выявляет места, где программа дает сбои у разных групп.
- Именно поэтому разнообразное тестирование является основным исправлением, а не дополнительной опцией.
Testing with users who are all similar is the best way to reveal hidden bias.
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
The under-represented groups get worse results.
Developers can reduce bias by:
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
Representative data and cross-group checks make results fairer.
Снижение предвзятости
- Разработчики могут сократить предвзятость, используя репрезентативные данные и проверяя результаты по разным группам.
- Цель — программа, которая работает справедливо для всех, а не только для большинства.
Распознавание лиц. Система, обученная преимущественно на мужчинах со светлой кожей, хорошо работает на них, но допускает гораздо больше ошибок при работе с женщинами и людьми с более темной кожей — она видела меньше таких лиц во время обучения. Разработчики не планировали этого; предвзятость возникла из нерепрезентативных обучающих данных. Тестирование с разнообразным набором лиц выявило бы эту проблему.
Вычислительная предвзятость — это несправедливость, заложенная в программу, часто unintentionально. Основным источником является предвзятая обучающая выборка — если примеры смещены, то и результаты тоже. Тестирование с разнообразными пользователями выявляет скрытую предвзятость до релиза, а использование репрезентативных данных и проверка по группам снижают её.