| English | 意味 |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | 計算によるバイアス |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | 学習データ |
| diverse/daɪˈvɜːs/ | 多様な |
プログラムに組み込まれた不公正
- コンピューティング・バイアスとは、プログラムの内部に組み込まれた不公正であり、開発者自身がそれに気づいていない場合もあります。
- プログラムは特定のグループに対して他のグループよりも不利な扱いを行うことがあります。
- これは常に意図されたことではありません。プログラムの作成方法の偶然性が原因であることもあります。
- バイアスが問題となるのは、ソフトウェアが人々の生活に関する実際の決定 increasingly 行っているからです。
コンピュータ・バイアスとは：
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
偶然であっても、特定のグループを不利に扱うことがあります。
データからのバイアス
- 主要な原因の一つは、プログラム構築に使用されたデータです。
- 現代の多くのプログラムは学習データから学習します。パターンを見つけるために分析する例示です。
- そのデータにバイアスがある場合、プログラムの結果にもバイアスが生じます。
- バイアスを含む学習データは、代表数が少ないグループに対し不公正な結果をもたらします。
バイアスがプログラムに組み込まれる仕組み
偏った学習データでは、プログラムが歪んだパターンを学習して不公正な結果を生みます。多様なテストでその問題が判明し、代表性のあるデータで改善できます。
例から学習するプログラムは、パターンを見つけるために______データを研究します。
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
偏った学習データは、偏った結果をもたらします。
コンピュータ・バイアスの主な原因は：
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
データが偏っている場合、プログラムの結果も偏ります。
多様なユーザーによるテスト
- 多様なユーザーやデータを用いたテストは、リリース前に隠れたバイアス揭露するのに役立ちます。
- テスト参加者が皆同じ背景を持つ場合、バイアスは目に見えないまま残ります。
- 多様なテストセットは、どのグループでプログラムが機能不全を起こすかを明らかにします。
- このため、多様なテストはオプションではなく、核心的な対策なのです。
多様なユーザーによるテストは、公開前に隠れたバイアスを発見するのに役立ちます。
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
多様なテストセットは、異なるグループでの故障を露わにします。
主に白人男性で訓練された顔認識システムが他の人々で誤りを多く起こすのはなぜか：
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
不足しているグループは、より悪い結果を得る。
開発者がバイアスを減少させる方法として正しいものは：
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
代表性のあるデータとグループ間のチェックにより、結果が公正になります。
バイアスの軽減
- 開発者は、代表性のあるデータを使用し、異なるグループ間で結果を確認することでバイアスを軽減できます。
- 目標は、多数派だけでなくすべての人に公平に機能するプログラムを作ることです。
顔認識。 主に薄色肌を持つ男性を学習させたシステムは彼らには良好に機能しますが、女性や深色肌の人物では大幅に誤認率が高まります。学習時に此类の顔のサンプルが少なかったためです。開発者の意図ではありませんでした。バイアスは代表性のない学習データから生じました。多様な顔のセットでのテストがあればこれを露見できたでしょう。
コンピューティング・バイアスとは、プログラムの内部に組み込まれる不公正であり、しばしば無意識のうちに発生します。主な原因はバイアスを含む学習データであり、例示に偏りがあれば結果も偏ります。多様なユーザーによるテストはリリース前に隠れたバイアスを露見させ、代表性のあるデータの使用とグループ間での検証によりバイアスは軽減されます。