データ収集の倫理

語彙

English	意味
ethical/ˈeθɪkl/	倫理的
Privacy/ˈprɪvəsi/	プライバシー
bias/ˈbaɪəs/	バイアス

データには影響がある

プログラムは現実の人々に関するデータを収集・処理し、実際の影響を与えます。
データの収集、保存、使用方法は倫理的な問題提起を伴います。
有用なデータセットでも、対象となる人々が暴露されたり被害を受けたりする可能性があります。
責任あるプログラマーは、収集する前に影響を考慮します。

プライバシーと同意

プライバシー: 人々は自分に関する情報を制御する権利を持っています。
必要な分だけを収集し、適切に同意を得てください。
機密データを保管することは、不正利用や漏洩からそれを保護する責任を生じます。
「可能だから」という理由は、個人情報を収集する適切な理由ではありません。

バイアスと公平性

データにはバイアスが含まれることがあります——特定のグループを不公正に扱うパターンです。
バイアスを含むデータで訓練されたアルゴリズムは、規模を拡大してその不公正さを増幅することがあります。
公平なシステムでは、データが誰を代表しているか、誰を除外しているかを確認する必要があります。
正しく見えるコードでも、不公正な結果を生むことがあります。

所有権とセキュリティ

データやコードには所有権があります——ライセンスを尊重し、出典にクレジットを与え、盗まないでください。
セキュリティ: 保管されているデータが盗まれたり改ざんされたりしないよう保護してください。
侵害事件は一度に数千人の人々に被害をもたらすことがあります。
エシックスは単なる飾りのようなものではなく、ソフトウェアを責任を持って構築することの一部です。

探索

倫理的か、懸念事項か？

各データ収集の実践を並べ替えてください。

Watch out

「プログラムが正しく動作する」ことは「エシカルである」ことと同じではありません。 機能するコードでもプライバシーを侵害したり、バイアスを増幅したり、弱体なセキュリティを通じてデータを暴露したりする可能性があります。人々に関するデータを収集または処理する前に、実際に何が必要か、誰の同意を得ているか、データが誰を代表しているか、以及如何に保護するかを問うべきです。

Example

学生の成績を保管する学校用アプリ:

プライバシー: 必要な成績のみを収集し、無関係な個人情報を収集しないでください。
バイアス: 「推奨」機能はどのグループにも不利に働いてはいけません。
セキュリティ: 保管された成績が漏洩したり改ざんされたりしないよう保護してください。

Key idea

人々に関するデータを収集することは倫理的な責任を伴います: プライバシーを保護する（必要なものだけを収集し、同意を得る）、スケールで増幅される可能性があるバイアスから守る、所有権を尊重する、そしてセキュリティを確保することです。正しいコードが自動的にエシカルになるわけではありません——データを収集または処理する前に、影響を受ける人を考慮すべきです。

実践

正しく動作するプログラムは...