Bias Komputasi
Diperkenalkan| English | Makna |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | bias komputasi |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | data pelatihan |
| diverse/daɪˈvɜːs/ | beragam |
Ketidakadilan tertanam dalam program
- Bias komputasi adalah ketidakadilan yang tertanam dalam sebuah program—terkadang tanpa disadari oleh pengembang pun.
- Sebuah program dapat memperlakukan beberapa kelompok secara lebih buruk daripada yang lain.
- Ini tidak selalu disengaja; bisa jadi merupakan akibat tak terduga dari bagaimana program tersebut dibangun.
- Bias penting karena perangkat lunak semakin sering membuat keputusan nyata yang berdampak pada manusia.
Bias komputasi adalah:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Dapat memperlakukan beberapa kelompok lebih buruk, bahkan secara tidak sengaja.
Bias berasal dari data
- Sumber utamanya adalah data yang digunakan untuk membangun program.
- Banyak program modern belajar dari data pelatihan — contoh yang mereka pelajari untuk menemukan pola.
- Jika data tersebut bias, hasil programnya juga menjadi bias.
- Data pelatihan yang bias menghasilkan hasil yang tidak adil bagi kelompok yang kurang terwakili.
Bagaimana bias masuk ke dalam program
Data pelatihan yang bias menyebabkan program mempelajari pola terdistorsi dan menghasilkan hasil yang tidak adil; pengujian yang beragam menyingkapnya, dan data yang representatif menguranginya.
Program yang belajar dari contoh mempelajari data ______ mereka untuk menemukan pola.
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Data pelatihan yang bias memberikan hasil yang bias.
Sumber utama bias komputasi adalah:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Jika datanya terdistorsi, hasil program juga terdistorsi.
Pengujian dengan pengguna yang beragam
- Pengujian dengan pengguna dan data yang beragam membantu mengungkap bias tersembunyi sebelum peluncuran.
- Jika semua pengujian terlihat sama, bias akan tetap tak terlihat.
- A varied test set exposes where the program fails different groups.
- Inilah mengapa pengujian yang beragam merupakan solusi utama, bukan sekadar tambahan opsional.
Pengujian dengan serangkaian pengguna yang beragam membantu menyingkap bias tersembunyi sebelum peluncuran.
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Set pengujian yang bervariasi menampakkan kegagalan pada kelompok berbeda.
Sistem wajah yang dilatih sebagian besar pada pria kulit terang membuat lebih banyak kesalahan pada orang lain karena:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Kelompok yang kurang direpresentasikan mendapatkan hasil yang lebih buruk.
Pengembang dapat mengurangi bias dengan:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
Data yang representatif dan pemeriksaan lintas kelompok membuat hasil lebih adil.
Mengurangi bias
- Pengembang dapat mengurangi bias dengan menggunakan data yang representatif dan memeriksa hasil melintasi berbagai kelompok.
- Tujuannya adalah program yang bekerja secara adil untuk semua orang, bukan hanya mayoritas.
Pengenalan wajah. Sistem yang dilatih sebagian besar pada pria berkulit terang bekerja baik pada mereka tetapi membuat jauh lebih banyak kesalahan pada wanita dan orang berkulit gelap — karena ia melihat lebih sedikit wajah seperti itu saat belajar. Para pengembang tidak berniat demikian; bias berasal dari data pelatihan yang tidak representatif. Pengujian dengan kumpulan wajah yang beragam telah mengungkap hal ini.
Bias komputasi adalah ketidakadilan yang tertanam dalam sebuah program, sering kali tanpa disengaja. Sumber utamanya adalah data pelatihan yang bias — jika contohnya condong, maka hasilnya juga condong. Pengujian dengan pengguna yang beragam mengungkap bias tersembunyi sebelum peluncuran, dan penggunaan data representatif serta pemeriksaan lintas kelompok menguranginya.