ความลำเอียงในการคำนวณ
แนะนำใหม่| English | ความหมาย |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | ความลำเอียงทางคอมพิวเตอร์ |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | ข้อมูล用于训练 (训练数据) |
| diverse/daɪˈvɜːs/ | หลากหลาย |
ความไม่เป็นธรรมที่ฝังอยู่ในโปรแกรม
- อคติทางคอมพิวเตอร์ (Computing bias) คือความไม่เป็นธรรมที่ฝังอยู่ในโปรแกรม — บางครั้งแม้ผู้พัฒนาเองก็ไม่ทันรู้ตัว
- โปรแกรมอาจปฏิบัติต่อกลุ่มหนึ่งแย่กว่ากลุ่มอื่น
- นี่ไม่ใช่ความตั้งใจเสมอไป อาจเกิดจากความผิดพลาดในการออกแบบหรือสร้างโปรแกรม
- อคติมีความสำคัญ เพราะซอฟต์แวร์กำลังตัดสินใจเรื่องจริงเกี่ยวกับผู้คนมากขึ้นเรื่อยๆ
ความลำเอียงในการคำนวณคือ:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
มันสามารถปฏิบัติต่อบางกลุ่มแย่ลงได้ แม้โดยการบังเอิญ
อคติมาจากข้อมูล
- แหล่งที่มาหลักคือ ข้อมูล ที่ใช้ในการสร้างโปรแกรม
- โปรแกรมสมัยใหม่จำนวนมากเรียนรู้จาก ข้อมูลฝึกสอน (Training data) — ตัวอย่างที่มันศึกษาเพื่อหารูปแบบ
- หากข้อมูลนั้นมีอคติ ผลลัพธ์ของโปรแกรมก็จะมีอคติตามไปด้วย
- ข้อมูลฝึกสอนที่มีอคตินำไปสู่ผลลัพธ์ที่ไม่เป็นธรรมสำหรับกลุ่มที่ขาดการตัวแทน
ความลำเอียงเข้าสู่โปรแกรมได้อย่างไร
ข้อมูลฝึกสอนที่มีอคติทำให้โปรแกรมเรียนรู้รูปแบบที่เบี่ยงเบนและสร้างผลลัพธ์ที่ไม่ยุติธรรม; การทดสอบด้วยข้อมูลที่หลากหลายจะเปิดเผยสิ่งนี้ และข้อมูลที่เป็นตัวแทนจะช่วยลดมันลง
โปรแกรมที่เรียนรู้จากตัวอย่างจะศึกษาข้อมูล ______ ของตัวเองเพื่อค้นหารูปแบบ
Difficulty 1/5 · 100 coins + a small bonus on first completion today
ข้อมูลฝึกสอนที่มีอคติให้ผลลัพธ์ที่มีอคติ
แหล่งกำเนิดหลักของความลำเอียงในการคำนวณคือ:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
หากข้อมูลเบี่ยงเบน ผลลัพธ์ของโปรแกรมก็จะเบี่ยงเบนตามไปด้วย
การทดสอบด้วยผู้ใช้ที่หลากหลาย
- การทดสอบกับผู้ใช้และข้อมูลที่มีความ หลากหลาย (Diverse) ช่วยเปิดเผยอคติที่ซ่อนอยู่ ก่อน การปล่อยออกมา
- หากผู้ที่มาทดสอบมีลักษณะเหมือนกัน ผลลัพธ์จะยังคงซ่อนอคติไว้
- ชุดการทดสอบที่หลากหลายจะเผยให้เห็นจุดที่โปรแกรมล้มเหลวต่อกลุ่มต่างๆ
- นี่คือเหตุผลว่าทำไมการทดสอบที่หลากหลายจึงเป็นการแก้ไขที่จำเป็น ไม่ใช่เสริม_optional_
การทดสอบด้วยผู้ใช้ที่หลากหลายช่วยเปิดเผยความลำเอียงที่ซ่อนอยู่ก่อนการเปิดตัว
Difficulty 1/5 · 100 coins + a small bonus on first completion today
ชุดทดสอบที่หลากหลายเปิดจุดล้มเหลวในกลุ่มต่างๆ
ระบบใบหน้า که trained ส่วนใหญ่บนผู้ชายผิวขาว ทำให้เกิดข้อผิดพลาดกับผู้อื่นมากขึ้นเพราะ:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
กลุ่มที่ถูกแทนที่น้อยได้รับผลลัพธ์ที่แย่กว่า
นักพัฒนาสามารถลดความลำเอียง bằng:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
ข้อมูลที่เป็นตัวแทนและการตรวจสอบข้ามกลุ่มทำให้ผลลัพธ์ยุติธรรมขึ้น
การลดทอนอคติ
- ผู้พัฒนาสามารถ ลด อคติได้โดยใช้ข้อมูลที่ครอบคลุมและเป็นตัวแทน และตรวจสอบผลลัพธ์ข้ามกลุ่มต่างๆ
- เป้าหมายคือการสร้างโปรแกรมที่ทำงานได้อย่างยุติธรรมสำหรับทุกคน ไม่ใช่แค่กลุ่มส่วนใหญ่เท่านั้น
การจดจำใบหน้า (Face recognition). ระบบที่ถูกฝึกฝนด้วยภาพผู้ชายผิวขาวเป็นหลัก ทำงานได้ดีกับพวกเขาแต่เกิดข้อผิดพลาดอย่างมากเมื่อเจอผู้หญิงและคนผิวสี — เพราะมันเห็นภาพหน้าเหล่านี้น้อยลงขณะเรียนรู้ ผู้พัฒนาไม่ได้ตั้งใจให้เกิดขึ้น; อคติมาจากข้อมูลฝึกสอนที่ไม่เป็นตัวแทน การทดสอบด้วยชุดภาพที่หลากหลาย would have revealed it.
อคติทางคอมพิวเตอร์ คือความไม่เป็นธรรมที่ฝังอยู่ในโปรแกรม มักโดยไม่ตั้งใจ แหล่งกำเนิดหลักคือ ข้อมูลฝึกสอน ที่มีอคติ — หากตัวอย่างมีแนวโน้มเอียง ผลลัพธ์ก็จะเอียงตาม การทดสอบกับผู้ใช้ที่มีความ หลากหลาย จะช่วย يكشفอคติที่ซ่อนอยู่ก่อนการเปิดตัว และการใช้ข้อมูลที่เป็นตัวแทนพร้อมตรวจสอบข้ามกลุ่มจะช่วยลดทอนปัญหาได้