Computing Bias
مُقدَّم| English | المعنى |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | التحيز الحسابي |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | بيانات التدريب |
| diverse/daɪˈvɜːs/ | متنوع |
عدم عدالة مدمجة في برنامج
- التحيز الحاسوبي هو عدم عدالة مدمجة في برنامج — وأحيانًا دون أن يدرك المطورون ذلك حتى.
- يمكن للبرنامج أن يعامل بعض المجموعات أسوأ من غيرها.
- ليس هذا دائمًا مقصودًا؛ قد يكون مجرد صدفة في كيفية بناء البرنامج.
- التحيز مهم لأن البرمجيات أصبحت تتخذ قرارات حقيقية affecting للأشخاص بشكل متزايد.
Computing bias is:
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
It can treat some groups worse, even by accident.
يأتي التحيز من البيانات
- مصدر رئيسي هو البيانات المستخدمة لبناء البرنامج.
- تتعلم العديد من البرامج الحديثة من بيانات التدريب — أمثلة تدرسها لاكتشاف الأنماط.
- إذا كانت تلك البيانات متحيزة، فإن نتائج البرنامج ستكون متحيزة أيضًا.
- بيانات التدريب المتحيزة تؤدي إلى نتائج غير عادلة للمجموعة الأقل تمثيلًا.

برنامج تم تدريبه على بيانات غير ممثلة يعمل بشكل أسوأ للمجموعات التي نادرًا ما رآها (تمثيلي)
How bias enters a program
Biased training data leads a program to learn skewed patterns and produce unfair results; diverse testing reveals it, and representative data reduces it.
Programs that learn from examples study their ______ data to find patterns.
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
Biased training data gives biased results.
A major source of computing bias is:
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
If the data is skewed, the program's results are skewed.
الاختبار مع مستخدمين متنوعين
- يساعد الاختبار مع مستخدمين متنوعين وبيانات مختلفة في كشف التحيزات الخفية قبل الإطلاق.
- إذا كان كل من يختبر البرنامج يبدو مثل بعضهم البعض، سيظل التحيز غير مرئي.
- مجموعة اختبار متنوعة تكشف أين يفشل البرنامج في التعامل مع مجموعات مختلفة.
- لهذا السبب، يعتبر الاختبار المتنوع حلًا جذريًا، وليس إضافة اختيارية.
Testing with users who are all similar is the best way to reveal hidden bias.
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
False. A diverse set of test users exposes failures that affect different groups; a uniform group can hide bias.
A face system trained mostly on light-skinned men makes more errors on others because:
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
The under-represented groups get worse results.
Developers can reduce bias by:
الصعوبة 1/5 · 100 عملة + مكافأة صغيرة عند الإنجاز الأول اليوم
Representative data and cross-group checks make results fairer.
تقليل التحيز
- يمكن للمطورين تقليل التحيز باستخدام بيانات ممثلة والتحقق من النتائج عبر مجموعات مختلفة.
- الهدف هو برنامج يعمل بعدل للجميع، وليس فقط للأغلبية.
التعرف على الوجوه. نظام تم تدريبه في الغالب على رجال ذوي بشرة فاتحة يعمل جيدًا معهم لكنه يرتكب أخطاء أكثر بكثير مع النساء والأشخاص ذوي البشرة الداكنة — لأنه رأى وجوهًا أقل من هذه النوعية أثناء التعلم. لم يكن المطورون يقصدون ذلك؛ جاء التحيز من بيانات تدريب غير ممثلة. لو تم الاختبار بمجموعة متنوعة من الوجوه لكان قد كُشف عن المشكلة.
التحيز الحاسوبي هو عدم عدالة مدمجة في برنامج، غالبًا دون قصد. مصدر رئيسي هو بيانات التدريب المتحيزة — إذا كانت الأمثلة منحازة، تكون النتائج منحازة أيضًا. يكشف الاختبار مع مستخدمين متنوعين عن التحيزات الخفية قبل الإطلاق، واستخدام بيانات ممثلة والتحقق عبر المجموعات يقلل منه.