تحيز الحوسبة
| English | العربية |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | تحيز الحوسبة |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | بيانات التدريب |
| diverse/daɪˈvɜːs/ | متنوع |
عدم عدالة مدمجة في برنامج
- التحيز الحاسوبي هو عدم عدالة مدمجة في برنامج — وأحيانًا دون أن يدرك المطورون ذلك حتى.
- يمكن للبرنامج أن يعامل بعض المجموعات أسوأ من غيرها.
- ليس هذا دائمًا مقصودًا؛ قد يكون مجرد صدفة في كيفية بناء البرنامج.
- التحيز مهم لأن البرمجيات أصبحت تتخذ قرارات حقيقية affecting للأشخاص بشكل متزايد.
تحيز الحوسبة هو:
قد يعامل بعض المجموعات أسوأ، حتى عن طريق الخطأ.
يأتي التحيز من البيانات
- مصدر رئيسي هو البيانات المستخدمة لبناء البرنامج.
- تتعلم العديد من البرامج الحديثة من بيانات التدريب — أمثلة تدرسها لاكتشاف الأنماط.
- إذا كانت تلك البيانات متحيزة، فإن نتائج البرنامج ستكون متحيزة أيضًا.
- بيانات التدريب المتحيزة تؤدي إلى نتائج غير عادلة للمجموعة الأقل تمثيلًا.
كيف يدخل التحيز إلى البرنامج
تؤدي بيانات التدريب المتحيزة إلى تعلم البرنامج لأنماط مشوهة وإنتاج نتائج غير عادلة؛ وكشف الاختبار المتنوع لذلك، وتقلل البيانات الممثلة منه.
البرامج التي تتعلم من الأمثلة تدرس بيانات ______ الخاصة بها لإيجاد الأنماط.
تعطي بيانات التدريب المتحيزة نتائج متحيزة.
مصدر رئيسي لتحيز الحوسبة هو:
إذا كانت البيانات مشوهة، تكون نتائج البرنامج مشوهة.
الاختبار مع مستخدمين متنوعين
- يساعد الاختبار مع مستخدمين متنوعين وبيانات مختلفة في كشف التحيزات الخفية قبل الإطلاق.
- إذا كان كل من يختبر البرنامج يبدو مثل بعضهم البعض، سيظل التحيز غير مرئي.
- مجموعة اختبار متنوعة تكشف أين يفشل البرنامج في التعامل مع مجموعات مختلفة.
- لهذا السبب، يعتبر الاختبار المتنوع حلًا جذريًا، وليس إضافة اختيارية.
يساعد الاختبار بمجموعة متنوعة من المستخدمين على كشف التحيز الخفي قبل الإطلاق.
تكشف مجموعة اختبار متنوعة عن الفشل في مجموعات مختلفة.
نظام الوجوه المدرب أساسًا على الرجال ذوي البشرة الفاتحة يرتكب أخطاء أكثر على الآخرين لأنه:
المجموعات ذات التمثيل الناقص تحصل على نتائج أسوأ.
يمكن للمطورين تقليل التحيز من خلال:
تجعل البيانات الممثلة وفحص النتائج عبر المجموعات النتائج أكثر عدلاً.
تقليل التحيز
- يمكن للمطورين تقليل التحيز باستخدام بيانات ممثلة والتحقق من النتائج عبر مجموعات مختلفة.
- الهدف هو برنامج يعمل بعدل للجميع، وليس فقط للأغلبية.
التعرف على الوجوه. نظام تم تدريبه في الغالب على رجال ذوي بشرة فاتحة يعمل جيدًا معهم لكنه يرتكب أخطاء أكثر بكثير مع النساء والأشخاص ذوي البشرة الداكنة — لأنه رأى وجوهًا أقل من هذه النوعية أثناء التعلم. لم يكن المطورون يقصدون ذلك؛ جاء التحيز من بيانات تدريب غير ممثلة. لو تم الاختبار بمجموعة متنوعة من الوجوه لكان قد كُشف عن المشكلة.
التحيز الحاسوبي هو عدم عدالة مدمجة في برنامج، غالبًا دون قصد. مصدر رئيسي هو بيانات التدريب المتحيزة — إذا كانت الأمثلة منحازة، تكون النتائج منحازة أيضًا. يكشف الاختبار مع مستخدمين متنوعين عن التحيزات الخفية قبل الإطلاق، واستخدام بيانات ممثلة والتحقق عبر المجموعات يقلل منه.