שיפוט מחשובי
הוצג| English | משמעות |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | הטיה מחושבת |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | נתוני אימון |
| diverse/daɪˈvɜːs/ | מגוון |
אי-צדק המובנה בתוכנה
- הטיה מחושבת היא אי-צדק המובנה בתוכנה — לעיתים גם מבלי שהמתפתחים יודעים על כך.
- תוכנה יכולה לטפל בקבוצות מסוימות גרוע יותר מאחרות.
- הדבר אינו תמיד מתכוונן; זה יכול להיות תוצאה של דרך הבנייה של התוכנה.
- ההטיה חשובה כי תוכנות נוקטות באופן increasingly בהחלטות אמיתיות לגבי אנשים.
עיכוב מחשובי הוא:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
יכולה להתנהג בצורה פחות נוחה כלפי קבוצות מסוימות, גם באופן מקרי.
ההטיה נובעת מהנתונים
- מקור עיקרי הוא הנתונים המשמשים לבניית התוכנה.
- הרבה תוכנות מודרניות לומדות מנתוני אימונים — דוגמאות שהן לומדות כדי למצוא תבניות.
- אם הנתונים האלו מוטים, התוצאות של התוכנה יהיו מוטות גם הן.
- נתוני אימונים מוטים מובילים לתוצאות לא הוגנות עבור הקבוצה המיוצגת פחות.
כיצד שיפוט נכנס לתוכנה
נתוני אימון מעווכים גורמים לתוכנה ללמוד דפוסים עקומים ולהפיק תוצאות לא הוגנות; בדיקות מגוונות חושפות זאת, ונתונים מייצגים מפחיתים אותו.
תוכניות הנלמדות מתוך דוגמאות לומדות את הנתונים ______ שלהן כדי למצוא תבניות.
Difficulty 1/5 · 100 coins + a small bonus on first completion today
נתוני אימון בעלי עיכוב מובילים לתוצאות בעלות עיכוב.
מקור ראשי לעיכוב מחשובי הוא:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
אם הנתונים נוטים, התוצאות של התוכנית נוטות גם הן.
בדיקה עם משתמשים מגוונים
- בדיקה עם משתמשים ונתונים מגוונים עוזפת לחשוף הטיה נסתרת לפני השימוש.
- אם כולם שנבדקים נראים אותו דבר, ההטיה נשארת בלתי נראית.
- קבוצת בדיקה מגוונת חושפת היכן התוכנה נכשלת בקבוצות שונות.
- זוהי הסיבה לכך שבדיקה מגוונת היא פתרון יסודי, ולא תוספת אופציונלית.
מבחן עם קבוצת משתמשים מגוונת עוזר לחשוף עיכובים נסתרים לפני השחרור.
Difficulty 1/5 · 100 coins + a small bonus on first completion today
קבוצת מבחן מגוונת חושפת כשל במועדפים שונים.
מערכת זיהוי פנים שהושרתה בעיקר על גברים בעלי עור בהיר מבצעת יותר שגיאות על שאר האוכלוסיות כי:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
קבוצות המיוצגות פחות מקבלות תוצאות גרועות יותר.
מפתחים יכולים להפחית הטיה על ידי:
Difficulty 1/5 · 100 coins + a small bonus on first completion today
נתונים מייצגים ובדיקות חוצי-קבוצות הופכים את התוצאות לעודפות יותר.
צמצום ההטיה
- מפתחים יכולים להפחית סטיות על ידי שימוש בנתונים מייצגים ובדיקת התוצאות בכל קבוצות שונות.
- המטרה היא תוכנה שתפעל בצדק עבור כולם, ולא רק עבור הרוב.
זיהוי פנים. מערכת שהושתלה בעיקר באמצעות פני גברים בעלי עור בהיר פועלת היטב אצלם, אך מבצעת הרבה יותר טעויות בקרב נשים ואנשים בעלי עור כהה — היא ראתה פחות פנים מסוג זה בזמן ההשתלה. המפתחים לא התכוונו לכך; הסטייה נובעת מהנתוני השתלה שאינם מייצגים. בדיקה עם מגוון רחב של פנים הייתה חושפת זאת.
סטיות בחישוב הן אי-סדירות המובנות בתוכנה, לעיתים ללא כוונה. מקור עיקרי הוא נתוני שתלה סטייתיים — אם הדוגמאות נוטות לצד אחד, גם התוצאות נוטות לכיוון זה. בדיקה עם משתמשים מגוונים חושפת סטיות נסתרות לפני השחרור, ושימוש בנתונים מייצגים ובדיקת התוצאות בכל קבוצות מפחית את הסטייה.