דלג לתוכן

אתיקה וזכויות בעלות

מדעי המחשב A-Level · נושא 7

שיעור וידאו לנושא זה פתח את עמוד הוידאו
14:11

אתיקה, זכויות יוצרים ורישיונות

דמיינו שאתם בונים כלי AI שמסנן פניות לעבודה פי עשרה מהר יותר. המנהל שלכם מאושר. אבל אתם שמים לב לדבר מטרד: הוא דוחה בשקט…

קריינות באנגלית · כתוביות באנגלית ובסינית 中文 שאפשר להחליף ביניהן

7.1

אתיקה עבור מקצועני מחשוב

סיילבוס
המועמדים צריכים להיות מסוגלים: הערות והנחיות
הצגת הבנה לחשיבות ולמטרות אתיקה כבעל מקצוע במחשוב הבנת החשיבות של הצטרפות לגוף אתיקי מקצועי כולל BCS (החברה הבריטית למחשבים), IEEE (מכון מהנדסי חשמל ואלקטרוניקה)
הצגת הבנה לחשיבות לפעול באופן אתי ולהבנת השפעת הפעילה האתית או לא-אתית עבור מצב נתון
הצגת הבנה לחשיבות חקיקת זכויות יוצרים
הצגת הבנה לסוגים השונים של רישיונות תוכנה והצדקת השימוש ברישיון עבור מצב נתון רישיונות כוללים קרן התוכנה החופשית, היוזמה לתוכנה פתוחה, שאר-וויר ותוכנה מסחרית
הצגת הבנה של בינה מלאכותית (AI) הבנת השפעת הבינה המלאכותית כולל נושאים חברתיים, כלכליים וסביבתיים
הבנת היישומים של בינה מלאכותית

מקור: הסיילבוס הבינלאומי של קמבריד'ג'

אנשי מקצוע בתחום המחשוב הם אלו שעבודתם — תוכנה, מערכות, רשתות ומידע — משפיעה על אנשים אחרים. מכיוון שהעבודה היא טכנית, לעיתים קרובות אחרים אינם יכולים לשפוט האם בוצעה היטב או בכנות. לכן המקצוע נשלט על ידי אתיקה משותפת (עקרונות להתנהגות טובה).

מדוע האתיקה חשובה

  • ביטחון — משתמשים ומעסיקים סומכים על אנשי המקצוע לפעול לטובתם. ללא ביטחון זה, התוכנה מאבדת אמון.
  • השפעה — תוכנה מופעלת במכשירים רפואיים, בנקאות ורכבים. עבודה חסרת אחריות או לא כנה עלולה לפגוע באנשים.

גופים מקצועיים (BCS, ACM, IEEE) מפרסמים קוד אתיקה לחבריהם.

קיר של מסכי CCTV בחדר בקרה
CCTV מעורר דאגות לגבי פרטיות — אחד מהנושאים האתיים שאנשי מחשב צריכים לשקול
ערימת ציוד אלקטרוני פסולת
ציוד אלקטרוני פסולת (e-waste) הוא עלות סביבתית הולכת וגוברת של עולם המחשוב
תרשים Hub המציג בריאות הציבור במרכז, הקשור לדאגות בריאות וביטחון, האינטרס הציבורי, היתרונות לציבור ודאגות הציבור
פיתוח תוכנה משפיע על הרווחה של הציבור בדרכים שונות

עקרונות נפוצים

  • אינטרס הציבור קודם לכל — שמירת הבטיחות והרווחה של האנשים המושפעים.
  • כנות ויכולת — להיות כנים לגבי היכולות שלך; אל תטען מומחיות שאין לך.
  • סודיות — שמירה על מידע פרטי של לקוחות ומעסיקים.
  • להימנע מניגודי אינטרסים — אל תקבל עבודה בה האינטרס שלך עומד בניגוד לזה של הלקוח.
  • לשמור על הכישורים שלך עדכניים; לכבד זכויות קניין רוחני ופרטיות; לטפל בשותפים לעבודה בצדק.

הצטרפות לגוף מקצועי

התוכנית מציינת שניים: ה-BCS (החברה הבריטית למחשבים) וה-IEEE (מכון ההנדסאים לחשמל ולאלקטרוניקה). שניהם מפרסמים קוד התנהגות שחבריהם מתחייבים לעמוד בו. היתרונות מהצטרפות, לפי המסגרת: סט של הנחיות אתיות לעקוב אחריהן, כך שהחלטות לא מושארות לש judgement אישי; הדרכה, כנסים ופרסומים המשאירים את החבר מעודכן; ייעוץ ותמיכה, כולל סיוע משפטי, כאשר בעיה נוצרת; ומעמד מקצועי מוכר, כך שמעסיקים ולקוחות סומכים על עבודת החבר. ההשלכות של אל הצטרפות: אין הדרכה בנוגע לחלטות אתיות, כך שמתכנת עלול לפעול בדרך לא אתית מבלי להבחין בכך; פחות אמון ממעסיקים ולקוחות, כך שקשה יותר לזכות בעבודה; אין תמיכה בסכסוך; וחוסר עדכון בפיתוחים ובחוק. מטרת קוד ההתנהגות (שתי נקודות): ליצור סביבת עבודה בטוחה, מכובדת ומקצועית, ולהבטיח שכל עובד מבין מה מצופה ממנו ומהן ההשלכות של פעולותיו.

טבלה בעלת שתי עמודות המצמידה לכל יתרון של הצטרפות ל-BCS או ל-IEEE את התוצאה של אי-הצטרפות, שורה אחר שורה בנושאי אתיקה, התעדכנות, תמיכה ומעמד
הצטרפות לגוף מקצועי: לכל יתרון מוצגת התוצאה המתאימה של אי-הצטרפות

דוגמה פותרת. הסבר מדוע למתכנת יש לפעול בדרך אתית כלפי שותפים לעבודה וכלפי הציבור.

קולגות: טיפלו בהם באופן הוגן ובלי אפליה; כבדו את עבודתם, את רעיונותיהם ומידעם הרזרבי; היו כנים לגבי שגיאות ותנו קרדיט למי שמגיע לו; תמכו בפיתוח שלהם ולא פגעו בו. ציבור: הגנו על המידע האישי והפרטיות שלהם; פיתחו תוכנה בטוחה, אמינה ונבדקת היטב, מכיוון ששגיאות עשויות לגרום לנזק; היו כנים לגבי יכולות התוכנה; נקחו רק עבודה בתחום הכשרתכם; קיימו את החוק ושקלו את ההשפעות הרחבות יותר על החברה ועל הסביבה. כל צד זוכה נקודות בגלל סיבה ובגלל ההשלכות שלה, ולא רק בשל המילה "הוגן".

פעולה אתית לעומת פעולה לא אתית

פעולה אתית מגנה על משתמשים, מחזקת מוניטין, מפחיתה סיכון משפטי ובונה אמון. פעולה לא אתית (השמדת בדיקות, הסתרת תקלות, שימוש לרעה במידע) עלולה לפגוע במשתמשים אמיתיים, להוביל לפיטורים או לתביעות משפטיות, לפגוע במוניטין ולסחף את האמון בטכנולוגיה בכלל.

חמישה שלבים ברצף לקבלת החלטה במקרה גבולי, החל מבירור האינטרסים המושפעים ועד בחירת האפשרות שמגינה על המשתמשים, בהקשר של כלי בינה מלאכותית לגיוס עובדים שיש לעכב את השימוש בו
החלטה במקרה גבולי בחמישה שלבים: השימוש בכלי הבינה המלאכותית לגיוס עובדים מעוכב עד לתיקון ההטיה שלו

כאשר מתמודדים עם החלטה סמוכה לגבול: זהו מי הם בעלי העניינים המושפעים, בדקו את חוק ההתנהגות והחוק, שקלו את ההשלכות, שאלו מנהל בכיר אמן ובחרו באפשרות שמגנה על המשתמשים מעל נוחות לטווח קצר.

דוגמה מפורטת. כלי גיוס AI חדש של הצוות שלכם מסנן קורות חיים פי עשרה מהר יותר, אך הבנתם שהוא דוחה יותר מועמדים מבוגרים. שילוח הכלי ישמח את המנהל שלכם, אך הוא ייחס אי-הוגנות לקבוצה אחת. הבחירה האתית היא להשהות את השילוח עד שתוקן הטיוס — אינטרס ציבורי והוגנות באים לפני נוחות לטווח קצר.

אתיקה חלה גם על משתמשים. סטודנט שמחבר מחשב אישי לרשת בבית הספר צריך לכבד פרטיות ומידע של אחרים, לא להשתמש ברשתות חברתיות באופן לא ראוי או לרדוף אחר אנשים, לא להוריד או לשיתף חומרים מוגנים בזכויות יוצרים, לא להכניס תוכנת זיהום או לנסות להיכנס למערכות שאין לו רשות להיכנס אליהן, ולהשתמש ברשת לצורך שנועדה עבורה. תשובה לסוג "ציין שלוהיבטים אתיים" מציינת שלוהם מתוך אלו.

חקור

מעבדת סיכון ואחריות

סדר את הדוגמאות לפי הכלל, הסיכון או ההגנה הרלוונטיים.

7.1

זכויות יוצרים

זכויות יוצרים הן הזכות המשפטית של יוצר יצירה מקורית לשלוט בדרך שבה היא מועתקת, מחולקת, משוננת ומופקת. הן חלות אוטומטית (ללא רישום) על קוד מקור, תוכנה, מסמכים, תמונות, אודיו ווידאו.

ללא זכויות יוצרים, כל אחד יכול היה לעתק תוכנה בחופשיות, המפתח לא היה מתוגמל והפלגיאריזם היה חוקי. עם זכויות יוצרים, מפתחים יכולים להרוויח מעבודתם (מעודדים פיתוח תוכנה נוסף), משתמשים יודעים מי יצר אותה, והשימוש החוזר מתבצע בתנאי המפתח דרך רישיונות. זכויות יוצרים נמשך זמן רב (לעיתים קרובות 70 שנה לאחר פטירת היוצר). רעיונות כלליים ואלגוריתמים אינם מכוסים על ידי זכויות יוצרים אך עשויים להיות מכוסים על ידי פטנט.

מדוע על תוכניתן לעצב זכויות יוצרים לתוכנית, לפי המילים במסגרת: כדי לזהות אותו כבעלים וכיוצר (הכרה רשמית בבעלות); כדי שיהיו consequences משפטיות אם מישהו יעתיק או יגנב אותו; כדי להגביל מתחרים מלמכור את אותה עבודה; ולכן יכול להרוויח כסף על ידי רישום זכויות יוצרים. זכויות יוצרים חלות על התוכנית כפי שנכתבה; תוכנית אחרת שעושה אותה עבודה אינה מהווה הפרה.

זכויות יוצרים הן אוטומטיות וללא רישום ונמשכות כ-70 שנה לאחר פטירת היוצר, מכסה קוד, תמונות ומסמכים; פטנט חייב להיות מוגש ונמשך כ-20 שנה, מכסה המצאות ואלגוריתמים
זכויות יוצרים הן אוטומטיות ונמשכות זמן רב; פטנט חייב להיות מוגש ונמשך כ-20 שנים
חקור

מעבדת סיכון ואחריות

סדר את הדוגמאות לפי הכלל, הסיכון או ההגנה הרלוונטיים.

מילון מונחים אימון
English עברית
copyright/ˈkɒpɪraɪt/ זכויות יוצרים
patent/ˈpeɪtənt/ פטנט
software licence/ˈsɒftweə ˈlaɪsəns/ רישיון תוכנה
proprietary/prəˈpraɪətəri/ פרופריטרי
7.1

רישיונות תוכנה

רישיון תוכנה הוא חוזה המעניק רשות לשימוש בתוכנה בתנאי הבעלים; בחירה והחלת רישיון כזה נקראת רישוי תוכנה.

מסחרי (מסחרי/מסחרי)

  • תוכנה מסחרית נמכרת: אתם קונים רישיון; התוכנה משמשת רק בתנאיה.
  • קוד המקור אינו נתון (מוצר מסחרי); אי אפשר לשנות או להפיץ מחדש אותו.
  • דוגמאות: Microsoft Office, Adobe Photoshop, רוב המשחקים.

משמש כאשר המפתח רוצה הכנסה כל משתמש ושמירה על בקרה על הקוד.

מקור פתוח

  • המקור הוא ציבורי; משתמשים יכולים לקרוא, לערוך ולהפץ אותו מחדש (קוד פתוח).
  • רישיונות מתירים (MIT, BSD) מאפשרים כמעט כל שימוש; רישיונות copyleft (GPL) דורשים שגרסאות מעובדות יופצו תחת אותם רישיון ("share-alike").
  • מוסד התוכנה החופשית (FSF) ו-ארגון קוד פתוח (OSI) מקדמים ואשרים רישיונות קוד פתוח.
קוד מקור פתוח משתנה ומופץ מחדש; ברישיון מתירני כגון MIT או BSD הגרסה החדשה יכולה להישאר סגורה, וברישיון קופילפט כגון GPL יש להפיצה תחת רישיון GPL
רישיון מתירני או קופילפט: מה קורה לעותק ששונה

התוכנית לומדים מיינת את שניהם, והם מסומנים כתשובות נפרדות. תוכנה חופשית (המונח של ה-FSF) פירושה חופשי כבחרות, לא מחיר: למשתמש יש זכות להריץ את התוכן לכל מטרה, ללמוד ולשנות אותה (ולכן המקור חייב להיות זמין), להפיק עותקים ולהפיץ גרסאות מעובדות; ניתן לגבות עמלה על העותק. קוד פתוח (ההגדרה של ה-OSI) דורש שהמקור יהיה זמין, שהתוכן יוכל להיות מעובד ומופץ מחדש, ושהרישיון לא יבחן באופן בלתי הוגן נגד אדם כלשהו או תחום שימוש כלשהו. "זהה שני סוגי רישיון המאפשרים לאחרים לערוך ולהפיץ מחדש את התוכן" עונה על כך בשני סוגים אלו.

  • דוגמאות: Linux, Python, Apache.

משמש כאשר המתפתח רוצה שהתוכן יהיה נפוץ מאוד ומשופר על ידי הקהילה.

תוכנה חינם ותוכנת השקעה

  • Freeware — חינם, ללא מקור, ניתן להפיץ מחדש אך לא לערוך (Acrobat Reader, WhatsApp).
  • Shareware — חינם לתקופת ניסיון, ולאחר מכן משלמים כדי להמשיך להשתמש בו; ללא מקור.

ההגדרות במסגרת: shareware מופץ בחינם לתקופת ניסיון (זמן מוגבל או תכונות מוגבלות) והמשתמש משלם כדי להמשיך להשתמש בגרסה המלאה; תוכן מסחרי נמכר בעמלה, המקור אינו מסופק, הרישיון מגן על הרכוש האינטלקטואלי של המתפתח, והעמלה לרוב מכסה תמיכה ועדכונים. יתרונות ה-shareware עבור המתפתח: משתמשים יכולים לנסות את התוכן לפני הקנייה, ולכן סביר יותר שיקנו אותה; היא מתפשטת בקלות ובמעל עלויות פרסום זניחות; ואלו שממשיכים להשתמש בה משלמים. יתרונות רישיון מסחרי: המתפתח מקבל עמלה על כל עותק; הקוד והזכויות שלו נשארים מוגנים; וההכנסה ממנה נשקפת לתמיכה, עדכונים לפיתוח נוסף.

סוג עלות מקור הפצה מחדש עריכה
מסחרי בתשלום לא לא לא
קוד פתוח בדרך כלל חינם (מותר תשלום) כן כן כן, בהתאם לתנאי הרישיון
Freeware חינם לא כן לא
Shareware ניסיון חינם, ולאחר מכן בתשלום לא לעיתים לא
עץ החלטות לבחירת רישיון: אם ברצונך למכור אותו או לשמור על שליטה, בחר במסחרי; אחרת אם אתה משתף את המקור, בחר בקוד פתוח; אחרת אם הוא חינם לנצח, בחר ב-freeware, אחרת ב-shareware (ניסיון חינם ולאחר מכן תשלום)
בחירת רישיון מתוך המטרה של המתפתח

כדי להצדיק בחירת רישיון, יש לקשר אותה למטרת המתפתח (הכנסה, נגישות, קהילה), לצרכי המשתמש (עלות, התאמה אישית) ולמקרה השימוש.

דוגמה פתורה. מתכנת כתב משחק כדי למכור לציבור. זהה את הרישיון המתאים ביותר והצדק אותו.

רישיון מסחרי: המשחק נמכר בעמלה, ולכן המתכנת מרוויח כסף מכל עותק; המקור אינו משוחרר, ולכן אף אחד לא יכול להעתיק את המשחק או לשנות אותו ולמכור אותו כמשלו; הרישיון מגן על הרכוש האינטלקטואלי; והקונים מקבלים עדכונים ותמיכה. קוד פתוח לא היה מתאים, כי המקור היה זמין, ולכן המשחק could be copied, changed and redistributed without payment.

דוגמה פתורה. תוכנה עוזרת לקונים על ידי קריאת תוויות מוצר בקול. הסבר מדוע רישיון מקור פתוח עשוי שלא להתאים.

קוד המקור יהיה נגיש, ולכן ייתכן שישתנה; גרסה משונה עשויה להחזיר מידע שגוי על המוצר, ולכן הקונים עשויים לקנות פריט לא נכון; והמתכנת יאבד שליטה על איכות ובטיחות מה שמפורסם תחת שם התוכנה. בכיוון ההפוך, תוכנות משוחררות כמקור פתוח כדי שהפתחים האחרים יוכלו לשפר ולהרחיב אותן, כדי שתהיינה מאומצות באופן רחב ללא תשלום, וכדי שהמשתמשים יוכלו להתאים אותן לצרכים האישיים שלהם.

מילון מונחים אימון
English עברית
copyleft/ˈkɒpɪleft/ זכויות יוצרים
freeware/ˈfriːweə/ תוכנה חינם
shareware/ˈʃeəweə/ תוכנת שיתוף
artificial intelligence/ˌɑːtɪˈfɪʃl ɪnˈtelɪdʒəns/ בינה מלאכותית
machine learning/məˈʃiːn ˈlɜːnɪŋ/ למידת מכונה
Deep learning/diːp ˈlɜːnɪŋ/ למידת עמוקה
neural networks/ˈnjuːrəl ˈnetwɜːks/ רשתות עצביות
speech recognition/spiːtʃ ˌrekəɡˈnɪʃn/ זיהוי דיבור
image recognition/ˈɪmɪdʒ ˌrekəɡˈnɪʃn/ זיהוי תמונה
machine translation/məˈʃiːn trænˈsleɪʃn/ תרגום מכונתי
recommendation systems/ˌrekəmenˈdeɪʃn ˈsɪstəmz/ מערכות המלצה
autonomous vehicles/ɔːˈtɒnəməs ˈvɪəklz/ רכבים אוטונומיים
optical character recognition/ˈɒptɪkl ˈkærɪktə ˌrekəɡˈnɪʃn/ זיהוי דפוס אופטי
text-to-speech/tekst tə spiːtʃ/ מטען טקסט לקול
7.1

בינה מלאכותית (AI)

בינה מלאכותית בונה מערכות המבצעות משימות שנחשבו בעבר דורשות בינה אנושית — זיהוי דיבור ותמונות, תרגום, משחקי מחשב, נהיגה.

רוב הבינה המלאכותית המודרנית משתמשת בלמידת מכונה — אלגוריתמים שמשפרים במשימה על ידי לימוד דפוסים מכמות גדולה של נתונים, במקום להיות מתוכננים צעד אחר צעד. למידה עמוקה, המשמשת רשתות עצביות עם הרבה שכבות, היא הגישה המובילה היום.

דוגמאות יומיומיות

משימות בינה מלאכותית מחולקות לשני סוגים — הבנת קלט, ויצירת תפוקה או החלטות.

הבנת קלט:

  • זיהוי דיבור — המרת מילים spoken לטקסט (עוזרים קוליים).
  • זיהוי תמונות — מציאת אובייקטים, פנים או טקסט בתמונות.

יצירת תפוקה או החלטות:

  • תרגום מכונה — תרגום אוטומטי בין שפות.
  • מערכות המלצה — הצעת מוצרים, סרטונים או מוזיקה.
  • רכבים אוטונומיים ורובוטים.

תרחיש מבחן נפוץ: תוכנה קוראת תווית מצלמה, תרגמת אותה, וקראה אותה בקול — בשימוש בזיהוי אופטי של תוויות (OCR) למציאת המילים, תרגום מכונה להמרתן, וטקסט-לקול עבור האודיו.

קריאת תווית זרה בקול: תמונת המצלמה עוברת ל-OER למציאת המילים, ואז לתרגום מכונה, ואז לטקסט-לקול עבור האודיו
תרחיש נפוץ: OCR → תרגום מכונה → טקסט-לקול קורא תווית זרה בקול

תשובה בעלת ארבע נקודות "הסבר כיצד AI משמש" עוקבת אחרי הזרם של העבודה צעד אחר צעד: זיהוי תמונות (OCR) מנתח את הפיקסלים של התמונה כדי למקם את הדמויות; דפוסים של פיקסלים מומרים לדמויות ומילים בודדות; תרגום מכונה ממיר את המילים לשפת המשתמש; וטקסט-לקול מייצר את התפוקה המדוברת. כל צעד הוא נקודה אחת.

יתרונות

  • נגישות — בינה מלאכותית של דיבור/תמונה עוזרת למשתמשים עם לקויים; תרגום עוזר לדוברים שאינם דוברי השפה המקומית.
  • פרודוקטיביות — אוטומציה של משימות חוזרות משחררת אנשים לעבודות יצירתיות.
  • תמיכה בקבלת החלטות — בינה מלאכותית זורמת דפוסים במאגרי נתונים ענקיים (אבחון רפואי, גילוי הונאות).
  • זמינות מתמדת, והתאמה אישית לכל משתמש.

השפעות: חברתיות, כלכליות, סביבתיות

תוכנית הלימודים מבקשת את ההשפעה של הבינה המלאכותית תחת שלושה כותרות, ושאלה מציינת אחת מהן. נסו להציג את ההשפעה וגם את התוצאה שלה.

יישומי בינה מלאכותית בחלק העליון מובילים לשלוש עמודות: חברתית, כלכלית וסביבתית, בכל אחת תועלת ומחיר
בכל תחום השפעה יש לציין תועלת ומחיר
  • חברתית: יתרונות — תוכנית לקריאת תוויות עוזרת לאנשים עם לקוי ראייה, לאנשים שאינם יכולים לקרוא את השפה ולאנשים עם קשיי קריאה; זיהוי פנים בנמל תעופה מאיר את בדיקות זהות ומסוגל למנוע כניסה לאנשים הנחושבים. נזקים — זיהוי פנים עלול לזהות שגיאתית אנשים ולנטר את כולם ללא הסכמתם, ולכן פרטיות נאבדת; סטודנטים שמשתמשים בבינה מלאכותית כדי לבצע את המשימות הביתיות שלהם עשויים שלא לפתח כישורי חשיבה ופתרון בעיות, עשויים להסתמך עליה במקום ללמוד, ועשויים לאבד את העבודה הקולבית והתקשורת הפנים-מול-פנים שהעבודה המשותפת מספקת.
  • כלכלי: מודול אבחון תקלות באינטליגנציה מלאכה במוסך תיקון מבצע אבחון מהר ומדויק יותר, כך שיותר רכבים מתוקנים ביום ועלויות יורדות; אך ייתכן שיש צורך פחות בטכנאים מיומנים, ולכן עובדים מאבדים את תפקידם, ואת המודול יש לקנות ולתחזק. באופן כללי, בינה מלאכותית מעלה את התפוקה ויוצרת תפקידים חדשים בתחומים מסוימים תוך הסרת תפקידים שוטפים בתחומים אחרים.
  • סביבתית: אימון והפעלת מודלים גדולים דורשים כמויות עצומות של חשמל ומים לקירור במרכזי נתונים, והציוד הופך לפסולת אלקטרונית; מאידך, בינה מלאכותית משמשת לצמצום צריכת האנרגיה במבנים, לייצור תחבורה ולניטור הסביבה.
  • אתיקה (שאלת הכיתה): בינה מלאכותית שמסמן עבודות או נועצת סטודנטים חייבת להיות הוגנת לכל סטודנט, לא לחשוף את הנתונים שלו, להיות ברורה כאשר היא מקבלת החלטה לגביו, ולא להחליף את שיקול הדעת של המורה כאשר זה חשוב.

דאגות

  • פיזור — דפוסים לא הוגנים במאגר הנתונים להכשרה הופכים להחלטות בינה מלאכותית לא הוגנות (גיוס, מתן הון).
  • החלפת עבודה — בינה מלאכותית עלולה להחליף תפקידים מסוימים.
  • פרטיות — אימון משתמש לעיתים קרובות בכמויות גדולות של נתונים אישיים.
  • שקיפות — מודלים גדולים הם "תיבות שחורות", קשה להסביר אותם.
  • חשבונאות — כאשר בינה מלאכותית טועה, מי אחראי: המפתח, המשתמש או המפעיל?
  • הת Misuse — דפייפייקים, מידע מטעה, ניטור.
נתוני אימון מוטים מובילים את המודל ללמוד את הפיזור, שמפיק בהמשך החלטות לא הוגנות כמו בגיוס או במתן הון
כיצד פיזור נכנס לבינה מלאכותית: נתונים מוטים → מודל מוטי → החלטות לא הוגנות

בעלי מקצוע חייבים להבין את הגבולות של הבינה המלאכותית שבנו, ליידע את המשתמשים ולצמצם את הנזק.

חקור

מעבדת מושגי מחשוב

סווג דוגמאות ממשיות לפי הרעיון החישובי שהן מדגימות.

מילון מונחים אימון
English עברית
ethics/ˈeθɪks/ אתיקה
privacy/ˈprɪvəsi/ פרטיות
confidentiality/ˌkɒnfɪˌdenʃiˈæləti/ סודיות
conflicts of interest/ˈkɒnflɪkts ɒv ˈɪntrest/ ניגודי אינטרסים
intellectual property/ˌɪntəˈlektʃuːəl ˈprɒpəti/ זכויות רוחניות
code of conduct/kəʊd ɒv ˈkɒndʌkt/ חוקת התנהגות
bias/ˈbaɪəs/ שיפוטיות
7.1

הגדרות מקובלות בקורס

שאלה המגדירה מוערכת לפי נוסח קבוע. לימוד אלו בדיוק.

מונח הגדרה
אתיקה העקרונות המוסריים השולטים בהתנהגותו של אדם, בבוגרים המקצועיים מדובר בתקנים שנקבעו בחוקר ההתנהגות שלו
קוד אתיקה הכללים שמארגון או גוף מקצועי מציב לגבי התנהגות חבריו
זכויות יוצרים הזכות המשפטית של יוצר יצירה מקורית לשלוט בשיטת העתקתה, החלקתה והתמודלותה
רישיון תוכנה הסכם משפטי הקובע כיצד ניתן להשתמש בתוכנה מסוימת, להעתיקה ולהחליפה
תוכנה מסחרית תוכנה הנמכרת בתמורה, ללא קוד מקור, בהתאם לרישיון המגן על רכוש הרוחני של המפתח
תוכנה חופשית (FSF) תוכנה שבה למשתמשים יש חופש להפעיל, ללמוד, לשנות ולחלוק מחדש, ולכן הקוד המקור שלה נמצא לרשותו
קוד פתוח (OSI) תוכנה שבה הקוד המקור זמין וניתן לשנות ולהחליף מחדש בהתאם לרישיון
תוכנת ניסיון (Shareware) תוכנה המופצת בחינם לתקופת ניסיון או עם יכולות מוגבלות, לאחר מכן המשתמש משלם כדי להמשיך להשתמש בה
תוכנה חינם (Freeware) תוכנה שהשימוש בה והעתקתה אינם עולים דבר, אך הקוד המקור לא מתפרסם ואינו ניתן לשינוי
בינה מלאכותית מערכות מחשב המבצעות משימות הדורשות לרוב בינה אנושית, כגון זיהוי תמונות ודיבור
למידת מכונה סוג של בינה מלאכותית שבו מערכת משפרת ביצועי משימה על ידי לימוד דפוסים ממידע ולא מתכנות מפורש
7.1

טיפים לבחינות

  • לענות על שאלות אתיקה לפי קוד אתיקה מקצועי (אינטרס ציבורי, כשרות, כנות), ולא לפי דעה אישית.
  • להבחין בין זכויות יוצרים (שמירות על הביטוי) לבין פטנט (שמירות על המצאה).
  • להשוות בין רישיונות תוכנה: סגורים, קוד פתוח, תוכנה חינם, תוכנת ניסיון ו-FOSS.

טעויות נפוצות

  • מתן דעה אישית ("זה שגוי") במקום סיבה עם תוצאה ("תוכנה לקויה עלולה לפגוע במשתמשים, ולכן יש לבצע עליה בדיקות").
  • טיפול בתוכנה חופשית ובתוכנה חינם כאחד. תוכנה חופשית עוסקת בחופש ללמוד ולשנות את הקוד; תוכנה חינם היא פשוט ללא תשלום.
  • לומר שקוד פתוח הוא חינם. זה אומר שקוד המקור זמין וניתן לשינוי והחלקה מחדש; עשויים להטיל גם תשלום.
  • לכתוב שזכויות יוצרים חייבות להיות רשומות. הן חלות אוטומטית על היצירה כפי שנכתבה.
  • לנקוב השפעה ללא הציון ההשלכה שלה. "אובדן מקומות עבודה" מקבל נקודות רק כאשר נקשר לסיבה: הביומכונה מבצעת את האבחון, ולכן נדרשים פחות מכונאים.
  • לתאר מהי בינה מלאכותית במקום להסביר כיצד היא משמשת. הנקודות ניתנות עבור השלבים: זיהוי, המרה, תרגום, דיבור.

זיהוי פנים בהקשר

מצלמה תופסת תמונה; תוכנת AI מזהה פנים ומוציא מאפיינים. דגם AI משווה מאפיינים אלו לדוגמאות מאוחסנות או תבנית ומחזיר התאמה או ציון ביטחון. המערכת מפעלת סף כדי להחליט אם לקבל את ההתאמה. אימון משתמש בדוגמאות מסומנות רבות; זיהוי משתמש בדגם המאומן על תמונה חדשה. תאורה גרועה, נתוני אימון טעויים ופנים דומות יכולים לגרום להתאמות שגויות. גישה לבקרה לכן דורשת בדיקת גיבוי והגנת על נתוני ביומטריים.

חיישן אור יכול למדוד אור סביבתי; ADC ממיר את הפלט האנלוגי שלו לנתונים דיגיטליים כך שבקר יכול להתאים תאורה מול סף. הבדל בין קלט חיישן זה לתמונת מצלמה המשמשת לזיהוי אדם.

Free Software ו-Open Source הגדרות חופפות: GPL ו-MIT הם דוגמאות מקובלות תחת שניהם. Free Software מתאר את חירויות המשתמשים להפעיל, ללמוד, לשנות ולהפיץ מחדש; הוא אינו דורש מחיר מכירה אפס. GPL היא copyleft; MIT היא permissive. בדוק את תנאי הרישיון בפועל ולא טיפול FSF ו-OSI כסוגי רישיון מנוגדים.

מילון מונחים אימון
English עברית
open-source/ˈəʊpən sɔːs/ קוד פתוח

שיעורים אינטראקטיביים בנושא זה

לעבור על הדברים צעד אחר צעד, עם תרגילים לבדיקה מיידית.

מבחני עבר

נושאים נוספים במדעי המחשב A-Level

היכנס או צור חשבון

IGCSE, A-Level & AP