ML-For-Beginners/translations/he/1-Introduction/3-fairness

בניית פתרונות למידת מכונה עם בינה מלאכותית אחראית

סקצ'נוט מאת טומומי אימורה

חידון לפני ההרצאה

מבוא

בתוכנית הלימודים הזו, תתחילו לגלות כיצד למידת מכונה יכולה ומשפיעה על חיינו היומיומיים. כבר עכשיו, מערכות ודגמים מעורבים במשימות קבלת החלטות יומיומיות, כגון אבחנות רפואיות, אישורי הלוואות או גילוי הונאות. לכן, חשוב שהדגמים הללו יעבדו היטב ויספקו תוצאות שניתן לסמוך עליהן. ממש כמו בכל אפליקציית תוכנה, מערכות בינה מלאכותית עלולות לא לעמוד בציפיות או להביא לתוצאה לא רצויה. לכן, חיוני להבין ולהסביר את התנהגות מודל הבינה המלאכותית.

דמיינו מה יכול להתרחש כאשר הנתונים שבהם אתם משתמשים לבניית דגמים אלה חסרים קבוצות דמוגרפיות מסוימות, כגון גזע, מגדר, השקפה פוליטית, דת, או מייצגים בצורה לא פרופורציונלית את הקבוצות הללו. מה קורה כאשר פלט המודל מתפרש לטובת דמוגרפיה מסוימת? מהי ההשפעה על היישום? בנוסף, מה קורה כשהמודל מביא לתוצאה מזיקה הפוגעת באנשים? מי אחראי להתנהגות מערכת הבינה המלאכותית? שאלות אלו ועוד נחקרות בתוכנית זו.

בשיעור זה תלמדו:

• להעלות את המודעות לחשיבות הצדק בלמידת מכונה ולהנזקים הקשורים לאי-צדק.
• להכיר את תהליך בחינת חריגים ותסריטים יוצאי דופן כדי להבטיח אמינות ובטיחות
• להבין את הצורך להעצים את כולם על ידי עיצוב מערכות כוללות
• לחקור עד כמה חשוב להגן על פרטיות וביטחון נתונים ואנשים
• לראות את חשיבות הגישה השקופה להסברת התנהגות מודלים של בינה מלאכותית
• להיות ערים לכך שחשבון-נפש הוא חיוני לבניית אמון במערכות בינה מלאכותית

דרישות מוקדמות

כמקדמה, יש לעבור את מסלול הלמידה "עקרונות בינה מלאכותית אחראית" ולצפות בסרטון למטה בנושא:

למדו עוד על בינה מלאכותית אחראית באמצעות מסלול למידה

🎥 לחצו על התמונה למעלה לצפייה בסרטון: הגישה של מיקרוסופט לבינה מלאכותית אחראית

צדק

מערכות בינה מלאכותית צריכות לטפל בכולם בהגינות ולהימנע משפעת בדרכים שונות על קבוצות דומות של אנשים. לדוגמה, במערכות בינה מלאכותית שמנחות טיפולים רפואיים, בקשות להלוואות או משרות, יש להמליץ באותו אופן לכולם עם תסמינים, נסיבות כלכליות או כישורים מקצועיים דומים. כל אחד מאיתנו נושא הדעות הקדומות שהורשתה שיכולה להשפיע על החלטותינו ופעולותינו. דעות אלו עשויות להופיע בנתונים שבהם אנו משתמשים לאימון מערכות בינה מלאכותית. לפעמים מתקיימת מניפולציה כזו ללא כוונה. פעמים רבות קשה לדעת במודע מתי מכניסים הטיה לנתונים.

"אי-הגינות" כוללת השפעות שליליות, או "נזקים", לקבוצת אנשים, כמו אלה המוגדרים לפי גזע, מגדר, גיל או מצב נכות. הנזקים העיקריים הקשורים לצדק מיוצגים ב:

• הקצאה, אם למשל מגדר או אתניות מועדפים על אחרים.
• איכות השירות. אם מאמנים עם נתונים לתסריט מסוים אבל המציאות מורכבת הרבה יותר, התוצאה היא שירות גרוע. למשל, מתקן סבון ידיים שלא הצליח לזהות אנשים עם עור כהה. מקור
• התעמרות. ביקורת ותיוג לא הוגנים של מישהו או משהו. לדוגמה, טכנולוגיית תיוג תמונות שייכת התמימה תייגה אנשים עם עור כהה כגורילות.
• ייצוג יתר או חסר. הרעיון שקבוצה מסוימת חסרה במקצוע מסוים, וכל שירות או פונקציה שמחזיקים על כך מגבירים נזק.
• סטריאוטיפים. שיוך קבוצה לתכונות מוקדמות שהוקצו לה. לדוגמה, מערכת תרגום בין אנגלית לטורקית עלולה לכלול שגיאות בגלל מילים עם קשרים סטריאוטיפיים למגדר.

תרגום לטורקית

תרגום חזרה לאנגלית

בעיצוב ובבדיקת מערכות בינה מלאכותית, אנו צריכים לוודא שהמערכת הוגנת ואינה מתוכנתת לקבל החלטות מוטות או מפלות, כפי שגם לאדם אסור לעשות זאת. הבטחת צדק בבינה מלאכותית ולמידת מכונה נשארת אתגר סוציו-טכני מורכב.

אמינות ובטיחות

לבניית אמון, על מערכות הבינה המלאכותית להיות אמינות, בטוחות ועקביות בתנאים רגילים ובלתי צפויים. חשוב לדעת כיצד מערכות הבינה המלאכותית יתנהגו במגוון מצבים, במיוחד בחריגים. בבניית פתרונות בינה מלאכותית יש להתמקד רבות בהתמודדות עם מגוון רחב של נסיבות שהמערכות עשויות להיתקל בהן. למשל, רכב אוטונומי צריך להעמיד את ביטחון האנשים בראש סדר העדיפויות. לכן, הבינה המלאכותית שמפעילה את הרכב חייבת לשקול את כל התרחישים האפשריים, כגון לילה, סופות רעמים או שלגים, ילדים שחוצים את הכביש, חיות מחמד, עבודות דרכים וכו'. יכולתה של מערכת בינה מלאכותית להתמודד בצורה אמינה ובטוחה עם מגוון תנאים רחב משקפת את רמת הצפייה המוקדמת שהמדען או מפתח הבינה המלאכותית לקחו בחשבון בתכנון או בבדיקה של המערכת.

🎥 לחצו כאן לסרטון: אמינות ובטיחות בבינה מלאכותית

הכללה

מערכות בינה מלאכותית צריכות להיות מעוצבות לעניין ולהעצים את כולם. בעת עיצוב ויישום מערכות, מדעני נתונים ומפתחי בינה מלאכותית מזהים ומתמודדים עם מחסומים במערכת שעשויים ללא כוונה להחריג אנשים. לדוגמה, יש כמיליארד אנשים עם מוגבלויות בעולם. עם התקדמות הבינה המלאכותית, הם יכולים לגשת למגוון רחב של מידע והזדמנויות בצורה נוחה יותר בחיי היומיום. כתוצאה מהתמודדות עם מחסומים נוצרות הזדמנויות לחדש ולפתח מוצרי בינה מלאכותית עם חוויות טובות יותר המועילות לכולם.

🎥 לחצו כאן לסרטון: הכללה בבינה מלאכותית

ביטחון ופרטיות

מערכות בינה מלאכותית צריכות להיות בטוחות ולכבד את פרטיות האנשים. אנשים סומכים פחות על מערכות שמסכנות את פרטיותם, מידעם או חייהם. כאשר מאמנים מודלי למידת מכונה, אנו מסתמכים על נתונים לתוצאות הטובות ביותר. ולכן יש להביא בחשבון את מקור הנתונים ושלמותם. לדוגמה, האם הנתונים הוגשו על ידי משתמש או היו נגישים לציבור? בנוסף, בעת עבודה עם הנתונים, חשוב לפתח מערכות שיכולות להגן על מידע סודי ולהתנגד להתקפות. ככל שהבינה המלאכותית הופכת נפוצה יותר, ההגנה על פרטיות ואבטחת מידע אישי ועסקי חשובים והופכים למורכבים יותר. סוגיות פרטיות ואבטחת נתונים דורשות תשומת לב מיוחדת בבינה מלאכותית משום שהגישה לנתונים היא חיונית כדי שמערכות הבינה תוכלנה לבצע תחזיות והחלטות מדויקים ומושכלים על אנשים.

🎥 לחצו כאן לסרטון: אבטחה בבינה מלאכותית

• בתעשייה עשינו התקדמות משמעותית בפרטיות ואבטחה, בתמיכה רבה מצד רגולציות כמו GDPR (תקנות הגנת מידע כלליות).
• עם מערכות בינה מלאכותית עלינו להכיר במתח בין הצורך בנתונים אישיים רבים יותר להנגשת מערכות אישיות ויעילות – לבין שמירת הפרטיות.
• ממש כמו עם הולדת המחשבים המחוברים לאינטרנט, אנו רואים גם עלייה עצומה במספר בעיות האבטחה הקשורות לבינה מלאכותית.
• במקביל, ראינו כיצד הבינה המלאכותית משפרת את האבטחה. לדוגמה, רוב סורקי האנטי-וירוס המודרניים מונעים כיום על ידי חישובים של בינה מלאכותית.
• עלינו לוודא שתהליכי מדע הנתונים שלנו משתלבים בצורה הרמונית עם שיטות הפרטיות והאבטחה העדכניות ביותר.

שקיפות

מערכות בינה מלאכותית צריכות להיות מובנות. חלק חשוב בשקיפות הוא הסברת התנהגות מערכות הבינה המלאכותית והרכיבים שלהן. שיפור ההבנה של מערכות אלו מחייב את בעלי העניין להבין כיצד ולמה הן פועלות, כדי שאפשר יהיה לזהות בעיות ביצועים, חששות באבטחה ופרטיות, הטיות, פרקטיקות של הרחקה או תוצאות לא מכוונות. אנו גם סבורים שיש להיות כנים וגלויים לגבי מתי, מדוע וכיצד בוחרים לפרוס את המערכות. וכן לגבי המגבלות של המערכות בהן משתמשים. לדוגמה, אם בנק משתמש במערכת בינה מלאכותית לתמיכה בקבלת החלטות בהלוואות לצרכנים, חשוב לבדוק את התוצאות ולהבין אילו נתונים משפיעים על המלצות המערכת. ממשלות מתחילות להסדיר את הבינה המלאכותית בתעשיות שונות, לכן מדעני הנתונים וארגונים חייבים להסביר אם מערכת הבינה המלאכותית עומדת בדרישות הרגולטוריות, במיוחד כאשר יש תוצאה לא רצויה.

🎥 לחצו כאן לסרטון: שקיפות בבינה מלאכותית

• כי מערכות בינה מלאכותית מורכבות מאוד, קשה להבין כיצד הן פועלות ולפרש את התוצאות.
• היעדר ההבנה הזו משפיע על אופן ניהולן, תפעולן ותיעודן.
• היעדר ההבנה הזו חשוב אף יותר כשמדובר בהחלטות שמתקבלות באמצעות התוצאות שהמערכות מייצרות.

אחריות

האנשים שמתכננים ומפעילים מערכות בינה מלאכותית חייבים להיות אחראים לכל האופן בו פועלות המערכות שלהם. הצורך באחריות הוא קריטי במיוחד בטכנולוגיות רגישות כמו זיהוי פנים. לאחרונה יש ביקוש גובר לטכנולוגיית זיהוי פנים, בעיקר מצד ארגוני אכיפת חוק שרואים את הפוטנציאל בשימושים כמו מציאת ילדים נעדרים. עם זאת, טכנולוגיות אלה עלולות לשמש ממשלות לסכן את חירויות היסוד של אזרחיהן על ידי, למשל, הפעלת פיקוח רציף על אנשים מסוימים. לכן, מדעני נתונים וארגונים צריכים להיות אחראים על האופן שבו מערכת הבינה המלאכותית שלהם משפיעה על יחידים או על החברה.

🎥 לחצו על התמונה למעלה לסרטון: אזהרות על פיקוח המוני באמצעות זיהוי פנים

בסופו של דבר, אחת השאלות הגדולות ביותר עבור דורנו, כדור הראשון שמביא בינה מלאכותית לחברה, היא כיצד להבטיח שהמחשבים יישארו אחראיים לאנשים וכיצד להבטיח שאנשים שמתכננים מחשבים יישארו אחראיים כלפי כולם.

הערכת השפעה

לפני אימון מודל למידת מכונה, חשוב לבצע הערכת השפעה כדי להבין את מטרת מערכת הבינה המלאכותית; מה השימוש המיועד; איפה היא תופעל; ומי יתקשר עם המערכת. זה מועיל למבקר(ים) או למבחנים להעריך את המערכת ולדעת אילו גורמים לקחת בחשבון בזיהוי סיכונים אפשריים ותוצאות צפויות.

הנושאים המרכזיים בעת ביצוע הערכת השפעה הם:

• השפעה שלילית על יחידים. להיות מודעים לכל הגבלה או דרישה, שימוש בלתי נתמך או מגבלות ידועות שמגבילות את ביצועי המערכת חיוני כדי לוודא שהמערכת לא תשמש בצורה שיכולה לגרום נזק לפרטים.
• דרישות הנתונים. הבנת האופן והמקום בו המערכת תשתמש בנתונים מאפשרת למבקרים לבדוק דרישות נתונים שיש לקחת בחשבון (למשל, תקנות GDPR או HIPAA). בנוסף, חשוב לבחון אם מקור או כמות הנתונים מספקים לאימון.
• סיכום ההשפעה. לאסוף רשימת נזקים פוטנציאליים שעשויים להיווצר משימוש במערכת. לאורך מחזור החיים של למידת המכונה, לבדוק אם הבעיות שזוהו מטופלות או מופחתות.
• יעדים חלים עבור כל אחד מששת העקרונות המרכזיים. להעריך אם היעדים של כל עיקרון הושגו ואם קיימים פערים.

איתור תקלות עם בינה מלאכותית אחראית

בדומה לאיתור תקלות באפליקציית תוכנה, איתור תקלות במערכת בינה מלאכותית הוא תהליך הכרחי של זיהוי ופתרון בעיות במערכת. ישנם גורמים רבים שיכולים להשפיע על כך שמודל לא מתפקד כצפוי או באחריות. רוב מדדי הביצועים המסורתיים של מודל הם סיכומים כמותיים של ביצועי המודל, שאינם מספקים לניתוח כיצד מודל פוגע בעקרונות הבינה המלאכותית האחראית. בנוסף, מודל למידת מכונה הוא תיבה שחורה שקשה להבין מה מניע את התוצאה שלו או לתת הסבר כשמתבצעת טעות. בהמשך הקורס נלמד כיצד להשתמש בלוח המחוונים של בינה מלאכותית אחראית כדי לעזור באיתור תקלות. לוח המחוונים מספק כלי כולל למדעני נתונים ומפתחי AI לבצע:

• ניתוח שגיאות. לזיהוי התפלגות השגיאות במודל שעלולה להשפיע על ההגינות או האמינות של המערכת.
• סקירת מודל. לאיתור פערים בביצועי המודל בין קבוצות נתונים שונות.
• ניתוח נתונים. להבנת התפלגות הנתונים ולזהוי הטיות אפשריות בנתונים שעלולות לגרום לבעיות בהגינות, הכללה ואמינות.
• פרשנות המודל. להבנת מה משפיע או משפעל את תחזיות המודל. זה עוזר להסביר את התנהגות המודל, החשובה לשקיפות ולאחריות.

🚀 אתגר

כדי למנוע נזקים מלכתחילה, עלינו:

• שיהיה מגוון רקעים ופרספקטיבות בקרב האנשים שעובדים על מערכות
• להשקיע במאגרי נתונים המשקפים את המגוון בחברה שלנו
• לפתח שיטות טובות יותר לאורך מחזור החיים של למידת מכונה לזיהוי ותיקון בינה מלאכותית לא אחראית כאשר היא מתרחשת

חשבו על תסריטי חיים אמיתיים בהם חוסר האמינות של מודל נראה בבנייתו ובשימושו. מה עוד יש לקחת בחשבון?

חידון אחרי ההרצאה

סקירה ולמידה עצמית

בשיעור זה למדתם עיקרי מושגי הצדק והאי-הגינות בלמידת מכונה.

צפו בסדנא זו להעמקה בנושאים:

• במרדף אחר בינה מלאכותית אחראית: מיישמים עקרונות בפועל, מאת בסמירה נושי, מהרנווש סמאקי ואמיט שארמה

🎥 לחצו על התמונה למעלה עבור וידאו: ערכת כלים RAI: מסגרת קוד פתוח לבניית בינה מלאכותית אחראית מאת בסמירה נושי, מהרנוש סמאקי ואמיט שארמה

קראו גם:

• מרכז המשאבים RAI של מיקרוסופט: משאבי בינה מלאכותית אחראית – Microsoft AI

• קבוצת המחקר FATE של מיקרוסופט: FATE: הגינות, אחריות, שקיפות ואתיקה בבינה מלאכותית - מחקר מיקרוסופט

ערכת כלים RAI:

• מאגר GitHub של ערכת כלים בינה מלאכותית אחראית

קראו על כלי Azure Machine Learning להבטחת הגינות:

• Azure Machine Learning

משימה

חקור את ערכת כלים RAI

---

כתב ויתור: מסמך זה תורגם באמצעות שירות תרגום אוטומטי Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. יש להחשיב את המסמך המקורי בשפתו הטבעית כמקור הסמכות. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אדם. אנו לא אחראים לכל אי-הבנה או פירוש שגוי הנובע מהשימוש בתרגום זה.