# مقدمة באתיקה של נתונים |![ סקצ'נוט מאת [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| | אתיקה במדעי הנתונים - _סקצ'נוט מאת [@nitya](https://twitter.com/nitya)_ | --- כולנו אזרחים של נתונים החיים בעולם מנותח בנתונים. מגמות השוק מצביעות על כך שבשנת 2022, 1 מתוך 3 ארגונים גדולים יקנו וימכרו את הנתונים שלהם דרך [שווקים והחלפות מקוונות](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). כמפתחים של אפליקציות, יהיה לנו קל וזול יותר לשלב תובנות מונעות נתונים ואוטומציה מונעת אלגוריתמים בחוויות המשתמש היומיות. אך ככל שה-AI הופך לנפוץ, נצטרך גם להבין את הנזקים הפוטנציאליים הנגרמים מ-[נשקול](https://www.youtube.com/watch?v=TQHs8SA1qpk) אלגוריתמים כאלה בקנה מידה גדול. הטרנדים מצביעים שבשנת 2025, ניצור ונצרוך מעל ל-[180 זטאבייט](https://www.statista.com/statistics/871513/worldwide-data-created/) של נתונים. עבור מדעני נתונים, ההתפרצות הזו של המידע מספקת גישה חסרת תקדים לנתונים אישיים ולהתנהגות. יחד איתה מגיעה היכולת לבנות פרופילים מדויקים של משתמשים ולהשפיע בעדינות על קבלת ההחלטות — לעיתים בדרכים שמעודדות [אשליית בחירה חופשית](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). אפילו כשהשימוש עשוי להיות לדחוף משתמשים לתוצאות מועדפות, זה גם מעלה שאלות קריטיות על פרטיות הנתונים, האוטונומיה, והגבולות האתיים של השפעה אלגוריתמית. אתיקה של נתונים היא כיום _מסילות שומרים הכרחיות_ למדעי הנתונים וההנדסה, המסייעות לנו למזער נזקים פוטנציאליים ותוצאות לא מכוונות מפעולות מונעות נתונים. [מחזור ההייפ Gartner ל-AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) מזהה מגמות רלוונטיות באתיקה דיגיטלית, AI אחראי וממשל AI כמניעים מרכזיים למגמות גדולות יותר של _הדמוקרטיזציה_ ו-_התיעשות_ של AI. ![מחזור ההייפ Gartner ל-AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) בשיעור זה, נחקור את תחום האתיקה של נתונים המרתק - מהקונספטים והאתגרים המרכזיים, דרך מקרי מבחן וקונספטים מיושמים של AI כמו ממשל - המסייעים לייצר תרבות אתית בצוותים וארגונים שעובדים עם נתונים ו-AI. ## [בחן את עצמך לפני ההרצאה](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯 ## הגדרות בסיסיות נתחיל מהבנת המונחים הבסיסיים. המילה "אתיקה" מגיעה מ[המילה היוונית "ethikos"](https://en.wikipedia.org/wiki/Ethics) (ושורשה "ethos") שפירושה _אופי או טבע מוסרי_. **אתיקה** היא על הערכים המשותפים והעקרונות המוסריים שמנחים את ההתנהגות שלנו בחברה. אתיקה מבוססת לא על חוקים אלא על נורמות מקובלות למה נחשב "נכון מול לא נכון". עם זאת, שיקולים אתיים יכולים להשפיע על יוזמות ממשל תאגידי ותקנות ממשלתיות היוצרות תמריצים נוספים לציות. **אתיקה של נתונים** היא [ענף חדש של אתיקה](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) שלומד ומעריך בעיות מוסריות הקשורות לנתונים, אלגוריתמים ופרקטיקות נלוות. כאן, **"נתונים"** מתמקד בפעולות כמו ייצור, הקלטה, קיראה, עיבוד, הפצה, שיתוף ושימוש; **"אלגוריתמים"** מתמקד ב-AI, סוכנים, למידת מכונה ורובוטים; ו**"פרקטיקות"** מתמקד בנושאים כמו חדשנות אחראית, תכנות, פריצה וקודי אתיקה. **אתיקה יישומית** היא [יישום מעשי של שיקולים מוסריים](https://en.wikipedia.org/wiki/Applied_ethics). זה התהליך של חקר פעיל של סוגיות אתיות בחשיבה על פעולות, מוצרים ותהליכים בעולם האמיתי, ולקיחת צעדי תיקון כדי להבטיח שיישארו מותאמים לערכי האתיקה המוגדרים שלנו. **תרבות אתית** היא על [_אופרציונליזציה_ של אתיקה יישומית](https://hbr.org/2019/05/how-to-design-an-ethical-organization) כדי לוודא שהעקרונות והפרקטיקות האתיות שלנו מאומצות באופן עקבי וניתן להרחיבן על פני כל הארגון. תרבויות אתיות מוצלחות מגדירות עקרונות אתיים לרוחב הארגון, מספקות תמריצים משמעותיים לציות, ומחזקות נורמות אתיות באמצעות עידוד והגברה של התנהגויות רצויות בכל דרגי הארגון. ## קונספטים באתיקה בחלק זה נדון בקונספטים כמו **ערכים משותפים** (עקרונות) ו**אתגרים אתיים** (בעיות) באתיקה של נתונים - ונבדוק **מקרי מבחן** שיעזרו לכם להבין את הקונספטים האלה בהקשרים מהעולם האמיתי. ### 1. עקרונות אתיים כל אסטרטגיית אתיקה של נתונים מתחילה בהגדרת _עקרונות אתיים_ - "ערכים משותפים" המתארים התנהגויות מקובלות ומנחים פעולות בציות בפרויקטים של נתונים ו-AI. ניתן להגדיר אותם ברמה אישית או קבוצתית, אולם רוב הארגונים הגדולים מפרטים אותם במסגרת משימה או מסגרת לאתיקה אחראית של AI המוגדרת ברמות התאגיד ואוכפת באופן עקבי בכל הצוותים. **דוגמה:** הכרזת המשימה של Microsoft לגבי [AI אחראי](https://www.microsoft.com/en-us/ai/responsible-ai) קוראת: _"אנו מחויבים לקידום AI מונחה עקרונות אתיים שמעמידים את האדם בראש"_ - ומזהה 6 עקרונות אתיים במסגרת שלמטה: ![AI אחראי ב-Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) הבה נבחן בקצרה את העקרונות הללו. _שקיפות_ ו_אחריות_ הן ערכים יסודיים שעליהם מבוססים שאר העקרונות - לכן נתחיל איתם: * [**אחריות**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) הופכת את העוסקים למושכי הנתונים וה-AI לאחרים _אחראים_ לפעולותיהם ולציות לעקרונות האתיים. * [**שקיפות**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) מבטיחה שפעולות הנתונים וה-AI הן _מובנות_ (ניתנות לפרשנות) למשתמשים, מסבירה את מהות והסיבה להחלטות. * [**הגינות**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) מתמקדת בהבטחת טיפול הוגן של AI בכל האנשים, ותיקון הטיה חברתית-טכנית מערכתית או סמויה בנתונים ובמערכות. * [**אמינות ובטיחות**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) מוודאת ש-AI מתנהג _באופן עקבי_ עם הערכים המוגדרים, וממזער נזקים או תוצאות בלתי מכוונות. * [**פרטיות ואבטחה**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) מתמקדת בהבנת מקור הנתונים ומספקת _פרטיות נתונים והגנות נלוות_ למשתמשים. * [**שילוביות**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) עוסקת בתכנון פתרונות AI בכוונה, התאמתם לקשת רחבה של צרכים ויכולות אנושיות. > 🚨 חשבו מה יכולה להיות הצהרת המשימה האתית שלכם לנתונים. חקרו מסגרות אתיות ל-AI מארגונים אחרים - הנה דוגמאות מ-[IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), ו-[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). אילו ערכים משותפים יש להם? כיצד עקרונות אלה מתייחסים למוצר או לתעשייה שלהם? ### 2. אתגרים אתיים לאחר שהגדרנו עקרונות אתיים, השלב הבא הוא להעריך את פעולות הנתונים וה-AI שלנו ולבדוק אם הן תואמות את הערכים המשותפים הללו. חשבו על הפעולות שלכם בשתי קטגוריות: _איסוף נתונים_ ו_תכנון אלגוריתם_. באיסוף נתונים, הפעולות יכללו ככל הנראה **נתונים אישיים** או מידע מזהה אישית (PII) של יחידים מזוהים. זה כולל [פריטים מגוונים של נתונים לא אישיים](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) שמזהים _ביחד_ אדם מסוים. אתגרים אתיים יכולים להתייחס ל_פרטיות נתונים_, _בעלות על נתונים_, ונושאים נלווים כמו _הסכמה מדעת_ וזכויות קניין רוחני למשתמשים. בתכנון אלגוריתם, הפעולות יכללו איסוף וקיראה של **מאגרי נתונים**, ושימוש בהם לאימון ופריסה של **מודלים** החוזים תוצאות או מאוטומטים החלטות בהקשרים מהעולם האמיתי. אתגרים אתיים יכולים לנבוע מ-_הטיות במאגר הנתונים_, בעיות _איכות נתונים_, _אי-הוגנות_ ו-_ייצוג שגוי_ באלגוריתמים - כולל סוגיות מערכתיות. בשני המקרים, אתגרים אתיים מדגישים תחומים שבהם פעולותינו עשויות להיכנס לסתירה עם הערכים המשותפים שלנו. כדי לזהות, להפחית, למזער או למגר את הדאגות הללו, עלינו לשאול שאלות מוסריות "כן/לא" שקשורות לפעולות, ולאחר מכן לנקוט צעדים מתקנים לפי הצורך. בואו נבחן כמה אתגרים אתיים והשאלות המוסריות שהם מעלים: #### 2.1 בעלות על נתונים איסוף נתונים לרוב כולל נתונים אישיים שיכולים לזהות את נושאי הנתונים. [בעלות על נתונים](https://permission.io/blog/data-ownership) היא בנוגע ל_שליטה_ ול-_זכויות המשתמש_ הקשורות ביצירה, עיבוד והפצת הנתונים. השאלות המוסריות שעלינו לשאול הן: * מי הבעלים של הנתונים? (המשתמש או הארגון) * אילו זכויות יש לנושאי הנתונים? (למשל: גישה, מחיקה, העברה) * אילו זכויות יש לארגונים? (למשל: לתקן ביקורות משתמש זדוניות) #### 2.2 הסכמה מדעת [הסכמה מדעת](https://legaldictionary.net/informed-consent/) מגדירה את פעולת ההסכמה של המשתמשים לפעולה (כמו איסוף נתונים) עם הבנה מלאה של עובדות רלוונטיות הכוללות את המטרה, הסיכונים הפוטנציאליים, והחלופות. השאלות למחשבה הן: * האם המשתמש (נושא הנתונים) נתן אישור ללכידה ושימוש בנתונים? * האם המשתמש הבין את המטרה שלשמה נאספו הנתונים? * האם המשתמש הבין את הסיכונים האפשריים מהשתתפותו? #### 2.3 קניין רוחני [קניין רוחני](https://en.wikipedia.org/wiki/Intellectual_property) מתייחס ליצירות בלתי מוחשיות הנובעות מיוזמה אנושית, שעשויות _להיות להן ערך כלכלי_ לאנשים פרטיים או לעסקים. השאלות לבחינה הן: * האם לנתונים שנאספו היה ערך כלכלי למשתמש או לעסק? * האם ל**משתמש** יש כאן קניין רוחני? * האם ל**ארגון** יש כאן קניין רוחני? * אם זכויות אלה קיימות, כיצד אנו מגנים עליהן? #### 2.4 פרטיות נתונים [פרטיות נתונים](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) או פרטיות מידע מתייחס לשמירה על פרטיות המשתמש והגנה על זהות המשתמש ביחס למידע מזהה אישי. השאלות למחשבה הן: * האם נתוני המשתמשים (אישיים) מוגנים מפני פריצות ודליפות? * האם נתוני המשתמשים נגישים רק למשתמשים מורשים ובהקשרים מורשים? * האם האנונימיות של המשתמשים נשמרת כשנתונים משותפים או מופצים? * האם ניתן לזהות משתמשים מתוך מאגרי נתונים מאונמים? #### 2.5 זכות להישכח ה[זכות להישכח](https://en.wikipedia.org/wiki/Right_to_be_forgotten) או [זכות למחיקה](https://www.gdpreu.org/right-to-be-forgotten/) מעניקה הגנה נוספת על נתונים אישיים למשתמשים. היא מעניקה למשתמשים זכות לבקש מחיקה או הסרה של נתונים אישיים מחיפושים באינטרנט וממקומות אחרים, _בתנאים מסוימים_ - ומאפשרת התחלה חדשה ברשת ללא האשמות עבר. השאלות למחשבה הן: * האם המערכת מאפשרת לנושאי הנתונים לבקש מחיקה? * האם הפסקת הסכמת המשתמש צריכה להפעיל מחיקה אוטומטית? * האם נאספו הנתונים ללא הסכמה או באמצעים לא חוקיים? * האם אנו עומדים בתקנות ממשלתיות לפרטיות נתונים? #### 2.6 הטיית מאגרי נתונים הטיית מאגר נתונים או [הטיית איסוף](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) מדברת על בחירת תת-קבוצה _לא מייצגת_ של נתונים לפיתוח אלגוריתם, היוצרת חוסר הוגנות בתוצאות לקבוצות מגוונות. סוגי הטיות כוללים הטיית בחירה או דגימה, הטיית מתנדבים, והטיית כלי מדידה. השאלות הן: * האם גייסנו קבוצת נבחנים מייצגת? * האם בדקנו את מאגר הנתונים שנאסף או סודר להטיות שונות? * האם ניתן להפחית או להסיר את ההטיות שזוהו? #### 2.7 איכות נתונים [איכות נתונים](https://lakefs.io/data-quality-testing/) בוחנת את התקינות של מאגר הנתונים המשמש לפיתוח האלגוריתמים, ובודקת האם התכונות והרשומות עולות על דרישות לרמת דיוק ועקביות הדרושים למטרת AI שלנו. השאלות הן: * האם לכדנו תכונות תקפות למקרה השימוש שלנו? * האם הנתונים נאספו בצורה עקבית ממקורות נתונים מגוונים? * האם מאגר הנתונים _שלם_ לתנאים או תרחישים שונים? * האם המידע שנטען מדויק ומשקף את המציאות? #### 2.8 הוגנות אלגוריתמית [הוגנות אלגוריתמית](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) בודקת אם עיצוב האלגוריתם מפלה באופן שיטתי נגד תת-קבוצות ספציפיות של נבדקים, מה שיכול להוביל ל[נזקים פוטנציאליים](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ב_הקצאה_ (כאשר משאבים נמנעים או נאותרים מהקבוצה) וב_איכות השירות_ (כאשר הבינה המלאכותית אינה מדויקת לכמה תת-קבוצות כפי שהיא לאחרות). שאלות שניתן לחקור כאן הן: * האם הערכנו את דיוק המודל עבור תת-קבוצות ותנאים מגוונים? * האם בחנו את המערכת בנוגע לנזקים פוטנציאליים (למשל, סטריאוטיפים)? * האם ניתן לשנות את הנתונים או לאמן מחדש מודלים כדי להקטין נזקים שזוהו? חקור מקורות כמו [רשימות בדיקה להוגנות ב-AI](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) כדי ללמוד עוד. #### 2.9 ייצוג שגוי [ייצוג שגוי של נתונים](https://www.sciencedirect.com/topics/computer-science/misrepresentation) עוסק בשאלה האם אנחנו מתקשרים תובנות מנתונים שדווחו ביושר באופן מטעה כדי לתמוך בנרטיב רצוי. שאלות לניסוי כאן: * האם אנחנו מדווחים נתונים לא שלמים או לא מדויקים? * האם אנו מציגים נתונים בצורה שמובילה למסקנות מטעיות? * האם אנו משתמשים בטכניקות סטטיסטיות סלקטיביות כדי להשפיע על התוצאות? * האם יש הסברים חלופיים שעשויים להציע מסקנות שונות? #### 2.10 בחירה חופשית [הילוצית הבחירה החופשית](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) מתרחשת כאשר "ארכיטקטורות בחירה" של מערכות משתמשות באלגוריתמי קבלת החלטות כדי לדחוף אנשים לכיוון תוצאה מועדפת, תוך כדי מתן תחושה שיש להם אפשרויות ושליטה. דפוסי עיצוב אפלוליים אלו ([dark patterns](https://www.darkpatterns.org/)) יכולים לגרום לנזקים חברתיים וכלכליים למשתמשים. מאחר שהחלטות משתמשים משפיעות על פרופילי ההתנהגות, פעולות אלו עלולות להניע בחירות עתידיות שיכולות להעצים או להאריך את השפעת הנזקים. שאלות לחקור כאן הן: * האם המשתמש הבין את המשמעויות של בחירתו? * האם המשתמש היה מודע (לבחירות חלופיות) ויתרונות וחסרונות של כל אחת מהן? * האם המשתמש יכול לבטל בחירה אוטומטית או מושפעת מאוחר יותר? ### 3. מחקרי מקרה כדי להציב את האתגרים האתיים בהקשרים מעשיים, זה עוזר להסתכל על מחקרי מקרה שמדגימים את הנזקים וההשלכות הפוטנציאליות על יחידים וחברה כשהפרות אתיות כאלה מתעלמות. הנה כמה דוגמאות: | אתגר אתי | מחקר מקרה | |--- |--- | | **הסכמה מדעת** | 1972 - [מחקר הטטסיגי על סיפיליס](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - גברים אפרו-אמריקאים שהשתתפו במחקר הובטחה להם טיפול רפואי חינמי _אך הוטעו_ על ידי החוקרים שלא עדכנו אותם באבחנה או בזמינות הטיפול. רבים מתו, ושותפות או ילדים נפגעו; המחקר נמשך 40 שנה. | | **פרטיות נתונים** | 2007 - פרס הנתונים של [נטפליקס](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) נתן לחוקרים _10 מיליון דירוגי סרטים אנונימיים של 50,000 לקוחות_ לשפר אלגוריתמים של המלצות. אולם החוקרים הצליחו לקשר נתונים אנונימיים לנתונים מזהים חיצוניים (למשל IMDb), ובכך למעשה "פיצחו" את האנונימיות של מנויי נטפליקס. | | **הטיה באיסוף נתונים** | 2013 - עיריית בוסטון [פיתחה את Street Bump](https://www.boston.gov/transportation/street-bump), אפליקציה שאפשרה לתושבים לדווח על בורות בכבישים, מה שסיפק לעיר נתוני תשתיות טובים יותר. אולם, [לאנשים בקבוצות הכנסה נמוכה הייתה גישה פחותה למכוניות ולטלפונים](https://hbr.org/2013/04/the-hidden-biases-in-big-data), מה שהסתיר את הבעיות שלהם באפליקציה. המפתחים עבדו עם אקדמאים כדי לטפל בבעיות גישה שוויונית ופערים דיגיטליים למען הוגנות. | | **הוגנות אלגוריתמית** | 2018 - מחקר [Gender Shades של MIT](http://gendershades.org/overview.html) העריך דיוק מוצרי בינה מלאכותית לסיווג מגדר, וגילה פערים בדיוק עבור נשים ואנשים ממיעוטים אתניים. [כרטיס אשראי של אפל ב-2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) נראה שמעניק פחות אשראי לנשים מאשר לגברים. שני המקרים הדגימו בעיות בהטיה אלגוריתמית שהובילה לנזקים חברתיים-כלכליים. | | **ייצוג שגוי של נתונים** | 2020 - מחלקת הבריאות הציבורית של ג'ורג'יה שחררה תרשימים על COVID-19 שנראו כמטעות את האזרחים לגבי מגמות במקרים מאומתים עם סידור לא כרונולוגי בציר ה-x. זה ממחיש ייצוג שגוי באמצעות תחבולות ויזואליות. | | **הילוצית הבחירה החופשית** | 2020 - אפליקציית הלמידה ABCmouse שילמה 10 מיליון דולר [כדי להסדיר תלונה של FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) שבה הורים נלכדו בתשלומים למנויים שלא יכלו לבטל. זה ממחיש דפוסי עיצוב אפלוליים בארכיטקטורות בחירה, שבהן המשתמשים נדחקו לבחור אפשרויות שעלולות לפגוע בהם. | | **פרטיות נתונים וזכויות משתמש** | 2021 - פרצת [נתונים בפייסבוק](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) חשפה נתונים של 530 מיליון משתמשים, מה שהביא להסדר של 5 מיליארד דולר עם FTC. עם זאת, פייסבוק סירבה להודיע למשתמשים על הפרצה, בהפרת זכויות המשתמשים לשקיפות וגישה לנתונים. | רוצים ללמוד עוד מחקרי מקרה? עיינו במשאבים הבאים: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - דילמות אתיות במגוון תעשיות. * [קורס אתיקה במדעי הנתונים](https://www.coursera.org/learn/data-science-ethics#syllabus) - מחקרי מקרה מרכזיים שנחקרו. * [כאשר דברים השתבשו](https://deon.drivendata.org/examples/) - רשימת בדיקה של Deon עם דוגמאות. > 🚨 חשוב על מחקרי המקרה שראית - האם התנסית או הושפעת מאתגר אתי דומה בחייך? האם אתה יכול להעלות לפחות מחקר מקרה אחד נוסף שממחיש אחד מהאתגרים האתיים שדנו בסעיף זה? ## אתיקה יישומית דיברנו על מושגי אתיקה, אתגרים ומחקרי מקרה בהקשרים עולם אמיתי. אבל איך מתחילים _ליישם_ עקרונות ושיטות אתיות בפרויקטים שלנו? ואיך _מפעלים_ את השיטות הללו לממשל טוב יותר? בואו נבחן כמה פתרונות מהממשק המעשי: ### 1. קודים מקצועיים קודים מקצועיים מציעים אפשרות אחת לארגונים "לדרבן" חברים לתמוך בעקרונותיהם האתיים ובמשימת הארגון. הקודים הם _קווי הנחיה מוסריים_ להתנהגות מקצועית, המסייעים לעובדים ולחברים לקבל החלטות התואמות את עקרונות הארגון. הם טובים רק ככל שהציות אליהם הוא וולונטרי; אולם, ארגונים רבים מציעים תמריצים ועונשים נוספים לעידוד ציות מצד חברים. דוגמאות כוללות: * [קוד האתיקה של אוקספורד מינכן](http://www.code-of-ethics.org/code-of-conduct/) * [קוד ההתנהגות של איגוד מדעי הנתונים](http://datascienceassn.org/code-of-conduct.html) (נוצר ב-2013) * [קוד האתיקה וההתנהגות המקצועית של ACM](https://www.acm.org/code-of-ethics) (מאז 1993) > 🚨 האם אתה חבר בארגון מקצועי להנדסה או מדעי הנתונים? בדוק באתר שלהם אם הם מגדירים קוד אתיקה מקצועי. מה הדבר אומר לגבי העקרונות האתיים שלהם? איך הם "מדרבנים" חברים לקיים את הקוד? ### 2. רשימות בדיקה אתיות בעוד שקודים מקצועיים מגדירים את ההתנהגות האתית הנדרשת ממתרגלים, הם [ידועים כמוגבלים](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) באכיפה, במיוחד בפרויקטים רחבי היקף. במקום זאת, מומחי מדעי נתונים רבים [תומכים ברשימות בדיקה](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), שיכולות **לשייך עקרונות לפרקטיקות** באופן יותר ודאי ופעלתי. רשימות בדיקה ממירות שאלות למשימות "כן/לא" שניתן להפעלתן, מה שמאפשר לעקוב אחריהן כחלק מתהליכי שחרור מוצר סטנדרטיים. דוגמאות: * [Deon](https://deon.drivendata.org/) - רשימת בדיקה אתית כללית שנוצרה מתוך [המלצות אינדסטריאליות](https://deon.drivendata.org/#checklist-citations) עם כלי שורת פקודה לשילוב קל. * [רשימת בדיקה לבדיקת פרטיות](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - הנחיות כלליות לנוהגי ניהול מידע מזוויות חוקיות וחברתיות. * [רשימת בדיקה להוגנות AI](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - נוצרה על ידי מתרגלי AI לתמיכה באימוץ ובאינטגרציה של בדיקות הוגנות במחזורי פיתוח AI. * [22 שאלות לאתיקה בנתונים וב-AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - מסגרת פתוחה יותר, מובנית לחקירה התחלתית של סוגיות אתיות בעיצוב, יישום והקשרים ארגוניים. ### 3. רגולציות אתיות אתיקה עוסקת בהגדרת ערכים משותפים ובעשיית הדבר הנכון _מרצון_. **ציות** עוסק ב_קיום החוק_ במידה ובה הוא מוגדר. **ממשל** מכסה באופן רחב את כל הדרכים שבהן ארגונים פועלים לאכוף עקרונות אתיים ולעמוד בחוקים קיימים. כיום, הממשל מתבטא בשני אופנים בארגונים. ראשית, בהגדרת עקרונות **AI אתי** ובהקמת פרקטיקות להפעלת אימוץ בכל הפרויקטים הקשורים ל-AI. שנית, בקיום כל ה**רגולציות להגנת נתונים** שהן מחויבות להן באזורים שבהם הארגון פועל. דוגמאות לרגולציות פרטיות והגנת נתונים: * `1974`, [חוק הפרטיות האמריקאי](https://www.justice.gov/opcl/privacy-act-1974) - מסדיר איסוף, שימוש וחשיפת מידע אישי בממשל הפדרלי. * `1996`, [חוק HIPAA](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - מגן על מידע רפואי אישי. * `1998`, [חוק COPPA](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - מגן על פרטיות ילדים מתחת לגיל 13. * `2018`, [הרגולציה הכללית להגנת נתונים (GDPR)](https://gdpr-info.eu/) - מעניקה זכויות למשתמשים, הגנה ופרטיות נתונים. * `2018`, [חוק פרטיות הצרכנים של קליפורניה (CCPA)](https://www.oag.ca.gov/privacy/ccpa) שנותן לצרכנים יותר _זכויות_ בנוגע לנתוניהם (אישיים). * `2021`, חוק [הגנת המידע האישי של סין](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) שנחקק לאחרונה, יצר אחת הרגולציות החזקות ביותר לפרטיות נתונים באינטרנט בעולם. > 🚨 האיחוד האירופי הגדיר את GDPR (התקנות הכלליות להגנת מידע) שהוא אחת הרגולציות המשפיעות ביותר בנושא פרטיות נתונים היום. האם ידעת שהם גם מגדירים [8 זכויות למשתמשים](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) כדי להגן על פרטיות דיגיטלית ומידע אישי של האזרחים? למד מה הם ומה משמעותם. ### 4. תרבות אתית ישנו פער בלתי מוחשי בין _ציות_ (לעשות מספיק כדי לעמוד "ברוח החוק") לבין התמודדות עם [בעיות מערכתיות](https://www.coursera.org/learn/data-science-ethics/home/week/4) (כמו התכלשות, אסימטריית מידע, וחוסר הוגנות הפצה) שיכולות להאיץ את נשקיות הבינה המלאכותית. האחרון דורש [גישות שיתופיות להגדרת תרבות אתית](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) הבונות קשרים רגשיים וערכים משותפים עקביים _בין ארגונים_ בתעשייה. זה קורא ליותר [תרבויות אתיקה פורמליות](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) בארגונים - שמאפשרות ל_כל אחד_ [למשוך את חוט האנדון](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (להעלות חששות אתיים מוקדם בתהליך) ולהפוך את _הערכות האתיות_ (לדוגמה, בגיוס) לקריטריונים מרכזיים בהרכבת צוותי פרויקטים של AI. --- ## [מבחן לאחר ההרצאה](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯 ## סקירה ולמידה עצמית קורסים וספרים מסייעים בהבנת מושגי אתיקה ואתגרים מרכזיים, בעוד שמחקרי מקרה וכלים מסייעים בפרקטיקות אתיות יישומיות בהקשרים מעשיים. הנה כמה משאבים להתחלה. * [למידת מכונה למתחילים](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - שיעור על הוגנות, מאת מיקרוסופט. * [עקרונות AI אחראי](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - מסלול לימוד חינמי מ-Microsoft Learn. * [אתיקה ומדעי הנתונים](https://resources.oreilly.com/examples/0636920203964) - ספר אלקטרוני של O'Reilly (M. Loukides, H. Mason ואח'). * [אתיקה במדעי הנתונים](https://www.coursera.org/learn/data-science-ethics#syllabus) - קורס מקוון מאוניברסיטת מישיגן. * [אתיקה גלויה](https://ethicsunwrapped.utexas.edu/case-studies) - מחקרי מקרה מאוניברסיטת טקסס. # משימה [כתוב מחקר מקרה על אתיקה במדעי הנתונים](assignment.md) --- **כתב ויתור**: מסמך זה תורגם באמצעות שירות תרגום אוטומטי [Co-op Translator](https://github.com/Azure/co-op-translator). למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. יש להחשיב את המסמך המקורי בשפתו הטבעית כמקור הסמכות. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אדם. אנו לא אחראים לכל אי-הבנה או פירוש שגוי הנובע מהשימוש בתרגום זה.