|
|
|
|
@ -1,240 +1,265 @@
|
|
|
|
|
# مقدمهای بر اخلاق داده
|
|
|
|
|
# مقدمهای بر اخلاق دادهها
|
|
|
|
|
|
|
|
|
|
|](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
|:---:|
|
|
|
|
|
| اخلاق داده در علم داده - _طرحنگاری توسط [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
| اخلاق علم داده - _اسکتچنوت توسط [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
ما همه شهروندان دادهای هستیم که در دنیای دادهمحور زندگی میکنیم.
|
|
|
|
|
ما همه شهروندان دادهای هستیم که در دنیایی دادهمحور زندگی میکنیم.
|
|
|
|
|
|
|
|
|
|
روندهای بازار نشان میدهند که تا سال ۲۰۲۲، یکسوم سازمانهای بزرگ دادههای خود را از طریق [بازارها و مبادلات آنلاین](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) خرید و فروش خواهند کرد. به عنوان **توسعهدهندگان اپلیکیشن**، ما راحتتر و ارزانتر میتوانیم بینشهای مبتنی بر داده و اتوماسیون مبتنی بر الگوریتم را در تجربههای روزمره کاربران ادغام کنیم. اما با گسترش هوش مصنوعی، باید آسیبهای احتمالی ناشی از [سلاحسازی](https://www.youtube.com/watch?v=TQHs8SA1qpk) این الگوریتمها در مقیاس بزرگ را نیز درک کنیم.
|
|
|
|
|
روندهای بازار نشان میدهد که تا سال ۲۰۲۲، یکسوم سازمانهای بزرگ دادههای خود را از طریق [بازارها و صرافیهای آنلاین](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) خرید و فروش خواهند کرد. بهعنوان **توسعهدهندگان اپلیکیشن**، ادغام بینشهای مبتنی بر داده و اتوماسیون الگوریتمی در تجربههای روزمره کاربران برای ما آسانتر و ارزانتر خواهد شد. اما با فراگیر شدن هوش مصنوعی، باید آسیبهای بالقوه ناشی از [نظامیسازی](https://www.youtube.com/watch?v=TQHs8SA1qpk) این الگوریتمها در مقیاس وسیع را نیز درک کنیم.
|
|
|
|
|
|
|
|
|
|
روندها نشان میدهند که تا سال ۲۰۲۵، ما بیش از [۱۸۰ زتابایت](https://www.statista.com/statistics/871513/worldwide-data-created/) داده تولید و مصرف خواهیم کرد. برای **دانشمندان داده**، این انفجار اطلاعات دسترسی بیسابقهای به دادههای شخصی و رفتاری فراهم میکند. این قدرت ایجاد پروفایلهای دقیق کاربران و تأثیرگذاری ظریف بر تصمیمگیریها را به همراه دارد—اغلب به گونهای که [توهم انتخاب آزاد](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/) را تقویت میکند. در حالی که این میتواند کاربران را به سمت نتایج مطلوب هدایت کند، همچنین سوالات مهمی درباره حریم خصوصی دادهها، خودمختاری و مرزهای اخلاقی تأثیر الگوریتمی ایجاد میکند.
|
|
|
|
|
روندها نشان میدهد تا سال ۲۰۲۵، بیش از [۱۸۰ زتابایت](https://www.statista.com/statistics/871513/worldwide-data-created/) داده تولید و مصرف خواهیم کرد. برای **علمای داده**، این انفجار اطلاعات دسترسی بیسابقهای به دادههای شخصی و رفتاری فراهم میکند. همراه با این قدرت، توانایی ساخت پروفایلهای دقیق کاربر و تأثیر ظریف بر تصمیمگیری وجود دارد—اغلب به گونهای که [توهم انتخاب آزاد](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/) را ایجاد میکند. اگرچه این میتواند برای جهتدهی کاربران به نتایج مطلوب مورد استفاده قرار گیرد، اما پرسشهای حیاتی درباره حریم خصوصی دادهها، خودمختاری، و مرزهای اخلاقی تأثیر الگوریتمی را نیز مطرح میکند.
|
|
|
|
|
|
|
|
|
|
اخلاق داده اکنون به عنوان _محافظهای ضروری_ برای علم داده و مهندسی عمل میکند، و به ما کمک میکند آسیبهای احتمالی و پیامدهای ناخواسته ناشی از اقدامات مبتنی بر داده را به حداقل برسانیم. [چرخه هیجان گارتنر برای هوش مصنوعی](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) روندهای مرتبط با اخلاق دیجیتال، هوش مصنوعی مسئولانه و حاکمیت هوش مصنوعی را به عنوان عوامل کلیدی برای روندهای بزرگتر پیرامون _دموکراتیزهسازی_ و _صنعتیسازی_ هوش مصنوعی شناسایی میکند.
|
|
|
|
|
اخلاق داده اکنون بهعنوان _راهبندهای ضروری_ برای علم داده و مهندسی عمل میکند که به ما کمک میکند آسیبهای ممکن و پیامدهای ناخواسته از اقدامات مبتنی بر داده را کمینه کنیم. [چرخه هیجان گارتنر برای هوش مصنوعی](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) روندهای مرتبط با اخلاق دیجیتال، هوش مصنوعی مسئولانه و حاکمیت هوش مصنوعی را بهعنوان محرکهای کلید برای روندهای بزرگتری چون _دموکراتیزهسازی_ و _صنعتیسازی_ هوش مصنوعی معرفی میکند.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
در این درس، ما به بررسی حوزه جذاب اخلاق داده خواهیم پرداخت - از مفاهیم و چالشهای اصلی گرفته تا مطالعات موردی و مفاهیم کاربردی هوش مصنوعی مانند حاکمیت - که به ایجاد فرهنگ اخلاقی در تیمها و سازمانهایی که با داده و هوش مصنوعی کار میکنند کمک میکند.
|
|
|
|
|
در این درس، به بررسی زمینه جذاب اخلاق دادهها میپردازیم - از مفاهیم و چالشهای اصلی، تا مطالعات موردی و مفاهیم کاربردی هوش مصنوعی مانند حاکمیت - که به ایجاد فرهنگ اخلاقی در تیمها و سازمانهایی که با داده و هوش مصنوعی کار میکنند کمک میکند.
|
|
|
|
|
|
|
|
|
|
## [آزمون پیش از درس](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## [آزمون پیشدرس](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
|
|
|
|
|
## تعاریف پایه
|
|
|
|
|
|
|
|
|
|
بیایید با درک اصطلاحات پایه شروع کنیم.
|
|
|
|
|
|
|
|
|
|
کلمه "اخلاق" از [کلمه یونانی "ethikos"](https://en.wikipedia.org/wiki/Ethics) (و ریشه آن "ethos") به معنای _شخصیت یا طبیعت اخلاقی_ گرفته شده است.
|
|
|
|
|
کلمه «اخلاق» از [لغت یونانی "ethikos"](https://en.wikipedia.org/wiki/Ethics) (و ریشه آن "ethos") گرفته شده که به معنای _شخصیت یا طبیعت اخلاقی_ است.
|
|
|
|
|
|
|
|
|
|
**اخلاق** درباره ارزشها و اصول اخلاقی مشترک است که رفتار ما را در جامعه هدایت میکند. اخلاق بر پایه قوانین نیست بلکه بر اساس نورمهای پذیرفتهشده گسترده درباره آنچه «درست در برابر نادرست» است بنا شده. با این حال، ملاحظات اخلاقی میتوانند بر ابتکارات حاکمیت شرکتی و مقررات دولتی تاثیر گذاشته و مشوقهای بیشتری برای رعایت ایجاد کنند.
|
|
|
|
|
|
|
|
|
|
**اخلاق** درباره ارزشهای مشترک و اصول اخلاقی است که رفتار ما در جامعه را هدایت میکنند. اخلاق بر اساس قوانین نیست بلکه بر اساس هنجارهای پذیرفتهشده عمومی درباره "درست در مقابل غلط" است. با این حال، ملاحظات اخلاقی میتوانند بر ابتکارات حاکمیت شرکتی و مقررات دولتی تأثیر بگذارند که انگیزههای بیشتری برای رعایت ایجاد میکنند.
|
|
|
|
|
**اخلاق داده** شاخهای جدید از اخلاق است که «مسائل اخلاقی مربوط به _دادهها، الگوریتمها و شیوههای مربوطه_» را مطالعه و ارزیابی میکند. در اینجا، **"داده"** بر اقدامات مربوط به تولید، ثبت، گردآوری، پردازش، انتشار، اشتراکگذاری و استفاده تمرکز دارد، **"الگوریتمها"** بر هوش مصنوعی، نمایندگان، یادگیری ماشین و رباتها متمرکز است و **"شیوهها"** موضوعاتی همچون نوآوری مسئولانه، برنامهنویسی، هک و کدهای اخلاقی را شامل میشود.
|
|
|
|
|
|
|
|
|
|
**اخلاق داده** یک [شاخه جدید از اخلاق](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) است که "مشکلات اخلاقی مرتبط با _دادهها، الگوریتمها و شیوههای مربوطه_ را مطالعه و ارزیابی میکند". در اینجا، **"دادهها"** بر اقدامات مرتبط با تولید، ضبط، مدیریت، پردازش، انتشار، اشتراکگذاری و استفاده تمرکز دارند، **"الگوریتمها"** بر هوش مصنوعی، عوامل، یادگیری ماشین و رباتها تمرکز دارند، و **"شیوهها"** بر موضوعاتی مانند نوآوری مسئولانه، برنامهنویسی، هک کردن و کدهای اخلاقی تمرکز دارند.
|
|
|
|
|
**اخلاق کاربردی** اعمال عملی ملاحظات اخلاقی است. این فرایند تحقیق فعال درباره مسائل اخلاقی در زمینه _اقدامات، محصولات و فرایندهای دنیای واقعی_ و اتخاذ اقدامات اصلاحی برای اطمینان از همسویی آنها با ارزشهای اخلاقی تعریفشده ما است.
|
|
|
|
|
|
|
|
|
|
**اخلاق کاربردی** [کاربرد عملی ملاحظات اخلاقی](https://en.wikipedia.org/wiki/Applied_ethics) است. این فرآیند بررسی فعالانه مسائل اخلاقی در زمینه _اقدامات، محصولات و فرآیندهای واقعی_ و اتخاذ اقدامات اصلاحی برای اطمینان از همراستایی آنها با ارزشهای اخلاقی تعریفشده ما است.
|
|
|
|
|
**فرهنگ اخلاقی** درباره [_اجرایی کردن_ اخلاق کاربردی](https://hbr.org/2019/05/how-to-design-an-ethical-organization) است تا اطمینان حاصل شود اصول و شیوههای اخلاقی در سراسر سازمان به صورت منسجم و قابل گسترش پذیرفته میشوند. فرهنگهای موفق اخلاقی اصول اخلاقی همگانی سازمان را تعریف میکنند، مشوقهای معنیدار برای رعایت ارائه میدهند و با تشویق و تقویت رفتارهای مورد انتظار در هر سطح سازمان، هنجارهای اخلاقی را مستحکم میکنند.
|
|
|
|
|
|
|
|
|
|
**فرهنگ اخلاقی** درباره [_عملیاتی کردن_ اخلاق کاربردی](https://hbr.org/2019/05/how-to-design-an-ethical-organization) است تا اطمینان حاصل شود که اصول و شیوههای اخلاقی ما به طور مداوم و مقیاسپذیر در سراسر سازمان پذیرفته میشوند. فرهنگهای اخلاقی موفق اصول اخلاقی سازمانی را تعریف میکنند، انگیزههای معناداری برای رعایت ارائه میدهند و هنجارهای اخلاقی را با تشویق و تقویت رفتارهای مطلوب در هر سطح سازمان تقویت میکنند.
|
|
|
|
|
|
|
|
|
|
## مفاهیم اخلاقی
|
|
|
|
|
## مفاهیم اخلاق
|
|
|
|
|
|
|
|
|
|
در این بخش، ما مفاهیمی مانند **ارزشهای مشترک** (اصول) و **چالشهای اخلاقی** (مشکلات) برای اخلاق داده را بررسی خواهیم کرد - و **مطالعات موردی** را بررسی خواهیم کرد که به شما کمک میکنند این مفاهیم را در زمینههای واقعی درک کنید.
|
|
|
|
|
در این بخش، درباره مفاهیمی مانند **ارزشهای مشترک** (اصول) و **چالشهای اخلاقی** (مسائل) برای اخلاق داده صحبت میکنیم - و به **مطالعات موردی** میپردازیم که به درک شما از این مفاهیم در زمینههای واقعی کمک میکند.
|
|
|
|
|
|
|
|
|
|
### 1. اصول اخلاقی
|
|
|
|
|
### ۱. اصول اخلاقی
|
|
|
|
|
|
|
|
|
|
هر استراتژی اخلاق داده با تعریف _اصول اخلاقی_ آغاز میشود - "ارزشهای مشترک" که رفتارهای قابل قبول را توصیف میکنند و اقدامات مطابق را در پروژههای داده و هوش مصنوعی ما هدایت میکنند. شما میتوانید این اصول را در سطح فردی یا تیمی تعریف کنید. با این حال، بیشتر سازمانهای بزرگ این اصول را در قالب بیانیه مأموریت یا چارچوب _هوش مصنوعی اخلاقی_ در سطح شرکتی تعریف میکنند و به طور مداوم در سراسر تیمها اجرا میکنند.
|
|
|
|
|
هر استراتژی اخلاق داده با تعریف _اصول اخلاقی_ آغاز میشود - «ارزشهای مشترک» که رفتارهای قابل قبول را توصیف کرده و اقدامات مطابق آن را در پروژههای داده و هوش مصنوعی هدایت میکند. شما میتوانید این اصول را در سطح فردی یا تیم تعریف کنید، اما بیشتر سازمانهای بزرگ این موارد را در بیانیه ماموریت یا چارچوبی برای _هوش مصنوعی اخلاقی_ که در سطح شرکت تعریف شده و در همه تیمها به صورت یکسان اجرا میشود، بیان میکنند.
|
|
|
|
|
|
|
|
|
|
**مثال:** بیانیه مأموریت [هوش مصنوعی مسئولانه](https://www.microsoft.com/en-us/ai/responsible-ai) مایکروسافت میگوید: _"ما متعهد به پیشرفت هوش مصنوعی بر اساس اصول اخلاقی هستیم که انسانها را در اولویت قرار میدهد"_ - و ۶ اصل اخلاقی را در چارچوب زیر شناسایی میکند:
|
|
|
|
|
**مثال:** بیانیه ماموریت [هوش مصنوعی مسئولانه مایکروسافت](https://www.microsoft.com/en-us/ai/responsible-ai) میگوید: _«ما متعهد به پیشرفت هوش مصنوعی هستیم که با اصول اخلاقی که انسانها را اولویت میدهد پیش میرود»_ - و در چارچوب زیر ۶ اصل اخلاقی را معرفی میکند:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
بیایید این اصول را به طور مختصر بررسی کنیم. _شفافیت_ و _مسئولیتپذیری_ ارزشهای بنیادی هستند که سایر اصول بر اساس آنها ساخته شدهاند - بنابراین از اینجا شروع میکنیم:
|
|
|
|
|
اجازه دهید این اصول را به طور خلاصه بررسی کنیم. _شفافیت_ و _پاسخگویی_ ارزشهای بنیادینی هستند که سایر اصول بر آن بنا شدهاند—پس از آنها شروع میکنیم:
|
|
|
|
|
|
|
|
|
|
* [**مسئولیتپذیری**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) متخصصان را _مسئول_ عملیات داده و هوش مصنوعی خود و رعایت این اصول اخلاقی میکند.
|
|
|
|
|
* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اطمینان میدهد که اقدامات داده و هوش مصنوعی برای کاربران _قابل فهم_ (قابل تفسیر) هستند و توضیح میدهند که چه چیزی و چرا پشت تصمیمات قرار دارد.
|
|
|
|
|
* [**عدالت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - بر اطمینان از رفتار عادلانه هوش مصنوعی با _همه افراد_ تمرکز دارد و به هرگونه تعصب اجتماعی-فنی سیستماتیک یا ضمنی در دادهها و سیستمها میپردازد.
|
|
|
|
|
* [**قابلیت اطمینان و ایمنی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - اطمینان میدهد که هوش مصنوعی به طور _ثابت_ با ارزشهای تعریفشده رفتار میکند و آسیبهای احتمالی یا پیامدهای ناخواسته را به حداقل میرساند.
|
|
|
|
|
* [**حریم خصوصی و امنیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره درک منشأ دادهها و ارائه _حریم خصوصی داده و حفاظتهای مرتبط_ به کاربران است.
|
|
|
|
|
* [**شمولپذیری**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره طراحی راهحلهای هوش مصنوعی با قصد، و تطبیق آنها برای پاسخگویی به _طیف گستردهای از نیازها و قابلیتهای انسانی_ است.
|
|
|
|
|
* [**پاسخگویی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) باعث میشود مجریان، _مسئول_ عملیات داده و هوش مصنوعی خود و رعایت این اصول اخلاقی باشند.
|
|
|
|
|
* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اطمینان میدهد که اقدامات داده و هوش مصنوعی برای کاربران _قابل فهم_ (قابل تفسیر) است و چرایی و چیستی تصمیمات را توضیح میدهد.
|
|
|
|
|
* [**عدالت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) بر اطمینان از رفتار منصفانه هوش مصنوعی با _همه افراد_ تمرکز دارد و هرگونه تعصب سیستمی یا ضمنی اجتماعی-فنی در دادهها و سیستمها را رفع میکند.
|
|
|
|
|
* [**قابلیت اطمینان و ایمنی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) تضمین میکند که هوش مصنوعی مطابق با ارزشهای تعریفشده _به طور مداوم_ عمل کند و آسیبهای احتمالی یا پیامدهای ناخواسته را به حداقل برساند.
|
|
|
|
|
* [**حریم خصوصی و امنیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) درباره درک ردیابی دادهها و ارائه _حریم خصوصی داده و حفاظتهای مرتبط_ به کاربران است.
|
|
|
|
|
* [**شمولیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) درباره طراحی راهحلهای هوش مصنوعی با هدفمندی است، بهگونهای که آنها را برای پاسخ به _دامنه گستردهای از نیازها و توانمندیهای انسانی_ تطبیق دهد.
|
|
|
|
|
|
|
|
|
|
> 🚨 به این فکر کنید که بیانیه مأموریت اخلاق داده شما چه میتواند باشد. چارچوبهای هوش مصنوعی اخلاقی از سازمانهای دیگر را بررسی کنید - اینجا نمونههایی از [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [Google](https://ai.google/principles)، و [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) آورده شده است. چه ارزشهای مشترکی دارند؟ این اصول چگونه به محصول هوش مصنوعی یا صنعتی که در آن فعالیت میکنند مرتبط هستند؟
|
|
|
|
|
> 🚨 به بیانیه ماموریت اخلاق داده خود فکر کنید. چارچوبهای اخلاقی هوش مصنوعی دیگر سازمانها را بررسی کنید—برای مثالهایی از [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [گوگل](https://ai.google/principles) و [فیسبوک](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) اینجا آمدهاند. ارزشهای مشترک آنها چه هستند؟ این اصول چگونه به محصول یا صنعتی که در آن فعالیت میکنند مرتبط است؟
|
|
|
|
|
|
|
|
|
|
### 2. چالشهای اخلاقی
|
|
|
|
|
### ۲. چالشهای اخلاقی
|
|
|
|
|
|
|
|
|
|
پس از تعریف اصول اخلاقی، گام بعدی ارزیابی اقدامات داده و هوش مصنوعی ما است تا ببینیم آیا با آن ارزشهای مشترک همراستا هستند یا خیر. به اقدامات خود در دو دسته فکر کنید: _جمعآوری دادهها_ و _طراحی الگوریتم_.
|
|
|
|
|
وقتی اصول اخلاقی تعریف شدند، قدم بعدی ارزیابی اقدامات داده و هوش مصنوعی است تا ببینیم آیا با آن ارزشهای مشترک همسو هستند یا خیر. به اقدامات خود در دو دسته فکر کنید: _جمعآوری داده_ و _طراحی الگوریتم_.
|
|
|
|
|
|
|
|
|
|
در جمعآوری دادهها، اقدامات احتمالاً شامل **دادههای شخصی** یا اطلاعات قابل شناسایی شخصی (PII) برای افراد قابل شناسایی خواهد بود. این شامل [موارد متنوعی از دادههای غیرشخصی](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) است که _به طور جمعی_ یک فرد را شناسایی میکنند. چالشهای اخلاقی میتوانند به موضوعاتی مانند _حریم خصوصی دادهها_، _مالکیت دادهها_ و موضوعات مرتبط مانند _رضایت آگاهانه_ و _حقوق مالکیت معنوی_ برای کاربران مرتبط باشند.
|
|
|
|
|
در جمعآوری داده، احتمالاً اقدامات شامل **دادههای شخصی** یا اطلاعات شناسایی شخصی (PII) افراد زنده قابل شناسایی خواهد بود. این شامل [موارد متنوعی از دادههای غیرشخصی](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) میشود که _بهطور جمعی_ یک فرد را شناسایی میکند. چالشهای اخلاقی ممکن است به _حریم خصوصی دادهها_، _مالکیت دادهها_ و موضوعات مرتبط مانند _رضایت آگاهانه_ و _حقوق مالکیت معنوی_ برای کاربران مرتبط باشد.
|
|
|
|
|
|
|
|
|
|
در طراحی الگوریتم، اقدامات شامل جمعآوری و مدیریت **مجموعه دادهها** و سپس استفاده از آنها برای آموزش و استقرار **مدلهای داده** است که نتایج را پیشبینی میکنند یا تصمیمات را در زمینههای واقعی خودکار میکنند. چالشهای اخلاقی میتوانند از _تعصب مجموعه دادهها_، مشکلات _کیفیت دادهها_، _بیعدالتی_ و _نمایش نادرست_ در الگوریتمها ناشی شوند - از جمله برخی مسائل که ذاتاً سیستماتیک هستند.
|
|
|
|
|
در طراحی الگوریتم، اقدامات شامل جمعآوری و گردآوری **مجموعهدادهها** و سپس استفاده از آنها برای آموزش و استقرار **مدلهای دادهای** است که نتایج را پیشبینی یا تصمیمگیری در زمینههای واقعی خودکار میکنند. چالشهای اخلاقی میتوانند ناشی از _تعصب مجموعهداده_، مشکلات _کیفیت داده_، _بیعدالتی_ و _نمایش نادرست_ در الگوریتمها باشند—از جمله برخی مسائل ذاتاً سیستمی.
|
|
|
|
|
|
|
|
|
|
در هر دو مورد، چالشهای اخلاقی مناطقی را برجسته میکنند که اقدامات ما ممکن است با ارزشهای مشترک ما در تضاد باشند. برای شناسایی، کاهش، به حداقل رساندن یا حذف این نگرانیها - باید سوالات اخلاقی "بله/خیر" مرتبط با اقدامات خود را بپرسیم و سپس اقدامات اصلاحی لازم را انجام دهیم. بیایید نگاهی به برخی چالشهای اخلاقی و سوالات اخلاقی که مطرح میکنند بیندازیم:
|
|
|
|
|
در هر دو حالت، چالشهای اخلاقی زمینههایی را نشان میدهند که اقدامات ما ممکن است با ارزشهای مشترک خود در تعارض باشند. برای شناسایی، کاهش، کمینهسازی یا حذف این نگرانیها، باید پرسشهای اخلاقی «آری/خیر» مرتبط با اقدامات خود بپرسیم و سپس در صورت نیاز اقدامات اصلاحی انجام دهیم. بیایید به برخی چالشهای اخلاقی و پرسشهای اخلاقی آنها نگاهی بیندازیم:
|
|
|
|
|
|
|
|
|
|
#### 2.1 مالکیت دادهها
|
|
|
|
|
|
|
|
|
|
جمعآوری دادهها اغلب شامل دادههای شخصی است که میتواند افراد دادهشده را شناسایی کند. [مالکیت دادهها](https://permission.io/blog/data-ownership) درباره _کنترل_ و [_حقوق کاربران_](https://permission.io/blog/data-ownership) مرتبط با ایجاد، پردازش و انتشار دادهها است.
|
|
|
|
|
#### ۲.۱ مالکیت داده
|
|
|
|
|
|
|
|
|
|
سوالات اخلاقی که باید پرسیده شوند:
|
|
|
|
|
* چه کسی مالک دادهها است؟ (کاربر یا سازمان)
|
|
|
|
|
* چه حقوقی برای افراد دادهشده وجود دارد؟ (مثلاً دسترسی، حذف، قابلیت انتقال)
|
|
|
|
|
* چه حقوقی برای سازمانها وجود دارد؟ (مثلاً اصلاح نظرات مخرب کاربران)
|
|
|
|
|
جمعآوری دادهها اغلب شامل دادههای شخصی است که میتوانند موضوع داده را شناسایی کنند. [مالکیت داده](https://permission.io/blog/data-ownership) درباره _کنترل_ و [_حقوق کاربران_](https://permission.io/blog/data-ownership) مربوط به تولید، پردازش و انتشار دادهها است.
|
|
|
|
|
|
|
|
|
|
#### 2.2 رضایت آگاهانه
|
|
|
|
|
سؤالات اخلاقی که باید بپرسیم عبارتند از:
|
|
|
|
|
* مالک داده کیست؟ (کاربر یا سازمان)
|
|
|
|
|
* موضوع داده چه حقوقی دارد؟ (مثلاً دسترسی، حذف، حملونقل)
|
|
|
|
|
* سازمان چه حقوقی دارد؟ (مثلاً اصلاح نقدهای مخرب کاربران)
|
|
|
|
|
|
|
|
|
|
[رضایت آگاهانه](https://legaldictionary.net/informed-consent/) عمل موافقت کاربران با یک اقدام (مانند جمعآوری دادهها) با _درک کامل_ حقایق مرتبط از جمله هدف، خطرات احتمالی و جایگزینها را تعریف میکند.
|
|
|
|
|
#### ۲.۲ رضایت آگاهانه
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا کاربر (فرد دادهشده) اجازه جمعآوری و استفاده از دادهها را داده است؟
|
|
|
|
|
* آیا کاربر هدف از جمعآوری دادهها را درک کرده است؟
|
|
|
|
|
* آیا کاربر خطرات احتمالی ناشی از مشارکت خود را درک کرده است؟
|
|
|
|
|
[رضایت آگاهانه](https://legaldictionary.net/informed-consent/) تعریف میکند که کاربران با _درک کامل_ از حقایق مرتبط، از جمله هدف، مخاطرات احتمالی و جایگزینها، با اقدامی (مانند جمعآوری داده) موافقت میکنند.
|
|
|
|
|
|
|
|
|
|
#### 2.3 مالکیت معنوی
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا کاربر (موضوع داده) اجازه جمعآوری و استفاده از داده را داده است؟
|
|
|
|
|
* آیا کاربر هدف از جمعآوری داده را درک کرده است؟
|
|
|
|
|
* آیا کاربر خطرات احتمالی مشارکت خود را درک کرده است؟
|
|
|
|
|
|
|
|
|
|
[مالکیت معنوی](https://en.wikipedia.org/wiki/Intellectual_property) به آفرینشهای غیرملموس ناشی از ابتکار انسانی اشاره دارد که ممکن است _ارزش اقتصادی_ برای افراد یا کسبوکارها داشته باشد.
|
|
|
|
|
#### ۲.۳ مالکیت معنوی
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا دادههای جمعآوریشده ارزش اقتصادی برای یک کاربر یا کسبوکار دارند؟
|
|
|
|
|
* آیا **کاربر** مالکیت معنوی در اینجا دارد؟
|
|
|
|
|
* آیا **سازمان** مالکیت معنوی در اینجا دارد؟
|
|
|
|
|
* اگر این حقوق وجود دارند، چگونه آنها را محافظت میکنیم؟
|
|
|
|
|
[مالکیت معنوی](https://en.wikipedia.org/wiki/Intellectual_property) به آثار نامشهود ناشی از ابتکار انسانی اشاره دارد که ممکن است برای افراد یا کسبوکارها _ارزش اقتصادی_ داشته باشد.
|
|
|
|
|
|
|
|
|
|
#### 2.4 حریم خصوصی دادهها
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا دادههای جمعآوری شده برای کاربر یا کسبوکاری ارزش اقتصادی داشته است؟
|
|
|
|
|
* آیا **کاربر** مالکیت معنوی دارد؟
|
|
|
|
|
* آیا **سازمان** مالکیت معنوی دارد؟
|
|
|
|
|
* اگر چنین حقوقی وجود دارد، چگونه از آنها محافظت میکنیم؟
|
|
|
|
|
|
|
|
|
|
[حریم خصوصی دادهها](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) یا حریم اطلاعات به حفظ حریم خصوصی کاربران و حفاظت از هویت کاربران در ارتباط با اطلاعات قابل شناسایی شخصی اشاره دارد.
|
|
|
|
|
#### ۲.۴ حریم خصوصی دادهها
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا دادههای (شخصی) کاربران در برابر هکها و نشتها ایمن هستند؟
|
|
|
|
|
* آیا دادههای کاربران فقط برای کاربران و زمینههای مجاز قابل دسترسی هستند؟
|
|
|
|
|
* آیا ناشناس بودن کاربران هنگام اشتراکگذاری یا انتشار دادهها حفظ میشود؟
|
|
|
|
|
* آیا میتوان یک کاربر را از مجموعه دادههای ناشناس شناسایی کرد؟
|
|
|
|
|
[حریم خصوصی داده](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) یا حریم خصوصی اطلاعات به حفظ حریم خصوصی کاربران و حفاظت از هویت کاربران نسبت به اطلاعات شخصی قابل شناسایی اشاره دارد.
|
|
|
|
|
|
|
|
|
|
#### 2.5 حق فراموش شدن
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا دادههای (شخصی) کاربران در برابر هک و درز محافظت شده است؟
|
|
|
|
|
* آیا دادههای کاربران فقط برای کاربران و زمینههای مجاز قابل دسترسی است؟
|
|
|
|
|
* آیا ناشناسی کاربران هنگام به اشتراکگذاری یا انتشار داده حفظ میشود؟
|
|
|
|
|
* آیا میتوان کاربر را از مجموعهدادههای ناشناس شناسایی کرد؟
|
|
|
|
|
|
|
|
|
|
[حق فراموش شدن](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حق حذف](https://www.gdpreu.org/right-to-be-forgotten/) حفاظت اضافی از دادههای شخصی را برای کاربران فراهم میکند. به طور خاص، این حق به کاربران اجازه میدهد درخواست حذف یا حذف دادههای شخصی از جستجوهای اینترنتی و مکانهای دیگر را _تحت شرایط خاص_ بدهند - به آنها اجازه میدهد یک شروع تازه آنلاین داشته باشند بدون اینکه اقدامات گذشته علیه آنها استفاده شود.
|
|
|
|
|
#### ۲.۵ حق فراموش شدن
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا سیستم اجازه میدهد افراد دادهشده درخواست حذف کنند؟
|
|
|
|
|
* آیا باید انصراف کاربر از رضایت باعث حذف خودکار شود؟
|
|
|
|
|
* آیا دادهها بدون رضایت یا به روشهای غیرقانونی جمعآوری شدهاند؟
|
|
|
|
|
* آیا ما با مقررات دولتی برای حریم خصوصی دادهها مطابقت داریم؟
|
|
|
|
|
[حق فراموش شدن](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حق حذف](https://www.gdpreu.org/right-to-be-forgotten/) محافظت اضافی از دادههای شخصی به کاربران میدهد. به طور خاص، این حق به کاربران اجازه میدهد حذف یا پاکسازی دادههای شخصی از جستجوهای اینترنتی و مکانهای دیگر را درخواست کنند، _در شرایط خاص_ - که امکان شروع تازه آنلاین بدون اینکه اقدامات گذشته علیه آنها استفاده شود را فراهم میکند.
|
|
|
|
|
|
|
|
|
|
#### 2.6 تعصب مجموعه دادهها
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا سیستم به موضوعان داده اجازه درخواست حذف میدهد؟
|
|
|
|
|
* آیا پس گرفتن رضایت کاربر باید پاکسازی خودکار را فعال کند؟
|
|
|
|
|
* آیا داده بهصورت غیرقانونی یا بدون رضایت جمعآوری شده است؟
|
|
|
|
|
* آیا ما با مقررات دولتی برای حفظ حریم خصوصی دادهها منطبق هستیم؟
|
|
|
|
|
|
|
|
|
|
تعصب مجموعه دادهها یا [تعصب جمعآوری](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) درباره انتخاب یک زیرمجموعه _غیرنماینده_ از دادهها برای توسعه الگوریتم است که ممکن است منجر به نتایج ناعادلانه برای گروههای مختلف شود. انواع تعصب شامل تعصب انتخاب یا نمونهگیری، تعصب داوطلبانه و تعصب ابزار است.
|
|
|
|
|
#### ۲.۶ تعصب مجموعهداده
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا ما یک مجموعه نماینده از افراد دادهشده را انتخاب کردهایم؟
|
|
|
|
|
* آیا مجموعه دادههای جمعآوریشده یا مدیریتشده خود را برای انواع مختلف تعصب آزمایش کردهایم؟
|
|
|
|
|
* آیا میتوانیم هرگونه تعصب کشفشده را کاهش دهیم یا حذف کنیم؟
|
|
|
|
|
تعصب مجموعهداده یا [تعصب در جمعآوری داده](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) مربوط به انتخاب زیرمجموعهای _غیرنماینده_ از دادهها برای توسعه الگوریتم است که در نتیجه، ناعادلانه بودن احتمالی نتایج برای گروههای مختلف ایجاد میکند. انواع تعصب شامل تعصب نمونهگیری، تعصب داوطلبانه و تعصب ابزار است.
|
|
|
|
|
|
|
|
|
|
#### 2.7 کیفیت دادهها
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا مجموعه نمایندهای از موضوعان داده را جذب کردهایم؟
|
|
|
|
|
* آیا مجموعه دادههای گردآوری یا گردآوریشده را از نظر تعصبات مختلف آزمایش کردهایم؟
|
|
|
|
|
* آیا میتوانیم هر گونه تعصب کشفشده را کاهش یا حذف کنیم؟
|
|
|
|
|
|
|
|
|
|
[کیفیت دادهها](https://lakefs.io/data-quality-testing/) به اعتبار مجموعه دادههای مدیریتشده که برای توسعه الگوریتمهای ما استفاده میشود نگاه میکند، و بررسی میکند که آیا ویژگیها و رکوردها الزامات سطح دقت و سازگاری مورد نیاز برای هدف هوش مصنوعی ما را برآورده میکنند یا خیر.
|
|
|
|
|
#### ۲.۷ کیفیت داده
|
|
|
|
|
|
|
|
|
|
سوالاتی که باید بررسی شوند:
|
|
|
|
|
* آیا ما ویژگیهای معتبر برای مورد استفاده خود را جمعآوری کردهایم؟
|
|
|
|
|
* آیا دادهها به طور _سازگار_ در منابع داده مختلف جمعآوری شدهاند؟
|
|
|
|
|
* آیا مجموعه داده برای شرایط یا سناریوهای مختلف _کامل_ است؟
|
|
|
|
|
* آیا اطلاعات بهطور _دقیق_ واقعیت را منعکس میکند؟
|
|
|
|
|
[کیفیت داده](https://lakefs.io/data-quality-testing/) به اعتبار مجموعه داده گردآوریشده برای توسعه الگوریتمها میپردازد و بررسی میکند که آیا ویژگیها و رکوردها الزامات دقت و سازگاری لازم برای هدف هوش مصنوعی ما را دارند یا خیر.
|
|
|
|
|
|
|
|
|
|
#### 2.8 عدالت الگوریتمی
|
|
|
|
|
سؤالات قابل بررسی عبارتند از:
|
|
|
|
|
* آیا ویژگیهای معتبر برای مورد استفاده خود ثبت کردهایم؟
|
|
|
|
|
* آیا دادهها بهطور _مداوم_ از منابع داده متنوع جمعآوری شدهاند؟
|
|
|
|
|
* آیا مجموعهداده برای شرایط یا سناریوهای گوناگون _کامل_ است؟
|
|
|
|
|
* آیا اطلاعات به دقت واقعیت را منعکس میکنند؟
|
|
|
|
|
|
|
|
|
|
[عدالت الگوریتمی](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) بررسی میکند که آیا طراحی الگوریتم بهطور سیستماتیک علیه گروههای خاصی از افراد تبعیض قائل میشود و منجر به [آسیبهای احتمالی](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) در _تخصیص_ (جایی که منابع از آن گروه محروم یا withheld میشوند) و _کیفیت خدمات_ (جایی که دقت هوش مصنوعی برای برخی گروهها کمتر از دیگران است) میشود.
|
|
|
|
|
#### ۲.۸ انصاف الگوریتمی
|
|
|
|
|
|
|
|
|
|
سؤالاتی که باید در اینجا بررسی شوند:
|
|
|
|
|
* آیا دقت مدل را برای گروهها و شرایط متنوع ارزیابی کردیم؟
|
|
|
|
|
* آیا سیستم را برای آسیبهای احتمالی (مانند کلیشهسازی) بررسی کردیم؟
|
|
|
|
|
* آیا میتوانیم دادهها را اصلاح کنیم یا مدلها را دوباره آموزش دهیم تا آسیبهای شناساییشده را کاهش دهیم؟
|
|
|
|
|
[انصاف الگوریتمی](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) بررسی میکند که آیا طراحی الگوریتم به شکل سیستماتیک علیه زیردستههای خاصی از دادهها تبعیض قائل میشود که منجر به [ضررهای احتمالی](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) در _تخصیص_ (جایی که منابع از آن گروه محروم یا دریغ میشود) و _کیفیت خدمات_ (جایی که هوش مصنوعی برای برخی زیردستهها به اندازه دیگران دقیق نیست) میشود.
|
|
|
|
|
|
|
|
|
|
منابعی مانند [چکلیستهای عدالت هوش مصنوعی](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) را برای یادگیری بیشتر بررسی کنید.
|
|
|
|
|
سؤالاتی که در اینجا باید بررسی شوند عبارتند از:
|
|
|
|
|
* آیا دقت مدل را برای زیردستهها و شرایط متنوع ارزیابی کردهایم؟
|
|
|
|
|
* آیا سیستم را برای احتمال بروز آسیبها (مثلا کلیشهسازی) بررسی کردهایم؟
|
|
|
|
|
* آیا میتوانیم دادهها را بازبینی یا مدلها را دوباره آموزش دهیم تا آسیبهای شناسایی شده کاهش یابند؟
|
|
|
|
|
|
|
|
|
|
#### 2.9 تحریف اطلاعات
|
|
|
|
|
برای یادگیری بیشتر منابعی مانند [فهرستهای بررسی انصاف هوش مصنوعی](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) را بررسی کنید.
|
|
|
|
|
|
|
|
|
|
[تحریف دادهها](https://www.sciencedirect.com/topics/computer-science/misrepresentation) به این موضوع میپردازد که آیا ما بینشهای حاصل از دادههای گزارششده صادقانه را بهگونهای فریبنده برای حمایت از یک روایت مطلوب منتقل میکنیم.
|
|
|
|
|
#### ۲.۹ نشان دادن نادرست دادهها
|
|
|
|
|
|
|
|
|
|
سؤالاتی که باید در اینجا بررسی شوند:
|
|
|
|
|
* آیا دادههای ناقص یا نادرست را گزارش میدهیم؟
|
|
|
|
|
* آیا دادهها را بهگونهای بصریسازی میکنیم که منجر به نتیجهگیریهای گمراهکننده شود؟
|
|
|
|
|
* آیا از تکنیکهای آماری انتخابی برای دستکاری نتایج استفاده میکنیم؟
|
|
|
|
|
* آیا توضیحات جایگزینی وجود دارد که ممکن است نتیجه متفاوتی ارائه دهد؟
|
|
|
|
|
[نمایش نادرست دادهها](https://www.sciencedirect.com/topics/computer-science/misrepresentation) مربوط به این است که آیا ما بینشهای دادههای صادقانه گزارش شده را به گونهای فریبنده ارائه میکنیم تا روایت مورد نظر را پشتیبانی کنیم.
|
|
|
|
|
|
|
|
|
|
#### 2.10 انتخاب آزاد
|
|
|
|
|
سؤالاتی که در اینجا باید بررسی شوند عبارتند از:
|
|
|
|
|
* آیا دادههای ناقص یا نادرست گزارش میکنیم؟
|
|
|
|
|
* آیا دادهها را به گونهای مصور میکنیم که به نتایج گمراهکننده منجر شود؟
|
|
|
|
|
* آیا از تکنیکهای آماری انتخابی برای دستکاری نتایج استفاده میکنیم؟
|
|
|
|
|
* آیا توضیحات جایگزینی وجود دارد که ممکن است نتیجه متفاوتی ارائه دهد؟
|
|
|
|
|
|
|
|
|
|
[توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) زمانی رخ میدهد که "معماری انتخاب" سیستم از الگوریتمهای تصمیمگیری برای هدایت افراد به سمت یک نتیجه ترجیحی استفاده میکند، در حالی که به نظر میرسد به آنها گزینهها و کنترل داده شده است. این [الگوهای تاریک](https://www.darkpatterns.org/) میتوانند به کاربران آسیبهای اجتماعی و اقتصادی وارد کنند. از آنجا که تصمیمات کاربران بر پروفایلهای رفتاری تأثیر میگذارد، این اقدامات ممکن است انتخابهای آینده را تقویت یا گسترش دهد و تأثیر این آسیبها را افزایش دهد.
|
|
|
|
|
#### ۲.۱۰ توهم انتخاب آزاد
|
|
|
|
|
[توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) زمانی رخ میدهد که «معماریهای انتخاب» سیستم از الگوریتمهای تصمیمگیری برای سوق دادن افراد به سمت یک نتیجه ترجیحی استفاده میکنند در حالی که به نظر میرسد به آنها گزینهها و کنترل میدهند. این [الگوهای تاریک](https://www.darkpatterns.org/) میتوانند به کاربران آسیبهای اجتماعی و اقتصادی وارد کنند. چون تصمیمات کاربران بر پروفایلهای رفتاری تأثیر میگذارد، این اقدامات میتوانند انتخابهای آینده را تحریک کنند که ممکن است تأثیر این آسیبها را تقویت یا گسترش دهند.
|
|
|
|
|
|
|
|
|
|
سؤالاتی که باید در اینجا بررسی شوند:
|
|
|
|
|
* آیا کاربر پیامدهای انتخاب خود را درک کرده است؟
|
|
|
|
|
* آیا کاربر از گزینههای (جایگزین) و مزایا و معایب هر یک آگاه بوده است؟
|
|
|
|
|
* آیا کاربر میتواند یک انتخاب خودکار یا تحت تأثیر قرار گرفته را بعداً تغییر دهد؟
|
|
|
|
|
سؤالاتی که در اینجا باید بررسی شوند عبارتند از:
|
|
|
|
|
* آیا کاربر پیامدهای انتخاب آن گزینه را درک کرد؟
|
|
|
|
|
* آیا کاربر از انتخابهای (جایگزین) و مزایا و معایب هر کدام آگاه بود؟
|
|
|
|
|
* آیا کاربر میتواند انتخاب خودکار یا تحت تأثیر قرار گرفته را بعداً معکوس کند؟
|
|
|
|
|
|
|
|
|
|
### 3. مطالعات موردی
|
|
|
|
|
### ۳. مطالعات موردی
|
|
|
|
|
|
|
|
|
|
برای قرار دادن این چالشهای اخلاقی در زمینههای واقعی، کمک میکند که به مطالعات موردی نگاه کنیم که آسیبها و پیامدهای احتمالی برای افراد و جامعه را نشان میدهند، زمانی که چنین نقضهای اخلاقی نادیده گرفته شوند.
|
|
|
|
|
برای قرار دادن این چالشهای اخلاقی در زمینههای واقعی، کمک میکند مطالعات موردی را نگاه کنیم که به آسیبها و پیامدهای احتمالی برای افراد و جامعه، وقتی که این نقضهای اخلاقی نادیده گرفته شوند، میپردازند.
|
|
|
|
|
|
|
|
|
|
در اینجا چند مثال آورده شده است:
|
|
|
|
|
در اینجا چند مثال آمده است:
|
|
|
|
|
|
|
|
|
|
| چالش اخلاقی | مطالعه موردی |
|
|
|
|
|
| چالش اخلاقی | مطالعه موردی |
|
|
|
|
|
|--- |--- |
|
|
|
|
|
| **رضایت آگاهانه** | 1972 - [مطالعه سیفلیس توسکیگی](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - به مردان آفریقایی-آمریکایی که در این مطالعه شرکت کردند وعده مراقبت پزشکی رایگان داده شد، _اما توسط محققان فریب داده شدند_ که به آنها در مورد تشخیص بیماری یا در دسترس بودن درمان اطلاع ندادند. بسیاری از شرکتکنندگان جان خود را از دست دادند و شرکا یا فرزندان آنها تحت تأثیر قرار گرفتند؛ این مطالعه 40 سال طول کشید. |
|
|
|
|
|
| **حریم خصوصی دادهها** | 2007 - [جایزه دادههای نتفلیکس](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) به محققان _10 میلیون رتبهبندی فیلم ناشناس از 50 هزار مشتری_ ارائه داد تا الگوریتمهای توصیه را بهبود دهند. با این حال، محققان توانستند دادههای ناشناس را با دادههای قابلشناسایی شخصی در _مجموعههای داده خارجی_ (مانند نظرات IMDb) مرتبط کنند - بهطور مؤثر برخی از مشترکان نتفلیکس را "غیرناشناس" کردند.|
|
|
|
|
|
| **تعصب در جمعآوری دادهها** | 2013 - شهر بوستون [اپلیکیشن Street Bump](https://www.boston.gov/transportation/street-bump) را توسعه داد که به شهروندان اجازه میداد چالهها را گزارش دهند و به شهر دادههای بهتر جادهای برای یافتن و رفع مشکلات ارائه دهد. با این حال، [افراد در گروههای کمدرآمد دسترسی کمتری به خودروها و تلفنها داشتند](https://hbr.org/2013/04/the-hidden-biases-in-big-data)، که مشکلات جادهای آنها را در این اپلیکیشن نامرئی میکرد. توسعهدهندگان با دانشگاهیان برای حل مسائل _دسترسی عادلانه و شکافهای دیجیتال_ همکاری کردند. |
|
|
|
|
|
| **عدالت الگوریتمی** | 2018 - مطالعه [Gender Shades](http://gendershades.org/overview.html) MIT دقت محصولات هوش مصنوعی در طبقهبندی جنسیت را ارزیابی کرد و شکافهای دقت برای زنان و افراد رنگینپوست را آشکار کرد. یک [کارت اپل 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) به نظر میرسید که اعتبار کمتری به زنان نسبت به مردان ارائه میدهد. هر دو مسائل تعصب الگوریتمی را نشان دادند که منجر به آسیبهای اجتماعی-اقتصادی میشود.|
|
|
|
|
|
| **تحریف دادهها** | 2020 - [وزارت بهداشت جورجیا نمودارهای COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) منتشر کرد که به نظر میرسید شهروندان را در مورد روند موارد تأییدشده با ترتیب غیرزمانی در محور x گمراه کند. این مثال تحریف از طریق ترفندهای بصریسازی را نشان میدهد. |
|
|
|
|
|
| **توهم انتخاب آزاد** | 2020 - اپلیکیشن یادگیری [ABCmouse برای حل شکایت FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) 10 میلیون دلار پرداخت کرد، جایی که والدین مجبور به پرداخت اشتراکهایی شدند که نمیتوانستند لغو کنند. این مثال الگوهای تاریک در معماری انتخاب را نشان میدهد، جایی که کاربران به سمت انتخابهای بالقوه مضر هدایت شدند. |
|
|
|
|
|
| **حریم خصوصی دادهها و حقوق کاربران** | 2021 - [نقص دادههای فیسبوک](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) دادههای 530 میلیون کاربر را افشا کرد و منجر به تسویه 5 میلیارد دلاری با FTC شد. با این حال، فیسبوک از اطلاعرسانی به کاربران در مورد نقص خودداری کرد و حقوق کاربران در مورد شفافیت دادهها و دسترسی را نقض کرد. |
|
|
|
|
|
|
|
|
|
|
میخواهید مطالعات موردی بیشتری را بررسی کنید؟ این منابع را بررسی کنید:
|
|
|
|
|
| **رضایت آگاهانه** | ۱۹۷۲ - [مطالعه سیفلیس توسکیگی](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - مردان آفریقایی آمریکایی که در این مطالعه شرکت کردند، مراقبت پزشکی رایگان _وعده داده شده_ دریافت کردند اما توسط پژوهشگران فریب داده شدند که از تشخیص بیماری یا در دسترس بودن درمان مطلع نشدند. بسیاری از شرکتکنندگان فوت کردند و همسران یا فرزندانشان تحت تاثیر قرار گرفتند؛ این مطالعه ۴۰ سال طول کشید. |
|
|
|
|
|
| **حریم خصوصی دادهها** | ۲۰۰۷ - جایزه داده نتفلیکس [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) به پژوهشگران _۱۰ میلیون رتبهبندی فیلم ناشناس از ۵۰ هزار مشتری_ را داد تا به بهبود الگوریتمهای پیشنهاد کمک کند. اما پژوهشگران توانستند دادههای ناشناس را با دادههای شخصی در _مجموعه دادههای خارجی_ (مثلا نظرات IMDb) مرتبط کنند و عملاً برخی از مشترکان نتفلیکس را "ناشناسزدایی" کنند.|
|
|
|
|
|
| **سوگیری جمعآوری داده** | ۲۰۱۳ - شهر بوستون [اپلیکیشن Street Bump](https://www.boston.gov/transportation/street-bump) را توسعه داد که به شهروندان اجازه میداد چالههای جادهای را گزارش کنند و دادههای جادهای بهتری برای شناسایی و رفع مشکلات پیدا شود. اما [افراد گروههای درآمد پایینتر کمتر به خودرو و تلفن دسترسی داشتند](https://hbr.org/2013/04/the-hidden-biases-in-big-data) و مشکلات جادهای آنها در این اپلیکیشن نامرئی بود. توسعهدهندگان با دانشگاهیان برای مسئلههای _دسترسی عادلانه و شکافهای دیجیتال_ همکاری کردند تا انصاف رعایت شود. |
|
|
|
|
|
| **انصاف الگوریتمی** | ۲۰۱۸ - مطالعه [Gender Shades MIT](http://gendershades.org/overview.html) دقت محصولات هوش مصنوعی طبقهبندی جنسیت را ارزیابی کرد و شکافهایی در دقت برای زنان و افراد رنگینپوست نشان داد. [کارت اعتباری اپل ۲۰۱۹](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) به زنان نسبت به مردان اعتبار کمتری میداد. هر دو مورد مسائل سوگیری الگوریتمی را نشان میدادند که به آسیبهای اجتماعی و اقتصادی منجر میشد.|
|
|
|
|
|
| **نمایش نادرست دادهها** | ۲۰۲۰ - [وزارت بهداشت جورجیا نمودارهای کووید-۱۹](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) را منتشر کرد که به شهروندان درباره روند موارد تایید شده گمراهکننده نشان داده شد با ترتیب نامرتب زمانی در محور x. این نشاندهنده نمایش نادرست با ترفندهای تصویری است. |
|
|
|
|
|
| **توهم انتخاب آزاد** | ۲۰۲۰ - اپلیکیشن آموزشی [ABCmouse مبلغ ۱۰ میلیون دلار برای حل اختلاف FTC پرداخت](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) که والدین در اشتراکهایی گیر کرده بودند که نمیتوانستند لغو کنند. این نشاندهنده الگوهای تاریک در معماریهای انتخاب است که کاربران به سمت انتخابهای احتمالا مضر سوق داده شدند. |
|
|
|
|
|
| **حریم خصوصی داده و حقوق کاربران** | ۲۰۲۱ - [نشت دادههای فیسبوک](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) دادههای ۵۳۰ میلیون کاربر را افشا کرد که منجر به توافق ۵ میلیارد دلاری با FTC شد. اما فیسبوک از اطلاعرسانی به کاربران درباره نشت خودداری کرد و حقوق کاربران در زمینه شفافیت داده و دسترسی را نقض کرد. |
|
|
|
|
|
|
|
|
|
|
میخواهید مطالعات موردی بیشتری بررسی کنید؟ این منابع را ببینید:
|
|
|
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - معضلات اخلاقی در صنایع مختلف.
|
|
|
|
|
* [دوره اخلاق در علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - مطالعات موردی برجسته بررسی شده.
|
|
|
|
|
* [جایی که مسائل اشتباه پیش رفتهاند](https://deon.drivendata.org/examples/) - چکلیست Deon با مثالها.
|
|
|
|
|
* [دوره اخلاق دادهکاوی](https://www.coursera.org/learn/data-science-ethics#syllabus) - مطالعات موردی شاخص بررسی شده.
|
|
|
|
|
* [جایی که مشکلات رخ داده است](https://deon.drivendata.org/examples/) - فهرست بررسی deon با مثالها
|
|
|
|
|
|
|
|
|
|
> 🚨 به مطالعات موردی که دیدهاید فکر کنید - آیا شما تجربه یا تحت تأثیر چالش اخلاقی مشابهی در زندگی خود قرار گرفتهاید؟ آیا میتوانید حداقل یک مطالعه موردی دیگر را که یکی از چالشهای اخلاقی مورد بحث در این بخش را نشان میدهد، به یاد بیاورید؟
|
|
|
|
|
> 🚨 به مطالعات موردی که دیدهاید فکر کنید - آیا شما تجربه کردهاید یا تحت تاثیر یک چالش اخلاقی مشابه در زندگی خود بودهاید؟ آیا میتوانید حداقل یک مطالعه موردی دیگر ذکر کنید که یکی از چالشهای اخلاقی مطرح شده در این بخش را نشان دهد؟
|
|
|
|
|
|
|
|
|
|
## اخلاق کاربردی
|
|
|
|
|
|
|
|
|
|
ما درباره مفاهیم اخلاقی، چالشها و مطالعات موردی در زمینههای واقعی صحبت کردیم. اما چگونه میتوانیم اصول و شیوههای اخلاقی را در پروژههای خود _اعمال_ کنیم؟ و چگونه میتوانیم این شیوهها را برای حکمرانی بهتر _عملیاتی_ کنیم؟ بیایید برخی از راهحلهای واقعی را بررسی کنیم:
|
|
|
|
|
ما درباره مفاهیم اخلاق، چالشها و مطالعات موردی در زمینههای واقعی صحبت کردیم. اما چگونه میتوانیم اصول و شیوههای اخلاقی را در پروژههایمان _به کار ببریم_؟ و چگونه میتوانیم این شیوهها را برای حاکمیت بهتر _عملی کنیم_؟ بیایید چند راهحل دنیای واقعی را بررسی کنیم:
|
|
|
|
|
|
|
|
|
|
### ۱. کدهای حرفهای
|
|
|
|
|
|
|
|
|
|
کدهای حرفهای گزینهای برای سازمانها هستند تا اعضا را به حمایت از اصول اخلاقی و بیانیه ماموریت خود «ترغیب» کنند. کدها راهنماییهای _اخلاقی_ برای رفتار حرفهای هستند که به کارکنان یا اعضا کمک میکنند تصمیماتی اتخاذ کنند که با اصول سازمانشان همراستا باشد. این کدها به میزان پایبندی داوطلبانه اعضا کارایی دارند؛ اما بسیاری از سازمانها جوایز و جریمههای اضافی برای ترغیب اعضا به رعایت کد ارائه میدهند.
|
|
|
|
|
|
|
|
|
|
نمونهها شامل:
|
|
|
|
|
|
|
|
|
|
### 1. کدهای حرفهای
|
|
|
|
|
* [کد اخلاق آکسفورد مونیخ](http://www.code-of-ethics.org/code-of-conduct/)
|
|
|
|
|
* [کد رفتار انجمن دادهکاوی](http://datascienceassn.org/code-of-conduct.html) (ساخته شده در ۲۰۱۳)
|
|
|
|
|
* [کد اخلاق و رفتار حرفهای ACM](https://www.acm.org/code-of-ethics) (از ۱۹۹۳)
|
|
|
|
|
|
|
|
|
|
کدهای حرفهای یک گزینه برای سازمانها ارائه میدهند تا اعضای خود را "تشویق" کنند که از اصول اخلاقی و بیانیه مأموریت آنها حمایت کنند. کدها _راهنمای اخلاقی_ برای رفتار حرفهای هستند که به کارکنان یا اعضا کمک میکنند تصمیماتی بگیرند که با اصول سازمانشان همسو باشد. آنها تنها به اندازه رعایت داوطلبانه اعضا مؤثر هستند؛ با این حال، بسیاری از سازمانها پاداشها و مجازاتهای اضافی برای انگیزه دادن به اعضا برای رعایت کدها ارائه میدهند.
|
|
|
|
|
> 🚨 آیا عضو سازمان مهندسی یا دادهکاوی حرفهای هستید؟ سایت آنها را بررسی کنید تا ببینید آیا کد اخلاقی حرفهای تعریف کردهاند؟ این درباره اصول اخلاقی آنها چه میگوید؟ چگونه اعضا را برای پیروی از کد «ترغیب» میکنند؟
|
|
|
|
|
|
|
|
|
|
نمونهها شامل موارد زیر هستند:
|
|
|
|
|
### ۲. فهرستهای بررسی اخلاق
|
|
|
|
|
|
|
|
|
|
* [کد اخلاق آکسفورد مونیخ](http://www.code-of-ethics.org/code-of-conduct/)
|
|
|
|
|
* [کد رفتار انجمن علم داده](http://datascienceassn.org/code-of-conduct.html) (ایجاد شده در 2013)
|
|
|
|
|
* [کد اخلاق و رفتار حرفهای ACM](https://www.acm.org/code-of-ethics) (از سال 1993)
|
|
|
|
|
در حالی که کدهای حرفهای رفتار _اخلاقی_ الزامی از طرف متخصصان را تعریف میکنند، [محدودیتهای شناخته شده](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) در اجرای آنها وجود دارد، خصوصا در پروژههای بزرگمقیاس. به جای آن، بسیاری از کارشناسان دادهکاوی [فهرستهای بررسی](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) را ترویج میکنند که میتوانند **اصلها را به شیوههای عملی و قابل اجرا وصل کنند**.
|
|
|
|
|
|
|
|
|
|
> 🚨 آیا شما عضو یک سازمان حرفهای مهندسی یا علم داده هستید؟ سایت آنها را بررسی کنید تا ببینید آیا کد اخلاق حرفهای تعریف کردهاند. این کد درباره اصول اخلاقی آنها چه میگوید؟ چگونه اعضا را "تشویق" میکنند که از کد پیروی کنند؟
|
|
|
|
|
فهرستهای بررسی پرسشها را به وظایف «بلی/خیر» تبدیل میکنند که میتوان آنها را عملیاتی کرد و امکان پیگیری آنها را به عنوان بخشی از گردش کار استاندارد عرضه محصول فراهم میکنند.
|
|
|
|
|
|
|
|
|
|
### 2. چکلیستهای اخلاقی
|
|
|
|
|
نمونهها شامل:
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - فهرست بررسی اخلاق داده عمومی با ابزاری خط فرمان برای ادغام آسان، ساخته شده از [توصیههای صنعتی](https://deon.drivendata.org/#checklist-citations).
|
|
|
|
|
* [فهرست بررسی حسابرسی حریم خصوصی](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - راهنمای کلی برای رویههای مدیریت اطلاعات از منظر حقوقی و اجتماعی.
|
|
|
|
|
* [فهرست بررسی انصاف هوش مصنوعی](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - توسط متخصصین هوش مصنوعی ایجاد شده برای حمایت از پذیرش و یکپارچهسازی بررسیهای انصاف در چرخههای توسعه AI.
|
|
|
|
|
* [۲۲ سوال برای اخلاق در داده و AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - چهارچوب بازتر، ساختاربندی شده برای کاوش ابتدایی مسائل اخلاقی در طراحی، اجرا و زمینههای سازمانی.
|
|
|
|
|
|
|
|
|
|
در حالی که کدهای حرفهای رفتار _اخلاقی مورد نیاز_ از متخصصان را تعریف میکنند، آنها [محدودیتهای شناختهشدهای](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) در اجرا دارند، بهویژه در پروژههای بزرگمقیاس. در عوض، بسیاری از متخصصان علم داده [از چکلیستها حمایت میکنند](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) که میتوانند **اصول را به شیوهها** بهطور قطعی و قابلاجرا متصل کنند.
|
|
|
|
|
### ۳. مقررات اخلاق
|
|
|
|
|
|
|
|
|
|
چکلیستها سؤالات را به وظایف "بله/خیر" تبدیل میکنند که میتوانند عملیاتی شوند و بهعنوان بخشی از جریانهای کاری استاندارد انتشار محصول ردیابی شوند.
|
|
|
|
|
اخلاق درباره تعریف ارزشهای مشترک و انجام کار درست _داوطلبانه_ است. **انطباق** یعنی دنبال کردن قانون اگر و هر جا که تعریف شده باشد. **حاکمیت** به طور کلی شامل تمامی روشهایی است که سازمانها برای اجرای اصول اخلاقی و پایبندی به قانونهای مصوب عمل میکنند.
|
|
|
|
|
|
|
|
|
|
نمونهها شامل موارد زیر هستند:
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - یک چکلیست اخلاق داده عمومی که از [توصیههای صنعتی](https://deon.drivendata.org/#checklist-citations) ایجاد شده است و دارای ابزار خط فرمان برای ادغام آسان است.
|
|
|
|
|
* [چکلیست ممیزی حریم خصوصی](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - راهنمایی کلی برای شیوههای مدیریت اطلاعات از دیدگاههای قانونی و اجتماعی ارائه میدهد.
|
|
|
|
|
* [چکلیست عدالت هوش مصنوعی](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - توسط متخصصان هوش مصنوعی ایجاد شده است تا از پذیرش و ادغام بررسیهای عدالت در چرخههای توسعه هوش مصنوعی حمایت کند.
|
|
|
|
|
* [22 سؤال برای اخلاق در دادهها و هوش مصنوعی](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - چارچوبی بازتر، ساختار یافته برای بررسی اولیه مسائل اخلاقی در طراحی، اجرا و زمینههای سازمانی.
|
|
|
|
|
امروزه، حاکمیت دو شکل در سازمانها دارد. اول، تعریف اصول **هوش مصنوعی اخلاقی** و ایجاد شیوههایی برای عملیاتی کردن پذیرش آنها در همه پروژههای مرتبط با AI در سازمان. دوم، پایبندی به همه مقررات **حفاظت از داده** که توسط دولتها برای منطقههایی که سازمان فعالیت دارد تعیین شده است.
|
|
|
|
|
|
|
|
|
|
### 3. مقررات اخلاقی
|
|
|
|
|
نمونههایی از مقررات حفاظت و حریم خصوصی داده:
|
|
|
|
|
|
|
|
|
|
اخلاق درباره تعریف ارزشهای مشترک و انجام کار درست _بهطور داوطلبانه_ است. **رعایت** درباره _پیروی از قانون_ در صورت تعریف است. **حکمرانی** بهطور کلی شامل تمام روشهایی است که سازمانها برای اجرای اصول اخلاقی و رعایت قوانین تعریفشده عمل میکنند.
|
|
|
|
|
* `۱۹۷۴`، [قانون حریم خصوصی آمریکا](https://www.justice.gov/opcl/privacy-act-1974) - جمعآوری، استفاده و افشای اطلاعات شخصی توسط _دولت فدرال_ را تنظیم میکند.
|
|
|
|
|
* `۱۹۹۶`، [قانون قابلیت حمل و حسابرسی بیمه سلامت (HIPAA) آمریکا](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - از دادههای سلامت شخصی محافظت میکند.
|
|
|
|
|
* `۱۹۹۸`، [قانون حمایت از حریم خصوصی آنلاین کودکان (COPPA) آمریکا](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - از حریم خصوصی دادههای کودکان زیر ۱۳ سال محافظت میکند.
|
|
|
|
|
* `۲۰۱۸`، [مقررات عمومی حفاظت داده (GDPR)](https://gdpr-info.eu/) - حقوق کاربران، حفاظت دادهها و حریم خصوصی را فراهم میکند.
|
|
|
|
|
* `۲۰۱۸`، [قانون حفظ حریم خصوصی مصرفکننده کالیفرنیا (CCPA)](https://www.oag.ca.gov/privacy/ccpa) به مصرفکنندگان حقوق بیشتری بر دادههای (شخصی) خود میدهد.
|
|
|
|
|
* `۲۰۲۱`، قانون [حفاظت از اطلاعات شخصی چین](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) اخیراً تصویب شده است که یکی از قویترین قوانین حفظ حریم خصوصی آنلاین در جهان به شمار میآید.
|
|
|
|
|
|
|
|
|
|
امروزه، حکمرانی در سازمانها دو شکل دارد. اول، تعریف اصول **هوش مصنوعی اخلاقی** و ایجاد شیوههایی برای عملیاتی کردن پذیرش در تمام پروژههای مرتبط با هوش مصنوعی در سازمان. دوم، رعایت تمام مقررات حفاظت از دادهها که توسط دولت برای مناطقی که در آن فعالیت میکند، تعریف شده است.
|
|
|
|
|
> 🚨 اتحادیه اروپا مقررات GDPR (مقررات عمومی حفاظت از دادهها) را تعریف کرده که یکی از تأثیرگذارترین قوانین حریم خصوصی دادهها باقی مانده است. آیا میدانستید این قانون [۸ حق کاربر](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) را برای حفاظت از حریم خصوصی دیجیتال و دادههای شخصی شهروندان تعریف میکند؟ درباره این حقوق و اهمیت آنها بیشتر بیاموزید.
|
|
|
|
|
|
|
|
|
|
### ۴. فرهنگ اخلاق
|
|
|
|
|
|
|
|
|
|
توجه داشته باشید که فاصله غیر قابل لمس بین _انطباق_ (انجام حداقلها برای رعایت «متن قانون») و رسیدگی به [مسائل سیستمی](https://www.coursera.org/learn/data-science-ethics/home/week/4) مانند سنگیشدن، عدم تقارن اطلاعات و بیانصافی توزیعی که میتواند تسریع در مسلح شدن AI را منجر شود، باقی است.
|
|
|
|
|
|
|
|
|
|
دومی نیازمند [رویکردهای مشارکتی برای تعریف فرهنگهای اخلاق](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) است که ارتباطات احساسی و ارزشهای مشترک هماهنگ را _در سراسر سازمانها_ در صنعت بسازد. این نیازمند فرهنگهای اخلاق داده [رسمیشده](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) در سازمانها است - که به _هر کسی_ اجازه میدهد [ریسمان آندون را بکشد](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (برای اعلام زودهنگام نگرانیهای اخلاقی) و انجام _ارزیابیهای اخلاقی_ (مثلا در استخدام) را به معیاری اصلی در تشکیل تیمهای پروژههای AI تبدیل میکند.
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
## [آزمون پس از جلسه](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯
|
|
|
|
|
## مرور و خودآموزی
|
|
|
|
|
|
|
|
|
|
نمونههایی از مقررات حفاظت از دادهها و حریم خصوصی:
|
|
|
|
|
دورهها و کتابها به درک مفاهیم و چالشهای اصلی اخلاق کمک میکنند، در حالی که مطالعات موردی و ابزارها به تمرین اخلاق کاربردی در زمینههای واقعی یاری میرسانند. در اینجا چند منبع برای شروع آمده است:
|
|
|
|
|
|
|
|
|
|
* `1974`، [قانون حریم خصوصی ایالات متحده](https://www.just
|
|
|
|
|
* [یادگیری ماشین برای مبتدیان](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - درس درباره انصاف، از مایکروسافت.
|
|
|
|
|
* [اصول هوش مصنوعی مسئولانه](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مسیر یادگیری رایگان از Microsoft Learn.
|
|
|
|
|
* [اخلاق و علم داده](https://resources.oreilly.com/examples/0636920203964) - کتاب الکترونیکی O'Reilly (M. Loukides, H. Mason و دیگران)
|
|
|
|
|
* [اخلاق علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - دوره آنلاین از دانشگاه میشیگان.
|
|
|
|
|
* [اخلاق باز نشده](https://ethicsunwrapped.utexas.edu/case-studies) - مطالعات موردی از دانشگاه تگزاس.
|
|
|
|
|
* [یادگیری ماشین برای مبتدیان](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - درس انصاف، از مایکروسافت.
|
|
|
|
|
* [اصول هوش مصنوعی مسئولانه](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مسیر یادگیری رایگان از Microsoft Learn.
|
|
|
|
|
* [اخلاق و علم داده](https://resources.oreilly.com/examples/0636920203964) - کتاب الکترونیکی اوریلی (M. Loukides, H. Mason و دیگران)
|
|
|
|
|
* [اخلاق علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - دوره آنلاین از دانشگاه میشیگان.
|
|
|
|
|
* [اخلاق باز شده](https://ethicsunwrapped.utexas.edu/case-studies) - مطالعات موردی از دانشگاه تگزاس.
|
|
|
|
|
|
|
|
|
|
# تکلیف
|
|
|
|
|
# تکلیف
|
|
|
|
|
|
|
|
|
|
[نوشتن یک مطالعه موردی اخلاق داده](assignment.md)
|
|
|
|
|
[نوشتن یک مطالعه موردی اخلاق داده](assignment.md)
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
**سلب مسئولیت**:
|
|
|
|
|
این سند با استفاده از سرویس ترجمه هوش مصنوعی [Co-op Translator](https://github.com/Azure/co-op-translator) ترجمه شده است. در حالی که ما تلاش میکنیم دقت را حفظ کنیم، لطفاً توجه داشته باشید که ترجمههای خودکار ممکن است شامل خطاها یا نادرستیها باشند. سند اصلی به زبان اصلی آن باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حساس، توصیه میشود از ترجمه انسانی حرفهای استفاده کنید. ما مسئولیتی در قبال سوء تفاهمها یا تفسیرهای نادرست ناشی از استفاده از این ترجمه نداریم.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER START -->
|
|
|
|
|
**سلب مسئولیت**:
|
|
|
|
|
این سند با استفاده از سرویس ترجمه هوش مصنوعی [Co-op Translator](https://github.com/Azure/co-op-translator) ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمههای خودکار ممکن است شامل خطاها یا نادرستیهایی باشند. سند اصلی به زبان مادری خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفهای انسانی توصیه میشود. ما در قبال هرگونه سوء تفاهم یا برداشت نادرست ناشی از استفاده از این ترجمه مسئولیتی نداریم.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER END -->
|
localizeflow[bot]
7 days ago