Data-Science-For-Beginners/translations/fa/1-Introduction/02-ethics

مقدمه‌ای بر اخلاق داده‌ها

اخلاق علم داده - اسکتچ‌نوت توسط @nitya

---

ما همه شهروندان داده‌ای هستیم که در دنیایی داده‌محور زندگی می‌کنیم.

روندهای بازار نشان می‌دهد که تا سال ۲۰۲۲، یک‌سوم سازمان‌های بزرگ داده‌های خود را از طریق بازارها و صرافی‌های آنلاین خرید و فروش خواهند کرد. به‌عنوان توسعه‌دهندگان اپلیکیشن، ادغام بینش‌های مبتنی بر داده و اتوماسیون الگوریتمی در تجربه‌های روزمره کاربران برای ما آسان‌تر و ارزان‌تر خواهد شد. اما با فراگیر شدن هوش مصنوعی، باید آسیب‌های بالقوه ناشی از نظامی‌سازی این الگوریتم‌ها در مقیاس وسیع را نیز درک کنیم.

روندها نشان می‌دهد تا سال ۲۰۲۵، بیش از ۱۸۰ زتابایت داده تولید و مصرف خواهیم کرد. برای علمای داده، این انفجار اطلاعات دسترسی بی‌سابقه‌ای به داده‌های شخصی و رفتاری فراهم می‌کند. همراه با این قدرت، توانایی ساخت پروفایل‌های دقیق کاربر و تأثیر ظریف بر تصمیم‌گیری وجود دارد—اغلب به گونه‌ای که توهم انتخاب آزاد را ایجاد می‌کند. اگرچه این می‌تواند برای جهت‌دهی کاربران به نتایج مطلوب مورد استفاده قرار گیرد، اما پرسش‌های حیاتی درباره حریم خصوصی داده‌ها، خودمختاری، و مرزهای اخلاقی تأثیر الگوریتمی را نیز مطرح می‌کند.

اخلاق داده اکنون به‌عنوان راهبندهای ضروری برای علم داده و مهندسی عمل می‌کند که به ما کمک می‌کند آسیب‌های ممکن و پیامدهای ناخواسته از اقدامات مبتنی بر داده را کمینه کنیم. چرخه هیجان گارتنر برای هوش مصنوعی روندهای مرتبط با اخلاق دیجیتال، هوش مصنوعی مسئولانه و حاکمیت هوش مصنوعی را به‌عنوان محرک‌های کلید برای روندهای بزرگتری چون دموکراتیزه‌سازی و صنعتی‌سازی هوش مصنوعی معرفی می‌کند.

در این درس، به بررسی زمینه جذاب اخلاق داده‌ها می‌پردازیم - از مفاهیم و چالش‌های اصلی، تا مطالعات موردی و مفاهیم کاربردی هوش مصنوعی مانند حاکمیت - که به ایجاد فرهنگ اخلاقی در تیم‌ها و سازمان‌هایی که با داده و هوش مصنوعی کار می‌کنند کمک می‌کند.

آزمون پیش‌درس 🎯

تعاریف پایه

بیایید با درک اصطلاحات پایه شروع کنیم.

کلمه «اخلاق» از لغت یونانی "ethikos" (و ریشه آن "ethos") گرفته شده که به معنای شخصیت یا طبیعت اخلاقی است.

اخلاق درباره ارزش‌ها و اصول اخلاقی مشترک است که رفتار ما را در جامعه هدایت می‌کند. اخلاق بر پایه قوانین نیست بلکه بر اساس نورم‌های پذیرفته‌شده گسترده درباره آنچه «درست در برابر نادرست» است بنا شده. با این حال، ملاحظات اخلاقی می‌توانند بر ابتکارات حاکمیت شرکتی و مقررات دولتی تاثیر گذاشته و مشوق‌های بیشتری برای رعایت ایجاد کنند.

اخلاق داده شاخه‌ای جدید از اخلاق است که «مسائل اخلاقی مربوط به داده‌ها، الگوریتم‌ها و شیوه‌های مربوطه» را مطالعه و ارزیابی می‌کند. در اینجا، "داده" بر اقدامات مربوط به تولید، ثبت، گردآوری، پردازش، انتشار، اشتراک‌گذاری و استفاده تمرکز دارد، "الگوریتم‌ها" بر هوش مصنوعی، نمایندگان، یادگیری ماشین و ربات‌ها متمرکز است و "شیوه‌ها" موضوعاتی همچون نوآوری مسئولانه، برنامه‌نویسی، هک و کدهای اخلاقی را شامل می‌شود.

اخلاق کاربردی اعمال عملی ملاحظات اخلاقی است. این فرایند تحقیق فعال درباره مسائل اخلاقی در زمینه اقدامات، محصولات و فرایندهای دنیای واقعی و اتخاذ اقدامات اصلاحی برای اطمینان از همسویی آن‌ها با ارزش‌های اخلاقی تعریف‌شده ما است.

فرهنگ اخلاقی درباره اجرایی کردن اخلاق کاربردی است تا اطمینان حاصل شود اصول و شیوه‌های اخلاقی در سراسر سازمان به صورت منسجم و قابل گسترش پذیرفته می‌شوند. فرهنگ‌های موفق اخلاقی اصول اخلاقی همگانی سازمان را تعریف می‌کنند، مشوق‌های معنی‌دار برای رعایت ارائه می‌دهند و با تشویق و تقویت رفتارهای مورد انتظار در هر سطح سازمان، هنجارهای اخلاقی را مستحکم می‌کنند.

مفاهیم اخلاق

در این بخش، درباره مفاهیمی مانند ارزش‌های مشترک (اصول) و چالش‌های اخلاقی (مسائل) برای اخلاق داده صحبت می‌کنیم - و به مطالعات موردی می‌پردازیم که به درک شما از این مفاهیم در زمینه‌های واقعی کمک می‌کند.

۱. اصول اخلاقی

هر استراتژی اخلاق داده با تعریف اصول اخلاقی آغاز می‌شود - «ارزش‌های مشترک» که رفتارهای قابل قبول را توصیف کرده و اقدامات مطابق آن را در پروژه‌های داده و هوش مصنوعی هدایت می‌کند. شما می‌توانید این اصول را در سطح فردی یا تیم تعریف کنید، اما بیشتر سازمان‌های بزرگ این موارد را در بیانیه ماموریت یا چارچوبی برای هوش مصنوعی اخلاقی که در سطح شرکت تعریف شده و در همه تیم‌ها به صورت یکسان اجرا می‌شود، بیان می‌کنند.

مثال: بیانیه ماموریت هوش مصنوعی مسئولانه مایکروسافت می‌گوید: «ما متعهد به پیشرفت هوش مصنوعی هستیم که با اصول اخلاقی که انسان‌ها را اولویت می‌دهد پیش می‌رود» - و در چارچوب زیر ۶ اصل اخلاقی را معرفی می‌کند:

اجازه دهید این اصول را به طور خلاصه بررسی کنیم. شفافیت و پاسخگویی ارزش‌های بنیادینی هستند که سایر اصول بر آن بنا شده‌اند—پس از آن‌ها شروع می‌کنیم:

• پاسخگویی باعث می‌شود مجریان، مسئول عملیات داده و هوش مصنوعی خود و رعایت این اصول اخلاقی باشند.
• شفافیت اطمینان می‌دهد که اقدامات داده و هوش مصنوعی برای کاربران قابل فهم (قابل تفسیر) است و چرایی و چیستی تصمیمات را توضیح می‌دهد.
• عدالت بر اطمینان از رفتار منصفانه هوش مصنوعی با همه افراد تمرکز دارد و هرگونه تعصب سیستمی یا ضمنی اجتماعی-فنی در داده‌ها و سیستم‌ها را رفع می‌کند.
• قابلیت اطمینان و ایمنی تضمین می‌کند که هوش مصنوعی مطابق با ارزش‌های تعریف‌شده به طور مداوم عمل کند و آسیب‌های احتمالی یا پیامدهای ناخواسته را به حداقل برساند.
• حریم خصوصی و امنیت درباره درک ردیابی داده‌ها و ارائه حریم خصوصی داده و حفاظت‌های مرتبط به کاربران است.
• شمولیت درباره طراحی راه‌حل‌های هوش مصنوعی با هدف‌مندی است، به‌گونه‌ای که آن‌ها را برای پاسخ به دامنه گسترده‌ای از نیازها و توانمندی‌های انسانی تطبیق دهد.

🚨 به بیانیه ماموریت اخلاق داده خود فکر کنید. چارچوب‌های اخلاقی هوش مصنوعی دیگر سازمان‌ها را بررسی کنید—برای مثال‌هایی از IBM، گوگل و فیسبوک اینجا آمده‌اند. ارزش‌های مشترک آن‌ها چه هستند؟ این اصول چگونه به محصول یا صنعتی که در آن فعالیت می‌کنند مرتبط است؟

۲. چالش‌های اخلاقی

وقتی اصول اخلاقی تعریف شدند، قدم بعدی ارزیابی اقدامات داده و هوش مصنوعی است تا ببینیم آیا با آن ارزش‌های مشترک همسو هستند یا خیر. به اقدامات خود در دو دسته فکر کنید: جمع‌آوری داده و طراحی الگوریتم.

در جمع‌آوری داده، احتمالاً اقدامات شامل داده‌های شخصی یا اطلاعات شناسایی شخصی (PII) افراد زنده قابل شناسایی خواهد بود. این شامل موارد متنوعی از داده‌های غیرشخصی می‌شود که به‌طور جمعی یک فرد را شناسایی می‌کند. چالش‌های اخلاقی ممکن است به حریم خصوصی داده‌ها، مالکیت داده‌ها و موضوعات مرتبط مانند رضایت آگاهانه و حقوق مالکیت معنوی برای کاربران مرتبط باشد.

در طراحی الگوریتم، اقدامات شامل جمع‌آوری و گردآوری مجموعه‌داده‌ها و سپس استفاده از آن‌ها برای آموزش و استقرار مدل‌های داده‌ای است که نتایج را پیش‌بینی یا تصمیم‌گیری در زمینه‌های واقعی خودکار می‌کنند. چالش‌های اخلاقی می‌توانند ناشی از تعصب مجموعه‌داده، مشکلات کیفیت داده، بی‌عدالتی و نمایش نادرست در الگوریتم‌ها باشند—از جمله برخی مسائل ذاتاً سیستمی.

در هر دو حالت، چالش‌های اخلاقی زمینه‌هایی را نشان می‌دهند که اقدامات ما ممکن است با ارزش‌های مشترک خود در تعارض باشند. برای شناسایی، کاهش، کمینه‌سازی یا حذف این نگرانی‌ها، باید پرسش‌های اخلاقی «آری/خیر» مرتبط با اقدامات خود بپرسیم و سپس در صورت نیاز اقدامات اصلاحی انجام دهیم. بیایید به برخی چالش‌های اخلاقی و پرسش‌های اخلاقی آن‌ها نگاهی بیندازیم:

۲.۱ مالکیت داده

جمع‌آوری داده‌ها اغلب شامل داده‌های شخصی است که می‌توانند موضوع داده را شناسایی کنند. مالکیت داده درباره کنترل و حقوق کاربران مربوط به تولید، پردازش و انتشار داده‌ها است.

سؤالات اخلاقی که باید بپرسیم عبارتند از:

• مالک داده کیست؟ (کاربر یا سازمان)
• موضوع داده چه حقوقی دارد؟ (مثلاً دسترسی، حذف، حمل‌ونقل)
• سازمان چه حقوقی دارد؟ (مثلاً اصلاح نقدهای مخرب کاربران)

۲.۲ رضایت آگاهانه

رضایت آگاهانه تعریف می‌کند که کاربران با درک کامل از حقایق مرتبط، از جمله هدف، مخاطرات احتمالی و جایگزین‌ها، با اقدامی (مانند جمع‌آوری داده) موافقت می‌کنند.

سؤالات قابل بررسی عبارتند از:

• آیا کاربر (موضوع داده) اجازه جمع‌آوری و استفاده از داده را داده است؟
• آیا کاربر هدف از جمع‌آوری داده را درک کرده است؟
• آیا کاربر خطرات احتمالی مشارکت خود را درک کرده است؟

۲.۳ مالکیت معنوی

مالکیت معنوی به آثار نامشهود ناشی از ابتکار انسانی اشاره دارد که ممکن است برای افراد یا کسب‌وکارها ارزش اقتصادی داشته باشد.

سؤالات قابل بررسی عبارتند از:

• آیا داده‌های جمع‌آوری شده برای کاربر یا کسب‌وکاری ارزش اقتصادی داشته است؟
• آیا کاربر مالکیت معنوی دارد؟
• آیا سازمان مالکیت معنوی دارد؟
• اگر چنین حقوقی وجود دارد، چگونه از آن‌ها محافظت می‌کنیم؟

۲.۴ حریم خصوصی داده‌ها

حریم خصوصی داده یا حریم خصوصی اطلاعات به حفظ حریم خصوصی کاربران و حفاظت از هویت کاربران نسبت به اطلاعات شخصی قابل شناسایی اشاره دارد.

سؤالات قابل بررسی عبارتند از:

• آیا داده‌های (شخصی) کاربران در برابر هک و درز محافظت شده است؟
• آیا داده‌های کاربران فقط برای کاربران و زمینه‌های مجاز قابل دسترسی است؟
• آیا ناشناسی کاربران هنگام به اشتراک‌گذاری یا انتشار داده حفظ می‌شود؟
• آیا می‌توان کاربر را از مجموعه‌داده‌های ناشناس شناسایی کرد؟

۲.۵ حق فراموش شدن

حق فراموش شدن یا حق حذف محافظت اضافی از داده‌های شخصی به کاربران می‌دهد. به طور خاص، این حق به کاربران اجازه می‌دهد حذف یا پاک‌سازی داده‌های شخصی از جستجوهای اینترنتی و مکان‌های دیگر را درخواست کنند، در شرایط خاص - که امکان شروع تازه آنلاین بدون اینکه اقدامات گذشته علیه آن‌ها استفاده شود را فراهم می‌کند.

سؤالات قابل بررسی عبارتند از:

• آیا سیستم به موضوعان داده اجازه درخواست حذف می‌دهد؟
• آیا پس گرفتن رضایت کاربر باید پاک‌سازی خودکار را فعال کند؟
• آیا داده به‌صورت غیرقانونی یا بدون رضایت جمع‌آوری شده است؟
• آیا ما با مقررات دولتی برای حفظ حریم خصوصی داده‌ها منطبق هستیم؟

۲.۶ تعصب مجموعه‌داده

تعصب مجموعه‌داده یا تعصب در جمع‌آوری داده مربوط به انتخاب زیرمجموعه‌ای غیرنماینده از داده‌ها برای توسعه الگوریتم است که در نتیجه، ناعادلانه بودن احتمالی نتایج برای گروه‌های مختلف ایجاد می‌کند. انواع تعصب شامل تعصب نمونه‌گیری، تعصب داوطلبانه و تعصب ابزار است.

سؤالات قابل بررسی عبارتند از:

• آیا مجموعه نماینده‌ای از موضوعان داده را جذب کرده‌ایم؟
• آیا مجموعه داده‌های گردآوری یا گردآوری‌شده را از نظر تعصبات مختلف آزمایش کرده‌ایم؟
• آیا می‌توانیم هر گونه تعصب کشف‌شده را کاهش یا حذف کنیم؟

۲.۷ کیفیت داده

کیفیت داده به اعتبار مجموعه داده گردآوری‌شده برای توسعه الگوریتم‌ها می‌پردازد و بررسی می‌کند که آیا ویژگی‌ها و رکوردها الزامات دقت و سازگاری لازم برای هدف هوش مصنوعی ما را دارند یا خیر.

سؤالات قابل بررسی عبارتند از:

• آیا ویژگی‌های معتبر برای مورد استفاده خود ثبت کرده‌ایم؟
• آیا داده‌ها به‌طور مداوم از منابع داده متنوع جمع‌آوری شده‌اند؟
• آیا مجموعه‌داده برای شرایط یا سناریوهای گوناگون کامل است؟
• آیا اطلاعات به ‌دقت واقعیت را منعکس می‌کنند؟

۲.۸ انصاف الگوریتمی

انصاف الگوریتمی بررسی می‌کند که آیا طراحی الگوریتم به شکل سیستماتیک علیه زیردسته‌های خاصی از داده‌ها تبعیض قائل می‌شود که منجر به ضررهای احتمالی در تخصیص (جایی که منابع از آن گروه محروم یا دریغ می‌شود) و کیفیت خدمات (جایی که هوش مصنوعی برای برخی زیردسته‌ها به اندازه دیگران دقیق نیست) می‌شود.

سؤالاتی که در اینجا باید بررسی شوند عبارتند از:

• آیا دقت مدل را برای زیردسته‌ها و شرایط متنوع ارزیابی کرده‌ایم؟
• آیا سیستم را برای احتمال بروز آسیب‌ها (مثلا کلیشه‌سازی) بررسی کرده‌ایم؟
• آیا می‌توانیم داده‌ها را بازبینی یا مدل‌ها را دوباره آموزش دهیم تا آسیب‌های شناسایی شده کاهش یابند؟

برای یادگیری بیشتر منابعی مانند فهرست‌های بررسی انصاف هوش مصنوعی را بررسی کنید.

۲.۹ نشان دادن نادرست داده‌ها

نمایش نادرست داده‌ها مربوط به این است که آیا ما بینش‌های داده‌های صادقانه گزارش شده را به گونه‌ای فریبنده ارائه می‌کنیم تا روایت مورد نظر را پشتیبانی کنیم.

سؤالاتی که در اینجا باید بررسی شوند عبارتند از:

• آیا داده‌های ناقص یا نادرست گزارش می‌کنیم؟
• آیا داده‌ها را به گونه‌ای مصور می‌کنیم که به نتایج گمراه‌کننده منجر شود؟
• آیا از تکنیک‌های آماری انتخابی برای دستکاری نتایج استفاده می‌کنیم؟
• آیا توضیحات جایگزینی وجود دارد که ممکن است نتیجه متفاوتی ارائه دهد؟

۲.۱۰ توهم انتخاب آزاد

توهم انتخاب آزاد زمانی رخ می‌دهد که «معماری‌های انتخاب» سیستم از الگوریتم‌های تصمیم‌گیری برای سوق دادن افراد به سمت یک نتیجه ترجیحی استفاده می‌کنند در حالی که به نظر می‌رسد به آن‌ها گزینه‌ها و کنترل می‌دهند. این الگوهای تاریک می‌توانند به کاربران آسیب‌های اجتماعی و اقتصادی وارد کنند. چون تصمیمات کاربران بر پروفایل‌های رفتاری تأثیر می‌گذارد، این اقدامات می‌توانند انتخاب‌های آینده را تحریک کنند که ممکن است تأثیر این آسیب‌ها را تقویت یا گسترش دهند.

سؤالاتی که در اینجا باید بررسی شوند عبارتند از:

• آیا کاربر پیامدهای انتخاب آن گزینه را درک کرد؟
• آیا کاربر از انتخاب‌های (جایگزین) و مزایا و معایب هر کدام آگاه بود؟
• آیا کاربر می‌تواند انتخاب خودکار یا تحت تأثیر قرار گرفته را بعداً معکوس کند؟

۳. مطالعات موردی

برای قرار دادن این چالش‌های اخلاقی در زمینه‌های واقعی، کمک می‌کند مطالعات موردی را نگاه کنیم که به آسیب‌ها و پیامدهای احتمالی برای افراد و جامعه، وقتی که این نقض‌های اخلاقی نادیده گرفته شوند، می‌پردازند.

در اینجا چند مثال آمده است:

چالش اخلاقی	مطالعه موردی
رضایت آگاهانه	۱۹۷۲ - مطالعه سیفلیس توسکی‌گی - مردان آفریقایی آمریکایی که در این مطالعه شرکت کردند، مراقبت پزشکی رایگان وعده داده شده دریافت کردند اما توسط پژوهشگران فریب داده شدند که از تشخیص بیماری یا در دسترس بودن درمان مطلع نشدند. بسیاری از شرکت‌کنندگان فوت کردند و همسران یا فرزندانشان تحت تاثیر قرار گرفتند؛ این مطالعه ۴۰ سال طول کشید.
حریم خصوصی داده‌ها	۲۰۰۷ - جایزه داده نتفلیکس Netflix data prize به پژوهشگران ۱۰ میلیون رتبه‌بندی فیلم ناشناس از ۵۰ هزار مشتری را داد تا به بهبود الگوریتم‌های پیشنهاد کمک کند. اما پژوهشگران توانستند داده‌های ناشناس را با داده‌های شخصی در مجموعه‌ داده‌های خارجی (مثلا نظرات IMDb) مرتبط کنند و عملاً برخی از مشترکان نتفلیکس را "ناشناس‌زدایی" کنند.
سوگیری جمع‌آوری داده	۲۰۱۳ - شهر بوستون اپلیکیشن Street Bump را توسعه داد که به شهروندان اجازه می‌داد چاله‌های جاده‌ای را گزارش کنند و داده‌های جاده‌ای بهتری برای شناسایی و رفع مشکلات پیدا شود. اما افراد گروه‌های درآمد پایین‌تر کمتر به خودرو و تلفن دسترسی داشتند و مشکلات جاده‌ای آن‌ها در این اپلیکیشن نامرئی بود. توسعه‌دهندگان با دانشگاهیان برای مسئله‌های دسترسی عادلانه و شکاف‌های دیجیتال همکاری کردند تا انصاف رعایت شود.
انصاف الگوریتمی	۲۰۱۸ - مطالعه Gender Shades MIT دقت محصولات هوش مصنوعی طبقه‌بندی جنسیت را ارزیابی کرد و شکاف‌هایی در دقت برای زنان و افراد رنگین‌پوست نشان داد. کارت اعتباری اپل ۲۰۱۹ به زنان نسبت به مردان اعتبار کمتری می‌داد. هر دو مورد مسائل سوگیری الگوریتمی را نشان می‌دادند که به آسیب‌های اجتماعی و اقتصادی منجر می‌شد.
نمایش نادرست داده‌ها	۲۰۲۰ - وزارت بهداشت جورجیا نمودارهای کووید-۱۹ را منتشر کرد که به شهروندان درباره روند موارد تایید شده گمراه‌کننده نشان داده شد با ترتیب نامرتب زمانی در محور x. این نشان‌دهنده نمایش نادرست با ترفندهای تصویری است.
توهم انتخاب آزاد	۲۰۲۰ - اپلیکیشن آموزشی ABCmouse مبلغ ۱۰ میلیون دلار برای حل اختلاف FTC پرداخت که والدین در اشتراک‌هایی گیر کرده بودند که نمی‌توانستند لغو کنند. این نشان‌دهنده الگوهای تاریک در معماری‌های انتخاب است که کاربران به سمت انتخاب‌های احتمالا مضر سوق داده شدند.
حریم خصوصی داده و حقوق کاربران	۲۰۲۱ - نشت داده‌های فیسبوک داده‌های ۵۳۰ میلیون کاربر را افشا کرد که منجر به توافق ۵ میلیارد دلاری با FTC شد. اما فیسبوک از اطلاع‌رسانی به کاربران درباره نشت خودداری کرد و حقوق کاربران در زمینه شفافیت داده و دسترسی را نقض کرد.

می‌خواهید مطالعات موردی بیشتری بررسی کنید؟ این منابع را ببینید:

• Ethics Unwrapped - معضلات اخلاقی در صنایع مختلف.
• دوره اخلاق داده‌کاوی - مطالعات موردی شاخص بررسی شده.
• جایی که مشکلات رخ داده است - فهرست بررسی deon با مثال‌ها

🚨 به مطالعات موردی که دیده‌اید فکر کنید - آیا شما تجربه کرده‌اید یا تحت تاثیر یک چالش اخلاقی مشابه در زندگی خود بوده‌اید؟ آیا می‌توانید حداقل یک مطالعه موردی دیگر ذکر کنید که یکی از چالش‌های اخلاقی مطرح شده در این بخش را نشان دهد؟

اخلاق کاربردی

ما درباره مفاهیم اخلاق، چالش‌ها و مطالعات موردی در زمینه‌های واقعی صحبت کردیم. اما چگونه می‌توانیم اصول و شیوه‌های اخلاقی را در پروژه‌هایمان به کار ببریم؟ و چگونه می‌توانیم این شیوه‌ها را برای حاکمیت بهتر عملی کنیم؟ بیایید چند راه‌حل دنیای واقعی را بررسی کنیم:

۱. کدهای حرفه‌ای

کدهای حرفه‌ای گزینه‌ای برای سازمان‌ها هستند تا اعضا را به حمایت از اصول اخلاقی و بیانیه ماموریت خود «ترغیب» کنند. کدها راهنمایی‌های اخلاقی برای رفتار حرفه‌ای هستند که به کارکنان یا اعضا کمک می‌کنند تصمیماتی اتخاذ کنند که با اصول سازمانشان هم‌راستا باشد. این کدها به میزان پایبندی داوطلبانه اعضا کارایی دارند؛ اما بسیاری از سازمان‌ها جوایز و جریمه‌های اضافی برای ترغیب اعضا به رعایت کد ارائه می‌دهند.

نمونه‌ها شامل:

• کد اخلاق آکسفورد مونیخ
• کد رفتار انجمن داده‌کاوی (ساخته شده در ۲۰۱۳)
• کد اخلاق و رفتار حرفه‌ای ACM (از ۱۹۹۳)

🚨 آیا عضو سازمان مهندسی یا داده‌کاوی حرفه‌ای هستید؟ سایت آن‌ها را بررسی کنید تا ببینید آیا کد اخلاقی حرفه‌ای تعریف کرده‌اند؟ این درباره اصول اخلاقی آن‌ها چه می‌گوید؟ چگونه اعضا را برای پیروی از کد «ترغیب» می‌کنند؟

۲. فهرست‌های بررسی اخلاق

در حالی که کدهای حرفه‌ای رفتار اخلاقی الزامی از طرف متخصصان را تعریف می‌کنند، محدودیت‌های شناخته شده در اجرای آن‌ها وجود دارد، خصوصا در پروژه‌های بزرگ‌مقیاس. به جای آن، بسیاری از کارشناسان داده‌کاوی فهرست‌های بررسی را ترویج می‌کنند که می‌توانند اصل‌ها را به شیوه‌های عملی و قابل اجرا وصل کنند.

فهرست‌های بررسی پرسش‌ها را به وظایف «بلی/خیر» تبدیل می‌کنند که می‌توان آن‌ها را عملیاتی کرد و امکان پیگیری آن‌ها را به عنوان بخشی از گردش کار استاندارد عرضه محصول فراهم می‌کنند.

نمونه‌ها شامل:

• Deon - فهرست بررسی اخلاق داده عمومی با ابزاری خط فرمان برای ادغام آسان، ساخته شده از توصیه‌های صنعتی.
• فهرست بررسی حسابرسی حریم خصوصی - راهنمای کلی برای رویه‌های مدیریت اطلاعات از منظر حقوقی و اجتماعی.
• فهرست بررسی انصاف هوش مصنوعی - توسط متخصصین هوش مصنوعی ایجاد شده برای حمایت از پذیرش و یکپارچه‌سازی بررسی‌های انصاف در چرخه‌های توسعه AI.
• ۲۲ سوال برای اخلاق در داده و AI - چهارچوب بازتر، ساختاربندی شده برای کاوش ابتدایی مسائل اخلاقی در طراحی، اجرا و زمینه‌های سازمانی.

۳. مقررات اخلاق

اخلاق درباره تعریف ارزش‌های مشترک و انجام کار درست داوطلبانه است. انطباق یعنی دنبال کردن قانون اگر و هر جا که تعریف شده باشد. حاکمیت به طور کلی شامل تمامی روش‌هایی است که سازمان‌ها برای اجرای اصول اخلاقی و پایبندی به قانون‌های مصوب عمل می‌کنند.

امروزه، حاکمیت دو شکل در سازمان‌ها دارد. اول، تعریف اصول هوش مصنوعی اخلاقی و ایجاد شیوه‌هایی برای عملیاتی کردن پذیرش آن‌ها در همه پروژه‌های مرتبط با AI در سازمان. دوم، پایبندی به همه مقررات حفاظت از داده که توسط دولت‌ها برای منطقه‌هایی که سازمان فعالیت دارد تعیین شده است.

نمونه‌هایی از مقررات حفاظت و حریم خصوصی داده:

• ۱۹۷۴، قانون حریم خصوصی آمریکا - جمع‌آوری، استفاده و افشای اطلاعات شخصی توسط دولت فدرال را تنظیم می‌کند.
• ۱۹۹۶، قانون قابلیت حمل و حساب‌رسی بیمه سلامت (HIPAA) آمریکا - از داده‌های سلامت شخصی محافظت می‌کند.
• ۱۹۹۸، قانون حمایت از حریم خصوصی آنلاین کودکان (COPPA) آمریکا - از حریم خصوصی داده‌های کودکان زیر ۱۳ سال محافظت می‌کند.
• ۲۰۱۸، مقررات عمومی حفاظت داده (GDPR) - حقوق کاربران، حفاظت داده‌ها و حریم خصوصی را فراهم می‌کند.
• ۲۰۱۸، قانون حفظ حریم خصوصی مصرف‌کننده کالیفرنیا (CCPA) به مصرف‌کنندگان حقوق بیشتری بر داده‌های (شخصی) خود می‌دهد.
• ۲۰۲۱، قانون حفاظت از اطلاعات شخصی چین اخیراً تصویب شده است که یکی از قوی‌ترین قوانین حفظ حریم خصوصی آنلاین در جهان به شمار می‌آید.

🚨 اتحادیه اروپا مقررات GDPR (مقررات عمومی حفاظت از داده‌ها) را تعریف کرده که یکی از تأثیرگذارترین قوانین حریم خصوصی داده‌ها باقی مانده است. آیا می‌دانستید این قانون ۸ حق کاربر را برای حفاظت از حریم خصوصی دیجیتال و داده‌های شخصی شهروندان تعریف می‌کند؟ درباره این حقوق و اهمیت آن‌ها بیشتر بیاموزید.

۴. فرهنگ اخلاق

توجه داشته باشید که فاصله غیر قابل لمس بین انطباق (انجام حداقل‌ها برای رعایت «متن قانون») و رسیدگی به مسائل سیستمی مانند سنگی‌شدن، عدم تقارن اطلاعات و بی‌انصافی توزیعی که می‌تواند تسریع در مسلح شدن AI را منجر شود، باقی است.

دومی نیازمند رویکردهای مشارکتی برای تعریف فرهنگ‌های اخلاق است که ارتباطات احساسی و ارزش‌های مشترک هماهنگ را در سراسر سازمان‌ها در صنعت بسازد. این نیازمند فرهنگ‌های اخلاق داده رسمی‌شده در سازمان‌ها است - که به هر کسی اجازه می‌دهد ریسمان آندون را بکشد (برای اعلام زودهنگام نگرانی‌های اخلاقی) و انجام ارزیابی‌های اخلاقی (مثلا در استخدام) را به معیاری اصلی در تشکیل تیم‌های پروژه‌های AI تبدیل می‌کند.

---

آزمون پس از جلسه 🎯

مرور و خودآموزی

دوره‌ها و کتاب‌ها به درک مفاهیم و چالش‌های اصلی اخلاق کمک می‌کنند، در حالی که مطالعات موردی و ابزارها به تمرین اخلاق کاربردی در زمینه‌های واقعی یاری می‌رسانند. در اینجا چند منبع برای شروع آمده است:

• یادگیری ماشین برای مبتدیان - درس انصاف، از مایکروسافت.
• اصول هوش مصنوعی مسئولانه - مسیر یادگیری رایگان از Microsoft Learn.
• اخلاق و علم داده - کتاب الکترونیکی اوریلی (M. Loukides, H. Mason و دیگران)
• اخلاق علم داده - دوره آنلاین از دانشگاه میشیگان.
• اخلاق باز شده - مطالعات موردی از دانشگاه تگزاس.

تکلیف

نوشتن یک مطالعه موردی اخلاق داده

---

سلب مسئولیت: این سند با استفاده از سرویس ترجمه هوش مصنوعی Co-op Translator ترجمه شده است. در حالی که ما در تلاش برای دقت هستیم، لطفاً توجه داشته باشید که ترجمه‌های خودکار ممکن است شامل خطاها یا نادرستی‌هایی باشند. سند اصلی به زبان مادری خود باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حیاتی، ترجمه حرفه‌ای انسانی توصیه می‌شود. ما در قبال هرگونه سوء تفاهم یا برداشت نادرست ناشی از استفاده از این ترجمه مسئولیتی نداریم.