leestott
1c99194922
|
1 year ago | |
|---|---|---|
| .. | ||
| README.md | 1 year ago | |
| assignment.md | 1 year ago | |
README.md
ڈیٹا اخلاقیات کا تعارف
 |
|---|
| ڈیٹا سائنس اخلاقیات - اسکیچ نوٹ @nitya کی طرف سے |
ہم سب ایک ڈیٹا سے بھرپور دنیا میں ڈیٹا کے شہری ہیں۔
مارکیٹ کے رجحانات بتاتے ہیں کہ 2022 تک، ہر تین میں سے ایک بڑی تنظیم اپنا ڈیٹا آن لائن مارکیٹ پلیسز اور ایکسچینجز کے ذریعے خریدے گی اور بیچے گی۔ بطور ایپ ڈویلپرز، ہمارے لیے ڈیٹا سے چلنے والی بصیرتوں اور الگورتھم سے چلنے والی خودکاریت کو روزمرہ کے صارف تجربات میں شامل کرنا آسان اور سستا ہوگا۔ لیکن جیسے جیسے AI عام ہوتا جا رہا ہے، ہمیں یہ بھی سمجھنا ہوگا کہ بڑے پیمانے پر ان الگورتھمز کے ہتھیار سازی سے ممکنہ نقصانات کیا ہو سکتے ہیں۔
رجحانات یہ بھی ظاہر کرتے ہیں کہ ہم 2025 تک 180 زیٹا بائٹس سے زیادہ ڈیٹا تخلیق کریں گے اور استعمال کریں گے۔ بطور ڈیٹا سائنسدان، یہ ہمیں ذاتی ڈیٹا تک بے مثال رسائی فراہم کرتا ہے۔ اس کا مطلب ہے کہ ہم صارفین کے رویے کے پروفائل بنا سکتے ہیں اور فیصلہ سازی پر اثر ڈال سکتے ہیں، جس سے ایک آزاد انتخاب کا دھوکہ پیدا ہو سکتا ہے، جبکہ ممکنہ طور پر صارفین کو ان نتائج کی طرف دھکیل سکتے ہیں جو ہمیں پسند ہیں۔ یہ ڈیٹا کی پرائیویسی اور صارف تحفظات پر وسیع سوالات بھی اٹھاتا ہے۔
ڈیٹا اخلاقیات اب ڈیٹا سائنس اور انجینئرنگ کے لیے ضروری حفاظتی اصول ہیں، جو ہمارے ڈیٹا سے چلنے والے اقدامات کے ممکنہ نقصانات اور غیر ارادی نتائج کو کم کرنے میں مدد کرتے ہیں۔ گارٹنر ہائپ سائیکل برائے AI ڈیجیٹل اخلاقیات، ذمہ دار AI، اور AI گورننس میں متعلقہ رجحانات کو بڑے رجحانات کے کلیدی محرکات کے طور پر شناخت کرتا ہے، جیسے AI کی جمہوریت سازی اور صنعت کاری۔
اس سبق میں، ہم ڈیٹا اخلاقیات کے دلچسپ علاقے کو دریافت کریں گے - بنیادی تصورات اور چیلنجز سے لے کر کیس اسٹڈیز اور AI کے عملی تصورات جیسے گورننس - جو ڈیٹا اور AI کے ساتھ کام کرنے والی ٹیموں اور تنظیموں میں اخلاقیات کی ثقافت قائم کرنے میں مدد کرتے ہیں۔
لیکچر سے پہلے کا کوئز 🎯
بنیادی تعریفیں
آئیے بنیادی اصطلاحات کو سمجھنے سے شروع کرتے ہیں۔
لفظ "اخلاقیات" یونانی لفظ "ethikos" (اور اس کی جڑ "ethos") سے آیا ہے، جس کا مطلب ہے کردار یا اخلاقی فطرت۔
اخلاقیات ان مشترکہ اقدار اور اخلاقی اصولوں کے بارے میں ہیں جو معاشرے میں ہمارے رویے کو کنٹرول کرتے ہیں۔ اخلاقیات قوانین پر مبنی نہیں ہیں بلکہ اس بات پر مبنی ہیں کہ "صحیح بمقابلہ غلط" کیا ہے۔ تاہم، اخلاقی غور و فکر کارپوریٹ گورننس اقدامات اور حکومتی ضوابط کو متاثر کر سکتے ہیں، جو تعمیل کے لیے مزید مراعات پیدا کرتے ہیں۔
ڈیٹا اخلاقیات اخلاقیات کی ایک نئی شاخ ہے جو "ڈیٹا، الگورتھمز اور متعلقہ طریقوں" سے متعلق اخلاقی مسائل کا مطالعہ اور جائزہ لیتی ہے۔ یہاں، "ڈیٹا" ان اعمال پر مرکوز ہے جو تخلیق، ریکارڈنگ، کیوریشن، پروسیسنگ، تقسیم، اشتراک، اور استعمال سے متعلق ہیں، "الگورتھمز" AI، ایجنٹس، مشین لرننگ، اور روبوٹس پر مرکوز ہیں، اور "طریقے" ذمہ دارانہ جدت، پروگرامنگ، ہیکنگ، اور اخلاقیات کے ضابطوں جیسے موضوعات پر مرکوز ہیں۔
عملی اخلاقیات اخلاقی غور و فکر کے عملی اطلاق کے بارے میں ہیں۔ یہ حقیقی دنیا کے اعمال، مصنوعات، اور عمل کے سیاق و سباق میں اخلاقی مسائل کی فعال طور پر تحقیق کرنے اور اصلاحی اقدامات کرنے کا عمل ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ ہماری بیان کردہ اخلاقی اقدار کے مطابق رہیں۔
اخلاقیات کی ثقافت عملی اخلاقیات کو عملی جامہ پہنانے کے بارے میں ہے تاکہ یہ یقینی بنایا جا سکے کہ ہماری اخلاقی اصول اور طریقے پورے تنظیم میں مستقل اور قابل پیمانہ انداز میں اپنائے جائیں۔ کامیاب اخلاقیات کی ثقافتیں تنظیمی سطح پر اخلاقی اصولوں کی وضاحت کرتی ہیں، تعمیل کے لیے بامعنی مراعات فراہم کرتی ہیں، اور ہر سطح پر مطلوبہ رویوں کو فروغ دے کر اور بڑھا کر اخلاقیات کے اصولوں کو تقویت دیتی ہیں۔
اخلاقیات کے تصورات
اس حصے میں، ہم مشترکہ اقدار (اصول) اور اخلاقی چیلنجز (مسائل) جیسے تصورات پر بات کریں گے، اور کیس اسٹڈیز کا جائزہ لیں گے جو آپ کو حقیقی دنیا کے سیاق و سباق میں ان تصورات کو سمجھنے میں مدد فراہم کریں گے۔
1. اخلاقیات کے اصول
ہر ڈیٹا اخلاقیات کی حکمت عملی اخلاقی اصولوں کی وضاحت سے شروع ہوتی ہے - وہ "مشترکہ اقدار" جو قابل قبول رویوں کو بیان کرتی ہیں اور ہمارے ڈیٹا اور AI منصوبوں میں تعمیل کے اقدامات کی رہنمائی کرتی ہیں۔ آپ ان اصولوں کو انفرادی یا ٹیم کی سطح پر بیان کر سکتے ہیں۔ تاہم، زیادہ تر بڑی تنظیمیں ان اصولوں کو ایک اخلاقی AI مشن بیان یا فریم ورک میں بیان کرتی ہیں، جو کارپوریٹ سطح پر بیان کیا جاتا ہے اور تمام ٹیموں میں مستقل طور پر نافذ کیا جاتا ہے۔
مثال: مائیکروسافٹ کا ذمہ دار AI مشن بیان کہتا ہے: "ہم AI کی ترقی کے لیے پرعزم ہیں جو اخلاقی اصولوں پر مبنی ہو جو لوگوں کو اولین ترجیح دے" - اور نیچے دیے گئے فریم ورک میں 6 اخلاقی اصولوں کی نشاندہی کرتا ہے:
آئیے ان اصولوں کو مختصراً دریافت کریں۔ شفافیت اور جوابدہی بنیادی اقدار ہیں جن پر دیگر اصول تعمیر کیے گئے ہیں - تو آئیے یہاں سے شروع کریں:
- جوابدہی پریکٹیشنرز کو ان کے ڈیٹا اور AI آپریشنز اور ان اخلاقی اصولوں کی تعمیل کے لیے ذمہ دار بناتی ہے۔
- شفافیت اس بات کو یقینی بناتی ہے کہ ڈیٹا اور AI کے اقدامات صارفین کے لیے سمجھنے کے قابل ہوں، فیصلوں کے پیچھے کیا اور کیوں کی وضاحت کرتے ہوئے۔
- انصاف - اس بات پر مرکوز ہے کہ AI تمام لوگوں کے ساتھ منصفانہ سلوک کرے، ڈیٹا اور نظام میں کسی بھی نظامی یا غیر واضح سماجی-تکنیکی تعصبات کو حل کرے۔
- قابل اعتمادیت اور حفاظت - اس بات کو یقینی بناتی ہے کہ AI مخصوص اقدار کے ساتھ مستقل طور پر کام کرے، ممکنہ نقصانات یا غیر ارادی نتائج کو کم کرے۔
- پرائیویسی اور سیکیورٹی - ڈیٹا کی اصل کو سمجھنے اور صارفین کو ڈیٹا پرائیویسی اور متعلقہ تحفظات فراہم کرنے کے بارے میں ہے۔
- شمولیت - AI حل کو ارادے کے ساتھ ڈیزائن کرنے کے بارے میں ہے، انہیں وسیع انسانی ضروریات اور صلاحیتوں کو پورا کرنے کے لیے ڈھالنا۔
🚨 سوچیں کہ آپ کا ڈیٹا اخلاقیات مشن بیان کیا ہو سکتا ہے۔ دیگر تنظیموں کے اخلاقی AI فریم ورک کو دریافت کریں - یہاں IBM، Google، اور Facebook کی مثالیں ہیں۔ ان میں کون سی مشترکہ اقدار ہیں؟ یہ اصول ان کے AI پروڈکٹ یا صنعت سے کیسے متعلق ہیں؟
2. اخلاقیات کے چیلنجز
جب ہم اخلاقی اصولوں کی وضاحت کر لیتے ہیں، تو اگلا قدم یہ ہے کہ ہمارے ڈیٹا اور AI اقدامات کا جائزہ لیا جائے کہ آیا وہ ان مشترکہ اقدار کے مطابق ہیں۔ اپنے اقدامات کو دو زمروں میں سوچیں: ڈیٹا جمع کرنا اور الگورتھم ڈیزائن۔
ڈیٹا جمع کرنے کے ساتھ، اقدامات ممکنہ طور پر ذاتی ڈیٹا یا ذاتی طور پر قابل شناخت معلومات (PII) شامل کریں گے جو زندہ افراد کی شناخت کر سکتی ہیں۔ اس میں غیر ذاتی ڈیٹا کی متنوع اشیاء شامل ہیں جو اجتماعی طور پر کسی فرد کی شناخت کرتی ہیں۔ اخلاقی چیلنجز ڈیٹا پرائیویسی، ڈیٹا کی ملکیت، اور متعلقہ موضوعات جیسے مطلع رضامندی اور صارفین کے لیے دانشورانہ املاک کے حقوق سے متعلق ہو سکتے ہیں۔
الگورتھم ڈیزائن کے ساتھ، اقدامات ڈیٹا سیٹس جمع کرنے اور ان کا انتظام کرنے، پھر انہیں حقیقی دنیا کے سیاق و سباق میں نتائج کی پیش گوئی یا فیصلوں کو خودکار کرنے کے لیے ڈیٹا ماڈلز کو تربیت دینے اور تعینات کرنے پر مشتمل ہوں گے۔ اخلاقی چیلنجز ڈیٹا سیٹ کے تعصب، ڈیٹا کے معیار کے مسائل، غیر منصفانہ اور غلط بیانی میں الگورتھمز میں پیدا ہو سکتے ہیں - بشمول کچھ مسائل جو نظامی نوعیت کے ہیں۔
دونوں صورتوں میں، اخلاقیات کے چیلنجز ان علاقوں کو اجاگر کرتے ہیں جہاں ہمارے اقدامات ہمارے مشترکہ اقدار کے ساتھ تنازعہ پیدا کر سکتے ہیں۔ ان خدشات کا پتہ لگانے، کم کرنے، کم سے کم کرنے، یا ختم کرنے کے لیے - ہمیں اپنے اقدامات سے متعلق اخلاقی "ہاں/نہیں" سوالات پوچھنے کی ضرورت ہے، پھر ضرورت کے مطابق اصلاحی اقدامات کریں۔ آئیے کچھ اخلاقی چیلنجز اور ان کے اٹھائے گئے اخلاقی سوالات پر نظر ڈالیں:
2.1 ڈیٹا کی ملکیت
ڈیٹا جمع کرنا اکثر ذاتی ڈیٹا شامل کرتا ہے جو ڈیٹا کے موضوعات کی شناخت کر سکتا ہے۔ ڈیٹا کی ملکیت ڈیٹا کی تخلیق، پروسیسنگ، اور تقسیم سے متعلق کنٹرول اور صارف کے حقوق کے بارے میں ہے۔
اخلاقی سوالات جو ہمیں پوچھنے کی ضرورت ہے:
- ڈیٹا کا مالک کون ہے؟ (صارف یا تنظیم)
- ڈیٹا کے موضوعات کے کیا حقوق ہیں؟ (مثلاً: رسائی، حذف، پورٹیبلٹی)
- تنظیموں کے کیا حقوق ہیں؟ (مثلاً: بدنیتی پر مبنی صارف جائزوں کو درست کرنا)
2.2 مطلع رضامندی
مطلع رضامندی صارفین کے کسی عمل (جیسے ڈیٹا جمع کرنا) پر اتفاق کرنے کے عمل کی وضاحت کرتی ہے، جس میں متعلقہ حقائق کی مکمل سمجھ شامل ہوتی ہے، بشمول مقصد، ممکنہ خطرات، اور متبادل۔
یہاں دریافت کرنے کے سوالات:
- کیا صارف (ڈیٹا کا موضوع) نے ڈیٹا کیپچر اور استعمال کی اجازت دی؟
- کیا صارف نے اس مقصد کو سمجھا جس کے لیے وہ ڈیٹا جمع کیا گیا تھا؟
- کیا صارف نے اپنی شرکت سے ممکنہ خطرات کو سمجھا؟
2.3 دانشورانہ املاک
دانشورانہ املاک انسانی پہل سے پیدا ہونے والی غیر محسوس تخلیقات کو ظاہر کرتی ہے، جو افراد یا کاروبار کے لیے معاشی قدر رکھ سکتی ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا جمع کردہ ڈیٹا صارف یا کاروبار کے لیے معاشی قدر رکھتا ہے؟
- کیا یہاں صارف کے پاس دانشورانہ املاک ہے؟
- کیا یہاں تنظیم کے پاس دانشورانہ املاک ہے؟
- اگر یہ حقوق موجود ہیں، تو ہم انہیں کیسے محفوظ کر رہے ہیں؟
2.4 ڈیٹا پرائیویسی
ڈیٹا پرائیویسی یا معلومات کی پرائیویسی صارف کی شناخت کے تحفظ اور ذاتی طور پر قابل شناخت معلومات کے تحفظ سے متعلق ہے۔
یہاں دریافت کرنے کے سوالات:
- کیا صارفین کا (ذاتی) ڈیٹا ہیک اور لیک سے محفوظ ہے؟
- کیا صارفین کا ڈیٹا صرف مجاز صارفین اور سیاق و سباق تک قابل رسائی ہے؟
- کیا ڈیٹا کے اشتراک یا تقسیم کے وقت صارفین کی گمنامی محفوظ ہے؟
- کیا صارف کو گمنام ڈیٹا سیٹس سے دوبارہ شناخت کیا جا سکتا ہے؟
2.5 بھول جانے کا حق
بھول جانے کا حق یا حذف کرنے کا حق صارفین کو اضافی ذاتی ڈیٹا تحفظ فراہم کرتا ہے۔ خاص طور پر، یہ صارفین کو انٹرنیٹ تلاشوں اور دیگر مقامات سے ذاتی ڈیٹا کو حذف یا ہٹانے کی درخواست کرنے کا حق دیتا ہے، مخصوص حالات کے تحت - انہیں آن لائن ایک نئی شروعات کرنے کی اجازت دیتا ہے بغیر ماضی کے اعمال کو ان کے خلاف رکھا جائے۔
یہاں دریافت کرنے کے سوالات:
- کیا نظام ڈیٹا کے موضوعات کو حذف کرنے کی درخواست کرنے کی اجازت دیتا ہے؟
- کیا صارف کی رضامندی کی واپسی خودکار حذف کو متحرک کرنی چاہیے؟
- کیا ڈیٹا بغیر رضامندی یا غیر قانونی ذرائع سے جمع کیا گیا تھا؟
- کیا ہم ڈیٹا پرائیویسی کے لیے حکومتی ضوابط کے مطابق ہیں؟
2.6 ڈیٹا سیٹ کا تعصب
ڈیٹا سیٹ یا جمع کرنے کا تعصب ایک غیر نمائندہ ڈیٹا کے ذیلی سیٹ کو الگورتھم کی ترقی کے لیے منتخب کرنے کے بارے میں ہے، جو مختلف گروہوں کے لیے ممکنہ غیر منصفانہ نتائج پیدا کرتا ہے۔ تعصب کی اقسام میں انتخاب یا نمونہ تعصب، رضاکارانہ تعصب، اور آلہ تعصب شامل ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا ہم نے ڈیٹا کے موضوعات کا نمائندہ سیٹ بھرتی کیا؟
- کیا ہم نے مختلف تعصبات کے لیے اپنے جمع کردہ یا تیار کردہ ڈیٹا سیٹ کی جانچ کی؟
- کیا ہم دریافت شدہ تعصبات کو کم یا ختم کر سکتے ہیں؟
2.7 ڈیٹا کا معیار
ڈیٹا کا معیار ہمارے الگورتھمز کو تیار کرنے کے لیے استعمال کیے گئے تیار کردہ ڈیٹا سیٹ کی درستگی کو دیکھتا ہے، یہ جانچتا ہے کہ آیا خصوصیات اور ریکارڈز ہمارے AI مقصد کے لیے مطلوبہ سطح کی درستگی اور مستقل مزاجی کو پورا کرتے ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا ہم نے اپنے استعمال کے کیس کے لیے درست خصوصیات کو جمع کیا؟
- کیا مختلف ڈیٹا ذرائع کے درمیان ڈیٹا مسلسل طور پر جمع کیا گیا؟
- کیا مختلف حالات یا منظرناموں کے لیے ڈیٹا سیٹ مکمل ہے؟
- کیا معلومات حقیقت کی عکاسی میں درست طور پر جمع کی گئی ہیں؟
2.8 الگورتھم کا انصاف
Algorithm Fairness یہ جانچتا ہے کہ آیا الگورتھم کا ڈیزائن مخصوص گروہوں کے خلاف منظم طور پر امتیاز کرتا ہے، جس کے نتیجے میں وسائل کی تقسیم (جہاں وسائل کو اس گروہ سے انکار یا روکا جاتا ہے) اور سروس کے معیار (جہاں AI کچھ گروہوں کے لیے اتنا درست نہیں جتنا دوسروں کے لیے ہے) میں ممکنہ نقصانات پیدا ہوتے ہیں۔
یہاں غور کرنے کے سوالات:
- کیا ہم نے مختلف گروہوں اور حالات کے لیے ماڈل کی درستگی کا جائزہ لیا؟
- کیا ہم نے ممکنہ نقصانات (جیسے، دقیانوسی تصورات) کے لیے نظام کا بغور جائزہ لیا؟
- کیا ہم ڈیٹا کو دوبارہ ترتیب دے سکتے ہیں یا ماڈلز کو دوبارہ تربیت دے سکتے ہیں تاکہ شناخت شدہ نقصانات کو کم کیا جا سکے؟
مزید جاننے کے لیے AI Fairness checklists جیسے وسائل کا جائزہ لیں۔
2.9 غلط بیانی
Data Misrepresentation یہ سوال اٹھاتا ہے کہ آیا ہم دیانتداری سے رپورٹ کیے گئے ڈیٹا سے حاصل کردہ بصیرت کو دھوکہ دہی سے پیش کر رہے ہیں تاکہ مطلوبہ بیانیہ کی حمایت کی جا سکے۔
یہاں غور کرنے کے سوالات:
- کیا ہم نامکمل یا غلط ڈیٹا رپورٹ کر رہے ہیں؟
- کیا ہم ڈیٹا کو اس طرح سے پیش کر رہے ہیں جو گمراہ کن نتائج کو جنم دیتا ہے؟
- کیا ہم نتائج کو جوڑنے کے لیے منتخب شماریاتی تکنیک استعمال کر رہے ہیں؟
- کیا متبادل وضاحتیں موجود ہیں جو مختلف نتیجہ پیش کر سکتی ہیں؟
2.10 آزاد انتخاب
Illusion of Free Choice اس وقت پیدا ہوتی ہے جب نظام کے "چوائس آرکیٹیکچرز" فیصلہ سازی کے الگورتھمز کا استعمال کرتے ہوئے لوگوں کو ایک ترجیحی نتیجہ کی طرف دھکیلتے ہیں، جبکہ انہیں اختیارات اور کنٹرول دینے کا تاثر دیتے ہیں۔ یہ dark patterns صارفین کو سماجی اور اقتصادی نقصان پہنچا سکتے ہیں۔ چونکہ صارف کے فیصلے رویے کے پروفائلز پر اثر انداز ہوتے ہیں، یہ اقدامات ممکنہ طور پر مستقبل کے انتخاب کو بڑھا سکتے ہیں یا ان نقصانات کے اثرات کو بڑھا سکتے ہیں۔
یہاں غور کرنے کے سوالات:
- کیا صارف نے اس انتخاب کے اثرات کو سمجھا؟
- کیا صارف کو (متبادل) انتخاب اور ان کے فوائد و نقصانات کا علم تھا؟
- کیا صارف بعد میں خودکار یا متاثرہ انتخاب کو تبدیل کر سکتا ہے؟
3. کیس اسٹڈیز
ان اخلاقی چیلنجز کو حقیقی دنیا کے سیاق و سباق میں رکھنے کے لیے، ایسے کیس اسٹڈیز کو دیکھنا مددگار ثابت ہوتا ہے جو ان اخلاقی خلاف ورزیوں کو نظر انداز کرنے پر افراد اور معاشرے پر ممکنہ نقصانات اور نتائج کو اجاگر کرتے ہیں۔
یہاں کچھ مثالیں ہیں:
| اخلاقی چیلنج | کیس اسٹڈی |
|---|---|
| مطلع رضامندی | 1972 - Tuskegee Syphilis Study - افریقی امریکی مردوں کو جو اس مطالعے میں شامل تھے، مفت طبی دیکھ بھال کا وعدہ کیا گیا تھا لیکن دھوکہ دیا گیا، کیونکہ محققین نے شرکاء کو ان کی تشخیص یا علاج کی دستیابی کے بارے میں مطلع کرنے میں ناکام رہے۔ کئی شرکاء فوت ہو گئے اور ان کے شریک حیات یا بچے متاثر ہوئے؛ یہ مطالعہ 40 سال تک جاری رہا۔ |
| ڈیٹا پرائیویسی | 2007 - Netflix data prize نے محققین کو 50K صارفین کے 10M گمنام فلمی درجہ بندی فراہم کی تاکہ سفارش الگورتھمز کو بہتر بنایا جا سکے۔ تاہم، محققین گمنام ڈیٹا کو بیرونی ڈیٹا سیٹس (جیسے، IMDb تبصرے) کے ساتھ ذاتی طور پر شناختی ڈیٹا سے جوڑنے میں کامیاب رہے - مؤثر طریقے سے کچھ Netflix صارفین کو "ڈی-گمنام" کر دیا۔ |
| کلیکشن تعصب | 2013 - بوسٹن شہر نے Street Bump تیار کیا، ایک ایپ جو شہریوں کو گڑھے رپورٹ کرنے دیتی ہے، جس سے شہر کو بہتر سڑک کے ڈیٹا حاصل کرنے میں مدد ملی۔ تاہم، کم آمدنی والے گروہوں کے لوگوں کو کاروں اور فونز تک کم رسائی حاصل تھی، جس سے ان کے سڑک کے مسائل اس ایپ میں پوشیدہ ہو گئے۔ ڈویلپرز نے منصفانہ رسائی اور ڈیجیٹل تقسیم کے مسائل پر کام کیا۔ |
| الگورتھمک انصاف | 2018 - MIT Gender Shades Study نے صنفی درجہ بندی AI مصنوعات کی درستگی کا جائزہ لیا، خواتین اور رنگین افراد کے لیے درستگی میں فرق کو ظاہر کیا۔ ایک 2019 Apple Card نے مردوں کے مقابلے میں خواتین کو کم کریڈٹ پیش کیا۔ دونوں نے الگورتھمک تعصب میں مسائل کو اجاگر کیا جو سماجی و اقتصادی نقصانات کا باعث بنتے ہیں۔ |
| ڈیٹا غلط بیانی | 2020 - Georgia Department of Public Health released COVID-19 charts جو شہریوں کو تصدیق شدہ کیسز کے رجحانات کے بارے میں گمراہ کرنے کے لیے x-axis پر غیر زمانی ترتیب کا استعمال کرتے ہوئے دکھائی دی۔ یہ بصری چالوں کے ذریعے غلط بیانی کو ظاہر کرتا ہے۔ |
| آزاد انتخاب کا دھوکہ | 2020 - لرننگ ایپ ABCmouse paid $10M to settle an FTC complaint جہاں والدین کو سبسکرپشنز کے لیے ادائیگی کرنے پر مجبور کیا گیا جسے وہ منسوخ نہیں کر سکتے تھے۔ یہ چوائس آرکیٹیکچرز میں تاریک نمونوں کو ظاہر کرتا ہے، جہاں صارفین کو ممکنہ طور پر نقصان دہ انتخاب کی طرف دھکیل دیا گیا۔ |
| ڈیٹا پرائیویسی اور صارف کے حقوق | 2021 - Facebook Data Breach نے 530M صارفین کا ڈیٹا افشا کیا، جس کے نتیجے میں FTC کو $5B کا تصفیہ ہوا۔ تاہم، اس نے صارفین کو خلاف ورزی کے بارے میں مطلع کرنے سے انکار کر دیا، صارف کے حقوق کی خلاف ورزی کی۔ |
مزید کیس اسٹڈیز دریافت کرنا چاہتے ہیں؟ ان وسائل کو دیکھیں:
- Ethics Unwrapped - مختلف صنعتوں میں اخلاقی مخمصے۔
- Data Science Ethics course - اہم کیس اسٹڈیز کا جائزہ۔
- Where things have gone wrong - ڈیون چیک لسٹ کے ساتھ مثالیں۔
🚨 ان کیس اسٹڈیز کے بارے میں سوچیں جو آپ نے دیکھے ہیں - کیا آپ نے اپنی زندگی میں اسی طرح کے اخلاقی چیلنج کا تجربہ کیا یا اس سے متاثر ہوئے؟ کیا آپ کم از کم ایک اور کیس اسٹڈی کے بارے میں سوچ سکتے ہیں جو اس سیکشن میں زیر بحث اخلاقی چیلنجز میں سے ایک کو ظاہر کرتا ہو؟
اطلاقی اخلاقیات
ہم نے اخلاقیات کے تصورات، چیلنجز، اور حقیقی دنیا کے سیاق و سباق میں کیس اسٹڈیز پر بات کی۔ لیکن ہم اپنے منصوبوں میں اخلاقی اصولوں اور طریقوں کو لاگو کرنے کا آغاز کیسے کریں؟ اور ہم بہتر حکمرانی کے لیے ان طریقوں کو عملی شکل کیسے دے سکتے ہیں؟ آئیے کچھ حقیقی دنیا کے حل دریافت کریں:
1. پیشہ ورانہ ضابطے
پیشہ ورانہ ضابطے تنظیموں کو اپنے اخلاقی اصولوں اور مشن بیان کی حمایت کرنے کے لیے ممبران کو "حوصلہ افزائی" کرنے کا ایک آپشن پیش کرتے ہیں۔ ضابطے پیشہ ورانہ رویے کے لیے اخلاقی رہنما خطوط ہیں، جو ملازمین یا ممبران کو ایسے فیصلے کرنے میں مدد دیتے ہیں جو ان کی تنظیم کے اصولوں کے مطابق ہوں۔ یہ صرف ممبران کی رضاکارانہ تعمیل کے طور پر اچھے ہیں؛ تاہم، بہت سی تنظیمیں ممبران کی تعمیل کو متحرک کرنے کے لیے اضافی انعامات اور سزائیں پیش کرتی ہیں۔
مثالیں شامل ہیں:
- Oxford Munich Code of Ethics
- Data Science Association Code of Conduct (2013 میں تخلیق کیا گیا)
- ACM Code of Ethics and Professional Conduct (1993 سے)
🚨 کیا آپ کسی پیشہ ور انجینئرنگ یا ڈیٹا سائنس تنظیم کے ممبر ہیں؟ ان کی ویب سائٹ کو دریافت کریں تاکہ یہ دیکھ سکیں کہ آیا وہ پیشہ ورانہ اخلاقیات کا ضابطہ بیان کرتے ہیں۔ یہ ان کے اخلاقی اصولوں کے بارے میں کیا کہتا ہے؟ وہ ممبران کو ضابطے پر عمل کرنے کے لیے کیسے "حوصلہ افزائی" کر رہے ہیں؟
2. اخلاقیات چیک لسٹس
جبکہ پیشہ ورانہ ضابطے پریکٹیشنرز سے مطلوبہ اخلاقی رویے کی وضاحت کرتے ہیں، وہ نفاذ میں معلوم حدود رکھتے ہیں، خاص طور پر بڑے پیمانے پر منصوبوں میں۔ اس کے بجائے، بہت سے ڈیٹا سائنس ماہرین چیک لسٹس کی وکالت کرتے ہیں، جو اصولوں کو عمل سے جوڑنے کے لیے زیادہ تعیناتی اور قابل عمل طریقے فراہم کرتے ہیں۔
چیک لسٹس سوالات کو "ہاں/نہیں" کاموں میں تبدیل کرتی ہیں جنہیں عملی شکل دی جا سکتی ہے، جس سے انہیں معیاری پروڈکٹ ریلیز ورک فلو کے حصے کے طور پر ٹریک کیا جا سکتا ہے۔
مثالیں شامل ہیں:
- Deon - صنعت کی سفارشات سے تخلیق کردہ ایک عمومی مقصد ڈیٹا اخلاقیات چیک لسٹ کمانڈ لائن ٹول کے ساتھ آسان انضمام کے لیے۔
- Privacy Audit Checklist - قانونی اور سماجی نمائش کے نقطہ نظر سے معلوماتی ہینڈلنگ کے طریقوں کے لیے عمومی رہنمائی فراہم کرتا ہے۔
- AI Fairness Checklist - AI پریکٹیشنرز کے ذریعہ تخلیق کردہ، AI ترقیاتی سائیکلوں میں انصاف کے چیکوں کو اپنانے اور انضمام کی حمایت کے لیے۔
- 22 questions for ethics in data and AI - زیادہ کھلا فریم ورک، ڈیزائن، نفاذ، اور تنظیمی سیاق و سباق میں اخلاقی مسائل کی ابتدائی تلاش کے لیے تشکیل دیا گیا۔
3. اخلاقیات کے ضوابط
اخلاقیات مشترکہ اقدار کی وضاحت کرنے اور رضاکارانہ طور پر صحیح کام کرنے کے بارے میں ہے۔ تعمیل اس بارے میں ہے کہ قانون کی پیروی کہاں اور اگر بیان کی گئی ہو۔ حکمرانی وسیع طور پر ان تمام طریقوں کا احاطہ کرتی ہے جن کے ذریعے تنظیمیں اخلاقی اصولوں کو نافذ کرنے اور قائم کردہ قوانین کی تعمیل کرنے کے لیے کام کرتی ہیں۔
آج، حکمرانی تنظیموں کے اندر دو شکلیں اختیار کرتی ہے۔ پہلے، یہ اخلاقی AI اصولوں کی وضاحت کرنے اور تنظیم میں تمام AI سے متعلق منصوبوں میں اپنانے کو عملی شکل دینے کے طریقوں کو قائم کرنے کے بارے میں ہے۔ دوسرا، یہ ان تمام حکومت کی طرف سے لازمی ڈیٹا تحفظ کے ضوابط کی تعمیل کے بارے میں ہے جن علاقوں میں یہ کام کرتی ہے۔
ڈیٹا تحفظ اور پرائیویسی ضوابط کی مثالیں:
1974, US Privacy Act - وفاقی حکومت کے ذاتی معلومات کے جمع کرنے، استعمال، اور انکشاف کو منظم کرتا ہے۔1996, US Health Insurance Portability & Accountability Act (HIPAA) - ذاتی صحت کے ڈیٹا کی حفاظت کرتا ہے۔1998, US Children's Online Privacy Protection Act (COPPA) - 13 سال سے کم عمر بچوں کے ڈیٹا پرائیویسی کی حفاظت کرتا ہے۔2018, General Data Protection Regulation (GDPR) - صارف کے حقوق، ڈیٹا تحفظ، اور پرائیویسی فراہم کرتا ہے۔2018, California Consumer Privacy Act (CCPA) صارفین کو ان کے (ذاتی) ڈیٹا پر زیادہ حقوق دیتا ہے۔2021, چین کا Personal Information Protection Law ابھی منظور ہوا، جو دنیا بھر میں آن لائن ڈیٹا پرائیویسی کے سب سے مضبوط ضوابط میں سے ایک تخلیق کرتا ہے۔
🚨 یورپی یونین کی طرف سے بیان کردہ GDPR (General Data Protection Regulation) آج ڈیٹا پرائیویسی کے سب سے زیادہ اثر انگیز ضوابط میں سے ایک ہے۔ کیا آپ جانتے ہیں کہ یہ 8 صارف کے حقوق بھی بیان کرتا ہے تاکہ شہریوں کی ڈیجیٹل پرائیویسی اور ذاتی ڈیٹا کی حفاظت کی جا سکے؟ ان کے بارے میں جانیں کہ یہ کیا ہیں اور کیوں اہم ہیں۔
4. اخلاقیات کی ثقافت
نوٹ کریں کہ تعمیل (قانون کے "حرف" کو پورا کرنے کے لیے کافی کرنا) اور نظامی مسائل (جیسے، جمود، معلوماتی عدم توازن، اور تقسیماتی غیر منصفانہ) کو حل کرنے کے درمیان ایک غیر محسوس فرق موجود ہے جو AI کے ہتھیار بنانے کو تیز کر سکتا ہے۔
بعد والے کو اخلاقیات کی ثقافتوں کی وضاحت کے لیے تعاون پر مبنی نقطہ نظر کی ضرورت ہوتی ہے جو صنعت میں تنظیموں کے درمیان جذباتی تعلقات اور مستقل مشترکہ اقدار کو تشکیل دیتے ہیں۔ اس کے لیے تنظیموں میں زیادہ باضابطہ ڈیٹا اخلاقیات کی ثقافتیں بنانے کی ضرورت ہوتی ہے - جس سے کوئی بھی Andon cord کھینچ سکتا ہے (عمل کے ابتدائی مرحلے میں اخلاقیات کے خدشات کو اٹھانے کے لیے) اور اخلاقی جائزے (جیسے، بھرتی میں) کو AI منصوبوں میں ٹیم کی تشکیل کے لیے ایک بنیادی معیار بنا سکتا ہے۔
لیکچر کے بعد کوئز 🎯
جائزہ اور خود مطالعہ
کورسز اور کتابیں اخلاقیات کے بنیادی تصورات اور چیلنجز کو سمجھنے میں مدد کرتی ہیں، جبکہ کیس اسٹڈیز اور ٹولز حقیقی دنیا کے سیاق و سباق میں اطلاقی اخلاقیات کے طریقوں میں مدد کرتے ہیں۔ یہاں شروع کرنے کے لیے کچھ وسائل ہیں۔
- Machine Learning For Beginners - Microsoft کی طرف سے انصاف پر سبق۔
- ذمہ دار مصنوعی ذہانت کے اصول - مائیکروسافٹ لرن کا مفت تعلیمی راستہ۔
- اخلاقیات اور ڈیٹا سائنس - او'ریلی ای بک (ایم. لوکائیڈز، ایچ. میسن وغیرہ)
- ڈیٹا سائنس کے اخلاقیات - مشی گن یونیورسٹی کا آن لائن کورس۔
- اخلاقیات کی وضاحت - ٹیکساس یونیورسٹی کے کیس اسٹڈیز۔
اسائنمنٹ
ڈیٹا اخلاقیات کا کیس اسٹڈی لکھیں
ڈسکلیمر:
یہ دستاویز AI ترجمہ سروس Co-op Translator کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔