41 KiB
ڈیٹا اخلاقیات کا تعارف
 |
|---|
| ڈیٹا سائنس اخلاقیات - اسکیچ نوٹ @nitya کی طرف سے |
ہم سب ایک ڈیٹا سے بھرپور دنیا میں ڈیٹا کے شہری ہیں۔
مارکیٹ کے رجحانات ہمیں بتاتے ہیں کہ 2022 تک، ہر تین میں سے ایک بڑی تنظیم اپنا ڈیٹا آن لائن مارکیٹ پلیسز اور ایکسچینجز کے ذریعے خریدے گی اور بیچے گی۔ بطور ایپ ڈویلپرز، ہمارے لیے ڈیٹا سے چلنے والی بصیرتوں اور الگورتھم سے چلنے والی خودکاریت کو روزمرہ کے صارف تجربات میں شامل کرنا آسان اور سستا ہوگا۔ لیکن جیسے جیسے AI عام ہوتا جا رہا ہے، ہمیں ان الگورتھمز کے ہتھیاروں کے طور پر استعمال کے ممکنہ نقصانات کو بھی سمجھنا ہوگا۔
رجحانات یہ بھی ظاہر کرتے ہیں کہ ہم 2025 تک 180 زیٹا بائٹس سے زیادہ ڈیٹا تخلیق کریں گے اور استعمال کریں گے۔ بطور ڈیٹا سائنسدان، یہ ہمیں ذاتی ڈیٹا تک بے مثال رسائی فراہم کرتا ہے۔ اس کا مطلب ہے کہ ہم صارفین کے رویے کے پروفائل بنا سکتے ہیں اور فیصلہ سازی پر اثر ڈال سکتے ہیں، جس سے ایک آزاد انتخاب کا دھوکہ پیدا ہو سکتا ہے، جبکہ ممکنہ طور پر صارفین کو ان نتائج کی طرف دھکیل سکتے ہیں جو ہمیں پسند ہیں۔ یہ ڈیٹا کی پرائیویسی اور صارفین کے تحفظات پر وسیع سوالات بھی اٹھاتا ہے۔
ڈیٹا اخلاقیات اب ڈیٹا سائنس اور انجینئرنگ کے لیے ضروری حفاظتی اصول ہیں، جو ہمارے ڈیٹا سے چلنے والے اقدامات کے ممکنہ نقصانات اور غیر ارادی نتائج کو کم کرنے میں مدد کرتے ہیں۔ گارٹنر ہائپ سائیکل برائے AI ڈیجیٹل اخلاقیات، ذمہ دار AI، اور AI گورننس میں متعلقہ رجحانات کو AI کی جمہوریت سازی اور صنعت کاری کے بڑے رجحانات کے کلیدی محرکات کے طور پر شناخت کرتا ہے۔
اس سبق میں، ہم ڈیٹا اخلاقیات کے دلچسپ علاقے کو دریافت کریں گے - بنیادی تصورات اور چیلنجز سے لے کر کیس اسٹڈیز اور AI کے عملی تصورات جیسے گورننس - جو ڈیٹا اور AI کے ساتھ کام کرنے والی ٹیموں اور تنظیموں میں اخلاقیات کی ثقافت قائم کرنے میں مدد کرتے ہیں۔
لیکچر سے پہلے کا کوئز 🎯
بنیادی تعریفیں
آئیے بنیادی اصطلاحات کو سمجھنے سے شروع کرتے ہیں۔
لفظ "اخلاقیات" یونانی لفظ "ethikos" (اور اس کی جڑ "ethos") سے آیا ہے، جس کا مطلب ہے کردار یا اخلاقی فطرت۔
اخلاقیات ان مشترکہ اقدار اور اخلاقی اصولوں کے بارے میں ہیں جو معاشرے میں ہمارے رویے کو کنٹرول کرتے ہیں۔ اخلاقیات قوانین پر مبنی نہیں ہیں بلکہ اس بات کے وسیع پیمانے پر قبول شدہ اصولوں پر مبنی ہیں کہ کیا "صحیح بمقابلہ غلط" ہے۔ تاہم، اخلاقی غور و فکر کارپوریٹ گورننس اقدامات اور حکومتی ضوابط کو متاثر کر سکتے ہیں جو تعمیل کے لیے مزید مراعات پیدا کرتے ہیں۔
ڈیٹا اخلاقیات اخلاقیات کی ایک نئی شاخ ہے جو "ڈیٹا، الگورتھمز اور متعلقہ طریقوں" سے متعلق اخلاقی مسائل کا مطالعہ اور جائزہ لیتی ہے۔ یہاں، "ڈیٹا" ان اعمال پر مرکوز ہے جو تخلیق، ریکارڈنگ، کیوریشن، پروسیسنگ، تقسیم، اشتراک، اور استعمال سے متعلق ہیں، "الگورتھمز" AI، ایجنٹس، مشین لرننگ، اور روبوٹس پر مرکوز ہیں، اور "طریقے" ذمہ دارانہ جدت، پروگرامنگ، ہیکنگ، اور اخلاقیات کے ضابطوں جیسے موضوعات پر مرکوز ہیں۔
عملی اخلاقیات اخلاقی غور و فکر کے عملی اطلاق کے بارے میں ہیں۔ یہ حقیقی دنیا کے اعمال، مصنوعات اور عمل کے تناظر میں اخلاقی مسائل کی فعال طور پر تحقیق کرنے، اور اصلاحی اقدامات کرنے کا عمل ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ ہماری بیان کردہ اخلاقی اقدار کے مطابق رہیں۔
اخلاقیات کی ثقافت عملی اخلاقیات کو نافذ کرنے کے بارے میں ہے تاکہ یہ یقینی بنایا جا سکے کہ ہماری اخلاقی اصول اور طریقے پورے تنظیم میں مستقل اور قابل پیمانہ انداز میں اپنائے جائیں۔ کامیاب اخلاقیات کی ثقافتیں تنظیمی سطح پر اخلاقی اصولوں کی وضاحت کرتی ہیں، تعمیل کے لیے بامعنی مراعات فراہم کرتی ہیں، اور ہر سطح پر مطلوبہ رویوں کو فروغ دے کر اور بڑھا کر اخلاقیات کے اصولوں کو تقویت دیتی ہیں۔
اخلاقیات کے تصورات
اس حصے میں، ہم مشترکہ اقدار (اصول) اور اخلاقی چیلنجز (مسائل) جیسے تصورات پر بات کریں گے، اور کیس اسٹڈیز کا جائزہ لیں گے جو آپ کو حقیقی دنیا کے تناظر میں ان تصورات کو سمجھنے میں مدد فراہم کریں گے۔
1. اخلاقیات کے اصول
ہر ڈیٹا اخلاقیات کی حکمت عملی اخلاقی اصولوں کی وضاحت سے شروع ہوتی ہے - وہ "مشترکہ اقدار" جو قابل قبول رویوں کو بیان کرتی ہیں اور ہمارے ڈیٹا اور AI منصوبوں میں تعمیل کے اقدامات کی رہنمائی کرتی ہیں۔ آپ ان اصولوں کو انفرادی یا ٹیم کی سطح پر بیان کر سکتے ہیں۔ تاہم، زیادہ تر بڑی تنظیمیں انہیں ایک اخلاقی AI مشن بیان یا فریم ورک میں بیان کرتی ہیں جو کارپوریٹ سطح پر بیان کی جاتی ہے اور تمام ٹیموں میں مستقل طور پر نافذ کی جاتی ہے۔
مثال: مائیکروسافٹ کا ذمہ دار AI مشن بیان کہتا ہے: "ہم AI کی ترقی کے لیے پرعزم ہیں جو اخلاقی اصولوں کے ذریعے لوگوں کو اولین ترجیح دیتا ہے" - اور اس فریم ورک میں 6 اخلاقی اصولوں کی وضاحت کرتا ہے:
آئیے ان اصولوں کو مختصراً دریافت کریں۔ شفافیت اور جوابدہی بنیادی اقدار ہیں جن پر دیگر اصول تعمیر کیے گئے ہیں - تو آئیے یہاں سے شروع کریں:
- جوابدہی پریکٹیشنرز کو ان کے ڈیٹا اور AI آپریشنز کے لیے ذمہ دار بناتی ہے، اور ان اخلاقی اصولوں کی تعمیل کو یقینی بناتی ہے۔
- شفافیت اس بات کو یقینی بناتی ہے کہ ڈیٹا اور AI کے اقدامات صارفین کے لیے سمجھنے کے قابل ہوں، فیصلوں کے پیچھے کیا اور کیوں کی وضاحت کرتے ہوئے۔
- منصفانہ برتاؤ - اس بات پر توجہ مرکوز کرتا ہے کہ AI تمام لوگوں کے ساتھ منصفانہ برتاؤ کرے، ڈیٹا اور نظام میں کسی بھی نظامی یا غیر واضح سماجی-تکنیکی تعصبات کو حل کرے۔
- قابل اعتماد اور حفاظت - اس بات کو یقینی بناتا ہے کہ AI مخصوص اقدار کے ساتھ مستقل طور پر کام کرے، ممکنہ نقصانات یا غیر ارادی نتائج کو کم کرے۔
- پرائیویسی اور سیکیورٹی - ڈیٹا کی اصلیت کو سمجھنے اور صارفین کو ڈیٹا پرائیویسی اور متعلقہ تحفظات فراہم کرنے کے بارے میں ہے۔
- شمولیت - AI حل کو ارادے کے ساتھ ڈیزائن کرنے کے بارے میں ہے، انہیں وسیع انسانی ضروریات اور صلاحیتوں کو پورا کرنے کے لیے ڈھالنا۔
🚨 اپنے ڈیٹا اخلاقیات کے مشن بیان کے بارے میں سوچیں۔ دیگر تنظیموں کے اخلاقی AI فریم ورک کو دریافت کریں - یہاں IBM، Google، اور Facebook کی مثالیں ہیں۔ ان میں کون سی مشترکہ اقدار ہیں؟ یہ اصول ان کے AI پروڈکٹ یا صنعت سے کیسے متعلق ہیں؟
2. اخلاقیات کے چیلنجز
جب ہم اخلاقی اصولوں کی وضاحت کر لیتے ہیں، تو اگلا قدم یہ ہے کہ ہمارے ڈیٹا اور AI اقدامات کا جائزہ لیا جائے کہ آیا وہ ان مشترکہ اقدار کے مطابق ہیں۔ اپنے اقدامات کو دو زمروں میں سوچیں: ڈیٹا جمع کرنا اور الگورتھم ڈیزائن۔
ڈیٹا جمع کرنے کے ساتھ، اقدامات ممکنہ طور پر ذاتی ڈیٹا یا ذاتی طور پر قابل شناخت معلومات (PII) شامل کریں گے جو زندہ افراد کی شناخت کر سکتی ہیں۔ اس میں غیر ذاتی ڈیٹا کی مختلف اشیاء شامل ہیں جو اجتماعی طور پر کسی فرد کی شناخت کرتی ہیں۔ اخلاقی چیلنجز ڈیٹا پرائیویسی، ڈیٹا کی ملکیت، اور متعلقہ موضوعات جیسے مطلع رضامندی اور صارفین کے دانشورانہ املاک کے حقوق سے متعلق ہو سکتے ہیں۔
الگورتھم ڈیزائن کے ساتھ، اقدامات ڈیٹا سیٹس کو جمع کرنے اور ان کی کیوریشن میں شامل ہوں گے، پھر انہیں ڈیٹا ماڈلز کو تربیت دینے اور تعینات کرنے کے لیے استعمال کریں گے جو حقیقی دنیا کے تناظر میں نتائج کی پیش گوئی کرتے ہیں یا فیصلے خودکار بناتے ہیں۔ اخلاقی چیلنجز ڈیٹا سیٹ کے تعصب، ڈیٹا کے معیار کے مسائل، غیر منصفانہ برتاؤ، اور الگورتھمز میں غلط نمائندگی سے پیدا ہو سکتے ہیں - جن میں سے کچھ مسائل نظامی نوعیت کے ہیں۔
دونوں صورتوں میں، اخلاقیات کے چیلنجز ان علاقوں کو اجاگر کرتے ہیں جہاں ہمارے اقدامات ہمارے مشترکہ اقدار کے ساتھ تنازعہ پیدا کر سکتے ہیں۔ ان خدشات کا پتہ لگانے، کم کرنے، کم سے کم کرنے، یا ختم کرنے کے لیے - ہمیں اپنے اقدامات سے متعلق اخلاقی "ہاں/نہیں" سوالات پوچھنے کی ضرورت ہے، پھر ضرورت کے مطابق اصلاحی اقدامات کریں۔ آئیے کچھ اخلاقی چیلنجز اور ان کے اٹھائے گئے اخلاقی سوالات پر نظر ڈالیں:
2.1 ڈیٹا کی ملکیت
ڈیٹا جمع کرنا اکثر ذاتی ڈیٹا شامل کرتا ہے جو ڈیٹا کے موضوعات کی شناخت کر سکتا ہے۔ ڈیٹا کی ملکیت کنٹرول اور صارف کے حقوق سے متعلق ہے جو ڈیٹا کی تخلیق، پروسیسنگ، اور تقسیم سے متعلق ہیں۔
اخلاقی سوالات جو ہمیں پوچھنے کی ضرورت ہے:
- ڈیٹا کا مالک کون ہے؟ (صارف یا تنظیم)
- ڈیٹا کے موضوعات کے کیا حقوق ہیں؟ (مثلاً: رسائی، حذف، پورٹیبلٹی)
- تنظیموں کے کیا حقوق ہیں؟ (مثلاً: بدنیتی پر مبنی صارف جائزوں کو درست کرنا)
2.2 مطلع رضامندی
مطلع رضامندی صارفین کے کسی عمل (جیسے ڈیٹا جمع کرنا) پر مکمل سمجھ کے ساتھ رضامندی دینے کے عمل کی وضاحت کرتی ہے، جس میں مقصد، ممکنہ خطرات، اور متبادل شامل ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا صارف (ڈیٹا کا موضوع) نے ڈیٹا کیپچر اور استعمال کی اجازت دی؟
- کیا صارف نے اس مقصد کو سمجھا جس کے لیے وہ ڈیٹا جمع کیا گیا؟
- کیا صارف نے اپنی شرکت سے پیدا ہونے والے ممکنہ خطرات کو سمجھا؟
2.3 دانشورانہ املاک
دانشورانہ املاک انسانی پہل سے پیدا ہونے والی غیر محسوس تخلیقات کو ظاہر کرتی ہے، جو افراد یا کاروبار کے لیے معاشی قدر رکھ سکتی ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا جمع کردہ ڈیٹا صارف یا کاروبار کے لیے معاشی قدر رکھتا ہے؟
- کیا یہاں صارف کے پاس دانشورانہ املاک ہیں؟
- کیا یہاں تنظیم کے پاس دانشورانہ املاک ہیں؟
- اگر یہ حقوق موجود ہیں، تو ہم انہیں کیسے محفوظ کر رہے ہیں؟
2.4 ڈیٹا پرائیویسی
ڈیٹا پرائیویسی یا معلومات کی پرائیویسی صارف کی پرائیویسی کو محفوظ رکھنے اور ذاتی طور پر قابل شناخت معلومات کے ساتھ صارف کی شناخت کے تحفظ سے متعلق ہے۔
یہاں دریافت کرنے کے سوالات:
- کیا صارفین کا (ذاتی) ڈیٹا ہیک اور لیک سے محفوظ ہے؟
- کیا صارفین کا ڈیٹا صرف مجاز صارفین اور سیاق و سباق تک قابل رسائی ہے؟
- کیا ڈیٹا کے اشتراک یا تقسیم کے وقت صارفین کی گمنامی محفوظ ہے؟
- کیا صارف کو گمنام ڈیٹا سیٹس سے دوبارہ شناخت کیا جا سکتا ہے؟
2.5 بھول جانے کا حق
بھول جانے کا حق یا حذف کرنے کا حق صارفین کو اضافی ذاتی ڈیٹا تحفظ فراہم کرتا ہے۔ خاص طور پر، یہ صارفین کو انٹرنیٹ تلاشوں اور دیگر مقامات سے ذاتی ڈیٹا کو حذف یا ہٹانے کی درخواست کرنے کا حق دیتا ہے، مخصوص حالات کے تحت - انہیں آن لائن ایک نئی شروعات کرنے کی اجازت دیتا ہے بغیر ماضی کے اعمال کو ان کے خلاف رکھا جائے۔
یہاں دریافت کرنے کے سوالات:
- کیا نظام ڈیٹا کے موضوعات کو حذف کرنے کی درخواست کرنے کی اجازت دیتا ہے؟
- کیا صارف کی رضامندی کی واپسی خودکار حذف کو متحرک کرنی چاہیے؟
- کیا ڈیٹا رضامندی کے بغیر یا غیر قانونی ذرائع سے جمع کیا گیا؟
- کیا ہم ڈیٹا پرائیویسی کے لیے حکومتی ضوابط کے مطابق ہیں؟
2.6 ڈیٹا سیٹ کا تعصب
ڈیٹا سیٹ یا جمع کرنے کا تعصب ایک غیر نمائندہ ڈیٹا کے ذیلی سیٹ کو الگورتھم کی ترقی کے لیے منتخب کرنے کے بارے میں ہے، جو مختلف گروہوں کے لیے ممکنہ طور پر غیر منصفانہ نتائج پیدا کرتا ہے۔ تعصب کی اقسام میں انتخاب یا نمونہ تعصب، رضاکارانہ تعصب، اور آلے کا تعصب شامل ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا ہم نے ڈیٹا کے موضوعات کا نمائندہ سیٹ بھرتی کیا؟
- کیا ہم نے مختلف تعصبات کے لیے اپنے جمع کردہ یا کیوریٹڈ ڈیٹا سیٹ کی جانچ کی؟
- کیا ہم دریافت شدہ تعصبات کو کم یا ختم کر سکتے ہیں؟
2.7 ڈیٹا کا معیار
ڈیٹا کا معیار ہمارے الگورتھمز کو تیار کرنے کے لیے استعمال کیے گئے کیوریٹڈ ڈیٹا سیٹ کی درستگی کو دیکھتا ہے، یہ چیک کرتے ہوئے کہ آیا خصوصیات اور ریکارڈز ہمارے AI مقصد کے لیے مطلوبہ سطح کی درستگی اور مستقل مزاجی کی ضروریات کو پورا کرتے ہیں۔
یہاں دریافت کرنے کے سوالات:
- کیا ہم نے اپنے استعمال کے کیس کے لیے درست خصوصیات کو جمع کیا؟
- کیا مختلف ڈیٹا ذرائع کے درمیان ڈیٹا مسلسل طور پر جمع کیا گیا؟
- کیا ڈیٹا سیٹ مختلف حالات یا منظرناموں کے لیے مکمل ہے؟
- کیا معلومات حقیقت کی عکاسی کرتے ہوئے درست طور پر جمع کی گئی ہیں؟
2.8 الگورتھم کی من
Algorithm Fairness یہ جانچتا ہے کہ آیا الگورتھم کا ڈیزائن مخصوص گروہوں کے خلاف منظم طور پر امتیاز کرتا ہے، جس کے نتیجے میں وسائل کی تقسیم (جہاں وسائل کو اس گروہ سے انکار یا روکا جاتا ہے) اور سروس کے معیار (جہاں AI کچھ گروہوں کے لیے اتنا درست نہیں جتنا دوسروں کے لیے ہے) میں ممکنہ نقصانات پیدا ہوتے ہیں۔
یہاں غور کرنے کے سوالات:
- کیا ہم نے مختلف گروہوں اور حالات کے لیے ماڈل کی درستگی کا جائزہ لیا؟
- کیا ہم نے ممکنہ نقصانات (جیسے، دقیانوسی تصورات) کے لیے نظام کا بغور جائزہ لیا؟
- کیا ہم ڈیٹا کو دوبارہ ترتیب دے سکتے ہیں یا ماڈلز کو دوبارہ تربیت دے سکتے ہیں تاکہ شناخت شدہ نقصانات کو کم کیا جا سکے؟
مزید جاننے کے لیے AI Fairness checklists جیسے وسائل کو دیکھیں۔
2.9 غلط بیانی
Data Misrepresentation یہ سوال اٹھاتا ہے کہ آیا ہم دیانتداری سے رپورٹ کیے گئے ڈیٹا سے حاصل کردہ بصیرت کو دھوکہ دہی کے انداز میں پیش کر رہے ہیں تاکہ مطلوبہ بیانیہ کی حمایت کی جا سکے۔
یہاں غور کرنے کے سوالات:
- کیا ہم نامکمل یا غلط ڈیٹا رپورٹ کر رہے ہیں؟
- کیا ہم ڈیٹا کو اس طرح سے پیش کر رہے ہیں جو گمراہ کن نتائج کو جنم دیتا ہے؟
- کیا ہم نتائج کو جوڑنے کے لیے منتخب شماریاتی تکنیک استعمال کر رہے ہیں؟
- کیا متبادل وضاحتیں موجود ہیں جو مختلف نتیجہ پیش کر سکتی ہیں؟
2.10 آزاد انتخاب
Illusion of Free Choice اس وقت پیدا ہوتی ہے جب نظام کے "چوائس آرکیٹیکچرز" فیصلہ سازی کے الگورتھمز کا استعمال کرتے ہوئے لوگوں کو ایک ترجیحی نتیجہ کی طرف دھکیلتے ہیں، جبکہ انہیں اختیارات اور کنٹرول دینے کا تاثر دیتے ہیں۔ یہ dark patterns صارفین کو سماجی اور اقتصادی نقصان پہنچا سکتے ہیں۔ چونکہ صارف کے فیصلے رویے کے پروفائلز پر اثر انداز ہوتے ہیں، یہ اقدامات ممکنہ طور پر مستقبل کے انتخاب کو بڑھا سکتے ہیں یا ان نقصانات کے اثرات کو بڑھا سکتے ہیں۔
یہاں غور کرنے کے سوالات:
- کیا صارف نے اس انتخاب کے اثرات کو سمجھا؟
- کیا صارف کو (متبادل) انتخاب اور ہر ایک کے فوائد و نقصانات کا علم تھا؟
- کیا صارف بعد میں خودکار یا متاثرہ انتخاب کو تبدیل کر سکتا ہے؟
3. کیس اسٹڈیز
ان اخلاقی چیلنجز کو حقیقی دنیا کے سیاق و سباق میں رکھنے کے لیے، ایسے کیس اسٹڈیز کو دیکھنا مددگار ثابت ہوتا ہے جو ان اخلاقی خلاف ورزیوں کو نظر انداز کرنے پر افراد اور معاشرے پر ممکنہ نقصانات اور نتائج کو اجاگر کرتے ہیں۔
یہاں کچھ مثالیں ہیں:
| اخلاقی چیلنج | کیس اسٹڈی |
|---|---|
| مطلع رضامندی | 1972 - Tuskegee Syphilis Study - افریقی امریکی مردوں کو جو اس مطالعے میں شامل تھے، مفت طبی دیکھ بھال کا وعدہ کیا گیا تھا لیکن دھوکہ دیا گیا، کیونکہ محققین نے شرکاء کو ان کی تشخیص یا علاج کی دستیابی کے بارے میں مطلع کرنے میں ناکام رہے۔ کئی شرکاء فوت ہو گئے اور ان کے شریک حیات یا بچے متاثر ہوئے؛ مطالعہ 40 سال تک جاری رہا۔ |
| ڈیٹا پرائیویسی | 2007 - Netflix data prize نے محققین کو 50K صارفین کے 10M گمنام فلمی درجہ بندی فراہم کی تاکہ سفارش الگورتھمز کو بہتر بنایا جا سکے۔ تاہم، محققین گمنام ڈیٹا کو بیرونی ڈیٹاسیٹس (جیسے، IMDb تبصرے) میں ذاتی طور پر شناختی ڈیٹا کے ساتھ جوڑنے میں کامیاب رہے - مؤثر طریقے سے کچھ Netflix صارفین کو "ڈی-گمنام" کر دیا۔ |
| کلیکشن تعصب | 2013 - بوسٹن شہر نے Street Bump تیار کیا، ایک ایپ جو شہریوں کو گڑھے رپورٹ کرنے دیتی ہے، جس سے شہر کو بہتر سڑک کے ڈیٹا حاصل کرنے اور مسائل کو حل کرنے میں مدد ملی۔ تاہم، کم آمدنی والے گروہوں کے لوگوں کو کاروں اور فونز تک کم رسائی حاصل تھی، جس سے ان کے سڑک کے مسائل اس ایپ میں پوشیدہ ہو گئے۔ ڈویلپرز نے منصفانہ رسائی اور ڈیجیٹل تقسیم کے مسائل کے لیے ماہرین کے ساتھ کام کیا۔ |
| الگورتھمک انصاف | 2018 - MIT Gender Shades Study نے صنفی درجہ بندی AI مصنوعات کی درستگی کا جائزہ لیا، خواتین اور رنگین افراد کے لیے درستگی میں فرق کو ظاہر کیا۔ ایک 2019 Apple Card نے مردوں کے مقابلے میں خواتین کو کم کریڈٹ پیش کیا۔ دونوں نے الگورتھمک تعصب میں مسائل کو اجاگر کیا، جس کے نتیجے میں سماجی و اقتصادی نقصانات ہوئے۔ |
| ڈیٹا غلط بیانی | 2020 - Georgia Department of Public Health نے COVID-19 چارٹس جاری کیے جو شہریوں کو تصدیق شدہ کیسز کے رجحانات کے بارے میں گمراہ کن معلومات فراہم کرتے نظر آئے، x-axis پر غیر زمانی ترتیب کے ساتھ۔ یہ بصری چالوں کے ذریعے غلط بیانی کو ظاہر کرتا ہے۔ |
| آزاد انتخاب کا دھوکہ | 2020 - لرننگ ایپ ABCmouse نے FTC شکایت کو حل کرنے کے لیے $10M ادا کیے جہاں والدین کو ایسی سبسکرپشنز کے لیے ادائیگی کرنے پر مجبور کیا گیا جنہیں وہ منسوخ نہیں کر سکتے تھے۔ یہ چوائس آرکیٹیکچرز میں تاریک نمونوں کو ظاہر کرتا ہے، جہاں صارفین کو ممکنہ طور پر نقصان دہ انتخاب کی طرف دھکیل دیا گیا۔ |
| ڈیٹا پرائیویسی اور صارف کے حقوق | 2021 - Facebook Data Breach نے 530M صارفین کا ڈیٹا افشا کیا، جس کے نتیجے میں FTC کو $5B کا تصفیہ ہوا۔ تاہم، اس نے صارفین کو خلاف ورزی کے بارے میں مطلع کرنے سے انکار کر دیا، صارف کے ڈیٹا شفافیت اور رسائی کے حقوق کی خلاف ورزی کی۔ |
مزید کیس اسٹڈیز دریافت کرنا چاہتے ہیں؟ ان وسائل کو دیکھیں:
- Ethics Unwrapped - مختلف صنعتوں میں اخلاقی مخمصے۔
- Data Science Ethics course - اہم کیس اسٹڈیز کا جائزہ۔
- Where things have gone wrong - ڈیون چیک لسٹ کے ساتھ مثالیں۔
🚨 ان کیس اسٹڈیز کے بارے میں سوچیں جو آپ نے دیکھے ہیں - کیا آپ نے اپنی زندگی میں اسی طرح کے اخلاقی چیلنج کا سامنا کیا ہے یا اس سے متاثر ہوئے ہیں؟ کیا آپ کم از کم ایک اور کیس اسٹڈی کے بارے میں سوچ سکتے ہیں جو اس سیکشن میں زیر بحث اخلاقی چیلنجز میں سے ایک کو ظاہر کرتا ہو؟
عملی اخلاقیات
ہم نے اخلاقیات کے تصورات، چیلنجز، اور حقیقی دنیا کے سیاق و سباق میں کیس اسٹڈیز پر بات کی۔ لیکن ہم اپنے منصوبوں میں اخلاقی اصولوں اور طریقوں کو لاگو کرنے کا آغاز کیسے کریں؟ اور ہم بہتر حکمرانی کے لیے ان طریقوں کو عملی شکل کیسے دے سکتے ہیں؟ آئیے کچھ حقیقی دنیا کے حل تلاش کریں:
1. پیشہ ورانہ ضابطے
پیشہ ورانہ ضابطے تنظیموں کو اپنے اخلاقی اصولوں اور مشن بیان کی حمایت کرنے کے لیے ممبران کو "ترغیب دینے" کا ایک آپشن پیش کرتے ہیں۔ ضابطے پیشہ ورانہ رویے کے لیے اخلاقی رہنما خطوط ہیں، جو ملازمین یا ممبران کو ایسے فیصلے کرنے میں مدد دیتے ہیں جو ان کی تنظیم کے اصولوں کے مطابق ہوں۔ یہ صرف ممبران کی رضاکارانہ تعمیل کے طور پر اچھے ہیں؛ تاہم، بہت سی تنظیمیں ممبران کی تعمیل کو متحرک کرنے کے لیے اضافی انعامات اور سزائیں پیش کرتی ہیں۔
مثالیں شامل ہیں:
- Oxford Munich Code of Ethics
- Data Science Association Code of Conduct (2013 میں تخلیق کیا گیا)
- ACM Code of Ethics and Professional Conduct (1993 سے)
🚨 کیا آپ کسی پیشہ ور انجینئرنگ یا ڈیٹا سائنس تنظیم کے ممبر ہیں؟ ان کی سائٹ کو دیکھیں کہ آیا وہ پیشہ ورانہ اخلاقیات کا ضابطہ بیان کرتے ہیں۔ یہ ان کے اخلاقی اصولوں کے بارے میں کیا کہتا ہے؟ وہ ممبران کو ضابطے پر عمل کرنے کے لیے کیسے "ترغیب دے رہے ہیں"؟
2. اخلاقیات چیک لسٹس
جبکہ پیشہ ورانہ ضابطے پریکٹیشنرز سے مطلوبہ اخلاقی رویے کی وضاحت کرتے ہیں، وہ نفاذ میں معلوم حدود رکھتے ہیں، خاص طور پر بڑے پیمانے پر منصوبوں میں۔ اس کے بجائے، بہت سے ڈیٹا سائنس ماہرین چیک لسٹس کی وکالت کرتے ہیں، جو اصولوں کو طریقوں سے جوڑ سکتے ہیں زیادہ تعیناتی اور قابل عمل طریقے سے۔
چیک لسٹس سوالات کو "ہاں/نہیں" کاموں میں تبدیل کرتی ہیں جنہیں عملی شکل دی جا سکتی ہے، انہیں معیاری پروڈکٹ ریلیز ورک فلو کے حصے کے طور پر ٹریک کرنے کی اجازت دیتی ہیں۔
مثالیں شامل ہیں:
- Deon - صنعت کی سفارشات سے تخلیق کردہ ایک عمومی مقصد ڈیٹا اخلاقیات چیک لسٹ کمانڈ لائن ٹول کے ساتھ آسان انضمام کے لیے۔
- Privacy Audit Checklist - قانونی اور سماجی نمائش کے نقطہ نظر سے معلوماتی ہینڈلنگ کے طریقوں کے لیے عمومی رہنمائی فراہم کرتا ہے۔
- AI Fairness Checklist - AI پریکٹیشنرز کے ذریعہ تخلیق کردہ، AI ترقیاتی سائیکلوں میں انصاف کے چیکوں کو اپنانے اور انضمام کی حمایت کرنے کے لیے۔
- 22 questions for ethics in data and AI - زیادہ کھلا فریم ورک، ڈیزائن، نفاذ، اور تنظیمی سیاق و سباق میں اخلاقی مسائل کی ابتدائی تلاش کے لیے تشکیل دیا گیا۔
3. اخلاقیات کے ضوابط
اخلاقیات مشترکہ اقدار کی وضاحت کرنے اور رضاکارانہ طور پر صحیح کام کرنے کے بارے میں ہے۔ تعمیل اس بارے میں ہے کہ قانون کی پیروی کرنا اگر اور جہاں بیان کیا گیا ہو۔ حکمرانی وسیع پیمانے پر ان تمام طریقوں کا احاطہ کرتا ہے جن کے ذریعے تنظیمیں اخلاقی اصولوں کو نافذ کرنے اور قائم کردہ قوانین کی تعمیل کرنے کے لیے کام کرتی ہیں۔
آج، تنظیموں کے اندر حکمرانی دو شکلیں اختیار کرتی ہے۔ پہلے، یہ اخلاقی AI اصولوں کی وضاحت کرنے اور تنظیم میں تمام AI سے متعلق منصوبوں میں اپنانے کو عملی شکل دینے کے طریقوں کو قائم کرنے کے بارے میں ہے۔ دوسرا، یہ ان تمام حکومت کے ذریعہ لازمی ڈیٹا تحفظ کے ضوابط کی تعمیل کرنے کے بارے میں ہے جن علاقوں میں یہ کام کرتی ہے۔
ڈیٹا تحفظ اور پرائیویسی ضوابط کی مثالیں:
1974, US Privacy Act - وفاقی حکومت کے ذاتی معلومات کے جمع کرنے، استعمال، اور انکشاف کو منظم کرتا ہے۔1996, US Health Insurance Portability & Accountability Act (HIPAA) - ذاتی صحت کے ڈیٹا کی حفاظت کرتا ہے۔1998, US Children's Online Privacy Protection Act (COPPA) - 13 سال سے کم عمر بچوں کے ڈیٹا پرائیویسی کی حفاظت کرتا ہے۔2018, General Data Protection Regulation (GDPR) - صارف کے حقوق، ڈیٹا تحفظ، اور پرائیویسی فراہم کرتا ہے۔2018, California Consumer Privacy Act (CCPA) صارفین کو ان کے (ذاتی) ڈیٹا پر زیادہ حقوق دیتا ہے۔2021, چین کا Personal Information Protection Law ابھی پاس ہوا، دنیا بھر میں آن لائن ڈیٹا پرائیویسی کے سب سے مضبوط ضوابط میں سے ایک تخلیق کرتا ہے۔
🚨 یورپی یونین کی طرف سے بیان کردہ GDPR (General Data Protection Regulation) آج ڈیٹا پرائیویسی کے سب سے زیادہ اثر انگیز ضوابط میں سے ایک ہے۔ کیا آپ جانتے ہیں کہ یہ 8 صارف کے حقوق بھی بیان کرتا ہے تاکہ شہریوں کی ڈیجیٹل پرائیویسی اور ذاتی ڈیٹا کی حفاظت کی جا سکے؟ ان کے بارے میں جانیں کہ یہ کیا ہیں اور کیوں اہم ہیں۔
4. اخلاقیات کی ثقافت
نوٹ کریں کہ تعمیل (قانون کے "حرف" کو پورا کرنے کے لیے کافی کرنا) اور نظامی مسائل (جیسے، جمود، معلوماتی عدم توازن، اور تقسیماتی غیر منصفانہ) کو حل کرنے کے درمیان ایک غیر محسوس فرق موجود ہے جو AI کے ہتھیاروں کو تیز کر سکتا ہے۔
بعد والے کو اخلاقیات کی ثقافتوں کی وضاحت کے لیے تعاون پر مبنی طریقوں کی ضرورت ہوتی ہے جو صنعت میں تنظیموں کے درمیان جذباتی تعلقات اور مستقل مشترکہ اقدار کو تشکیل دیتے ہیں۔ اس کے لیے تنظیموں میں زیادہ باضابطہ ڈیٹا اخلاقیات کی ثقافتیں بنانے کی ضرورت ہوتی ہے - جس سے کوئی بھی Andon cord کھینچ سکتا ہے (عمل کے ابتدائی مرحلے میں اخلاقیات کے خدشات کو اٹھانے کے لیے) اور اخلاقی تشخیصات (جیسے، بھرتی میں) کو AI منصوبوں میں ٹیم کی تشکیل کے لیے ایک بنیادی معیار بناتا ہے۔
لیکچر کے بعد کا کوئز 🎯
جائزہ اور خود مطالعہ
کورسز اور کتابیں اخلاقیات کے بنیادی تصورات اور چیلنجز کو سمجھنے میں مدد کرتی ہیں، جبکہ کیس اسٹڈیز اور ٹولز حقیقی دنیا کے سیاق و سباق میں عملی اخلاقیات کے طریقوں میں مدد کرتے ہیں۔ یہاں شروع کرنے کے لیے کچھ وسائل ہیں۔
- Machine Learning For Beginners - Microsoft کی طرف سے انصاف پر سبق۔
- ذمہ دار AI کے اصول - مائیکروسافٹ لرن سے مفت سیکھنے کا راستہ۔
- اخلاقیات اور ڈیٹا سائنس - او'ریلی ای بک (ایم لوکائیڈز، ایچ میسن وغیرہ)
- ڈیٹا سائنس اخلاقیات - مشی گن یونیورسٹی کا آن لائن کورس۔
- اخلاقیات انریپڈ - ٹیکساس یونیورسٹی کے کیس اسٹڈیز۔
اسائنمنٹ
ڈیٹا اخلاقیات کا کیس اسٹڈی لکھیں
ڈسکلیمر:
یہ دستاویز AI ترجمہ سروس Co-op Translator کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔