38 KiB

Raw Permalink Blame History Unescape Escape

مقدمة إلى أخلاقيات البيانات


أخلاقيات علم البيانات - رسم توضيحي من @nitya

نحن جميعًا مواطنون في عالم مليء بالبيانات.

تشير الاتجاهات السوقية إلى أنه بحلول عام 2022، ستقوم واحدة من كل ثلاث مؤسسات كبيرة بشراء وبيع بياناتها عبر الأسواق والتبادلات عبر الإنترنت. وبصفتنا مطورين للتطبيقات، سنجد أنه من الأسهل والأرخص دمج الرؤى المستندة إلى البيانات والأتمتة المدفوعة بالخوارزميات في تجارب المستخدم اليومية. ولكن مع انتشار الذكاء الاصطناعي، سنحتاج أيضًا إلى فهم الأضرار المحتملة الناتجة عن تسليح هذه الخوارزميات على نطاق واسع.

تشير الاتجاهات أيضًا إلى أننا سننتج ونستهلك أكثر من 180 زيتابايت من البيانات بحلول عام 2025. وبصفتنا علماء بيانات، يمنحنا هذا مستويات غير مسبوقة من الوصول إلى البيانات الشخصية. وهذا يعني أنه يمكننا بناء ملفات تعريف سلوكية للمستخدمين والتأثير على اتخاذ القرارات بطرق تخلق وهم الاختيار الحر بينما قد ندفع المستخدمين نحو نتائج نفضلها. كما يثير ذلك أسئلة أوسع حول خصوصية البيانات وحماية المستخدمين.

أصبحت أخلاقيات البيانات الآن حواجز ضرورية لعلم البيانات والهندسة، مما يساعدنا على تقليل الأضرار المحتملة والعواقب غير المقصودة الناتجة عن أفعالنا المستندة إلى البيانات. يحدد دورة الضجيج للذكاء الاصطناعي من غارتنر اتجاهات ذات صلة بالأخلاقيات الرقمية، والذكاء الاصطناعي المسؤول، وحوكمة الذكاء الاصطناعي كعوامل رئيسية تدفع الاتجاهات الكبرى حول دمقرطة و_تصنيع_ الذكاء الاصطناعي.

في هذا الدرس، سنستكشف المجال المثير لأخلاقيات البيانات - بدءًا من المفاهيم الأساسية والتحديات، إلى دراسات الحالة والمفاهيم التطبيقية للذكاء الاصطناعي مثل الحوكمة - التي تساعد في إنشاء ثقافة أخلاقية في الفرق والمؤسسات التي تعمل مع البيانات والذكاء الاصطناعي.

اختبار ما قبل المحاضرة 🎯

التعريفات الأساسية

لنبدأ بفهم المصطلحات الأساسية.

كلمة "أخلاقيات" تأتي من الكلمة اليونانية "ethikos" (وجذرها "ethos") التي تعني الطبيعة الأخلاقية أو الشخصية.

الأخلاقيات تتعلق بالقيم المشتركة والمبادئ الأخلاقية التي تحكم سلوكنا في المجتمع. الأخلاقيات لا تستند إلى القوانين بل إلى الأعراف المقبولة عمومًا لما هو "صحيح مقابل خاطئ". ومع ذلك، يمكن أن تؤثر الاعتبارات الأخلاقية على مبادرات الحوكمة المؤسسية واللوائح الحكومية التي تخلق المزيد من الحوافز للامتثال.

أخلاقيات البيانات هي فرع جديد من الأخلاقيات يدرس ويقيّم المشكلات الأخلاقية المتعلقة بـ البيانات والخوارزميات والممارسات المرتبطة بها. هنا، يركز "البيانات" على الإجراءات المتعلقة بإنشاء البيانات وتسجيلها وتنظيمها ومعالجتها ونشرها ومشاركتها واستخدامها، بينما تركز "الخوارزميات" على الذكاء الاصطناعي والوكلاء والتعلم الآلي والروبوتات، وتركز "الممارسات" على موضوعات مثل الابتكار المسؤول، البرمجة، القرصنة، ومدونات الأخلاقيات.

الأخلاقيات التطبيقية هي التطبيق العملي للاعتبارات الأخلاقية. إنها عملية التحقيق النشط في القضايا الأخلاقية في سياق الإجراءات والمنتجات والعمليات الواقعية، واتخاذ التدابير التصحيحية لضمان بقائها متوافقة مع قيمنا الأخلاقية المحددة.

ثقافة الأخلاقيات تتعلق بـ تفعيل الأخلاقيات التطبيقية لضمان تبني المبادئ والممارسات الأخلاقية بطريقة متسقة وقابلة للتوسع عبر المؤسسة بأكملها. تحدد ثقافات الأخلاقيات الناجحة المبادئ الأخلاقية على مستوى المؤسسة، وتوفر حوافز ذات مغزى للامتثال، وتعزز الأعراف الأخلاقية من خلال تشجيع وتضخيم السلوكيات المرغوبة على كل مستوى من مستويات المؤسسة.

مفاهيم الأخلاقيات

في هذا القسم، سنناقش مفاهيم مثل القيم المشتركة (المبادئ) والتحديات الأخلاقية (المشكلات) لأخلاقيات البيانات - وسنستكشف دراسات حالة تساعدك على فهم هذه المفاهيم في سياقات واقعية.

1. مبادئ الأخلاقيات

تبدأ كل استراتيجية لأخلاقيات البيانات بتحديد المبادئ الأخلاقية - وهي "القيم المشتركة" التي تصف السلوكيات المقبولة، وتوجه الإجراءات المتوافقة، في مشاريع البيانات والذكاء الاصطناعي الخاصة بنا. يمكنك تحديد هذه المبادئ على مستوى الفرد أو الفريق. ومع ذلك، فإن معظم المؤسسات الكبيرة تحددها في بيان مهمة أو إطار عمل للذكاء الاصطناعي الأخلاقي يتم تحديده على مستوى المؤسسة ويتم تطبيقه بشكل متسق عبر جميع الفرق.

مثال: بيان مهمة الذكاء الاصطناعي المسؤول من مايكروسوفت ينص على: "نحن ملتزمون بتطوير الذكاء الاصطناعي مدفوعًا بمبادئ أخلاقية تضع الناس في المقام الأول" - مع تحديد 6 مبادئ أخلاقية في الإطار أدناه:

دعونا نستعرض هذه المبادئ بإيجاز. الشفافية و_المساءلة_ هما القيم الأساسية التي تُبنى عليها المبادئ الأخرى - لذا دعونا نبدأ بهما:

المساءلة تجعل الممارسين مسؤولين عن عملياتهم في البيانات والذكاء الاصطناعي، والامتثال لهذه المبادئ الأخلاقية.
الشفافية تضمن أن تكون الإجراءات المتعلقة بالبيانات والذكاء الاصطناعي مفهومة (قابلة للتفسير) للمستخدمين، مع شرح ما يحدث ولماذا.
الإنصاف - يركز على ضمان أن يعامل الذكاء الاصطناعي جميع الأشخاص بإنصاف، ومعالجة أي تحيزات اجتماعية أو تقنية ضمن البيانات والأنظمة.
الموثوقية والسلامة - تضمن أن يتصرف الذكاء الاصطناعي بثبات وفقًا للقيم المحددة، مع تقليل الأضرار المحتملة أو العواقب غير المقصودة.
الخصوصية والأمان - تتعلق بفهم مسار البيانات، وتوفير الخصوصية والحماية ذات الصلة للمستخدمين.
الشمولية - تتعلق بتصميم حلول الذكاء الاصطناعي بنية واضحة، وتكييفها لتلبية مجموعة واسعة من الاحتياجات والقدرات البشرية.

🚨 فكر في ما يمكن أن يكون بيان مهمتك لأخلاقيات البيانات. استكشف أطر عمل الذكاء الاصطناعي الأخلاقي من مؤسسات أخرى - هنا أمثلة من IBM، Google، وFacebook. ما هي القيم المشتركة التي لديهم؟ كيف ترتبط هذه المبادئ بمنتج الذكاء الاصطناعي أو الصناعة التي يعملون فيها؟

2. التحديات الأخلاقية

بمجرد تحديد المبادئ الأخلاقية، تكون الخطوة التالية هي تقييم أفعالنا المتعلقة بالبيانات والذكاء الاصطناعي لمعرفة ما إذا كانت تتماشى مع تلك القيم المشتركة. فكر في أفعالك في فئتين: جمع البيانات و_تصميم الخوارزميات_.

فيما يتعلق بجمع البيانات، قد تتضمن الإجراءات البيانات الشخصية أو المعلومات الشخصية القابلة للتحديد (PII) للأفراد. يشمل ذلك عناصر متنوعة من البيانات غير الشخصية التي تجمع لتحديد هوية الفرد. قد تتعلق التحديات الأخلاقية بـ خصوصية البيانات، ملكية البيانات، وموضوعات ذات صلة مثل الموافقة المستنيرة و_حقوق الملكية الفكرية_ للمستخدمين.

أما بالنسبة لتصميم الخوارزميات، فستتضمن الإجراءات جمع وتنظيم مجموعات البيانات، ثم استخدامها لتدريب ونشر نماذج البيانات التي تتنبأ بالنتائج أو تؤتمت القرارات في سياقات واقعية. قد تنشأ التحديات الأخلاقية من التحيز في مجموعات البيانات، مشكلات جودة البيانات، عدم الإنصاف، و_سوء التمثيل_ في الخوارزميات - بما في ذلك بعض القضايا النظامية.

في كلا الحالتين، تسلط التحديات الأخلاقية الضوء على المناطق التي قد تتعارض فيها أفعالنا مع قيمنا المشتركة. للكشف عن هذه المخاوف أو التخفيف منها أو تقليلها أو القضاء عليها، نحتاج إلى طرح أسئلة أخلاقية "نعم/لا" تتعلق بأفعالنا، ثم اتخاذ الإجراءات التصحيحية حسب الحاجة. دعونا نلقي نظرة على بعض التحديات الأخلاقية والأسئلة الأخلاقية التي تثيرها:

2.1 ملكية البيانات

غالبًا ما يتضمن جمع البيانات بيانات شخصية يمكن أن تحدد هوية الأفراد. ملكية البيانات تتعلق بـ التحكم وحقوق المستخدمين المتعلقة بإنشاء البيانات ومعالجتها ونشرها.

الأسئلة الأخلاقية التي نحتاج إلى طرحها هي:

من يملك البيانات؟ (المستخدم أم المؤسسة)
ما هي حقوق الأفراد المتعلقة بالبيانات؟ (مثل: الوصول، الحذف، النقل)
ما هي حقوق المؤسسات؟ (مثل: تصحيح المراجعات الضارة)

2.2 الموافقة المستنيرة

الموافقة المستنيرة تعني موافقة المستخدمين على إجراء معين (مثل جمع البيانات) مع فهم كامل للحقائق ذات الصلة بما في ذلك الغرض، والمخاطر المحتملة، والبدائل.