localizeflow[bot]
69605c1e65
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 7 months ago | |
README.md
بناء حلول التعلم الآلي بالذكاء الاصطناعي المسؤول
ملاحظة مرسومة بواسطة تومومي إيمورا
اختبار ما قبل المحاضرة
مقدمة
في هذا المنهج، ستبدأ في اكتشاف كيف يؤثر التعلم الآلي على حياتنا اليومية وكيف يمكن أن يفعل ذلك. حتى الآن، تشارك الأنظمة والنماذج في مهام اتخاذ القرار اليومية مثل التشخيصات الطبية، الموافقات على القروض، أو الكشف عن الاحتيال. لذا، من المهم أن تعمل هذه النماذج بشكل جيد لتقديم نتائج جديرة بالثقة. تمامًا مثل أي تطبيق برمجي، فإن أنظمة الذكاء الاصطناعي قد لا تلبي التوقعات أو قد تنتج نتائج غير مرغوب فيها. لهذا السبب من الضروري أن نتمكن من فهم وشرح سلوك نموذج الذكاء الاصطناعي.
تخيل ما قد يحدث عندما تفتقر البيانات التي تستخدمها لبناء هذه النماذج إلى ديموغرافيات معينة، مثل العرق، الجنس، الرأي السياسي، الدين، أو تمثل هذه الديموغرافيات بشكل غير متناسب. ماذا يحدث عندما يتم تفسير مخرجات النموذج لصالح بعض الفئات السكانية؟ ما هو العاقبة على التطبيق؟ بالإضافة إلى ذلك، ماذا يحدث عندما يكون للنموذج نتيجة ضارة وتسبب أذى للناس؟ من المسؤول عن سلوك أنظمة الذكاء الاصطناعي؟ هذه بعض الأسئلة التي سنستكشفها في هذا المنهج.
في هذا الدرس، سوف:
- ترفع وعيك حول أهمية العدالة في التعلم الآلي والأضرار المتعلقة بالعدالة.
- تتعرف على ممارسة استكشاف الحالات الشاذة والسيناريوهات غير المعتادة لضمان الموثوقية والسلامة
- تفهم الحاجة لتمكين الجميع من خلال تصميم أنظمة شاملة
- تستكشف مدى أهمية حماية خصوصية وأمن البيانات والأشخاص
- ترى أهمية وجود نهج شفاف لشرح سلوك نماذج الذكاء الاصطناعي
- تكون واعيًا بكيفية أهمية المساءلة لبناء الثقة في أنظمة الذكاء الاصطناعي
المتطلبات السابقة
كمتطلب سابق، يُرجى أخذ مسار التعلم "مبادئ الذكاء الاصطناعي المسؤول" ومشاهدة الفيديو أدناه حول هذا الموضوع:
تعرّف أكثر على الذكاء الاصطناعي المسؤول من خلال متابعة هذا مسار التعلم
🎥 انقر على الصورة أعلاه لفيديو: نهج مايكروسوفت تجاه الذكاء الاصطناعي المسؤول
العدالة
يجب أن تعامل أنظمة الذكاء الاصطناعي الجميع بعدل وتتجنب التأثير السلبي على مجموعات مماثلة من الناس بطرق مختلفة. على سبيل المثال، عندما تقدم أنظمة الذكاء الاصطناعي إرشادات لعلاج طبي، طلبات القروض، أو التوظيف، يجب أن تقدم نفس التوصيات للجميع الذين لديهم أعراض مشابهة، ظروف مالية مماثلة، أو مؤهلات مهنية متشابهة. كل منا كبشر يحمل تحيزات متوارثة تؤثر على قراراتنا وأفعالنا. يمكن أن تكون هذه التحيزات واضحة في البيانات التي نستخدمها لتدريب أنظمة الذكاء الاصطناعي. قد يحدث هذا التلاعب أحيانًا دون قصد. وغالبًا ما يصعب معرفة متى تُدخل تحيزًا في البيانات بوعي.
"الظلم" يشمل التأثيرات السلبية، أو "الأضرار"، على مجموعة من الناس مثل تلك المعرفة بناءً على العرق أو الجنس أو العمر أو حالة الإعاقة. يمكن تصنيف الأضرار المتعلقة بالعدالة على النحو التالي:
- التخصيص، إذا تم تفضيل جنس أو عرق معين على آخر.
- جودة الخدمة. إذا قمت بتدريب البيانات لسيناريو معين لكن الواقع أكثر تعقيدًا، يؤدي ذلك إلى خدمة ذات أداء ضعيف. على سبيل المثال، موزع صابون يدوي لا يمكنه التعرف على الأشخاص ذوي البشرة الداكنة. مرجع
- التحقير. النقد اللا عادل وصف شيء أو شخص بشكل سلبي. على سبيل المثال، تكنولوجيا تصنيف الصور الشهيرة أخطأت في تصنيف صور الأشخاص ذوي البشرة الداكنة كغوريلا.
- التمثيل الزائد أو الناقص. الفكرة هي أن مجموعة معينة غير مرئية في مهنة معينة، وأي خدمة أو وظيفة تواصل تعزيز ذلك تسهم في الأذى.
- الوصم النمطي. ربط مجموعة معينة بصفات مسبقة. على سبيل المثال، قد يحتوي نظام ترجمة اللغة بين الإنجليزية والتركية على أخطاء بسبب كلمات تحمل ارتباطات نمطية بالجنس.
الترجمة إلى التركية
الترجمة إلى الإنجليزية
عند تصميم واختبار أنظمة الذكاء الاصطناعي، نحتاج إلى ضمان أن يكون الذكاء الاصطناعي عادلاً وغير مبرمج لاتخاذ قرارات متحيزة أو تمييزية، وهي قرارات يحظر أيضًا على البشر اتخاذها. يظل ضمان العدالة في الذكاء الاصطناعي والتعلم الآلي تحديًا اجتماعيًا تقنيًا معقدًا.
الموثوقية والسلامة
لبناء الثقة، تحتاج أنظمة الذكاء الاصطناعي إلى أن تكون موثوقة وآمنة ومتسقة في الظروف العادية وغير المتوقعة. من المهم معرفة كيف ستتصرف أنظمة الذكاء الاصطناعي في مجموعة متنوعة من الحالات، خاصة عندما تكون حالات شاذة. عند بناء حلول الذكاء الاصطناعي، يجب التركيز بشكل كبير على كيفية التعامل مع مجموعة واسعة من الظروف التي قد تواجهها الحلول. على سبيل المثال، يجب أن تولي سيارة ذاتية القيادة سلامة الناس أولوية قصوى. نتيجة لذلك، يحتاج الذكاء الاصطناعي الذي يشغل السيارة إلى النظر في جميع السيناريوهات المحتملة التي قد تواجهها السيارة مثل الليل، العواصف الرعدية أو الثلوج الكثيفة، الأطفال الذين يركضون عبر الشارع، الحيوانات الأليفة، أعمال الطرق، وما إلى ذلك. مدى جودة قدرة نظام الذكاء الاصطناعي على التعامل مع مجموعة واسعة من الظروف بشكل موثوق وآمن يعكس مستوى التوقع الذي وضعه عالم البيانات أو مطور الذكاء الاصطناعي أثناء تصميم النظام أو اختباره.
الشمولية
يجب تصميم أنظمة الذكاء الاصطناعي لإشراك وتمكين الجميع. عند تصميم وتنفيذ أنظمة الذكاء الاصطناعي، يحدد علماء البيانات ومطورو الذكاء الاصطناعي العوائق المحتملة في النظام التي قد تستبعد الناس دون قصد. على سبيل المثال، هناك مليار شخص من ذوي الإعاقات حول العالم. مع تقدم الذكاء الاصطناعي، يمكنهم الوصول بسهولة أكبر إلى مجموعة واسعة من المعلومات والفرص في حياتهم اليومية. من خلال معالجة الحواجز، يتم خلق فرص للابتكار وتطوير منتجات ذكاء اصطناعي تقدم تجارب أفضل تفيد الجميع.
الأمن والخصوصية
يجب أن تكون أنظمة الذكاء الاصطناعي آمنة وتحترم خصوصية الناس. يقلل الناس من ثقتهم في الأنظمة التي تعرض خصوصيتهم، معلوماتهم، أو حياتهم للخطر. عند تدريب نماذج التعلم الآلي، نعتمد على البيانات لإنتاج أفضل النتائج. عند القيام بذلك، يجب النظر في مصدر البيانات ونزاهتها. على سبيل المثال، هل كانت البيانات مقدمة من المستخدم أو متاحة للجمهور؟ بعد ذلك، أثناء العمل مع البيانات، من الضروري تطوير أنظمة ذكاء اصطناعي قادرة على حماية المعلومات السرية ومقاومة الهجمات. مع تزايد انتشار الذكاء الاصطناعي، أصبح حماية الخصوصية وتأمين المعلومات الشخصية والتجارية الهامة أمرًا حيويًا وأكثر تعقيدًا. تتطلب قضايا الخصوصية وأمن البيانات اهتمامًا خاصًا للذكاء الاصطناعي لأن الوصول إلى البيانات ضروري لأنظمة الذكاء الاصطناعي لتقديم توقعات وقرارات دقيقة ومستنيرة حول الناس.
- كمجال، حققنا تقدمًا كبيرًا في الخصوصية والأمن، مدفوعًا بشكل كبير بالقوانين مثل اللائحة العامة لحماية البيانات (GDPR).
- ومع ذلك، مع أنظمة الذكاء الاصطناعي، يجب أن نعترف بالتوتر بين الحاجة إلى المزيد من البيانات الشخصية لجعل الأنظمة أكثر تخصصًا وفعالية – والخصوصية.
- تمامًا كما هو الحال مع ولادة الحواسيب المتصلة بالإنترنت، نشهد أيضًا زيادة كبيرة في عدد قضايا الأمن المتعلقة بالذكاء الاصطناعي.
- وفي الوقت نفسه، رأينا الذكاء الاصطناعي يُستخدم لتحسين الأمان. على سبيل المثال، معظم برامج مكافحة الفيروسات الحديثة تعتمد الآن على خوارزميات الذكاء الاصطناعي.
- نحتاج إلى ضمان أن تتماشى عمليات علوم البيانات لدينا بتناغم مع أحدث ممارسات الخصوصية والأمان.
الشفافية
يجب أن تكون أنظمة الذكاء الاصطناعي مفهومة. جزء حيوي من الشفافية هو شرح سلوك أنظمة الذكاء الاصطناعي ومكوناتها. تحسين فهم أنظمة الذكاء الاصطناعي يتطلب أن يدرك أصحاب المصلحة كيف ولماذا تعمل هذه الأنظمة بحيث يمكنهم تحديد المشاكل المحتملة في الأداء أو القلق على السلامة والخصوصية أو التحيزات أو الممارسات الإقصائية أو النتائج غير المرغوبة. نؤمن أيضًا بأنه يجب على الذين يستخدمون أنظمة الذكاء الاصطناعي أن يكونوا صادقين وواضحين بشأن متى ولماذا وكيف يختارون نشر هذه الأنظمة، وكذلك حدود الأنظمة التي يستخدمونها. على سبيل المثال، إذا استخدم بنك نظام ذكاء اصطناعي لدعم قرارات الإقراض للعملاء، فمن المهم فحص النتائج وفهم البيانات التي تؤثر على توصيات النظام. بدأت الحكومات في تنظيم الذكاء الاصطناعي عبر الصناعات، لذا يجب على علماء البيانات والمنظمات شرح ما إذا كان النظام يفي بالمتطلبات التنظيمية، خاصةً عندما يكون هناك نتيجة غير مرغوب فيها.
- بسبب تعقيد أنظمة الذكاء الاصطناعي، يصعب فهم كيف تعمل وتفسير النتائج.
- يؤثر هذا النقص في الفهم على الطريقة التي تتم بها إدارة وتشغيل وتوثيق هذه الأنظمة.
- والأهم من ذلك، يؤثر هذا النقص في الفهم على القرارات المتخذة باستخدام النتائج التي تنتجها هذه الأنظمة.
المساءلة
يجب أن يكون الأشخاص الذين يصممون وينشرون أنظمة الذكاء الاصطناعي مسؤولين عن كيفية عمل أنظمتهم. الحاجة إلى المساءلة مهمة بشكل خاص في التقنيات الحساسة مثل التعرف على الوجوه. مؤخرًا، زاد الطلب على تقنية التعرف على الوجوه، خاصة من منظمات إنفاذ القانون التي ترى إمكانات هذه التقنية في استخدامات مثل العثور على الأطفال المفقودين. ومع ذلك، قد تُستخدم هذه التقنيات من قبل الحكومات لوضع حريات مواطنيها الأساسية في خطر، مثل تمكين المراقبة المستمرة لأشخاص محددين. لذلك، يحتاج علماء البيانات والمنظمات إلى تحمل المسؤولية عن كيفية تأثير نظام الذكاء الاصطناعي الخاص بهم على الأفراد أو المجتمع.
🎥 انقر على الصورة أعلاه لفيديو: تحذيرات من المراقبة الجماعية عبر التعرف على الوجوه
في نهاية المطاف، من أكبر الأسئلة لأجيالنا، بصفتنا الجيل الأول الذي يجلب الذكاء الاصطناعي إلى المجتمع، هو كيفية ضمان بقاء الحواسيب مسؤولة تجاه الناس وكيفية ضمان بقاء الأشخاص الذين يصممون الحواسيب مسؤولين تجاه الجميع.
تقييم الأثر
قبل تدريب نموذج التعلم الآلي، من المهم إجراء تقييم الأثر لفهم غرض نظام الذكاء الاصطناعي؛ ما هو الاستخدام المقصود؛ أين سيتم نشره؛ ومن سيتفاعل مع النظام. هذه الأمور مفيدة للمراجع(ين) أو المختبرين عند تقييم النظام لمعرفة العوامل التي يجب أخذها بالاعتبار عند تحديد المخاطر المحتملة والنتائج المتوقعة.
المجالات التالية هي محور التركيز عند إجراء تقييم الأثر:
- الأثر السلبي على الأفراد. الوعي بأي قيود أو متطلبات، أو استخدام غير مدعوم أو أي قيود معروفة تعيق أداء النظام أمر حيوي لضمان عدم استخدام النظام بطريقة قد تتسبب في ضرر للأفراد.
- متطلبات البيانات. فهم كيفية وأين سيستخدم النظام البيانات يمكّن المراجعين من استكشاف أي متطلبات بيانات يجب الانتباه إليها (مثل لوائح البيانات GDPR أو HIPAA). بالإضافة إلى ذلك، التحقق مما إذا كان مصدر أو كمية البيانات كافية للتدريب.
- ملخص الأثر. جمع قائمة بالأضرار المحتملة التي قد تنجم عن استخدام النظام. خلال دورة حياة التعلم الآلي، راجع ما إذا كانت القضايا المحددة قد تم التخفيف منها أو معالجتها.
- الأهداف القابلة للتطبيق لكل من المبادئ الستة الأساسية. تقييم ما إذا كانت الأهداف من كل مبدأ قد تحققت وما إذا كانت هناك فجوات.
تصحيح الأخطاء مع الذكاء الاصطناعي المسؤول
كالعملية في تصحيح أخطاء تطبيق برمجي، تصحيح أخطاء نظام الذكاء الاصطناعي هو عملية ضرورية لتحديد وحل المشاكل في النظام. هناك العديد من العوامل التي قد تؤثر على عدم أداء النموذج كما هو متوقع أو بشكل مسؤول. معظم مقاييس أداء النموذج التقليدية هي تجميعات كمية لأداء النموذج، والتي ليست كافية لتحليل كيف ينتهك نموذج مبادئ الذكاء الاصطناعي المسؤول. علاوة على ذلك، نموذج التعلم الآلي هو صندوق أسود يصعب فهم ما يدفع مخرجاته أو تقديم تفسير عندما يرتكب خطأ. لاحقًا في هذه الدورة، سنتعلم كيفية استخدام لوحة معلومات الذكاء الاصطناعي المسؤول لمساعدة في تصحيح أخطاء أنظمة الذكاء الاصطناعي. تقدم اللوحة أداة شاملة لعلماء البيانات ومطوري الذكاء الاصطناعي لأداء:
- تحليل الأخطاء. لتحديد توزيع أخطاء النموذج التي قد تؤثر على عدالة النظام أو موثوقيته.
- نظرة عامة على النموذج. لاكتشاف الأماكن التي توجد فيها فروق في أداء النموذج عبر مجموعات البيانات.
- تحليل البيانات. لفهم توزيع البيانات وتحديد أي تحيز محتمل في البيانات قد يؤدي إلى مشكلات العدالة والشمولية والموثوقية.
- قابلية تفسير النموذج. لفهم ما يؤثر أو يؤثر على توقعات النموذج. هذا يساعد في شرح سلوك النموذج، وهو أمر مهم للشفافية والمساءلة.
🚀 التحدي
لمنع إدخال الأضرار من البداية، يجب أن:
- يكون هناك تنوع في الخلفيات ووجهات النظر بين الأشخاص العاملين على الأنظمة
- نستثمر في مجموعات بيانات تعكس تنوع مجتمعنا
- نطور طرقًا أفضل طوال دورة حياة التعلم الآلي لاكتشاف وتصحيح الذكاء الاصطناعي غير المسؤول عند حدوثه
فكر في سيناريوهات من الحياة الحقيقية حيث يكون عدم موثوقية نموذج معين واضحًا في بناء النموذج واستخدامه. ما الذي يجب أن نأخذه بعين الاعتبار أيضًا؟
اختبار ما بعد المحاضرة
مراجعة ودراسة ذاتية
في هذا الدرس، تعلمت بعض أساسيات مفاهيم العدالة والظلم في التعلم الآلي.
شاهد هذه الورشة للتعمق أكثر في المواضيع:
- في رحلة الذكاء الاصطناعي المسؤول: تحويل المبادئ إلى الممارسة من تأليف بيسميرا نوشي، مهرنوش سامي وأميت شارما
🎥 انقر على الصورة أعلاه لفيديو: صندوق أدوات RAI: إطار عمل مفتوح المصدر لبناء ذكاء اصطناعي مسؤول بواسطة بسميرة نوشي، مهرنوش سامي، وأميت شارما
اقرأ أيضًا:
-
مركز موارد الذكاء الاصطناعي المسؤول لدى مايكروسوفت: موارد الذكاء الاصطناعي المسؤول – مايكروسوفت AI
-
مجموعة أبحاث FATE لمايكروسوفت: FATE: النزاهة، المساءلة، الشفافية، والأخلاقيات في الذكاء الاصطناعي - أبحاث مايكروسوفت
صندوق أدوات RAI:
اقرأ عن أدوات Azure Machine Learning لضمان العدالة:
المهمة
تنويه: تمت ترجمة هذا المستند باستخدام خدمة الترجمة بالذكاء الاصطناعي Co-op Translator. بينما نسعى للدقة، يرجى العلم أن الترجمات الآلية قد تحتوي على أخطاء أو عدم دقة. يجب اعتبار المستند الأصلي بلغته الأصلية المصدر الرسمي والمعتمد. للمعلومات الهامة، يُنصح بالاستعانة بترجمة بشرية محترفة. نحن غير مسؤولين عن أي سوء فهم أو تفسير ناتج عن استخدام هذه الترجمة.