localizeflow[bot]
8a0c3df779
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 7 months ago | |
README.md
जबाबदार AI सह मशीन लर्निंग सोल्यूशन्स बांधणे
Tomomi Imura यांनी तयार केलेला स्केचनोट
प्रि-लेक्चर क्विझ
परिचय
या अभ्यासक्रमात, तुम्ही शोधायला सुरुवात कराल की मशीन लर्निंग कसे आणि आपल्या दैनंदिन जीवनावर कसा प्रभाव टाकतो. अजूनही, प्रणाली आणि मॉडेल्स दैनंदिन निर्णय घेण्याच्या कामात सामील आहेत, जसे की आरोग्य सेवा निदान, कर्ज मंजुरी किंवा फसवणूक शोधणे. त्यामुळे, हे मॉडेल्स चांगले काम करतील जेणेकरून परिणाम विश्वासार्ह असतील हे महत्त्वाचे आहे. कोणत्याही सॉफ्टवेअर अ‍ॅप्लिकेशनप्रमाणेच, AI प्रणाली अपेक्षा पूर्ण करणार नाहीत किंवा अवांछित परिणाम देतील. म्हणूनच AI मॉडेलच्या वर्तनाला समजून घेणे आणि स्पष्ट करणे अत्यावश्यक आहे.
कल्पना करा की तुम्ही जे डेटा या मॉडेल्स तयार करण्यासाठी वापरत आहात त्यात काही विशिष्ट लोकसंख्याशास्त्र, जसे की वंश, लिंग, राजकीय दृष्टीकोन, धर्म, किंवा अशा लोकसंख्याशास्त्राचा असंतुलित प्रतिनिधित्व आहे. जेव्हा मॉडेलचा परिणाम काही लोकसंख्याशास्त्राला प्राधान्य देतो तेव्हा काय होते? अ‍ॅप्लिकेशनसाठी काय परिणाम होतो? शिवाय, जेव्हा मॉडेलचा प्रतिकूल परिणाम होतो आणि लोकांना हानी पोहोचवतो तेव्हा काय होते? AI प्रणालीच्या वर्तनाची कोण जबाबदार आहे? हे काही प्रश्न आहेत जे आपण या अभ्यासक्रमात तपासणार आहोत.
या धड्यात, तुम्ही:
- मशीन लर्निंगमधील न्यायाधिकार आणि न्यायाधिकार-संबंधी हानिकारक बाबींचे महत्त्व वाढविणे
- विश्वासार्हता आणि सुरक्षितता सुनिश्चित करण्यासाठी अपवाद आणि असामान्य परिस्थितींचा शोध घेण्याच्या सरावाची परिचय घेणे
- सर्वांना सक्षमी करण्यासाठी सर्वसमावेशक प्रणाली डिझाइन करण्याच्या गरजेची समज मिळवणे
- डेटा आणि लोकांच्या खाजगीपणाचे आणि सुरक्षिततेचे संरक्षण करण्याचे महत्त्व शोधणे
- AI मॉडेलच्या वर्तनाचे स्पष्टीकरण देण्यासाठी ग्लास बॉक्स दृष्टिकोन ठेवण्याचे महत्त्व पहा
- AI प्रणालींमध्ये विश्वास निर्माण करण्यासाठी जबाबदारी कशी आवश्यक आहे याची जाण ठेवणे
मागील अटी
मागील अटी म्हणून, कृपया "जबाबदार AI तत्त्वे" लर्न पाथ घ्या आणि खालील विषयावर व्हिडिओ पहा:
जबाबदार AI बद्दल अधिक जाणून घ्या या Learning Path चा पाठपुरावा करून
🎥 व्हिडिओसाठी वरील प्रतिमेवर क्लिक करा: Microsoft's Approach to Responsible AI
न्यायाधिकार
AI प्रणालींनी प्रत्येकाला न्यायपूर्ण वागवले पाहिजे आणि समान लोकसंख्या गटांना वेगळ्या प्रकारे प्रभावित करणे टाळावे. उदाहरणार्थ, जेव्हा AI प्रणाली वैद्यकीय उपचार, कर्ज अर्ज, किंवा रोजगारावर मार्गदर्शन पुरवतात, तेव्हा त्यांना समान लक्षणे, आर्थिक परिस्थिती किंवा व्यावसायिक पात्रतेसह प्रत्येकाला समान शिफारसी कराव्या. आपण प्रत्येकजण मानवी नसतानाही आपल्यात गुणसूत्रीय पक्षपात असतो जो आपल्या निर्णयांवर आणि क्रियांवर प्रभाव टाकतो. हा पक्षपात कधी कधी अनपेक्षितपणे डेटा मध्ये दिसू शकतो. डेटा मध्ये पक्षपात कधी तुम्ही इतरथा जाणून घ्यावा कठीण असते.
"अन्याय" म्हणजे नकारात्मक परिणाम किंवा "हानि", जसे की वंश, लिंग, वय, किंवा अपंगत्वस्थिती प्रमाणे काही लोकसंख्याशास्त्रासाठी. प्रमुख न्यायाधिकार-संबंधित हानिकारक बाबी ह्या अशा वर्गीकृत केल्या जाऊ शकतात:
- वाटप, उदाहरणार्थ, जर लिंग किंवा जातीयता एखाद्याला दुसऱ्यापेक्षा प्राधान्य दिले गेले.
- सेवेची गुणवत्ता. जर तुम्ही एखाद्या विशेष परिस्थितीसाठी डेटा प्रशिक्षित केला आणि वास्तव अधिक गुंतागुंतीचे असेल, तर सेवा नीट काम करत नाही. उदा., हाताच्या साबणाची डिस्पेंसर जी काळ्या त्वचेच्या लोकांना ओळखू शकत नव्हती. संदर्भ
- अपमान. एखाद्या गोष्टीला किंवा व्यक्तीला अन्यायकारकपणे टीका करणे आणि लेबल करणे. उदाहरणार्थ, इमेज लेबलिंग तंत्रज्ञानाने काळ्या त्वचेच्या लोकांच्या प्रतिमा गोरिल्ला म्हणून चुकीच्या प्रकारे लेबल केल्या.
- अधिक किंवा कमी प्रतिनिधित्व. एखाद्या विशिष्ट गटाचे एका विशिष्ट व्यावसायात न दिसणे, आणि अशा सेवेने किंवा कार्याने ते चालू ठेवणे ज्याने हानी पोहोचते.
- स्थितीगत प्रतिमा. एखाद्या गटाशी पूर्वनिर्धारित विशेषतांना जोडणे. उदाहरणार्थ, इंग्रजी आणि टर्की भाषांमध्ये भाषांतर प्रणालीमध्ये लिंगाशी संबंधित पूर्वनिर्धारित शब्दांमुळे चुका होऊ शकतात.
टर्कीमध्ये भाषांतर
पुन्हा इंग्रजीमध्ये भाषांतर
AI प्रणाली डिझाइन आणि चाचणी करताना, AI न्यायपूर्ण असणे आवश्यक आहे आणि पक्षपाती किंवा भेदभाव करणारे निर्णय प्रोग्राम केलेले नसावेत, जे मानवी व्यक्तींनाही निषिद्ध आहे. AI आणि मशीन लर्निंगमध्ये न्यायाधिकाराची हमी देणे ही एक गुंतागुंतीची सामाजिक-तांत्रिक आव्हान आहे.
विश्वासार्हता आणि सुरक्षितता
विश्वास निर्माण करण्यासाठी, AI प्रणाली विश्वासार्ह, सुरक्षित आणि सामान्य तसेच अपेक्षित नसलेल्या परिस्थितींमध्ये सुसंगत असणे आवश्यक आहे. AI प्रणाली विविध परिस्थितींमध्ये कसे वागतील हे जाणून घेणे महत्त्वाचे आहे, विशेषतः जेव्हा ते अपवादात्मक आहेत. AI सोल्यूशन्स तयार करताना, AI सोल्यूशन्सला भेडसावणाऱ्या विविध परिस्थितींना कसे हाताळायचे यावर भर द्यावा लागतो. उदाहरणार्थ, सेल्फ-ड्रायव्हिंग कारला लोकांच्या सुरक्षिततेला सर्वोच्च प्राधान्य द्यावे लागते. परिणामी, कार चालवणाऱ्या AI ला सगळ्या शक्य परिस्थितींचा विचार करावा लागतो जसे की रात्र, वादळे किंवा हिमवृष्टी, रस्त्यावरून धावत जाणारी मुले, पाळीव प्राणी, रस्ते बांधकाम इ. AI प्रणालीचे विश्वसनीय आणि सुरक्षितपणे विविध परिस्थिती हाताळू शकण्याचे प्रमाण हे डिझाइन किंवा टेस्टिंग दरम्यान डेटासायंटिस्ट किंवा AI विकासकाने घेतलेल्या भाकीतांचे प्रतिबिंब दर्शवते.
समावेशकता
AI प्रणाली असे डिझाइन केली पाहिजे की ती प्रत्येकाला सहभागी करून घेतील आणि सक्षमी करतील. AI प्रणाली डिझाइन आणि अमलात आणताना, डेटासायंटिस्ट आणि AI विकासक प्रणालीतील अशा अडथळ्यांना ओळखतात आणि दूर करतात ज्यामुळे लोक अनपेक्षितपणे वगळले जाऊ शकतात. उदाहरणार्थ, जगभरात 1 अब्ज.people disability आहेत. AI च्या प्रगतीसह, ते दैनंदिन जीवनात अधिक सहज माहिती आणि संधींना प्रवेश मिळवू शकतात. अडथळे दूर करून, यामुळे सर्वांसाठी फायदेशीर चांगल्या अनुभवांसह AI उत्पादने तयार करण्याची आणि नवकल्पना करण्याची संधी निर्माण होते.
सुरक्षा आणि खाजगीपणा
AI प्रणाली सुरक्षित असावीत आणि लोकांच्या खाजगीपणाचा आदर करावा. लोक अशा प्रणालींवर कमी विश्वास ठेवतात ज्यामुळे त्यांचा खाजगीपणा, माहिती किंवा जीवन धोकेत येते. मशीन लर्निंग मॉडेल ट्रेन करताना, सर्वोत्तम निकालासाठी डेटा वापरला जातो. ते करताना, डेटाचा स्रोत आणि अखंडता विचारात घ्यावी लागते. उदाहरणार्थ, डेटा वापरकर्ता कडून दिला गेला आहे की सार्वजनिकरित्या उपलब्ध आहे? पुढे, डेटा वापरताना, संवेदनशील माहितीचे संरक्षण करणाऱ्या आणि हल्ल्यांना तोंड देऊ शकणाऱ्या AI प्रणाली विकसित करणे अत्यंत आवश्यक आहे. AI अधिक वापरात येत असल्यामुळे, खाजगीपणा आणि महत्वाची वैयक्तिक व व्यावसायिक माहिती सुरक्षित ठेवणे कायदेशीर व गुंतागुंतीचे होत आहे. गोपनीयता आणि डेटा सुरक्षा प्रश्न AI साठी विशेष लक्ष देणे गरजेचे आहे कारण AI प्रणालीसाठी अचूक आणि माहितीपूर्ण भाकीत व निर्णय घेण्यासाठी डेटावर प्रवेश अत्यावश्यक असतो.
- उद्योग म्हणून आपण गोपनीयता आणि सुरक्षिततेत महत्त्वपूर्ण प्रगती केली आहे, जी मुख्यत्वे GDPR (जनरल डेटा प्रोटेक्शन रेग्युलेशन) सारख्या नियमांमुळे संभवली आहे.
- तथापि, AI प्रणालींसाठी आपल्याला अधिक वैयक्तिक डेटाची गरज आणि गोपनीयतेतील तणाव यातील तणाव मान्य करावा लागतो.
- कनेक्ट केलेल्या संगणकांच्या जन्मासारखे, आपण सध्या AI शी संबंधित सुरक्षासंबंधी समस्या वाढताना पाहत आहोत.
- त्याच वेळी, AIचा वापर सुरक्षा सुधारण्यासाठी होत आहे. उदाहरणार्थ, अधिकांश आधुनिक अँटी-व्हायरस स्कॅनर्स आज AI हीयुरिस्टिक्सने चालतात.
- आपल्या डेटा सायन्स प्रक्रियांनी नवीनतम गोपनीयता आणि सुरक्षा पद्धतींसोबत सुसंगत असणे आवश्यक आहे.
पारदर्शकता
AI प्रणाली समजण्यास सोपी असावीत. पारदर्शकतेचा एक महत्त्वाचा भाग म्हणजे AI प्रणालींच्या वर्तनाचे आणि त्यांच्या घटकांचे स्पष्टीकरण देणे. AI प्रणाली समजण्यास सुधारणा करणे म्हणजे हितधारकांनी ते कसे आणि का कार्य करतात याबाबत समजून घेणे आवश्यक आहे जेणेकरून ते संभाव्य कार्यक्षमता समस्या, सुरक्षा आणि गोपनीयता चिंता, पक्षपात, वगळण्याचे सराव किंवा अनपेक्षित परिणाम ओळखू शकतील. आम्ही असेही मानतो की AI प्रणाली वापरणाऱ्यांनी ते कधी, का आणि कसे वापरतात याबाबत प्रामाणिक असले पाहिजे. तसेच ते वापरणाऱ्या प्रणालींच्या मर्यादा स्पष्ट करणे आवश्यक आहे. उदाहरणार्थ, जर बँकेने ग्राहक कर्ज निर्णयासाठी AI प्रणाली वापरली, तर निकालांचे परीक्षण करणे आणि कोणता डेटा प्रणालीच्या शिफारसींवर प्रभाव टाकतो हे समजून घेणे महत्त्वाचे आहे. सरकार उद्योगांमध्ये AI नियंत्रित करण्यास सुरुवात करत आहेत, म्हणून डेटासायंटिस्ट आणि संस्था समजावून सांगायला हव्यात की AI प्रणाली नियमांच्या आवश्यकतांना पूर्ण करते का, विशेषतः जेव्हा अवांछित परिणाम होतात.
- AI प्रणाली इतक्या जटिल आहेत की त्यांचे कार्य कसे होते आणि निकालांचे अर्थ लावणे कठीण आहे.
- या समजुतीच्या अभावामुळे ह्या प्रणाली कसे व्यवस्थापित, कार्यान्वित, आणि दस्तऐवजीकरण केले जातात यावर परिणाम होतो.
- सर्वात महत्त्वाचे म्हणजे, या समजुतीच्या अभावामुळे या प्रणालींनी निर्माण केलेल्या निकालांचा वापर करून घेतलेल्या निर्णयांवर परिणाम होतो.
जबाबदारी
AI प्रणाली डिझाइन आणि तैनात करणाऱ्या लोकांनी त्यांच्या प्रणालींच्या कसे कार्य करतात याबद्दल जबाबदार असले पाहिजेत. चेहरा ओळख तंत्रज्ञानासह संवेदनशील तंत्रज्ञानासाठी जबाबदारीची आवश्यकता विशेषतः गरजेची आहे. अलीकडे, वेगळ्या संस्थांकडून चेहरा ओळख तंत्रज्ञानाची मागणी वाढती आहे, विशेषतः कायदा अंमलबजावणी संघटना ज्यांना हरवलेली मुले शोधण्यात या तंत्रज्ञानाची क्षमता दिसते. तथापि, ही तंत्रे सरकारकडून नागरिकांच्या मूलभूत स्वातंत्र्यावर धोका निर्माण करण्यासाठी वापरली जाऊ शकतात, उदाहरणार्थ, विशिष्ट व्यक्तींच्या सातत्यपूर्ण देखरेखीची परवानगी देणे. त्यामुळे, डेटासायंटिस्ट आणि संस्थांनी त्यांच्या AI प्रणालीचा लोकांवर किंवा समाजावर असलेल्या प्रभावासाठी जबाबदार असणे आवश्यक आहे.
🎥 चेहरा ओळख यंत्रणेद्वारे मोठ्या प्रमाणावर देखरेखीची इशारा देणाऱ्या व्हिडिओसाठी वरील प्रतिमेवर क्लिक करा
शेवटी, आपल्या पिढीवर एक मोठा प्रश्न आहे, म्हणजे AI समाजात आणणारी पहिली पिढी म्हणून, संगणक लोकांच्या प्रति जबाबदार राहतील कसे आणि संगणक डिझाइन करणारे लोक इतर सर्व लोकांसाठी जबाबदार राहतील कसे याची खात्री कशी करावी.
परिणाम मूल्यांकन
मशीन लर्निंग मॉडेल ट्रेन करण्यापूर्वी, AI प्रणालीचा उद्देश काय आहे, त्याचा हेतू काय आहे, कुठे तैनात केली जाईल, आणि कोण प्रणालीशी संवाद साधेल हे समजण्यासाठी परिणाम मूल्यांकन करणे महत्त्वाचे आहे. हे पुनरावलोकक किंवा परीक्षकांसाठी उपयुक्त असते जेणेकरून ते संभाव्य धोके आणि अपेक्षित परिणाम ओळखताना कोणते घटक लक्षात घ्यावेत हे समजू शकेल.
परिणाम मूल्यांकन करताना लक्ष देण्याजोग्या क्षेत्रे:
- वैयक्तिक लोकांवर प्रतिकूल परिणाम. कोणतीही बंधने किंवा आवश्यकतांची जाणीव, असमर्थित वापर किंवा कोणतीही ज्ञात मर्यादा जी प्रणालीच्या कार्यक्षमतेला अडथळा आणते, याची जाणीव असणे आवश्यक आहे जेणेकरून सिस्टम अशा प्रकारे वापरली जाऊ नये ज्यामुळे लोकांना हानी पोहोचेल.
- डेटा आवश्यकताएं. प्रणाली डेटा कसे आणि कुठे वापरेल हे समजणे पुनरावलोककांना कोणत्या डेटा आवश्यकतांवर लक्ष ठेवावे ते पाहण्यास मदत करते (उदा., GDPR किंवा HIPAA डेटा नियम). शिवाय, डेटा स्रोत किंवा प्रमाण प्रशिक्षणासाठी पर्याप्त आहे का हे तपासा.
- परिणामाचा सारांश. प्रणाली वापरल्याने होऊ शकणाऱ्या संभाव्य धोक्यांची यादी तयार करा. ML जीवनचक्रात, तपासा की ओळखलेल्या समस्यांचा निराकरण किंवा प्रतिबंध केला गेला आहे का.
- सहा मुख्य तत्त्वांसाठी लागू होणारे उद्दिष्टे. प्रत्येक तत्त्वाचे उद्दिष्टे पूर्ण होत आहेत का आणि काही अंतर आहेत का ते तपासा.
जबाबदार AI सह डीबगिंग
सॉफ्टवेअर अ‍ॅप्लिकेशन डीबग करण्यासारखे, AI प्रणाली डीबग करणे म्हणजे प्रणालीतील समस्या ओळखणे आणि सोडविणे आवश्यक प्रक्रिया आहे. मॉडेल अपेक्षित किंवा जबाबदार रीतीने काम करत नसल्याचे अनेक घटक आहेत. पारंपारिक मॉडेल कार्यक्षमता मेट्रिक्स ही मॉडेलच्या कार्यक्षमतेचे मात्र संख्यात्मक एकत्रीकरण आहेत, जे जबाबदार AI तत्त्वांचे उल्लंघन कसे होते हे विश्लेषित करण्यासाठी अपुरी आहेत. शिवाय, मशीन लर्निंग मॉडेल एक ब्लॅक बॉक्स असते ज्यामुळे निकालावर काय परिणाम होतो किंवा चुकीचा निकाल केव्हा होतो हे समजणे अवघड होते. पुढील धड्यात, आपण जबाबदार AI डॅशबोर्ड कसा वापरायचा हे शिकू. डॅशबोर्ड डेटासायंटिस्ट आणि AI विकासकांसाठी एक सर्वांगिण साधन आहे जे खालील कामे करण्यास मदत करते:
- त्रुटी विश्लेषण. सिस्टमच्या न्यायाधिकार किंवा विश्वासार्हतेवर परिणाम करणाऱ्या त्रुटी वितरणाची ओळख करणे.
- मॉडेल विहंगावलोकन. डेटा गटांमधील मॉडेलच्या कार्यक्षमतेतील फरक शोधणे.
- डेटा विश्लेषण. डेटा वितरण समजून घेणे आणि डेटा मध्ये कोणताही पक्षपात आहे का हे ओळखणे जे न्याय, समावेश, आणि विश्वासार्हतेच्या समस्यांना कारणीभूत ठरू शकते.
- मॉडेल अर्थव्यवस्था. मॉडेलच्या अंदाजांवर काय प्रभाव टाकतो हे समजणे. हे मॉडेलच्या वर्तनाचे स्पष्टीकरण देण्यास मदत करते, जे पारदर्शकता आणि जबाबदारीसाठी महत्त्वाचे आहे.
🚀 आव्हान
हानी प्रथमच निर्माण होण्यापासून टाळण्यासाठी, आपल्याला:
- प्रणालींवर काम करणाऱ्या लोकांमध्ये विविध पार्श्वभूमी आणि दृष्टीकोन असणे आवश्यक आहे
- आपल्या समाजाच्या विविधतेचे प्रतिबिंब करणाऱ्या डेटासेटमध्ये गुंतवणूक करणे आवश्यक आहे
- जबाबदार न नसलेल्या AI संशोधन, शोध आणि दुरुस्तीकरिता मशीन लर्निंग जीवनचक्रातील उत्तम पद्धती विकसित करणे आवश्यक आहे
अशा वास्तव जीवनातील परिस्थिती विषयी विचार करा जिथे मॉडेलच्या अविश्वासार्हतेची स्पष्टता दिसून येते. आपण आणखी काय विचारात घ्यायला हवे?
पोस्ट-लेक्चर क्विझ
पुनरावलोकन आणि स्वयंअभ्यास
या धड्यात, तुम्ही मशीन लर्निंगमधील न्याय आणि अन्यायाच्या संकल्पनांबद्दल काही मूलभूत गोष्टी शिकलात.
या विषयांत अधिक खोलीत जाण्यासाठी हे कार्यशाळा पहा:
- जबाबदार AI साठी प्रयत्न: तत्त्वांना व्यवहारात आणणे, Besmira Nushi, Mehrnoosh Sameki आणि Amit Sharma द्वारे
🎥 वरील प्रतिमेवर क्लिक करा व्हिडिओसाठी: Besmira Nushi, Mehrnoosh Sameki आणि Amit Sharma यांचे 'RAI Toolbox: उत्तरदायी AI निर्माणासाठी एक खुला स्त्रोत चौकट'
तसेच, वाचा:
-
मायक्रोसॉफ्टचे RAI संसाधन केंद्र: उत्तरदायी AI संसाधने – Microsoft AI
-
मायक्रोसॉफ्टचे FATE संशोधन गट: FATE: कदर, जबाबदारी, पारदर्शकता, आणि नैतिकता AI मध्ये - Microsoft Research
RAI टूलबॉक्स:
Azure मशीन शिक्षणाचे उपकरणे वाचा जे न्याय सुनिश्चित करतात:
असाइनमेंट
अस्वीकरण: हा दस्तऐवज AI भाषांतर सेवा Co-op Translator चा वापर करून अनुवादित केला आहे. जरी आम्ही अचूकतेसाठी प्रयत्न करतो, तरी कृपया लक्षात घ्या की स्वयंचलित भाषांतरांमध्ये त्रुटी किंवा अचूकतेची कमतरता असू शकते. मूळ दस्तऐवज त्याच्या मूळ भाषेत अधिकृत स्रोत मानला पाहिजे. महत्त्वाची माहिती असल्यास, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराच्या वापरामुळे उद्भवणाऱ्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थलावणीसाठी आम्ही जबाबदार नाही.