|
|
3 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 3 weeks ago | |
| assignment.md | 7 months ago | |
README.md
उत्तरदायी AI को साथ मेसिन लर्निङ समाधान बनाउँदै
स्केचनोट द्वारा Tomomi Imura
पाठ भन्दा पहिले क्विज
परिचय
यस पाठ्यक्रममा, तपाईंले मेसिन लर्निङले हाम्रो दैनिक जीवनमा कसरी प्रभाव पारिरहेको छ भन्ने पत्ता लगाउन सुरु गर्नुहुनेछ। अहिले पनि, प्रणालीहरू र मोडेलहरू दैनिक निर्णय गर्ने कार्यहरूमा संलग्न छन्, जस्तै स्वास्थ्य सेवा निदान, ऋण स्वीकृति वा ठगी पत्ता लगाउने। त्यसैले, यी मोडेलहरूले विश्वसनीय परिणामहरू प्रदान गर्न राम्रोसँग काम गर्नु महत्त्वपूर्ण छ। जसरी कुनै सफ्टवेयर अनुप्रयोग पनि अपेक्षाहरू पूरा नगर्न सक्छ वा अवाञ्छित परिणाम दिन सक्छ, त्यसैगरी AI प्रणालीहरूले पनि यस्तो हुन सक्छ। त्यसैले AI मोडेलको व्यवहार बुझ्न र स्पष्ट पार्न सक्नु आवश्यक छ।
कल्पना गर्नुहोस्, तपाईंले प्रयोग गरिरहेको डाटामा केही जनसांख्यिकीय विवरणहरू जस्तै जाति, लिङ्ग, राजनीतिक दृष्टिकोण, धर्म वा disproportionate प्रतिनिधित्व छैन भने के हुन सक्छ? मोडेलको परिणाम कसैले केही जनसमूहलाई पक्षपाती रूपमा व्याख्या गर्दा के हुन्छ? यस अनुप्रयोगको परिणाम के होला? साथै, यदि मोडेलले हानिकारक परिणाम दिन्छ भने के हुन्छ? AI प्रणालीको व्यवहारका लागि को जिम्मेवार हुनेछ? यी केही प्रश्नहरू यस पाठ्यक्रममा अन्वेषण गरिने छन्।
यस पाठमा, तपाईंले:
- मेसिन लर्निङमा निष्पक्षताको महत्त्व र निष्पक्षता सम्बन्धी हानिका बारेमा जागरूकता बढाउनुहोस्।
- विसंगतिहरू र असामान्य अवस्थाहरू पत्ता लगाउने अभ्याससँग परिचित हुनुहोस् जसले विश्वसनीयता र सुरक्षा सुनिश्चित गर्छ।
- समावेशी प्रणालीहरू डिजाइन गरेर सबैलाई सशक्त पार्ने आवश्यकतालाई बुझ्नुहोस्।
- डाटा र मानिसहरूको गोपनीयता र सुरक्षालाई कसरी संरक्षण गर्ने अन्वेषण गर्नुहोस्।
- AI मोडेलहरूको व्यवहार स्पष्ट पार्न गिलास बाकस दृष्टिकोणको महत्त्व देख्नुहोस्।
- उत्तरदायित्व कत्तिको आवश्यक छ भनेर बुझेर AI प्रणालीहरूमा विश्वास बनाउन सचेत हुनुहोस्।
पूर्व शर्त
पूर्व शर्तको रूपमा, कृपया "उत्तरदायी AI सिद्धान्तहरू" अध्ययन मार्ग लिनुहोस् र तलको भिडियो हेर्नुहोस्:
यस अध्ययन मार्ग मार्फत उत्तरदायी AI बारे थप जान्नुहोस्
🎥 माथिको छवि क्लिक गर्नुहोस् भिडियोको लागि: Microsoft को उत्तरदायी AI को दृष्टिकोण
निष्पक्षता
AI प्रणालीहरूले सबैलाई न्यायसंगत व्यवहार गर्नु पर्छ र समान समूहका मानिसहरूलाई फरक तरिकाले असर गर्नु हुँदैन। जस्तै AI प्रणालीहरूले चिकित्सा उपचार, ऋण आवेदन वा रोजगारमा सल्लाह दिने अवस्था, समान लक्षण, आर्थिक अवस्था, वा पेशागत योग्यता भएका सबैलाई समान सिफारिस गर्नु पर्छ। हामी मध्ये प्रत्येक मानिसले पूर्वाग्रह बोकेका हुन्छौं जसले निर्णय र क्रियाकलापहरूलाई असर गर्छ। यी पूर्वाग्रहहरू हामीले AI प्रणाली प्रशिक्षण गर्न प्रयोग गर्ने डाटामा पनि देख्न सकिन्छ। यस्तो हेरफेर कहिलेकाहीं अनजानमै हुन्छ। डाटामा पूर्वाग्रह प्रविष्टि कहिले भइरहेको छ भनेर सचेतपूर्वक थाहा पाउनु कठिन हुन्छ।
“अनिष्पक्षता” ले कुनै समूहका लागि नकारात्मक प्रभावहरू वा “हानि”हरूको व्याख्या गर्छ, यो जाति, लिङ्ग, उमेर वा अपांगता अवस्थाका अनुसार परिभाषित हुन सक्छ। मुख्य निष्पक्षता सम्बन्धी हानि वर्गीकरण गरिएका छन्:
- विनियोजन, जस्तै कुनै लिङ्ग वा जातीयता अर्को भन्दा प्राथमिकता पाउने।
- सेवा गुणस्तर। यदि तपाईं एउटा विशेष परिदृश्यका लागि डाटा प्रशिक्षण गर्नुहुन्छ र वास्तविकता धेरै जटिल छ भने, यो खराब प्रदर्शन गर्ने सेवामा परिणत हुन्छ। उदाहरणका लागि, एउटा हात धोने साबुन डिस्पेन्सरले कालो छालाका मानिसहरूलाई संवेदनशील बनाउन सकेन। सन्दर्भ
- अपमानजनक आलोचना। कुनै वस्तु वा व्यक्तिलाई अन्यायपूर्वक आलोचना र लेबल लगाउने। उदाहरणका लागि, एउटा छवि लेबलिङ प्रविधिले कालो छाला भएका मानिसहरूको छविहरूलाई बन्दरको रूपमा गलत चिन्ह लगायो।
- अधिक वा कम प्रतिनिधित्व। सोचाइ यो हो कि कुनै समूहलाई कुनै पेशामा देखिँदैन, र कुनै सेवा वा कार्यले यस्तो प्रवर्द्धन गरिरहँदा हानि पुर्याउँछ।
- स्टीरियोटाइपिङ। कुनै समूहलाई पूर्वनिर्धारित गुणसँग जोड्नु। उदाहरणका लागि, अंग्रेजी र टर्किस भाषाको अनुवाद प्रणालीमा लिङ्गसँग सम्बन्धित सामान्य पूर्वाग्रहका कारण त्रुटिहरू देखा पर्न सक्छन्।
टर्किशमा अनुवाद
फेरि अंग्रेजीमा अनुवाद
AI प्रणालीहरू डिजाइन र परीक्षण गर्दा, AI निष्पक्ष छ र पूर्वाग्रही वा भेदभावपूर्ण निर्णय गर्न प्रोग्राम गरिएको छैन भन्ने सुनिश्चित गर्नुपर्छ, जुन मानवहरूले पनि गर्न पाउँदैनन्। AI र मेसिन लर्निङमा निष्पक्षता सुनिश्चित गर्नु अझै जटिल सामाजिक-प्राविधिक चुनौती हो।
विश्वसनीयता र सुरक्षा
विश्वास निर्माण गर्न, AI प्रणालीहरू विश्वसनीय, सुरक्षित र सामान्य तथा अप्रत्याशित अवस्थाहरूमा स्थिर हुनु आवश्यक छ। AI प्रणालीहरूले विभिन्न अवस्थाहरूमा कसरी व्यवहार गर्नेछन् भन्न जान्नु महत्त्वपूर्ण छ, विशेष गरी जब ती असामान्य अवस्थाहरू हुन्छन्। AI समाधानहरू बनाउँदा विभिन्न परिस्थितिहरू कसरी ह्यान्डल गर्ने भन्नेमा धेरै ध्यान दिनुपर्छ। उदाहरणका लागि, सेल्फ-ड्राइभिङ कारले मानिसहरूको सुरक्षा सर्वोच्च प्राथमिकता दिनुपर्छ। त्यसैले कारलाई चलाउने AI ले सबै सम्भावित परिस्थितिहरू विचार गर्नुपर्छ जस्तै रात, आँधी-तुफान, बच्चाहरू सडक क्रस गर्दैछन्, पशुहरू, सडक निर्माण आदि। AI प्रणालीले यस्ता अवस्था विश्वसनीय र सुरक्षित तरिकाले कसरी ह्यान्डल गर्छ भन्ने कुरा डाटा वैज्ञानिक वा AI विकासकर्ताले डिजाइन वा परीक्षण गर्दा ध्यान दिएको स्तर प्रतिबिम्बित गर्छ।
🎥 यहाँ क्लिक गर्नुहोस् भिडियोको लागि: AI मा विश्वसनीयता र सुरक्षा
समावेशीता
AI प्रणालीहरू सबैलाई सहभागी र सशक्त बनाउने गरी डिजाइन गरिनु पर्छ। AI प्रणालीहरू विकास गर्दा डाटा वैज्ञानिक र AI विकासकर्ताहरूले अनपेक्षित रूपमा मानिसहरूलाई बाहिष्कृत गर्न सक्ने सम्भावित बाधाहरू पत्ता लगाएर समाधान गर्नुपर्छ। उदाहरणका लागि, विश्वभर लगभग १ अर्ब मानिसहरू अपाङ्गता भएका छन्। AI प्रगतिको साथ, उनीहरू दैनिक जीवनमा व्यापक जानकारी र अवसरहरू सजिलै पहुँच गर्न सक्छन्। बाधाहरूलाई समाधान गरेर, सबैलाई लाभ दिने राम्रो अनुभव सहित AI उत्पादनहरू विकास गर्ने अवसर सिर्जना हुन्छ।
सुरक्षा र गोपनीयता
AI प्रणालीहरू सुरक्षित र मानिसहरूको गोपनीयता सम्मान गर्नुपर्छ। मानिसहरूले त्यस्ता प्रणालीहरूमा विश्वास कम गर्छन् जुन उनीहरूको गोपनीयता, जानकारी, वा जीवनलाई जोखिममा पार्छ। मेसिन लर्निङ मोडेलहरू प्रशिक्षण गर्दा, हामीले राम्रो नतिजा निकाल्न डाटामा भर पर्छौं। त्यसैले डाटाको स्रोत र अखण्डता विचार गर्नुपर्छ। उदाहरणका लागि, डाटा प्रयोगकर्ताले प्रदान गरेको हो वा सार्वजनिक रूपमा उपलब्ध? त्यसपछि, डाटासँग काम गर्दा confidential जानकारी संरक्षण गर्ने र आक्रमणहरू प्रतिरोध गर्ने AI प्रणाली विकास गर्नु जरूरी हुन्छ। AI व्यापक हुँदै जाँदा गोपनीयता रक्षा र महत्त्वपूर्ण व्यक्तिगत तथा व्यापार जानकारीलाई सुरक्षित राख्नु अझ महत्वपूर्ण र जटिल हुँदैछ। गोपनीयता र डाटा सुरक्षा मुद्दाहरू AI का लागि विशेष ध्यान दिन आवश्यक छन् किनकि डाटामा पहुँच हुनु AI प्रणालीहरूले सही पूर्वानुमान र निर्णय गर्न आवश्यक छ।
- उद्योगको रूपमा हामीले गोपनीयता र सुरक्षामा महत्वपूर्ण प्रगति गरेका छौं, विशेष गरी GDPR जस्ता नियमावलीहरूद्वारा।
- तर AI प्रणालीहरूसँग अधिक व्यक्तिगत डेटा बुज्न चुनौती र गोपनीयताबीच तनाव रहन्छ।
- इन्टरनेटसहित जडित कम्प्युटरहरूको उदय जस्तै, AI सम्बन्धी सुरक्षा मुद्दाहरूमा पनि ठूलो वृद्धि देखिदैछ।
- त्यही समयमा, हामीले देखेका छौं की AI लाई सुरक्षा सुधार गर्न पनि प्रयोग गरिएको छ। उदाहरणका लागि, आधुनिक एन्टी-भाइरस स्क्यानरहरू AI ह्युरिस्टिक्समा आधारित छन्।
- हामीले हाम्रो डाटा विज्ञान प्रक्रियाहरू समसामयिक गोपनीयता र सुरक्षा अभ्याससँग समाहित गर्न आवश्यक छ।
पारदर्शिता
AI प्रणालीहरू बुझ्न सकिने हुनुपर्छ। पारदर्शिताको महत्वपूर्ण भाग भनेको AI प्रणाली र तिनका कम्पोनेन्टहरूको व्यवहारको स्पष्टिकरण हो। AI प्रणाली बुझ्न सुधार गर्न सरोकारवालाहरूले कसरी र किन यी प्रणालीहरू काम गर्छन् भनेर बुझ्नुपर्छ ताकि सम्भावित प्रदर्शन समस्याहरू, सुरक्षा र गोपनीयता चिन्ताहरू, पूर्वाग्रह, बहिष्कार अभ्यास वा अनपेक्षित परिणामहरू पहिचान गर्न सकून्। हामी विश्वास गर्छौं कि AI प्रणाली प्रयोग गर्नेहरूले कहिले, किन, र कसरी तिनीहरू प्रयोगमा ल्याइन्छन् इमानदार रूपमा खुलासा गर्नु पर्छ। साथै तिनीहरूले प्रयोग गर्ने प्रणालीहरूको सीमितता पनि बताउनु पर्छ। उदाहरणका लागि, यदि कुनै बैंकले आफ्नो उपभोक्ता ऋण निर्णयका लागि AI प्रणाली प्रयोग गर्छ भने, परिणामहरू जाँच्न र कुन डाटा प्रणालीका सिफारिसहरूलाई प्रभाव पार्छ भनेर बुझ्न महत्त्वपूर्ण छ। सरकारले विभिन्न उद्योगहरूमा AI नियमन गर्न थालिसकेकोले डाटा वैज्ञानिक र संगठनहरूले AI प्रणालीले नियामक आवश्यकताहरू पूरा गर्छ भनेर स्पष्ट पार्नुपर्छ, विशेष गरी जब अवाञ्छित परिणाम हुन्छ।
- AI प्रणालीहरू निकै जटिल छन्, त्यसैले तिनले कसरी काम गर्छन् र परिणामहरू कसरी व्याख्या गर्ने बुझ्न गाह्रो हुन्छ।
- यसले प्रणालीहरूको व्यवस्थापन, सञ्चालन र कागजातिकरणमा असर पार्छ।
- अझ महत्त्वपूर्ण कुरा, यसले यी प्रणालीहरूले उत्पादन गर्ने नतिजाबाट गरिने निर्णयहरूमा असर गर्छ।
उत्तरदायित्व
AI प्रणाली डिजाइन र कार्यान्वयन गर्नेहरूले तिनीहरूको प्रणाली कसरी काम गर्छ भनेर जिम्मेवार हुनुपर्छ। विशेष गरी संवेदनशील प्रविधिहरू जस्तै अनुहार पहिचानमा उत्तरदायित्व धेरै आवश्यक छ। हालसालै, अनुहार पहिचान प्रविधिको माग बढेको छ, विशेषगरी कानुन कार्यान्वयन संगठनहरूबाट जो यस प्रविधिलाई हराएका बच्चा खोज्न उपयोगी देख्छन्। तर, यी प्रविधिहरू सरकारहरूले आफ्ना नागरिकहरूको मौलिक स्वतन्त्रता जोखिममा पार्न प्रयोग गर्न सक्छन्, जस्तै कुनै विशेष व्यक्ति निरन्तर निगरानीमा राख्न सकिन्छ। त्यसैले डाटा वैज्ञानिक र संस्थाहरूले आफ्नो AI प्रणालीले व्यक्तिहरू वा समाजमा कस्तो प्रभाव पार्छ भनेर जिम्मेवार हुनुपर्छ।
🎥 माथिको छवि क्लिक गर्नुहोस् भिडियोको लागि: अनुहार पहिचान मार्फत व्यापक निगरानीको चेतावनीहरू
अन्ततः हाम्रो पुस्ताका लागि सबैभन्दा ठूलो प्रश्नहरू मध्ये एउटा भनेको, जुन पहिलो पुस्ता हो जसले AI लाई समाजमा ल्याउँदैछ, कम्प्युटरहरूले मानिसहरू प्रती उत्तरदायी रहोस र कम्प्युटर डिजाइन गर्ने मानिसहरू अरू सबैप्रति उत्तरदायी रहुन् कसरी सुनिश्चित गर्ने हो।
प्रभाव मूल्यांकन
मेसिन लर्निङ मोडेल प्रशिक्षण गर्नु अघि, AI प्रणालीको उद्देश्य, इच्छित प्रयोग के हो, कहाँ कार्यान्वयन हुनेछ, र को प्रणालीसँग अन्तरक्रिया गर्नेछ भनेर बुझ्न प्रभाव मूल्यांकन गर्नु महत्त्वपूर्ण छ। यी समीक्षा गर्नेहरू वा परीक्षार्थीहरूले सम्भावित जोखिम र अपेक्षित परिणामहरू चिन्हित गर्दा विचार गर्नुपर्ने कारकहरू थाहा पाउन सहयोग गर्छ।
प्रभाव मूल्यांकन गर्दा ध्यान दिनुपर्ने क्षेत्रहरू तल दिइएका छन्:
- व्यक्तिहरूमा हानिकारक प्रभाव। कुनै प्रतिबन्ध, आवश्यकता, असमर्थित प्रयोग वा कुनै ज्ञात सीमाहरूले प्रणालीको प्रदर्शनमा बाधा पुर्याउने छ कि छैन थाहा पाउनु महत्त्वपूर्ण छ ताकि प्रणाली व्यक्तिलाई हानि पुर्याउने तरिकाले प्रयोग नहोस्।
- डाटा आवश्यकताहरू। प्रणालीले डाटा कस्तो र कहाँ प्रयोग गर्छ भन्ने बुझ्नुले समीक्षा गर्नेहरूलाई GDPR वा HIPAA जस्ता डाटा नियमहरूको पालना जाँच्न सहायता गर्छ। साथै, डाटाको स्रोत र संख्या पर्याप्त छ भन्ने जाँच गर्न।
- प्रभावको सारांश। प्रणाली प्रयोग गर्दा सम्भावित हानि सूचीकरण गर्नुहोस्। मेसिन लर्निङ जीवनचक्रमा यी समस्याहरू समाधान वा न्यूनीकृत छन् कि छैनन् हेर्नुहोस्।
- छ वटा मुख्य सिद्धान्तहरूको लागू हुने लक्ष्यहरू। प्रत्येक सिद्धान्तबाट लक्ष्यहरूसँग मेल खान्छ कि, कुनै कमजोरी छ कि छैन मूल्याङ्कन गर्नुहोस्।
उत्तरदायी AI सँग डिबगिङ
सफ्टवेयर अनुप्रयोग डिबगिङ जस्तै, AI प्रणाली डिबगिङ आवश्यक प्रक्रिया हो जसले प्रणालीका समस्याहरू पहिचान र समाधान गर्दछ। मोडेलले अपेक्षित वा जिम्मेवार प्रदर्शन नगर्न सहयोग गर्ने धेरै कारकहरू हुन्छन्। अधिकांश परम्परागत मोडेल प्रदर्शन मेट्रिक्स मात्र मात्रात्मक प्रदर्शनका योगात्मक तथ्याङ्कहरू हुन्, जुन जिम्मेवार AI सिद्धान्त उल्लंघन कसरी हुन्छ विश्लेषण गर्न पर्याप्त छैन। थप रूपमा, मेसिन लर्निङ मोडेल कालो बाकस जस्तो हुन्छ जसले यसको परिणामहरू प्रेरित गर्ने कुराहरू बुझ्न र गल्ती हुँदा व्याख्या दिन गाह्रो हुन्छ। यस कोर्समा पछि, हामी जिम्मेوار AI ड्यासबोर्ड प्रयोग गर्दा सिक्नेछौं जसले AI प्रणाली डिबग गर्न मद्दत गर्दछ। ड्यासबोर्ड डाटा वैज्ञानिक र AI विकासकर्ताहरूलाई समग्र उपकरण उपलब्ध गराउँछ जसले:
- गल्ती विश्लेषण। मोडेलको त्रुटि वितरण पहिचान गर्न जसले प्रणालीको निष्पक्षता वा विश्वसनीयतामा असर पुर्याउन सक्छ।
- मोडेल अवलोकन। डाटा समूहहरूमा मोडेलको प्रदर्शनमा असमानता कहाँ छ पत्ता लगाउन।
- डाटा विश्लेषण। डाटाको वितरण बुझ्न र सम्भावित पूर्वाग्रह पहिचान गर्न जुन निष्पक्षता, समावेशीता र विश्वसनीयता सम्बन्धी समस्या ल्याउन सक्छ।
- मोडेल व्याख्यात्मकता। मोडेलका पूर्वानुमानहरूमा के असर गर्छ वा प्रभाव पार्छ बुझ्न। यसले मोडेलको व्यवहार व्याख्या गर्न मद्दत गर्दछ जुन पारदर्शिता र उत्तरदायित्वको लागि महत्त्वपूर्ण छ।
🚀 चुनौती
हानि प्रारम्भमै रोक्न हामीले:
- प्रणालीमा काम गर्ने मानिसहरू बीचमा विविध पृष्ठभूमि र दृष्टिकोण हुनुपर्छ
- हाम्रो समाजको विविधता प्रतिबिम्बित गर्ने डेटासेटहरूमा लगानी गर्नुहोस्
- मेसिन लर्निङ जीवनचक्रभरि असंवेदनशील AI पत्ता लगाउन र सुधार्न राम्रो विधिहरू विकास गर्नुहोस्
मोडेल निर्माण र प्रयोगमा असंवेदनशीलता देखिने वास्तविक जीवनका परिदृश्यहरू सोच्नुहोस्। अरू के विचार गर्नुपर्छ?
पाठ पछि क्विज
समीक्षा र आत्मअध्ययन
यस पाठमा, तपाईंले मेसिन लर्निङमा निष्पक्षता र अनिष्पक्षता सम्बन्धी आधारभूत अवधारणाहरू सिक्नुभयो।
तलको कार्यशाला हेर्नुहोस् विषयवस्तुमा गहिराइमा जान:
- जिम्मेवार AI को खोजीमा: सिद्धान्तलाई अभ्यासमा ल्याउने कार्यशाला - Besmira Nushi, Mehrnoosh Sameki र Amit Sharma द्वारा
🎥 माथिको तस्वीरमा क्लिक गर्नुहोस् भिडियोका लागि: RAI उपकरणशाला: जिम्मेवार AI निर्माण गर्ने खुला स्रोत फ्रेमवर्क, लेखकहरु: बेस्मिरा नुशी, मेहरनूश सामेकी, र अमित शर्मा
साथै, पढ्नुहोस्:
-
माइक्रोसफ्टको RAI स्रोत केन्द्र: जिम्मेवार AI स्रोतहरू – Microsoft AI
-
माइक्रोसफ्टको FATE अनुसन्धान समूह: FATE: निष्पक्षता, जवाफदेहिता, पारदर्शिता, र AI मा नैतिकता - माइक्रोसफ्ट अनुसन्धान
RAI उपकरणशाला:
Azure मशीन लर्निङका औजारहरूबारे पढ्नुहोस् जसले निष्पक्षता सुनिश्चित गर्छ:
कार्य
RAI उपकरणशाला अन्वेषण गर्नुहोस्
अस्वीकरण: यो दस्तावेज़ AI अनुवाद सेवा Co-op Translator प्रयोग गरेर अनुवाद गरिएको हो। हामी सही हुन प्रयास गर्छौं, तर कृपया जानकार हुनुस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छन्। मूल दस्तावेज़ यसको मूल भाषामा आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीका लागि व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न कुनै पनि गलत बुझाइ वा त्रुटिको लागि हामी जिम्मेवार छैनौं।





