Data-Science-For-Beginners/translations/ne/1-Introduction/02-ethics

डेटा एथिक्समा परिचय

डेटा विज्ञान एथिक्स - स्केचनोट by @nitya

---

हामी सबै डेटा नागरिक हौं जो डेटा-आधारित संसारमा बाँचिरहेका छौं।

बजारका प्रवृत्तिहरूले हामीलाई बताउँछन् कि २०२२ सम्म, ३ मध्ये १ ठूलो संस्थाले आफ्नो डेटा अनलाइन मार्केटप्लेस र एक्सचेन्जमार्फत किनबेच गर्नेछन्। एप विकासकर्ताहरूको रूपमा, हामीलाई दैनिक प्रयोगकर्ता अनुभवमा डेटा आधारित अन्तर्दृष्टि र एल्गोरिदम-चालित स्वचालन एकीकृत गर्न सजिलो र सस्तो हुनेछ। तर AI सर्वत्र फैलिदै गएपछि, यस्तो एल्गोरिदमहरूको हथियारबन्दी बाट हुन सक्ने सम्भावित हानिहरू बुझ्न पनि आवश्यक हुनेछ।

प्रवृत्तिहरू सुझाव गर्छन् कि २०२५ सम्म, हामीले १८० सेताबाइट्स भन्दा बढी डेटा उत्पादन र उपभोग गर्नेछौं। डेटा वैज्ञानिकहरूको लागि, यस सूचना विस्फोटले व्यक्तिगत र व्यवहारिक डेटा पहुँचको अभूतपूर्व अवसर प्रदान गर्दछ। यसको साथमा, विस्तृत प्रयोगकर्ता प्रोफाइलहरू निर्माण गर्ने र निर्णय प्रक्रियामा सूक्ष्म प्रभाव पार्ने शक्ति आउँछ—प्रायः यस्तो तरिकाले जुन स्वतन्त्र विकल्पको भ्रम सिर्जना गर्छ। यसलाई प्रयोगकर्ताहरूलाई वांछित परिणामतर्फ धकेल्नका लागि प्रयोग गर्न सकिन्छ, तर यसले डेटा गोपनीयता, स्वतन्त्रता र एल्गोरिदमिक प्रभावका नैतिक सीमाहरूबारे महत्वपूर्ण प्रश्नहरू उठाउँछ।

डेटा एथिक्स अहिले डेटा विज्ञान र इन्जिनियरिङका लागि आवश्यक सुरक्षा पाटाहरू हुन्, जसले हाम्रा डेटा-आधारित क्रियाकलापहरूबाट हुन सक्ने हानिहरू र अप्रत्याशित परिणामहरू न्यून गर्ने काम गर्छन्। Gartner Hype Cycle for AI डिजिटल एथिक्स, जिम्मेवार AI, र AI शासन सम्बन्धी प्रवृत्तिहरूलाई लोकतान्त्रीकरण र औद्योगिकीकरण का प्रमुख ड्राइभरका रूपमा चिन्हित गर्छ।

यस पाठमा, हामी डेटा एथिक्सको रोचक क्षेत्र अन्वेषण गर्नेछौं—मूल अवधारणाहरू र चुनौतीहरूबाट लिएर, केस अध्ययन र AI अवधारणाहरू जस्तै शासनसम्म, जसले डेटा र AI सँग काम गर्ने टिम र संस्थाहरूमा एथिक्स संस्कृति स्थापना गर्न मद्दत गर्छ।

पूर्व-व्याख्यान क्विज 🎯

आधारभूत परिभाषाहरू

अहिले हामी आधारभूत शब्दावली बुझ्न सुरु गरौं।

"एथिक्स" शब्द ग्रीक शब्द "ethikos" (र यसको मूल "ethos") बाट आएको हो जसको अर्थ चरित्र वा नैतिक स्वभाव हो।

एथिक्स हाम्रो समाजमा व्यवहारलाई निर्देश गर्ने साझा मूल्य र नैतिक सिद्धान्तहरू हुन्। एथिक्स कानूनहरूमा आधारित हुँदैन तर व्यापक रूपमा स्वीकार गरिएका "सही बिरूद्ध गलत" को मान्यताहरूमा आधारित हुन्छ। यद्यपि, नैतिक विचारहरूले निगम शासনতन्त्र पहलहरू र सरकारका नियमहरूलाई असर पार्न सक्छन् जसले अनुपालनका लागि थप प्रोत्साहन सिर्जना गर्छ।

डेटा एथिक्स एउटा नयाँ शाखा हो जसले "डेटा, एल्गोरिदम र सम्बन्धित अभ्यासहरू" सम्बन्धी नैतिक समस्याहरूको अध्ययन र मूल्याङ्कन गर्छ। यहाँ, "डेटा" ले उत्पादन, अभिलेखन, संरक्षण, प्रशोधन, प्रचार, साझेदारी र प्रयोगसँग सम्बन्धित क्रियाकलापहरू संकेत गर्छ, "एल्गोरिदम" ले AI, एजेन्टहरू, मेशिन लर्निङ, र रोबोटहरूलाई संकेत गर्छ, र "अभ्यासहरू" ले जिम्मेवार नवीनता, प्रोग्रामिङ, ह्याकिङ, र एथिक्स कोड जस्ता विषयहरू समेट्छ।

प्रयोगात्मक एथिक्स भनेको नैतिक विचारहरूको व्यावहारिक प्रयोग हो। यो वास्तविक-विश्वका क्रियाकलाप, उत्पादन र प्रक्रियाहरूको सन्दर्भमा नैतिक मुद्दाहरू सक्रिय रूपमा अनुसन्धान गर्ने, र ती हामीले परिभाषित गरेका नैतिक मूल्यहरूसँग मेल खाने सुनिश्चित गर्ने सुधारात्मक कदमहरू लिनको प्रक्रिया हो।

एथिक्स संस्कृति भनेको प्रयोगात्मक एथिक्सलाई सञ्चालनमा ल्याउने हो जसले सुनिश्चित गर्छ कि हामीले परिभाषित गरेका नैतिक सिद्धान्त र अभ्यासहरू सुदृढ र सबै स्तरमा विस्तार गर्न मिल्ने तरिकाले पुरा संस्था भर अपनाइन्छ। सफल एथिक्स संस्कृतिहरूले संस्था-व्यापी नैतिक सिद्धान्तहरू परिभाषित गर्छन्, अनुपालनका लागि अर्थपूर्ण प्रोत्साहन दिन्छन्, र संस्थाका प्रत्येक तहमा इच्छित व्यवहारहरूलाई प्रोत्साहन र सुदृढ पारेर एथिक्स मान्यतालाई बलियो बनाउँछन्।

एथिक्स अवधारणाहरू

यस भागमा, हामी डेटा एथिक्सका लागि साझा मूल्यहरू (सिद्धान्तहरू) र नैतिक चुनौतीहरू (समस्याहरू) जस्ता अवधारणाहरू छलफल गर्नेछौं - र तपाईलाई यी अवधारणाहरू वास्तविक समस्याहरूमा बुझाउन मद्दत गर्ने केस अध्ययनहरू अवलोकन गर्नेछौं।

१. एथिक्स सिद्धान्तहरू

हरेक डेटा एथिक्स रणनीति सुरू हुन्छ नैतिक सिद्धान्तहरू परिभाषित गरेर - ती "साझा मूल्यहरू" जुन डेटा र AI परियोजनाहरूमा स्वीकार्य व्यवहारहरू वर्णन गर्छन् र अनुपालनीय कार्यहरूलाई मार्गदर्शन गर्छन्। तपाईं यीलाई व्यक्तिगत वा टिम स्तरमा परिभाषित गर्न सक्नुहुन्छ। तर अधिकांश ठूला संस्थाहरूले यीलाई जिम्मेवार AI मिशन वक्तव्य वा फ्रेमवर्कमा समावेश गर्छन् जुन कर्पोरेट स्तरमा परिभाषित र सबै टिमहरूमा समान रूपमा लागू गरिन्छ।

उदाहरणः माइक्रोसफ्टको जिम्मेवार AI मिशन वक्तव्य भन्छ: "हामी मानवलाई पहिलो प्राथमिकतामा राख्ने नैतिक सिद्धान्तहरू द्वारा सञ्चालित AI को विकासमा प्रतिबद्ध छौं" - र तलको फ्रेमवर्कमा ६ वटा नैतिक सिद्धान्तहरू पहिचान गर्छ:

अब यी सिद्धान्तहरूलाई संक्षेपमा हेर्नेछौं। पारदर्शिता र जवाफदेहिता आधारभूत मूल्यहरू हुन् जसमा अन्य सिद्धान्तहरू आधारित छन् - त्यसैले हामी यहीँबाट सुरू गरौं:

• जवाफदेहिता अभ्यासकर्ताहरूलाई उनीहरूको डेटा र AI कार्यहरू र यी नैतिक सिद्धान्तहरूसँगको अनुपालनमा जिम्मेवार बनाउँछ।
• पारदर्शिता ले सुनिश्चित गर्छ कि डेटा र AI क्रियाकलापहरू प्रयोगकर्ताहरूका लागि बुझ्न योग्य (व्याख्यायोग्य) हुन्छन्, निर्णय पछिका कारणहरू स्पष्ट हुन्छन्।
• न्यायसंगतता - AI ले सबै मानिसहरूलाई न्यायसंगत व्यवहार गर्ने सुनिश्चित गर्दछ, र तसर्थ डेटा र प्रणालीहरूमा भएका कुनै प्रणालीगत वा अप्रत्यक्ष सामाजिक-प्राविधिक पक्षपातहरूलाई सम्बोधन गर्छ।
• विश्वसनीयता र सुरक्षा - AI ले परिभाषित मान्यताहरूसँग लगातार व्यवहार गर्ने सुनिश्चित गर्छ, र सम्भावित हानि वा अप्रत्याशित परिणामहरूलाई न्यूनतम बनाउँछ।
• गोपनीयता र सुरक्षा - डेटा उत्पत्ति बुझ्न र प्रयोगकर्ताहरूलाई डेटा गोपनीयता र सम्बन्धित सुरक्षा प्रदान गर्न सम्बन्धित छ।
• समावेशिता - AI समाधानहरू डिजाइन गर्दा मनसायका साथ बनाइन्छ, तीलाई मानव आवश्यकताहरू र क्षमताहरूको ठूलो विविधता पूरा गर्न अनुकूलन गरिन्छ।

🚨 तपाईको डेटा एथिक्स मिशन वक्तव्य के हुन सक्छ भनी सोच्नुहोस्। अन्य संस्थाहरूका जिम्मेवार AI फ्रेमवर्कहरू अन्वेषण गर्नुहोस् - यहाँ IBM, Google, र Facebook का उदाहरणहरू छन्। तिनीहरूमा साझा मूल्यहरू के छन्? यी सिद्धान्तहरू उनीहरूले सञ्चालन गर्ने AI उत्पादन वा उद्योगसँग कसरी सम्बन्धित छन्?

२. एथिक्स चुनौतीहरू

एथिकल सिद्धान्तहरू परिभाषित भइसकेपछि, अर्को चरण हो हाम्रा डेटा र AI कार्यहरू ती साझा मूल्यहरूसँग मेल खान्छ कि गर्दैन भनी मूल्याङ्कन गर्ने। तपाईको कार्यहरूलाई दुई वर्गमा सोच्नुहोस्: डेटा सङ्कलन र एल्गोरिदम डिजाइन।

डेटा सङ्कलनमा, कार्यहरू प्रायः व्यक्तिगत डेटा वा पहिचानयोग्य व्यक्तिहरूका लागि व्यक्तिगत रूपमै पहिचानयोग्य जानकारी (PII) समावेश गर्छ। यसमा त्यस्ता विविध गैर-व्यक्तिगत डेटा वस्तुहरू समावेश छन् जुन सामूहिक रूपमा कुनै व्यक्तिलाई पहिचान गर्न प्रयोग गर्न सकिन्छ। एथिकल चुनौतीहरू डेटा गोपनीयता, डेटा स्वामित्व, र प्रयोगकर्ताका लागि जानकारीमूलक सहमति र बौद्धिक सम्पत्ति अधिकार जस्ता विषयहरूमा हुन सक्छन्।

एल्गोरिदम डिजाइनमा, कार्यहरूमा डेटासेटहरू संकलन र संरक्षण गर्ने, अनि तिनीहरूलाई प्रयोग गरेर वास्तविक-विश्व सन्दर्भमा नतिजा पूर्वानुमान वा निर्णय स्वचालित गर्ने डेटा मोडेलहरू तालिम दिने र तैनाथ गर्ने समावेश हुन्छ। एथिकल चुनौतीहरूमा डेटासेट पक्षपात, डेटा गुणस्तर समस्या, अन्याय र एल्गोरिदममा भ्रामक चित्रण समावेश हुन सक्छन्—कसै-कसै समस्या प्रणालीगत प्रकृतिका हुनसक्छन्।

दुवै अवस्थामा, एथिक्स चुनौतीहरूले हाम्रा कार्यहरू साझा मूल्यहरूसँग टकराव भएको क्षेत्रहरूलाई देखाउँछन्। ती चिन्ह लगाउन, घटाउन, कम गर्न वा हटाउन हामीले हाम्रा कार्यसँग सम्बन्धित नैतिक "हो/होइन" प्रश्नहरू सोध्नुपर्छ र आवश्यक परे सुधारात्मक कदम लिनुपर्छ। तल केही एथिकल चुनौतीहरू र तिनले उठाउने नैतिक प्रश्नहरू हेरौं:

२.१ डेटा स्वामित्व

डेटा सङ्कलनमा प्रायः व्यक्तिगत डेटा समावेश हुन्छ जुन डेटा विषयहरूलाई पहिचान गर्न सक्छ। डेटा स्वामित्व भनेको डेटा सिर्जना, प्रशोधन, र प्रचारसँग सम्बन्धित नियन्त्रण र प्रयोगकर्ता अधिकारहरू को कुरा हो।

हामीले सोध्नुपर्ने नैतिक प्रश्नहरू छन्:

• डेटा कसको हो? (प्रयोगकर्ता वा संस्था)
• डेटा विषयहरूको के अधिकारहरू छन्? (जस्तै: पहुँच, मेटाउने, सार्नसकिने)
• संस्थाको के अधिकारहरू छन्? (जस्तै: दुष्ट प्रयोगकर्ता समीक्षा सच्याउने)

२.२ जानकारीमूलक सहमति

जानकारीमूलक सहमति भनेको प्रयोगकर्ताले पूर्ण रूपमा सम्बन्धित तथ्यहरू बुझेर (जस्तै उद्देश्य, सम्भावित जोखिमहरू, विकल्पहरू सहित) कुनै क्रियाकलाप (जस्तै डेटा सङ्कलन) मा सहमति दिने कार्य हो।

यहाँ हेरिनुपर्ने प्रश्नहरू छन्:

• के प्रयोगकर्ताले (डेटा विषयले) डेटा सङ्कलन र प्रयोगको अनुमति दियो?
• के प्रयोगकर्ताले सो डेटा सङ्कलनको उद्देश्य बुझ्यो?
• के प्रयोगकर्ताले आफ्नो सहभागिताबाट हुने सम्भावित जोखिमहरू बुझ्यो?

२.३ बौद्धिक सम्पत्ति

बौद्धिक सम्पत्ति भनेको मानव पहलबाट सिर्जना भएका अमूर्त निर्माणहरू हुन्, जसको आर्थिक मूल्य व्यक्तिहरू वा व्यवसायहरूलाई हुनसक्छ।

यहाँ अनुसन्धान गर्ने प्रश्नहरू छन्:

• के सङ्कलित डेटाले प्रयोगकर्ता वा व्यवसायलाई आर्थिक मूल्य दिएको थियो?
• के प्रयोगकर्तासँग यहाँ बौद्धिक सम्पत्ति छ?
• के संस्थासँग यहाँ बौद्धिक सम्पत्ति छ?
• यस्ता अधिकारहरू भएमा, हामी तिनीहरूलाई कसरी सुरक्षा गर्छौं?

२.४ डेटा गोपनीयता

डेटा गोपनीयता वा सूचना गोपनीयता भनेको व्यक्तिगत रूपमा पहिचानयोग्य जानकारीको सन्दर्भमा प्रयोगकर्ताको गोपनीयता र पहिचानको संरक्षण हो।

यहाँ विचार गर्नुपर्ने प्रश्नहरू छन्:

• के प्रयोगकर्ताहरूको (व्यक्तिगत) डेटा ह्याक र चुहावटबाट सुरक्षित छ?
• के प्रयोगकर्ताहरूको डेटा मात्र अधिकार प्राप्त प्रयोगकर्ता र सन्दर्भहरूलाई पहुँचयोग्य छ?
• के डेटा साझा गर्दा वा प्रचार गर्दा प्रयोगकर्ताको पहिचान खुल्ने छैन?
• के प्रयोगकर्तालाई अनामिकृत डेटासेटबाट पहिचान हटाउन सकिन्छ?

२.५ मेटाइदिनुपर्ने अधिकार

मेटाइदिनुपर्ने अधिकार वा मेटाइदिनु पर्ने अधिकार ले प्रयोगकर्तालाई इन्टरनेट खोज र अन्य स्थानहरूबाट व्यक्तिगत डेटा हटाउन वा मेटाउन अनुरोध गर्ने अधिकार दिन्छ, विशिष्ट परिस्थितिमा - जुनले उनलाई अनलाइन नयाँ सुरुवात गर्न मद्दत गर्छ जहाँ विगतका क्रियाकलापहरूलाई लिएर उनीहरूलाई समस्या नपरोस।

यहाँ अनुसन्धान गर्ने प्रश्नहरू छन्:

• के प्रणालीले डेटा विषयहरूलाई मेटाउने अनुरोध गर्न अनुमति दिन्छ?
• के प्रयोगकर्ताको सहमति फिर्ता गर्दा स्वतः मेटाइने प्रक्रिया सुरु हुन्छ?
• के डेटा सहमति बिना अथवा गैरकानुनी तरिकाले सङ्कलित भयो?
• के हामी डेटा गोपनीयताका लागि सरकारी नियमहरूमा अनुपालन छौँ?

२.६ डेटासेट पक्षपात

डेटासेट वा सङ्कलन पक्षपात भनेको एल्गोरिदम विकासको लागि प्रतिनिधि नभएको डेटाको उपसमूह छान्नु हो, जसले परिणामहरूको अन्यायपूर्ण प्रभाव निम्त्याउन सक्छ। पक्षपातका प्रकारहरूमा छनोट वा नमूना पक्षपात, स्वयंसेवक पक्षपात, र उपकरण पक्षपात समावेश छन्।

यहाँ अनुसन्धान गर्नुपर्ने प्रश्नहरू छन्:

• के हामीले प्रतिनिधि डेटा विषयहरूको सेट भर्नुभयो?
• के हामीले सङ्कलित वा संरक्षण गरिएको डेटासेट विभिन्न पक्षपातहरूको लागि परीक्षण गर्यौं?
• के हामीले पत्ता लागेको पक्षपात कम वा हटाउन सक्छौं?

२.७ डेटा गुणस्तर

डेटा गुणस्तर भनेको हाम्रो एल्गोरिदम विकास गर्न प्रयोग गरिएको संरक्षण गरिएको डेटासेटको वैधता जाँच्ने कुरा हो, र हामीले चाहेको AI उद्देश्य पूरा गर्नका लागि विशेषताहरू र अभिलेखहरू सटीक र लगातार छन् कि छैनन् भनी पुष्टि गर्ने हो।

यहाँ हेरिनुपर्ने प्रश्नहरू छन्:

• के हामीले हाम्रो प्रयोग केसका लागि वैध विशेषताहरू सङ्कलन गर्यौं?
• के डेटा बिभिन्न स्रोतमा लगातार सङ्कलन गरियो?
• के डेटासेट विविध अवस्था वा परिस्थितिहरूका लागि पूरा छ?
• के तथ्यहरूले वास्तविकतालाई सटीक रूपमा प्रतिबिम्बित गर्छन्?

2.8 एल्गोरिथम न्यानोपन

एल्गोरिथम न्यानोपन जाँच गर्दछ कि एल्गोरिथम डिजाइनले विशिष्ट उपसमूह डेटा विषयहरू विरुद्ध प्रणालीगत भेदभाव गरिरहेको छ कि छैन जसले आवंटनमा (जहाँ स्रोतहरू त्यो समूहबाट अस्वीकृत वा रोकिएका छन्) र सेवाको गुणस्तरमा (जहाँ केहि उपसमूहहरूका लागि एआई अन्यभन्दा कम सही हुन्छ) संभावित हानिहरू निम्त्याउँछ।

यहाँ अन्वेषण गर्नका लागि प्रश्नहरू छन्:

• के हामीले विविध उपसमूह र परिस्थितिहरूको लागि मोडेल सटीकता मूल्याङ्कन गर्यौं?
• के हामीले संभावित हानिहरू (जस्तै, पूर्वछवि बनाउने) को लागि प्रणालीलाई समीक्षा गर्यौं?
• के हामीले पहिचान गरिएका हानिहरूलाई कम गर्नका लागि डाटा संशोधन वा मोडेल पुनःप्रशिक्षण गर्न सक्छौं?

AI न्यानोपन चेकलिस्टहरू जस्ता स्रोतहरू अन्वेषण गरेर थप जान्नुस्।

2.9 गलत प्रतिनिधित्व

डाटा गलत प्रतिनिधित्व भनेको के हामीले सत्यतापूर्वक रिपोर्ट गरिएको डाटाबाट प्राप्त अन्तर्दृष्टिहरूलाई इच्छित कथालाई समर्थन गर्ने गरी भ्रामक तरिकाले संप्रेषण गर्दैछौं कि होइन भनेर सोध्नु हो।

यहाँ अन्वेषण गर्ने प्रश्नहरू छन्:

• के हामीले अपूर्ण वा गलत डाटा रिपोर्ट गर्दैछौं?
• के हामीले डाटालाई यस्तो तरिकाले दृश्यावलोकन गरिरहेका छौं जसले भ्रमपूर्ण निष्कर्षलाई प्रेरित गर्छ?
• के हामीले परिणामहरूलाई हेरफेर गर्न चयनात्मक सांख्यिकीय प्रविधिहरू प्रयोग गर्दैछौं?
• के त्यहाँ वैकल्पिक व्याख्याहरू छन् जसले फरक निष्कर्ष दिन सक्छ?

2.10 स्वतन्त्र विकल्पको भ्रम

स्वतन्त्र विकल्पको भ्रम तब हुन्छ जब प्रणालीका "विकल्प संरचनाहरू" निर्णय लिन एल्गोरिथमहरू प्रयोग गरेर मानिसहरूलाई प्राथमिक परिणामतर्फ उन्मुख गर्छन् जबकि उनीहरूलाई विकल्प र नियन्त्रण दिएको देखिन्छ। यी अन्धकारपूर्ण ढाँचाहरू प्रयोगकर्ताहरूलाई सामाजिक र आर्थिक हानि पुर्याउन सक्छन्। किनभने प्रयोगकर्ता निर्णयहरूले व्यवहार प्रोफाइलहरूलाई असर गर्छ, यी क्रियाकलापहरूले भविष्यका विकल्पहरूमा असर पुर्याउन सक्छन् जसले यी हानिहरूलाई बढाउन वा विस्तार गर्न सक्छ।

अन्वेषण गर्नका लागि प्रश्नहरू:

• के प्रयोगकर्ताले त्यो विकल्प गर्ने निर्णयको प्रभाव बुझ्यो?
• के प्रयोगकर्ताले (वैकल्पिक) विकल्पहरू र तिनीहरूको फाइदा/नोक्सानहरूबारे जानकारी पाए?
• के प्रयोगकर्ताले पछि स्वचालित वा प्रभाव परेको विकल्प उल्टाउन सक्छ?

3. केस अध्ययनहरू

यी नैतिक चुनौतीहरूलाई वास्तविक संसारका सन्दर्भहरूमा राख्न, त्यस्ता केस अध्ययनहरू हेर्न मद्दत हुन्छ जसले व्यक्तिगत र समाजमा संभावित हानि र परिणामहरू प्रदर्शन गर्छ जब यस्ता नैतिक उल्लङ्घनहरूलाई बेवास्ता गरिन्छ।

यहाँ केही उदाहरणहरू छन्:

नैतिक चुनौती	केस अध्ययन
जानकारी सहमति	१९७२ - Tuskegee Syphilis Study - अफ्रिकी अमेरिकी पुरुषहरूलाई अध्ययनमा भाग लिएर निशुल्क चिकित्सा सेवा दिने भनी विश्वास दिलाइयो तर अनुसन्धानकर्ताहरूले विषयहरूलाई उनीहरूको रोगको बारेमा वा उपचार उपलब्धताबारे जानकारी नदिइ भण्डाफोर गरियो। धेरै विषयहरू मरे र पार्टनर वा छोराछोरीहरू प्रभावित भए; अध्ययन ४० वर्षसम्म चल्यो।
डाटा गोप्यता	२००७ - Netflix डाटा पुरस्कार ले अनुसन्धानकर्ताहरूलाई ५० हजार ग्राहकका १० मिलियन एनोनिमाइज्ड मुभी र्याङ्किङहरू प्रदान गर्यो कि सुझाव एल्गोरिथ्महरू सुधार गर्न। तर अनुसन्धानकर्ताहरूले बाह्य डाटासेटहरू (जस्तै IMDb कमेन्टहरू) सँग एनोनिमाइज्ड डाटालाई जोड्न सफल भए - जसले केही Netflix ग्राहकहरूको पहिचान हटाउनबाट मुक्त गर्यो।
सङ्कलन पूर्वाग्रह	२०१३ - बोस्टन सिटीले Street Bump नामक एप विकास गर्यो जसले नागरिकहरूलाई खाल्डाहरू रिपोर्ट गर्न दियो, जसले शहरलाई सडकसँग सम्बन्धित समस्या पत्ता लगाउन मद्दत गर्यो। त्यहाँ कम आम्दानी भएका समूहमा कार र फोन पहुँच कम थियो, जसले उनीहरूको सडक समस्याहरू एपमा नजरअन्दाज गरायो। विकासकर्ताहरूले समावेशी पहुँच र डिजिटल विभाजनका मुद्दाहरू समाधान गर्न शैक्षिक समुदायसँग काम गरे।
एल्गोरिथ्मिक न्यानोपन	२०१८ - MIT को Gender Shades Study ले लिङ्ग वर्गीकरणमा प्रयोग भएका AI उत्पादनहरूको सटीकता जाँच गर्‍यो र महिलाहरू र रंगका मानिसहरूको लागि सटीकता कम देखायो। २०१९ को Apple Card ले महिलाहरूलाई पुरुषहरूभन्दा कम क्रेडिट प्रदान गर्ने देखियो। दुवैले एल्गोरिथ्मिक पक्षपातका कारण सामाजिक-आर्थिक हानि देखाए।
डेटा गलत प्रतिनिधित्व	२०२० - Georgia Department of Public Health ले COVID-19 चार्टहरू जारी गर्‍यो जुन नागरिकहरूलाई पुष्टकृत केसहरूको प्रवृत्तिबारे ठगीपूर्ण देखियो किनभने एक्स-अक्षमा गैर-कालानुक्रमिक क्रम प्रयोग गरिएको थियो। यो दृश्यावलोकन ट्रिक्सबाट गलत प्रतिनिधित्व देखाउँछ।
स्वतन्त्र विकल्पको भ्रम	२०२० - शिक्षण एप ABCmouse ले FTC गुनासोलाई $१० मिलियन तिरेर समाधान गर्यो जहाँ अभिभावकहरूलाई सदस्यता भुक्तानीमा जकडियो र रद्द गर्न सक्दैनथे। यो विकल्प संरचनामा अन्धकारपूर्ण ढाँचाहरूलाई देखाउँछ जसले प्रयोगकर्ताहरुलाई सम्भावित हानिकारक विकल्पहरूतर्फ उन्मुख गरायो।
डेटा गोप्यता र प्रयोगकर्ता अधिकारहरू	२०२१ - Facebook को डेटा चुहावट मा ५३० मिलियन प्रयोगकर्ताहरूको डाटा exposed भयो र FTC सँग $५ बिलियनको सम्झौता भयो। तर भने यो चुहावट बारे प्रयोगकर्तालाई सूचित गर्न अस्वीकार गर्‍यो जसले डाटा पारदर्शिता र पहुँच सम्बन्धी प्रयोगकर्ता अधिकारहरूलाई उल्लङ्घन गर्‍यो।

थप केस अध्ययनहरू अन्वेषण गर्न चाहनुहुन्छ? यी स्रोतहरू जाँच गर्नुहोस्:

• Ethics Unwrapped - विभिन्न उद्योगका नैतिक दुविधाहरू।
• डाटा साइन्स एथिक्स कोर्स - मुल्यांकन गरिएका केस अध्ययनहरू।
• त्रुटि भएका ठाउँहरू - deon चेकलिस्ट र उदाहरणहरू

🚨 तपाईंले देखेका केस अध्ययनहरूको बारेमा सोच्नुहोस् - के तपाईंले यस्तो नैतिक चुनौती आफ्नै जीवनमा भोग्नु भएको छ वा सम्वेदनशील भएको छ? के तपाईं कम्तीमा एक अन्य केस अध्ययन सोच्न सक्नुहुन्छ जसले यहाँ छलफल गरिएका नैतिक चुनौती मध्ये एउटा देखाउँछ?

लागु नैतिकता

हामीले नैतिकताको अवधारणा, चुनौतीहरू, र वास्तविक संसार सन्दर्भमा केस अध्ययनहरूबारे कुरा गर्यौं। तर हामीले आफ्ना परियोजनाहरूमा कसरी नैतिक सिद्धान्तहरू र अभ्यासहरू लागु गर्ने सुरुवात गर्ने? र कसरी यी अभ्यासहरूलाई संचालनात्मक गर्ने ताकि राम्रो शासन सुनिश्चित गर्न सकियोस्? केही वास्तविक समाधानहरू अन्वेषण गरौं:

1. व्यावसायिक कोडहरू

व्यावसायिक कोडहरूले संगठनहरूलाई आफ्ना सदस्यहरूलाई उनीहरूको नैतिक सिद्धान्त र मिशन वक्तव्यलाई समर्थन गर्न "प्रोत्साहन" गर्ने एउटा विकल्प प्रदान गर्दछ। कोडहरू पेशागत आचरणका लागि नैतिक मार्गदर्शनहरू हुन्, जसले कर्मचारी वा सदस्यहरूलाई संगठनका सिद्धान्तहरूसँग मेल खाने निर्णयहरू गर्न मद्दत गर्दछ। यी सदस्यहरूको स्वैच्छिक पालनमा आधारित हुन्छन्; तथापि, धेरै संगठनहरूले सदस्यहरूलाई पालन गर्न उत्प्रेरित गर्न थप पुरस्कार र दण्डहरू पनि प्रस्ताव गर्छन्।

उदाहरणहरू:

• Oxford Munich एथिक्स कोड
• Data Science Association कोड अफ कन्डक्ट (२०१३ मा सिर्जना)
• ACM Code of Ethics and Professional Conduct (सन् १९९३ देखि)

🚨 के तपाईं व्यावसायिक इन्जिनियरिङ वा डाटा साइन्स संगठनको सदस्य हुनुहुन्छ? तिनीहरूको साइट अन्वेषण गरेर हेर्नुहोस् कि उनीहरूले कुनै व्यावसायिक एथिक्स कोड परिभाषित गर्छन् कि गर्दैनन्। त्यसले उनीहरूको नैतिक सिद्धान्तहरूबारे के भन्छ? कसरी तिनीहरूले सदस्यहरूलाई कोड पालन गर्न "प्रोत्साहित" गरिरहेका छन्?

2. एथिक्स चेकलिस्टहरू

व्यावसायिक कोडहरूले अभ्यासकर्ताहरूबाट आवश्यक नैतिक व्यवहार परिभाषित गर्छन्, तर ठूलो परियोजनाहरूमा पश्चात्प्रतिकारमा सीमितताहरू ज्ञात छन्। यसको सट्टामा धेरै डाटा साइन्स विशेषज्ञहरूले चेकलिस्टहरूको समर्थन गर्छन्, जसले सिद्धान्तहरूलाई कार्यहरूमा अधिक निश्चित र क्रियान्वयनयोग्य तरिकाले जडान गर्न सक्छन्।

चेकलिस्टहरूले प्रश्नहरूलाई "हो/होइन" कार्यहरूमा परिणत गर्छन् जसलाई सञ्चालनयोग्य बनाइन्छ, र तिनीहरूलाई मानक उत्पादन रिलिज कार्यप्रवाहको हिस्साको रूपमा ट्रयाक गर्न सकिन्छ।

उदाहरणहरू:

• Deon - उद्योग सिफारिसहरूबाट सिर्जना गरिएको सामान्य प्रयोजनको डाटा एथिक्स चेकलिस्ट, जससँग सजिलो एकीकरणकालागि कमाण्ड लाइन उपकरण छ।
• प्राइभेसी अडिट चेकलिस्ट - कानुनी र सामाजिक जोखिम दृष्टिकोणबाट सूचना ह्यान्डलिङ अभ्यासको सामान्य मार्गदर्शन।
• AI Fairness Checklist - एआई विकास प्रक्रियामा समानता जाँचहरूको अपनत्व र संयोजनलाई समर्थन गर्न एआई अभ्यासकर्ताहरूले सिर्जना गरेको।
• डाटा र एआईमा नैतिकताको लागि २२ प्रश्नहरू - थप खुल्ला ढाँचा, डिजाइन, कार्यान्वयन, र संगठनात्मक सन्दर्भहरूमा नैतिक मुद्दाहरूको प्रारम्भिक अन्वेषणका लागि संरचित।

3. एथिक्स नियमावली

एथिक्स भनेको साझा मूल्यहरू परिभाषित गरी सहमत पूर्वक सही कार्य गर्ने कुरा हो। पालना भनेको यदि र जहाँ परिभाषित गरिएको छ त्यहाँ कानुनको पालन गर्नु हो। शासन broadly विभिन्न तरिकाहरू समेट्छ जसमा संगठनहरूले नैतिक सिद्धान्तहरू लागू गर्न र कानूनी पालना गर्न सञ्चालन गर्छन्।

आज, संगठनहरूमा शासनले दुई रूप लिन्छ। पहिलो, यो एआईसँग सम्बन्धित सबै परियोजनाहरूमा अपनत्वलाई संचालन गर्न नैतिक एआई सिद्धान्तहरू परिभाषित गर्न र अभ्यासहरू स्थापना गर्न हो। दोस्रो, यो संचालन गर्दछ जहाँ काम गर्छ त्यहाँका सबै सरकारद्वारा अनिवार्य डाटा संरक्षण नियमहरू पालना गर्न।

डाटा संरक्षण र गोपनीयता नियमावलीका उदाहरणहरू:

• १९७४, US Privacy Act - संघीय सरकारको व्यक्तिगत जानकारी सङ्कलन, प्रयोग, र खुलाशा नियमन गर्छ।
• १९९६, US Health Insurance Portability & Accountability Act (HIPAA) - व्यक्तिगत स्वास्थ्य डाटाको सुरक्षा गर्छ।
• १९९८, US Children’s Online Privacy Protection Act (COPPA) - १३ वर्ष मुनिका बच्चाहरूको डाटा गोपनीयता संरक्षण गर्छ।
• २०१८, General Data Protection Regulation (GDPR) - प्रयोगकर्ता अधिकार, डाटा संरक्षण, र गोपनीयता प्रदान गर्छ।
• २०१८, California Consumer Privacy Act (CCPA) ले उपभोक्ताहरूलाई आफ्ना (व्यक्तिगत) डाटामा बढी अधिकारहरू दिन्छ।
• २०२१, चीनको Personal Information Protection Law भर्खरै पारित भयो, जुन विश्वव्यापी रूपमा सबैभन्दा कडा अनलाइन डाटा गोपनीयता नियमहरू मध्ये एक हो।

🚨 युरोपियन युनियनले निर्दिष्ट गरेको GDPR (सामान्य डाटा संरक्षण नियमावली) आजका सबैभन्दा प्रभावकारी डाटा गोपनीयता नियमहरू मध्ये एक हो। के तपाईंलाई थाहा छ कि यसले ८ प्रयोगकर्ता अधिकारहरू पनि परिभाषित गर्छ जसले नागरिकहरूको डिजिटल गोपनीयता र व्यक्तिगत डाटाको संरक्षण गर्छ? यी के हुन् र किन महत्त्वपूर्ण छन् जान्नुहोस्।

4. एथिक्स संस्कृति

ध्यान दिनुहोस् कि पालना (कानुनको अक्षर अनुरूप पर्याप्त गर्ने) र प्रणालीगत मुद्दाहरू (जस्तै कठोरता, सूचना असमानता, र वितरणात्मक अन्याय) समाधान गर्नेबिच एक अमूर्त खालि ठाउँ अब पनि छ। यी मुद्दाहरूले एआईको हतियारबन्दीलाई तीव्र बनाउन सक्छ।

पछिल्लो कुरा नैतिकता संस्कृतिहरू परिभाषित गर्न सहकारी दृष्टिकोणहरू चाहिन्छ जसले भावना सम्बन्धहरू र उद्योगभर समान साझा मूल्यहरू निर्माण गर्छ। यसले संगठनहरूमा औपचारिक डाटा एथिक्स संस्कृतिहरू आवश्यक पर्छ - जसले कुनै पनि व्यक्ति लाई Andon cord तानेर नैतिक चिन्ताहरू प्रक्रिया प्रारम्भमै उठाउन अनुमति दिन्छ र नैतिक मुल्यांकन (जस्तै, भर्ती गर्दा) AI परियोजनाहरूमा टोली गठनको मुख्य मापदण्ड बनाउँछ।

---

पोस्ट-लेक्चर क्विज 🎯

समीक्षा र स्व-अध्ययन

कोर्स र पुस्तकहरूले मुख्य नैतिकता अवधारणाहरू र चुनौतीहरू बुझ्न मद्दत गर्छन्, जबकि केस अध्ययनहरू र उपकरणहरूले वास्तविक विश्व सन्दर्भमा लागु एथिक्स अभ्यासहरूमा सहायता गर्छन्। सुरु गर्नका लागि केही स्रोतहरू यहाँ छन्।

• शुरुआतीहरूको लागि मशीन लर्निङ - Microsoft बाट न्यानोपन विषयक पाठ।
• जिम्मेवार AI का सिद्धान्तहरू - Microsoft Learn बाट निशुल्क सिकाइ मार्ग।
• नैतिकता र डेटा विज्ञान - O'Reilly ईबुक (एम. लौकिडेस, एच. मेसन आदि)
• डेटा विज्ञान नैतिकता - मिशिगन विश्वविद्यालयबाट अनलाइन कोर्स।
• नैतिकता अनव्रैप्ड - टेक्सास विश्वविद्यालयबाट केस स्टडीहरू।

असाइनमेन्ट

डेटा नैतिकता केस स्टडी लेख्नुहोस्

---

अस्वीकरण: यो दस्तावेज़ AI अनुवाद सेवा Co-op Translator प्रयोग गरेर अनुवाद गरिएको हो। हामी सही हुन प्रयास गर्छौं, तर कृपया जानकार हुनुस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छन्। मूल दस्तावेज़ यसको मूल भाषामा आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीका लागि व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न कुनै पनि गलत बुझाइ वा त्रुटिको लागि हामी जिम्मेवार छैनौं।