You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
254 lines
55 KiB
254 lines
55 KiB
<!--
|
|
CO_OP_TRANSLATOR_METADATA:
|
|
{
|
|
"original_hash": "58860ce9a4b8a564003d2752f7c72851",
|
|
"translation_date": "2025-10-03T16:20:18+00:00",
|
|
"source_file": "1-Introduction/02-ethics/README.md",
|
|
"language_code": "ne"
|
|
}
|
|
-->
|
|
# डाटा नैतिकता परिचय
|
|
|
|
| द्वारा ](../../sketchnotes/02-Ethics.png)|
|
|
|:---:|
|
|
| डाटा विज्ञान नैतिकता - _[@nitya](https://twitter.com/nitya) द्वारा स्केच नोट_ |
|
|
|
|
---
|
|
|
|
हामी सबै डाटाको संसारमा बस्ने डाटा नागरिक हौं।
|
|
|
|
बजार प्रवृत्तिहरूले देखाउँछन् कि २०२२ सम्ममा, ३ मध्ये १ ठूला संस्थाहरूले आफ्नो डाटा अनलाइन [बजार र एक्सचेन्जहरू](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) मार्फत किनबेच गर्नेछन्। **एप डेभलपरहरू**का रूपमा, हामीलाई डाटा-आधारित जानकारी र एल्गोरिदम-आधारित स्वचालनलाई दैनिक प्रयोगकर्ता अनुभवमा समाहित गर्न सजिलो र सस्तो हुनेछ। तर, जब एआई व्यापक रूपमा प्रयोगमा आउँछ, हामीले यस्तो एल्गोरिदमको [हथियारकरण](https://www.youtube.com/watch?v=TQHs8SA1qpk) बाट हुने सम्भावित हानिहरूलाई पनि बुझ्न आवश्यक छ।
|
|
|
|
प्रवृत्तिहरूले संकेत गर्छन् कि २०२५ सम्ममा, हामी [१८० जेटाबाइट्स](https://www.statista.com/statistics/871513/worldwide-data-created/) भन्दा बढी डाटा उत्पादन र उपभोग गर्नेछौं। **डाटा वैज्ञानिकहरू**का लागि, यो जानकारीको विस्फोटले व्यक्तिगत र व्यवहारगत डाटामा अभूतपूर्व पहुँच प्रदान गर्दछ। यसले विस्तृत प्रयोगकर्ता प्रोफाइल निर्माण गर्ने र निर्णय-निर्माणमा सूक्ष्म प्रभाव पार्ने शक्ति ल्याउँछ—प्रायः [स्वतन्त्र छनोटको भ्रम](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/) सिर्जना गर्ने तरिकामा। यसले प्रयोगकर्ताहरूलाई मनपर्ने परिणामतर्फ धकेल्न प्रयोग गर्न सकिन्छ, तर यसले डाटा गोपनीयता, स्वायत्तता, र एल्गोरिदम प्रभावको नैतिक सीमाहरूको बारेमा गम्भीर प्रश्नहरू पनि उठाउँछ।
|
|
|
|
डाटा नैतिकता अब डाटा विज्ञान र इन्जिनियरिङका लागि _आवश्यक सुरक्षा उपायहरू_ हुन्, जसले डाटा-आधारित कार्यहरूबाट हुने सम्भावित हानिहरू र अनपेक्षित परिणामहरूलाई न्यूनतम बनाउन मद्दत गर्दछ। [गार्टनर हाइप साइकल फर एआई](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ले डिजिटल नैतिकता, जिम्मेवार एआई, र एआई शासनका प्रवृत्तिहरूलाई _एआईको लोकतान्त्रीकरण_ र _औद्योगिकीकरण_ वरिपरि ठूला प्रवृत्तिहरूका प्रमुख चालकका रूपमा पहिचान गर्दछ।
|
|
|
|
|
|
|
|
यस पाठमा, हामी डाटा नैतिकताको रोचक क्षेत्र अन्वेषण गर्नेछौं - मूल अवधारणाहरू र चुनौतीहरूदेखि लिएर केस स्टडीहरू र लागू गरिएको एआई अवधारणाहरू जस्तै शासन - जसले डाटा र एआईसँग काम गर्ने टोलीहरू र संस्थाहरूमा नैतिकताको संस्कृति स्थापना गर्न मद्दत गर्दछ।
|
|
|
|
|
|
## [पाठ अघिको क्विज](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
## आधारभूत परिभाषाहरू
|
|
|
|
आउनुहोस्, आधारभूत शब्दावली बुझ्न सुरु गरौं।
|
|
|
|
"नैतिकता" शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) (र यसको मूल "ethos") बाट आएको हो, जसको अर्थ _चरित्र वा नैतिक प्रकृति_ हो।
|
|
|
|
**नैतिकता** भनेको समाजमा हाम्रो व्यवहारलाई शासित गर्ने साझा मूल्यहरू र नैतिक सिद्धान्तहरूको बारेमा हो। नैतिकता कानूनमा आधारित छैन तर "सही बनाम गलत" के हो भन्ने व्यापक रूपमा स्वीकार गरिएका मानदण्डहरूमा आधारित छ। यद्यपि, नैतिक विचारहरूले कर्पोरेट शासन पहलहरू र सरकारका नियमहरूलाई प्रभाव पार्न सक्छन्, जसले अनुपालनका लागि थप प्रोत्साहनहरू सिर्जना गर्दछ।
|
|
|
|
**डाटा नैतिकता** भनेको "_डाटा, एल्गोरिदम र सम्बन्धित अभ्यासहरू_"सँग सम्बन्धित नैतिक समस्याहरूको अध्ययन र मूल्यांकन गर्ने [नैतिकताको नयाँ शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) हो। यहाँ, **"डाटा"**ले उत्पादन, रेकर्डिङ, क्युरेसन, प्रशोधन, प्रसार, साझेदारी, र प्रयोगसँग सम्बन्धित कार्यहरूमा ध्यान केन्द्रित गर्दछ, **"एल्गोरिदम"**ले एआई, एजेन्टहरू, मेशिन लर्निङ, र रोबोटहरूमा ध्यान केन्द्रित गर्दछ, र **"अभ्यासहरू"**ले जिम्मेवार नवप्रवर्तन, प्रोग्रामिङ, ह्याकिङ, र नैतिकता कोडहरू जस्ता विषयहरूमा ध्यान केन्द्रित गर्दछ।
|
|
|
|
**लागू गरिएको नैतिकता** भनेको [नैतिक विचारहरूको व्यावहारिक प्रयोग](https://en.wikipedia.org/wiki/Applied_ethics) हो। यो _वास्तविक-विश्व कार्यहरू, उत्पादनहरू र प्रक्रियाहरू_को सन्दर्भमा नैतिक मुद्दाहरूलाई सक्रिय रूपमा अनुसन्धान गर्ने प्रक्रिया हो, र परिभाषित नैतिक मूल्यहरूसँग मिल्न सुनिश्चित गर्न सुधारात्मक उपायहरू लिने प्रक्रिया हो।
|
|
|
|
**नैतिकता संस्कृति** भनेको [_लागू गरिएको नैतिकतालाई_ सञ्चालनमा ल्याउने](https://hbr.org/2019/05/how-to-design-an-ethical-organization) बारे हो, जसले सुनिश्चित गर्दछ कि हाम्रो नैतिक सिद्धान्तहरू र अभ्यासहरू सम्पूर्ण संगठनमा निरन्तर र मापनयोग्य तरिकामा अपनाइन्छ। सफल नैतिकता संस्कृतिले संगठन-व्यापी नैतिक सिद्धान्तहरू परिभाषित गर्दछ, अनुपालनका लागि अर्थपूर्ण प्रोत्साहनहरू प्रदान गर्दछ, र संगठनको प्रत्येक स्तरमा इच्छित व्यवहारलाई प्रोत्साहित र प्रवर्द्धन गरेर नैतिकता मानदण्डहरूलाई सुदृढ गर्दछ।
|
|
|
|
|
|
## नैतिकता अवधारणाहरू
|
|
|
|
यस खण्डमा, हामी **साझा मूल्यहरू** (सिद्धान्तहरू) र **नैतिक चुनौतीहरू** (समस्याहरू) जस्ता अवधारणाहरूको चर्चा गर्नेछौं - र **केस स्टडीहरू** अन्वेषण गर्नेछौं जसले तपाईंलाई वास्तविक-विश्व सन्दर्भमा यी अवधारणाहरू बुझ्न मद्दत गर्दछ।
|
|
|
|
### १. नैतिकता सिद्धान्तहरू
|
|
|
|
प्रत्येक डाटा नैतिकता रणनीति _नैतिक सिद्धान्तहरू_ परिभाषित गरेर सुरु हुन्छ - "साझा मूल्यहरू" जसले स्वीकार्य व्यवहारहरू वर्णन गर्दछ, र हाम्रो डाटा र एआई परियोजनाहरूमा अनुपालन कार्यहरूलाई मार्गदर्शन गर्दछ। तपाईंले यी व्यक्तिगत वा टोली स्तरमा परिभाषित गर्न सक्नुहुन्छ। यद्यपि, अधिकांश ठूला संस्थाहरूले यीलाई _नैतिक एआई_ मिशन वक्तव्य वा रूपरेखामा परिभाषित गर्छन्, जुन कर्पोरेट स्तरमा परिभाषित गरिन्छ र सबै टोलीहरूमा निरन्तर लागू गरिन्छ।
|
|
|
|
**उदाहरण:** माइक्रोसफ्टको [जिम्मेवार एआई](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन वक्तव्य भन्छ: _"हामी एआईको उन्नतिमा प्रतिबद्ध छौं, जसले मानिसहरूलाई प्राथमिकतामा राख्ने नैतिक सिद्धान्तहरूद्वारा निर्देशित गर्दछ"_ - जसले तलको रूपरेखामा ६ नैतिक सिद्धान्तहरू पहिचान गर्दछ:
|
|
|
|
|
|
|
|
आउनुहोस्, यी सिद्धान्तहरूलाई संक्षेपमा अन्वेषण गरौं। _पारदर्शिता_ र _जवाफदेहिता_ आधारभूत मूल्यहरू हुन्, जसमा अन्य सिद्धान्तहरू निर्माण गरिन्छन् - त्यसैले त्यहाँबाट सुरु गरौं:
|
|
|
|
* [**जवाफदेहिता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)ले अभ्यासकर्ताहरूलाई आफ्नो डाटा र एआई कार्यहरू, र यी नैतिक सिद्धान्तहरूसँग अनुपालनको लागि _जिम्मेवार_ बनाउँछ।
|
|
* [**पारदर्शिता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)ले सुनिश्चित गर्दछ कि डाटा र एआई कार्यहरू प्रयोगकर्ताहरूका लागि _बुझ्न सकिने_ (व्याख्यात्मक) छन्, निर्णयहरूको पछाडि के र किन भन्ने कुरा स्पष्ट पार्दै।
|
|
* [**न्याय**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - सुनिश्चित गर्नमा केन्द्रित छ कि एआईले _सबै मानिसहरूलाई_ न्यायसंगत व्यवहार गर्छ, डाटा र प्रणालीमा कुनै पनि प्रणालीगत वा निहित सामाजिक-प्राविधिक पूर्वाग्रहहरूलाई सम्बोधन गर्दै।
|
|
* [**विश्वसनीयता र सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - सुनिश्चित गर्दछ कि एआईले परिभाषित मूल्यहरूसँग _लगातार_ व्यवहार गर्छ, सम्भावित हानिहरू वा अनपेक्षित परिणामहरूलाई न्यूनतम बनाउँदै।
|
|
* [**गोपनीयता र सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - डाटा वंशावली बुझ्न र प्रयोगकर्ताहरूलाई _डाटा गोपनीयता र सम्बन्धित सुरक्षा_ प्रदान गर्नमा केन्द्रित छ।
|
|
* [**समावेशिता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - उद्देश्यका साथ एआई समाधानहरू डिजाइन गर्ने बारे हो, तिनीहरूलाई _व्यापक मानव आवश्यकताहरू_ र क्षमताहरू पूरा गर्न अनुकूल बनाउँदै।
|
|
|
|
> 🚨 आफ्नो डाटा नैतिकता मिशन वक्तव्य के हुन सक्छ भनेर सोच्नुहोस्। अन्य संस्थाहरूबाट नैतिक एआई रूपरेखाहरू अन्वेषण गर्नुहोस् - यहाँ [आईबीएम](https://www.ibm.com/cloud/learn/ai-ethics), [गुगल](https://ai.google/principles), र [फेसबुक](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)का उदाहरणहरू छन्। तिनीहरूमा साझा मूल्यहरू के छन्? यी सिद्धान्तहरू उनीहरूको एआई उत्पादन वा उद्योगसँग कसरी सम्बन्धित छन्?
|
|
|
|
### २. नैतिकता चुनौतीहरू
|
|
|
|
एकपटक हामीले नैतिक सिद्धान्तहरू परिभाषित गरेपछि, अर्को चरण भनेको हाम्रो डाटा र एआई कार्यहरूलाई मूल्याङ्कन गर्नु हो कि तिनीहरू ती साझा मूल्यहरूसँग मेल खान्छन्। आफ्नो कार्यहरूलाई दुई श्रेणीमा सोच्नुहोस्: _डाटा सङ्कलन_ र _एल्गोरिदम डिजाइन_।
|
|
|
|
डाटा सङ्कलनसँग, कार्यहरू सम्भवतः **व्यक्तिगत डाटा** वा व्यक्तिगत रूपमा पहिचानयोग्य जानकारी (PII) समावेश गर्नेछन्, जसले जीवित व्यक्तिहरूलाई पहिचान गर्न सक्छ। यसमा [गैर-व्यक्तिगत डाटाका विविध वस्तुहरू](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) समावेश छन्, जसले _सामूहिक रूपमा_ व्यक्तिलाई पहिचान गर्दछ। नैतिक चुनौतीहरू _डाटा गोपनीयता_, _डाटा स्वामित्व_, र _जानकारी सहमति_ र प्रयोगकर्ताहरूका लागि _बौद्धिक सम्पत्ति अधिकार_ जस्ता सम्बन्धित विषयहरूसँग सम्बन्धित हुन सक्छ।
|
|
|
|
एल्गोरिदम डिजाइनसँग, कार्यहरू **डाटासेटहरू** सङ्कलन र क्युरेट गर्ने, त्यसपछि तिनीहरूलाई **डाटा मोडेलहरू**लाई प्रशिक्षण र तैनाथ गर्न प्रयोग गर्ने, जसले वास्तविक-विश्व सन्दर्भमा परिणामहरूको भविष्यवाणी वा निर्णयहरू स्वचालित बनाउँछ। नैतिक चुनौतीहरू _डाटासेट पूर्वाग्रह_, _डाटा गुणस्तर_ समस्याहरू, _अन्याय_, र एल्गोरिदममा _गलत प्रतिनिधित्व_बाट उत्पन्न हुन सक्छ - जसमा केही मुद्दाहरू प्रणालीगत प्रकृतिका छन्।
|
|
|
|
दुवै अवस्थामा, नैतिक चुनौतीहरूले हाम्रो कार्यहरू साझा मूल्यहरूसँग द्वन्द्वमा आउन सक्ने क्षेत्रहरूलाई प्रकाश पार्छ। यी चिन्ताहरू पत्ता लगाउन, कम गर्न, न्यूनतम बनाउन, वा हटाउन - हामीले हाम्रो कार्यहरूसँग सम्बन्धित नैतिक "हो/होइन" प्रश्नहरू सोध्न आवश्यक छ, त्यसपछि आवश्यक सुधारात्मक कार्यहरू लिनुपर्छ। आउनुहोस्, केही नैतिक चुनौतीहरू र तिनीहरूले उठाउने नैतिक प्रश्नहरूलाई हेरौं:
|
|
|
|
|
|
#### २.१ डाटा स्वामित्व
|
|
|
|
डाटा सङ्कलनले प्रायः डाटा विषयहरूलाई पहिचान गर्न सक्ने व्यक्तिगत डाटालाई समावेश गर्दछ। [डाटा स्वामित्व](https://permission.io/blog/data-ownership) भनेको डाटा सिर्जना, प्रशोधन, र प्रसारसँग सम्बन्धित _नियन्त्रण_ र [_प्रयोगकर्ता अधिकारहरू_](https://permission.io/blog/data-ownership)को बारेमा हो।
|
|
|
|
हामीले सोध्नुपर्ने नैतिक प्रश्नहरू:
|
|
* डाटाको मालिक को हो? (प्रयोगकर्ता वा संस्था)
|
|
* डाटा विषयहरूलाई के अधिकारहरू छन्? (जस्तै: पहुँच, मेटाउने, पोर्टेबिलिटी)
|
|
* संस्थाहरूलाई के अधिकारहरू छन्? (जस्तै: दुर्भावनापूर्ण प्रयोगकर्ता समीक्षाहरूलाई सुधार गर्ने)
|
|
|
|
#### २.२ जानकारी सहमति
|
|
|
|
[जानकारी सहमति](https://legaldictionary.net/informed-consent/)ले प्रयोगकर्ताहरूले (जस्तै डाटा सङ्कलन) कार्यमा सहमति जनाउने कार्यलाई परिभाषित गर्दछ, _सम्बन्धित तथ्यहरूको पूर्ण समझ_ सहित उद्देश्य, सम्भावित जोखिमहरू, र विकल्पहरू समावेश गर्दछ।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के प्रयोगकर्ताले (डाटा विषय) डाटा सङ्कलन र प्रयोगको लागि अनुमति दिए?
|
|
* के प्रयोगकर्ताले डाटा सङ्कलनको उद्देश्य बुझ्यो?
|
|
* के प्रयोगकर्ताले आफ्नो सहभागिताबाट उत्पन्न सम्भावित जोखिमहरू बुझ्यो?
|
|
|
|
#### २.३ बौद्धिक सम्पत्ति
|
|
|
|
[बौद्धिक सम्पत्ति](https://en.wikipedia.org/wiki/Intellectual_property)ले मानव पहलबाट उत्पन्न हुने अमूर्त सिर्जनाहरूलाई जनाउँछ, जसले व्यक्तिहरू वा व्यवसायहरूलाई _आर्थिक मूल्य_ दिन सक्छ।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के सङ्कलित डाटाले प्रयोगकर्ता वा व्यवसायलाई आर्थिक मूल्य दिएको थियो?
|
|
* के यहाँ **प्रयोगकर्ताको** बौद्धिक सम्पत्ति छ?
|
|
* के यहाँ **संस्थाको** बौद्धिक सम्पत्ति छ?
|
|
* यदि यी अधिकारहरू छन् भने, हामी तिनीहरूलाई कसरी सुरक्षित गर्दैछौं?
|
|
|
|
#### २.४ डाटा गोपनीयता
|
|
|
|
[डाटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) वा जानकारी गोपनीयता व्यक्तिगत रूपमा पहिचानयोग्य जानकारीको सन्दर्भमा प्रयोगकर्ताको गोपनीयता संरक्षण र पहिचानको सुरक्षा हो।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के प्रयोगकर्ताहरूको (व्यक्तिगत) डाटा ह्याक र चुहावटबाट सुरक्षित छ?
|
|
* के प्रयोगकर्ताहरूको डाटा केवल अधिकृत प्रयोगकर्ताहरू र सन्दर्भहरूमा पहुँचयोग्य छ?
|
|
* के प्रयोगकर्ताहरूको गुमनामता डाटा साझा वा प्रसार गर्दा सुरक्षित छ?
|
|
* के प्रयोगकर्तालाई गुमनाम डाटासेटबाट पहिचान गर्न सकिन्छ?
|
|
|
|
#### २.५ बिर्सिने अधिकार
|
|
|
|
[बिर्सिने अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) वा [मेटाउने अधिकार](https://www.gdpreu.org/right-to-be-forgotten/)ले प्रयोगकर्ताहरूलाई थप व्यक्तिगत डाटा सुरक्षा प्रदान गर्दछ। विशेष रूपमा, यसले प्रयोगकर्ताहरूलाई इन्टरनेट खोजहरू र अन्य स्थानहरूबाट व्यक्तिगत डाटाको मेटाउने वा हटाउने अनुरोध गर्ने अधिकार दिन्छ, _विशिष्ट परिस्थितिहरूमा_ - तिनीहरूलाई अनलाइन नयाँ सुरुवातको अनुमति दिँदै, विगतका कार्यहरूलाई उनीहरूको विरुद्धमा राख्न नदिई।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के प्रणालीले डाटा विषयहरूलाई मेटाउने अनुरोध गर्न अनुमति दिन्छ?
|
|
* के प्रयोगकर्ताको सहमति फिर्ता लिनुले स्वचालित मेटाउने कार्यलाई ट्रिगर गर्नुपर्छ?
|
|
* के डाटा सहमति बिना वा गैरकानूनी माध्यमबाट सङ्कलन गरिएको थियो?
|
|
* के हामी डाटा गोपनीयताका लागि सरकारका नियमहरूसँग अनुपालनमा छौं?
|
|
|
|
#### २.६ डाटासेट पूर्वाग्रह
|
|
|
|
डाटासेट वा [सङ्कलन पूर्वाग्रह](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) भनेको एल्गोरिदम विकासको लागि _गैर-प्रतिनिधित्वात्मक_ डाटाको उपसमूह चयन गर्ने बारे हो, जसले विविध समूहहरूको लागि परिणामहरूमा सम्भावित अन्याय सिर्जना गर्दछ। पूर्वाग्रहका प्रकारहरूमा चयन वा नमूना पूर्वाग्रह, स्वयंसेवक पूर्वाग्रह, र उपकरण पूर्वाग्रह समावेश छन्।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के हामीले डाटा विषयहरूको प्रतिनिधित्वात्मक सेट भर्ती गरेका थियौं?
|
|
* के हामीले सङ्क
|
|
* के जानकारी वास्तविकता प्रतिबिम्बित गर्न _ठीकसँग_ कैद गरिएको छ?
|
|
|
|
#### 2.8 एल्गोरिदम निष्पक्षता
|
|
|
|
[एल्गोरिदम निष्पक्षता](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) जाँच गर्दछ कि एल्गोरिदम डिजाइनले डाटा विषयहरूको विशिष्ट उपसमूहहरूलाई प्रणालीगत रूपमा भेदभाव गरेको छ कि छैन, जसले _संसाधन वितरण_ (जहाँ स्रोतहरू उक्त समूहबाट अस्वीकृत वा रोकिएको छ) र _सेवाको गुणस्तर_ (जहाँ एआई केही उपसमूहहरूको लागि अन्यको तुलनामा यति सटीक छैन) मा [संभावित हानि](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) निम्त्याउँछ।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के हामीले विविध उपसमूहहरू र अवस्थाहरूको लागि मोडेल सटीकता मूल्यांकन गरेका छौं?
|
|
* के हामीले प्रणालीलाई सम्भावित हानिहरू (जस्तै, स्टीरियोटाइपिङ) को लागि गहिरो रूपमा जाँच गरेका छौं?
|
|
* के हामीले पहिचान गरिएका हानिहरूलाई कम गर्न डाटा परिमार्जन वा मोडेल पुन: प्रशिक्षण गर्न सक्छौं?
|
|
|
|
थप जान्नका लागि [एआई निष्पक्षता चेकलिस्टहरू](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) जस्ता स्रोतहरू अन्वेषण गर्नुहोस्।
|
|
|
|
#### 2.9 गलत प्रतिनिधित्व
|
|
|
|
[डाटा गलत प्रतिनिधित्व](https://www.sciencedirect.com/topics/computer-science/misrepresentation) भनेको हामीले इमानदारीपूर्वक रिपोर्ट गरिएको डाटाबाट अन्तर्दृष्टिहरूलाई धोखाधडीपूर्ण तरिकाले संचार गर्दैछौं कि छैनौं भन्ने प्रश्न सोध्नु हो, जसले चाहिएको कथालाई समर्थन गर्दछ।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के हामी अपूर्ण वा गलत डाटा रिपोर्ट गर्दैछौं?
|
|
* के हामी डाटालाई यस्तो तरिकाले दृश्यात्मक बनाउँदैछौं जसले भ्रामक निष्कर्षहरू उत्पन्न गर्दछ?
|
|
* के हामी चयनात्मक सांख्यिकीय प्रविधिहरू प्रयोग गरेर परिणामहरूलाई हेरफेर गर्दैछौं?
|
|
* के त्यहाँ वैकल्पिक व्याख्याहरू छन् जसले फरक निष्कर्ष दिन सक्छ?
|
|
|
|
#### 2.10 स्वतन्त्र छनोट
|
|
[स्वतन्त्र छनोटको भ्रम](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तब हुन्छ जब प्रणाली "छनोट वास्तुकला" ले निर्णय गर्ने एल्गोरिदमहरू प्रयोग गरेर मानिसहरूलाई विकल्प र नियन्त्रण दिँदै एक मनपर्ने परिणाम लिन प्रेरित गर्दछ। यी [डार्क पाटर्नहरू](https://www.darkpatterns.org/) ले प्रयोगकर्ताहरूलाई सामाजिक र आर्थिक हानि पुर्याउन सक्छ। किनकि प्रयोगकर्ताको निर्णयले व्यवहार प्रोफाइलहरूलाई असर गर्छ, यी कार्यहरूले सम्भावित रूपमा भविष्यका छनोटहरूलाई ती हानिहरूको प्रभावलाई बढाउन वा विस्तार गर्न सक्छ।
|
|
|
|
यहाँ अन्वेषण गर्नुपर्ने प्रश्नहरू:
|
|
* के प्रयोगकर्ताले उक्त छनोट गर्ने प्रभावहरू बुझ्यो?
|
|
* के प्रयोगकर्ताले (वैकल्पिक) विकल्पहरू र प्रत्येकको फाइदा र बेफाइदाहरू थाहा पाए?
|
|
* के प्रयोगकर्ताले स्वचालित वा प्रभावित छनोटलाई पछि उल्टाउन सक्छ?
|
|
|
|
### 3. केस स्टडीहरू
|
|
|
|
यी नैतिक चुनौतीहरूलाई वास्तविक संसारको सन्दर्भमा राख्न, जब यस्ता नैतिक उल्लङ्घनहरूलाई बेवास्ता गरिन्छ, व्यक्तिहरू र समाजमा सम्भावित हानि र परिणामहरूलाई उजागर गर्ने केस स्टडीहरू हेर्न मद्दत गर्दछ।
|
|
|
|
केही उदाहरणहरू यहाँ छन्:
|
|
|
|
| नैतिक चुनौती | केस स्टडी |
|
|
|--- |--- |
|
|
| **जानकारीपूर्ण सहमति** | 1972 - [टस्केगी सिफिलिस अध्ययन](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - अफ्रिकी अमेरिकी पुरुषहरूलाई अध्ययनमा भाग लिन नि:शुल्क चिकित्सा सेवा दिने वाचा गरिएको थियो _तर धोखा दिइयो_। अनुसन्धानकर्ताहरूले विषयहरूलाई उनीहरूको निदान वा उपचारको उपलब्धता बारे जानकारी दिन असफल भए। धेरै विषयहरू मरे र पार्टनर वा बच्चाहरू प्रभावित भए; अध्ययन 40 वर्षसम्म चल्यो। |
|
|
| **डाटा गोपनीयता** | 2007 - [नेटफ्लिक्स डाटा पुरस्कार](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) ले अनुसन्धानकर्ताहरूलाई _50K ग्राहकहरूको 10M अनामित फिल्म रेटिङहरू_ प्रदान गर्यो। तर, अनुसन्धानकर्ताहरूले अनामित डाटालाई _बाह्य डेटासेटहरू_ (जस्तै, IMDb टिप्पणीहरू) संग सम्बन्धित गर्न सक्षम भए - प्रभावकारी रूपमा केही नेटफ्लिक्स ग्राहकहरूलाई "डि-अनोनिमाइज" गर्दै। |
|
|
| **सङ्कलन पूर्वाग्रह** | 2013 - बोस्टन सहरले [स्ट्रीट बम्प](https://www.boston.gov/transportation/street-bump) विकास गर्यो, एउटा एप जसले नागरिकहरूलाई खाल्डाहरू रिपोर्ट गर्न अनुमति दियो। तर, [कम आय समूहका मानिसहरूलाई कार र फोनको पहुँच कम थियो](https://hbr.org/2013/04/the-hidden-biases-in-big-data), जसले उनीहरूको सडक समस्याहरूलाई यस एपमा अदृश्य बनायो। विकासकर्ताहरूले निष्पक्षताको लागि _समान पहुँच र डिजिटल विभाजन_ मुद्दाहरूमा काम गरे। |
|
|
| **एल्गोरिदम निष्पक्षता** | 2018 - MIT [जेंडर शेड्स अध्ययन](http://gendershades.org/overview.html) ले लिंग वर्गीकरण एआई उत्पादनहरूको सटीकता मूल्यांकन गर्यो, महिलाहरू र रंगका व्यक्तिहरूको लागि सटीकतामा अन्तर उजागर गर्दै। [2019 एप्पल कार्ड](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ले महिलाहरूलाई पुरुषहरूको तुलनामा कम क्रेडिट प्रस्ताव गरेको देखियो। दुवैले एल्गोरिदम पूर्वाग्रहमा सामाजिक-आर्थिक हानिहरूको मुद्दा देखाए। |
|
|
| **डाटा गलत प्रतिनिधित्व** | 2020 - जर्जिया सार्वजनिक स्वास्थ्य विभागले [COVID-19 चार्टहरू](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) जारी गर्यो जसले पुष्टि गरिएका केसहरूको प्रवृत्तिहरूको बारेमा नागरिकहरूलाई भ्रामक बनाउने देखियो। यो दृश्यात्मक चालहरूको माध्यमबाट गलत प्रतिनिधित्वलाई चित्रित गर्दछ। |
|
|
| **स्वतन्त्र छनोटको भ्रम** | 2020 - सिक्ने एप [ABCmouse ले FTC गुनासो समाधान गर्न $10M तिरेको](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जहाँ अभिभावकहरूलाई सदस्यता तिर्न बाध्य पारिएको थियो। यो छनोट वास्तुकलामा डार्क पाटर्नहरूलाई चित्रित गर्दछ। |
|
|
| **डाटा गोपनीयता र प्रयोगकर्ता अधिकारहरू** | 2021 - फेसबुक [डाटा ब्रिच](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ले 530M प्रयोगकर्ताहरूको डाटा उजागर गर्यो। यसले FTC लाई $5B को समाधान गर्यो। तर, प्रयोगकर्ताहरूलाई ब्रिचको बारेमा सूचित गर्न अस्वीकार गर्यो। |
|
|
|
|
थप केस स्टडीहरू अन्वेषण गर्न चाहनुहुन्छ? यी स्रोतहरू जाँच गर्नुहोस्:
|
|
* [एथिक्स अनर्याप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - विभिन्न उद्योगहरूमा नैतिक दुविधाहरू।
|
|
* [डाटा साइन्स एथिक्स कोर्स](https://www.coursera.org/learn/data-science-ethics#syllabus) - प्रमुख केस स्टडीहरू अन्वेषण गरियो।
|
|
* [जहाँ चीजहरू गलत भएको छ](https://deon.drivendata.org/examples/) - डिओन चेकलिस्टसँग उदाहरणहरू।
|
|
|
|
> 🚨 तपाईंले देखेका केस स्टडीहरूको बारेमा सोच्नुहोस् - के तपाईंले आफ्नो जीवनमा यस्तै नैतिक चुनौतीको अनुभव गर्नुभएको छ वा प्रभावित हुनुभएको छ? के तपाईंले यस खण्डमा छलफल गरिएका नैतिक चुनौतीहरूको एउटा अन्य केस स्टडी सोच्न सक्नुहुन्छ?
|
|
|
|
## लागू नैतिकता
|
|
|
|
हामीले नैतिकता अवधारणाहरू, चुनौतीहरू, र वास्तविक संसारको सन्दर्भमा केस स्टडीहरूको बारेमा कुरा गर्यौं। तर, हामी कसरी _लागू_ नैतिक सिद्धान्तहरू र अभ्यासहरू हाम्रो परियोजनाहरूमा सुरु गर्ने? र हामी कसरी _संचालन_ यी अभ्यासहरूलाई राम्रो शासनको लागि गर्ने? केही वास्तविक समाधानहरू अन्वेषण गरौं:
|
|
|
|
### 1. व्यावसायिक कोडहरू
|
|
|
|
व्यावसायिक कोडहरूले संगठनहरूलाई आफ्ना नैतिक सिद्धान्तहरू र मिशन वक्तव्यलाई समर्थन गर्न सदस्यहरूलाई "प्रेरित" गर्न एक विकल्प प्रदान गर्दछ। कोडहरू व्यावसायिक व्यवहारका लागि _नैतिक दिशानिर्देशहरू_ हुन्, जसले कर्मचारीहरू वा सदस्यहरूलाई उनीहरूको संगठनका सिद्धान्तहरूसँग मेल खाने निर्णयहरू गर्न मद्दत गर्दछ।
|
|
|
|
उदाहरणहरू:
|
|
* [अक्सफोर्ड म्युनिख](http://www.code-of-ethics.org/code-of-conduct/) कोड अफ एथिक्स
|
|
* [डाटा साइन्स एसोसिएसन](http://datascienceassn.org/code-of-conduct.html) कोड अफ कन्डक्ट (2013 मा सिर्जना गरिएको)
|
|
* [ACM कोड अफ एथिक्स र व्यावसायिक आचरण](https://www.acm.org/code-of-ethics) (1993 देखि)
|
|
|
|
> 🚨 के तपाईं व्यावसायिक इन्जिनियरिङ वा डाटा साइन्स संगठनको सदस्य हुनुहुन्छ? उनीहरूको साइट अन्वेषण गर्नुहोस् कि उनीहरूले व्यावसायिक नैतिकता कोड परिभाषित गरेका छन् कि छैनन्। यसले उनीहरूको नैतिक सिद्धान्तहरूको बारेमा के भन्छ? उनीहरूले सदस्यहरूलाई कोड पालना गर्न "प्रेरित" कसरी गरिरहेका छन्?
|
|
|
|
### 2. नैतिकता चेकलिस्टहरू
|
|
|
|
जबकि व्यावसायिक कोडहरूले व्यवसायीहरूबाट आवश्यक _नैतिक व्यवहार_ परिभाषित गर्दछ, तिनीहरू [ज्ञात सीमाहरू](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) को साथमा आउँछन्। यसको सट्टा, धेरै डाटा साइन्स विशेषज्ञहरूले [चेकलिस्टहरूको वकालत](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) गर्छन्, जसले **सिद्धान्तहरूलाई अभ्यासहरूसँग जोड्न** अधिक निर्धारणात्मक र कार्यान्वयन योग्य तरिकामा मद्दत गर्दछ।
|
|
|
|
उदाहरणहरू:
|
|
* [डिओन](https://deon.drivendata.org/) - [उद्योग सिफारिसहरू](https://deon.drivendata.org/#checklist-citations) बाट सिर्जना गरिएको सामान्य उद्देश्य डाटा नैतिकता चेकलिस्ट।
|
|
* [गोपनीयता अडिट चेकलिस्ट](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - कानुनी र सामाजिक जोखिम दृष्टिकोणबाट जानकारी ह्यान्डलिङ अभ्यासहरूको लागि सामान्य मार्गदर्शन प्रदान गर्दछ।
|
|
* [एआई निष्पक्षता चेकलिस्ट](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - एआई विकास चक्रहरूमा निष्पक्षता जाँचको अपनत्व र एकीकरणलाई समर्थन गर्न एआई व्यवसायीहरूद्वारा सिर्जना गरिएको।
|
|
* [डाटा र एआईमा नैतिकताका लागि 22 प्रश्नहरू](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - डिजाइन, कार्यान्वयन, र संगठनात्मक सन्दर्भहरूमा नैतिक मुद्दाहरूको प्रारम्भिक अन्वेषणको लागि संरचित।
|
|
|
|
### 3. नैतिकता नियमहरू
|
|
|
|
नैतिकता भनेको साझा मूल्यहरू परिभाषित गर्नु र _स्वेच्छाले_ सही काम गर्नु हो। **अनुपालन** भनेको _कानूनको पालना_ गर्नु हो। **शासन** व्यापक रूपमा सबै तरिकाहरूलाई समेट्छ जसमा संगठनहरूले नैतिक सिद्धान्तहरू लागू गर्न र स्थापित कानूनहरूको पालना गर्न संचालन गर्छन्।
|
|
|
|
उदाहरणहरू:
|
|
* `1974`, [अमेरिकी गोपनीयता ऐन](https://www.justice.gov/opcl/privacy-act-1974) - _संघीय सरकार_ द्वारा व्यक्तिगत जानकारीको सङ्कलन, प्रयोग, र प्रकटीकरणलाई नियमन गर्दछ।
|
|
* `1996`, [अमेरिकी स्वास्थ्य बीमा पोर्टेबिलिटी र उत्तरदायित्व ऐन (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - व्यक्तिगत स्वास्थ्य डाटाको सुरक्षा गर्दछ।
|
|
* `1998`, [अमेरिकी बाल अनलाइन गोपनीयता संरक्षण ऐन (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 वर्षभन्दा कम उमेरका बालबालिकाको डाटा गोपनीयताको सुरक्षा गर्दछ।
|
|
* `2018`, [सामान्य डाटा संरक्षण नियम (GDPR)](https://gdpr-info.eu/) - प्रयोगकर्ता अधिकारहरू, डाटा संरक्षण, र गोपनीयता प्रदान गर्दछ।
|
|
* `2018`, [क्यालिफोर्निया उपभोक्ता गोपनीयता ऐन (CCPA)](https://www.oag.ca.gov/privacy/ccpa) उपभोक्ताहरूलाई उनीहरूको (व्यक्तिगत) डाटामा थप _अधिकारहरू_ दिन्छ।
|
|
* `2021`, चीनको [व्यक्तिगत जानकारी संरक्षण कानून](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) हालै पारित भएको छ।
|
|
|
|
> 🚨 युरोपियन युनियनले परिभाषित गरेको GDPR (सामान्य डाटा संरक्षण नियम) आजको दिनमा सबैभन्दा प्रभावशाली डाटा गोपनीयता नियमहरू मध्ये एक हो। के तपाईंलाई थाहा छ यसले नागरिकहरूको डिजिटल गोपनीयता र व्यक्तिगत डाटालाई सुरक्षित गर्न [8 प्रयोगकर्ता अधिकारहरू](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) पनि परिभाषित गर्दछ?
|
|
|
|
### 4. नैतिकता संस्कृति
|
|
|
|
ध्यान दिनुहोस् कि _अनुपालन_ (कानूनको "अक्षर" पूरा गर्न पर्याप्त काम गर्नु) र [प्रणालीगत मुद्दाहरू](https://www.coursera.org/learn/data-science-ethics/home/week/4) लाई सम्बोधन गर्ने बीचमा अझै एक अमूर्त अन्तर छ।
|
|
|
|
यसले [नैतिकता संस्कृतिहरू परिभाषित गर्न सहयोगात्मक दृष्टिकोणहरू](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) आवश्यक छ। यसले उद्योगमा _संगठनहरू_ बीच भावनात्मक सम्बन्ध र निरन्तर साझा मूल्यहरू निर्माण गर्दछ।
|
|
|
|
---
|
|
## [पोस्ट-व्याख्यान क्विज](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯
|
|
## समीक्षा र आत्म अध्ययन
|
|
|
|
पाठ्यक्रमहरू र पुस्तकहरूले मुख्य नैतिकता अवधारणाहरू र चुनौतीहरू बुझ्न मद्दत गर्छन्। केस स्टडीहरू र उपकरणहरूले वास्तविक संसारको सन्दर्भमा लागू नैतिकता अभ्यासहरूमा मद्दत गर्छन्। यहाँ केही स्रोतहरू छन्।
|
|
* [मेसिन लर्निङको सुरुवात](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - निष्पक्षताको पाठ, माइक्रोसफ्टबाट।
|
|
* [उत्तरदायी एआईका सिद्धान्तहरू](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - माइक्रोसफ्ट लर्नबाट निःशुल्क सिकाइ मार्ग।
|
|
* [नैतिकता र डाटा विज्ञान](https://resources.oreilly.com/examples/0636920203964) - ओ'रेली ईबुक (एम. लुकाइड्स, एच. मेसन आदि।)
|
|
* [डाटा विज्ञानको नैतिकता](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विश्वविद्यालयबाट अनलाइन पाठ्यक्रम।
|
|
* [नैतिकता अनर्याप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विश्वविद्यालयबाट केस अध्ययनहरू।
|
|
|
|
# असाइनमेन्ट
|
|
|
|
[डाटा नैतिकताको केस अध्ययन लेख्नुहोस्](assignment.md)
|
|
|
|
---
|
|
|
|
**अस्वीकरण**:
|
|
यो दस्तावेज़ AI अनुवाद सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) प्रयोग गरेर अनुवाद गरिएको छ। हामी यथार्थताको लागि प्रयास गर्छौं, तर कृपया ध्यान दिनुहोस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छ। मूल दस्तावेज़ यसको मातृभाषामा आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीको लागि, व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न हुने कुनै पनि गलतफहमी वा गलत व्याख्याको लागि हामी जिम्मेवार हुनेछैनौं। |