You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
263 lines
58 KiB
263 lines
58 KiB
# डेटा एथिक्स का परिचय
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|:---:|
|
|
| डेटा साइंस एथिक्स - _स्केचनोट द्वारा [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
---
|
|
|
|
हम सभी डेटा की दुनिया में रहने वाले डेटा नागरिक हैं।
|
|
|
|
मार्केट ट्रेंड बताते हैं कि 2022 तक, 3 में से 1 बड़े संगठन अपनी डेटा को ऑनलाइन [मार्केटप्लेस और एक्सचेंजेज](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) के माध्यम से खरीद और बेचेंगे। एक **ऐप डेवलपर** के रूप में, हमें डेटा-संचालित अंतर्दृष्टि और एल्गोरिदम-चालित स्वचालन को दैनिक उपयोगकर्ता अनुभवों में एकीकृत करना आसान और सस्ता लगेगा। लेकिन जैसे-जैसे एआई व्यापक रूप से फैलेगा, हमें ऐसे एल्गोरिदम के पैमाने पर [हथियारबंद](https://www.youtube.com/watch?v=TQHs8SA1qpk) होने से होने वाले संभावित हानियों को भी समझने की आवश्यकता होगी।
|
|
|
|
ट्रेंड सुझाते हैं कि 2025 तक हम [180 ज़ेटाबाइट्स](https://www.statista.com/statistics/871513/worldwide-data-created/) से अधिक डेटा उत्पन्न और उपभोग करेंगे। हमारे लिए **डेटा साइंटिस्ट्स**, इस सूचना विस्फोट से व्यक्तिगत और व्यवहारिक डेटा तक अभूतपूर्व पहुंच मिलेगी। इसके साथ आता है विस्तृत उपयोगकर्ता प्रोफाइल बनाना और सूक्ष्म रूप से निर्णय-निर्माण को प्रभावित करने की शक्ति—अक्सर ऐसे तरीके से जो एक [मुक्त विकल्प का भ्रम](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/) पैदा करता है। जबकि इसका उपयोग उपयोगकर्ताओं को पसंदीदा परिणामों की ओर प्रेरित करने के लिए किया जा सकता है, यह डेटा गोपनीयता, स्वायत्तता, और एल्गोरिदमिक प्रभाव के नैतिक सीमाओं के बारे में गंभीर प्रश्न भी उठाता है।
|
|
|
|
डेटा एथिक्स अब डेटा साइंस और इंजीनियरिंग के लिए _अनिवार्य गार्डरेल_ हैं, जो हमारी डेटा-आधारित क्रियाओं से संभावित हानियों और आकस्मिक परिणामों को कम करने में मदद करते हैं। [गार्टनर हाइप साइकिल फॉर AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) डिजिटल एथिक्स, जिम्मेदार एआई, और एआई गवर्नेंस से संबंधित ट्रेंड्स को महत्वपूर्ण ड्राइवर के रूप में पहचानता है जो एआई के _लोकतंत्रीकरण_ और _औद्योगिकीकरण_ के बड़े मेगाट्रेंड्स को प्रभावित करते हैं।
|
|
|
|
|
|
|
|
इस पाठ में, हम डेटा एथिक्स के मनोहर क्षेत्र का अन्वेषण करेंगे - मूल अवधारणाओं और चुनौतियों से लेकर केस स्टडीज और लागू AI अवधारणाओं जैसे गवर्नेंस तक - जो टीमों और संगठनों में डेटा और AI के साथ काम करने वाली एक एथिक्स संस्कृति स्थापित करने में मदद करते हैं।
|
|
|
|
|
|
## [पूर्व-व्याख्यान क्विज़](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
## मूल परिभाषाएं
|
|
|
|
आइए मूल शब्दावली को समझ कर शुरू करते हैं।
|
|
|
|
"एथिक्स" शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) से आया है (और इसका मूल "ethos") जिसका अर्थ है _चरित्र या नैतिक स्वभाव_।
|
|
|
|
**एथिक्स** हमारे व्यवहार को समाज में शासित करने वाले साझा मूल्य और नैतिक सिद्धांतों के बारे में है। एथिक्स कानूनों पर आधारित नहीं बल्कि व्यापक रूप से स्वीकार किए गए "सही बनाम गलत" के नियमों पर आधारित है। हालांकि, नैतिक विचारधारा कॉर्पोरेट गवर्नेंस पहलों और सरकारी नियमों को प्रभावित कर सकती है जो अनुपालन के लिए अधिक प्रोत्साहन बनाते हैं।
|
|
|
|
**डेटा एथिक्स** एथिक्स की [नई शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) है जो "_डेटा, एल्गोरिदम और संबंधित प्रथाओं_" से जुड़े नैतिक दुष्करताओं का अध्ययन और मूल्यांकन करती है। यहाँ, **"डेटा"** की फोकस उस क्रिया पर है जो डेटा उत्पन्न करने, रिकॉर्डिंग, संरक्षण, प्रसंस्करण, प्रचार, साझाकरण, और उपयोग से सम्बंधित है। **"एल्गोरिदम"** में AI, एजेंट्स, मशीन लर्निंग और रोबोट्स शामिल हैं। और **"प्रथाएँ"** में जिम्मेदार नवाचार, प्रोग्रामिंग, हैकिंग, और एथिक्स कोड जैसे विषय शामिल हैं।
|
|
|
|
**लागू एथिक्स** नैतिक विचारों का [व्यावहारिक अनुप्रयोग](https://en.wikipedia.org/wiki/Applied_ethics) है। यह वास्तविक दुनिया के कर्मों, उत्पादों और प्रक्रियाओं के संदर्भ में नैतिक मुद्दों की सक्रिय रूप से जांच करने और सुनिश्चित करने की प्रक्रिया है कि वे हमारे परिभाषित नैतिक मानकों के अनुरूप बने रहें।
|
|
|
|
**एथिक्स संस्कृति** बारे में है [_लागू नैतिकता को ऑपरेशनल बनाना_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) ताकि हमारी नैतिक सिद्धांतों और प्रथाओं को पूरे संगठन में सुसंगत और मापनीय तरीके से अपनाया जाए। सफल एथिक्स संस्कृतियाँ संगठनव्यापी नैतिक सिद्धांतों को परिभाषित करती हैं, अनुपालन के लिए सार्थक प्रोत्साहन प्रदान करती हैं, और हर स्तर पर वांछित व्यवहारों को प्रोत्साहित और बढ़ावा देकर एथिक्स मानदंडों को सुदृढ़ करती हैं।
|
|
|
|
|
|
## एथिक्स अवधारणाएं
|
|
|
|
इस खंड में, हम **साझा मूल्य** (सिद्धांत) और **नैतिक चुनौतियाँ** (समस्याएँ) जैसी अवधारणाओं पर चर्चा करेंगे - और **केस स्टडीज** का पता लगाएंगे जो आपको इन अवधारणाओं को वास्तविक दुनिया की परिस्थितियों में समझने में मदद करेंगी।
|
|
|
|
### 1. एथिक्स सिद्धांत
|
|
|
|
हर डेटा एथिक्स रणनीति की शुरुआत _नैतिक सिद्धांतों_ को परिभाषित करने से होती है - "साझा मूल्य" जो स्वीकार्य व्यवहारों का वर्णन करते हैं, और हमारे डेटा और AI परियोजनाओं में अनुपालन योग्य क्रियाओं का मार्गदर्शन करते हैं। आप इन्हें व्यक्तिगत या टीम स्तर पर परिभाषित कर सकते हैं। हालांकि, अधिकांश बड़े संगठन इन्हें कॉर्पोरेट स्तर पर परिभाषित किए गए _नैतिक AI_ मिशन स्टेटमेंट या फ्रेमवर्क में शामिल करते हैं, जिसे सभी टीमों में सुसंगत रूप से लागू किया जाता है।
|
|
|
|
**उदाहरण:** Microsoft का [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन स्टेटमेंट कहता है: _"हम ऐसी नैतिक सिद्धांतों से प्रेरित AI की उन्नति के लिए प्रतिबद्ध हैं जो पहले लोगों को रखता है"_ - और इसमें नीचे दिए गए फ्रेमवर्क में 6 नैतिक सिद्धांत पहचानता है:
|
|
|
|
|
|
|
|
आइए संक्षेप में इन सिद्धांतों को देखें। _पारदर्शिता_ और _जवाबदेही_ मूलभूत मूल्य हैं जिन पर अन्य सिद्धांत आधारित हैं - तो हमें वहीं से प्रारंभ करना चाहिए:
|
|
|
|
* [**जवाबदेही**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) कर्मियों को उनके डेटा और AI संचालन के लिए _जिम्मेदार_ बनाता है, और इन नैतिक सिद्धांतों के अनुपालन के लिए।
|
|
* [**पारदर्शिता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) सुनिश्चित करती है कि डेटा और AI क्रियाएँ उपयोगकर्ताओं के लिए _समझने योग्य_ (विवेचित) हों, जिसमें निर्णयों के क्या और क्यों को समझाया जाता है।
|
|
* [**न्यायप्रियता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) यह सुनिश्चित करने पर ध्यान देता है कि AI _सभी लोगों_ के साथ निष्पक्ष व्यवहार करे, और डेटा तथा प्रणालियों में कोई भी प्रणालीगत या गुप्त सामाजिक-तकनीकी पक्षपात न हो।
|
|
* [**विश्वसनीयता और सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) यह सुनिश्चित करता है कि AI परिभाषित मूल्यों के साथ _लगातार_ व्यवहार करे, संभावित हानियों या आकस्मिक परिणामों को न्यूनतम करता है।
|
|
* [**गोपनीयता और सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा की मूलता को समझने और उपयोगकर्ताओं को _डेटा गोपनीयता और संबंधित सुरक्षा_ प्रदान करने के बारे में है।
|
|
* [**समावेशन**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) AI समाधानों को इरादतन डिजाइन करने के बारे में है, उन्हें मानव की _विविध आवश्यकताओं_ और क्षमताओं को पूरा करने के लिए अनुकूलित करना।
|
|
|
|
> 🚨 सोचिए कि आपका डेटा एथिक्स मिशन स्टेटमेंट क्या हो सकता है। अन्य संगठनों के नैतिक AI फ्रेमवर्क का अन्वेषण करें - यहाँ [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), और [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) के उदाहरण हैं। उनके साझा मूल्य क्या सामान्य हैं? ये सिद्धांत उनके AI उत्पाद या उद्योग से कैसे संबंधित हैं जिसमें वे काम करते हैं?
|
|
|
|
### 2. एथिक्स चुनौतियाँ
|
|
|
|
एक बार जब हमारे पास नैतिक सिद्धांत निर्धारित हो जाते हैं, अगला कदम हमारी डेटा और AI क्रियाओं का मूल्यांकन करना है कि क्या वे उन साझा मूल्यों के अनुरूप हैं। अपनी क्रियाओं को दो श्रेणियों में सोचें: _डेटा संग्रह_ और _एल्गोरिदम डिजाइन_।
|
|
|
|
डेटा संग्रह के साथ, क्रियाओं में संभवत: व्यक्तिगत डेटा या पहचाने जा सकने वाले जीवित व्यक्तियों की व्यक्तिगत पहचान योग्य जानकारी (PII) शामिल होगी। इसमें [बहुविध गैर-व्यक्तिगत डेटा आइटम](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) शामिल हैं जो _संयुक्त रूप से_ किसी व्यक्ति की पहचान करते हैं। नैतिक चुनौतियाँ _डेटा गोपनीयता_, _डेटा स्वामित्व_, और उपयोगकर्ताओं के लिए _सूचित सहमति_ तथा _बौद्धिक संपदा अधिकारों_ जैसे संबंधित विषयों से जुड़ी हो सकती हैं।
|
|
|
|
एल्गोरिदम डिजाइन में, क्रियाओं में **डेटासेट** का संग्रह और संरक्षण शामिल होगा, फिर उनका उपयोग करके **डेटा मॉडल** को प्रशिक्षित और तैनात करना होगा जो वास्तविक दुनिया की परिस्थितियों में परिणामों की भविष्यवाणी करते हैं या निर्णयों को स्वचालित करते हैं। नैतिक चुनौतियाँ _डेटासेट पक्षपात_, _डेटा गुणवत्ता_ समस्याओं, _अन्याय_ और _गलत प्रतिनिधित्व_ जैसी समस्याओं से उत्पन्न हो सकती हैं - जिनमें से कुछ समस्या प्रणालीगत होती हैं।
|
|
|
|
दोनों ही मामलों में, नैतिक चुनौतियाँ ऐसे क्षेत्रों को उजागर करती हैं जहाँ हमारी क्रियाएँ हमारे साझा मूल्यों के साथ संघर्ष कर सकती हैं। इन चिंताओं का पता लगाने, कम करने, न्यूनतम करने या समाप्त करने के लिए - हमें अपने कार्यों से संबंधित "हाँ/ना" वाले नैतिक प्रश्न पूछने होंगे, फिर आवश्यकतानुसार सुधारात्मक कदम उठाने होंगे। आइए कुछ नैतिक चुनौतियों और उनसे उठने वाले नैतिक प्रश्नों पर एक नजर डालें:
|
|
|
|
|
|
#### 2.1 डेटा स्वामित्व
|
|
|
|
डेटा संग्रह में अक्सर व्यक्तिगत डेटा शामिल होता है जो डेटा विषयों की पहचान कर सकता है। [डेटा स्वामित्व](https://permission.io/blog/data-ownership) वह _नियंत्रण_ और [_उपयोगकर्ता अधिकार_](https://permission.io/blog/data-ownership) से संबंधित है जो डेटा के निर्माण, प्रसंस्करण, और प्रचार से जुड़े होते हैं।
|
|
|
|
हमें पूछने वाले नैतिक प्रश्न हैं:
|
|
* डेटा किसका है? (उपयोगकर्ता या संगठन)
|
|
* डेटा विषयों के क्या अधिकार हैं? (जैसे: पहुँच, मिटाना, पोर्टेबिलिटी)
|
|
* संगठनों के क्या अधिकार हैं? (जैसे: दुर्भावनापूर्ण उपयोगकर्ता समीक्षाओं को सुधारना)
|
|
|
|
#### 2.2 सूचित सहमति
|
|
|
|
[सूचित सहमति](https://legaldictionary.net/informed-consent/) उस क्रिया को परिभाषित करती है जिसमें उपयोगकर्ता (जैसे डेटा संग्रह के लिए) संबंधित तथ्यों का _पूर्ण समझ_ रखते हुए सहमत होते हैं जिसमें उद्देश्य, संभावित जोखिम, और विकल्प शामिल हैं।
|
|
|
|
यहाँ कुछ प्रश्न हैं:
|
|
* क्या उपयोगकर्ता (डेटा विषय) ने डेटा संग्रह और उपयोग के लिए अनुमति दी?
|
|
* क्या उपयोगकर्ता ने समझा कि उस डेटा को किस उद्देश्य से एकत्रित किया गया?
|
|
* क्या उपयोगकर्ता ने अपनी भागीदारी से संभावित जोखिमों को समझा?
|
|
|
|
#### 2.3 बौद्धिक संपदा
|
|
|
|
[बौद्धिक संपदा](https://en.wikipedia.org/wiki/Intellectual_property) मानव पहल से उत्पन्न अमूर्त रचनाएँ हैं, जिनका व्यक्तियों या व्यवसायों के लिए _आर्थिक मूल्य_ हो सकता है।
|
|
|
|
यहाँ पूछने वाले प्रश्न हैं:
|
|
* क्या एकत्रित डेटा का उपयोगकर्ता या व्यवसाय के लिए आर्थिक मूल्य था?
|
|
* क्या **उपयोगकर्ता** के पास यहाँ बौद्धिक संपदा अधिकार हैं?
|
|
* क्या **संगठन** के पास यहाँ बौद्धिक संपदा अधिकार हैं?
|
|
* यदि ये अधिकार मौजूद हैं, तो हम उन्हें कैसे सुरक्षा देते हैं?
|
|
|
|
#### 2.4 डेटा गोपनीयता
|
|
|
|
[डेटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) या सूचना गोपनीयता, उपयोगकर्ता की गोपनीयता और व्यक्तिगत पहचान योग्य जानकारी के संदर्भ में उपयोगकर्ता की पहचान की सुरक्षा से संबंधित है।
|
|
|
|
यहाँ के प्रश्न हैं:
|
|
* क्या उपयोगकर्ताओं के (व्यक्तिगत) डेटा को हैक और लीक से सुरक्षित रखा गया है?
|
|
* क्या उपयोगकर्ताओं का डेटा केवल अधिकृत उपयोगकर्ताओं और संदर्भों के लिए उपलब्ध है?
|
|
* जब डेटा साझा या प्रचारित किया जाता है, क्या उपयोगकर्ता की अनामिकता को संरक्षित किया जाता है?
|
|
* क्या किसी उपयोगकर्ता को अनामिक डेटा सेट से पहचान से मुक्त किया जा सकता है?
|
|
|
|
#### 2.5 भूले जाने का अधिकार
|
|
|
|
[भूले जाने का अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) या [मिटाने का अधिकार](https://www.gdpreu.org/right-to-be-forgotten/) उपयोगकर्ताओं को अतिरिक्त व्यक्तिगत डेटा सुरक्षा प्रदान करता है। विशेष रूप से, यह उपयोगकर्ताओं को इंटरनेट खोजों और अन्य स्थानों से व्यक्तिगत डेटा को _किसी विशेष परिस्थिति में_ हटाने का अनुरोध करने का अधिकार देता है - जिससे उन्हें ऑनलाइन एक नई शुरुआत मिलती है बिना पुरानी क्रियाओं को उनके खिलाफ रखा जाए।
|
|
|
|
यहाँ कुछ प्रश्न हैं:
|
|
* क्या सिस्टम डेटा विषयों को मिटाने का अनुरोध करने की अनुमति देता है?
|
|
* क्या उपयोगकर्ता की सहमति वापस लेने पर स्वचालित मिटाना ट्रिगर होना चाहिए?
|
|
* क्या डेटा बिना सहमति या अवैध तरीकों से एकत्र किया गया था?
|
|
* क्या हम डेटा गोपनीयता के लिए सरकारी नियमों का पालन कर रहे हैं?
|
|
|
|
#### 2.6 डेटासेट पक्षपात
|
|
|
|
डेटासेट या [संग्रह पक्षपात](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) उस डेटा के _प्रतिनिधि न होने_ वाले उपसमूह के चयन के बारे में है जो एल्गोरिदम विकास के लिए उपयोग किया जाता है, जिससे विभिन्न समूहों के लिए परिणामों में संभावित अन्याय उत्पन्न होता है। पक्षपात के प्रकारों में चयन या सैंपलिंग पक्षपात, स्वयंसेवक पक्षपात, और उपकरण पक्षपात शामिल हैं।
|
|
|
|
यहाँ प्रश्न हैं:
|
|
* क्या हमने डेटा विषयों का प्रतिनिधि सेट चुना?
|
|
* क्या हमने विभिन्न पक्षपातों के लिए अपने संग्रहित या संरक्षित डेटासेट का परीक्षण किया?
|
|
* क्या हम किसी भी पाए गए पक्षपात को कम या दूर कर सकते हैं?
|
|
|
|
#### 2.7 डेटा गुणवत्ता
|
|
|
|
[डेटा गुणवत्ता](https://lakefs.io/data-quality-testing/) हमारे एल्गोरिदम के विकास के लिए संरक्षित डेटासेट की मान्यता को देखती है, यह जांचती है कि फीचर्स और रिकॉर्ड हमारी AI जरूरतों के लिए आवश्यक सटीकता और सुसंगतता की आवश्यकताओं को पूरा करते हैं या नहीं।
|
|
|
|
यहाँ कुछ प्रश्न हैं:
|
|
* क्या हमने अपने उपयोग केस के लिए मान्य _फीचर्स_ कैप्चर किए?
|
|
* क्या डेटा विविध स्रोतों में _सुसंगत_ रूप से कैप्चर किया गया?
|
|
* क्या डेटासेट विभिन्न स्थितियों या परिदृश्यों के लिए _पूर्ण_ है?
|
|
* क्या जानकारी सच्चाई को _सटीक_ रूप से प्रतिबिंबित करती है?
|
|
#### 2.8 एल्गोरिथ्म निष्पक्षता
|
|
|
|
[एल्गोरिथ्म निष्पक्षता](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) यह जांचती है कि क्या एल्गोरिथ्म डिज़ाइन विशेष डेटा समूहों के खिलाफ व्यवस्थित भेदभाव करता है, जिससे _आवंटन_ में [संभावित नुकसान](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) होते हैं (जहां संसाधन उस समूह से मना या रोके जाते हैं) और _सेवा की गुणवत्ता_ में (जहां कुछ उपसमूहों के लिए AI उतना सटीक नहीं होता जितना दूसरों के लिए होता है)।
|
|
|
|
यहां तलाशने के लिए प्रश्न हैं:
|
|
* क्या हमने विविध उपसमूहों और स्थितियों के लिए मॉडल सटीकता का मूल्यांकन किया?
|
|
* क्या हमने संभावित नुकसान (जैसे, स्टेरियोटाइपिंग) के लिए सिस्टम की जांच की?
|
|
* क्या हम पहचाने गए नुकसान को कम करने के लिए डेटा संशोधित या मॉडल पुनः प्रशिक्षण कर सकते हैं?
|
|
|
|
अधिक जानकारी के लिए [AI निष्पक्षता चेकलिस्ट](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) जैसे संसाधनों का अन्वेषण करें।
|
|
|
|
#### 2.9 गलत प्रस्तुति
|
|
|
|
[डेटा गलत प्रस्तुति](https://www.sciencedirect.com/topics/computer-science/misrepresentation) इस बारे में है कि क्या हम ईमानदारी से रिपोर्ट किए गए डेटा से अंतर्दृष्टि को एक धोखाधड़ीपूर्ण तरीके से संप्रेषित कर रहे हैं ताकि वांछित कथा का समर्थन किया जा सके।
|
|
|
|
यहां तलाशने के लिए प्रश्न हैं:
|
|
* क्या हम अपूर्ण या गलत डेटा रिपोर्ट कर रहे हैं?
|
|
* क्या हम डेटा को इस तरह प्रदर्शित कर रहे हैं जिससे भ्रामक निष्कर्ष निकलते हों?
|
|
* क्या हम परिणामों को नियंत्रित करने के लिए चयनात्मक सांख्यिकीय तकनीकों का उपयोग कर रहे हैं?
|
|
* क्या वैकल्पिक व्याख्याएं हैं जो अलग निष्कर्ष प्रदान कर सकती हैं?
|
|
|
|
#### 2.10 स्वतंत्र विकल्प
|
|
[स्वतंत्र विकल्प का भ्रम](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तब होता है जब सिस्टम के "विकल्प वास्तुकला" निर्णय लेने वाले एल्गोरिदम का उपयोग करके लोगों को पसंदीदा परिणाम की ओर उकसाते हैं, जबकि ऐसा दिखाते हैं कि उनके पास विकल्प और नियंत्रण है। ये [डार्क पैटर्न](https://www.darkpatterns.org/) उपयोगकर्ताओं को सामाजिक और आर्थिक नुकसान पहुंचा सकते हैं। क्योंकि उपयोगकर्ता के निर्णय व्यवहार प्रोफाइल को प्रभावित करते हैं, ये क्रियाएं संभावित रूप से भविष्य के विकल्पों को प्रेरित कर सकती हैं जो इन नुकसानों के प्रभाव को बढ़ा या विस्तारित कर सकती हैं।
|
|
|
|
यहां तलाशने के लिए प्रश्न हैं:
|
|
* क्या उपयोगकर्ता को उस विकल्प के प्रभावों की समझ थी?
|
|
* क्या उपयोगकर्ता (वैकल्पिक) विकल्पों और उनके लाभ एवं हानि के बारे में जागरूक था?
|
|
* क्या उपयोगकर्ता बाद में स्वचालित या प्रभावित विकल्प को वापस ले सकता है?
|
|
|
|
### 3. केस स्टडीज
|
|
|
|
इन नैतिक चुनौतियों को वास्तविक दुनिया के संदर्भों में समझने के लिए, कुछ केस स्टडीज देखना मददगार होता है जो दिखाती हैं कि व्यक्तियों और समाज को संभावित नुकसान और परिणाम क्या हो सकते हैं जब ऐसी नैतिक उल्लंघन नजरअंदाज किए जाते हैं।
|
|
|
|
यहां कुछ उदाहरण हैं:
|
|
|
|
| नैतिक चुनौती | केस स्टडी |
|
|
|--- |--- |
|
|
| **जानकारी से सहमति** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - अफ्रीकी अमेरिकी पुरुषों को अध्ययन में भाग लेने पर मुफ्त चिकित्सा देखभाल का वादा किया गया था _लेकिन शोधकर्ताओं ने विषयों को उनके निदान या इलाज की उपलब्धता के बारे में सूचित नहीं किया_, जिससे कई विषय मरे & उनके साथी या बच्चे प्रभावित हुए; अध्ययन 40 वर्षों तक चला। |
|
|
| **डेटा गोपनीयता** | 2007 - [Netflix डेटा पुरस्कार](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) ने शोधकर्ताओं को _50K ग्राहकों से 10M गुमनाम फ़िल्म रैंकिंग_ प्रदान की ताकि अनुशंसा एल्गोरिदम सुधारे जा सकें। हालांकि, शोधकर्ताओं ने गुमनाम डेटा को बाहरी डेटासेट (जैसे IMDb टिप्पणियाँ) में व्यक्तिगत डेटा के साथ संबद्ध करके कुछ Netflix उपयोगकर्ताओं की पहचान "डि-एनोनिमाइज" कर दी।|
|
|
| **संग्रह पूर्वाग्रह** | 2013 - बोस्टन शहर ने [Street Bump](https://www.boston.gov/transportation/street-bump) विकसित किया, एक ऐप जिससे नागरिक गड्ढों की रिपोर्ट कर सकते थे और शहर को बेहतर सड़क डेटा मिल सके। हालांकि, [कम आय वर्ग के लोगों के पास कार और फोन की कम पहुंच थी](https://hbr.org/2013/04/the-hidden-biases-in-big-data), जिससे उनके सड़क मुद्दे इस ऐप में अदृश्य रहे। विकासकर्ताओं ने निष्पक्षता के लिए _समान पहुंच और डिजिटल विभाजनों_ के मुद्दों पर अकादमिकों के साथ काम किया। |
|
|
| **एल्गोरिथ्मिक निष्पक्षता** | 2018 - MIT का [Gender Shades अध्ययन](http://gendershades.org/overview.html) लिंग वर्गीकरण AI उत्पादों की सटीकता का मूल्यांकन करता है, जिसने महिलाओं और रंग के व्यक्तियों के लिए सटीकता के अंतर को उजागर किया। एक [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) महिलाओं को पुरुषों की तुलना में कम क्रेडिट प्रदान करता दिखा। दोनों ने एल्गोरिथ्मिक पूर्वाग्रह के कारण सामाजिक-आर्थिक नुकसान को दर्शाया।|
|
|
| **डेटा गलत प्रस्तुति** | 2020 - [जॉर्जिया सार्वजनिक स्वास्थ्य विभाग ने COVID-19 चार्ट जारी किए](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) जो नागरिकों को पुष्ट मामलों के रुझानों के बारे में गुमराह करने वाले लगे, क्योंकि x-अक्ष पर गैर-अनुगामी क्रम था। यह दृश्य प्रभावों के माध्यम से गलत प्रस्तुति को दर्शाता है। |
|
|
| **स्वतंत्र विकल्प का भ्रम** | 2020 - लर्निंग ऐप [ABCmouse ने FTC शिकायत का निपटान करने के लिए $10M का भुगतान किया](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जहां माता-पिता उन सदस्यताओं के लिए फंस गए जिन्हें वे रद्द नहीं कर सकते थे। यह विकल्प वास्तुकला में डार्क पैटर्न को दर्शाता है, जहां उपयोगकर्ताओं को संभावित रूप से हानिकारक विकल्पों की ओर उकसाया गया। |
|
|
| **डेटा गोपनीयता और उपयोगकर्ता अधिकार** | 2021 - फेसबुक [डेटा उल्लंघन](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) में 530M उपयोगकर्ताओं का डेटा लीक हुआ, जिसके परिणामस्वरूप FTC को $5B सेटलमेंट भुगतान किया गया। हालांकि, इसने उल्लंघन की सूचना उपयोगकर्ताओं को नहीं दी, जिससे डेटा पारदर्शिता और पहुंच के उपयोगकर्ता अधिकारों का उल्लंघन हुआ। |
|
|
|
|
अधिक केस स्टडीज में रुचि है? ये संसाधन देखें:
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - विभिन्न उद्योगों में नैतिक दुविधाएं।
|
|
* [Data Science Ethics पाठ्यक्रम](https://www.coursera.org/learn/data-science-ethics#syllabus) - महत्वपूर्ण केस स्टडीज की खोज।
|
|
* [जहां गलतियां हुईं](https://deon.drivendata.org/examples/) - deon चेकलिस्ट के साथ उदाहरण।
|
|
|
|
> 🚨 आपने जो केस स्टडीज देखी हैं, उनके बारे में सोचें - क्या आपने अपने जीवन में इसी प्रकार की कोई नैतिक चुनौती का अनुभव किया है या प्रभावित हुए हैं? क्या आप कम से कम एक और केस स्टडी का उदाहरण दे सकते हैं जो हमने इस अनुभाग में चर्चा की गई किसी नैतिक चुनौती को दर्शाता हो?
|
|
|
|
## लागू नैतिकता
|
|
|
|
हमने नैतिकता के सिद्धांतों, चुनौतियों, और वास्तविक दुनिया के संदर्भ में केस स्टडीज के बारे में बात की है। लेकिन हम अपने प्रोजेक्ट्स में नैतिक सिद्धांतों और प्रथाओं को _कैसे लागू_ करें? और बेहतर शासन के लिए इन प्रथाओं को _कैसे कार्यान्वित_ करें? आइए कुछ वास्तविक दुनिया के समाधान देखें:
|
|
|
|
### 1. पेशेवर संहिता
|
|
|
|
पेशेवर संहिता संगठन के सदस्यों को उनके नैतिक सिद्धांतों और मिशन स्टेटमेंट का समर्थन करने के लिए "प्रोत्साहित" करने का एक विकल्प प्रदान करती हैं। कोड पेशेवर व्यवहार के लिए _नैतिक दिशानिर्देश_ होते हैं, जो कर्मचारियों या सदस्यों को अपने संगठन के सिद्धांतों के अनुरूप निर्णय लेने में मदद करते हैं। ये सदस्यों के स्वैच्छिक अनुपालन पर निर्भर होते हैं; हालाँकि, कई संगठन सदस्यों को अनुपालन के लिए अतिरिक्त पुरस्कार और दंड प्रदान करते हैं।
|
|
|
|
उदाहरणों में शामिल हैं:
|
|
|
|
* [ऑक्सफोर्ड म्यूनिख](http://www.code-of-ethics.org/code-of-conduct/) कोड ऑफ एथिक्स
|
|
* [डेटा साइंस एसोसिएशन](http://datascienceassn.org/code-of-conduct.html) कोड ऑफ कंडक्ट (2013 में बनाया गया)
|
|
* [ACM कोड ऑफ एथिक्स और प्रोफेशनल कंडक्ट](https://www.acm.org/code-of-ethics) (1993 से)
|
|
|
|
> 🚨 क्या आप किसी पेशेवर इंजीनियरिंग या डेटा साइंस संगठन से जुड़े हैं? उनके साइट पर जाकर देखें कि क्या वे पेशेवर नैतिक कोड परिभाषित करते हैं। यह उनके नैतिक सिद्धांतों के बारे में क्या बताता है? वे सदस्यों को कोड का पालन करने के लिए कैसे "प्रोत्साहित" कर रहे हैं?
|
|
|
|
### 2. नैतिक चेकलिस्ट
|
|
|
|
जबकि पेशेवर कोड प्रैक्टिशनर्स से आवश्यक _नैतिक व्यवहार_ को परिभाषित करते हैं, उनकी प्रवर्तन में [ज्ञात सीमाएं](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) होती हैं, विशेष रूप से बड़े पैमाने के प्रोजेक्ट्स में। इसके बजाय, कई डेटा साइंस विशेषज्ञ चेकलिस्ट का समर्थन करते हैं, जो सिद्धांतों को व्यवहारों से **जोड़ने** के लिए अधिक निर्णायक और कार्यान्वयन योग्य तरीके प्रदान करती हैं।
|
|
|
|
चेकलिस्ट प्रश्नों को "हाँ/नहीं" कार्यों में बदलती हैं जिन्हें क्रियान्वित किया जा सकता है, जिससे इन्हें मानक उत्पाद रिलीज वर्कफ़्लो का हिस्सा बनाकर ट्रैक किया जा सकता है।
|
|
|
|
उदाहरण हैं:
|
|
* [Deon](https://deon.drivendata.org/) - एक सामान्य प्रयोजन डेटा एथिक्स चेकलिस्ट जिसे [उद्योग सिफारिशों](https://deon.drivendata.org/#checklist-citations) से बनाया गया है और जिसके पास एक कमांड-लाइन टूल है।
|
|
* [गोपनीयता ऑडिट चेकलिस्ट](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - कानूनी और सामाजिक जोखिम के दृष्टिकोण से सूचना प्रबंधन प्रथाओं के लिए सामान्य मार्गदर्शन।
|
|
* [AI निष्पक्षता चेकलिस्ट](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI विकास चक्रों में निष्पक्षता जांच को अपनाने और एकीकृत करने के लिए AI प्रैक्टिशनर्स द्वारा निर्मित।
|
|
* [डेटा और AI में नैतिकता के लिए 22 प्रश्न](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - अधिक खुला ढांचा, डिजाइन, कार्यान्वयन, और संगठनात्मक संदर्भों में नैतिक मुद्दों के आरंभिक अन्वेषण हेतु संरचित।
|
|
|
|
### 3. नैतिक नियम
|
|
|
|
नैतिकता साझा मूल्यों की परिभाषा और सही काम स्वेच्छा से करने के बारे में है। **अनुपालन** उस कानून का पालन करने के बारे में है जो लागू होता है। **शासन** व्यापक रूप से उन सभी तरीकों को कवर करता है जिनके द्वारा संगठन नैतिक सिद्धांतों को लागू करते हैं और स्थापित कानूनों का पालन करते हैं।
|
|
|
|
आज, संगठनात्मक शासन दो रूपों में होता है। पहला, यह सभी AI-संबंधित परियोजनाओं में अपनाने को क्रियान्वित करने के लिए **नैतिक AI** सिद्धांतों को परिभाषित करने और प्रथाओं को स्थापित करने के बारे में है। दूसरा, यह उन सभी सरकारी-निर्धारित **डेटा सुरक्षा नियमों** का पालन करने के बारे में है जिन क्षेत्रों में यह संचालन करता है।
|
|
|
|
डेटा सुरक्षा और गोपनीयता नियमों के उदाहरण:
|
|
|
|
* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - संघीय सरकार द्वारा व्यक्तिगत जानकारी के संग्रह, उपयोग और प्रकटीकरण को विनियमित करता है।
|
|
* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - व्यक्तिगत स्वास्थ्य डेटा की सुरक्षा करता है।
|
|
* `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 वर्ष से कम उम्र के बच्चों के डेटा गोपनीयता की रक्षा करता है।
|
|
* `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - उपयोगकर्ता अधिकार, डेटा संरक्षण, और गोपनीयता प्रदान करता है।
|
|
* `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) उपभोक्ताओं को उनके (व्यक्तिगत) डेटा पर और अधिक अधिकार देता है।
|
|
* `2021`, चीन का [Personal Information Protection Law](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) हाल ही में पारित हुआ, जो विश्व के सबसे मजबूत ऑनलाइन डेटा गोपनीयता नियमों में से एक बन गया।
|
|
|
|
> 🚨 यूरोपीय संघ द्वारा निर्धारित GDPR (सामान्य डेटा संरक्षण विनियमन) आज सबसे प्रभावशाली डेटा गोपनीयता नियमों में से एक है। क्या आप जानते हैं कि यह नागरिकों की डिजिटल गोपनीयता और व्यक्तिगत डेटा की सुरक्षा के लिए [8 उपयोगकर्ता अधिकार](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) भी परिभाषित करता है? जानें कि ये क्या हैं और वे क्यों महत्वपूर्ण हैं।
|
|
|
|
### 4. नैतिक संस्कृति
|
|
|
|
ध्यान दें कि _अनुपालन_ (कानून के "अक्षर" को पूरा करना) और [प्रणालीगत मुद्दों](https://www.coursera.org/learn/data-science-ethics/home/week/4) (जैसे ठोसता, सूचना असममितता, और वितरणीय अनियमितता) को संबोधित करने के बीच एक अमूर्त अंतर बना रहता है जो AI के हथियारबंद होने की गति को तेज कर सकता है।
|
|
|
|
अंतिम के लिए आवश्यक है कि उद्योग में संगठनों के _अंदर_ भावुक संबंध और सुसंगत साझा मूल्य बनाने के लिए [नैतिकता संस्कृतियों को परिभाषित करने के साथ सहयोगी दृष्टिकोण](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) अपनाए जाएं। यह संगठनों में अधिक [औपचारिक डेटा नैतिकता संस्कृतियों](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) की मांग करता है - जिससे कोई भी [अंदन कॉर्ड खींच सके](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (प्रक्रिया में नैतिक मुद्दों को जल्दी उठाने के लिए) और AI प्रोजेक्ट्स में टीम गठन में _नैतिक मूल्यांकन_ (जैसे भर्ती में) एक मुख्य मापदंड बने।
|
|
|
|
---
|
|
## [पाठ-पर-अधिकारिता क्विज़](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯
|
|
## पुनरावलोकन और आत्म-अध्ययन
|
|
|
|
पाठ्यक्रम और किताबें मूल नैतिकता की अवधारणाओं और चुनौतियों को समझने में मदद करती हैं, जबकि केस स्टडीज और टूल वास्तविक दुनिया के संदर्भों में लागू नैतिकता प्रथाओं में मदद करते हैं। आरंभ करने के लिए यहाँ कुछ संसाधन हैं।
|
|
|
|
* [शुरुआती के लिए मशीन लर्निंग](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft से निष्पक्षता पर पाठ।
|
|
* [जिम्मेदार एआई के सिद्धांत](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn से मुफ्त लर्निंग पाथ।
|
|
* [एथिक्स और डेटा साइंस](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ईबुक (एम. लॉकिडेस, एच. मेसन आदि)
|
|
* [डेटा साइंस एथिक्स](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विश्वविद्यालय से ऑनलाइन कोर्स।
|
|
* [एथिक्स अनवैप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विश्वविद्यालय के केस स्टडीज़।
|
|
|
|
# असाइनमेंट
|
|
|
|
[डेटा एथिक्स केस स्टडी लिखें](assignment.md)
|
|
|
|
---
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER START -->
|
|
**अस्वीकरण**:
|
|
इस दस्तावेज़ का अनुवाद AI अनुवाद सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) का उपयोग करके किया गया है। जबकि हम सटीकता के लिए प्रयास करते हैं, कृपया ध्यान दें कि स्वचालित अनुवादों में त्रुटियाँ या अशुद्धियाँ हो सकती हैं। मूल दस्तावेज़ अपनी मूल भाषा में ही प्रामाणिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सिफारिश की जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम उत्तरदायी नहीं हैं।
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER END --> |