Data-Science-For-Beginners/translations/mr/1-Introduction/02-ethics/README.md

# डेटा नैतिकतेची ओळख

|![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)|
|:---:|
| डेटा सायन्स नैतिकता - _Sketchnote by [@nitya](https://twitter.com/nitya)_ |

---

आपण सर्वजण डेटा-आधारित जगात डेटा नागरिक म्हणून राहतो.

बाजारातील ट्रेंड्स सूचित करतात की 2022 पर्यंत, 1-इन-3 मोठ्या संस्थांनी ऑनलाइन [Marketplaces and Exchanges](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) च्या माध्यमातून आपला डेटा खरेदी आणि विक्री केली असेल. **अ‍ॅप डेव्हलपर्स** म्हणून, आपल्याला डेटा-आधारित अंतर्दृष्टी आणि अल्गोरिदम-आधारित ऑटोमेशन आपल्या दैनंदिन वापरकर्ता अनुभवांमध्ये समाविष्ट करणे सोपे आणि स्वस्त वाटेल. परंतु जेव्हा AI सर्वत्र पसरते, तेव्हा आपल्याला अशा अल्गोरिदमच्या [weaponization](https://www.youtube.com/watch?v=TQHs8SA1qpk) मुळे होणाऱ्या संभाव्य हानींचा मोठ्या प्रमाणावर विचार करावा लागेल.

ट्रेंड्स सूचित करतात की 2025 पर्यंत, आपण [180 zettabytes](https://www.statista.com/statistics/871513/worldwide-data-created/) डेटा निर्माण आणि वापर करू. **डेटा सायंटिस्ट्स** साठी, या माहितीच्या स्फोटामुळे वैयक्तिक आणि वर्तनात्मक डेटावर अभूतपूर्व प्रवेश मिळतो. यामुळे तपशीलवार वापरकर्ता प्रोफाइल तयार करण्याची आणि निर्णय घेण्यावर सूक्ष्मपणे प्रभाव टाकण्याची क्षमता मिळते—अनेकदा [illusion of free choice](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/) निर्माण करण्याच्या मार्गाने. हे वापरकर्त्यांना प्राधान्य दिलेल्या परिणामांकडे ढकलण्यासाठी वापरले जाऊ शकते, परंतु यामुळे डेटा गोपनीयता, स्वायत्तता आणि अल्गोरिदमच्या प्रभावाच्या नैतिक मर्यादांबद्दल गंभीर प्रश्न निर्माण होतात.

डेटा नैतिकता आता डेटा सायन्स आणि अभियांत्रिकीसाठी _आवश्यक मार्गदर्शक_ बनली आहे, ज्यामुळे डेटा-आधारित कृतींमुळे होणाऱ्या संभाव्य हानी आणि अनपेक्षित परिणाम कमी होतात. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) डिजिटल नैतिकता, जबाबदार AI, आणि AI गव्हर्नन्समधील संबंधित ट्रेंड्स ओळखतो, जे AI च्या _लोकशाहीकरण_ आणि _औद्योगिकीकरण_ च्या मोठ्या प्रवृत्तींना चालना देणारे प्रमुख घटक आहेत.

![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==)

या धड्यात, आपण डेटा नैतिकतेच्या आकर्षक क्षेत्राचा अभ्यास करू - मूलभूत संकल्पना आणि आव्हाने, केस स्टडीज आणि गव्हर्नन्ससारख्या लागू केलेल्या AI संकल्पनांपर्यंत - जे डेटा आणि AI सह काम करणाऱ्या संघ आणि संस्थांमध्ये नैतिकतेची संस्कृती निर्माण करण्यात मदत करतात.

## [पूर्व-व्याख्यान प्रश्नमंजुषा](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯

## मूलभूत संज्ञा

चला मूलभूत शब्दावली समजून घेण्यापासून सुरुवात करूया.

"नैतिकता" हा शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) (आणि त्याचा मूळ "ethos") पासून आला आहे ज्याचा अर्थ _स्वभाव किंवा नैतिक स्वरूप_ असा आहे.

**नैतिकता** म्हणजे समाजात आपल्या वर्तनावर नियंत्रण ठेवणाऱ्या सामायिक मूल्ये आणि नैतिक तत्त्वे. नैतिकता कायद्यांवर आधारित नसून "योग्य विरुद्ध अयोग्य" याबद्दल व्यापकपणे स्वीकारलेल्या मानदंडांवर आधारित असते. तथापि, नैतिक विचार कॉर्पोरेट गव्हर्नन्स उपक्रमांवर आणि अनुपालनासाठी अधिक प्रोत्साहन निर्माण करणाऱ्या सरकारी नियमांवर प्रभाव टाकू शकतात.

**डेटा नैतिकता** ही [नवीन नैतिकतेची शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) आहे जी "_डेटा, अल्गोरिदम आणि संबंधित पद्धती_" यांच्याशी संबंधित नैतिक समस्यांचा अभ्यास आणि मूल्यांकन करते. येथे, **"डेटा"** निर्मिती, नोंदणी, व्यवस्थापन, प्रक्रिया, प्रसार, सामायिकरण आणि वापराशी संबंधित क्रियांवर लक्ष केंद्रित करते, **"अल्गोरिदम"** AI, एजंट्स, मशीन लर्निंग आणि रोबोट्सवर लक्ष केंद्रित करते, आणि **"पद्धती"** जबाबदार नवकल्पना, प्रोग्रामिंग, हॅकिंग आणि नैतिकता कोड्स यासारख्या विषयांवर लक्ष केंद्रित करते.

**लागू नैतिकता** म्हणजे [नैतिक विचारांचा व्यावहारिक उपयोग](https://en.wikipedia.org/wiki/Applied_ethics). हे _वास्तविक जगातील कृती, उत्पादने आणि प्रक्रिया_ यांच्या संदर्भात नैतिक समस्यांचा सक्रियपणे तपास करण्याची प्रक्रिया आहे आणि परिभाषित नैतिक मूल्यांशी सुसंगत राहण्यासाठी सुधारात्मक उपाययोजना करणे.

**नैतिकता संस्कृती** म्हणजे [_लागू नैतिकतेचे_ कार्यान्वयन](https://hbr.org/2019/05/how-to-design-an-ethical-organization) जेणेकरून आपल्या नैतिक तत्त्वे आणि पद्धती संपूर्ण संस्थेत सातत्यपूर्ण आणि स्केलेबल पद्धतीने स्वीकारल्या जातील. यशस्वी नैतिकता संस्कृती संस्थात्मक स्तरावर नैतिक तत्त्वे परिभाषित करते, अनुपालनासाठी अर्थपूर्ण प्रोत्साहन प्रदान करते आणि संस्थेच्या प्रत्येक स्तरावर इच्छित वर्तन प्रोत्साहित करून आणि वाढवून नैतिकता मानदंड मजबूत करते.

## नैतिकता संकल्पना

या विभागात, आपण **सामायिक मूल्ये** (तत्त्वे) आणि **नैतिक आव्हाने** (समस्या) यासारख्या संकल्पनांवर चर्चा करू - आणि **केस स्टडीज** एक्सप्लोर करू जे तुम्हाला वास्तविक जगातील संदर्भात या संकल्पना समजून घेण्यास मदत करतील.

### 1. नैतिकता तत्त्वे

प्रत्येक डेटा नैतिकता धोरण _नैतिक तत्त्वे_ परिभाषित करण्यापासून सुरू होते - "सामायिक मूल्ये" जी स्वीकारार्ह वर्तनाचे वर्णन करतात आणि आपल्या डेटा आणि AI प्रकल्पांमध्ये अनुपालन कृतींना मार्गदर्शन करतात. तुम्ही ही तत्त्वे वैयक्तिक किंवा संघ स्तरावर परिभाषित करू शकता. तथापि, बहुतेक मोठ्या संस्था कॉर्पोरेट स्तरावर परिभाषित केलेल्या आणि सर्व संघांमध्ये सातत्याने लागू केलेल्या _नैतिक AI_ मिशन स्टेटमेंट किंवा फ्रेमवर्कमध्ये यांचे वर्णन करतात.

**उदाहरण:** Microsoft च्या [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन स्टेटमेंटमध्ये असे म्हटले आहे: _"आम्ही लोकांना प्रथम स्थान देणाऱ्या नैतिक तत्त्वांद्वारे AI च्या प्रगतीसाठी वचनबद्ध आहोत"_ - खालील फ्रेमवर्कमध्ये 6 नैतिक तत्त्वे ओळखली आहेत:

![Responsible AI at Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png)

चला या तत्त्वांचा थोडक्यात अभ्यास करूया. _पारदर्शकता_ आणि _जबाबदारी_ ही मूलभूत मूल्ये आहेत ज्यावर इतर तत्त्वे आधारित आहेत - त्यामुळे तिथून सुरुवात करूया:

* [**जबाबदारी**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा आणि AI ऑपरेशन्ससाठी आणि या नैतिक तत्त्वांचे अनुपालन सुनिश्चित करण्यासाठी व्यावसायिकांना _जबाबदार_ बनवते.
* [**पारदर्शकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) सुनिश्चित करते की डेटा आणि AI क्रिया वापरकर्त्यांसाठी _समजण्यासारख्या_ (अर्थ लावण्यायोग्य) आहेत, निर्णयांच्या मागील काय आणि का स्पष्ट करते.
* [**न्याय**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI सर्व लोकांशी _न्यायाने_ वागते याची खात्री करण्यावर लक्ष केंद्रित करते, डेटा आणि प्रणालींमधील कोणत्याही प्रणालीगत किंवा अप्रत्यक्ष सामाजिक-तांत्रिक पक्षपातांना संबोधित करते.
* [**विश्वसनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI _सुसंगतपणे_ परिभाषित मूल्यांसह वागते याची खात्री करते, संभाव्य हानी किंवा अनपेक्षित परिणाम कमी करते.
* [**गोपनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - डेटा वंशावळ समजून घेणे आणि वापरकर्त्यांना _डेटा गोपनीयता आणि संबंधित संरक्षण_ प्रदान करणे याबद्दल आहे.
* [**समावेशकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI सोल्यूशन्स हेतूने डिझाइन करण्याबद्दल आहे, त्यांना _विविध मानवी गरजा_ आणि क्षमता पूर्ण करण्यासाठी अनुकूलित करणे.

> 🚨 तुमचे डेटा नैतिकता मिशन स्टेटमेंट काय असू शकते याचा विचार करा. इतर संस्थांकडून नैतिक AI फ्रेमवर्क एक्सप्लोर करा - येथे [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), आणि [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) चे उदाहरणे आहेत. त्यांच्यात कोणती सामायिक मूल्ये आहेत? ते AI उत्पादन किंवा उद्योगाशी कसे संबंधित आहेत ज्यामध्ये ते कार्य करतात?

### 2. नैतिकता आव्हाने

एकदा आपण नैतिक तत्त्वे परिभाषित केली की, पुढील पायरी म्हणजे आपल्या डेटा आणि AI क्रिया त्या सामायिक मूल्यांशी जुळतात की नाही याचे मूल्यांकन करणे. तुमच्या कृतींचा विचार दोन श्रेणींमध्ये करा: _डेटा संकलन_ आणि _अल्गोरिदम डिझाइन_.

डेटा संकलनासह, कृतींमध्ये **वैयक्तिक डेटा** किंवा ओळखण्यायोग्य जिवंत व्यक्तींसाठी वैयक्तिक ओळखण्यायोग्य माहिती (PII) समाविष्ट असते. यामध्ये [विविध प्रकारचा गैर-वैयक्तिक डेटा](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) समाविष्ट आहे जो _सामूहिकपणे_ व्यक्तीला ओळखतो. नैतिक आव्हाने _डेटा गोपनीयता_, _डेटा मालकी_, आणि संबंधित विषय जसे की _माहितीपूर्ण संमती_ आणि वापरकर्त्यांसाठी _बौद्धिक मालमत्तेचे अधिकार_ यासंबंधित असू शकतात.

अल्गोरिदम डिझाइनसह, कृतींमध्ये **डेटासेट्स** गोळा करणे आणि व्यवस्थापित करणे, नंतर त्यांचा वापर करून **डेटा मॉडेल्स** तयार करणे आणि तैनात करणे ज्यामुळे वास्तविक जगातील संदर्भात परिणामांची भविष्यवाणी केली जाते किंवा निर्णय स्वयंचलित केले जातात. नैतिक आव्हाने _डेटासेट पक्षपात_, _डेटा गुणवत्ता_ समस्या, _अन्याय_, आणि अल्गोरिदममध्ये _चुकीचे प्रतिनिधित्व_ यामुळे उद्भवू शकतात - ज्यामध्ये काही समस्या प्रणालीगत असू शकतात.

दोन्ही बाबतीत, नैतिक आव्हाने अशा क्षेत्रांवर प्रकाश टाकतात जिथे आपल्या कृतींमध्ये सामायिक मूल्यांशी संघर्ष होऊ शकतो. या चिंतेचा शोध घेण्यासाठी, कमी करण्यासाठी, कमी करण्यासाठी किंवा दूर करण्यासाठी - आपल्याला आपल्या कृतींशी संबंधित नैतिक "होय/नाही" प्रश्न विचारण्याची आवश्यकता आहे आणि नंतर आवश्यकतेनुसार सुधारात्मक कृती करणे आवश्यक आहे. चला काही नैतिक आव्हाने आणि त्यांनी उपस्थित केलेल्या नैतिक प्रश्नांचा अभ्यास करूया:

#### 2.1 डेटा मालकी

डेटा संकलनात अनेकदा डेटा विषयांना ओळखू शकणारा वैयक्तिक डेटा समाविष्ट असतो. [डेटा मालकी](https://permission.io/blog/data-ownership) म्हणजे डेटा निर्मिती, प्रक्रिया आणि प्रसाराशी संबंधित _नियंत्रण_ आणि [_वापरकर्त्याचे अधिकार_](https://permission.io/blog/data-ownership).

आपल्याला विचारायचे नैतिक प्रश्न:
 * डेटा कोणाचा आहे? (वापरकर्ता किंवा संस्था)
 * डेटा विषयांना कोणते अधिकार आहेत? (उदा: प्रवेश, विलोपन, पोर्टेबिलिटी)
 * संस्थांना कोणते अधिकार आहेत? (उदा: द्वेषपूर्ण वापरकर्ता पुनरावलोकने सुधारित करणे)

#### 2.2 माहितीपूर्ण संमती

[माहितीपूर्ण संमती](https://legaldictionary.net/informed-consent/) म्हणजे वापरकर्त्यांनी (डेटा संकलनासारख्या) कृतीसाठी _संबंधित तथ्यांचा पूर्ण समज_ सह परवानगी देणे.

येथे विचारायचे प्रश्न:
 * डेटा विषयाने डेटा कॅप्चर आणि वापरासाठी परवानगी दिली आहे का?
 * डेटा कॅप्चर करण्याच्या उद्देशाचा वापरकर्त्याला समज आहे का?
 * त्यांच्या सहभागामुळे संभाव्य जोखमींचा वापरकर्त्याला समज आहे का?

#### 2.3 बौद्धिक मालमत्ता

[बौद्धिक मालमत्ता](https://en.wikipedia.org/wiki/Intellectual_property) म्हणजे मानवी उपक्रमातून निर्माण झालेली अमूर्त निर्मिती, ज्याला व्यक्ती किंवा व्यवसायांसाठी _आर्थिक मूल्य_ असू शकते.

येथे विचारायचे प्रश्न:
 * गोळा केलेल्या डेटाला वापरकर्ता किंवा व्यवसायासाठी आर्थिक मूल्य आहे का?
 * येथे **वापरकर्त्याला** बौद्धिक मालमत्ता आहे का?
 * येथे **संस्थेला** बौद्धिक मालमत्ता आहे का?
 * जर हे अधिकार अस्तित्वात असतील, तर आपण त्यांचे संरक्षण कसे करत आहोत?

#### 2.4 डेटा गोपनीयता

[डेटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) किंवा माहिती गोपनीयता म्हणजे वैयक्तिक ओळखण्यायोग्य माहितीच्या संदर्भात वापरकर्त्याच्या गोपनीयतेचे जतन आणि ओळख संरक्षण.

येथे विचारायचे प्रश्न:
 * वापरकर्त्यांचा (वैयक्तिक) डेटा हॅक्स आणि लीकपासून सुरक्षित आहे का?
 * वापरकर्त्यांचा डेटा केवळ अधिकृत वापरकर्त्यांना आणि संदर्भांना उपलब्ध आहे का?
 * डेटा सामायिक किंवा प्रसारित करताना वापरकर्त्यांची अनामिकता जतन केली जाते का?
 * अनामिक डेटासेट्समधून वापरकर्त्याला ओळखण्यायोग्य बनवता येते का?

#### 2.5 विस्मरणाचा अधिकार

[विस्मरणाचा अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) किंवा [विलोपनाचा अधिकार](https://www.gdpreu.org/right-to-be-forgotten/) वापरकर्त्यांना अतिरिक्त वैयक्तिक डेटा संरक्षण प्रदान करतो. विशेषतः, हे वापरकर्त्यांना इंटरनेट शोध आणि इतर ठिकाणांहून वैयक्तिक डेटा हटवण्याची किंवा काढून टाकण्याची विनंती करण्याचा अधिकार देते, _विशिष्ट परिस्थितीत_ - त्यांना ऑनलाइन नवीन सुरुवात करण्याची परवानगी देते ज्यामध्ये भूतकाळातील कृती त्यांच्याविरुद्ध धरल्या जात नाहीत.

येथे विचारायचे प्रश्न:
 * प्रणाली डेटा विषयांना विलोपनाची विनंती करण्याची परवानगी देते का?
 * वापरकर्त्याच्या संमतीच्या माघारीने स्वयंचलित विलोपन ट्रिगर करावे का?
 * डेटा संमतीशिवाय किंवा बेकायदेशीर मार्गाने गोळा केला गेला होता का?
 * डेटा गोपनीयतेसाठी सरकारी नियमांचे पालन केले आहे का?

#### 2.6 डेटासेट पक्षपात

डेटासेट किंवा [संकलन पक्षपात](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) म्हणजे अल्गोरिदम विकासासाठी _अप्रतिनिधिक_ डेटाचा उपसंच निवडणे, विविध गटांसाठी परिणामांमध्ये संभाव्य अन्याय निर्माण करणे. पक्षपाताचे प्रकार निवड किंवा नमुना पक्षपात, स्वयंसेवक पक्षपात आणि साधन पक्षपात यांचा समावेश करतात.

येथे विचारायचे प्रश्न:
 * आम्ही डेटा विषयांचा प्रतिनिधिक संच भरती केला आहे का?
 * विविध पक्षपातांसाठी आमच्या गोळ
* माहिती वास्तवाचे अचूक प्रतिबिंब देते का?

#### 2.8 अल्गोरिदम न्याय

[अल्गोरिदम न्याय](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) तपासतो की अल्गोरिदम डिझाइन विशिष्ट उपसमूहांवर प्रणालीगत भेदभाव करते का, ज्यामुळे _संसाधनांचे वाटप_ (जिथे त्या गटाला संसाधने नाकारली जातात किंवा रोखली जातात) आणि _सेवेची गुणवत्ता_ (जिथे AI काही उपसमूहांसाठी इतरांइतकी अचूक नसते) यामध्ये [संभाव्य नुकसान](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) होऊ शकते.

येथे विचार करण्यासाठी काही प्रश्न:
* विविध उपसमूह आणि परिस्थितींसाठी मॉडेल अचूकता आम्ही मूल्यांकन केली का?
* संभाव्य नुकसान (उदा. स्टीरिओटायपिंग) तपासण्यासाठी प्रणालीचे बारकाईने परीक्षण केले का?
* ओळखलेल्या नुकसानीला कमी करण्यासाठी डेटा सुधारित किंवा मॉडेल पुन्हा प्रशिक्षण देऊ शकतो का?

अधिक जाणून घेण्यासाठी [AI न्याय चेकलिस्ट](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) सारख्या संसाधनांचा शोध घ्या.

#### 2.9 चुकीचे प्रतिनिधित्व

[डेटा चुकीचे प्रतिनिधित्व](https://www.sciencedirect.com/topics/computer-science/misrepresentation) विचारते की आम्ही प्रामाणिकपणे नोंदवलेल्या डेटामधून अंतर्दृष्टी एका इच्छित कथानकाला समर्थन देण्यासाठी फसवणूक करणाऱ्या पद्धतीने संवाद साधत आहोत का.

येथे विचार करण्यासाठी काही प्रश्न:
* आम्ही अपूर्ण किंवा अचूक डेटा नोंदवत आहोत का?
* आम्ही डेटा अशा प्रकारे व्हिज्युअलाइज करत आहोत का ज्यामुळे चुकीचे निष्कर्ष काढले जातात?
* आम्ही निवडक सांख्यिकीय तंत्र वापरून परिणामांमध्ये फेरफार करत आहोत का?
* वेगळ्या निष्कर्षाला समर्थन देऊ शकणाऱ्या पर्यायी स्पष्टीकरणे आहेत का?

#### 2.10 स्वातंत्र्याची निवड

[स्वातंत्र्याची निवडीचा भ्रम](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तेव्हा निर्माण होतो जेव्हा प्रणाली "निवडीचे आर्किटेक्चर" निर्णय घेण्याच्या अल्गोरिदमचा वापर लोकांना इच्छित परिणाम घेण्यास प्रवृत्त करण्यासाठी करतात, त्यांना पर्याय आणि नियंत्रण देत असल्याचे भासवतात. हे [डार्क पॅटर्न्स](https://www.darkpatterns.org/) वापरकर्त्यांना सामाजिक आणि आर्थिक नुकसान पोहोचवू शकतात. कारण वापरकर्त्याच्या निर्णयांचा वर्तन प्रोफाइलवर परिणाम होतो, हे कृती भविष्यातील निवडींवर परिणाम करू शकतात आणि या नुकसानीचा प्रभाव वाढवू शकतात.

येथे विचार करण्यासाठी काही प्रश्न:
* वापरकर्त्याला ती निवड करण्याचे परिणाम समजले का?
* वापरकर्त्याला (पर्यायी) पर्याय आणि प्रत्येकाचे फायदे आणि तोटे माहित होते का?
* वापरकर्ता नंतर स्वयंचलित किंवा प्रभावित निवड उलटवू शकतो का?

### 3. केस स्टडीज

जेव्हा अशा नैतिक उल्लंघनांकडे दुर्लक्ष केले जाते तेव्हा व्यक्ती आणि समाजावर संभाव्य नुकसान आणि परिणाम अधोरेखित करणाऱ्या वास्तविक-जगातील संदर्भांमध्ये या नैतिक आव्हानांचा विचार करणे उपयुक्त ठरते.

येथे काही उदाहरणे आहेत:

| नैतिक आव्हान | केस स्टडी | 
|--- |--- |
| **माहितीपूर्ण संमती** | 1972 - [टस्केगी सिफिलिस अभ्यास](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - अभ्यासात सहभागी झालेल्या आफ्रिकन अमेरिकन पुरुषांना मोफत वैद्यकीय सेवा देण्याचे आश्वासन दिले गेले _पण फसवले गेले_ संशोधकांनी विषयांना त्यांच्या निदानाबद्दल किंवा उपचारांच्या उपलब्धतेबद्दल माहिती देण्यात अपयश आले. अनेक विषयांचा मृत्यू झाला आणि भागीदार किंवा मुलांवर परिणाम झाला; अभ्यास 40 वर्षे चालला. | 
| **डेटा गोपनीयता** | 2007 - [नेटफ्लिक्स डेटा प्राईज](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) संशोधकांना _50K ग्राहकांकडून 10M अनामित चित्रपट रेटिंग_ प्रदान केले गेले जेणेकरून शिफारस अल्गोरिदम सुधारण्यात मदत होईल. तथापि, संशोधक बाह्य डेटासेट्समध्ये (उदा., IMDb टिप्पण्या) वैयक्तिकरित्या ओळखण्यायोग्य डेटासह अनामित डेटा जोडण्यात सक्षम होते - प्रभावीपणे काही नेटफ्लिक्स सदस्य "डि-अनॉनिमाइज" करत आहेत.|
| **संकलन पक्षपात** | 2013 - बोस्टन शहराने [स्ट्रीट बंप विकसित केले](https://www.boston.gov/transportation/street-bump), एक अॅप ज्यामुळे नागरिकांना खड्ड्यांची माहिती देण्याची परवानगी मिळाली, ज्यामुळे शहराला समस्या शोधण्यासाठी आणि दुरुस्त करण्यासाठी चांगला रस्त्याचा डेटा मिळाला. तथापि, [कमी उत्पन्न गटातील लोकांना कार आणि फोनचा कमी प्रवेश होता](https://hbr.org/2013/04/the-hidden-biases-in-big-data), ज्यामुळे त्यांच्या रस्त्याच्या समस्या या अॅपमध्ये अदृश्य झाल्या. विकासकांनी न्यायासाठी _समान प्रवेश आणि डिजिटल विभाग_ समस्यांवर काम करण्यासाठी शैक्षणिक संस्थांशी सहकार्य केले. |
| **अल्गोरिदम न्याय** | 2018 - MIT [जेंडर शेड्स अभ्यास](http://gendershades.org/overview.html) लिंग वर्गीकरण AI उत्पादनांची अचूकता मूल्यांकन केली, महिलांसाठी आणि रंगाच्या व्यक्तींसाठी अचूकतेतील अंतर उघड केले. [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) पुरुषांपेक्षा महिलांना कमी क्रेडिट देत असल्याचे दिसून आले. दोघांनी अल्गोरिदम पक्षपातामध्ये सामाजिक-आर्थिक नुकसानीकडे नेणाऱ्या समस्यांचे चित्रण केले.|
| **डेटा चुकीचे प्रतिनिधित्व** | 2020 - [जॉर्जिया सार्वजनिक आरोग्य विभागाने COVID-19 चार्ट जारी केले](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ज्यामुळे नागरिकांना पुष्टी झालेल्या प्रकरणांतील ट्रेंडबद्दल चुकीचे दिशाभूल करण्याचा प्रयत्न केला गेला, x-अक्षावर गैर-कालक्रमिक क्रमवारीसह. हे व्हिज्युअलायझेशन युक्त्यांद्वारे चुकीचे प्रतिनिधित्व दाखवते. |
| **स्वातंत्र्याची निवडीचा भ्रम** | 2020 - शिकण्याचा अॅप [ABCmouse ने FTC तक्रारीचे $10M देऊन सेटलमेंट केले](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जिथे पालकांना सदस्यता रद्द करता येत नसल्यामुळे पैसे देण्यास अडकवले गेले. हे निवडीच्या आर्किटेक्चरमधील डार्क पॅटर्न्सचे चित्रण करते, जिथे वापरकर्त्यांना संभाव्य हानिकारक निवडींकडे प्रवृत्त केले गेले. |
| **डेटा गोपनीयता आणि वापरकर्त्याचे अधिकार** | 2021 - फेसबुक [डेटा उल्लंघन](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ज्यामुळे 530M वापरकर्त्यांचा डेटा उघड झाला, ज्यामुळे FTC ला $5B सेटलमेंट मिळाले. तथापि, उल्लंघनाबद्दल वापरकर्त्यांना सूचित करण्यास नकार दिला, डेटा पारदर्शकता आणि प्रवेशाबद्दल वापरकर्त्याच्या अधिकारांचे उल्लंघन केले. |

अधिक केस स्टडीज एक्सप्लोर करू इच्छिता? या संसाधनांचा शोध घ्या:
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - विविध उद्योगांमधील नैतिक समस्यांचे केस स्टडीज.
* [डेटा सायन्स एथिक्स कोर्स](https://www.coursera.org/learn/data-science-ethics#syllabus) - महत्त्वाचे केस स्टडीज एक्सप्लोर केले.
* [जिथे गोष्टी चुकीच्या झाल्या आहेत](https://deon.drivendata.org/examples/) - डिऑन चेकलिस्टसह उदाहरणे.

> 🚨 तुम्ही पाहिलेल्या केस स्टडीजचा विचार करा - तुम्ही तुमच्या आयुष्यात अशाच प्रकारच्या नैतिक आव्हानाचा अनुभव घेतला आहे का किंवा त्याचा परिणाम झाला आहे का? तुम्ही या विभागात चर्चा केलेल्या नैतिक आव्हानांपैकी एकाचे चित्रण करणारा किमान एक केस स्टडी विचार करू शकता का?

## लागू नैतिकता

आम्ही नैतिक संकल्पना, आव्हाने आणि वास्तविक-जगातील संदर्भांमध्ये केस स्टडीजबद्दल चर्चा केली आहे. पण आमच्या प्रकल्पांमध्ये नैतिक तत्त्वे आणि पद्धती _लागू_ करण्यास कसे सुरुवात करायची? आणि चांगल्या प्रशासनासाठी या पद्धती _ऑपरेशनलाइज_ कशा करायच्या? चला काही वास्तविक-जगातील उपाय एक्सप्लोर करूया:

### 1. व्यावसायिक कोड्स

व्यावसायिक कोड्स संस्थांना त्यांच्या नैतिक तत्त्वांना आणि मिशन स्टेटमेंटला समर्थन देण्यासाठी सदस्यांना "प्रोत्साहन" देण्याचा एक पर्याय देतात. कोड्स व्यावसायिक वर्तनासाठी _नैतिक मार्गदर्शक तत्त्वे_ आहेत, ज्यामुळे कर्मचारी किंवा सदस्य त्यांच्या संस्थेच्या तत्त्वांशी जुळणारे निर्णय घेऊ शकतात. ते सदस्यांकडून स्वेच्छेने अनुपालन जितके चांगले आहे तितकेच चांगले आहेत; तथापि, अनेक संस्था सदस्यांकडून अनुपालन प्रोत्साहित करण्यासाठी अतिरिक्त बक्षिसे आणि दंड देतात.

उदाहरणे:
* [ऑक्सफर्ड म्युनिक](http://www.code-of-ethics.org/code-of-conduct/) नैतिकतेचा कोड
* [डेटा सायन्स असोसिएशन](http://datascienceassn.org/code-of-conduct.html) आचारसंहिता (2013 मध्ये तयार)
* [ACM आचारसंहिता आणि व्यावसायिक आचारसंहिता](https://www.acm.org/code-of-ethics) (1993 पासून)

> 🚨 तुम्ही व्यावसायिक अभियांत्रिकी किंवा डेटा सायन्स संस्थेचे सदस्य आहात का? त्यांच्या साइटचा शोध घ्या की त्यांनी व्यावसायिक नैतिकतेचा कोड परिभाषित केला आहे का. त्यांच्या नैतिक तत्त्वांबद्दल हे काय सांगते? ते सदस्यांना कोडचे पालन करण्यासाठी कसे "प्रोत्साहन" देत आहेत?

### 2. नैतिकता चेकलिस्ट

जरी व्यावसायिक कोड्स व्यावसायिकांकडून आवश्यक _नैतिक वर्तन_ परिभाषित करतात, तरीही त्यांना [अंमलबजावणीमध्ये ज्ञात मर्यादा](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) आहेत, विशेषतः मोठ्या प्रमाणावर प्रकल्पांमध्ये. त्याऐवजी, अनेक डेटा सायन्स तज्ञ [चेकलिस्टसाठी वकिली करतात](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), जे **तत्त्वांना पद्धतींशी जोडू शकतात** अधिक निश्चित आणि कृतीक्षम मार्गांनी.

चेकलिस्ट प्रश्नांना "होय/नाही" कार्यांमध्ये रूपांतरित करतात ज्यांना ऑपरेशनलाइज केले जाऊ शकते, ज्यामुळे त्यांना मानक उत्पादन रिलीज वर्कफ्लोचा भाग म्हणून ट्रॅक करता येते.

उदाहरणे:
* [डिऑन](https://deon.drivendata.org/) - [उद्योगाच्या शिफारसींमधून](https://deon.drivendata.org/#checklist-citations) तयार केलेली सामान्य-उद्देश डेटा नैतिकता चेकलिस्ट, सोपी एकत्रीकरणासाठी कमांड-लाइन टूलसह.
* [गोपनीयता ऑडिट चेकलिस्ट](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - कायदेशीर आणि सामाजिक प्रदर्शनाच्या दृष्टिकोनातून माहिती हाताळण्याच्या पद्धतींसाठी सामान्य मार्गदर्शन प्रदान करते.
* [AI न्याय चेकलिस्ट](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI विकास चक्रांमध्ये न्याय चेक्सचा अवलंब आणि समाकलन समर्थन करण्यासाठी AI व्यावसायिकांनी तयार केले.
* [डेटा आणि AI मध्ये नैतिकतेसाठी 22 प्रश्न](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - अधिक खुले फ्रेमवर्क, डिझाइन, अंमलबजावणी आणि संस्थात्मक संदर्भांमध्ये नैतिक समस्यांच्या प्रारंभिक अन्वेषणासाठी संरचित.

### 3. नैतिकता नियम

नैतिकता म्हणजे सामायिक मूल्ये परिभाषित करणे आणि _स्वेच्छेने_ योग्य गोष्ट करणे. **अनुपालन** म्हणजे _कायदा पाळणे_ जर आणि जिथे परिभाषित केले असेल. **प्रशासन** म्हणजे संस्थांमध्ये नैतिक तत्त्वे अंमलात आणण्यासाठी आणि स्थापित कायद्यांचे पालन करण्यासाठी संस्थांमध्ये कार्य करण्याच्या सर्व मार्गांचा समावेश.

आज, संस्थांमध्ये प्रशासन दोन प्रकारे घेतले जाते. प्रथम, हे **नैतिक AI** तत्त्वे परिभाषित करण्याबद्दल आहे आणि संस्थेतील सर्व AI-संबंधित प्रकल्पांमध्ये अवलंबन अंमलात आणण्यासाठी पद्धती स्थापित करण्याबद्दल आहे. दुसरे म्हणजे, ते कार्यरत असलेल्या प्रदेशांसाठी सर्व सरकारी-मंडेटेड **डेटा संरक्षण नियमांचे** पालन करण्याबद्दल आहे.

डेटा संरक्षण आणि गोपनीयता नियमांची उदाहरणे:

* `1974`, [US गोपनीयता कायदा](https://www.justice.gov/opcl/privacy-act-1974) - _फेडरल सरकार_ वैयक्तिक माहितीचे संकलन, वापर आणि प्रकटीकरण नियंत्रित करते.
* `1996`, [US हेल्थ इन्शुरन्स पोर्टेबिलिटी आणि अॅकाउंटेबिलिटी कायदा (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - वैयक्तिक आरोग्य डेटा संरक्षित करते.
* `1998`, [US चिल्ड्रन्स ऑनलाइन गोपनीयता संरक्षण कायदा (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 वर्षांखालील मुलांच्या डेटा गोपनीयतेचे संरक्षण करते.
* `2018`, [सामान्य डेटा संरक्षण नियम (GDPR)](https://gdpr-info.eu/) - वापरकर्त्याचे अधिकार, डेटा संरक्षण आणि गोपनीयता प्रदान करते.
* `2018`, [कॅलिफोर्निया ग्राहक गोपनीयता कायदा (CCPA)](https://www.oag.ca.gov/privacy/ccpa) ग्राहकांना त्यांच्या (वैयक्तिक) डेटावर अधिक _अधिकार_ देते.
* `2021`, चीनचा [वैयक्तिक माहिती संरक्षण कायदा](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) नुकताच मंजूर झाला, जगातील सर्वात मजबूत ऑनलाइन डेटा गोपनीयता नियम तयार करत आहे.

> 🚨 युरोपियन युनियनने परिभाषित केलेला GDPR (सामान्य डेटा संरक्षण नियम) आज सर्वात प्रभावशाली डेटा गोपनीयता नियमांपैकी एक आहे. तुम्हाला माहित आहे का की ते नागरिकांच्या डिजिटल गोपनीयता आणि वैयक्तिक डेटाचे संरक्षण करण्यासाठी [8 वापरकर्त्याचे अधिकार](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) देखील परिभाषित करते? हे काय आहेत आणि ते का महत्त्वाचे आहेत याबद्दल जाणून घ्या.

### 4. नैतिकता संस्कृती

लक्षात घ्या की _अनुपालन_ (कायद्याच्या "अक्षर" पूर्ण करण्यासाठी पुरेसे करणे) आणि [प्रणालीगत समस्यांचे](https://www.coursera.org/learn/data-science-ethics/home/week/4) निराकरण करणे (जसे की ऑसिफिकेशन, माहिती विषमता आणि वितरणात्मक अन्याय) यामध्ये अदृश्य अंतर आहे जे AI च्या शस्त्रीकरणाला गती देऊ शकते.

उत्तरार्धासाठी [नैतिकता संस्कृती परिभाषित करण्यासाठी सहयोगात्मक दृष्टिकोन](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) आवश्यक आहे जे भावनिक कनेक्शन आणि उद्योगातील _संस्थांमध्ये_ सातत्यपूर्ण सामायिक मूल्ये तयार करतात. यासाठी संस्थांमध्ये अधिक [औपचारिक डेटा नैतिकता संस्कृती](https://www.codeforamerica.org/news/formalizing-an-
* [मशीन लर्निंगसाठी सुरुवातीचे मार्गदर्शन](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft कडून न्यायतेवर आधारित धडा.
* [जबाबदार AI चे तत्त्वज्ञान](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn कडून मोफत शिकण्याचा मार्ग.
* [नैतिकता आणि डेटा विज्ञान](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ईबुक (M. Loukides, H. Mason इ.)
* [डेटा विज्ञान नैतिकता](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विद्यापीठाकडून ऑनलाइन कोर्स.
* [एथिक्स अनरॅप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विद्यापीठाकडून केस स्टडीज.

# असाइनमेंट 

[डेटा नैतिकतेवर आधारित केस स्टडी लिहा](assignment.md)

---

**अस्वीकरण**:  
हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) चा वापर करून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी कृपया लक्षात ठेवा की स्वयंचलित भाषांतरांमध्ये त्रुटी किंवा अचूकतेचा अभाव असू शकतो. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही.