You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
241 lines
50 KiB
241 lines
50 KiB
<!--
|
|
CO_OP_TRANSLATOR_METADATA:
|
|
{
|
|
"original_hash": "8796f41f566a0a8ebb72863a83d558ed",
|
|
"translation_date": "2025-08-27T17:04:33+00:00",
|
|
"source_file": "1-Introduction/02-ethics/README.md",
|
|
"language_code": "mr"
|
|
}
|
|
-->
|
|
# डेटा नीतिशास्त्राची ओळख
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|:---:|
|
|
| डेटा सायन्स नीतिशास्त्र - _[@nitya](https://twitter.com/nitya) यांचे स्केच_ |
|
|
|
|
---
|
|
|
|
आपण सर्वजण डेटा-आधारित जगात राहणारे डेटा नागरिक आहोत.
|
|
|
|
मार्केट ट्रेंड्स सांगतात की 2022 पर्यंत, प्रत्येक 3 मोठ्या संस्थांपैकी 1 संस्था आपला डेटा ऑनलाइन [Marketplaces आणि Exchanges](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) द्वारे खरेदी आणि विक्री करेल. **अॅप डेव्हलपर्स** म्हणून, डेटा-आधारित अंतर्दृष्टी आणि अल्गोरिदम-आधारित ऑटोमेशन आपल्या दैनंदिन वापरकर्ता अनुभवांमध्ये समाविष्ट करणे सोपे आणि स्वस्त होईल. परंतु जेव्हा AI सर्वव्यापी होतो, तेव्हा आपल्याला अशा अल्गोरिदमच्या [weaponization](https://www.youtube.com/watch?v=TQHs8SA1qpk) मुळे होणाऱ्या संभाव्य हानींचेही आकलन करणे आवश्यक आहे.
|
|
|
|
ट्रेंड्स असेही सूचित करतात की 2025 पर्यंत आपण [180 zettabytes](https://www.statista.com/statistics/871513/worldwide-data-created/) पेक्षा जास्त डेटा तयार करू आणि वापरू. **डेटा सायंटिस्ट्स** म्हणून, यामुळे आपल्याला वैयक्तिक डेटावर अभूतपूर्व प्रवेश मिळतो. याचा अर्थ असा की आपण वापरकर्त्यांचे वर्तनात्मक प्रोफाइल तयार करू शकतो आणि निर्णय घेण्यावर प्रभाव टाकू शकतो, ज्यामुळे [स्वतंत्र निवडीचा आभास](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) निर्माण होतो, परंतु वापरकर्त्यांना आपल्या पसंतीच्या परिणामांकडे ढकलले जाऊ शकते. यामुळे डेटा गोपनीयता आणि वापरकर्ता संरक्षण यासारख्या व्यापक प्रश्नांनाही वाचा फोडली जाते.
|
|
|
|
डेटा नीतिशास्त्र आता डेटा सायन्स आणि अभियांत्रिकीसाठी _आवश्यक मार्गदर्शक_ बनले आहे, ज्यामुळे आपल्या डेटा-आधारित कृतींमुळे होणाऱ्या संभाव्य हानी आणि अनपेक्षित परिणाम कमी होतात. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) डिजिटल नीतिशास्त्र, जबाबदार AI, आणि AI गव्हर्नन्समधील संबंधित ट्रेंड्स ओळखतो, जे AI च्या _लोकशाहीकरण_ आणि _औद्योगिकीकरण_ यासारख्या मोठ्या प्रवाहांना चालना देतात.
|
|
|
|
|
|
|
|
या धड्यात, आपण डेटा नीतिशास्त्राच्या आकर्षक क्षेत्राचा अभ्यास करू - मूलभूत संकल्पना आणि आव्हानांपासून ते केस स्टडीज आणि गव्हर्नन्ससारख्या लागू AI संकल्पनांपर्यंत - ज्यामुळे डेटा आणि AI सह काम करणाऱ्या संघ आणि संस्थांमध्ये नीतिशास्त्र संस्कृती प्रस्थापित होण्यास मदत होते.
|
|
|
|
## [पूर्व-व्याख्यान क्विझ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯
|
|
|
|
## मूलभूत परिभाषा
|
|
|
|
चला, मूलभूत परिभाषा समजून घेऊन सुरुवात करूया.
|
|
|
|
"नीतिशास्त्र" हा शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) (आणि त्याचा मूळ "ethos") पासून आला आहे, ज्याचा अर्थ _स्वभाव किंवा नैतिक स्वरूप_ असा होतो.
|
|
|
|
**नीतिशास्त्र** म्हणजे समाजातील आपल्या वर्तनावर नियंत्रण ठेवणाऱ्या सामायिक मूल्ये आणि नैतिक तत्त्वे. नीतिशास्त्र कायद्यांवर आधारित नसून "योग्य विरुद्ध अयोग्य" याबद्दलच्या व्यापकपणे स्वीकारल्या गेलेल्या मानकांवर आधारित आहे. तथापि, नैतिक विचार कॉर्पोरेट गव्हर्नन्स उपक्रमांवर आणि अनुपालनासाठी अधिक प्रोत्साहन निर्माण करणाऱ्या सरकारी नियमांवर प्रभाव टाकू शकतात.
|
|
|
|
**डेटा नीतिशास्त्र** हे एक [नवीन नीतिशास्त्र शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) आहे, जे "_डेटा, अल्गोरिदम आणि संबंधित पद्धती_" यांच्याशी संबंधित नैतिक समस्यांचा अभ्यास आणि मूल्यांकन करते. येथे, **"डेटा"** म्हणजे निर्मिती, नोंद, व्यवस्थापन, प्रक्रिया, प्रसार, सामायिकरण आणि वापराशी संबंधित क्रिया, **"अल्गोरिदम"** म्हणजे AI, एजंट्स, मशीन लर्निंग आणि रोबोट्स, आणि **"पद्धती"** म्हणजे जबाबदार नवकल्पना, प्रोग्रामिंग, हॅकिंग आणि नीतिशास्त्र कोड्स यासारख्या विषयांवर लक्ष केंद्रित करते.
|
|
|
|
**लागू नीतिशास्त्र** म्हणजे [नैतिक विचारांचा व्यावहारिक उपयोग](https://en.wikipedia.org/wiki/Applied_ethics). हे _वास्तविक-जगातील कृती, उत्पादने आणि प्रक्रिया_ यांच्या संदर्भात नैतिक मुद्द्यांचा सक्रियपणे तपास करण्याची प्रक्रिया आहे आणि आपल्या परिभाषित नैतिक मूल्यांशी सुसंगत राहण्यासाठी सुधारात्मक उपाययोजना करणे.
|
|
|
|
**नीतिशास्त्र संस्कृती** म्हणजे [_लागू नीतिशास्त्राचे_ कार्यान्वयन](https://hbr.org/2019/05/how-to-design-an-ethical-organization) सुनिश्चित करणे, जेणेकरून आपल्या नैतिक तत्त्वे आणि पद्धती संपूर्ण संस्थेमध्ये सातत्यपूर्ण आणि स्केलेबल पद्धतीने स्वीकारल्या जातील. यशस्वी नीतिशास्त्र संस्कृती संस्थात्मक स्तरावर नैतिक तत्त्वे परिभाषित करतात, अनुपालनासाठी अर्थपूर्ण प्रोत्साहन प्रदान करतात आणि प्रत्येक स्तरावर इच्छित वर्तन प्रोत्साहित करून आणि वाढवून नीतिशास्त्र मानकांना बळकट करतात.
|
|
|
|
## नीतिशास्त्र संकल्पना
|
|
|
|
या विभागात, आपण **सामायिक मूल्ये** (तत्त्वे) आणि **नीतिक आव्हाने** (समस्या) यासारख्या संकल्पनांवर चर्चा करू - आणि **केस स्टडीज**चा अभ्यास करू, ज्यामुळे तुम्हाला या संकल्पना वास्तविक-जगातील संदर्भात समजण्यास मदत होईल.
|
|
|
|
### 1. नीतिशास्त्र तत्त्वे
|
|
|
|
प्रत्येक डेटा नीतिशास्त्र धोरणाची सुरुवात _नीतिक तत्त्वे_ परिभाषित करून होते - "सामायिक मूल्ये" जी स्वीकारार्ह वर्तनांचे वर्णन करतात आणि आपल्या डेटा आणि AI प्रकल्पांमध्ये अनुपालन कृतींना मार्गदर्शन करतात. तुम्ही ही तत्त्वे वैयक्तिक किंवा संघ स्तरावर परिभाषित करू शकता. तथापि, बहुतेक मोठ्या संस्था कॉर्पोरेट स्तरावर परिभाषित आणि सर्व संघांमध्ये सातत्याने लागू केलेल्या _नीतिक AI_ मिशन स्टेटमेंट किंवा फ्रेमवर्कमध्ये ही तत्त्वे रेखाटतात.
|
|
|
|
**उदाहरण:** Microsoft च्या [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन स्टेटमेंटमध्ये असे म्हटले आहे: _"आम्ही अशा नैतिक तत्त्वांनी प्रेरित AI च्या प्रगतीसाठी वचनबद्ध आहोत जी लोकांना प्रथम स्थान देतात"_ - खालील फ्रेमवर्कमध्ये 6 नैतिक तत्त्वे ओळखली आहेत:
|
|
|
|
|
|
|
|
चला या तत्त्वांचा थोडक्यात अभ्यास करूया. _पारदर्शकता_ आणि _जबाबदारी_ ही मूलभूत मूल्ये आहेत ज्यावर इतर तत्त्वे आधारित आहेत - त्यामुळे तिथून सुरुवात करूया:
|
|
|
|
* [**जबाबदारी**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा आणि AI ऑपरेशन्ससाठी, तसेच या नैतिक तत्त्वांचे पालन करण्यासाठी व्यावसायिकांना _जबाबदार_ बनवते.
|
|
* [**पारदर्शकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) सुनिश्चित करते की डेटा आणि AI क्रिया वापरकर्त्यांसाठी _समजण्यासारख्या_ (स्पष्ट) असतील, निर्णयांच्या मागील काय आणि का याचे स्पष्टीकरण देते.
|
|
* [**न्याय**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI सर्व लोकांशी _न्यायाने_ वागेल याची खात्री करण्यावर लक्ष केंद्रित करते, डेटा आणि प्रणालींमधील कोणत्याही प्रणालीगत किंवा अप्रत्यक्ष सामाजिक-तांत्रिक पूर्वग्रहांना संबोधित करते.
|
|
* [**विश्वसनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI _सुसंगतपणे_ परिभाषित मूल्यांसह वागते याची खात्री करते, संभाव्य हानी किंवा अनपेक्षित परिणाम कमी करते.
|
|
* [**गोपनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - डेटा वंशावळ समजून घेणे आणि वापरकर्त्यांना _डेटा गोपनीयता आणि संबंधित संरक्षण_ प्रदान करणे याबद्दल आहे.
|
|
* [**समावेशकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - हेतूपूर्वक AI सोल्यूशन्स डिझाइन करण्याबद्दल आहे, त्यांना _विविध मानवी गरजा_ आणि क्षमता पूर्ण करण्यासाठी अनुकूल बनवणे.
|
|
|
|
> 🚨 तुमचे डेटा नीतिशास्त्र मिशन स्टेटमेंट काय असू शकते याचा विचार करा. इतर संस्थांकडून नैतिक AI फ्रेमवर्क एक्सप्लोर करा - येथे [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), आणि [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) यांचे उदाहरणे आहेत. त्यांच्यात कोणती सामायिक मूल्ये आहेत? ही तत्त्वे त्यांच्या AI उत्पादन किंवा उद्योगाशी कशी संबंधित आहेत?
|
|
|
|
### 2. नीतिशास्त्र आव्हाने
|
|
|
|
एकदा नैतिक तत्त्वे परिभाषित झाल्यानंतर, पुढील पाऊल म्हणजे आपल्या डेटा आणि AI कृतींचे मूल्यांकन करणे, त्या सामायिक मूल्यांशी सुसंगत आहेत का हे पाहणे. तुमच्या कृतींचा विचार दोन श्रेणींमध्ये करा: _डेटा संकलन_ आणि _अल्गोरिदम डिझाइन_.
|
|
|
|
डेटा संकलनासह, कृतींमध्ये **वैयक्तिक डेटा** किंवा ओळखण्यायोग्य जिवंत व्यक्तींसाठी वैयक्तिक ओळखण्यायोग्य माहिती (PII) समाविष्ट असण्याची शक्यता आहे. यामध्ये [विविध प्रकारचे गैर-वैयक्तिक डेटा](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) समाविष्ट आहेत जे _एकत्रितपणे_ एखाद्या व्यक्तीला ओळखतात. नैतिक आव्हाने _डेटा गोपनीयता_, _डेटा मालकी_, आणि _माहितीपूर्ण संमती_ आणि _बौद्धिक मालमत्ता हक्क_ यासारख्या संबंधित विषयांशी संबंधित असू शकतात.
|
|
|
|
अल्गोरिदम डिझाइनसह, कृतींमध्ये **डेटासेट्स** गोळा करणे आणि व्यवस्थापित करणे, नंतर त्यांचा वापर करून **डेटा मॉडेल्स** तयार करणे आणि तैनात करणे समाविष्ट असेल, जे वास्तविक-जगातील संदर्भांमध्ये परिणामांची भविष्यवाणी करतात किंवा निर्णय स्वयंचलित करतात. नैतिक आव्हाने _डेटासेट पूर्वग्रह_, _डेटा गुणवत्ता_ समस्या, _अन्याय_ आणि अल्गोरिदममधील _चुकीचे प्रतिनिधित्व_ यामुळे उद्भवू शकतात - ज्यामध्ये काही समस्या प्रणालीगत असू शकतात.
|
|
|
|
दोन्ही प्रकरणांमध्ये, नीतिशास्त्र आव्हाने अशा क्षेत्रांना अधोरेखित करतात जिथे आपल्या कृतींना सामायिक मूल्यांशी संघर्ष होण्याची शक्यता असते. या चिंतांचा शोध घेण्यासाठी, कमी करण्यासाठी, कमी करण्यासाठी किंवा दूर करण्यासाठी - आपल्याला आपल्या कृतींशी संबंधित नैतिक "होय/नाही" प्रश्न विचारण्याची आवश्यकता आहे आणि नंतर आवश्यकतेनुसार सुधारात्मक कृती करणे आवश्यक आहे. चला काही नैतिक आव्हाने आणि त्यांनी उपस्थित केलेल्या नैतिक प्रश्नांचा अभ्यास करूया:
|
|
|
|
#### 2.1 डेटा मालकी
|
|
|
|
डेटा संकलनात अनेकदा डेटा विषयांना ओळखणारा वैयक्तिक डेटा समाविष्ट असतो. [डेटा मालकी](https://permission.io/blog/data-ownership) म्हणजे डेटा निर्मिती, प्रक्रिया आणि प्रसाराशी संबंधित _नियंत्रण_ आणि [_वापरकर्ता हक्क_](https://permission.io/blog/data-ownership).
|
|
|
|
आपल्याला विचारायचे नैतिक प्रश्न:
|
|
* डेटा कोणाचा आहे? (वापरकर्ता की संस्था)
|
|
* डेटा विषयांना कोणते हक्क आहेत? (उदा: प्रवेश, विलोपन, पोर्टेबिलिटी)
|
|
* संस्थांना कोणते हक्क आहेत? (उदा: खोट्या वापरकर्ता पुनरावलोकनांचे सुधारणा)
|
|
|
|
#### 2.2 माहितीपूर्ण संमती
|
|
|
|
[माहितीपूर्ण संमती](https://legaldictionary.net/informed-consent/) म्हणजे वापरकर्त्यांनी (डेटा विषयांनी) कृतीसाठी (जसे की डेटा संकलन) _संपूर्ण समज_ सह परवानगी देणे, ज्यामध्ये उद्देश, संभाव्य धोके आणि पर्याय यांचा समावेश आहे.
|
|
|
|
येथे विचारायचे प्रश्न:
|
|
* वापरकर्त्याने (डेटा विषयाने) डेटा कॅप्चर आणि वापरासाठी परवानगी दिली का?
|
|
* वापरकर्त्याला डेटा कॅप्चर करण्याचा उद्देश समजला का?
|
|
* वापरकर्त्याला त्यांच्या सहभागामुळे होणाऱ्या संभाव्य धोके समजले का?
|
|
|
|
#### 2.3 बौद्धिक मालमत्ता
|
|
|
|
[बौद्धिक मालमत्ता](https://en.wikipedia.org/wiki/Intellectual_property) म्हणजे मानवी उपक्रमातून निर्माण झालेली अमूर्त निर्मिती, ज्याला व्यक्ती किंवा व्यवसायांसाठी _आर्थिक मूल्य_ असू शकते.
|
|
|
|
येथे विचारायचे प्रश्न:
|
|
* गोळा केलेल्या डेटाला वापरकर्ता किंवा व्यवसायासाठी आर्थिक मूल्य होते का?
|
|
* येथे **वापरकर्त्याला** बौद्धिक मालमत्ता आहे का?
|
|
* येथे **संस्थेला** बौद्धिक मालमत्ता आहे का?
|
|
* जर हे हक्क अस्तित्वात असतील, तर आपण त्यांचे संरक्षण कसे करत आहोत?
|
|
|
|
#### 2.4 डेटा गोपनीयता
|
|
|
|
[डेटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) किंवा माहिती गोपनीयता म्हणजे वैयक्तिक ओळखण्यायोग्य माहितीच्या संदर्भात वापरकर्त्याच्या गोपनीयतेचे जतन आणि ओळख संरक्षित करणे.
|
|
|
|
येथे विचारायचे प्रश्न:
|
|
* वापरकर्त्यांचा (वैयक्तिक) डेटा हॅक आणि गळतीपासून सुरक्षित आहे का?
|
|
* वापरकर्त्यांचा डेटा फक्त अधिकृत वापरकर्त्यांना आणि संदर्भांनाच उपलब्ध आहे का?
|
|
* डेटा सामायिक किंवा प्रसारित केल्यावर वापरकर्त्यांची अज्ञातता जपली जाते का?
|
|
* अज्ञात डेटासेट्समधून वापरकर्त्याला पुन्हा ओळखता येऊ शकते का?
|
|
|
|
#### 2.5 विस्मरणाचा अधिकार
|
|
|
|
[विस्मरणाचा अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) किंवा [विलोपनाचा अधिकार](https://www.gdpreu.org/right-to-be-forgotten/) वापरकर्त्यांना अतिरिक्त वैयक्तिक डेटा संरक्षण प्रदान करतो. विशेषतः, हे वापरकर्त्यांना इंटरनेट शोधांमधून आणि इतर ठिकाणांहून वैयक्तिक डेटा हटविण्याची किंवा काढून टाकण्याची विनंती करण्याचा अधिकार देते, _विशिष्ट परिस्थितीत_ - त्यांना ऑनलाइन नवीन सुरुवात करण्याची परवानगी देते, त्यांच्या भूतकाळातील कृती त्यांच्याविरुद्ध धरल्या जात नाहीत.
|
|
|
|
येथे विचारायचे प्रश्न:
|
|
* प्रणाली डेटा विषयांना विलोपनाची विनंती करण्याची परवानगी देते का?
|
|
* वापरकर्त्याच्या संमतीच्या माघारीने स्वयंचलित विलोपन ट्रिगर करावे का?
|
|
* डेटा संमतीशिवाय किंवा बेकायदेशीर मार्गाने गोळा केला गेला होता का?
|
|
* डेटा गोपनीयतेसाठी सरकारी नियमांचे पालन केले आहे का?
|
|
|
|
#### 2.6 डेटासेट पूर्वग्रह
|
|
|
|
डेटासेट किंवा [संकलन पूर्वग्रह](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) म्हणजे अल्गोरिदम विकासासाठी _अप्रतिनिधिक_ डेटाचा उपसमुच्चय
|
|
[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) तपासते की अल्गोरिदम डिझाइन विशिष्ट उपसमूहांवर प्रणालीगत भेदभाव करते का, ज्यामुळे _वाटप_ (जिथे संसाधने त्या गटाला नाकारली जातात किंवा रोखली जातात) आणि _सेवेची गुणवत्ता_ (जिथे काही उपसमूहांसाठी AI इतरांइतकी अचूक नसते) यामध्ये [संभाव्य हानी](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) होऊ शकते.
|
|
|
|
येथे विचार करण्यासाठी काही प्रश्न:
|
|
* विविध उपसमूह आणि परिस्थितींसाठी मॉडेल अचूकतेचे मूल्यांकन केले का?
|
|
* संभाव्य हानींसाठी (उदा., स्टीरिओटायपिंग) प्रणालीचे बारकाईने परीक्षण केले का?
|
|
* ओळखलेल्या हानी कमी करण्यासाठी डेटा सुधारित किंवा मॉडेल पुन्हा प्रशिक्षित करू शकतो का?
|
|
|
|
[AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) सारख्या संसाधनांचा अभ्यास करा.
|
|
|
|
#### 2.9 चुकीचे प्रतिनिधित्व
|
|
|
|
[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) म्हणजे आपण प्रामाणिकपणे नोंदवलेल्या डेटामधून मिळालेल्या अंतर्दृष्टींचा वापर करून इच्छित कथानकाला पाठिंबा देण्यासाठी फसवणूक करत आहोत का, हे विचारणे.
|
|
|
|
येथे विचार करण्यासाठी काही प्रश्न:
|
|
* आपण अपूर्ण किंवा अचूक नसलेला डेटा नोंदवत आहोत का?
|
|
* आपण डेटा अशा प्रकारे व्हिज्युअलाइज करत आहोत का ज्यामुळे चुकीचे निष्कर्ष काढले जातात?
|
|
* आपण निवडक सांख्यिकीय तंत्रांचा वापर करून परिणामांमध्ये फेरफार करत आहोत का?
|
|
* वेगळे निष्कर्ष देऊ शकणाऱ्या पर्यायी स्पष्टीकरणांचा विचार केला आहे का?
|
|
|
|
#### 2.10 स्वातंत्र्याची निवड
|
|
[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तेव्हा होते जेव्हा प्रणाली "निवड आर्किटेक्चर" निर्णय घेणाऱ्या अल्गोरिदमचा वापर करून लोकांना प्राधान्य दिलेल्या परिणामाकडे वळवते, परंतु त्यांना पर्याय आणि नियंत्रण असल्याचे भासवते. हे [dark patterns](https://www.darkpatterns.org/) वापरकर्त्यांना सामाजिक आणि आर्थिक हानी पोहोचवू शकतात. कारण वापरकर्त्यांच्या निर्णयांचा वर्तन प्रोफाइलवर परिणाम होतो, त्यामुळे हे कृती भविष्यातील निवडींवर प्रभाव टाकू शकतात आणि हानी वाढवू शकतात.
|
|
|
|
येथे विचार करण्यासाठी काही प्रश्न:
|
|
* वापरकर्त्याला त्या निवडीचे परिणाम समजले का?
|
|
* वापरकर्त्याला (पर्यायी) निवडी आणि त्यांचे फायदे व तोटे माहीत होते का?
|
|
* वापरकर्ता नंतर स्वयंचलित किंवा प्रभावित निवड उलटवू शकतो का?
|
|
|
|
### 3. केस स्टडीज
|
|
|
|
या नैतिक आव्हानांना वास्तव जीवनातील संदर्भात समजून घेण्यासाठी, अशा केस स्टडीजकडे पाहणे उपयुक्त ठरते ज्या व्यक्ती आणि समाजावर होणाऱ्या संभाव्य हानी आणि परिणाम दाखवतात, जेव्हा अशा नैतिक उल्लंघनांकडे दुर्लक्ष केले जाते.
|
|
|
|
उदाहरणे खाली दिली आहेत:
|
|
|
|
| नैतिक आव्हान | केस स्टडी |
|
|
|--- |--- |
|
|
| **सजग संमती** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - आफ्रिकन अमेरिकन पुरुषांना मोफत वैद्यकीय उपचार देण्याचे आश्वासन दिले गेले _पण फसवले गेले_, संशोधकांनी त्यांना त्यांच्या निदानाबद्दल किंवा उपचारांच्या उपलब्धतेबद्दल माहिती दिली नाही. अनेकांचा मृत्यू झाला आणि त्यांच्या जोडीदारांवर किंवा मुलांवर परिणाम झाला; हा अभ्यास 40 वर्षे चालला. |
|
|
| **डेटा गोपनीयता** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) संशोधकांना _50K ग्राहकांच्या 10M अज्ञात चित्रपट रेटिंग_ प्रदान केले गेले, परंतु संशोधकांनी बाह्य डेटासेट्स (उदा., IMDb टिप्पण्या) मध्ये वैयक्तिकरित्या ओळखण्यायोग्य डेटा जोडून काही Netflix सदस्यांना "डीनॉनिमाइझ" केले.|
|
|
| **संकलन पूर्वग्रह** | 2013 - बोस्टन शहराने [Street Bump](https://www.boston.gov/transportation/street-bump) नावाचे अॅप विकसित केले, ज्यामुळे नागरिकांना खड्ड्यांची माहिती देण्याची परवानगी मिळाली. परंतु [कमी उत्पन्न गटातील लोकांना कार आणि फोनचा कमी प्रवेश होता](https://hbr.org/2013/04/the-hidden-biases-in-big-data), ज्यामुळे त्यांच्या रस्त्याच्या समस्या या अॅपमध्ये अदृश्य झाल्या. विकासकांनी न्याय्यतेसाठी _समान प्रवेश आणि डिजिटल विभाग_ समस्यांवर काम केले. |
|
|
| **अल्गोरिदम निष्पक्षता** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ने लिंग वर्गीकरण AI उत्पादनांच्या अचूकतेचे मूल्यांकन केले, महिलांसाठी आणि रंगाच्या व्यक्तींसाठी अचूकतेतील अंतर उघड केले. [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ने पुरुषांपेक्षा महिलांना कमी क्रेडिट दिले. दोन्ही उदाहरणे अल्गोरिदम पूर्वग्रहांमुळे सामाजिक-आर्थिक हानी दर्शवतात.|
|
|
| **डेटा चुकीचे प्रतिनिधित्व** | 2020 - [Georgia Department of Public Health ने COVID-19 चार्ट्स](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) प्रसिद्ध केले ज्यामुळे नागरिकांना प्रकरणांतील ट्रेंडबद्दल चुकीचे दिशाभूल होईल असे वाटले. हे व्हिज्युअलायझेशन युक्त्यांद्वारे चुकीचे प्रतिनिधित्व दाखवते. |
|
|
| **स्वातंत्र्याची निवड** | 2020 - शिक्षण अॅप [ABCmouse ने FTC तक्रारीचे $10M देऊन सेटलमेंट केले](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जिथे पालकांना सदस्यता रद्द करता येत नव्हती. हे निवड आर्किटेक्चरमधील dark patterns दाखवते, जिथे वापरकर्त्यांना संभाव्य हानिकारक निवडींकडे वळवले गेले. |
|
|
| **डेटा गोपनीयता आणि वापरकर्ता हक्क** | 2021 - Facebook [डेटा उल्लंघन](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ज्यामुळे 530M वापरकर्त्यांचा डेटा उघड झाला, ज्यामुळे FTC ला $5B सेटलमेंट मिळाले. परंतु वापरकर्त्यांना उल्लंघनाबद्दल सूचित करण्यास नकार दिला, डेटा पारदर्शकता आणि प्रवेशाबाबत वापरकर्त्यांच्या हक्कांचे उल्लंघन केले. |
|
|
|
|
अधिक केस स्टडीज शोधायच्या आहेत? या संसाधनांचा अभ्यास करा:
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - विविध उद्योगांतील नैतिक दुविधा.
|
|
* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - महत्त्वाच्या केस स्टडीजचा अभ्यास.
|
|
* [Where things have gone wrong](https://deon.drivendata.org/examples/) - Deon चेकलिस्टसह उदाहरणे.
|
|
|
|
> 🚨 तुम्ही पाहिलेल्या केस स्टडीजबद्दल विचार करा - तुम्हाला तुमच्या जीवनात अशाच प्रकारच्या नैतिक आव्हानाचा अनुभव आला आहे का? आपण चर्चा केलेल्या नैतिक आव्हानांपैकी एकाचे उदाहरण देणारी आणखी एक केस स्टडी तुम्हाला आठवते का?
|
|
|
|
## लागू नैतिकता
|
|
|
|
आम्ही नैतिकतेच्या संकल्पना, आव्हाने आणि वास्तव जीवनातील संदर्भातील केस स्टडीजबद्दल चर्चा केली. पण प्रकल्पांमध्ये नैतिक तत्त्वे आणि पद्धती _लागू_ करण्यास कसे सुरुवात करायची? आणि चांगल्या प्रशासनासाठी या पद्धती _ऑपरेशनलाइज_ कशा करायच्या? चला काही वास्तव उपाय शोधूया:
|
|
|
|
### 1. व्यावसायिक कोड्स
|
|
|
|
व्यावसायिक कोड्स हे सदस्यांना त्यांच्या नैतिक तत्त्वांचे पालन करण्यासाठी "प्रोत्साहन" देण्यासाठी संस्थांसाठी एक पर्याय प्रदान करतात. कोड्स हे व्यावसायिक वर्तनासाठी _नैतिक मार्गदर्शक_ आहेत, ज्यामुळे कर्मचारी किंवा सदस्य त्यांच्या संस्थेच्या तत्त्वांशी सुसंगत निर्णय घेऊ शकतात.
|
|
|
|
उदाहरणे:
|
|
* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics
|
|
* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (2013 मध्ये तयार)
|
|
* [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 पासून)
|
|
|
|
> 🚨 तुम्ही व्यावसायिक अभियांत्रिकी किंवा डेटा सायन्स संस्थेचे सदस्य आहात का? त्यांच्या साइटवर शोधा की त्यांनी व्यावसायिक नैतिकतेचा कोड परिभाषित केला आहे का. यामध्ये त्यांच्या नैतिक तत्त्वांबद्दल काय म्हटले आहे? ते सदस्यांना कोडचे पालन करण्यासाठी कसे "प्रोत्साहित" करत आहेत?
|
|
|
|
### 2. नैतिकता चेकलिस्ट
|
|
|
|
व्यावसायिक कोड्स व्यावसायिकांकडून अपेक्षित _नैतिक वर्तन_ परिभाषित करतात, परंतु त्यांना मोठ्या प्रमाणावर प्रकल्पांमध्ये अंमलबजावणीसाठी [मर्यादा आहेत](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md). त्याऐवजी, अनेक डेटा सायन्स तज्ञ [चेकलिस्टसाठी वकिली करतात](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), ज्यामुळे तत्त्वे पद्धतींशी जोडता येतात.
|
|
|
|
उदाहरणे:
|
|
* [Deon](https://deon.drivendata.org/) - उद्योगाच्या शिफारशींवर आधारित सामान्य-उद्देश डेटा नैतिकता चेकलिस्ट.
|
|
* [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - माहिती हाताळणी पद्धतींसाठी मार्गदर्शन.
|
|
* [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI विकास चक्रांमध्ये न्याय्यतेच्या तपासणीसाठी तयार.
|
|
* [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - नैतिक मुद्द्यांच्या प्राथमिक अन्वेषणासाठी फ्रेमवर्क.
|
|
|
|
### 3. नैतिकता नियम
|
|
|
|
नैतिकता म्हणजे सामायिक मूल्ये परिभाषित करणे आणि _स्वेच्छेने_ योग्य गोष्ट करणे. **अनुपालन** म्हणजे _कायद्याचे पालन करणे_ जिथे परिभाषित केले आहे. **प्रशासन** म्हणजे संस्थांमध्ये नैतिक तत्त्वे अंमलात आणण्यासाठी आणि कायद्याचे पालन करण्यासाठी सर्व मार्ग.
|
|
|
|
उदाहरणे:
|
|
* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - वैयक्तिक माहितीच्या वापरावर नियंत्रण.
|
|
* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - वैयक्तिक आरोग्य डेटा संरक्षित करते.
|
|
* `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - वापरकर्ता हक्क, डेटा संरक्षण आणि गोपनीयता प्रदान करते.
|
|
|
|
> 🚨 युरोपियन युनियनने परिभाषित केलेले GDPR (General Data Protection Regulation) आज सर्वात प्रभावी डेटा गोपनीयता नियमांपैकी एक आहे. तुम्हाला माहित आहे का की ते नागरिकांच्या डिजिटल गोपनीयता आणि वैयक्तिक डेटाचे संरक्षण करण्यासाठी [8 वापरकर्ता हक्क](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) देखील परिभाषित करते?
|
|
|
|
### 4. नैतिकता संस्कृती
|
|
|
|
_अनुपालन_ (कायद्याचे पालन करणे) आणि [प्रणालीगत मुद्द्यांना](https://www.coursera.org/learn/data-science-ethics/home/week/4) संबोधित करणे यामध्ये एक अमूर्त अंतर आहे.
|
|
|
|
हे [नैतिकता संस्कृती परिभाषित करण्यासाठी सहकार्यात्मक दृष्टिकोन](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) आवश्यक आहे, जे भावनिक कनेक्शन आणि उद्योगातील _सुसंगत सामायिक मूल्ये_ तयार करतात.
|
|
|
|
---
|
|
## [पाठानंतरचा क्विझ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯
|
|
## पुनरावलोकन आणि स्व-अभ्यास
|
|
|
|
कोर्सेस आणि पुस्तके नैतिकतेच्या मुख्य संकल्पना आणि आव्हान समजून घेण्यास मदत करतात, तर केस स्टडीज आणि साधने वास्तव जीवनातील नैतिकता पद्धतींमध्ये मदत करतात.
|
|
|
|
* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft कडून न्याय्यतेवर धडा.
|
|
* [जवाबदार AI चे तत्त्वे](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn कडून मोफत शिकण्याचा मार्ग.
|
|
* [नैतिकता आणि डेटा सायन्स](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ईबुक (M. Loukides, H. Mason इ.)
|
|
* [डेटा सायन्स नैतिकता](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विद्यापीठाचा ऑनलाइन कोर्स.
|
|
* [एथिक्स अनरॅप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विद्यापीठातील केस स्टडीज.
|
|
|
|
# असाइनमेंट
|
|
|
|
[डेटा नैतिकतेवरील केस स्टडी लिहा](assignment.md)
|
|
|
|
---
|
|
|
|
**अस्वीकरण**:
|
|
हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) वापरून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपया लक्षात ठेवा की स्वयंचलित भाषांतरे त्रुटी किंवा अचूकतेच्या अभावाने युक्त असू शकतात. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही. |