# డేటా నైతికతకు పరిచయం |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| | డేటా సైన్స్ నైతికత - _స్కెచ్ నోట్ [@nitya](https://twitter.com/nitya) ద్వారా_ | --- మేము అందరం డేటా ప్రపంచంలో నివసిస్తున్న డేటా పౌరులు. మార్కెట్ ధోరణులు 2022 నాటికి, 3 పెద్ద సంస్థలలో 1 సంస్థ తమ డేటాను ఆన్‌లైన్ [మార్కెట్‌ప్లేస్‌లు మరియు ఎక్స్ఛేంజ్‌లు](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) ద్వారా కొనుగోలు చేసి అమ్ముతుందని చెబుతున్నాయి. **యాప్ డెవలపర్లు**గా, డేటా ఆధారిత అవగాహనలను మరియు అల్గోరిథం ఆధారిత ఆటోమేషన్‌ను రోజువారీ వినియోగదారుల అనుభవాలలో సులభంగా మరియు తక్కువ ఖర్చుతో సమీకరించగలుగుతాము. కానీ AI విస్తృతంగా ఉపయోగించబడుతున్నందున, అలాంటి అల్గోరిథాల [ఆయుధీకరణ](https://www.youtube.com/watch?v=TQHs8SA1qpk) వల్ల కలిగే ప్రమాదాలను కూడా అర్థం చేసుకోవాలి. ధోరణులు సూచిస్తున్నాయి 2025 నాటికి, మేము [180 జెట్టాబైట్ల](https://www.statista.com/statistics/871513/worldwide-data-created/) కంటే ఎక్కువ డేటాను ఉత్పత్తి చేసి వినియోగిస్తాము. **డేటా సైంటిస్టులు**కి, ఈ సమాచార విప్లవం వ్యక్తిగత మరియు ప్రవర్తనా డేటాకు అపూర్వమైన ప్రాప్తిని అందిస్తుంది. దీని ద్వారా, వివరమైన వినియోగదారు ప్రొఫైల్స్ నిర్మించడం మరియు నిర్ణయాలను సున్నితంగా ప్రభావితం చేయడం సాధ్యం అవుతుంది—అనేకసార్లు ఇది [స్వేచ్ఛా ఎంపిక మాయ](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/)ను కలిగిస్తుంది. ఇది వినియోగదారులను ఇష్టమైన ఫలితాల వైపు నడిపించడానికి ఉపయోగించవచ్చు, కానీ ఇది డేటా గోప్యత, స్వతంత్రత మరియు అల్గోరిథమిక్ ప్రభావం యొక్క నైతిక పరిమితులపై కీలక ప్రశ్నలను కూడా రేకెత్తిస్తుంది. డేటా నైతికత ఇప్పుడు డేటా సైన్స్ మరియు ఇంజనీరింగ్ కోసం _అవసరమైన రక్షణా గడపలు_ అయింది, మా డేటా ఆధారిత చర్యల వల్ల కలిగే ప్రమాదాలు మరియు అనుకోని పరిణామాలను తగ్గించడంలో సహాయపడుతుంది. [గార్ట్నర్ హైప్ సైకిల్ ఫర్ AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) డిజిటల్ నైతికత, బాధ్యతాయుత AI, మరియు AI పాలనలో సంబంధిత ధోరణులను గుర్తించి, AI యొక్క _ప్రజాస్వామ్యీకరణ_ మరియు _పరిశ్రమీకరణ_ వంటి పెద్ద మెగాథ్రెండ్లకు కీలక డ్రైవర్‌లుగా పేర్కొంటుంది. ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) ఈ పాఠంలో, మేము డేటా నైతికత యొక్క ఆసక్తికరమైన ప్రాంతాన్ని అన్వేషిస్తాము - ప్రాథమిక భావనలు మరియు సవాళ్లు నుండి, కేసు అధ్యయనాలు మరియు పాలన వంటి వర్తింపజేసిన AI భావనల వరకు - ఇవి డేటా మరియు AIతో పని చేసే బృందాలు మరియు సంస్థలలో నైతికత సంస్కృతిని స్థాపించడంలో సహాయపడతాయి. ## [పూర్వ-ఉపన్యాస క్విజ్](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯 ## ప్రాథమిక నిర్వచనాలు మొదట ప్రాథమిక పదజాలాన్ని అర్థం చేసుకుందాం. "నైతికత" అనే పదం [గ్రీకు పదం "ethikos"](https://en.wikipedia.org/wiki/Ethics) (మరియు దాని మూలం "ethos") నుండి వచ్చింది, దీని అర్థం _చరిత్ర లేదా నైతిక స్వభావం_. **నైతికత** అనేది సమాజంలో మన ప్రవర్తనను నియంత్రించే పంచుకున్న విలువలు మరియు నైతిక సూత్రాల గురించి. నైతికత చట్టాలపై ఆధారపడదు, కానీ "సరైనది vs. తప్పు" అనే విస్తృతంగా అంగీకరించబడిన ప్రమాణాలపై ఆధారపడుతుంది. అయితే, నైతిక ఆలోచనలు కార్పొరేట్ పాలన చర్యలు మరియు ప్రభుత్వ నియంత్రణలను ప్రభావితం చేసి, అనుగుణతకు మరింత ప్రేరణలను సృష్టించవచ్చు. **డేటా నైతికత** అనేది [నూతన నైతిక శాఖ](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ఇది "_డేటా, అల్గోరిథమ్స్ మరియు సంబంధిత ఆచరణల_ నైతిక సమస్యలను అధ్యయనం చేసి, మూల్యాంకనం చేస్తుంది". ఇక్కడ, **"డేటా"** ఉత్పత్తి, రికార్డింగ్, సంరక్షణ, ప్రాసెసింగ్, ప్రచారం, పంచుకోవడం మరియు వినియోగం వంటి చర్యలపై దృష్టి సారిస్తుంది, **"అల్గోరిథమ్స్"** AI, ఏజెంట్లు, మెషీన్ లెర్నింగ్ మరియు రోబోట్లపై దృష్టి సారిస్తుంది, మరియు **"ఆచరణలు"** బాధ్యతాయుత ఆవిష్కరణ, ప్రోగ్రామింగ్, హాకింగ్ మరియు నైతిక కోడ్స్ వంటి అంశాలపై దృష్టి సారిస్తుంది. **వర్తింపజేసిన నైతికత** అనేది [నైతిక ఆలోచనల ప్రాక్టికల్ వర్తన](https://en.wikipedia.org/wiki/Applied_ethics). ఇది _వాస్తవ ప్రపంచ చర్యలు, ఉత్పత్తులు మరియు ప్రక్రియల_ సందర్భంలో నైతిక సమస్యలను సక్రియంగా పరిశీలించడం మరియు మా నిర్వచించిన నైతిక విలువలకు అనుగుణంగా ఉండేలా సరిచేసే చర్యలు తీసుకోవడం. **నైతికత సంస్కృతి** అనేది [_వర్తింపజేసిన నైతికతను ఆపరేషనల్ చేయడం_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) గురించి, మా నైతిక సూత్రాలు మరియు ఆచరణలు సంస్థ అంతటా సुसంపన్నంగా మరియు విస్తృతంగా అవలంబించబడేలా చూసుకోవడం. విజయవంతమైన నైతిక సంస్కృతులు సంస్థవ్యాప్తంగా నైతిక సూత్రాలను నిర్వచిస్తాయి, అనుగుణతకు అర్థవంతమైన ప్రేరణలను అందిస్తాయి, మరియు సంస్థలో ప్రతి స్థాయిలో కోరుకున్న ప్రవర్తనలను ప్రోత్సహించి, నైతిక ప్రమాణాలను బలోపేతం చేస్తాయి. ## నైతికత భావనలు ఈ విభాగంలో, మేము డేటా నైతికత కోసం **పంచుకున్న విలువలు** (సూత్రాలు) మరియు **నైతిక సవాళ్లు** (సమస్యలు) వంటి భావనలను చర్చిస్తాము - మరియు ఈ భావనలను వాస్తవ ప్రపంచ సందర్భాలలో అర్థం చేసుకోవడానికి సహాయపడే **కేసు అధ్యయనాలు**ని అన్వేషిస్తాము. ### 1. నైతిక సూత్రాలు ప్రతి డేటా నైతికత వ్యూహం _నైతిక సూత్రాలు_ని నిర్వచించడం ద్వారా ప్రారంభమవుతుంది - ఇవి "పంచుకున్న విలువలు"గా, అనుకూల ప్రవర్తనలను వివరించి, మా డేటా & AI ప్రాజెక్టులలో అనుగుణ చర్యలకు మార్గదర్శకంగా ఉంటాయి. మీరు వీటిని వ్యక్తిగత లేదా బృంద స్థాయిలో నిర్వచించవచ్చు. అయితే, పెద్ద సంస్థలలో ఇవి సాధారణంగా కార్పొరేట్ స్థాయిలో నిర్వచించబడిన _నైతిక AI_ మిషన్ స్టేట్‌మెంట్ లేదా ఫ్రేమ్‌వర్క్‌లో ఉంటాయి మరియు అన్ని బృందాలలో సక్రమంగా అమలు చేయబడతాయి. **ఉదాహరణ:** మైక్రోసాఫ్ట్ యొక్క [బాధ్యతాయుత AI](https://www.microsoft.com/en-us/ai/responsible-ai) మిషన్ స్టేట్‌మెంట్ ఇలా ఉంది: _"మేము ప్రజలను ముందుగా ఉంచే నైతిక సూత్రాల ద్వారా నడిచే AI అభివృద్ధికి కట్టుబడి ఉన్నాము"_ - క్రింద ఫ్రేమ్‌వర్క్‌లో 6 నైతిక సూత్రాలను గుర్తించింది: ![Responsible AI at Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) ఈ సూత్రాలను సంక్షిప్తంగా పరిశీలిద్దాం. _పారదర్శకత_ మరియు _బాధ్యతాయుతత_ అనేవి ఇతర సూత్రాల పునాది - కాబట్టి వాటితో ప్రారంభిద్దాం: * [**బాధ్యతాయుతత**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) అనేది ప్రాక్టిషనర్లను వారి డేటా & AI కార్యకలాపాలకు మరియు ఈ నైతిక సూత్రాలకు అనుగుణంగా ఉండటానికి _బాధ్యులుగా_ చేస్తుంది. * [**పారదర్శకత**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) డేటా మరియు AI చర్యలు వినియోగదారులకు _అర్థమయ్యేలా_ (వివరణాత్మకంగా) ఉండేలా చూసుకుంటుంది, నిర్ణయాల వెనుక ఉన్న ఏమి మరియు ఎందుకు అనే విషయాలను వివరిస్తుంది. * [**న్యాయం**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI అన్ని వ్యక్తులను సమానంగా వ్యవహరించేందుకు దృష్టి సారిస్తుంది, డేటా మరియు వ్యవస్థలలో ఉన్న ఏదైనా వ్యవస్థాపక లేదా అంతర్గత సామాజిక-సాంకేతిక పక్షపాతతలను పరిష్కరిస్తుంది. * [**నమ్మకదారితనం & భద్రత**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI నిర్వచించిన విలువలకు అనుగుణంగా _స్థిరంగా_ ప్రవర్తించేందుకు, ప్రమాదాలు లేదా అనుకోని పరిణామాలను తగ్గించేందుకు చూసుకుంటుంది. * [**గోప్యత & భద్రత**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - డేటా లైనేజ్‌ను అర్థం చేసుకోవడం మరియు వినియోగదారులకు _డేటా గోప్యత మరియు సంబంధిత రక్షణలు_ అందించడం గురించి. * [**సమగ్రత**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI పరిష్కారాలను ఉద్దేశ్యంతో రూపకల్పన చేయడం, వాటిని విస్తృతమైన మానవ అవసరాలు & సామర్థ్యాలకు అనుగుణంగా మార్చడం గురించి. > 🚨 మీ డేటా నైతికత మిషన్ స్టేట్‌మెంట్ ఏమిటి అని ఆలోచించండి. ఇతర సంస్థల నైతిక AI ఫ్రేమ్‌వర్క్‌లను అన్వేషించండి - ఇక్కడ [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), మరియు [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) నుండి ఉదాహరణలు ఉన్నాయి. అవి ఏ పంచుకున్న విలువలను కలిగి ఉన్నాయి? ఈ సూత్రాలు వారు పనిచేసే AI ఉత్పత్తి లేదా పరిశ్రమకు ఎలా సంబంధించాయి? ### 2. నైతిక సవాళ్లు నైతిక సూత్రాలు నిర్వచించిన తర్వాత, తదుపరి దశ మా డేటా మరియు AI చర్యలు ఆ పంచుకున్న విలువలకు అనుగుణంగా ఉన్నాయా అని అంచనా వేయడం. మీ చర్యలను రెండు వర్గాలలో ఆలోచించండి: _డేటా సేకరణ_ మరియు _అల్గోరిథం రూపకల్పన_. డేటా సేకరణలో, చర్యలు సాధారణంగా వ్యక్తిగత డేటా లేదా వ్యక్తిగతంగా గుర్తించగల సమాచారాన్ని (PII) కలిగి ఉంటాయి. ఇందులో [వివిధ రకాల వ్యక్తిగతేతర డేటా అంశాలు](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) ఉంటాయి, ఇవి _సమష్టిగా_ ఒక వ్యక్తిని గుర్తిస్తాయి. నైతిక సవాళ్లు _డేటా గోప్యత_, _డేటా యాజమాన్యం_, మరియు వినియోగదారుల కోసం _సూచిత అనుమతి_ మరియు _బుద్ధి స్వంత హక్కులు_ వంటి సంబంధిత అంశాలకు సంబంధించినవి కావచ్చు. అల్గోరిథం రూపకల్పనలో, చర్యలు **డేటాసెట్‌లను** సేకరించడం & సంరక్షించడం, తరువాత వాటిని ఉపయోగించి ఫలితాలను అంచనా వేయడం లేదా వాస్తవ ప్రపంచ సందర్భాలలో నిర్ణయాలను ఆటోమేట్ చేసే **డేటా మోడల్స్**ను శిక్షణ ఇవ్వడం మరియు అమలు చేయడం ఉంటాయి. నైతిక సవాళ్లు _డేటాసెట్ పక్షపాతత_, _డేటా నాణ్యత_, _అన్యాయం_, మరియు అల్గోరిథమ్స్‌లో _తప్పు ప్రాతినిధ్యం_ వంటి సమస్యల నుండి ఉత్పన్నమవుతాయి - వాటిలో కొన్ని వ్యవస్థాపక స్వభావం కలిగి ఉంటాయి. రెండు సందర్భాలలోనూ, నైతిక సవాళ్లు మా చర్యలు మా పంచుకున్న విలువలకు విరుద్ధంగా ఉండే ప్రాంతాలను హైలైట్ చేస్తాయి. ఈ సమస్యలను గుర్తించడానికి, తగ్గించడానికి, లేదా తొలగించడానికి - మేము మా చర్యలకు సంబంధించిన నైతిక "అవును/కాదు" ప్రశ్నలను అడిగి, అవసరమైన సరిదిద్దు చర్యలు తీసుకోవాలి. కొన్ని నైతిక సవాళ్లు మరియు అవి రేకెత్తించే నైతిక ప్రశ్నలను చూద్దాం: #### 2.1 డేటా యాజమాన్యం డేటా సేకరణ సాధారణంగా డేటా సబ్జెక్టులను గుర్తించగల వ్యక్తిగత డేటాను కలిగి ఉంటుంది. [డేటా యాజమాన్యం](https://permission.io/blog/data-ownership) అనేది డేటా సృష్టి, ప్రాసెసింగ్, మరియు ప్రచారం సంబంధించి _నియంత్రణ_ మరియు [_వినియోగదారు హక్కులు_](https://permission.io/blog/data-ownership) గురించి. మేము అడగాల్సిన నైతిక ప్రశ్నలు: * డేటా యజమాని ఎవరు? (వినియోగదారు లేదా సంస్థ) * డేటా సబ్జెక్టులకు ఏ హక్కులు ఉన్నాయి? (ఉదా: ప్రాప్తి, తొలగింపు, పోర్టబిలిటీ) * సంస్థలకు ఏ హక్కులు ఉన్నాయి? (ఉదా: దుర్వినియోగ వినియోగదారు సమీక్షలను సరిచేయడం) #### 2.2 సూచిత అనుమతి [సూచిత అనుమతి](https://legaldictionary.net/informed-consent/) అనేది వినియోగదారులు (ఉదా: డేటా సేకరణ) చర్యకు సంబంధించి సంబంధిత వాస్తవాలను పూర్తిగా అర్థం చేసుకుని అంగీకరించడం. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * వినియోగదారు (డేటా సబ్జెక్టు) డేటా సేకరణ మరియు వినియోగానికి అనుమతి ఇచ్చారా? * ఆ డేటా సేకరణ ఉద్దేశ్యాన్ని వినియోగదారు అర్థం చేసుకున్నారా? * వారి పాల్గొనడంలో ఉన్న ప్రమాదాలను వినియోగదారు అర్థం చేసుకున్నారా? #### 2.3 మేధో సంపత్తి [మేధో సంపత్తి](https://en.wikipedia.org/wiki/Intellectual_property) అనేది మానవ ప్రయత్నం ఫలితంగా ఉత్పన్నమయ్యే అమూర్త సృష్టులు, ఇవి వ్యక్తులు లేదా వ్యాపారాలకు _ఆర్థిక విలువ కలిగి ఉండవచ్చు_. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * సేకరించిన డేటాకు వినియోగదారు లేదా వ్యాపారానికి ఆర్థిక విలువ ఉందా? * **వినియోగదారుకు** ఇక్కడ మేధో సంపత్తి ఉందా? * **సంస్థకు** ఇక్కడ మేధో సంపత్తి ఉందా? * ఈ హక్కులు ఉన్నట్లయితే, వాటిని ఎలా రక్షిస్తున్నాము? #### 2.4 డేటా గోప్యత [డేటా గోప్యత](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) లేదా సమాచార గోప్యత అనేది వ్యక్తిగత గుర్తింపు సమాచారానికి సంబంధించి వినియోగదారుల గోప్యతను మరియు గుర్తింపును రక్షించడం. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * వినియోగదారుల (వ్యక్తిగత) డేటా హ్యాక్స్ మరియు లీక్‌ల నుండి రక్షించబడిందా? * వినియోగదారుల డేటా అనుమతించబడిన వినియోగదారులు మరియు సందర్భాలకు మాత్రమే అందుబాటులో ఉందా? * డేటా పంచుకున్నప్పుడు వినియోగదారుల అనామకత కాపాడబడిందా? * అనామక డేటాసెట్‌ల నుండి వినియోగదారును గుర్తించవచ్చా? #### 2.5 మర్చిపోవడానికి హక్కు [మర్చిపోవడానికి హక్కు](https://en.wikipedia.org/wiki/Right_to_be_forgotten) లేదా [తొలగింపు హక్కు](https://www.gdpreu.org/right-to-be-forgotten/) వినియోగదారులకు అదనపు వ్యక్తిగత డేటా రక్షణను అందిస్తుంది. ప్రత్యేక పరిస్థితులలో, ఇది వినియోగదారులకు ఇంటర్నెట్ సెర్చ్‌లు మరియు ఇతర ప్రదేశాల నుండి వ్యక్తిగత డేటాను తొలగించమని లేదా తీసివేయమని అభ్యర్థించే హక్కును ఇస్తుంది - గత చర్యలు వారి మీద ప్రభావం చూపకుండా కొత్తగా ఆన్‌లైన్ ప్రారంభించడానికి వీలు కల్పిస్తుంది. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * వ్యవస్థ డేటా సబ్జెక్టులకు తొలగింపు అభ్యర్థన చేయడానికి అనుమతిస్తుందా? * వినియోగదారు అనుమతి ఉపసంహరణ ఆటోమేటెడ్ తొలగింపును ప్రారంభించాలా? * అనుమతి లేకుండా లేదా చట్టవిరుద్ధంగా డేటా సేకరించబడిందా? * మేము డేటా గోప్యత కోసం ప్రభుత్వ నియంత్రణలకు అనుగుణంగా ఉన్నామా? #### 2.6 డేటాసెట్ పక్షపాతత డేటాసెట్ లేదా [సేకరణ పక్షపాతత](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) అనేది అల్గోరిథం అభివృద్ధికి _ప్రతినిధి కాని_ డేటా ఉపసమితిని ఎంచుకోవడం, ఇది వివిధ సమూహాల ఫలితాల్లో అన్యాయాన్ని సృష్టిస్తుంది. పక్షపాతత రకాలు ఎంపిక లేదా నమూనా పక్షపాతత, స్వచ్ఛంద పక్షపాతత, మరియు పరికరం పక్షపాతత. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * మేము ప్రతినిధి డేటా సబ్జెక్టుల సమూహాన్ని నియమించుకున్నామా? * మేము సేకరించిన లేదా సంరక్షించిన డేటాసెట్‌ను వివిధ పక్షపాతతలకు పరీక్షించామా? * కనుగొన్న పక్షపాతతలను తగ్గించగలమా లేదా తొలగించగలమా? #### 2.7 డేటా నాణ్యత [డేటా నాణ్యత](https://lakefs.io/data-quality-testing/) అనేది మా అల్గోరిథమ్స్ అభివృద్ధికి ఉపయోగించిన సంరక్షించిన డేటాసెట్ యొక్క సరైనతను పరిశీలించడం, మా AI ఉద్దేశానికి అవసరమైన ఖచ్చితత్వం మరియు స్థిరత్వం ప్రమాణాలను ఫీచర్లు మరియు రికార్డులు అందిస్తున్నాయా అని చూడటం. ఇక్కడ అన్వేషించాల్సిన ప్రశ్నలు: * మా ఉపయోగకరమైన సందర్భానికి సరైన _ఫీచర్లను_ మేము సేకరించామా? * వివిధ డేటా మూలాల నుండి డేటా _స్థిరంగా_ సేకరించబడిందా? * వివిధ పరిస్థితులు లేదా పరిస్థితుల కోసం డేటాసెట్ _పూర్తిగా_ ఉందా? * సమాచారం వాస్తవాన్ని ప్రతిబింబించడంలో _ఖచ్చితంగా_ సేకరించబడిందా? #### 2.8 అల్గోరిథం న్యాయం [అల్గోరిథం న్యాయం](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) అల్గోరిథం డిజైన్ నిర్దిష్ట డేటా సబ్జెక్టుల ఉపసమూహాలపై వ్యవస్థాపకంగా వివక్ష చూపుతున్నదో లేదో తనిఖీ చేస్తుంది, ఇది _విభజనలో_ (ఆ సమూహం నుండి వనరులు నిరాకరించబడటం లేదా నిలిపివేయబడటం) మరియు _సేవా నాణ్యతలో_ (కొన్ని ఉపసమూహాలకు AI మరికొంత మందికి ఉన్నంత ఖచ్చితంగా లేకపోవడం) [సంభావ్య నష్టాలకు](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) దారితీస్తుంది. ఇక్కడ పరిశీలించవలసిన ప్రశ్నలు: * మేము వివిధ ఉపసమూహాలు మరియు పరిస్థితుల కోసం మోడల్ ఖచ్చితత్వాన్ని అంచనా వేశామా? * మేము వ్యవస్థను సంభావ్య నష్టాల (ఉదా: స్టీరియోటైపింగ్) కోసం పరిశీలించామా? * గుర్తించిన నష్టాలను తగ్గించడానికి డేటాను సవరించగలమా లేదా మోడల్స్‌ను మళ్లీ శిక్షణ ఇవ్వగలమా? మరింత తెలుసుకోవడానికి [AI న్యాయం చెక్లిస్ట్లు](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) వంటి వనరులను అన్వేషించండి. #### 2.9 తప్పు ప్రాతినిధ్యం [డేటా తప్పు ప్రాతినిధ్యం](https://www.sciencedirect.com/topics/computer-science/misrepresentation) అనేది నిజాయితీగా నివేదించబడిన డేటా నుండి పొందిన అవగాహనలను మోసపూరితంగా కమ్యూనికేట్ చేస్తున్నామా అని అడగడం గురించి. ఇక్కడ పరిశీలించవలసిన ప్రశ్నలు: * మేము అసంపూర్ణ లేదా తప్పు డేటాను నివేదిస్తున్నామా? * మేము డేటాను తప్పుదారి చూపించే తీరులో విజువలైజ్ చేస్తున్నామా? * ఫలితాలను మోసపూరితంగా మార్చడానికి ఎంపిక చేసిన గణాంక పద్ధతులను ఉపయోగిస్తున్నామా? * వేరే వివరణలు ఉన్నాయా, అవి వేరే తీరులో ముగింపు ఇవ్వగలవా? #### 2.10 స్వేచ్ఛా ఎంపిక [స్వేచ్ఛా ఎంపిక మాయ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) అనేది వ్యవస్థ "ఎంపిక నిర్మాణాలు" నిర్ణయాల అల్గోరిథమ్స్ ఉపయోగించి ప్రజలను ఇష్టమైన ఫలితాన్ని తీసుకోవడానికి ప్రేరేపిస్తాయి, అయితే వారికి ఎంపికలు మరియు నియంత్రణ ఉన్నట్లు అనిపిస్తాయి. ఈ [డార్క్ ప్యాటర్న్స్](https://www.darkpatterns.org/) వినియోగదారులకు సామాజిక మరియు ఆర్థిక నష్టం కలిగించవచ్చు. వినియోగదారుల నిర్ణయాలు ప్రవర్తనా ప్రొఫైల్స్‌ను ప్రభావితం చేస్తాయి, కాబట్టి ఈ చర్యలు భవిష్యత్తు ఎంపికలను ప్రభావితం చేసి నష్టాలను పెంచవచ్చు. ఇక్కడ పరిశీలించవలసిన ప్రశ్నలు: * ఆ ఎంపిక చేయడంలో వినియోగదారుడు ప్రభావాలను అర్థం చేసుకున్నాడా? * వినియోగదారుడు (వేరే) ఎంపికలు మరియు వాటి లాభనష్టాలను తెలుసుకున్నాడా? * వినియోగదారుడు ఆ ఆటోమేటెడ్ లేదా ప్రభావిత ఎంపికను తర్వాత తిరిగి మార్చగలడా? ### 3. కేసు అధ్యయనాలు ఈ నైతిక సవాళ్లను వాస్తవ ప్రపంచ సందర్భాలలో ఉంచడానికి, వ్యక్తులు మరియు సమాజానికి సంభావ్య నష్టాలు మరియు పరిణామాలను హైలైట్ చేసే కేసు అధ్యయనాలను చూడటం సహాయపడుతుంది, ఇలాంటి నైతిక ఉల్లంఘనలను పక్కన పెట్టినప్పుడు. ఇక్కడ కొన్ని ఉదాహరణలు: | నైతిక సవాలు | కేసు అధ్యయనం | |--- |--- | | **సూచిత సమ్మతి** | 1972 - [టస్కీగీ సిఫిలిస్ అధ్యయనం](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - ఈ అధ్యయనంలో పాల్గొన్న ఆఫ్రికన్ అమెరికన్ పురుషులకు ఉచిత వైద్య సేవలు వాగ్దానం చేయబడినప్పటికీ, పరిశోధకులు వారి రోగ నిర్ధారణ లేదా చికిత్స అందుబాటును తెలియజేయకుండా మోసం చేశారు. అనేక మంది మరణించారు & భాగస్వాములు లేదా పిల్లలు ప్రభావితులయ్యారు; ఈ అధ్యయనం 40 సంవత్సరాలు కొనసాగింది. | | **డేటా గోప్యత** | 2007 - [నెట్‌ఫ్లిక్స్ డేటా ప్రైజ్](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) పరిశోధకులకు _50K కస్టమర్ల నుండి 10 మిలియన్ల అనామక సినిమా ర్యాంకింగ్స్_ అందజేసింది, సిఫార్సు అల్గోరిథమ్స్ మెరుగుపరచడానికి. అయితే, పరిశోధకులు అనామక డేటాను వ్యక్తిగత గుర్తింపు డేటాతో _బాహ్య డేటాసెట్‌లలో_ (ఉదా: IMDb వ్యాఖ్యలు) అనుసంధానించి కొంత నెట్‌ఫ్లిక్స్ సభ్యులను "డీ-అనామీకరైజ్" చేయగలిగారు.| | **సేకరణ పక్షపాతం** | 2013 - బోస్టన్ నగరం [స్ట్రీట్ బంప్](https://www.boston.gov/transportation/street-bump) అనే యాప్ అభివృద్ధి చేసింది, ఇది పౌరులు రోడ్డు లోపాలను నివేదించడానికి ఉపయోగపడింది, నగరానికి రోడ్డు డేటాను మెరుగుపరచడానికి. అయితే, [తక్కువ ఆదాయ వర్గాల ప్రజలకు కార్లు మరియు ఫోన్లకు తక్కువ ప్రాప్యత ఉండటం](https://hbr.org/2013/04/the-hidden-biases-in-big-data) వలన వారి రోడ్డు సమస్యలు ఈ యాప్‌లో కనిపించలేదు. అభివృద్ధి దారులు అకాడమిక్‌లతో కలిసి సమాన ప్రాప్యత మరియు డిజిటల్ విభజనల సమస్యలపై పని చేశారు. | | **అల్గోరిథమిక్ న్యాయం** | 2018 - MIT [జెండర్ షేడ్స్ స్టడీ](http://gendershades.org/overview.html) లింగ వర్గీకరణ AI ఉత్పత్తుల ఖచ్చితత్వాన్ని అంచనా వేసింది, మహిళలు మరియు రంగు వ్యక్తుల కోసం ఖచ్చితత్వంలో లోపాలను వెల్లడించింది. [2019 ఆపిల్ కార్డ్](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) మహిళలకు పురుషుల కంటే తక్కువ క్రెడిట్ ఇచ్చినట్లు కనిపించింది. ఇవి అల్గోరిథమిక్ పక్షపాతం కారణంగా సామాజిక-ఆర్థిక నష్టాలను చూపించాయి.| | **డేటా తప్పు ప్రాతినిధ్యం** | 2020 - [జార్జియా పబ్లిక్ హెల్త్ డిపార్ట్‌మెంట్ COVID-19 చార్ట్స్](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) విడుదల చేసింది, ఇది నిర్ధారిత కేసుల ధోరణులపై పౌరులను తప్పుదారి చూపించింది, x-అక్షంపై కాలానుక్రమం లేని క్రమంలో. ఇది విజువలైజేషన్ ట్రిక్స్ ద్వారా తప్పు ప్రాతినిధ్యాన్ని సూచిస్తుంది. | | **స్వేచ్ఛా ఎంపిక మాయ** | 2020 - లెర్నింగ్ యాప్ [ABCmouse FTC ఫిర్యాదు పరిష్కారానికి $10M చెల్లించింది](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ఇక్కడ తల్లిదండ్రులు రద్దు చేయలేని సబ్‌స్క్రిప్షన్ల కోసం చెల్లింపులకు బంధింపబడ్డారు. ఇది ఎంపిక నిర్మాణాలలో డార్క్ ప్యాటర్న్లను చూపిస్తుంది, వినియోగదారులను సంభావ్య నష్టకర ఎంపికల వైపు నడిపించింది. | | **డేటా గోప్యత & వినియోగదారు హక్కులు** | 2021 - ఫేస్‌బుక్ [డేటా లీక్](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 530 మిలియన్ల వినియోగదారుల డేటాను బయటపెట్టింది, FTCకి $5B సెటిల్‌మెంట్ చెల్లించింది. అయితే, లీక్ గురించి వినియోగదారులకు తెలియజేయడం నిరాకరించింది, ఇది డేటా పారదర్శకత మరియు ప్రాప్యతపై వినియోగదారు హక్కులను ఉల్లంఘించింది. | మరిన్ని కేసు అధ్యయనాలను అన్వేషించాలనుకుంటున్నారా? ఈ వనరులను చూడండి: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - వివిధ పరిశ్రమలలో నైతిక సంక్షోభాలు. * [డేటా సైన్స్ నైతికత కోర్సు](https://www.coursera.org/learn/data-science-ethics#syllabus) - ప్రముఖ కేసు అధ్యయనాలు. * [ఎక్కడ తప్పు జరిగింది](https://deon.drivendata.org/examples/) - డియాన్ చెక్లిస్ట్ ఉదాహరణలతో > 🚨 మీరు చూసిన కేసు అధ్యయనాల గురించి ఆలోచించండి - మీరు ఇలాంటి నైతిక సవాలు మీ జీవితంలో ఎదుర్కొన్నారా లేదా ప్రభావితులయ్యారా? ఈ విభాగంలో చర్చించిన నైతిక సవాళ్లలో ఒకదాన్ని చూపించే మరో కేసు అధ్యయనాన్ని మీరు గుర్తించగలరా? ## అన్వయించిన నైతికత మేము నైతిక సూత్రాలు, సవాళ్లు మరియు వాస్తవ ప్రపంచ సందర్భాలలో కేసు అధ్యయనాల గురించి మాట్లాడాము. కానీ మన ప్రాజెక్టుల్లో నైతిక సూత్రాలు మరియు ఆచరణలను _అన్వయించడం_ ఎలా ప్రారంభించాలి? మరియు ఈ ఆచరణలను మెరుగైన పాలన కోసం _ఆపరేషనలైజ్_ చేయడం ఎలా? కొన్ని వాస్తవ ప్రపంచ పరిష్కారాలను పరిశీలిద్దాం: ### 1. వృత్తిపరమైన కోడ్స్ వృత్తిపరమైన కోడ్స్ సంస్థలకు సభ్యులను వారి నైతిక సూత్రాలు మరియు మిషన్ స్టేట్‌మెంట్‌ను మద్దతు ఇవ్వడానికి "ప్రేరేపించే" ఒక ఎంపికను అందిస్తాయి. కోడ్స్ వృత్తిపరమైన ప్రవర్తనకు _నైతిక మార్గదర్శకాలు_, ఉద్యోగులు లేదా సభ్యులు తమ సంస్థ సూత్రాలకు అనుగుణంగా నిర్ణయాలు తీసుకోవడంలో సహాయపడతాయి. ఇవి సభ్యుల స్వచ్ఛంద అనుగుణతపై ఆధారపడి ఉంటాయి; అయితే, అనేక సంస్థలు సభ్యుల అనుగుణత కోసం అదనపు బహుమతులు మరియు శిక్షలను అందిస్తాయి. ఉదాహరణలు: * [ఆక్స్ఫర్డ్ మ్యూనిక్](http://www.code-of-ethics.org/code-of-conduct/) నైతిక కోడ్ * [డేటా సైన్స్ అసోసియేషన్](http://datascienceassn.org/code-of-conduct.html) ప్రవర్తన కోడ్ (2013లో సృష్టించబడింది) * [ACM నైతికత మరియు వృత్తిపరమైన ప్రవర్తన కోడ్](https://www.acm.org/code-of-ethics) (1993 నుండి) > 🚨 మీరు వృత్తిపరమైన ఇంజనీరింగ్ లేదా డేటా సైన్స్ సంస్థకు సభ్యుడా? వారి సైట్‌ను పరిశీలించి వారు వృత్తిపరమైన నైతిక కోడ్‌ను నిర్వచించారా చూడండి. వారి నైతిక సూత్రాల గురించి ఇది ఏమి చెబుతుంది? సభ్యులను కోడ్‌ను అనుసరించడానికి వారు ఎలా "ప్రేరేపిస్తున్నారు"? ### 2. నైతిక చెక్లిస్ట్లు వృత్తిపరమైన కోడ్స్ ప్రాక్టీషనర్ల నుండి అవసరమైన _నైతిక ప్రవర్తన_ ను నిర్వచిస్తాయి, కానీ పెద్ద స్థాయి ప్రాజెక్టుల్లో అమలులో [పరిచయ పరిమితులు](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ఉన్నాయి. బదులుగా, అనేక డేటా సైన్స్ నిపుణులు [చెక్లిస్ట్లను](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ప్రోత్సహిస్తారు, ఇవి సూత్రాలను ఆచరణలకు **కనెక్ట్** చేయగలవు మరింత నిర్ణీత మరియు కార్యాచరణాత్మక మార్గాల్లో. చెక్లిస్ట్లు ప్రశ్నలను "అవును/కాదు" పనులుగా మార్చి ఆపరేషనలైజ్ చేయగలవు, వాటిని ప్రామాణిక ఉత్పత్తి విడుదల వర్క్‌ఫ్లోలలో భాగంగా ట్రాక్ చేయవచ్చు. ఉదాహరణలు: * [Deon](https://deon.drivendata.org/) - [పరిశ్రమ సిఫారసులు](https://deon.drivendata.org/#checklist-citations) ఆధారంగా సృష్టించబడిన సాధారణ-ఉద్దేశ్య డేటా నైతిక చెక్లిస్ట్, సులభ సమీకరణ కోసం కమాండ్-లైన్ టూల్‌తో. * [గోప్యతా ఆడిట్ చెక్లిస్ట్](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - చట్టపరమైన మరియు సామాజిక పరిధుల నుండి సమాచార నిర్వహణ ఆచరణలకు సాధారణ మార్గదర్శకాలు. * [AI న్యాయం చెక్లిస్ట్](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI అభివృద్ధి చక్రాలలో న్యాయం తనిఖీలను అనుసరించడానికి AI ప్రాక్టీషనర్లు సృష్టించారు. * [డేటా మరియు AI నైతికత కోసం 22 ప్రశ్నలు](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - మరింత తెరచిన ఫ్రేమ్‌వర్క్, డిజైన్, అమలు మరియు సంస్థా సందర్భాలలో నైతిక సమస్యల ప్రారంభ అన్వేషణ కోసం నిర్మించబడింది. ### 3. నైతిక నియమాలు నైతికత అనేది పంచుకున్న విలువలను నిర్వచించడం మరియు సరైన పని చేయడం _స్వచ్ఛందంగా_. **అనుగుణత** అనేది చట్టాన్ని అనుసరించడం, అది ఎక్కడ నిర్వచించబడిందో అక్కడ. **పాలన** అనేది సంస్థలు నైతిక సూత్రాలను అమలు చేయడానికి మరియు స్థాపిత చట్టాలను పాటించడానికి ఉపయోగించే అన్ని మార్గాలను విస్తృతంగా కవర్ చేస్తుంది. ఈ రోజు, సంస్థల్లో పాలన రెండు రూపాల్లో ఉంటుంది. మొదటిది, సంస్థలో అన్ని AI సంబంధిత ప్రాజెక్టులలో **నైతిక AI** సూత్రాలను నిర్వచించడం మరియు అవలంబన ఆచరణలను స్థాపించడం. రెండవది, సంస్థలు పనిచేసే ప్రాంతాల కోసం అన్ని ప్రభుత్వ ఆదేశిత **డేటా రక్షణ నియమాలను** పాటించడం. డేటా రక్షణ మరియు గోప్యతా నియమాల ఉదాహరణలు: * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - _ఫెడరల్ ప్రభుత్వ_ వ్యక్తిగత సమాచార సేకరణ, ఉపయోగం మరియు ప్రకటనను నియంత్రిస్తుంది. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - వ్యక్తిగత ఆరోగ్య డేటాను రక్షిస్తుంది. * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 సంవత్సరాల కింద పిల్లల డేటా గోప్యతను రక్షిస్తుంది. * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - వినియోగదారు హక్కులు, డేటా రక్షణ మరియు గోప్యతను అందిస్తుంది. * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) వినియోగదారులకు వారి (వ్యక్తిగత) డేటాపై మరిన్ని _హక్కులు_ ఇస్తుంది. * `2021`, చైనా [Personal Information Protection Law](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) ఇటీవల ఆమోదించింది, ఇది ప్రపంచంలోనే అత్యంత కఠినమైన ఆన్‌లైన్ డేటా గోప్యతా నియమాలను సృష్టించింది. > 🚨 యూరోపియన్ యూనియన్ నిర్వచించిన GDPR (General Data Protection Regulation) ఈ రోజుల్లో అత్యంత ప్రభావవంతమైన డేటా గోప్యతా నియమాలలో ఒకటి. ఇది [8 వినియోగదారు హక్కులను](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) కూడా నిర్వచిస్తుందని మీకు తెలుసా? ఇవి ఏమిటి, మరియు అవి ఎందుకు ముఖ్యమో తెలుసుకోండి. ### 4. నైతిక సంస్కృతి _అనుగుణత_ (చట్టం యొక్క "అక్షరాన్ని" తగినంతగా పాటించడం) మరియు [వ్యవస్థాపక సమస్యలను](https://www.coursera.org/learn/data-science-ethics/home/week/4) (ఉదా: ఒప్పందం, సమాచార అసమానత, పంపిణీ అన్యాయం) పరిష్కరించడంలో ఒక అమూల్యమైన గ్యాప్ ఇంకా ఉంది, ఇవి AI ఆయుధీకరణను వేగవంతం చేయవచ్చు. ఇది పరిశ్రమలో _సంస్థల మధ్య_ భావోద్వేగ సంబంధాలు మరియు సారూప్య పంచుకున్న విలువలను నిర్మించే నైతిక సంస్కృతులను నిర్వచించడానికి [సహకార దృక్పథాలను](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) అవసరం. ఇది సంస్థల్లో మరింత [నిర్వచించబడిన డేటా నైతిక సంస్కృతులను](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) కోరుతుంది - _ఎవరైనా_ [అండన్ కార్డ్‌ను పుల్ల్ చేయగలరు](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (ప్రక్రియలో తొందరగా నైతిక సమస్యలను ఎత్తి చూపడానికి) మరియు _నైతిక అంచనాలు_ (ఉదా: నియామకంలో) AI ప్రాజెక్టుల టీమ్ నిర్మాణంలో ప్రధాన ప్రమాణంగా ఉండాలి. --- ## [పోస్ట్-లెక్చర్ క్విజ్](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯 ## సమీక్ష & స్వీయ అధ్యయనం కోర్సులు మరియు పుస్తకాలు ప్రాథమిక నైతిక సూత్రాలు మరియు సవాళ్లను అర్థం చేసుకోవడంలో సహాయపడతాయి, కేసు అధ్యయనాలు మరియు సాధనాలు వాస్తవ ప్రపంచ సందర్భాలలో అన్వయించిన నైతిక ఆచరణలకు సహాయపడతాయి. ప్రారంభించడానికి కొన్ని వనరులు ఇక్కడ ఉన్నాయి. * [మిషిన్ లెర్నింగ్ ఫర్ బిగినర్స్](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - మైక్రోసాఫ్ట్ నుండి ఫెయిర్నెస్ పై పాఠం. * [జవాబుదారీ AI సూత్రాలు](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - మైక్రోసాఫ్ట్ లెర్న్ నుండి ఉచిత అభ్యాస మార్గం. * [నైతికత మరియు డేటా సైన్స్](https://resources.oreilly.com/examples/0636920203964) - ఓ'రైలీ ఈబుక్ (ఎం. లౌకిడెస్, హెచ్. మేసన్ తదితరులు) * [డేటా సైన్స్ నైతికత](https://www.coursera.org/learn/data-science-ethics#syllabus) - మిచిగన్ విశ్వవిద్యాలయం నుండి ఆన్‌లైన్ కోర్సు. * [ఎథిక్స్ అన్‌వ్రాప్డ్](https://ethicsunwrapped.utexas.edu/case-studies) - టెక్సాస్ విశ్వవిద్యాలయం నుండి కేసు అధ్యయనాలు. # అసైన్‌మెంట్ [డేటా ఎథిక్స్ కేసు అధ్యయనం రాయండి](assignment.md) --- **అస్పష్టత**: ఈ పత్రాన్ని AI అనువాద సేవ [Co-op Translator](https://github.com/Azure/co-op-translator) ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నించినప్పటికీ, ఆటోమేటెడ్ అనువాదాల్లో పొరపాట్లు లేదా తప్పిదాలు ఉండవచ్చు. మూల పత్రం దాని స్వదేశీ భాషలో అధికారిక మూలంగా పరిగణించాలి. ముఖ్యమైన సమాచారానికి, ప్రొఫెషనల్ మానవ అనువాదం సిఫార్సు చేయబడుతుంది. ఈ అనువాదం వాడకంలో ఏర్పడిన ఏవైనా అపార్థాలు లేదా తప్పుదారుల కోసం మేము బాధ్యత వహించము.