57 KiB

Raw Permalink Blame History

डाटा नैतिकता परिचय


डाटा विज्ञान नैतिकता - @nitya द्वारा स्केच नोट

हामी सबै डाटा नागरिक हौं, जो डाटाको संसारमा बाँचिरहेका छौं।

बजार प्रवृत्तिहरूले देखाउँछन् कि २०२२ सम्ममा, ३ मध्ये १ ठूला संस्थाहरूले आफ्नो डाटा अनलाइन बजार र एक्सचेन्जहरू मार्फत किनबेच गर्नेछन्। एप डेभलपरहरूको रूपमा, हामीलाई डाटा-आधारित अन्तर्दृष्टि र एल्गोरिदम-आधारित स्वचालनलाई दैनिक प्रयोगकर्ता अनुभवमा समाहित गर्न सजिलो र सस्तो हुनेछ। तर, जब एआई व्यापक हुन्छ, हामीले यस्तो एल्गोरिदमको हथियारकरणले ठूलो स्तरमा निम्त्याउन सक्ने सम्भावित हानिहरूलाई पनि बुझ्न आवश्यक छ।

प्रवृत्तिहरूले यो पनि देखाउँछन् कि हामीले २०२५ सम्ममा १८० जेटाबाइट्स भन्दा बढी डाटा सिर्जना र उपभोग गर्नेछौं। डाटा वैज्ञानिकहरूको रूपमा, यसले हामीलाई व्यक्तिगत डाटामा अभूतपूर्व पहुँच दिन्छ। यसको अर्थ हामी प्रयोगकर्ताहरूको व्यवहारिक प्रोफाइल निर्माण गर्न सक्छौं र निर्णय-निर्माणलाई प्रभाव पार्न सक्छौं जसले स्वतन्त्र छनोटको भ्रम सिर्जना गर्न सक्छ, जबकि सम्भावित रूपमा प्रयोगकर्ताहरूलाई हामीले चाहेको परिणामतर्फ धकेल्न सक्छ। यसले डाटा गोपनीयता र प्रयोगकर्ता सुरक्षाको व्यापक प्रश्नहरू पनि उठाउँछ।

डाटा नैतिकता अब डाटा विज्ञान र इन्जिनियरिङका लागि आवश्यक सुरक्षा उपायहरू हुन्, जसले डाटा-आधारित कार्यहरूबाट सम्भावित हानिहरू र अनपेक्षित परिणामहरूलाई न्यूनतम गर्न मद्दत गर्दछ। गार्टनरको एआईको हाइप साइकलले डिजिटल नैतिकता, जिम्मेवार एआई, र एआई शासनमा प्रवृत्तिहरूलाई एआईको लोकतान्त्रीकरण र औद्योगिकीकरण वरिपरि ठूला प्रवृत्तिहरूका प्रमुख चालकहरूका रूपमा पहिचान गर्दछ।

यस पाठमा, हामी डाटा नैतिकताको रोचक क्षेत्र अन्वेषण गर्नेछौं - मूल अवधारणाहरू र चुनौतीहरूदेखि लिएर केस स्टडीहरू र लागू गरिएको एआई अवधारणाहरू जस्तै शासन - जसले डाटा र एआईसँग काम गर्ने टोलीहरू र संस्थाहरूमा नैतिकताको संस्कृति स्थापना गर्न मद्दत गर्दछ।

पाठ अघिको क्विज 🎯

आधारभूत परिभाषाहरू

आउनुहोस्, आधारभूत शब्दावली बुझ्न सुरु गरौं।

"नैतिकता" शब्द ग्रीक शब्द "ethikos" (र यसको मूल "ethos") बाट आएको हो, जसको अर्थ चरित्र वा नैतिक प्रकृति हो।

नैतिकता भनेको समाजमा हाम्रो व्यवहारलाई शासित गर्ने साझा मूल्यहरू र नैतिक सिद्धान्तहरू हो। नैतिकता कानूनमा आधारित छैन तर "सही बनाम गलत" के हो भन्ने व्यापक रूपमा स्वीकार गरिएका मानदण्डहरूमा आधारित छ। यद्यपि, नैतिक विचारहरूले कर्पोरेट शासन पहलहरू र सरकारका नियमहरूलाई प्रभाव पार्न सक्छन्, जसले अनुपालनका लागि थप प्रोत्साहनहरू सिर्जना गर्दछ।

डाटा नैतिकता भनेको "डाटा, एल्गोरिदम र सम्बन्धित अभ्यासहरू"सँग सम्बन्धित नैतिक समस्याहरूको अध्ययन र मूल्यांकन गर्ने नैतिकताको नयाँ शाखा हो। यहाँ, **"डाटा"**ले उत्पादन, रेकर्डिङ, क्युरेसन, प्रशोधन, प्रसार, साझेदारी, र प्रयोगसँग सम्बन्धित कार्यहरूमा ध्यान केन्द्रित गर्दछ, **"एल्गोरिदम"**ले एआई, एजेन्टहरू, मेशिन लर्निङ, र रोबोटहरूमा ध्यान केन्द्रित गर्दछ, र **"अभ्यासहरू"**ले जिम्मेवार नवप्रवर्तन, प्रोग्रामिङ, ह्याकिङ, र नैतिकता कोडहरू जस्ता विषयहरूमा ध्यान केन्द्रित गर्दछ।

लागू गरिएको नैतिकता भनेको नैतिक विचारहरूको व्यावहारिक प्रयोग हो। यो _वास्तविक-विश्व कार्यहरू, उत्पादनहरू र प्रक्रियाहरू_को सन्दर्भमा नैतिक मुद्दाहरू सक्रिय रूपमा अनुसन्धान गर्ने प्रक्रिया हो, र परिभाषित नैतिक मूल्यहरूसँग मिल्न सुनिश्चित गर्न सुधारात्मक उपायहरू लिने प्रक्रिया हो।

नैतिकता संस्कृति भनेको लागू गरिएको नैतिकतालाई सञ्चालनमा ल्याउने कुरा हो, जसले सुनिश्चित गर्दछ कि हाम्रो नैतिक सिद्धान्तहरू र अभ्यासहरू संस्थाको सम्पूर्ण स्तरमा निरन्तर र मापनयोग्य रूपमा अपनाइन्छ। सफल नैतिकता संस्कृतिले संस्थागत स्तरमा नैतिक सिद्धान्तहरू परिभाषित गर्दछ, अनुपालनका लागि अर्थपूर्ण प्रोत्साहनहरू प्रदान गर्दछ, र प्रत्येक स्तरमा इच्छित व्यवहारलाई प्रोत्साहित र प्रवर्द्धन गरेर नैतिकता मानदण्डहरूलाई सुदृढ गर्दछ।

नैतिकता अवधारणाहरू

यस खण्डमा, हामी साझा मूल्यहरू (सिद्धान्तहरू) र नैतिक चुनौतीहरू (समस्याहरू) जस्ता अवधारणाहरूको चर्चा गर्नेछौं - र केस स्टडीहरू अन्वेषण गर्नेछौं जसले तपाईंलाई वास्तविक-विश्व सन्दर्भहरूमा यी अवधारणाहरू बुझ्न मद्दत गर्दछ।

१. नैतिकता सिद्धान्तहरू

प्रत्येक डाटा नैतिकता रणनीति नैतिक सिद्धान्तहरू परिभाषित गरेर सुरु हुन्छ - "साझा मूल्यहरू" जसले स्वीकार्य व्यवहारहरू वर्णन गर्दछ, र हाम्रो डाटा र एआई परियोजनाहरूमा अनुपालन कार्यहरूलाई मार्गदर्शन गर्दछ। तपाईंले यी व्यक्तिगत वा टोली स्तरमा परिभाषित गर्न सक्नुहुन्छ। यद्यपि, अधिकांश ठूला संस्थाहरूले यीलाई नैतिक एआई मिशन वक्तव्य वा रूपरेखामा परिभाषित गर्छन्, जुन संस्थागत स्तरमा परिभाषित गरिन्छ र सबै टोलीहरूमा निरन्तर लागू गरिन्छ।

उदाहरण: माइक्रोसफ्टको जिम्मेवार एआई मिशन वक्तव्य भन्छ: "हामी एआईको उन्नतिमा प्रतिबद्ध छौं, जसले मानिसहरूलाई प्राथमिकतामा राख्ने नैतिक सिद्धान्तहरूद्वारा निर्देशित छ" - तलको रूपरेखामा ६ नैतिक सिद्धान्तहरू पहिचान गर्दै:

आउनुहोस्, यी सिद्धान्तहरूलाई संक्षेपमा अन्वेषण गरौं। पारदर्शिता र जवाफदेहिता आधारभूत मूल्यहरू हुन्, जसमा अन्य सिद्धान्तहरू निर्माण गरिन्छ - त्यसैले त्यहाँबाट सुरु गरौं:

जवाफदेहिताले अभ्यासकर्ताहरूलाई आफ्नो डाटा र एआई कार्यहरू, र यी नैतिक सिद्धान्तहरूसँग अनुपालनको लागि जिम्मेवार बनाउँछ।
पारदर्शिताले सुनिश्चित गर्दछ कि डाटा र एआई कार्यहरू प्रयोगकर्ताहरूका लागि बुझ्न सकिने (व्याख्यायोग्य) छन्, निर्णयहरूको पछाडि के र किन भन्ने कुरा स्पष्ट गर्दै।
न्याय - सुनिश्चित गर्नमा केन्द्रित छ कि एआईले सबै मानिसहरूलाई न्यायसंगत व्यवहार गर्छ, डाटा र प्रणालीमा कुनै पनि प्रणालीगत वा निहित सामाजिक-प्राविधिक पूर्वाग्रहहरूलाई सम्बोधन गर्दै।
विश्वसनीयता र सुरक्षा - सुनिश्चित गर्दछ कि एआईले परिभाषित मूल्यहरूसँग लगातार व्यवहार गर्छ, सम्भावित हानिहरू वा अनपेक्षित परिणामहरूलाई न्यूनतम गर्दै।
गोपनीयता र सुरक्षा - डाटा वंशावली बुझ्न र प्रयोगकर्ताहरूलाई डाटा गोपनीयता र सम्बन्धित सुरक्षा प्रदान गर्नमा केन्द्रित छ।
समावेशिता - उद्देश्यका साथ एआई समाधानहरू डिजाइन गर्ने, तिनीहरूलाई व्यापक मानव आवश्यकताहरू र क्षमताहरू पूरा गर्न अनुकूल बनाउने बारे हो।

🚨 आफ्नो डाटा नैतिकता मिशन वक्तव्य के हुन सक्छ भनेर सोच्नुहोस्। अन्य संस्थाहरूबाट नैतिक एआई रूपरेखाहरू अन्वेषण गर्नुहोस् - यहाँ आईबीएम, गुगल, र फेसबुकका उदाहरणहरू छन्। तिनीहरूमा साझा मूल्यहरू के छन्? यी सिद्धान्तहरू उनीहरूको एआई उत्पादन वा उद्योगसँग कसरी सम्बन्धित छन्?

२. नैतिकता चुनौतीहरू

एक पटक हामीले नैतिक सिद्धान्तहरू परिभाषित गरेपछि, अर्को चरण भनेको हाम्रो डाटा र एआई कार्यहरूलाई मूल्याङ्कन गर्नु हो कि तिनीहरू ती साझा मूल्यहरूसँग मेल खान्छन्। आफ्नो कार्यहरूलाई दुई श्रेणीमा सोच्नुहोस्: डाटा सङ्कलन र एल्गोरिदम डिजाइन।

डाटा सङ्कलनसँग, कार्यहरू सम्भवतः व्यक्तिगत डाटा वा पहिचानयोग्य जीवित व्यक्तिहरूको व्यक्तिगत रूपमा पहिचानयोग्य जानकारी (PII) समावेश गर्नेछन्। यसमा गैर-व्यक्तिगत डाटाका विविध वस्तुहरू समावेश छन्, जसले सामूहिक रूपमा व्यक्तिलाई पहिचान गर्दछ। नैतिक चुनौतीहरू डाटा गोपनीयता, डाटा स्वामित्व, र जानकारी सहमति र प्रयोगकर्ताहरूका लागि बौद्धिक सम्पत्ति अधिकार जस्ता सम्बन्धित विषयहरूसँग सम्बन्धित हुन सक्छ।

एल्गोरिदम डिजाइनसँग, कार्यहरू डाटासेटहरू सङ्कलन र क्युरेट गर्ने, त्यसपछि तिनीहरूलाई डाटा मोडेलहरूलाई प्रशिक्षण र तैनाथ गर्न प्रयोग गर्ने, जसले वास्तविक-विश्व सन्दर्भहरूमा परिणामहरूको भविष्यवाणी वा निर्णयहरू स्वचालित बनाउँछ। नैतिक चुनौतीहरू डाटासेट पूर्वाग्रह, डाटा गुणस्तर समस्याहरू, अन्याय, र एल्गोरिदममा _गलत प्रतिनिधित्व_बाट उत्पन्न हुन सक्छ - जसमा केही मुद्दाहरू प्रणालीगत प्रकृतिका छन्।

दुवै अवस्थामा, नैतिक चुनौतीहरूले हाम्रो कार्यहरू साझा मूल्यहरूसँग द्वन्द्वमा आउन सक्ने क्षेत्रहरूलाई उजागर गर्छ। यी चिन्ताहरू पत्ता लगाउन, कम गर्न, न्यूनतम गर्न, वा हटाउन - हामीले हाम्रो कार्यहरूसँग सम्बन्धित नैतिक "हो/होइन" प्रश्नहरू सोध्न आवश्यक छ, त्यसपछि आवश्यक सुधारात्मक कार्यहरू लिनुपर्छ। आउनुहोस्, केही नैतिक चुनौतीहरू र तिनीहरूले उठाउने नैतिक प्रश्नहरूलाई हेरौं:

२.१ डाटा स्वामित्व

डाटा सङ्कलनले अक्सर डाटा विषयहरूलाई पहिचान गर्न सक्ने व्यक्तिगत डाटालाई समावेश गर्दछ। डाटा स्वामित्व भनेको डाटा सिर्जना, प्रशोधन, र प्रसारसँग सम्बन्धित नियन्त्रण र प्रयोगकर्ता अधिकारहरू हो।

हामीले सोध्नुपर्ने नैतिक प्रश्नहरू:

डाटाको मालिक को हो? (प्रयोगकर्ता वा संस्था)
डाटा विषयहरूलाई के अधिकारहरू छन्? (जस्तै: पहुँच, मेटाउने, पोर्टेबिलिटी)
संस्थाहरूलाई के अधिकारहरू छन्? (जस्तै: दुर्भावनापूर्ण प्रयोगकर्ता समीक्षाहरू सुधार गर्ने)

२.२ जानकारी सहमति

जानकारी सहमतिले प्रयोगकर्ताहरूले (जस्तै डाटा सङ्कलन) कार्यमा सहमति जनाउने कार्यलाई परिभाषित गर्दछ, सम्बन्धित तथ्यहरूको पूर्ण समझ सहित उद्देश्य, सम्भावित जोखिमहरू, र विकल्पहरू।