diff --git a/translations/ar/1-Introduction/02-ethics/README.md b/translations/ar/1-Introduction/02-ethics/README.md index b04df227..ab4af43e 100644 --- a/translations/ar/1-Introduction/02-ethics/README.md +++ b/translations/ar/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ -# ডেটা নৈতিকতার পরিচিতি +# ডেটা নীতিশাস্ত্রের পরিচিতি |![ স্কেচনোট [(@sketchthedocs)](https://sketchthedocs.dev) দ্বারা ](../../sketchnotes/02-Ethics.png)| |:---:| -| ডেটা সায়েন্স নৈতিকতা - _[@nitya](https://twitter.com/nitya) দ্বারা স্কেচনোট_ | +| ডেটা সায়েন্স নীতিশাস্ত্র - _[@nitya](https://twitter.com/nitya) দ্বারা স্কেচনোট_ | --- -আমরা সবাই ডেটা নাগরিক, যারা একটি ডেটা-নির্ভর বিশ্বে বাস করছি। +আমরা সবাই একটি ডেটা-নির্ভর জগতে ডেটা নাগরিক হিসেবে বসবাস করছি। -বাজারের প্রবণতা আমাদের বলে যে ২০২২ সালের মধ্যে, প্রতি তিনটি বড় প্রতিষ্ঠানের মধ্যে একটি তাদের ডেটা অনলাইনে [মার্কেটপ্লেস এবং এক্সচেঞ্জ](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) এর মাধ্যমে ক্রয় এবং বিক্রয় করবে। **অ্যাপ ডেভেলপার** হিসেবে, আমাদের জন্য ডেটা-নির্ভর অন্তর্দৃষ্টি এবং অ্যালগরিদম-নির্ভর অটোমেশনকে দৈনন্দিন ব্যবহারকারীর অভিজ্ঞতায় সংযুক্ত করা আরও সহজ এবং সাশ্রয়ী হবে। তবে, যখন AI সর্বব্যাপী হয়ে উঠছে, তখন আমাদের এই অ্যালগরিদমগুলির [অস্ত্রায়ন](https://www.youtube.com/watch?v=TQHs8SA1qpk) দ্বারা সম্ভাব্য ক্ষতির বিষয়টি বুঝতে হবে। +বাজারের প্রবণতা আমাদের জানায় যে ২০২২ সালের মধ্যে, প্রতি তিনটি বড় প্রতিষ্ঠানের মধ্যে একটি তাদের ডেটা অনলাইনে [মার্কেটপ্লেস এবং এক্সচেঞ্জ](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) এর মাধ্যমে ক্রয়-বিক্রয় করবে। **অ্যাপ ডেভেলপার** হিসেবে, আমাদের জন্য ডেটা-চালিত অন্তর্দৃষ্টি এবং অ্যালগরিদম-চালিত স্বয়ংক্রিয়তাকে দৈনন্দিন ব্যবহারকারীর অভিজ্ঞতায় সংহত করা সহজ এবং সাশ্রয়ী হবে। তবে, যখন এআই সর্বব্যাপী হয়ে উঠছে, তখন আমাদের এটাও বুঝতে হবে যে [অস্ত্রায়ন](https://www.youtube.com/watch?v=TQHs8SA1qpk) এর মাধ্যমে বড় পরিসরে এই অ্যালগরিদমগুলো কী ধরনের ক্ষতি করতে পারে। -প্রবণতা আরও নির্দেশ করে যে আমরা ২০২৫ সালের মধ্যে [১৮০ জেটাবাইট](https://www.statista.com/statistics/871513/worldwide-data-created/) ডেটা তৈরি এবং ব্যবহার করব। **ডেটা বিজ্ঞানী** হিসেবে, এটি আমাদের ব্যক্তিগত ডেটার অভূতপূর্ব স্তরে প্রবেশাধিকার দেয়। এর অর্থ হলো আমরা ব্যবহারকারীদের আচরণগত প্রোফাইল তৈরি করতে পারি এবং সিদ্ধান্ত গ্রহণে প্রভাব ফেলতে পারি এমনভাবে যা [মুক্ত পছন্দের বিভ্রম](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) তৈরি করে, তবে সম্ভাব্যভাবে ব্যবহারকারীদের আমাদের পছন্দের ফলাফলের দিকে ঠেলে দেয়। এটি ডেটা গোপনীয়তা এবং ব্যবহারকারীর সুরক্ষার বিষয়ে আরও বিস্তৃত প্রশ্নও উত্থাপন করে। +প্রবণতা আরও দেখায় যে ২০২৫ সালের মধ্যে আমরা [১৮০ জেটাবাইট](https://www.statista.com/statistics/871513/worldwide-data-created/) এর বেশি ডেটা তৈরি এবং ব্যবহার করব। **ডেটা সায়েন্টিস্ট** হিসেবে, এটি আমাদের ব্যক্তিগত ডেটার অভূতপূর্ব স্তরে প্রবেশাধিকার দেয়। এর মানে আমরা ব্যবহারকারীদের আচরণগত প্রোফাইল তৈরি করতে পারি এবং এমনভাবে সিদ্ধান্ত গ্রহণে প্রভাব ফেলতে পারি যা [মুক্ত পছন্দের ভ্রম](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) তৈরি করে, তবে ব্যবহারকারীদের আমাদের পছন্দসই ফলাফলের দিকে ঠেলে দেয়। এটি ডেটা গোপনীয়তা এবং ব্যবহারকারীর সুরক্ষার উপর আরও বিস্তৃত প্রশ্নও উত্থাপন করে। -ডেটা নৈতিকতা এখন ডেটা বিজ্ঞান এবং প্রকৌশলের জন্য _প্রয়োজনীয় গার্ডরেল_, যা আমাদের ডেটা-নির্ভর ক্রিয়াকলাপ থেকে সম্ভাব্য ক্ষতি এবং অনিচ্ছাকৃত পরিণতি কমাতে সাহায্য করে। [গার্টনার হাইপ সাইকেল ফর AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ডিজিটাল নৈতিকতা, দায়িত্বশীল AI, এবং AI গভর্নেন্সের প্রাসঙ্গিক প্রবণতাগুলিকে চিহ্নিত করে, যা AI-এর _গণতন্ত্রায়ন_ এবং _শিল্পায়ন_ এর বৃহত্তর মেগাট্রেন্ডগুলির মূল চালক। +ডেটা নীতিশাস্ত্র এখন ডেটা সায়েন্স এবং প্রকৌশলের জন্য _প্রয়োজনীয় গার্ডরেল_, যা আমাদের ডেটা-চালিত কর্ম থেকে সম্ভাব্য ক্ষতি এবং অনিচ্ছাকৃত পরিণতি হ্রাস করতে সাহায্য করে। [গার্টনার হাইপ সাইকেল ফর এআই](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ডিজিটাল নীতিশাস্ত্র, দায়িত্বশীল এআই এবং এআই গভর্নেন্সের মতো প্রবণতাগুলিকে বড় মেগাট্রেন্ডগুলির মূল চালক হিসাবে চিহ্নিত করে, যেমন এআই-এর _গণতন্ত্রায়ন_ এবং _শিল্পায়ন_। -![গার্টনারের AI-এর হাইপ সাইকেল - ২০২০](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![গার্টনারের এআই-এর হাইপ সাইকেল - ২০২০](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -এই পাঠে, আমরা ডেটা নৈতিকতার চমৎকার ক্ষেত্রটি অন্বেষণ করব - মূল ধারণা এবং চ্যালেঞ্জ থেকে শুরু করে কেস স্টাডি এবং গভর্নেন্সের মতো প্রয়োগকৃত AI ধারণা - যা ডেটা এবং AI নিয়ে কাজ করা দল এবং প্রতিষ্ঠানে একটি নৈতিকতার সংস্কৃতি প্রতিষ্ঠায় সাহায্য করে। +এই পাঠে, আমরা ডেটা নীতিশাস্ত্রের চমকপ্রদ ক্ষেত্রটি অন্বেষণ করব - মূল ধারণা এবং চ্যালেঞ্জ থেকে শুরু করে কেস স্টাডি এবং গভর্নেন্সের মতো প্রয়োগকৃত এআই ধারণা পর্যন্ত - যা ডেটা এবং এআই নিয়ে কাজ করা দল এবং প্রতিষ্ঠানে একটি নীতিশাস্ত্র সংস্কৃতি প্রতিষ্ঠায় সাহায্য করে। -## [পূর্ব-লেকচার কুইজ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 + +## [পাঠ-পূর্ব কুইজ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## মৌলিক সংজ্ঞা -চলুন মৌলিক পরিভাষা বোঝা শুরু করি। +চলুন মৌলিক পরিভাষা বোঝা দিয়ে শুরু করি। + +"নীতিশাস্ত্র" শব্দটি এসেছে [গ্রিক শব্দ "ethikos"](https://en.wikipedia.org/wiki/Ethics) (এবং এর মূল "ethos") থেকে, যার অর্থ _চরিত্র বা নৈতিক প্রকৃতি_। + +**নীতিশাস্ত্র** হলো সেই শেয়ার করা মূল্যবোধ এবং নৈতিক নীতিমালা যা সমাজে আমাদের আচরণ নিয়ন্ত্রণ করে। নীতিশাস্ত্র আইন নয়, বরং "সঠিক বনাম ভুল" এর ব্যাপারে সর্বজনীনভাবে গৃহীত মানদণ্ডের উপর ভিত্তি করে। তবে, নৈতিক বিবেচনা কর্পোরেট গভর্নেন্স উদ্যোগ এবং সরকারী নিয়মকানুনকে প্রভাবিত করতে পারে, যা সম্মতির জন্য আরও প্রণোদনা তৈরি করে। -"নৈতিকতা" শব্দটি [গ্রিক শব্দ "ethikos"](https://en.wikipedia.org/wiki/Ethics) (এবং এর মূল "ethos") থেকে এসেছে, যার অর্থ _চরিত্র বা নৈতিক প্রকৃতি_। +**ডেটা নীতিশাস্ত্র** হলো নীতিশাস্ত্রের একটি [নতুন শাখা](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), যা "_ডেটা, অ্যালগরিদম এবং সংশ্লিষ্ট অনুশীলন_" সম্পর্কিত নৈতিক সমস্যাগুলি অধ্যয়ন এবং মূল্যায়ন করে। এখানে, **"ডেটা"** জেনারেশন, রেকর্ডিং, কিউরেশন, প্রসেসিং, প্রচার, শেয়ারিং এবং ব্যবহারের সাথে সম্পর্কিত ক্রিয়াকলাপগুলির উপর দৃষ্টি নিবদ্ধ করে; **"অ্যালগরিদম"** এআই, এজেন্ট, মেশিন লার্নিং এবং রোবটগুলির উপর দৃষ্টি নিবদ্ধ করে; এবং **"অনুশীলন"** দায়িত্বশীল উদ্ভাবন, প্রোগ্রামিং, হ্যাকিং এবং নীতিশাস্ত্র কোডের মতো বিষয়গুলির উপর দৃষ্টি নিবদ্ধ করে। -**নৈতিকতা** হলো সমাজে আমাদের আচরণ পরিচালনা করার জন্য ভাগ করা মূল্যবোধ এবং নৈতিক নীতিগুলির বিষয়। নৈতিকতা আইন নয়, বরং "সঠিক বনাম ভুল" সম্পর্কে ব্যাপকভাবে গৃহীত মানদণ্ডের উপর ভিত্তি করে। তবে, নৈতিক বিবেচনা কর্পোরেট গভর্নেন্স উদ্যোগ এবং সরকারী নিয়মকানুনকে প্রভাবিত করতে পারে, যা সম্মতির জন্য আরও প্রণোদনা তৈরি করে। +**প্রয়োগকৃত নীতিশাস্ত্র** হলো [নৈতিক বিবেচনার ব্যবহারিক প্রয়োগ](https://en.wikipedia.org/wiki/Applied_ethics)। এটি হলো _বাস্তব জীবনের কর্ম, পণ্য এবং প্রক্রিয়ার_ প্রেক্ষাপটে নৈতিক বিষয়গুলি সক্রিয়ভাবে তদন্ত করার প্রক্রিয়া এবং আমাদের সংজ্ঞায়িত নৈতিক মূল্যবোধের সাথে এগুলি সামঞ্জস্যপূর্ণ রাখতে সংশোধনমূলক ব্যবস্থা গ্রহণ করা। -**ডেটা নৈতিকতা** হলো একটি [নতুন শাখা](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) যা "_ডেটা, অ্যালগরিদম এবং সংশ্লিষ্ট অনুশীলন_" সম্পর্কিত নৈতিক সমস্যাগুলি অধ্যয়ন এবং মূল্যায়ন করে। এখানে, **"ডেটা"** জেনারেশন, রেকর্ডিং, কিউরেশন, প্রসেসিং, প্রচার, শেয়ারিং এবং ব্যবহারের সাথে সম্পর্কিত ক্রিয়াকলাপগুলির উপর ফোকাস করে, **"অ্যালগরিদম"** AI, এজেন্ট, মেশিন লার্নিং এবং রোবটের উপর ফোকাস করে, এবং **"অনুশীলন"** দায়িত্বশীল উদ্ভাবন, প্রোগ্রামিং, হ্যাকিং এবং নৈতিকতার কোডের মতো বিষয়গুলির উপর ফোকাস করে। +**নীতিশাস্ত্র সংস্কৃতি** হলো [_প্রয়োগকৃত নীতিশাস্ত্রকে_ কার্যকর করা](https://hbr.org/2019/05/how-to-design-an-ethical-organization), যাতে আমাদের নৈতিক নীতিমালা এবং অনুশীলনগুলি পুরো প্রতিষ্ঠানের মধ্যে ধারাবাহিক এবং স্কেলযোগ্যভাবে গৃহীত হয়। সফল নীতিশাস্ত্র সংস্কৃতি প্রতিষ্ঠানের সর্বত্র নৈতিক নীতিমালা সংজ্ঞায়িত করে, সম্মতির জন্য অর্থবহ প্রণোদনা প্রদান করে এবং প্রত্যাশিত আচরণকে উৎসাহিত ও জোরদার করে নীতিশাস্ত্রের মানদণ্ডকে শক্তিশালী করে। -**প্রয়োগকৃত নৈতিকতা** হলো [নৈতিক বিবেচনার বাস্তব প্রয়োগ](https://en.wikipedia.org/wiki/Applied_ethics)। এটি হলো _বাস্তব-জগতের ক্রিয়াকলাপ, পণ্য এবং প্রক্রিয়ার_ প্রসঙ্গে নৈতিক সমস্যাগুলি সক্রিয়ভাবে তদন্ত করার প্রক্রিয়া এবং আমাদের সংজ্ঞায়িত নৈতিক মূল্যবোধের সাথে সামঞ্জস্য বজায় রাখতে সংশোধনমূলক ব্যবস্থা গ্রহণ। -**নৈতিকতার সংস্কৃতি** হলো [_প্রয়োগকৃত নৈতিকতাকে_ কার্যকর করা](https://hbr.org/2019/05/how-to-design-an-ethical-organization) যাতে আমাদের নৈতিক নীতিগুলি এবং অনুশীলনগুলি পুরো প্রতিষ্ঠানের মধ্যে ধারাবাহিক এবং স্কেলযোগ্যভাবে গ্রহণ করা হয়। সফল নৈতিকতার সংস্কৃতি প্রতিষ্ঠানের-ব্যাপী নৈতিক নীতিগুলি সংজ্ঞায়িত করে, সম্মতির জন্য অর্থপূর্ণ প্রণোদনা প্রদান করে এবং প্রতিটি স্তরে পছন্দসই আচরণকে উৎসাহিত এবং প্রসারিত করে নৈতিকতার মানদণ্ডকে শক্তিশালী করে। +## নীতিশাস্ত্রের ধারণা -## নৈতিকতার ধারণা +এই অংশে, আমরা **শেয়ার করা মূল্যবোধ** (নীতিমালা) এবং **নৈতিক চ্যালেঞ্জ** (সমস্যা) নিয়ে আলোচনা করব, এবং **কেস স্টাডি** অন্বেষণ করব যা আপনাকে বাস্তব জীবনের প্রেক্ষাপটে এই ধারণাগুলি বুঝতে সাহায্য করবে। -এই বিভাগে, আমরা **ভাগ করা মূল্যবোধ** (নীতিগুলি) এবং **নৈতিক চ্যালেঞ্জ** (সমস্যাগুলি) নিয়ে আলোচনা করব - এবং **কেস স্টাডি** অন্বেষণ করব যা আপনাকে বাস্তব-জগতের প্রসঙ্গে এই ধারণাগুলি বুঝতে সাহায্য করবে। +### ১. নীতিশাস্ত্রের নীতিমালা -### ১. নৈতিকতার নীতিগুলি +প্রত্যেক ডেটা নীতিশাস্ত্র কৌশল শুরু হয় _নৈতিক নীতিমালা_ সংজ্ঞায়িত করার মাধ্যমে - "শেয়ার করা মূল্যবোধ" যা গ্রহণযোগ্য আচরণ বর্ণনা করে এবং আমাদের ডেটা ও এআই প্রকল্পে সম্মতিমূলক কর্ম পরিচালনা করে। আপনি এগুলি ব্যক্তিগত বা দলীয় স্তরে সংজ্ঞায়িত করতে পারেন। তবে, বেশিরভাগ বড় প্রতিষ্ঠান এগুলি একটি _নৈতিক এআই_ মিশন বিবৃতি বা কাঠামোতে সংজ্ঞায়িত করে, যা কর্পোরেট স্তরে সংজ্ঞায়িত এবং সমস্ত দলের মধ্যে ধারাবাহিকভাবে প্রয়োগ করা হয়। -প্রত্যেক ডেটা নৈতিকতার কৌশল শুরু হয় _নৈতিক নীতিগুলি_ সংজ্ঞায়িত করে - "ভাগ করা মূল্যবোধ" যা গ্রহণযোগ্য আচরণ বর্ণনা করে এবং আমাদের ডেটা এবং AI প্রকল্পে সম্মতিমূলক ক্রিয়াকলাপ পরিচালনা করে। আপনি এগুলি ব্যক্তিগত বা দলীয় স্তরে সংজ্ঞায়িত করতে পারেন। তবে, বেশিরভাগ বড় প্রতিষ্ঠান এগুলি একটি _নৈতিক AI_ মিশন বিবৃতি বা কাঠামোতে সংজ্ঞায়িত করে যা কর্পোরেট স্তরে সংজ্ঞায়িত এবং সমস্ত দলের মধ্যে ধারাবাহিকভাবে প্রয়োগ করা হয়। +**উদাহরণ:** মাইক্রোসফটের [দায়িত্বশীল এআই](https://www.microsoft.com/en-us/ai/responsible-ai) মিশন বিবৃতি বলে: _"আমরা নৈতিক নীতিমালার দ্বারা চালিত এআই-এর অগ্রগতির জন্য প্রতিশ্রুতিবদ্ধ, যা মানুষকে প্রথমে রাখে"_ - যা নিচের কাঠামোতে ৬টি নৈতিক নীতিমালা চিহ্নিত করে: -**উদাহরণ:** Microsoft's [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) মিশন বিবৃতি বলে: _"আমরা AI-এর অগ্রগতির জন্য প্রতিশ্রুতিবদ্ধ, যা নৈতিক নীতিগুলির দ্বারা পরিচালিত হয় যা মানুষকে প্রথমে রাখে"_ - নিচের কাঠামোতে ৬টি নৈতিক নীতিকে চিহ্নিত করে: +![মাইক্রোসফটের দায়িত্বশীল এআই](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -![Microsoft-এ দায়িত্বশীল AI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +চলুন এই নীতিমালাগুলি সংক্ষেপে অন্বেষণ করি। _স্বচ্ছতা_ এবং _দায়িত্বশীলতা_ হলো মৌলিক মূল্যবোধ, যার উপর অন্যান্য নীতিমালা নির্মিত হয় - তাই এখানে শুরু করা যাক: -চলুন এই নীতিগুলি সংক্ষেপে অন্বেষণ করি। _স্বচ্ছতা_ এবং _দায়িত্বশীলতা_ হলো মৌলিক মূল্যবোধ যা অন্যান্য নীতিগুলির উপর ভিত্তি করে তৈরি - তাই এখানে শুরু করা যাক: +* [**দায়িত্বশীলতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ডেটা ও এআই কার্যক্রম এবং এই নৈতিক নীতিমালার সাথে সম্মতির জন্য অনুশীলনকারীদের _দায়িত্বশীল_ করে তোলে। +* [**স্বচ্ছতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) নিশ্চিত করে যে ডেটা এবং এআই কর্মগুলো ব্যবহারকারীদের জন্য _বোধ্য_ (ব্যাখ্যাযোগ্য), যা সিদ্ধান্তের পেছনের কী এবং কেন ব্যাখ্যা করে। +* [**ন্যায্যতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - নিশ্চিত করে যে এআই _সব মানুষকে_ ন্যায্যভাবে আচরণ করে, ডেটা এবং সিস্টেমে থাকা যেকোনো পদ্ধতিগত বা অন্তর্নিহিত সামাজিক-প্রযুক্তিগত পক্ষপাতিত্ব মোকাবেলা করে। +* [**নির্ভরযোগ্যতা ও নিরাপত্তা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - নিশ্চিত করে যে এআই _সংজ্ঞায়িত মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ_ আচরণ করে, সম্ভাব্য ক্ষতি বা অনিচ্ছাকৃত পরিণতি হ্রাস করে। +* [**গোপনীয়তা ও সুরক্ষা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ডেটার উত্স বোঝা এবং ব্যবহারকারীদের _ডেটা গোপনীয়তা এবং সংশ্লিষ্ট সুরক্ষা_ প্রদান সম্পর্কে। +* [**অন্তর্ভুক্তি**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - উদ্দেশ্য নিয়ে এআই সমাধান ডিজাইন করা, এগুলিকে _বিস্তৃত মানব প্রয়োজন এবং সক্ষমতার_ সাথে মানিয়ে নেওয়া। -* [**দায়িত্বশীলতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) অনুশীলনকারীদের তাদের ডেটা এবং AI ক্রিয়াকলাপের জন্য এবং এই নৈতিক নীতিগুলির সাথে সম্মতির জন্য _দায়িত্বশীল_ করে তোলে। -* [**স্বচ্ছতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) নিশ্চিত করে যে ডেটা এবং AI ক্রিয়াকলাপগুলি ব্যবহারকারীদের কাছে _বোধ্য_ (ব্যাখ্যাযোগ্য) হয়, সিদ্ধান্তের পেছনের কী এবং কেন ব্যাখ্যা করে। -* [**ন্যায্যতা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - নিশ্চিত করে যে AI _সব মানুষকে_ ন্যায্যভাবে আচরণ করে, ডেটা এবং সিস্টেমে থাকা যেকোনো পদ্ধতিগত বা অন্তর্নিহিত সামাজিক-প্রযুক্তিগত পক্ষপাতিত্ব মোকাবিলা করে। -* [**বিশ্বাসযোগ্যতা এবং নিরাপত্তা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - নিশ্চিত করে যে AI _ধারাবাহিকভাবে_ সংজ্ঞায়িত মূল্যবোধের সাথে আচরণ করে, সম্ভাব্য ক্ষতি বা অনিচ্ছাকৃত পরিণতি কমিয়ে দেয়। -* [**গোপনীয়তা এবং নিরাপত্তা**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ডেটার উত্স বোঝা এবং ব্যবহারকারীদের _ডেটা গোপনীয়তা এবং সংশ্লিষ্ট সুরক্ষা_ প্রদান সম্পর্কে। -* [**অন্তর্ভুক্তি**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - উদ্দেশ্য নিয়ে AI সমাধান ডিজাইন করার বিষয়ে, এগুলিকে _বিস্তৃত মানব প্রয়োজন এবং সক্ষমতা_ পূরণের জন্য মানিয়ে নেওয়া। +> 🚨 আপনার ডেটা নীতিশাস্ত্র মিশন বিবৃতি কী হতে পারে তা নিয়ে ভাবুন। অন্যান্য প্রতিষ্ঠানের নৈতিক এআই কাঠামো অন্বেষণ করুন - এখানে [আইবিএম](https://www.ibm.com/cloud/learn/ai-ethics), [গুগল](https://ai.google/principles), এবং [ফেসবুক](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) এর উদাহরণ রয়েছে। তাদের মধ্যে কী শেয়ার করা মূল্যবোধ রয়েছে? এই নীতিমালাগুলি তাদের এআই পণ্য বা শিল্পের সাথে কীভাবে সম্পর্কিত? -> 🚨 আপনার ডেটা নৈতিকতার মিশন বিবৃতি কী হতে পারে তা নিয়ে ভাবুন। অন্যান্য প্রতিষ্ঠানের নৈতিক AI কাঠামো অন্বেষণ করুন - এখানে [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), এবং [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) থেকে উদাহরণ রয়েছে। তাদের মধ্যে কী সাধারণ ভাগ করা মূল্যবোধ রয়েছে? এই নীতিগুলি তারা যে AI পণ্য বা শিল্পে কাজ করে তার সাথে কীভাবে সম্পর্কিত? +### ২. নীতিশাস্ত্রের চ্যালেঞ্জ -### ২. নৈতিক চ্যালেঞ্জ +যখন নৈতিক নীতিমালাগুলি সংজ্ঞায়িত করা হয়, তখন পরবর্তী ধাপ হলো আমাদের ডেটা এবং এআই কর্মগুলো মূল্যায়ন করা, সেগুলি এই শেয়ার করা মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ কিনা তা দেখতে। আপনার কর্মগুলোকে দুটি বিভাগে ভাবুন: _ডেটা সংগ্রহ_ এবং _অ্যালগরিদম ডিজাইন_। -যখন আমরা নৈতিক নীতিগুলি সংজ্ঞায়িত করি, তখন পরবর্তী ধাপ হলো আমাদের ডেটা এবং AI ক্রিয়াকলাপগুলি মূল্যায়ন করা যাতে তারা সেই ভাগ করা মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ কিনা তা দেখা যায়। আপনার ক্রিয়াকলাপগুলি দুটি বিভাগে ভাবুন: _ডেটা সংগ্রহ_ এবং _অ্যালগরিদম ডিজাইন_। +ডেটা সংগ্রহের ক্ষেত্রে, কর্মগুলো সম্ভবত **ব্যক্তিগত ডেটা** বা ব্যক্তিগতভাবে সনাক্তযোগ্য তথ্য (PII) এর সাথে সম্পর্কিত হবে, যা জীবিত ব্যক্তিদের সনাক্ত করতে পারে। এটি [বিভিন্ন ধরনের অ-ব্যক্তিগত ডেটা](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) অন্তর্ভুক্ত করে, যা _সমষ্টিগতভাবে_ একজন ব্যক্তিকে সনাক্ত করে। নৈতিক চ্যালেঞ্জগুলো _ডেটা গোপনীয়তা_, _ডেটার মালিকানা_, এবং _অবগত সম্মতি_ এবং ব্যবহারকারীদের _বুদ্ধিবৃত্তিক সম্পত্তি অধিকার_ এর মতো সম্পর্কিত বিষয়গুলির সাথে সম্পর্কিত হতে পারে। -ডেটা সংগ্রহের ক্ষেত্রে, ক্রিয়াকলাপগুলি সম্ভবত **ব্যক্তিগত ডেটা** বা ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য (PII) অন্তর্ভুক্ত করবে যা জীবিত ব্যক্তিদের শনাক্ত করতে পারে। এটি [বিভিন্ন ধরনের অ-ব্যক্তিগত ডেটা](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) অন্তর্ভুক্ত করে যা _সমষ্টিগতভাবে_ একজন ব্যক্তিকে শনাক্ত করে। নৈতিক চ্যালেঞ্জগুলি _ডেটা গোপনীয়তা_, _ডেটা মালিকানা_, এবং _অবগত সম্মতি_ এবং ব্যবহারকারীদের _বৌদ্ধিক সম্পত্তি অধিকার_ এর মতো সম্পর্কিত বিষয়গুলির সাথে সম্পর্কিত হতে পারে। +অ্যালগরিদম ডিজাইনের ক্ষেত্রে, কর্মগুলো **ডেটাসেট** সংগ্রহ এবং কিউরেট করা, তারপর সেগুলো ব্যবহার করে **ডেটা মডেল** প্রশিক্ষণ এবং বাস্তব জীবনের প্রেক্ষাপটে ফলাফল পূর্বাভাস বা সিদ্ধান্ত স্বয়ংক্রিয় করার সাথে সম্পর্কিত হবে। নৈতিক চ্যালেঞ্জগুলো _ডেটাসেট পক্ষপাতিত্ব_, _ডেটার গুণমান_ সমস্যা, _অন্যায্যতা_, এবং অ্যালগরিদমে _ভুল উপস্থাপনা_ থেকে উদ্ভূত হতে পারে - যার মধ্যে কিছু পদ্ধতিগত প্রকৃতির হতে পারে। -অ্যালগরিদম ডিজাইনের ক্ষেত্রে, ক্রিয়াকলাপগুলি **ডেটাসেট** সংগ্রহ এবং কিউরেট করা এবং তারপরে **ডেটা মডেল** প্রশিক্ষণ এবং বাস্তব-জগতের প্রসঙ্গে ফলাফল পূর্বাভাস বা সিদ্ধান্ত অটোমেট করার জন্য ব্যবহার করা অন্তর্ভুক্ত করবে। নৈতিক চ্যালেঞ্জগুলি _ডেটাসেট পক্ষপাতিত্ব_, _ডেটা গুণমান_ সমস্যা, _অন্যায্যতা_, এবং অ্যালগরিদমে _ভুল উপস্থাপনা_ থেকে উদ্ভূত হতে পারে - যার মধ্যে কিছু সমস্যা পদ্ধতিগত প্রকৃতির। +উভয় ক্ষেত্রেই, নীতিশাস্ত্রের চ্যালেঞ্জগুলো এমন ক্ষেত্রগুলো হাইলাইট করে যেখানে আমাদের কর্মগুলো শেয়ার করা মূল্যবোধের সাথে সংঘর্ষে আসতে পারে। এই উদ্বেগগুলো সনাক্ত, প্রশমিত, হ্রাস, বা নির্মূল করতে, আমাদের কর্মগুলোর সাথে সম্পর্কিত নৈতিক "হ্যাঁ/না" প্রশ্ন জিজ্ঞাসা করতে হবে, তারপর প্রয়োজনীয় সংশোধনমূলক ব্যবস্থা নিতে হবে। চলুন কিছু নৈতিক চ্যালেঞ্জ এবং সেগুলো যে নৈতিক প্রশ্ন উত্থাপন করে তা দেখি: -উভয় ক্ষেত্রেই, নৈতিক চ্যালেঞ্জগুলি এমন ক্ষেত্রগুলিকে হাইলাইট করে যেখানে আমাদের ক্রিয়াকলাপগুলি আমাদের ভাগ করা মূল্যবোধের সাথে সংঘর্ষে পড়তে পারে। এই উদ্বেগগুলি সনাক্ত, প্রশমিত, কমানো বা দূর করতে - আমাদের আমাদের ক্রিয়াকলাপ সম্পর্কিত নৈতিক "হ্যাঁ/না" প্রশ্ন জিজ্ঞাসা করতে হবে এবং প্রয়োজন অনুযায়ী সংশোধনমূলক ব্যবস্থা নিতে হবে। চলুন কিছু নৈতিক চ্যালেঞ্জ এবং তারা যে নৈতিক প্রশ্ন উত্থাপন করে তা দেখি: -#### ২.১ ডেটা মালিকানা +#### ২.১ ডেটার মালিকানা -ডেটা সংগ্রহ প্রায়ই ব্যক্তিগত ডেটা অন্তর্ভুক্ত করে যা ডেটা বিষয়গুলিকে শনাক্ত করতে পারে। [ডেটা মালিকানা](https://permission.io/blog/data-ownership) হলো ডেটা তৈরি, প্রক্রিয়াকরণ এবং প্রচারের সাথে সম্পর্কিত _নিয়ন্ত্রণ_ এবং [_ব্যবহারকারীর অধিকার_](https://permission.io/blog/data-ownership)। +ডেটা সংগ্রহ প্রায়ই ব্যক্তিগত ডেটার সাথে সম্পর্কিত, যা ডেটা বিষয়গুলোকে সনাক্ত করতে পারে। [ডেটার মালিকানা](https://permission.io/blog/data-ownership) হলো ডেটার সৃষ্ট, প্রক্রিয়াকরণ এবং প্রচারের সাথে সম্পর্কিত _নিয়ন্ত্রণ_ এবং [_ব্যবহারকারীর অধিকার_](https://permission.io/blog/data-ownership)। -আমাদের জিজ্ঞাসা করা নৈতিক প্রশ্নগুলো হলো: - * ডেটার মালিক কে? (ব্যবহারকারী বা প্রতিষ্ঠান) - * ডেটা বিষয়গুলির কী অধিকার রয়েছে? (যেমন: অ্যাক্সেস, মুছে ফেলা, পোর্টেবিলিটি) - * প্রতিষ্ঠানের কী অধিকার রয়েছে? (যেমন: ক্ষতিকারক ব্যবহারকারীর পর্যালোচনা সংশোধন করা) +আমাদের জিজ্ঞাসা করা নৈতিক প্রশ্নগুলো হলো: + * ডেটার মালিক কে? (ব্যবহারকারী নাকি প্রতিষ্ঠান) + * ডেটা বিষয়গুলোর কী অধিকার রয়েছে? (যেমন: অ্যাক্সেস, মুছে ফেলা, পোর্টেবিলিটি) + * প্রতিষ্ঠানের কী অধিকার রয়েছে? (যেমন: ক্ষতিকারক ব্যবহারকারীর পর্যালোচনা সংশোধন) #### ২.২ অবগত সম্মতি -[অবগত সম্মতি](https://legaldictionary.net/informed-consent/) সংজ্ঞায়িত করে ব্যবহারকারীদের একটি ক্রিয়াকলাপ (যেমন ডেটা সংগ্রহ) সম্মত হওয়ার কাজ, যেখানে তারা প্রাসঙ্গিক তথ্যের _সম্পূর্ণ বোঝাপড়া_ রাখে, যার মধ্যে উদ্দেশ্য, সম্ভাব্য ঝুঁকি এবং বিকল্প রয়েছে। +[অবগত সম্মতি](https://legaldictionary.net/informed-consent/) ব্যবহারকারীদের একটি কর্মে (যেমন ডেটা সংগ্রহ) সম্মতি দেওয়ার কাজকে সংজ্ঞায়িত করে, যেখানে তারা প্রাসঙ্গিক তথ্যের _সম্পূর্ণ বোঝাপড়া_ রাখে, যার মধ্যে উদ্দেশ্য, সম্ভাব্য ঝুঁকি, এবং বিকল্পগুলো অন্তর্ভুক্ত। -এখানে অনুসন্ধানের প্রশ্নগুলো হলো: - * ব্যবহারকারী (ডেটা বিষয়) ডেটা সংগ্রহ এবং ব্যবহারের জন্য অনুমতি দিয়েছেন কি? - * ব্যবহারকারী বুঝেছেন কি কেন সেই ডেটা সংগ্রহ করা হয়েছে? - * ব্যবহারকারী তাদের অংশগ্রহণ থেকে সম্ভাব্য ঝুঁকিগুলি বুঝেছেন কি? +এখানে অন্বেষণ করার প্রশ্নগুলো হলো: + * ব্যবহারকারী (ডেটা বিষয়) কি ডেটা সংগ্রহ এবং ব্যবহারের জন্য অনুমতি দিয়েছে? + * ব্যবহারকারী কি বুঝেছে যে ডেটা কোন উদ্দেশ্যে সংগ্রহ করা হয়েছে? + * ব্যবহারকারী কি তাদের অংশগ্রহণ থেকে সম্ভাব্য ঝুঁকিগুলো বুঝেছে? -#### ২.৩ বৌদ্ধিক সম্পত্তি +#### ২.৩ বুদ্ধিবৃত্তিক সম্পত্তি -[বৌদ্ধিক সম্পত্তি](https://en.wikipedia.org/wiki/Intellectual_property) হলো মানব উদ্যোগ থেকে উদ্ভূত অমূর্ত সৃষ্টি, যা ব্যক্তিদের বা ব্যবসার জন্য _অর্থনৈতিক মূল্য_ থাকতে পারে। +[বুদ্ধিবৃত্তিক সম্পত্তি](https://en.wikipedia.org/wiki/Intellectual_property) হলো মানব উদ্যোগ থেকে উদ্ভূত অমূর্ত সৃষ্টি, যা ব্যক্তিদের বা ব্যবসার জন্য _অর্থনৈতিক মূল্য_ রাখতে পারে। -এখানে অনুসন্ধানের প্রশ্নগুলো হলো: - * সংগৃহীত ডেটার ব্যবহারকারী বা ব্যবসার জন্য অর্থনৈতিক মূল্য ছিল কি? - * এখানে **ব্যবহারকারী** এর বৌদ্ধিক সম্পত্তি রয়েছে কি? - * এখানে **প্রতিষ্ঠান** এর বৌদ্ধিক সম্পত্তি রয়েছে কি? - * যদি এই অধিকারগুলি থাকে, আমরা কীভাবে সেগুলি রক্ষা করছি? +এখানে অন্বেষণ করার প্রশ্নগুলো হলো: + * সংগৃহীত ডেটার কি ব্যবহারকারী বা ব্যবসার জন্য অর্থনৈতিক মূল্য ছিল? + * এখানে ব্যবহারকারীর কি বুদ্ধিবৃত্তিক সম্পত্তি রয়েছে? + * এখানে প্রতিষ্ঠানের কি বুদ্ধিবৃত্তিক সম্পত্তি রয়েছে? + * যদি এই অধিকারগুলো থাকে, আমরা কীভাবে সেগুলো রক্ষা করছি? #### ২.৪ ডেটা গোপনীয়তা -[ডেটা গোপনীয়তা](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) বা তথ্য গোপনীয়তা ব্যবহারকারীর গোপনীয়তা সংরক্ষণ এবং ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্যের সাথে ব্যবহারকারীর পরিচয় সুরক্ষার বিষয়ে। +[ডেটা গোপনীয়তা](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) বা তথ্য গোপনীয়তা হলো ব্যবহারকারীর গোপনীয়তা সংরক্ষণ এবং ব্যক্তিগতভাবে সনাক্তযোগ্য তথ্যের সাথে ব্যবহারকারীর পরিচয় সুরক্ষার বিষয়। -এখানে অনুসন্ধানের প্রশ্নগুলো হলো: - * ব্যবহারকারীর (ব্যক্তিগত) ডেটা হ্যাক এবং লিকের বিরুদ্ধে সুরক্ষিত কি? - * ব্যবহারকারীর ডেটা শুধুমাত্র অনুমোদিত ব্যবহারকারী এবং প্রসঙ্গে অ্যাক্সেসযোগ্য কি? - * ডেটা শেয়ার বা প্রচার করার সময় ব্যবহারকারীর নাম গোপন রাখা হয়েছে কি? - * ব্যবহারকারীকে বেনামী ডেটাসেট থেকে শনাক্ত করা যেতে পারে কি? +এখানে অন্বেষণ করার প্রশ্নগুলো হলো: + * ব্যবহারকারীর (ব্যক্তিগত) ডেটা কি হ্যাক এবং ফাঁস থেকে সুরক্ষিত? + * ব্যবহারকারীর ডেটা কি শুধুমাত্র অনুমোদিত ব্যবহারকারী এবং প্রেক্ষাপটের জন্য অ্যাক্সেসযোগ্য? + * ডেটা শেয়ার বা প্রচারের সময় ব্যবহারকারীর নাম গোপনীয়তা কি সংরক্ষিত? + * ব্যবহারকারী কি বেনামী ডেটাসেট থেকে সনাক্তযোগ্য হতে পারে? #### ২.৫ ভুলে যাওয়ার অধিকার -[ভুলে যাওয়ার অধিকার](https://en.wikipedia.org/wiki/Right_to_be_forgotten) বা [মুছে ফেলার অধিকার](https://www.gdpreu.org/right-to-be-forgotten/) ব্যবহারকারীদের অতিরিক্ত ব্যক্তিগত ডেটা সুরক্ষা প্রদান করে। বিশেষত, এটি ব্যবহারকারীদের ইন্টারনেট অনুসন্ধান এবং অন্যান্য স্থানে ব্যক্তিগত ডেটা মুছে ফেলার বা অপসারণের অনুরোধ করার অধিকার দেয়, _নির্দিষ্ট পরিস্থিতিতে_ - তাদের অনলাইনে একটি নতুন সূচনা করার অনুমতি দেয় যাতে অতীতের ক্রিয়াকলাপগুলি তাদের বিরুদ্ধে না থাকে। +[ভুলে যাওয়ার অধিকার](https://en.wikipedia.org/wiki/Right_to_be_forgotten) বা [মুছে ফেলার অধিকার](https://www.gdpreu.org/right-to-be-forgotten/) ব্যবহারকারীদের অতিরিক্ত ব্যক্তিগত ডেটা সুরক্ষা প্রদান করে। বিশেষ করে, এটি ব্যবহারকারীদের নির্দিষ্ট পরিস্থিতিতে ইন্টারনেট অনুসন্ধান এবং অন্যান্য স্থানে ব্যক্তিগত ডেটা মুছে ফেলার বা অপসারণের অনুরোধ করার অধিকার দেয় - তাদের অনলাইনে একটি নতুন সূচনা করার অনুমতি দেয় যাতে অতীত কর্ম তাদের বিরুদ্ধে না থাকে। -এখানে অনুসন্ধানের প্রশ্নগুলো হলো: - * সিস্টেমটি ডেটা বিষয়গুলিকে মুছে ফেলার অনুরোধ করার অনুমতি দেয় কি? - * ব্যবহারকারীর সম্মতি প্রত্যাহার স্বয়ংক্রিয় মুছে ফেলা ট্রিগার করা উচিত কি? - * ডেটা সম্মতি ছাড়াই বা অবৈধ উপায়ে সংগ্রহ করা হয়েছিল কি? - * আমরা ডেটা গোপনীয়তার জন্য সরকারী নিয়মকানুনের সাথে সম্মত কি? +এখানে অন্বেষণ করার প্রশ্নগুলো হলো: + * সিস্টেম কি ডেটা বিষয়গুলোকে মুছে ফেলার অনুরোধ করার অনুমতি দেয়? + * ব্যবহারকারীর সম্মতি প্রত্যাহার কি স্বয়ংক্রিয় মুছে ফেলা ট্রিগার করা উচিত? + * ডেটা কি সম্মতি ছাড়া বা অব +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) পরীক্ষা করে দেখে যে কোনো অ্যালগরিদম ডিজাইন কি নির্দিষ্ট ডেটা সাবগ্রুপের বিরুদ্ধে পক্ষপাতমূলক আচরণ করছে কিনা, যা _বণ্টন_ (যেখানে সেই গ্রুপের কাছে সম্পদ অস্বীকার করা হয় বা আটকে রাখা হয়) এবং _সেবার মান_ (যেখানে AI কিছু সাবগ্রুপের জন্য অন্যদের তুলনায় কম সঠিক) ক্ষেত্রে [সম্ভাব্য ক্ষতি](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) সৃষ্টি করতে পারে। -#### ২.৬ ডেটাসেট পক্ষপাতিত্ব - -ডেটাসেট বা [সংগ্রহ পক্ষপাতিত্ব](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) হলো অ্যালগরিদম উন্নয়নের জন্য একটি _অপ্রতিনিধিত্বমূলক_ ডেটার -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) পরীক্ষা করে দেখে যে কোনো অ্যালগরিদম ডিজাইন কি নির্দিষ্ট ডেটা সাবগ্রুপের বিরুদ্ধে পক্ষপাতমূলক আচরণ করছে কিনা, যা _বণ্টন_ (যেখানে সেই গ্রুপের কাছে সম্পদ পৌঁছানো বা সরবরাহ করা হয় না) এবং _সেবার গুণগত মান_ (যেখানে AI কিছু সাবগ্রুপের জন্য অন্যদের তুলনায় কম সঠিক) ক্ষেত্রে [সম্ভাব্য ক্ষতি](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) সৃষ্টি করতে পারে। - -এখানে যে প্রশ্নগুলো বিবেচনা করা যেতে পারে: +এখানে অনুসন্ধানের জন্য কিছু প্রশ্ন: * আমরা কি বিভিন্ন সাবগ্রুপ এবং শর্তের জন্য মডেলের সঠিকতা মূল্যায়ন করেছি? - * আমরা কি সিস্টেমকে সম্ভাব্য ক্ষতির (যেমন, স্টেরিওটাইপিং) জন্য গভীরভাবে পর্যবেক্ষণ করেছি? + * আমরা কি সম্ভাব্য ক্ষতির জন্য সিস্টেমটি গভীরভাবে পর্যবেক্ষণ করেছি (যেমন, স্টেরিওটাইপিং)? * আমরা কি চিহ্নিত ক্ষতি কমানোর জন্য ডেটা সংশোধন বা মডেল পুনরায় প্রশিক্ষণ করতে পারি? আরও জানার জন্য [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) এর মতো রিসোর্সগুলো অন্বেষণ করুন। #### 2.9 ভুল উপস্থাপন -[ডেটা ভুল উপস্থাপন](https://www.sciencedirect.com/topics/computer-science/misrepresentation) হলো এই প্রশ্ন করা যে আমরা কি সৎভাবে রিপোর্ট করা ডেটা থেকে প্রাপ্ত অন্তর্দৃষ্টি এমনভাবে উপস্থাপন করছি যা ইচ্ছাকৃতভাবে একটি নির্দিষ্ট বর্ণনার সমর্থনে বিভ্রান্তিকর হতে পারে। +[ডেটা ভুল উপস্থাপন](https://www.sciencedirect.com/topics/computer-science/misrepresentation) হলো এই প্রশ্ন করা যে আমরা কি সৎভাবে রিপোর্ট করা ডেটা থেকে প্রাপ্ত অন্তর্দৃষ্টি এমনভাবে উপস্থাপন করছি যা একটি পছন্দসই বর্ণনার সমর্থনে বিভ্রান্তিকর হতে পারে। -এখানে যে প্রশ্নগুলো বিবেচনা করা যেতে পারে: +এখানে অনুসন্ধানের জন্য কিছু প্রশ্ন: * আমরা কি অসম্পূর্ণ বা ভুল ডেটা রিপোর্ট করছি? * আমরা কি ডেটা এমনভাবে ভিজ্যুয়ালাইজ করছি যা বিভ্রান্তিকর সিদ্ধান্তে পৌঁছাতে সাহায্য করে? * আমরা কি নির্বাচিত পরিসংখ্যানগত কৌশল ব্যবহার করে ফলাফলকে প্রভাবিত করছি? * এমন কোনো বিকল্প ব্যাখ্যা আছে কি যা ভিন্ন সিদ্ধান্ত দিতে পারে? #### 2.10 স্বাধীন পছন্দ -[স্বাধীন পছন্দের ভ্রম](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ঘটে যখন সিস্টেমের "পছন্দ স্থাপত্য" সিদ্ধান্ত গ্রহণের অ্যালগরিদম ব্যবহার করে মানুষকে একটি পছন্দসই ফলাফলের দিকে ঠেলে দেয়, যদিও তাদের কাছে বিকল্প এবং নিয়ন্ত্রণ থাকার ভান করা হয়। এই [ডার্ক প্যাটার্ন](https://www.darkpatterns.org/) ব্যবহারকারীদের সামাজিক এবং অর্থনৈতিক ক্ষতি করতে পারে। যেহেতু ব্যবহারকারীর সিদ্ধান্ত আচরণগত প্রোফাইলকে প্রভাবিত করে, এই পদক্ষেপগুলো ভবিষ্যতের পছন্দগুলোকে আরও বাড়াতে বা প্রসারিত করতে পারে। +[স্বাধীন পছন্দের বিভ্রম](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ঘটে যখন সিস্টেমের "পছন্দ স্থাপত্য" সিদ্ধান্ত গ্রহণের অ্যালগরিদম ব্যবহার করে মানুষকে একটি পছন্দসই ফলাফলের দিকে ঠেলে দেয়, যদিও তাদের বিকল্প এবং নিয়ন্ত্রণ দেওয়ার ভান করা হয়। এই [ডার্ক প্যাটার্ন](https://www.darkpatterns.org/) ব্যবহারকারীদের সামাজিক এবং অর্থনৈতিক ক্ষতি করতে পারে। যেহেতু ব্যবহারকারীর সিদ্ধান্ত আচরণগত প্রোফাইলকে প্রভাবিত করে, এই পদক্ষেপগুলো ভবিষ্যতের পছন্দগুলোকে আরও বাড়াতে বা প্রসারিত করতে পারে। -এখানে যে প্রশ্নগুলো বিবেচনা করা যেতে পারে: +এখানে অনুসন্ধানের জন্য কিছু প্রশ্ন: * ব্যবহারকারী কি সেই পছন্দ করার প্রভাবগুলো বুঝতে পেরেছে? * ব্যবহারকারী কি (বিকল্প) পছন্দ এবং প্রতিটির সুবিধা ও অসুবিধা সম্পর্কে সচেতন ছিল? - * ব্যবহারকারী কি একটি স্বয়ংক্রিয় বা প্রভাবিত পছন্দ পরে পরিবর্তন করতে পারে? + * ব্যবহারকারী কি পরে একটি স্বয়ংক্রিয় বা প্রভাবিত পছন্দ পরিবর্তন করতে পারে? ### 3. কেস স্টাডি -এই নৈতিক চ্যালেঞ্জগুলোকে বাস্তব জীবনের প্রেক্ষাপটে রাখার জন্য, এমন কেস স্টাডি দেখা সহায়ক যা নৈতিক লঙ্ঘন উপেক্ষা করার ফলে ব্যক্তি এবং সমাজের ওপর সম্ভাব্য ক্ষতি এবং পরিণতি তুলে ধরে। +এই নৈতিক চ্যালেঞ্জগুলোকে বাস্তব জীবনের প্রেক্ষাপটে রাখার জন্য, এমন কেস স্টাডি দেখা সহায়ক যা নৈতিক লঙ্ঘন উপেক্ষা করার ফলে ব্যক্তি এবং সমাজের উপর সম্ভাব্য ক্ষতি এবং পরিণতি তুলে ধরে। কিছু উদাহরণ এখানে দেওয়া হলো: | নৈতিক চ্যালেঞ্জ | কেস স্টাডি | |--- |--- | -| **সচেতন সম্মতি** | 1972 - [টাস্কিগি সিফিলিস স্টাডি](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - আফ্রিকান আমেরিকান পুরুষদের বিনামূল্যে চিকিৎসার প্রতিশ্রুতি দেওয়া হয়েছিল, কিন্তু গবেষকরা তাদের রোগ নির্ণয় বা চিকিৎসার প্রাপ্যতা সম্পর্কে জানাতে ব্যর্থ হন। অনেক অংশগ্রহণকারী মারা যান এবং তাদের সঙ্গী বা সন্তান ক্ষতিগ্রস্ত হন; এই গবেষণা ৪০ বছর ধরে চলে। | -| **ডেটা গোপনীয়তা** | 2007 - [নেটফ্লিক্স ডেটা প্রাইজ](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) গবেষকদের _৫০,০০০ গ্রাহকের ১০ মিলিয়ন অ্যানোনিমাইজড মুভি রেটিং_ প্রদান করে সুপারিশ অ্যালগরিদম উন্নত করতে। তবে, গবেষকরা অ্যানোনিমাইজড ডেটাকে _বাহ্যিক ডেটাসেটের_ (যেমন, IMDb মন্তব্য) সঙ্গে সংযুক্ত করে কিছু নেটফ্লিক্স গ্রাহকদের "ডি-অ্যানোনিমাইজ" করতে সক্ষম হন।| -| **সংগ্রহ পক্ষপাত** | 2013 - বোস্টন শহর [স্ট্রিট বাম্প](https://www.boston.gov/transportation/street-bump) অ্যাপ তৈরি করে যা নাগরিকদের পটহোল রিপোর্ট করতে দেয়, শহরকে ভালো রাস্তার ডেটা দিয়ে সমস্যা খুঁজে বের করতে এবং ঠিক করতে সাহায্য করে। তবে, [নিম্ন আয়ের গ্রুপের মানুষের গাড়ি এবং ফোনে কম প্রবেশাধিকার ছিল](https://hbr.org/2013/04/the-hidden-biases-in-big-data), যার ফলে তাদের রাস্তার সমস্যাগুলো এই অ্যাপে অদৃশ্য হয়ে যায়। ডেভেলপাররা ন্যায্যতার জন্য _সমান প্রবেশাধিকার এবং ডিজিটাল বিভাজন_ সমস্যাগুলো নিয়ে একাডেমিকদের সঙ্গে কাজ করেন। | -| **অ্যালগরিদমিক ন্যায্যতা** | 2018 - MIT [জেন্ডার শেডস স্টাডি](http://gendershades.org/overview.html) লিঙ্গ শ্রেণীবিন্যাস AI পণ্যের সঠিকতা মূল্যায়ন করে, নারীদের এবং রঙের মানুষের জন্য সঠিকতার ফাঁকগুলো প্রকাশ করে। একটি [2019 অ্যাপল কার্ড](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) পুরুষদের তুলনায় নারীদের কম ক্রেডিট অফার করে বলে মনে হয়। উভয়ই অ্যালগরিদমিক পক্ষপাতের সমস্যাগুলো তুলে ধরে যা সামাজিক-অর্থনৈতিক ক্ষতি সৃষ্টি করে।| -| **ডেটা ভুল উপস্থাপন** | 2020 - [জর্জিয়া ডিপার্টমেন্ট অফ পাবলিক হেলথ COVID-19 চার্ট প্রকাশ করে](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) যা নিশ্চিত কেসের প্রবণতা সম্পর্কে নাগরিকদের বিভ্রান্ত করতে পারে, যেখানে x-অক্ষের অchronological অর্ডারিং ছিল। এটি ভিজ্যুয়ালাইজেশন কৌশলের মাধ্যমে ভুল উপস্থাপনের উদাহরণ। | -| **স্বাধীন পছন্দের ভ্রম** | 2020 - লার্নিং অ্যাপ [ABCmouse $10M জরিমানা দিয়ে FTC অভিযোগ মীমাংসা করে](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) যেখানে অভিভাবকরা এমন সাবস্ক্রিপশন পেমেন্টে আটকা পড়েন যা তারা বাতিল করতে পারেননি। এটি পছন্দ স্থাপত্যে ডার্ক প্যাটার্নের উদাহরণ, যেখানে ব্যবহারকারীদের ক্ষতিকর পছন্দের দিকে ঠেলে দেওয়া হয়। | -| **ডেটা গোপনীয়তা ও ব্যবহারকারীর অধিকার** | 2021 - ফেসবুক [ডেটা ব্রিচ](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ৫৩০ মিলিয়ন ব্যবহারকারীর ডেটা প্রকাশ করে, যার ফলে FTC-কে $5B জরিমানা দিতে হয়। তবে, এটি ব্যবহারকারীদের ব্রিচ সম্পর্কে জানাতে অস্বীকার করে, যা ডেটা স্বচ্ছতা এবং প্রবেশাধিকারের ক্ষেত্রে ব্যবহারকারীর অধিকার লঙ্ঘন করে। | +| **সচেতন সম্মতি** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - আফ্রিকান আমেরিকান পুরুষদের বিনামূল্যে চিকিৎসার প্রতিশ্রুতি দেওয়া হয়েছিল, কিন্তু গবেষকরা তাদের রোগ নির্ণয় বা চিকিৎসার প্রাপ্যতা সম্পর্কে জানাতে ব্যর্থ হন। অনেক অংশগ্রহণকারী মারা যান এবং তাদের সঙ্গী বা সন্তান ক্ষতিগ্রস্ত হন; গবেষণাটি ৪০ বছর ধরে চলে। | +| **ডেটা গোপনীয়তা** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) গবেষকদের _৫০,০০০ গ্রাহকের ১০ মিলিয়ন অ্যানোনিমাইজড মুভি রেটিং_ প্রদান করেছিল সুপারিশ অ্যালগরিদম উন্নত করতে। তবে, গবেষকরা অ্যানোনিমাইজড ডেটাকে _বাহ্যিক ডেটাসেট_ (যেমন, IMDb মন্তব্য) এর সাথে সংযুক্ত করতে সক্ষম হন - কার্যত কিছু Netflix গ্রাহকদের "ডি-অ্যানোনিমাইজ" করে।| +| **সংগ্রহ পক্ষপাত** | 2013 - বোস্টন শহর [Street Bump](https://www.boston.gov/transportation/street-bump) অ্যাপ তৈরি করেছিল যা নাগরিকদের গর্ত রিপোর্ট করতে দেয়, শহরকে ভালো রাস্তার ডেটা প্রদান করে সমস্যা খুঁজে বের করতে এবং সমাধান করতে। তবে, [নিম্ন আয়ের গ্রুপের মানুষের গাড়ি এবং ফোনে কম প্রবেশাধিকার ছিল](https://hbr.org/2013/04/the-hidden-biases-in-big-data), যার ফলে তাদের রাস্তার সমস্যাগুলো এই অ্যাপে অদৃশ্য ছিল। ডেভেলপাররা ন্যায্যতার জন্য _সমান প্রবেশাধিকার এবং ডিজিটাল বিভাজন_ সমস্যাগুলো নিয়ে একাডেমিকদের সাথে কাজ করেন। | +| **অ্যালগরিদমিক ন্যায্যতা** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) লিঙ্গ শ্রেণীবিন্যাস AI পণ্যের সঠিকতা মূল্যায়ন করে, নারীদের এবং রঙের ব্যক্তিদের জন্য সঠিকতার ফাঁকগুলো প্রকাশ করে। একটি [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) নারীদের তুলনায় পুরুষদের বেশি ক্রেডিট দেওয়ার প্রবণতা দেখায়। উভয়ই অ্যালগরিদমিক পক্ষপাতের সমস্যাগুলো তুলে ধরে যা সামাজিক-অর্থনৈতিক ক্ষতি সৃষ্টি করে।| +| **ডেটা ভুল উপস্থাপন** | 2020 - [Georgia Department of Public Health COVID-19 চার্ট](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) প্রকাশ করে যা নিশ্চিত কেসের প্রবণতা সম্পর্কে নাগরিকদের বিভ্রান্ত করতে পারে, x-অক্ষের অ-কালানুক্রমিক ক্রমের মাধ্যমে। এটি ভিজ্যুয়ালাইজেশন কৌশলের মাধ্যমে ভুল উপস্থাপনের উদাহরণ। | +| **স্বাধীন পছন্দের বিভ্রম** | 2020 - লার্নিং অ্যাপ [ABCmouse $10M জরিমানা দিয়ে FTC অভিযোগ মীমাংসা করে](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) যেখানে অভিভাবকরা এমন সাবস্ক্রিপশন পেমেন্টে আটকা পড়েন যা তারা বাতিল করতে পারেননি। এটি পছন্দ স্থাপত্যে ডার্ক প্যাটার্নের উদাহরণ, যেখানে ব্যবহারকারীদের ক্ষতিকর পছন্দের দিকে ঠেলে দেওয়া হয়। | +| **ডেটা গোপনীয়তা ও ব্যবহারকারীর অধিকার** | 2021 - Facebook [ডেটা লঙ্ঘন](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ৫৩০ মিলিয়ন ব্যবহারকারীর ডেটা প্রকাশ করে, যার ফলে FTC-কে $5B জরিমানা দিতে হয়। তবে, এটি ব্যবহারকারীদের লঙ্ঘনের বিষয়ে জানাতে অস্বীকার করে, যা ডেটা স্বচ্ছতা এবং প্রবেশাধিকার সম্পর্কে ব্যবহারকারীর অধিকার লঙ্ঘন করে। | আরও কেস স্টাডি অন্বেষণ করতে চান? এই রিসোর্সগুলো দেখুন: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - বিভিন্ন শিল্পের নৈতিক দ্বিধা। @@ -177,38 +175,38 @@ CO_OP_TRANSLATOR_METADATA: > 🚨 আপনি যে কেস স্টাডিগুলো দেখেছেন তা নিয়ে ভাবুন - আপনার জীবনে কি এমন কোনো নৈতিক চ্যালেঞ্জের অভিজ্ঞতা হয়েছে বা আপনি ক্ষতিগ্রস্ত হয়েছেন? আপনি কি এই বিভাগে আলোচনা করা নৈতিক চ্যালেঞ্জগুলোর মধ্যে অন্তত একটি চিত্রিত করে এমন অন্য কোনো কেস স্টাডি ভাবতে পারেন? -## প্রয়োগকৃত নৈতিকতা +## প্রয়োগকৃত নৈতিকতা -আমরা নৈতিকতার ধারণা, চ্যালেঞ্জ এবং বাস্তব জীবনের প্রেক্ষাপটে কেস স্টাডি নিয়ে আলোচনা করেছি। কিন্তু কীভাবে আমরা আমাদের প্রকল্পগুলোতে নৈতিক নীতিমালা এবং অনুশীলন _প্রয়োগ_ করতে শুরু করব? এবং কীভাবে আমরা এই অনুশীলনগুলোকে _অপারেশনালাইজ_ করব যাতে ভালো শাসন নিশ্চিত করা যায়? আসুন কিছু বাস্তব সমাধান অন্বেষণ করি: +আমরা নৈতিকতার ধারণা, চ্যালেঞ্জ এবং বাস্তব জীবনের প্রেক্ষাপটে কেস স্টাডি নিয়ে আলোচনা করেছি। কিন্তু কীভাবে আমরা আমাদের প্রকল্পগুলোতে নৈতিক নীতিমালা এবং অনুশীলন _প্রয়োগ_ করতে শুরু করব? এবং কীভাবে আমরা _অপারেশনালাইজ_ করব এই অনুশীলনগুলোকে ভালো শাসনের জন্য? আসুন কিছু বাস্তব সমাধান অন্বেষণ করি: ### 1. পেশাদার কোড -পেশাদার কোডগুলো সংগঠনগুলোর জন্য একটি বিকল্প প্রদান করে যাতে তারা তাদের নৈতিক নীতিমালা এবং মিশন বিবৃতিকে সমর্থন করার জন্য সদস্যদের "উৎসাহিত" করতে পারে। কোডগুলো পেশাদার আচরণের জন্য _নৈতিক নির্দেশিকা_ প্রদান করে, যা কর্মচারী বা সদস্যদের এমন সিদ্ধান্ত নিতে সাহায্য করে যা তাদের সংগঠনের নীতিমালার সঙ্গে সামঞ্জস্যপূর্ণ। এগুলো শুধুমাত্র সদস্যদের স্বেচ্ছাসেবী সম্মতির উপর নির্ভর করে কার্যকর; তবে, অনেক সংগঠন সদস্যদের সম্মতি উৎসাহিত করতে অতিরিক্ত পুরস্কার এবং শাস্তি প্রদান করে। +পেশাদার কোডগুলো সংগঠনগুলোকে তাদের নৈতিক নীতিমালা এবং মিশন বিবৃতিকে সমর্থন করতে সদস্যদের "উৎসাহিত" করার একটি বিকল্প প্রদান করে। কোডগুলো পেশাদার আচরণের জন্য _নৈতিক নির্দেশিকা_ প্রদান করে, যা কর্মচারী বা সদস্যদের সিদ্ধান্ত নিতে সাহায্য করে যা তাদের সংগঠনের নীতিমালার সাথে সামঞ্জস্যপূর্ণ। এগুলো শুধুমাত্র সদস্যদের স্বেচ্ছাসেবী সম্মতির উপর নির্ভর করে কার্যকর; তবে, অনেক সংগঠন সদস্যদের সম্মতি উৎসাহিত করতে অতিরিক্ত পুরস্কার এবং শাস্তি প্রদান করে। -উদাহরণগুলো অন্তর্ভুক্ত: +উদাহরণ: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) নৈতিকতার কোড * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) আচরণবিধি (২০১৩ সালে তৈরি) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (১৯৯৩ সাল থেকে) -> 🚨 আপনি কি কোনো পেশাদার ইঞ্জিনিয়ারিং বা ডেটা সায়েন্স সংগঠনের সদস্য? তাদের সাইটটি অন্বেষণ করুন এবং দেখুন তারা কি পেশাদার নৈতিকতার কোড সংজ্ঞায়িত করেছে। এটি তাদের নৈতিক নীতিমালা সম্পর্কে কী বলে? তারা সদস্যদের কোড অনুসরণ করতে কীভাবে "উৎসাহিত" করছে? +> 🚨 আপনি কি কোনো পেশাদার ইঞ্জিনিয়ারিং বা ডেটা সায়েন্স সংগঠনের সদস্য? তাদের সাইটটি অন্বেষণ করুন এবং দেখুন তারা কি একটি পেশাদার নৈতিকতার কোড সংজ্ঞায়িত করেছে। এটি তাদের নৈতিক নীতিমালা সম্পর্কে কী বলে? তারা কীভাবে সদস্যদের কোড অনুসরণ করতে "উৎসাহিত" করছে? ### 2. নৈতিকতার চেকলিস্ট -যেখানে পেশাদার কোডগুলো অনুশীলনকারীদের থেকে প্রয়োজনীয় _নৈতিক আচরণ_ সংজ্ঞায়িত করে, সেখানে [পরিচিত সীমাবদ্ধতা](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) রয়েছে, বিশেষত বৃহৎ প্রকল্পগুলোতে প্রয়োগে। এর পরিবর্তে, অনেক ডেটা সায়েন্স বিশেষজ্ঞ [চেকলিস্টের](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) পক্ষে যুক্তি দেন, যা নীতিমালাকে আরও নির্ধারক এবং কার্যকর উপায়ে অনুশীলনে সংযুক্ত করতে পারে। +যদিও পেশাদার কোডগুলো অনুশীলনকারীদের থেকে প্রয়োজনীয় _নৈতিক আচরণ_ সংজ্ঞায়িত করে, তারা [পরিচিত সীমাবদ্ধতা](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) রাখে, বিশেষত বৃহৎ প্রকল্পগুলোর প্রয়োগে। পরিবর্তে, অনেক ডেটা সায়েন্স বিশেষজ্ঞ [চেকলিস্টের](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) পক্ষে যুক্তি দেন, যা নীতিমালাকে অনুশীলনের সাথে **সংযুক্ত** করে আরও নির্ধারক এবং কার্যকর উপায়ে। -চেকলিস্টগুলো প্রশ্নগুলোকে "হ্যাঁ/না" কাজগুলোতে রূপান্তর করে যা অপারেশনালাইজ করা যায়, এবং এগুলোকে স্ট্যান্ডার্ড প্রোডাক্ট রিলিজ ওয়ার্কফ্লো হিসেবে ট্র্যাক করা যায়। +চেকলিস্টগুলো প্রশ্নগুলোকে "হ্যাঁ/না" কাজগুলোতে রূপান্তর করে যা অপারেশনালাইজ করা যায়, এবং এগুলোকে স্ট্যান্ডার্ড প্রোডাক্ট রিলিজ ওয়ার্কফ্লোতে ট্র্যাক করা যায়। -উদাহরণগুলো অন্তর্ভুক্ত: - * [Deon](https://deon.drivendata.org/) - শিল্পের সুপারিশ থেকে তৈরি একটি সাধারণ উদ্দেশ্য ডেটা নৈতিকতার চেকলিস্ট, যা সহজ ইন্টিগ্রেশনের জন্য কমান্ড-লাইন টুল প্রদান করে। - * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - আইনি এবং সামাজিক এক্সপোজার দৃষ্টিকোণ থেকে তথ্য পরিচালনার অনুশীলনের জন্য সাধারণ নির্দেশিকা প্রদান করে। - * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI উন্নয়ন চক্রে ন্যায্যতা চেকগুলোর গ্রহণ এবং ইন্টিগ্রেশন সমর্থন করার জন্য AI অনুশীলনকারীদের দ্বারা তৈরি। - * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - আরও খোলা কাঠামো, নকশা, বাস্তবায়ন এবং সাংগঠনিক প্রেক্ষাপটে নৈতিক সমস্যার প্রাথমিক অনুসন্ধানের জন্য গঠিত। +উদাহরণ: + * [Deon](https://deon.drivendata.org/) - শিল্পের সুপারিশ থেকে তৈরি একটি সাধারণ উদ্দেশ্য ডেটা নৈতিকতার চেকলিস্ট। + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - আইনি এবং সামাজিক এক্সপোজার দৃষ্টিকোণ থেকে তথ্য পরিচালনার সাধারণ নির্দেশিকা প্রদান করে। + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI উন্নয়ন চক্রে ন্যায্যতা চেকগুলোর গ্রহণ এবং সংহতকরণ সমর্থন করার জন্য তৈরি। + * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - নকশা, বাস্তবায়ন এবং সাংগঠনিক প্রেক্ষাপটে নৈতিক সমস্যার প্রাথমিক অনুসন্ধানের জন্য কাঠামোবদ্ধ। ### 3. নৈতিকতার নিয়মকানুন -নৈতিকতা হলো ভাগ করা মূল্যবোধ সংজ্ঞায়িত করা এবং _স্বেচ্ছায়_ সঠিক কাজ করা। **অনুগততা** হলো _আইন অনুসরণ করা_ যেখানে এবং যদি সংজ্ঞায়িত করা হয়। **শাসন** ব্যাপকভাবে সংগঠনগুলো কীভাবে নৈতিক নীতিমালা প্রয়োগ এবং প্রতিষ্ঠিত আইন মেনে চলার জন্য পরিচালনা করে তা অন্তর্ভুক্ত করে। +নৈতিকতা হলো ভাগ করা মূল্যবোধ সংজ্ঞায়িত করা এবং _স্বেচ্ছায়_ সঠিক কাজ করা। **অনুবর্তিতা** হলো _আইন মেনে চলা_ যেখানে এবং যেভাবে সংজ্ঞায়িত। **শাসন** ব্যাপকভাবে সংগঠনগুলো কীভাবে নৈতিক নীতিমালা প্রয়োগ এবং প্রতিষ্ঠিত আইন মেনে চলার জন্য পরিচালনা করে তা কভার করে। -আজ, শাসন সংগঠনগুলোর মধ্যে দুটি রূপ নেয়। প্রথমত, এটি **নৈতিক AI** নীতিমালা সংজ্ঞায়িত করা এবং সংগঠনের সমস্ত AI-সম্পর্কিত প্রকল্পে গ্রহণের অনুশীলন প্রতিষ্ঠা করা। দ্বিতীয়ত, এটি যে অঞ্চলে এটি পরিচালনা করে তার জন্য সমস্ত সরকার-নির্ধারিত **ডেটা সুরক্ষা নিয়মকানুন** মেনে চলা। +আজ, শাসন সংগঠনগুলোর মধ্যে দুটি রূপ নেয়। প্রথমত, এটি **নৈতিক AI** নীতিমালা সংজ্ঞায়িত করা এবং সংগঠনের সমস্ত AI-সম্পর্কিত প্রকল্পে গ্রহণের অপারেশনালাইজ করার অনুশীলন প্রতিষ্ঠা করা। দ্বিতীয়ত, এটি যে অঞ্চলে এটি পরিচালনা করে তার জন্য সমস্ত সরকার-নির্ধারিত **ডেটা সুরক্ষা নিয়মকানুন** মেনে চলা। ডেটা সুরক্ষা এবং গোপনীয়তার নিয়মকানুনের উদাহরণ: @@ -223,18 +221,20 @@ CO_OP_TRANSLATOR_METADATA: ### 4. নৈতিকতার সংস্কৃতি -লক্ষ্য করুন যে _অনুগততা_ (আইনের "অক্ষর" পূরণ করার জন্য যথেষ্ট করা) এবং [পদ্ধতিগত সমস্যাগুলো](https://www.coursera.org/learn/data-science-ethics/home/week/4) (যেমন, অস্থিরতা, তথ্যের অসমতা এবং বিতরণগত পক্ষপাত) সমাধান করার মধ্যে একটি অদৃশ্য ফাঁক রয়ে গেছে, যা AI-এর অস্ত্রায়নকে ত্বরান্বিত করতে পারে। +লক্ষ্য করুন যে _অনুবর্তিতা_ (আইনের "অক্ষর" পূরণ করার জন্য যথেষ্ট করা) এবং [পদ্ধতিগত সমস্যাগুলো](https://www.coursera.org/learn/data-science-ethics/home/week/4) (যেমন, অস্থিরতা, তথ্য অসমতা এবং বিতরণগত অন্যায্যতা) সমাধান করার মধ্যে একটি অদৃশ্য ফাঁক রয়ে গেছে যা AI-এর অস্ত্রায়নকে ত্বরান্বিত করতে পারে। -পরবর্তীটি [নৈতিকতার সংস্কৃতি সংজ্ঞায়িত করার জন্য সহযোগিতামূলক পদ্ধতির](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) আহ্বান জানায় যা শিল্পের মধ্যে _সংগঠনগুলোর_ মধ্যে আবেগগত সংযোগ এবং ধারাবাহিক ভাগ করা মূল্যবোধ তৈরি করে। এটি সংগঠনগুলোতে আরও [আনুষ্ঠানিক ডেটা নৈতিকতার সংস্কৃতি](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) তৈরি করার আহ্বান জানায় - যা _যেকোনো ব্যক্তিকে_ [অ্যান্ডন কর্ড টানতে](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (প্রক্রিয়ার প্রাথমিক পর্যায়ে নৈতিক উদ্বেগ উত্থাপন করতে) এবং AI প্রকল্পে দল গঠনের জন্য _নৈতিক মূল্যায়ন_ (যেমন, নিয়োগে) একটি মূল মানদণ্ড তৈরি করে। +পরবর্তীটি [নৈতিকতার সংস্কৃতি সংজ্ঞায়িত করার জন্য সহযোগিতামূলক পদ্ধতির](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) আহ্বান জানায় যা সংস্থাগুলোর মধ্যে আবেগগত সংযোগ এবং ধারাবাহিক ভাগ করা মূল্যবোধ তৈরি করে। এটি সংগঠনগুলোতে আরও [আনুষ্ঠানিক ডেটা নৈতিকতার সংস্কৃতি](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) তৈরি করার আহ্বান জানায় - যা _যেকোনো ব্যক্তিকে_ [অ্যান্ডন কর্ড টানতে](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (প্রক্রিয়ার প্রাথমিক পর্যায়ে নৈতিক উদ্বেগ উত্থাপন করতে) এবং _নৈতিক মূল্যায়ন_ (যেমন, নিয়োগে) AI প্রকল্পে দল গঠনের একটি মূল মানদণ্ড তৈরি করে। --- -## [পোস্ট-লেকচার কুইজ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [পোস্ট-লেকচার কুইজ](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## পর্যালোচনা ও স্ব-অধ্যয়ন -কোর্স এবং বইগুলো নৈতিকতার মূল ধারণা এবং চ্যালেঞ্জগুলো বুঝতে সাহায্য করে, যখন কেস স্টাডি এবং টুল +কোর্স এবং বইগুলো নৈতিকতার মূল ধারণা এবং চ্যালেঞ্জগুলো বুঝতে সাহায্য করে, যখন কেস স্টাডি এবং টুলগুলো বাস্তব জীবনের প্রেক্ষাপটে প্রয়োগকৃত নৈতিকতার অনুশীলনে সাহায্য করে। শুরু করার জন্য এখানে কিছু রিসোর্স দেওয়া হলো: + +* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft থেকে ন্যায্যতা নিয়ে পাঠ। * [Responsible AI এর নীতিমালা](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn থেকে বিনামূল্যে শেখার পথ। -* [নৈতিকতা এবং ডেটা বিজ্ঞান](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ইবুক (M. Loukides, H. Mason প্রমুখ) -* [ডেটা বিজ্ঞান নৈতিকতা](https://www.coursera.org/learn/data-science-ethics#syllabus) - মিশিগান বিশ্ববিদ্যালয়ের অনলাইন কোর্স। +* [নৈতিকতা এবং ডেটা সায়েন্স](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ইবুক (M. Loukides, H. Mason প্রমুখ) +* [ডেটা সায়েন্স নৈতিকতা](https://www.coursera.org/learn/data-science-ethics#syllabus) - মিশিগান বিশ্ববিদ্যালয়ের অনলাইন কোর্স। * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - টেক্সাস বিশ্ববিদ্যালয়ের কেস স্টাডি। # অ্যাসাইনমেন্ট @@ -244,4 +244,4 @@ CO_OP_TRANSLATOR_METADATA: --- **অস্বীকৃতি**: -এই নথিটি AI অনুবাদ পরিষেবা [Co-op Translator](https://github.com/Azure/co-op-translator) ব্যবহার করে অনুবাদ করা হয়েছে। আমরা যথাসম্ভব সঠিক অনুবাদের চেষ্টা করি, তবে অনুগ্রহ করে মনে রাখবেন যে স্বয়ংক্রিয় অনুবাদে ত্রুটি বা অসঙ্গতি থাকতে পারে। নথিটির মূল ভাষায় রচিত সংস্করণটিকেই প্রামাণিক উৎস হিসেবে বিবেচনা করা উচিত। গুরুত্বপূর্ণ তথ্যের জন্য, পেশাদার মানব অনুবাদ ব্যবহার করার পরামর্শ দেওয়া হয়। এই অনুবাদ ব্যবহারের ফলে সৃষ্ট কোনো ভুল বোঝাবুঝি বা ভুল ব্যাখ্যার জন্য আমরা দায়ী নই। \ No newline at end of file +এই নথিটি AI অনুবাদ পরিষেবা [Co-op Translator](https://github.com/Azure/co-op-translator) ব্যবহার করে অনুবাদ করা হয়েছে। আমরা যথাসম্ভব সঠিক অনুবাদ প্রদানের চেষ্টা করি, তবে অনুগ্রহ করে মনে রাখবেন যে স্বয়ংক্রিয় অনুবাদে ত্রুটি বা অসঙ্গতি থাকতে পারে। মূল ভাষায় থাকা নথিটিকে প্রামাণিক উৎস হিসেবে বিবেচনা করা উচিত। গুরুত্বপূর্ণ তথ্যের জন্য, পেশাদার মানব অনুবাদ সুপারিশ করা হয়। এই অনুবাদ ব্যবহারের ফলে কোনো ভুল বোঝাবুঝি বা ভুল ব্যাখ্যা হলে আমরা দায়বদ্ধ থাকব না। \ No newline at end of file diff --git a/translations/br/1-Introduction/02-ethics/README.md b/translations/br/1-Introduction/02-ethics/README.md index 74d4eb7d..63c40197 100644 --- a/translations/br/1-Introduction/02-ethics/README.md +++ b/translations/br/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # مقدمه‌ای بر اخلاق داده‌ها -|![طرح مفهومی توسط [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![طرح‌نگاری توسط [(@sketchthedocs)](https://sketchthedocs.dev)](../../sketchnotes/02-Ethics.png)| |:---:| -| اخلاق در علم داده - _طرح مفهومی توسط [@nitya](https://twitter.com/nitya)_ | +| اخلاق داده‌ها - _طرح‌نگاری توسط [@nitya](https://twitter.com/nitya)_ | --- -ما همه شهروندان دنیای داده‌محور هستیم. +ما همه شهروندان داده‌ای هستیم که در دنیایی داده‌محور زندگی می‌کنیم. -روندهای بازار نشان می‌دهند که تا سال ۲۰۲۲، یک‌سوم از سازمان‌های بزرگ داده‌های خود را از طریق [بازارها و مبادلات آنلاین](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) خرید و فروش خواهند کرد. به عنوان **توسعه‌دهندگان اپلیکیشن**، ما راحت‌تر و ارزان‌تر می‌توانیم بینش‌های مبتنی بر داده و اتوماسیون مبتنی بر الگوریتم را در تجربه‌های روزمره کاربران ادغام کنیم. اما با گسترش هوش مصنوعی، باید به آسیب‌های احتمالی ناشی از [سوءاستفاده](https://www.youtube.com/watch?v=TQHs8SA1qpk) از این الگوریتم‌ها در مقیاس بزرگ نیز توجه کنیم. +روندهای بازار نشان می‌دهند که تا سال ۲۰۲۲، یک‌سوم سازمان‌های بزرگ داده‌های خود را از طریق [بازارها و مبادلات آنلاین](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) خرید و فروش خواهند کرد. به عنوان **توسعه‌دهندگان اپلیکیشن**، ما راحت‌تر و ارزان‌تر می‌توانیم بینش‌های مبتنی بر داده و اتوماسیون مبتنی بر الگوریتم را در تجربه‌های روزمره کاربران ادغام کنیم. اما با گسترش هوش مصنوعی، باید آسیب‌های احتمالی ناشی از [سلاح‌سازی](https://www.youtube.com/watch?v=TQHs8SA1qpk) این الگوریتم‌ها در مقیاس بزرگ را نیز درک کنیم. -روندها همچنین نشان می‌دهند که تا سال ۲۰۲۵ بیش از [۱۸۰ زتابایت](https://www.statista.com/statistics/871513/worldwide-data-created/) داده تولید و مصرف خواهیم کرد. به عنوان **دانشمندان داده**، این به ما دسترسی بی‌سابقه‌ای به داده‌های شخصی می‌دهد. این بدان معناست که می‌توانیم پروفایل‌های رفتاری کاربران را بسازیم و تصمیم‌گیری‌ها را به گونه‌ای تحت تأثیر قرار دهیم که یک [توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ایجاد کند، در حالی که ممکن است کاربران را به سمت نتایج دلخواه ما سوق دهد. این موضوع همچنین سوالات گسترده‌تری در مورد حریم خصوصی داده‌ها و حفاظت از کاربران مطرح می‌کند. +روندها همچنین نشان می‌دهند که تا سال ۲۰۲۵، بیش از [۱۸۰ زتابایت](https://www.statista.com/statistics/871513/worldwide-data-created/) داده تولید و مصرف خواهیم کرد. به عنوان **دانشمندان داده**، این دسترسی بی‌سابقه‌ای به داده‌های شخصی به ما می‌دهد. این به ما امکان می‌دهد پروفایل‌های رفتاری کاربران را بسازیم و تصمیم‌گیری‌ها را به گونه‌ای تحت تأثیر قرار دهیم که [توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ایجاد کند، در حالی که ممکن است کاربران را به سمت نتایج دلخواه ما سوق دهد. این موضوع همچنین سوالات گسترده‌تری در مورد حریم خصوصی داده‌ها و حفاظت از کاربران مطرح می‌کند. -اخلاق داده‌ها اکنون به عنوان _محافظ‌های ضروری_ برای علم داده و مهندسی عمل می‌کنند و به ما کمک می‌کنند تا آسیب‌های احتمالی و پیامدهای ناخواسته ناشی از اقدامات مبتنی بر داده‌های خود را به حداقل برسانیم. [چرخه هیجان گارتنر برای هوش مصنوعی](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) روندهای مرتبط با اخلاق دیجیتال، هوش مصنوعی مسئولانه و حاکمیت هوش مصنوعی را به عنوان عوامل کلیدی برای روندهای بزرگ‌تر در زمینه _دموکراتیزه‌سازی_ و _صنعتی‌سازی_ هوش مصنوعی شناسایی می‌کند. +اخلاق داده‌ها اکنون به عنوان _محافظ‌های ضروری_ برای علم داده و مهندسی عمل می‌کنند، و به ما کمک می‌کنند آسیب‌های احتمالی و پیامدهای ناخواسته ناشی از اقدامات مبتنی بر داده‌های خود را به حداقل برسانیم. [چرخه هیجان گارتنر برای هوش مصنوعی](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) روندهای مرتبط با اخلاق دیجیتال، هوش مصنوعی مسئولانه، و حاکمیت هوش مصنوعی را به عنوان محرک‌های کلیدی برای روندهای بزرگ‌تر پیرامون _دموکراتیزه‌سازی_ و _صنعتی‌سازی_ هوش مصنوعی شناسایی می‌کند. ![چرخه هیجان گارتنر برای هوش مصنوعی - ۲۰۲۰](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -در این درس، ما به بررسی حوزه جذاب اخلاق داده‌ها خواهیم پرداخت - از مفاهیم و چالش‌های اصلی گرفته تا مطالعات موردی و مفاهیم کاربردی هوش مصنوعی مانند حاکمیت - که به ایجاد فرهنگ اخلاقی در تیم‌ها و سازمان‌هایی که با داده‌ها و هوش مصنوعی کار می‌کنند، کمک می‌کند. +در این درس، به حوزه جذاب اخلاق داده‌ها خواهیم پرداخت - از مفاهیم و چالش‌های اصلی گرفته تا مطالعات موردی و مفاهیم کاربردی هوش مصنوعی مانند حاکمیت - که به ایجاد فرهنگ اخلاقی در تیم‌ها و سازمان‌هایی که با داده‌ها و هوش مصنوعی کار می‌کنند کمک می‌کند. ## [آزمون پیش از درس](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -35,137 +35,136 @@ CO_OP_TRANSLATOR_METADATA: کلمه "اخلاق" از [کلمه یونانی "ethikos"](https://en.wikipedia.org/wiki/Ethics) (و ریشه آن "ethos") به معنای _شخصیت یا طبیعت اخلاقی_ گرفته شده است. -**اخلاق** درباره ارزش‌های مشترک و اصول اخلاقی است که رفتار ما را در جامعه هدایت می‌کنند. اخلاق بر اساس قوانین نیست، بلکه بر اساس هنجارهای پذیرفته‌شده عمومی از آنچه "درست در مقابل نادرست" است، استوار است. با این حال، ملاحظات اخلاقی می‌توانند بر ابتکارات حاکمیت شرکتی و مقررات دولتی تأثیر بگذارند که انگیزه‌های بیشتری برای رعایت قوانین ایجاد می‌کنند. +**اخلاق** درباره ارزش‌های مشترک و اصول اخلاقی است که رفتار ما در جامعه را هدایت می‌کنند. اخلاق بر اساس قوانین نیست، بلکه بر اساس هنجارهای پذیرفته‌شده عمومی از آنچه "درست در مقابل غلط" است، بنا شده است. با این حال، ملاحظات اخلاقی می‌توانند بر ابتکارات حاکمیت شرکتی و مقررات دولتی تأثیر بگذارند که انگیزه‌های بیشتری برای رعایت ایجاد می‌کنند. -**اخلاق داده‌ها** یک [شاخه جدید از اخلاق](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) است که "مشکلات اخلاقی مرتبط با _داده‌ها، الگوریتم‌ها و شیوه‌های مربوطه_ را مطالعه و ارزیابی می‌کند". در اینجا، **"داده‌ها"** بر اقدامات مربوط به تولید، ثبت، مدیریت، پردازش، انتشار، اشتراک‌گذاری و استفاده تمرکز دارد، **"الگوریتم‌ها"** بر هوش مصنوعی، عوامل، یادگیری ماشین و ربات‌ها تمرکز دارد، و **"شیوه‌ها"** بر موضوعاتی مانند نوآوری مسئولانه، برنامه‌نویسی، هک و کدهای اخلاقی تمرکز دارد. +**اخلاق داده‌ها** یک [شاخه جدید از اخلاق](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) است که "مشکلات اخلاقی مرتبط با _داده‌ها، الگوریتم‌ها و شیوه‌های مربوطه_ را مطالعه و ارزیابی می‌کند". در اینجا، **"داده‌ها"** بر اقدامات مرتبط با تولید، ضبط، مدیریت، پردازش، انتشار، اشتراک‌گذاری و استفاده تمرکز دارد، **"الگوریتم‌ها"** بر هوش مصنوعی، عوامل، یادگیری ماشین و ربات‌ها تمرکز دارد، و **"شیوه‌ها"** بر موضوعاتی مانند نوآوری مسئولانه، برنامه‌نویسی، هک کردن، و کدهای اخلاقی تمرکز دارد. -**اخلاق کاربردی** [کاربرد عملی ملاحظات اخلاقی](https://en.wikipedia.org/wiki/Applied_ethics) است. این فرآیند بررسی فعال مسائل اخلاقی در زمینه _اقدامات، محصولات و فرآیندهای دنیای واقعی_ و اتخاذ اقدامات اصلاحی برای اطمینان از هم‌راستایی آن‌ها با ارزش‌های اخلاقی تعریف‌شده ما است. +**اخلاق کاربردی** [کاربرد عملی ملاحظات اخلاقی](https://en.wikipedia.org/wiki/Applied_ethics) است. این فرآیند بررسی فعالانه مسائل اخلاقی در زمینه _اقدامات، محصولات و فرآیندهای واقعی_ و اتخاذ اقدامات اصلاحی برای اطمینان از هم‌راستایی آنها با ارزش‌های اخلاقی تعریف‌شده ما است. -**فرهنگ اخلاقی** درباره [_عملیاتی کردن_ اخلاق کاربردی](https://hbr.org/2019/05/how-to-design-an-ethical-organization) است تا اطمینان حاصل شود که اصول و شیوه‌های اخلاقی ما به طور مداوم و در مقیاس وسیع در سراسر سازمان پذیرفته می‌شوند. فرهنگ‌های اخلاقی موفق اصول اخلاقی سازمانی را تعریف می‌کنند، انگیزه‌های معناداری برای رعایت قوانین ارائه می‌دهند و هنجارهای اخلاقی را با تشویق و تقویت رفتارهای مطلوب در هر سطح از سازمان تقویت می‌کنند. +**فرهنگ اخلاقی** درباره [_عملیاتی کردن_ اخلاق کاربردی](https://hbr.org/2019/05/how-to-design-an-ethical-organization) است تا اطمینان حاصل شود که اصول و شیوه‌های اخلاقی ما به طور مداوم و مقیاس‌پذیر در سراسر سازمان پذیرفته می‌شوند. فرهنگ‌های اخلاقی موفق اصول اخلاقی سازمانی را تعریف می‌کنند، انگیزه‌های معناداری برای رعایت ارائه می‌دهند، و هنجارهای اخلاقی را با تشویق و تقویت رفتارهای مطلوب در هر سطح سازمان تقویت می‌کنند. ## مفاهیم اخلاقی -در این بخش، مفاهیمی مانند **ارزش‌های مشترک** (اصول) و **چالش‌های اخلاقی** (مشکلات) برای اخلاق داده‌ها را بررسی خواهیم کرد - و به **مطالعات موردی** خواهیم پرداخت که به شما کمک می‌کنند این مفاهیم را در زمینه‌های دنیای واقعی درک کنید. +در این بخش، مفاهیمی مانند **ارزش‌های مشترک** (اصول) و **چالش‌های اخلاقی** (مشکلات) برای اخلاق داده‌ها را بررسی خواهیم کرد - و مطالعات موردی را بررسی می‌کنیم که به شما کمک می‌کنند این مفاهیم را در زمینه‌های واقعی درک کنید. ### 1. اصول اخلاقی -هر استراتژی اخلاق داده‌ها با تعریف _اصول اخلاقی_ آغاز می‌شود - "ارزش‌های مشترکی" که رفتارهای قابل قبول را توصیف می‌کنند و اقدامات مطابق با قوانین را در پروژه‌های داده و هوش مصنوعی ما هدایت می‌کنند. شما می‌توانید این اصول را در سطح فردی یا تیمی تعریف کنید. با این حال، بیشتر سازمان‌های بزرگ این اصول را در قالب یک بیانیه مأموریت یا چارچوب اخلاقی هوش مصنوعی تعریف می‌کنند که در سطح شرکتی تعریف شده و به طور مداوم در تمام تیم‌ها اجرا می‌شود. +هر استراتژی اخلاق داده‌ها با تعریف _اصول اخلاقی_ آغاز می‌شود - "ارزش‌های مشترک" که رفتارهای قابل قبول را توصیف می‌کنند و اقدامات مطابق را در پروژه‌های داده و هوش مصنوعی ما هدایت می‌کنند. شما می‌توانید این اصول را در سطح فردی یا تیمی تعریف کنید. با این حال، بیشتر سازمان‌های بزرگ این اصول را در قالب بیانیه مأموریت یا چارچوب _هوش مصنوعی اخلاقی_ در سطح شرکتی تعریف می‌کنند و به طور مداوم در سراسر تیم‌ها اجرا می‌کنند. **مثال:** بیانیه مأموریت [هوش مصنوعی مسئولانه](https://www.microsoft.com/en-us/ai/responsible-ai) مایکروسافت می‌گوید: _"ما متعهد به پیشرفت هوش مصنوعی بر اساس اصول اخلاقی هستیم که انسان‌ها را در اولویت قرار می‌دهد"_ - و ۶ اصل اخلاقی را در چارچوب زیر شناسایی می‌کند: ![هوش مصنوعی مسئولانه در مایکروسافت](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -بیایید این اصول را به طور خلاصه بررسی کنیم. _شفافیت_ و _پاسخگویی_ ارزش‌های بنیادی هستند که سایر اصول بر اساس آن‌ها ساخته شده‌اند - بنابراین از اینجا شروع می‌کنیم: +بیایید این اصول را به طور مختصر بررسی کنیم. _شفافیت_ و _پاسخگویی_ ارزش‌های بنیادی هستند که سایر اصول بر اساس آنها بنا شده‌اند - بنابراین از اینجا شروع می‌کنیم: * [**پاسخگویی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) متخصصان را _مسئول_ عملیات داده و هوش مصنوعی خود و رعایت این اصول اخلاقی می‌کند. -* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اطمینان می‌دهد که اقدامات داده و هوش مصنوعی برای کاربران _قابل درک_ هستند و دلیل تصمیمات را توضیح می‌دهند. -* [**عدالت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - بر اطمینان از رفتار عادلانه هوش مصنوعی با _همه افراد_ تمرکز دارد و به تعصبات سیستماتیک یا ضمنی در داده‌ها و سیستم‌ها می‌پردازد. +* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اطمینان می‌دهد که اقدامات داده و هوش مصنوعی برای کاربران _قابل فهم_ هستند و توضیح می‌دهند که چه چیزی و چرا پشت تصمیمات قرار دارد. +* [**عدالت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - بر اطمینان از رفتار عادلانه هوش مصنوعی با _همه افراد_ تمرکز دارد و به هرگونه تعصب اجتماعی-فنی سیستماتیک یا ضمنی در داده‌ها و سیستم‌ها می‌پردازد. * [**قابلیت اطمینان و ایمنی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - اطمینان می‌دهد که هوش مصنوعی به طور _ثابت_ با ارزش‌های تعریف‌شده رفتار می‌کند و آسیب‌های احتمالی یا پیامدهای ناخواسته را به حداقل می‌رساند. -* [**حریم خصوصی و امنیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره درک منشأ داده‌ها و ارائه _حفاظت‌های مرتبط با حریم خصوصی داده‌ها_ به کاربران است. -* [**شمول‌گرایی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره طراحی راه‌حل‌های هوش مصنوعی با نیت و تطبیق آن‌ها برای پاسخگویی به _نیازها و قابلیت‌های متنوع انسانی_ است. +* [**حریم خصوصی و امنیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره درک منشأ داده‌ها و ارائه _حریم خصوصی داده و حفاظت‌های مرتبط_ به کاربران است. +* [**شمول‌پذیری**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - درباره طراحی راه‌حل‌های هوش مصنوعی با قصد، و تطبیق آنها برای پاسخگویی به _طیف گسترده‌ای از نیازها و قابلیت‌های انسانی_ است. -> 🚨 به این فکر کنید که بیانیه مأموریت اخلاق داده‌های شما چه می‌تواند باشد. چارچوب‌های اخلاقی هوش مصنوعی از سازمان‌های دیگر را بررسی کنید - اینجا مثال‌هایی از [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [گوگل](https://ai.google/principles)، و [فیسبوک](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) آورده شده است. چه ارزش‌های مشترکی در آن‌ها وجود دارد؟ این اصول چگونه به محصول هوش مصنوعی یا صنعتی که در آن فعالیت می‌کنند مرتبط هستند؟ +> 🚨 به این فکر کنید که بیانیه مأموریت اخلاق داده‌های شما چه می‌تواند باشد. چارچوب‌های هوش مصنوعی اخلاقی از سازمان‌های دیگر را بررسی کنید - اینجا نمونه‌هایی از [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [Google](https://ai.google/principles)، و [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) وجود دارد. چه ارزش‌های مشترکی دارند؟ این اصول چگونه به محصول هوش مصنوعی یا صنعتی که در آن فعالیت می‌کنند مرتبط هستند؟ ### 2. چالش‌های اخلاقی -پس از تعریف اصول اخلاقی، گام بعدی ارزیابی اقدامات داده و هوش مصنوعی برای بررسی هم‌راستایی آن‌ها با این ارزش‌های مشترک است. اقدامات خود را در دو دسته در نظر بگیرید: _جمع‌آوری داده‌ها_ و _طراحی الگوریتم_. +پس از تعریف اصول اخلاقی، گام بعدی ارزیابی اقدامات داده و هوش مصنوعی ما برای بررسی هم‌راستایی آنها با ارزش‌های مشترک است. به اقدامات خود در دو دسته فکر کنید: _جمع‌آوری داده‌ها_ و _طراحی الگوریتم_. -در جمع‌آوری داده‌ها، اقدامات احتمالاً شامل **داده‌های شخصی** یا اطلاعات شناسایی شخصی (PII) برای افراد قابل شناسایی خواهد بود. این شامل [موارد متنوعی از داده‌های غیرشخصی](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) است که _به طور جمعی_ یک فرد را شناسایی می‌کنند. چالش‌های اخلاقی می‌توانند به موضوعاتی مانند _حریم خصوصی داده‌ها_، _مالکیت داده‌ها_ و موضوعات مرتبط مانند _رضایت آگاهانه_ و _حقوق مالکیت فکری_ برای کاربران مربوط شوند. +در جمع‌آوری داده‌ها، اقدامات احتمالاً شامل **داده‌های شخصی** یا اطلاعات قابل شناسایی شخصی (PII) برای افراد قابل شناسایی خواهد بود. این شامل [موارد متنوعی از داده‌های غیرشخصی](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) است که _به طور جمعی_ یک فرد را شناسایی می‌کنند. چالش‌های اخلاقی می‌توانند به موضوعاتی مانند _حریم خصوصی داده‌ها_، _مالکیت داده‌ها_، و موضوعات مرتبط مانند _رضایت آگاهانه_ و _حقوق مالکیت معنوی_ برای کاربران مرتبط باشند. -در طراحی الگوریتم، اقدامات شامل جمع‌آوری و مدیریت **مجموعه داده‌ها** و سپس استفاده از آن‌ها برای آموزش و استقرار **مدل‌های داده** است که نتایج را پیش‌بینی یا تصمیمات را در زمینه‌های واقعی خودکار می‌کنند. چالش‌های اخلاقی می‌توانند از _تعصب در مجموعه داده‌ها_، مشکلات _کیفیت داده‌ها_، _بی‌عدالتی_ و _تحریف_ در الگوریتم‌ها ناشی شوند - از جمله برخی مسائل که ذاتاً سیستماتیک هستند. +در طراحی الگوریتم، اقدامات شامل جمع‌آوری و مدیریت **مجموعه داده‌ها** و سپس استفاده از آنها برای آموزش و استقرار **مدل‌های داده** خواهد بود که نتایج را پیش‌بینی می‌کنند یا تصمیمات را در زمینه‌های واقعی خودکار می‌کنند. چالش‌های اخلاقی می‌توانند از _تعصب مجموعه داده‌ها_، مشکلات _کیفیت داده‌ها_، _بی‌عدالتی_ و _نمایش نادرست_ در الگوریتم‌ها ناشی شوند - از جمله برخی مسائل که ماهیت سیستماتیک دارند. -در هر دو مورد، چالش‌های اخلاقی مناطقی را برجسته می‌کنند که اقدامات ما ممکن است با ارزش‌های مشترک ما در تضاد باشند. برای شناسایی، کاهش، به حداقل رساندن یا حذف این نگرانی‌ها، باید سوالات اخلاقی "بله/خیر" مرتبط با اقدامات خود را بپرسیم و سپس اقدامات اصلاحی لازم را انجام دهیم. بیایید به برخی از چالش‌های اخلاقی و سوالات اخلاقی که مطرح می‌کنند نگاهی بیندازیم: +در هر دو مورد، چالش‌های اخلاقی مناطقی را برجسته می‌کنند که اقدامات ما ممکن است با ارزش‌های مشترک ما در تضاد باشند. برای شناسایی، کاهش، به حداقل رساندن یا حذف این نگرانی‌ها - باید سوالات اخلاقی "بله/خیر" مرتبط با اقدامات خود را بپرسیم و سپس اقدامات اصلاحی لازم را انجام دهیم. بیایید نگاهی به برخی چالش‌های اخلاقی و سوالات اخلاقی مرتبط با آنها بیندازیم: #### 2.1 مالکیت داده‌ها -جمع‌آوری داده‌ها اغلب شامل داده‌های شخصی است که می‌تواند افراد را شناسایی کند. [مالکیت داده‌ها](https://permission.io/blog/data-ownership) درباره _کنترل_ و [_حقوق کاربران_](https://permission.io/blog/data-ownership) مرتبط با ایجاد، پردازش و انتشار داده‌ها است. +جمع‌آوری داده‌ها اغلب شامل داده‌های شخصی است که می‌تواند افراد داده‌شده را شناسایی کند. [مالکیت داده‌ها](https://permission.io/blog/data-ownership) درباره _کنترل_ و [_حقوق کاربران_](https://permission.io/blog/data-ownership) مرتبط با ایجاد، پردازش، و انتشار داده‌ها است. -سوالات اخلاقی که باید بپرسیم: +سوالات اخلاقی که باید پرسیده شوند: * چه کسی مالک داده‌ها است؟ (کاربر یا سازمان) -* کاربران چه حقوقی دارند؟ (مثلاً دسترسی، حذف، قابلیت انتقال) -* سازمان‌ها چه حقوقی دارند؟ (مثلاً اصلاح نظرات مخرب کاربران) +* کاربران چه حقوقی دارند؟ (مانند دسترسی، حذف، قابلیت انتقال) +* سازمان‌ها چه حقوقی دارند؟ (مانند اصلاح نظرات مخرب کاربران) #### 2.2 رضایت آگاهانه -[رضایت آگاهانه](https://legaldictionary.net/informed-consent/) به عمل موافقت کاربران با یک اقدام (مانند جمع‌آوری داده‌ها) با _درک کامل_ حقایق مرتبط از جمله هدف، خطرات احتمالی و جایگزین‌ها اشاره دارد. +[رضایت آگاهانه](https://legaldictionary.net/informed-consent/) به عمل موافقت کاربران با یک اقدام (مانند جمع‌آوری داده‌ها) با _درک کامل_ حقایق مرتبط از جمله هدف، خطرات احتمالی، و جایگزین‌ها اشاره دارد. -سوالاتی که باید بررسی شوند: +سوالات برای بررسی: * آیا کاربر (موضوع داده) اجازه جمع‌آوری و استفاده از داده‌ها را داده است؟ * آیا کاربر هدف از جمع‌آوری داده‌ها را درک کرده است؟ * آیا کاربر خطرات احتمالی مشارکت خود را درک کرده است؟ -#### 2.3 مالکیت فکری +#### 2.3 مالکیت معنوی -[مالکیت فکری](https://en.wikipedia.org/wiki/Intellectual_property) به خلاقیت‌های ناملموسی اشاره دارد که از ابتکار انسانی ناشی می‌شوند و ممکن است _ارزش اقتصادی_ برای افراد یا کسب‌وکارها داشته باشند. +[مالکیت معنوی](https://en.wikipedia.org/wiki/Intellectual_property) به خلقیات غیرملموس ناشی از ابتکار انسانی اشاره دارد که ممکن است _ارزش اقتصادی_ برای افراد یا کسب‌وکارها داشته باشد. -سوالاتی که باید بررسی شوند: -* آیا داده‌های جمع‌آوری‌شده ارزش اقتصادی برای کاربر یا کسب‌وکار داشته‌اند؟ -* آیا **کاربر** در اینجا مالکیت فکری دارد؟ -* آیا **سازمان** در اینجا مالکیت فکری دارد؟ -* اگر این حقوق وجود دارند، چگونه از آن‌ها محافظت می‌کنیم؟ +سوالات برای بررسی: +* آیا داده‌های جمع‌آوری‌شده ارزش اقتصادی برای کاربر یا کسب‌وکار دارند؟ +* آیا **کاربر** مالکیت معنوی در اینجا دارد؟ +* آیا **سازمان** مالکیت معنوی در اینجا دارد؟ +* اگر این حقوق وجود دارند، چگونه آنها را محافظت می‌کنیم؟ #### 2.4 حریم خصوصی داده‌ها -[حریم خصوصی داده‌ها](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) یا حریم اطلاعات به حفظ حریم خصوصی کاربران و حفاظت از هویت آن‌ها در ارتباط با اطلاعات شناسایی شخصی اشاره دارد. +[حریم خصوصی داده‌ها](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) یا حریم اطلاعات به حفظ حریم کاربران و حفاظت از هویت کاربران در ارتباط با اطلاعات قابل شناسایی شخصی اشاره دارد. -سوالاتی که باید بررسی شوند: -* آیا داده‌های (شخصی) کاربران در برابر هک و نشت محافظت شده‌اند؟ +سوالات برای بررسی: +* آیا داده‌های (شخصی) کاربران در برابر هک‌ها و نشت‌ها ایمن هستند؟ * آیا داده‌های کاربران فقط برای کاربران و زمینه‌های مجاز قابل دسترسی هستند؟ -* آیا ناشناس بودن کاربران هنگام اشتراک‌گذاری یا انتشار داده‌ها حفظ شده است؟ -* آیا می‌توان یک کاربر را از مجموعه داده‌های ناشناس شناسایی کرد؟ +* آیا ناشناس بودن کاربران هنگام اشتراک‌گذاری یا انتشار داده‌ها حفظ می‌شود؟ +* آیا می‌توان کاربر را از مجموعه داده‌های ناشناس شناسایی کرد؟ #### 2.5 حق فراموش شدن -[حق فراموش شدن](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حق حذف](https://www.gdpreu.org/right-to-be-forgotten/) حفاظت بیشتری از داده‌های شخصی به کاربران ارائه می‌دهد. به طور خاص، این حق به کاربران اجازه می‌دهد درخواست حذف یا حذف داده‌های شخصی خود را از جستجوهای اینترنتی و مکان‌های دیگر، _تحت شرایط خاص_، ارائه دهند - و به آن‌ها اجازه می‌دهد بدون اینکه اقدامات گذشته علیه آن‌ها استفاده شود، یک شروع تازه آنلاین داشته باشند. +[حق فراموش شدن](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حق حذف](https://www.gdpreu.org/right-to-be-forgotten/) حفاظت اضافی از داده‌های شخصی به کاربران ارائه می‌دهد. به طور خاص، این حق به کاربران اجازه می‌دهد درخواست حذف یا حذف داده‌های شخصی از جستجوهای اینترنتی و مکان‌های دیگر را _تحت شرایط خاص_ بدهند - به آنها امکان شروع تازه آنلاین بدون اینکه اقدامات گذشته علیه آنها استفاده شود. -سوالاتی که باید بررسی شوند: -* آیا سیستم اجازه می‌دهد که موضوعات داده درخواست حذف کنند؟ +سوالات برای بررسی: +* آیا سیستم اجازه می‌دهد موضوعات داده درخواست حذف کنند؟ * آیا باید لغو رضایت کاربر باعث حذف خودکار شود؟ * آیا داده‌ها بدون رضایت یا به روش‌های غیرقانونی جمع‌آوری شده‌اند؟ * آیا ما با مقررات دولتی برای حریم خصوصی داده‌ها مطابقت داریم؟ -#### 2.6 تعصب در مجموعه داده‌ها +#### 2.6 تعصب مجموعه داده‌ها -تعصب در مجموعه داده‌ها یا [تعصب در جمع‌آوری](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) به انتخاب یک زیرمجموعه _غیرنماینده_ از داده‌ها برای توسعه الگوریتم اشاره دارد که ممکن است منجر به نتایج ناعادلانه برای گروه‌های مختلف شود. انواع تعصب شامل تعصب در انتخاب یا نمونه‌گیری، تعصب داوطلبانه و تعصب ابزاری است. +تعصب مجموعه داده‌ها یا [تعصب جمع‌آوری](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) درباره انتخاب یک زیرمجموعه _غیرنماینده_ از داده‌ها برای توسعه الگوریتم است که ممکن است نتایج ناعادلانه‌ای برای گروه‌های مختلف ایجاد کند. انواع تعصب شامل تعصب انتخاب یا نمونه‌گیری، تعصب داوطلبانه، و تعصب ابزار است. -سوالاتی که باید بررسی شوند: -* آیا ما مجموعه‌ای نماینده از موضوعات داده را انتخاب کرده‌ایم؟ -* آیا مجموعه داده‌های جمع‌آوری‌شده یا مدیریت‌شده خود را از نظر تعصبات مختلف آزمایش کرده‌ایم؟ -* آیا می‌توانیم تعصبات کشف‌شده را کاهش یا حذف کنیم؟ +سوالات برای بررسی: +* آیا ما مجموعه نماینده‌ای از موضوعات داده را انتخاب کرده‌ایم؟ +* آیا مجموعه داده‌های جمع‌آوری‌شده یا مدیریت‌شده خود را برای انواع مختلف تعصب آزمایش کرده‌ایم؟ +* آیا می‌توانیم هرگونه تعصب کشف‌شده را کاهش دهیم یا حذف کنیم؟ #### 2.7 کیفیت داده‌ها -[کیفیت داده‌ها](https://lakefs.io/data-quality-testing/) به اعتبار مجموعه داده مدیریت‌شده برای توسعه الگوریتم‌های ما اشاره دارد و بررسی می‌کند که آیا ویژگی‌ها و رکوردها الزامات سطح دقت و سازگاری مورد نیاز برای هدف هوش مصنوعی ما را برآورده می‌کنند یا خیر. +[کیفیت داده‌ها](https://lakefs.io/data-quality-testing/) به اعتبار مجموعه داده‌های مدیریت‌شده برای توسعه الگوریتم‌های ما اشاره دارد، بررسی اینکه آیا ویژگی‌ها و رکوردها الزامات سطح دقت و سازگاری مورد نیاز برای هدف هوش مصنوعی ما را برآورده می‌کنند. -سوالاتی که باید بررسی شوند: +سوالات برای بررسی: * آیا ما ویژگی‌های معتبر برای مورد استفاده خود را جمع‌آوری کرده‌ایم؟ -* آیا داده‌ها به طور _سازگار_ از منابع داده متنوع جمع‌آوری شده‌اند؟ -* آیا مجموعه داده برای شرایط یا سناریوهای متنوع _کامل_ است؟ -* آیا اطلاعات به طور _دقیق_ واقعیت را منعکس می‌کنند؟ +* آیا داده‌ها به طور _سازگار_ از منابع مختلف داده جمع‌آوری شده‌اند؟ +* آیا مجموعه داده برای شرایط یا سناریوهای مختلف _کامل_ است؟ +* آیا اطلاعات جمع‌آوری‌شده _دقیقاً_ واقعیت را منعکس می‌کند؟ -#### 2.8 عدالت الگوریتمی -[بررسی عدالت الگوریتمی](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) به این موضوع می‌پردازد که آیا طراحی الگوریتم به طور سیستماتیک علیه گروه‌های خاصی از افراد تبعیض قائل می‌شود و منجر به [آسیب‌های احتمالی](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) در _تخصیص منابع_ (جایی که منابع از آن گروه محروم یا دریغ می‌شوند) و _کیفیت خدمات_ (جایی که دقت هوش مصنوعی برای برخی گروه‌ها کمتر از دیگران است) می‌شود. +#### 2.8 عدالت الگوریتم +[بررسی عدالت الگوریتمی](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) به این موضوع می‌پردازد که آیا طراحی الگوریتم به طور سیستماتیک علیه گروه‌های خاصی از افراد تبعیض قائل می‌شود و منجر به [آسیب‌های احتمالی](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) در _تخصیص منابع_ (جایی که منابع از آن گروه دریغ می‌شود) و _کیفیت خدمات_ (جایی که دقت هوش مصنوعی برای برخی گروه‌ها کمتر از دیگران است) می‌شود. سؤالاتی که باید در اینجا بررسی شوند: * آیا دقت مدل را برای گروه‌ها و شرایط متنوع ارزیابی کرده‌ایم؟ * آیا سیستم را برای آسیب‌های احتمالی (مانند کلیشه‌سازی) بررسی کرده‌ایم؟ -* آیا می‌توانیم داده‌ها را اصلاح کنیم یا مدل‌ها را دوباره آموزش دهیم تا آسیب‌های شناسایی‌شده را کاهش دهیم؟ +* آیا می‌توانیم داده‌ها را اصلاح کنیم یا مدل‌ها را دوباره آموزش دهیم تا آسیب‌های شناسایی‌شده کاهش یابد؟ منابعی مانند [چک‌لیست‌های عدالت هوش مصنوعی](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) را بررسی کنید تا اطلاعات بیشتری کسب کنید. #### 2.9 تحریف داده‌ها -[تحریف داده‌ها](https://www.sciencedirect.com/topics/computer-science/misrepresentation) به این موضوع می‌پردازد که آیا ما بینش‌های حاصل از داده‌های گزارش‌شده را به صورت صادقانه اما به شکلی فریبنده برای حمایت از یک روایت مطلوب ارائه می‌دهیم. +[تحریف داده‌ها](https://www.sciencedirect.com/topics/computer-science/misrepresentation) به این موضوع می‌پردازد که آیا ما بینش‌های حاصل از داده‌های گزارش‌شده را به شکلی فریبنده برای حمایت از یک روایت مطلوب ارائه می‌دهیم. سؤالاتی که باید در اینجا بررسی شوند: -* آیا داده‌های ناقص یا نادرست را گزارش می‌دهیم؟ -* آیا داده‌ها را به شکلی تجسم می‌کنیم که منجر به نتیجه‌گیری‌های گمراه‌کننده شود؟ +* آیا داده‌های ناقص یا نادرست گزارش می‌دهیم؟ +* آیا داده‌ها را به شکلی بصری ارائه می‌دهیم که منجر به نتیجه‌گیری‌های گمراه‌کننده شود؟ * آیا از تکنیک‌های آماری انتخابی برای دستکاری نتایج استفاده می‌کنیم؟ * آیا توضیحات جایگزینی وجود دارد که ممکن است نتیجه متفاوتی ارائه دهد؟ #### 2.10 انتخاب آزاد - -[توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) زمانی رخ می‌دهد که "معماری انتخاب" سیستم از الگوریتم‌های تصمیم‌گیری برای هدایت افراد به سمت یک نتیجه ترجیحی استفاده می‌کند، در حالی که به نظر می‌رسد به آن‌ها گزینه‌ها و کنترل داده شده است. این [الگوهای تاریک](https://www.darkpatterns.org/) می‌توانند به کاربران آسیب‌های اجتماعی و اقتصادی وارد کنند. از آنجا که تصمیمات کاربران بر پروفایل‌های رفتاری تأثیر می‌گذارد، این اقدامات ممکن است انتخاب‌های آینده را تقویت یا گسترش دهد و تأثیر این آسیب‌ها را افزایش دهد. +[توهم انتخاب آزاد](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) زمانی رخ می‌دهد که "معماری انتخاب" سیستم از الگوریتم‌های تصمیم‌گیری برای هدایت افراد به سمت یک نتیجه مطلوب استفاده می‌کند، در حالی که به نظر می‌رسد به آن‌ها گزینه‌ها و کنترل داده شده است. این [الگوهای تاریک](https://www.darkpatterns.org/) می‌توانند به کاربران آسیب‌های اجتماعی و اقتصادی وارد کنند. از آنجا که تصمیمات کاربران بر پروفایل‌های رفتاری تأثیر می‌گذارد، این اقدامات ممکن است انتخاب‌های آینده را تقویت یا گسترش دهد و تأثیر این آسیب‌ها را افزایش دهد. سؤالاتی که باید در اینجا بررسی شوند: * آیا کاربر پیامدهای انتخاب خود را درک کرده است؟ @@ -174,24 +173,24 @@ CO_OP_TRANSLATOR_METADATA: ### 3. مطالعات موردی -برای قرار دادن این چالش‌های اخلاقی در زمینه‌های واقعی، بررسی مطالعات موردی که آسیب‌ها و پیامدهای احتمالی برای افراد و جامعه را نشان می‌دهند، زمانی که چنین نقض‌های اخلاقی نادیده گرفته می‌شوند، مفید است. +برای قرار دادن این چالش‌های اخلاقی در زمینه‌های واقعی، بررسی مطالعات موردی که آسیب‌ها و پیامدهای احتمالی برای افراد و جامعه را نشان می‌دهند، زمانی که این نقض‌های اخلاقی نادیده گرفته شوند، مفید است. -در اینجا چند مثال آورده شده است: +در اینجا چند نمونه آورده شده است: | چالش اخلاقی | مطالعه موردی | |--- |--- | -| **رضایت آگاهانه** | 1972 - [مطالعه سیفلیس توسکیگی](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - مردان آفریقایی-آمریکایی که در این مطالعه شرکت کردند وعده مراقبت پزشکی رایگان داده شد _اما توسط محققان فریب داده شدند_ که به آن‌ها در مورد تشخیص بیماری یا در دسترس بودن درمان اطلاع ندادند. بسیاری از شرکت‌کنندگان جان خود را از دست دادند و شرکا یا فرزندان آن‌ها تحت تأثیر قرار گرفتند؛ این مطالعه 40 سال طول کشید. | -| **حریم خصوصی داده‌ها** | 2007 - [جایزه داده‌های نتفلیکس](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) به محققان _10 میلیون رتبه‌بندی فیلم ناشناس از 50 هزار مشتری_ ارائه شد تا به بهبود الگوریتم‌های توصیه کمک کند. با این حال، محققان توانستند داده‌های ناشناس را با داده‌های قابل شناسایی شخصی در _مجموعه‌های داده خارجی_ (مانند نظرات IMDb) مرتبط کنند - به طور مؤثر برخی از مشترکان نتفلیکس را "غیرناشناس" کردند.| +| **رضایت آگاهانه** | 1972 - [مطالعه سیفلیس توسکیگی](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - مردان آفریقایی-آمریکایی که در این مطالعه شرکت کردند وعده مراقبت پزشکی رایگان داده شد، _اما توسط محققان فریب داده شدند_ که به آن‌ها در مورد تشخیص بیماری یا در دسترس بودن درمان اطلاع ندادند. بسیاری از شرکت‌کنندگان جان خود را از دست دادند و شرکا یا فرزندان آن‌ها تحت تأثیر قرار گرفتند؛ این مطالعه 40 سال طول کشید. | +| **حریم خصوصی داده‌ها** | 2007 - [جایزه داده‌های نتفلیکس](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) به محققان _10 میلیون رتبه‌بندی فیلم ناشناس از 50 هزار مشتری_ ارائه شد تا الگوریتم‌های توصیه را بهبود دهند. با این حال، محققان توانستند داده‌های ناشناس را با داده‌های قابل شناسایی شخصی در _مجموعه‌های داده خارجی_ (مانند نظرات IMDb) مرتبط کنند - به طور مؤثر برخی از مشترکان نتفلیکس را "غیرناشناس" کردند.| | **تعصب در جمع‌آوری داده‌ها** | 2013 - شهر بوستون [اپلیکیشن Street Bump](https://www.boston.gov/transportation/street-bump) را توسعه داد که به شهروندان اجازه می‌داد چاله‌ها را گزارش دهند و به شهر داده‌های بهتر جاده‌ای برای یافتن و رفع مشکلات ارائه دهد. با این حال، [افراد در گروه‌های کم‌درآمد دسترسی کمتری به خودروها و تلفن‌ها داشتند](https://hbr.org/2013/04/the-hidden-biases-in-big-data)، که مشکلات جاده‌ای آن‌ها را در این اپلیکیشن نامرئی می‌کرد. توسعه‌دهندگان با دانشگاهیان همکاری کردند تا مسائل مربوط به _دسترسی عادلانه و شکاف‌های دیجیتال_ را برای عدالت حل کنند. | -| **عدالت الگوریتمی** | 2018 - مطالعه [Gender Shades](http://gendershades.org/overview.html) MIT دقت محصولات هوش مصنوعی در طبقه‌بندی جنسیت را ارزیابی کرد و شکاف‌های دقت برای زنان و افراد رنگین‌پوست را آشکار کرد. یک [کارت اپل 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) به نظر می‌رسید که اعتبار کمتری به زنان نسبت به مردان ارائه می‌دهد. هر دو مسائل مربوط به تعصب الگوریتمی را نشان دادند که منجر به آسیب‌های اجتماعی-اقتصادی شد.| -| **تحریف داده‌ها** | 2020 - [وزارت بهداشت جورجیا نمودارهای COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) را منتشر کرد که به نظر می‌رسید شهروندان را در مورد روند موارد تأییدشده با ترتیب غیرزمانی در محور x گمراه کند. این مثال تحریف از طریق ترفندهای تجسم را نشان می‌دهد. | -| **توهم انتخاب آزاد** | 2020 - اپلیکیشن یادگیری [ABCmouse مبلغ 10 میلیون دلار برای حل شکایت FTC پرداخت کرد](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) که والدین را مجبور به پرداخت اشتراک‌هایی کرد که نمی‌توانستند لغو کنند. این مثال الگوهای تاریک در معماری انتخاب را نشان می‌دهد، جایی که کاربران به سمت انتخاب‌های بالقوه مضر هدایت شدند. | +| **عدالت الگوریتمی** | 2018 - مطالعه [Gender Shades](http://gendershades.org/overview.html) MIT دقت محصولات طبقه‌بندی جنسیت هوش مصنوعی را ارزیابی کرد و شکاف‌های دقت برای زنان و افراد رنگین‌پوست را آشکار کرد. یک [کارت اپل 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) به نظر می‌رسید که اعتبار کمتری به زنان نسبت به مردان ارائه می‌دهد. هر دو مسائل مربوط به تعصب الگوریتمی را نشان دادند که منجر به آسیب‌های اجتماعی-اقتصادی شد.| +| **تحریف داده‌ها** | 2020 - [وزارت بهداشت جورجیا نمودارهای COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) منتشر کرد که به نظر می‌رسید شهروندان را در مورد روند موارد تأییدشده با ترتیب غیرزمانی در محور x گمراه کند. این مثال تحریف از طریق ترفندهای بصری را نشان می‌دهد. | +| **توهم انتخاب آزاد** | 2020 - اپلیکیشن آموزشی [ABCmouse برای حل شکایت FTC مبلغ 10 میلیون دلار پرداخت کرد](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) که والدین را مجبور به پرداخت اشتراک‌هایی کرد که نمی‌توانستند لغو کنند. این مثال الگوهای تاریک در معماری انتخاب را نشان می‌دهد، جایی که کاربران به سمت انتخاب‌های بالقوه مضر هدایت شدند. | | **حریم خصوصی داده‌ها و حقوق کاربران** | 2021 - [نشت داده‌های فیسبوک](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) داده‌های 530 میلیون کاربر را افشا کرد و منجر به تسویه 5 میلیارد دلاری با FTC شد. با این حال، فیسبوک از اطلاع‌رسانی به کاربران در مورد این نشت خودداری کرد و حقوق کاربران در مورد شفافیت داده‌ها و دسترسی را نقض کرد. | آیا می‌خواهید مطالعات موردی بیشتری را بررسی کنید؟ این منابع را بررسی کنید: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - معضلات اخلاقی در صنایع مختلف. * [دوره اخلاق در علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - مطالعات موردی برجسته بررسی شده. -* [جایی که اشتباه رخ داده است](https://deon.drivendata.org/examples/) - چک‌لیست Deon با مثال‌ها. +* [جایی که مسائل اشتباه پیش رفته‌اند](https://deon.drivendata.org/examples/) - چک‌لیست Deon با مثال‌ها. > 🚨 به مطالعات موردی که دیده‌اید فکر کنید - آیا شما تجربه یا تحت تأثیر چالش اخلاقی مشابهی در زندگی خود قرار گرفته‌اید؟ آیا می‌توانید حداقل یک مطالعه موردی دیگر را که یکی از چالش‌های اخلاقی مورد بحث در این بخش را نشان می‌دهد، به یاد بیاورید؟ @@ -201,10 +200,9 @@ CO_OP_TRANSLATOR_METADATA: ### 1. کدهای حرفه‌ای -کدهای حرفه‌ای یک گزینه برای سازمان‌ها ارائه می‌دهند تا اعضا را "تشویق" کنند که از اصول اخلاقی و بیانیه مأموریت آن‌ها حمایت کنند. کدها _راهنمای اخلاقی_ برای رفتار حرفه‌ای هستند و به کارکنان یا اعضا کمک می‌کنند تصمیماتی بگیرند که با اصول سازمانشان همسو باشد. آن‌ها تنها به اندازه پایبندی داوطلبانه اعضا مؤثر هستند؛ با این حال، بسیاری از سازمان‌ها پاداش‌ها و مجازات‌های اضافی برای انگیزه دادن به اعضا برای پایبندی ارائه می‌دهند. - -نمونه‌ها شامل موارد زیر هستند: +کدهای حرفه‌ای یک گزینه برای سازمان‌ها ارائه می‌دهند تا اعضا را "تشویق" کنند که از اصول اخلاقی و بیانیه مأموریت آن‌ها حمایت کنند. کدها _راهنمای اخلاقی_ برای رفتار حرفه‌ای هستند که به کارکنان یا اعضا کمک می‌کنند تصمیماتی بگیرند که با اصول سازمانشان همسو باشد. آن‌ها تنها به اندازه پایبندی داوطلبانه اعضا مؤثر هستند؛ با این حال، بسیاری از سازمان‌ها پاداش‌ها و مجازات‌های اضافی برای انگیزه دادن به اعضا برای پایبندی ارائه می‌دهند. +نمونه‌ها شامل: * [کد اخلاق آکسفورد مونیخ](http://www.code-of-ethics.org/code-of-conduct/) * [کد رفتار انجمن علم داده](http://datascienceassn.org/code-of-conduct.html) (ایجاد شده در 2013) * [کد اخلاق و رفتار حرفه‌ای ACM](https://www.acm.org/code-of-ethics) (از سال 1993) @@ -213,11 +211,11 @@ CO_OP_TRANSLATOR_METADATA: ### 2. چک‌لیست‌های اخلاقی -در حالی که کدهای حرفه‌ای رفتار اخلاقی مورد نیاز را از متخصصان تعریف می‌کنند، آن‌ها [محدودیت‌های شناخته‌شده‌ای](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) در اجرا دارند، به ویژه در پروژه‌های بزرگ‌مقیاس. در عوض، بسیاری از متخصصان علم داده [از چک‌لیست‌ها حمایت می‌کنند](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) که می‌توانند **اصول را به شیوه‌ها** به صورت قطعی‌تر و قابل اجرا تبدیل کنند. +در حالی که کدهای حرفه‌ای رفتار اخلاقی مورد نیاز را از متخصصان تعریف می‌کنند، آن‌ها [محدودیت‌های شناخته‌شده‌ای](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) در اجرا دارند، به ویژه در پروژه‌های بزرگ‌مقیاس. در عوض، بسیاری از متخصصان علم داده [از چک‌لیست‌ها حمایت می‌کنند](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) که می‌توانند **اصول را به شیوه‌ها** به شکلی قطعی‌تر و قابل اجرا متصل کنند. -چک‌لیست‌ها سؤالات را به وظایف "بله/خیر" تبدیل می‌کنند که می‌توانند عملیاتی شوند و به عنوان بخشی از جریان‌های کاری استاندارد انتشار محصول پیگیری شوند. +چک‌لیست‌ها سؤالات را به وظایف "بله/خیر" تبدیل می‌کنند که می‌توانند عملیاتی شوند و به عنوان بخشی از جریان‌های کاری استاندارد انتشار محصول ردیابی شوند. -نمونه‌ها شامل موارد زیر هستند: +نمونه‌ها شامل: * [Deon](https://deon.drivendata.org/) - یک چک‌لیست اخلاق داده عمومی که از [توصیه‌های صنعتی](https://deon.drivendata.org/#checklist-citations) ایجاد شده و دارای ابزار خط فرمان برای یکپارچه‌سازی آسان است. * [چک‌لیست ممیزی حریم خصوصی](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - راهنمایی کلی برای شیوه‌های مدیریت اطلاعات از دیدگاه‌های قانونی و اجتماعی ارائه می‌دهد. * [چک‌لیست عدالت هوش مصنوعی](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - توسط متخصصان هوش مصنوعی ایجاد شده تا از پذیرش و یکپارچه‌سازی بررسی‌های عدالت در چرخه‌های توسعه هوش مصنوعی حمایت کند. @@ -230,7 +228,6 @@ CO_OP_TRANSLATOR_METADATA: امروزه، حکمرانی در سازمان‌ها دو شکل دارد. اول، تعریف اصول **هوش مصنوعی اخلاقی** و ایجاد شیوه‌هایی برای عملیاتی کردن پذیرش در تمام پروژه‌های مرتبط با هوش مصنوعی در سازمان. دوم، پایبندی به تمام مقررات حفاظت از داده‌های دولتی برای مناطقی که در آن فعالیت می‌کنند. نمونه‌هایی از مقررات حفاظت از داده‌ها و حریم خصوصی: - * `1974`، [قانون حریم خصوصی ایالات متحده](https://www.justice.gov/opcl/privacy-act-1974) - جمع‌آوری، استفاده و افشای اطلاعات شخصی توسط _دولت فدرال_ را تنظیم می‌کند. * `1996`، [قانون قابلیت حمل و حفاظت از بیمه سلامت ایالات متحده (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - از داده‌های سلامت شخصی محافظت می‌کند. * `1998`، [قانون حفاظت از حریم خصوصی آنلاین کودکان ایالات متحده (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - از حریم خصوصی داده‌های کودکان زیر 13 سال محافظت می‌کند. @@ -238,29 +235,31 @@ CO_OP_TRANSLATOR_METADATA: * `2018`، [قانون حریم خصوصی مصرف‌کننده کالیفرنیا (CCPA)](https://www.oag.ca.gov/privacy/ccpa) به مصرف‌کنندگان حقوق بیشتری بر داده‌های (شخصی) خود می‌دهد. * `2021`، [قانون حفاظت از اطلاعات شخصی چین](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) که به تازگی تصویب شده و یکی از قوی‌ترین مقررات حریم خصوصی داده‌های آنلاین در جهان را ایجاد کرده است. -> 🚨 اتحادیه اروپا GDPR (مقررات عمومی حفاظت از داده‌ها) را تعریف کرده است که یکی از تأثیرگذارترین مقررات حریم خصوصی داده‌ها امروز است. آیا می‌دانستید که این مقررات همچنین [8 حق کاربر](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) را برای حفاظت از حریم خصوصی دیجیتال و داده‌های شخصی شهروندان تعریف می‌کند؟ درباره این حقوق و اهمیت آن‌ها اطلاعات کسب کنید. +> 🚨 اتحادیه اروپا مقررات GDPR (مقررات عمومی حفاظت از داده‌ها) را تعریف کرده است که یکی از تأثیرگذارترین مقررات حریم خصوصی داده‌ها امروز است. آیا می‌دانستید که این مقررات همچنین [8 حق کاربر](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) را برای حفاظت از حریم خصوصی دیجیتال و داده‌های شخصی شهروندان تعریف می‌کند؟ درباره این حقوق و اهمیت آن‌ها اطلاعات کسب کنید. ### 4. فرهنگ اخلاقی -توجه داشته باشید که شکاف ناملموسی بین _پایبندی_ (انجام کافی برای رعایت "متن قانون") و پرداختن به [مسائل سیستماتیک](https://www.coursera.org/learn/data-science-ethics/home/week/4) (مانند سخت‌شدگی، عدم تقارن اطلاعات و نابرابری توزیعی) وجود دارد که می‌تواند تسریع در تسلیح هوش مصنوعی را سرعت بخشد. +توجه داشته باشید که شکاف ناملموسی بین _پایبندی_ (انجام کافی برای رعایت "متن قانون") و پرداختن به [مسائل سیستماتیک](https://www.coursera.org/learn/data-science-ethics/home/week/4) (مانند سخت‌شدگی، عدم تقارن اطلاعات و نابرابری توزیعی) وجود دارد که می‌تواند تسریع در تسلیحاتی شدن هوش مصنوعی را سرعت بخشد. -دومی نیاز به [رویکردهای همکاری برای تعریف فرهنگ‌های اخلاقی](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) دارد که ارتباطات احساسی و ارزش‌های مشترک سازگار را _در سراسر سازمان‌ها_ در صنعت ایجاد می‌کند. این نیاز به [فرهنگ‌های اخلاقی داده رسمی‌تر](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) در سازمان‌ها دارد - اجازه دادن به _هر کسی_ برای [کشیدن طناب Andon](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (برای مطرح کردن نگرانی‌های اخلاقی در اوایل فرآیند) و قرار دادن _ارزیابی‌های اخلاقی_ (مانند در استخدام) به عنوان معیار اصلی تشکیل تیم در پروژه‌های هوش مصنوعی. +دومی نیازمند [رویکردهای همکاری برای تعریف فرهنگ‌های اخلاقی](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) است که ارتباطات احساسی و ارزش‌های مشترک سازگار را _در سراسر سازمان‌ها_ در صنعت ایجاد می‌کند. این نیازمند [فرهنگ‌های اخلاق داده رسمی‌تر](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) در سازمان‌ها است - به طوری که _هر کسی_ بتواند [طناب آندون](https://en.wikipedia.org/wiki/Andon_(manufacturing)) را بکشد (برای مطرح کردن نگرانی‌های اخلاقی در اوایل فرآیند) و ارزیابی‌های اخلاقی انجام دهد (مانند استخدام) به عنوان معیار اصلی تشکیل تیم در پروژه‌های هوش مصنوعی. --- -## [آزمون پس از سخنرانی](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 -## مرور و مطالعه شخصی +## [آزمون پس از سخنرانی](https://ff-quizzes.netlify.app/en/ds/) 🎯 +## مرور و مطالعه خودآموز -دوره‌ها و کتاب‌ها به درک مفاهیم اصلی اخلاق و چالش‌ها کمک می‌کنند، در حالی که مطالعات موردی و ابزارها به شیوه‌های اخلاقی کاربردی در زمینه‌های واقعی کمک می‌کنند. در اینجا چند منبع برای شروع آورده شده است: +دوره‌ها و کتاب‌ها به درک مفاهیم اصلی اخلاق و چالش‌ها کمک می‌کنند، در حالی که مطالعات موردی و ابزارها به شیوه‌های اخلاق کاربردی در زمینه‌های واقعی کمک می‌کنند. در اینجا چند منبع برای شروع آورده شده است: * [یادگیری ماشین برای مبتدیان](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - درس عدالت، از مایکروسافت. -* [اصول هوش مصنوعی مسئولانه](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مسیر یادگیری رایگان از Microsoft Learn. -* [اخلاق و علم داده](https://resources.oreilly.com/examples/0636920203964) - کتاب الکترونیکی از O'Reilly (نوشته M. Loukides, H. Mason و دیگران) -* [اخلاق در علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - دوره آنلاین از دانشگاه میشیگان. -* [اخلاق بازگشایی‌شده](https://ethicsunwrapped.utexas.edu/case-studies) - مطالعات موردی از دانشگاه تگزاس. +* [اصول هوش مصنوعی مسئولانه](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مسیر یادگیری رایگان از Microsoft Learn. +* [اخلاق و علم داده](https://resources.oreilly.com/examples/0636920203964) - کتاب الکترونیکی O'Reilly (نوشته M. Loukides، H. Mason و دیگران) +* [اخلاق علم داده](https://www.coursera.org/learn/data-science-ethics#syllabus) - دوره آنلاین از دانشگاه میشیگان. +* [اخلاق باز نشده](https://ethicsunwrapped.utexas.edu/case-studies) - مطالعات موردی از دانشگاه تگزاس. -# تکلیف +# تکلیف -[نوشتن یک مطالعه موردی در اخلاق داده](assignment.md) +[نوشتن یک مطالعه موردی در اخلاق داده](assignment.md) + +--- **سلب مسئولیت**: این سند با استفاده از سرویس ترجمه هوش مصنوعی [Co-op Translator](https://github.com/Azure/co-op-translator) ترجمه شده است. در حالی که ما تلاش می‌کنیم دقت را حفظ کنیم، لطفاً توجه داشته باشید که ترجمه‌های خودکار ممکن است شامل خطاها یا نادرستی‌ها باشند. سند اصلی به زبان اصلی آن باید به عنوان منبع معتبر در نظر گرفته شود. برای اطلاعات حساس، توصیه می‌شود از ترجمه حرفه‌ای انسانی استفاده کنید. ما مسئولیتی در قبال سوء تفاهم‌ها یا تفسیرهای نادرست ناشی از استفاده از این ترجمه نداریم. \ No newline at end of file diff --git a/translations/fi/1-Introduction/02-ethics/README.md b/translations/fi/1-Introduction/02-ethics/README.md index e643a702..df9937c1 100644 --- a/translations/fi/1-Introduction/02-ethics/README.md +++ b/translations/fi/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # 數據倫理簡介 -|![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![ 由 [(@sketchthedocs)](https://sketchthedocs.dev) 繪製的手繪筆記 ](../../sketchnotes/02-Ethics.png)| |:---:| -| 數據科學倫理 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | +| 數據科學倫理 - _由 [@nitya](https://twitter.com/nitya) 繪製的手繪筆記_ | --- 我們都是生活在數據化世界中的數據公民。 -市場趨勢顯示，到2022年，每三家大型組織中就有一家會通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)購買和出售數據。作為**應用程式開發者**，我們會發現將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中變得更加容易和便宜。然而，隨著人工智能的普及，我們也需要了解這些算法在大規模應用中可能引發的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)危害。 +市場趨勢顯示，到2022年，每三家大型機構中就有一家會通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)買賣數據。作為**應用程式開發者**，我們會發現將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中變得更容易且更便宜。但隨著人工智能的普及，我們也需要了解這些算法在大規模應用中可能帶來的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)危害。 -趨勢還顯示，到2025年，我們將創造和消耗超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**數據科學家**，這讓我們能夠前所未有地接觸到個人數據。這意味著我們可以建立用戶的行為檔案，並以某些方式影響決策，從而創造一種[自由選擇的幻覺](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能引導用戶朝向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 +趨勢還顯示，到2025年，我們將創建和消費超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**數據科學家**，這讓我們能夠以前所未有的程度訪問個人數據。這意味著我們可以建立用戶的行為檔案，並以某種方式影響決策，從而創造一種[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能將用戶推向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 -數據倫理現在是數據科學和工程的_必要防護措施_，幫助我們減少數據驅動行動可能帶來的潛在危害和意外後果。[Gartner人工智能技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)指出，數字倫理、負責任的人工智能和人工智能治理是推動人工智能_民主化_和_工業化_的主要趨勢。 +數據倫理現在是數據科學和工程的_必要防護欄_，幫助我們最大限度地減少數據驅動行為可能帶來的潛在危害和意外後果。[Gartner人工智能技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)將數字倫理、負責任的人工智能和人工智能治理的相關趨勢確定為推動人工智能_民主化_和_工業化_這些更大趨勢的關鍵因素。 -![Gartner人工智能技術成熟度曲線 - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![Gartner的人工智能技術成熟度曲線 - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -在本課程中，我們將探索數據倫理這個迷人的領域——從核心概念和挑戰，到案例研究和應用人工智能概念（如治理），幫助在處理數據和人工智能的團隊和組織中建立倫理文化。 +在本課程中，我們將探索數據倫理這一迷人的領域——從核心概念和挑戰，到案例研究和應用人工智能概念（如治理），以幫助在處理數據和人工智能的團隊和組織中建立倫理文化。 ## [課前測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## 基本定義 -讓我們先了解一些基本術語。 +讓我們從理解基本術語開始。 -「倫理」一詞源自[希臘詞「ethikos」](https://en.wikipedia.org/wiki/Ethics)（及其根詞「ethos」），意為_品格或道德本質_。 +"倫理"一詞來自[希臘詞 "ethikos"](https://en.wikipedia.org/wiki/Ethics)（及其詞根 "ethos"），意為_品格或道德本質_。 -**倫理**是指在社會中指導我們行為的共同價值觀和道德原則。倫理不是基於法律，而是基於廣泛接受的「對與錯」的規範。然而，倫理考量可以影響企業治理倡議和政府法規，從而創造更多遵守的激勵措施。 +**倫理**是指在社會中規範我們行為的共同價值觀和道德原則。倫理不是基於法律，而是基於廣泛接受的"對與錯"的標準。然而，倫理考量可以影響公司治理舉措和政府法規，從而創造更多的合規激勵。 -**數據倫理**是一個[新的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，研究和評估與_數據、算法及相關實踐_相關的道德問題。在這裡，**「數據」**聚焦於生成、記錄、策劃、處理、傳播、共享和使用的行動，**「算法」**聚焦於人工智能、代理、機器學習和機器人，**「實踐」**聚焦於負責任的創新、編程、黑客行為和倫理守則等主題。 +**數據倫理**是一個[新的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，它"研究和評估與_數據、算法及相關實踐_相關的道德問題"。其中，**"數據"**側重於與生成、記錄、管理、處理、傳播、共享和使用相關的行為，**"算法"**側重於人工智能、代理、機器學習和機器人，**"實踐"**則側重於負責任的創新、編程、黑客行為和倫理守則等主題。 -**應用倫理**是[道德考量的實際應用](https://en.wikipedia.org/wiki/Applied_ethics)。它是積極調查_現實世界行動、產品和流程_中的倫理問題，並採取糾正措施以確保這些行動與我們定義的倫理價值保持一致。 +**應用倫理**是[道德考量的實際應用](https://en.wikipedia.org/wiki/Applied_ethics)。它是積極調查_現實世界行動、產品和流程_中的倫理問題，並採取糾正措施以確保這些行為與我們定義的倫理價值保持一致的過程。 -**倫理文化**是關於[將應用倫理_付諸實踐_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採用。成功的倫理文化會定義全組織的倫理原則，提供有意義的遵守激勵措施，並通過鼓勵和放大期望的行為來加強倫理規範。 +**倫理文化**是關於[將應用倫理_付諸實踐_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，以確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採納。成功的倫理文化會定義全組織範圍內的倫理原則，提供有意義的合規激勵，並通過在組織各層級鼓勵和放大期望的行為來強化倫理規範。 ## 倫理概念 -在本節中，我們將討論數據倫理中的**共同價值觀**（原則）和**倫理挑戰**（問題），並探索**案例研究**，幫助你在現實世界的背景中理解這些概念。 +在本節中，我們將討論**共同價值觀**（原則）和**倫理挑戰**（問題）等數據倫理概念，並通過**案例研究**幫助您在現實世界的背景中理解這些概念。 ### 1. 倫理原則 -每個數據倫理策略都始於定義_倫理原則_——描述可接受行為並指導數據和人工智能項目中合規行動的「共同價值觀」。你可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在企業層面定義並一致執行的_倫理人工智能_使命聲明或框架中概述這些原則。 +每個數據倫理策略都始於定義_倫理原則_——這些"共同價值觀"描述了可接受的行為，並指導我們在數據和人工智能項目中的合規行動。您可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在公司層面定義這些原則，並在所有團隊中一致執行，通常以_倫理人工智能_使命聲明或框架的形式呈現。 -**例子：** 微軟的[負責任人工智能](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_「我們致力於推動以倫理原則為基礎的人工智能發展，將人放在首位」_——並在以下框架中確定了六個倫理原則： +**示例：** 微軟的[負責任的人工智能](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_"我們致力於推動以將人放在首位的倫理原則為基礎的人工智能發展"_，並在以下框架中確定了6個倫理原則： ![微軟的負責任人工智能](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -讓我們簡要探討這些原則。_透明性_和_問責性_是其他原則的基礎價值觀，因此我們從這裡開始： +讓我們簡要探討這些原則。_透明性_和_問責性_是其他原則的基石，因此我們從這裡開始： -* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使實踐者對其數據和人工智能操作以及遵守這些倫理原則負責。 -* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保數據和人工智能行動對用戶是_可理解的_（可解釋的），並解釋決策背後的原因和內容。 -* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——確保人工智能公平對待_所有人_，解決數據和系統中的系統性或隱性社會技術偏見。 -* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保人工智能以_一致性_的方式行事，並減少潛在危害或意外後果。 -* [**隱私與安全**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——關注數據來源，並為用戶提供_數據隱私及相關保護_。 -* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——旨在有意設計人工智能解決方案，並使其適應_廣泛的人類需求_和能力。 +* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使從業者對其數據和人工智能操作以及對這些倫理原則的合規性負責。 +* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保數據和人工智能行為對用戶是_可理解的_（可解釋的），解釋決策背後的原因和內容。 +* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——確保人工智能對_所有人_公平對待，解決數據和系統中的任何系統性或隱性社會技術偏見。 +* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保人工智能行為與定義的價值觀_一致_，最大限度地減少潛在危害或意外後果。 +* [**隱私與安全**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——關注數據來源的理解，並為用戶提供_數據隱私及相關保護_。 +* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——有意設計人工智能解決方案，並使其適應_廣泛的人類需求_和能力。 -> 🚨 想想你的數據倫理使命聲明可能是什麼。探索其他組織的倫理人工智能框架——以下是[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的例子。他們有哪些共同的價值觀？這些原則如何與他們所運營的人工智能產品或行業相關？ +> 🚨 想一想您的數據倫理使命聲明可能是什麼。探索其他組織的倫理人工智能框架——這裡有來自[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的示例。它們有哪些共同的價值觀？這些原則與它們運營的人工智能產品或行業有何關聯？ ### 2. 倫理挑戰 -一旦我們定義了倫理原則，下一步就是評估我們的數據和人工智能行動是否符合這些共同價值觀。思考你的行動可以分為兩類：_數據收集_和_算法設計_。 +一旦我們定義了倫理原則，下一步就是評估我們的數據和人工智能行為是否與這些共同價值觀一致。考慮您的行為可以分為兩類：_數據收集_和_算法設計_。 -在數據收集方面，行動可能涉及**個人數據**或可識別的個人信息（PII），這些信息可以識別活著的個人。這包括[多樣化的非個人數據項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些數據_共同_識別一個人。倫理挑戰可能涉及_數據隱私_、_數據所有權_以及相關主題，如_知情同意_和_用戶的知識產權_。 +在數據收集方面，行為可能涉及**個人數據**或可識別的個人信息（PII），這些信息可以識別活著的個體，包括[多種非個人數據項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些數據_集體_可以識別一個人。倫理挑戰可能涉及_數據隱私_、_數據所有權_以及相關主題，如_知情同意_和_用戶的知識產權_。 -在算法設計方面，行動將涉及收集和策劃**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能來自_數據集偏見_、_數據質量_問題、_不公平性_和算法中的_誤導性_，包括一些系統性問題。 +在算法設計方面，行為將涉及收集和管理**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能來自_數據集偏見_、_數據質量_問題、_不公平性_以及算法中的_誤導性_——包括一些系統性問題。 -在這兩種情況下，倫理挑戰突出了我們的行動可能與共同價值觀發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對行動提出道德「是/否」問題，然後根據需要採取糾正措施。讓我們看看一些倫理挑戰及其引發的道德問題： +在這兩種情況下，倫理挑戰突出了我們的行為可能與共同價值觀發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對我們的行為提出道德上的"是/否"問題，然後根據需要採取糾正措施。讓我們來看看一些倫理挑戰及其引發的道德問題： #### 2.1 數據所有權 -數據收集通常涉及可識別數據主體的個人數據。[數據所有權](https://permission.io/blog/data-ownership)是關於與數據的創建、處理和傳播相關的_控制_和[用戶權利](https://permission.io/blog/data-ownership)。 +數據收集通常涉及可以識別數據主體的個人數據。[數據所有權](https://permission.io/blog/data-ownership)關注與數據創建、處理和傳播相關的_控制_和[用戶權利](https://permission.io/blog/data-ownership)。 -需要提出的道德問題包括： -* 誰擁有數據？（用戶或組織） +我們需要提出的道德問題包括： +* 誰擁有數據？（用戶還是組織） * 數據主體擁有哪些權利？（例如：訪問、刪除、可攜性） * 組織擁有哪些權利？（例如：糾正惡意用戶評論） #### 2.2 知情同意 -[知情同意](https://legaldictionary.net/informed-consent/)指用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下同意某項行動（如數據收集）。 +[知情同意](https://legaldictionary.net/informed-consent/)指用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下，同意某一行為（如數據收集）。 需要探討的問題包括： -* 用戶（數據主體）是否授權數據捕獲和使用？ -* 用戶是否理解捕獲數據的目的？ +* 用戶（數據主體）是否同意數據的收集和使用？ +* 用戶是否理解數據收集的目的？ * 用戶是否理解參與可能帶來的潛在風險？ #### 2.3 知識產權 @@ -100,159 +100,159 @@ CO_OP_TRANSLATOR_METADATA: 需要探討的問題包括： * 收集的數據是否對用戶或企業具有經濟價值？ -* **用戶**是否擁有知識產權？ -* **組織**是否擁有知識產權？ -* 如果存在這些權利，我們如何保護它們？ +* **用戶**是否擁有這裡的知識產權？ +* **組織**是否擁有這裡的知識產權？ +* 如果這些權利存在，我們如何保護它們？ #### 2.4 數據隱私 -[數據隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指保護用戶隱私和身份，尤其是與可識別個人信息相關的部分。 +[數據隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指保護用戶隱私和身份，特別是與可識別個人信息相關的隱私。 需要探討的問題包括： -* 用戶的（個人）數據是否防止黑客攻擊和洩漏？ -* 用戶的數據是否僅限授權用戶和情境訪問？ -* 用戶的匿名性是否在數據共享或傳播時得到保護？ +* 用戶的（個人）數據是否安全，防止黑客攻擊和洩露？ +* 用戶的數據是否僅限於授權用戶和上下文訪問？ +* 在數據共享或傳播時，用戶的匿名性是否得到保護？ * 用戶是否可以從匿名數據集中被重新識別？ -#### 2.5 被遺忘的權利 +#### 2.5 被遺忘權 -[被遺忘的權利](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人數據保護。具體而言，它賦予用戶在特定情況下要求刪除或移除個人數據的權利，允許他們在網上重新開始，而不受過去行為的影響。 +[被遺忘權](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人數據保護。具體來說，它允許用戶在_特定情況下_請求從互聯網搜索和其他位置刪除或移除個人數據，讓他們能夠在線上重新開始，而不會因過去的行為受到影響。 需要探討的問題包括： -* 系統是否允許數據主體請求刪除？ +* 系統是否允許數據主體請求刪除數據？ * 用戶撤回同意是否應觸發自動刪除？ -* 是否存在未經同意或非法手段收集的數據？ +* 數據是否在未經同意或非法手段下收集？ * 我們是否符合政府對數據隱私的法規？ #### 2.6 數據集偏見 -數據集或[收集偏見](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指選擇_非代表性_的數據子集進行算法開發，可能導致對不同群體的結果不公平。偏見類型包括選擇或抽樣偏見、志願者偏見和工具偏見。 +數據集或[收集偏見](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指為算法開發選擇了_非代表性_的數據子集，可能導致不同群體結果的不公平性。偏見類型包括選擇或抽樣偏見、志願者偏見和工具偏見。 需要探討的問題包括： -* 我們是否招募了代表性數據主體？ -* 我們是否測試了收集或策劃的數據集以檢測各種偏見？ -* 我們是否能減輕或消除發現的偏見？ +* 我們是否招募了具有代表性的一組數據主體？ +* 我們是否測試了收集或管理的數據集中的各種偏見？ +* 我們是否可以減輕或消除發現的任何偏見？ #### 2.7 數據質量 -[數據質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的策劃數據集的有效性，確保特徵和記錄符合人工智能目的所需的準確性和一致性要求。 +[數據質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的數據集的有效性，確保特徵和記錄符合我們人工智能目的所需的準確性和一致性要求。 需要探討的問題包括： * 我們是否捕獲了適合我們用例的有效_特徵_？ -* 數據是否在不同數據源中_一致地_捕獲？ -* 數據集是否_完整_，涵蓋多樣化的條件或場景？ -* 捕獲的信息是否_準確_反映了現實？ +* 數據是否在不同數據來源中_一致地_捕獲？ +* 數據集是否_完整_，涵蓋不同條件或場景？ +* 捕獲的信息是否_準確_地反映了現實？ #### 2.8 算法公平性 -[算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) 是檢查算法設計是否系統性地對特定數據群體進行歧視，從而導致在資源分配（_allocation_，即資源被拒絕或剝奪）和服務質量（_quality of service_，即人工智能對某些群體的準確性不如對其他群體）方面的[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 +[算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f)旨在檢查算法設計是否系統性地對特定數據主體的子群體造成歧視，導致在資源分配（即資源被拒絕或扣留）和服務質量（即人工智能對某些子群體的準確性低於其他群體）方面的[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 -需要探討的問題包括： - * 我們是否評估了模型在不同群體和條件下的準確性？ - * 我們是否仔細檢查了系統可能帶來的傷害（例如，刻板印象）？ +以下是需要探討的問題： + * 我們是否評估了模型在不同子群體和條件下的準確性？ + * 我們是否仔細檢查了系統可能造成的傷害（例如刻板印象）？ * 我們是否可以修正數據或重新訓練模型以減輕已識別的傷害？ -探索像 [AI 公平性檢查清單](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) 這樣的資源以了解更多。 +探索像[人工智能公平性檢查清單](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA)這樣的資源以了解更多。 #### 2.9 錯誤呈現 -[數據錯誤呈現](https://www.sciencedirect.com/topics/computer-science/misrepresentation) 是指我們是否以欺騙性的方式傳達來自誠實報告數據的洞察，以支持某種期望的敘述。 +[數據錯誤呈現](https://www.sciencedirect.com/topics/computer-science/misrepresentation)是指我們是否以欺騙的方式傳達從誠實報告的數據中得出的洞察，以支持某種期望的敘述。 -需要探討的問題包括： +以下是需要探討的問題： * 我們是否報告了不完整或不準確的數據？ - * 我們是否以誤導性的方式可視化數據，從而得出錯誤結論？ - * 我們是否使用選擇性的統計技術來操縱結果？ - * 是否存在其他可能提供不同結論的解釋？ + * 我們是否以誤導性結論的方式可視化數據？ + * 我們是否使用選擇性的統計技術來操控結果？ + * 是否存在可能提供不同結論的替代解釋？ #### 2.10 自由選擇 -[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) 是指系統的“選擇架構”使用決策算法來引導人們選擇某種偏好的結果，同時表面上給予他們選擇和控制的權利。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行為可能進一步驅動未來的選擇，從而放大或延續這些傷害的影響。 +[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)發生在系統的“選擇架構”使用決策算法引導人們選擇偏好的結果，同時看似給予他們選擇和控制的權利。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行動可能驅動未來的選擇，進一步放大或延伸這些傷害的影響。 -需要探討的問題包括： +以下是需要探討的問題： * 用戶是否理解做出該選擇的影響？ - * 用戶是否了解（替代）選擇及其各自的優缺點？ - * 用戶是否可以在事後撤銷自動化或受影響的選擇？ + * 用戶是否了解（替代）選擇及其各自的利弊？ + * 用戶是否可以在後期逆轉自動化或受影響的選擇？ ### 3. 案例研究 -將這些倫理挑戰放在現實世界的背景中，研究案例有助於了解當忽視這些倫理問題時，對個人和社會可能造成的傷害和後果。 +為了將這些倫理挑戰放在現實世界的背景中，我們可以查看一些案例研究，這些研究突出了當忽視這些倫理問題時，對個人和社會可能造成的傷害和後果。 以下是一些例子： | 倫理挑戰 | 案例研究 | |--- |--- | -| **知情同意** | 1972年 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙他們，未告知其診斷或治療的可用性。許多受試者因此死亡，其伴侶或子女也受到影響；該研究持續了40年。 | -| **數據隱私** | 2007年 - [Netflix數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) 向研究人員提供了_50000名用戶的1000萬條匿名電影評分_，以改進推薦算法。然而，研究人員能夠將匿名數據與外部數據集（例如IMDb評論）中的個人身份數據相關聯，實際上“去匿名化”了一些Netflix用戶。| -| **數據收集偏差** | 2013年 - 波士頓市[開發了Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告坑洞的應用，幫助城市獲取更好的道路數據以解決問題。然而，[低收入群體的人更少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在該應用中不可見。開發者與學者合作解決_公平性和數字鴻溝_問題。 | -| **算法公平性** | 2018年 - MIT [Gender Shades研究](http://gendershades.org/overview.html) 評估了性別分類AI產品的準確性，揭示了對女性和有色人種準確性不足的問題。一個[2019年Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) 似乎給女性提供的信用額度低於男性。這兩個案例都說明了算法偏差導致的社會經濟傷害問題。| -| **數據錯誤呈現** | 2020年 - [喬治亞州公共衛生部發布的COVID-19圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) 似乎通過非時間順序的x軸排序誤導公眾對確診病例趨勢的理解。這說明了通過可視化技巧進行的錯誤呈現。 | -| **自由選擇的假象** | 2020年 - 學習應用[ABCmouse支付了1000萬美元以解決FTC投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被迫支付無法取消的訂閱費用。這說明了選擇架構中的黑暗模式，導致用戶做出潛在有害的選擇。 | -| **數據隱私與用戶權利** | 2021年 - Facebook [數據洩露](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 導致5.3億用戶數據洩露，最終支付了50億美元的和解金給FTC。然而，它拒絕通知用戶洩露事件，違反了用戶對數據透明性和訪問的權利。 | - -想了解更多案例研究？查看以下資源： -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - 涵蓋多個行業的倫理困境。 +| **知情同意** | 1972年 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙了他們，未告知其診斷或治療的可用性。許多受試者死亡，其伴侶或子女受到影響；研究持續了40年。 | +| **數據隱私** | 2007年 - [Netflix數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/)向研究人員提供了_50,000名客戶的1,000萬匿名電影評分_，以幫助改進推薦算法。然而，研究人員能夠將匿名數據與外部數據集（例如IMDb評論）中的個人身份數據相關聯，實際上“去匿名化”了一些Netflix訂閱者。| +| **收集偏差** | 2013年 - 波士頓市[開發了Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告路面坑洞的應用程序，幫助城市獲得更好的道路數據以發現和修復問題。然而，[低收入群體的人們較少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在該應用中不可見。開發者與學者合作解決公平性問題，例如_公平訪問和數字鴻溝_。| +| **算法公平性** | 2018年 - MIT [Gender Shades研究](http://gendershades.org/overview.html)評估了性別分類人工智能產品的準確性，揭示了對女性和有色人種準確性不足的問題。一個[2019年Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/)似乎給女性提供的信用額度低於男性。這兩個案例都說明了算法偏差導致的社會經濟傷害問題。| +| **數據錯誤呈現** | 2020年 - [喬治亞州公共衛生部發布COVID-19圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)，圖表似乎通過非時間順序的x軸誤導公民關於確診病例趨勢的理解。這說明了通過可視化技巧進行錯誤呈現的問題。| +| **自由選擇的假象** | 2020年 - 學習應用程序[ABCmouse支付了1000萬美元以解決FTC投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被困於無法取消的訂閱中。這說明了選擇架構中的黑暗模式，導致用戶被引導做出可能有害的選擇。| +| **數據隱私與用戶權利** | 2021年 - Facebook [數據洩露](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users)洩露了5.3億用戶的數據，導致向FTC支付了50億美元的和解金。然而，它拒絕通知用戶洩露事件，違反了用戶關於數據透明性和訪問的權利。| + +想探索更多案例研究？查看以下資源： +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - 涉及多個行業的倫理困境。 * [數據科學倫理課程](https://www.coursera.org/learn/data-science-ethics#syllabus) - 探討標誌性案例研究。 -* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon清單中的案例示例。 +* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon清單中的示例。 -> 🚨 想想你見過的案例研究——你是否曾經遇到過或受到過類似倫理挑戰的影響？你能想到至少一個其他案例來說明我們在本節中討論的倫理挑戰嗎？ +> 🚨 回想你看到的案例研究——你是否曾經遇到或受到類似倫理挑戰的影響？你能想到至少一個其他案例研究來說明我們在本節中討論的倫理挑戰嗎？ ## 應用倫理 -我們已經討論了倫理概念、挑戰以及現實世界中的案例研究。但我們如何開始在項目中_應用_倫理原則和實踐？我們又如何_實現_這些實踐以改進治理？讓我們來探討一些現實世界的解決方案： +我們已經討論了倫理概念、挑戰以及在現實世界中的案例研究。但我們如何開始在項目中_應用_倫理原則和實踐？以及如何_實現_這些實踐以改善治理？讓我們探索一些現實世界的解決方案： ### 1. 專業守則 -專業守則為組織提供了一種選擇，通過“激勵”成員支持其倫理原則和使命聲明。守則是專業行為的_道德指導方針_，幫助員工或成員做出符合組織原則的決策。它的有效性取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰來激勵成員遵守。 +專業守則為組織提供了一種選擇，通過“激勵”成員支持其倫理原則和使命聲明。守則是專業行為的_道德指南_，幫助員工或成員做出符合其組織原則的決策。守則的效力取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰以激勵成員遵守。 示例包括： - * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) 倫理守則 - * [數據科學協會](http://datascienceassn.org/code-of-conduct.html) 行為守則（創建於2013年） - * [ACM倫理與專業行為守則](https://www.acm.org/code-of-ethics)（自1993年起） + * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/)倫理守則 + * [數據科學協會](http://datascienceassn.org/code-of-conduct.html)行為守則（創建於2013年） + * [ACM倫理守則與專業行為守則](https://www.acm.org/code-of-ethics)（自1993年起） -> 🚨 你是否屬於某個專業工程或數據科學組織？探索他們的網站，看看是否定義了專業倫理守則。這些守則說明了他們的倫理原則嗎？他們如何“激勵”成員遵守守則？ +> 🚨 你是否屬於某個專業工程或數據科學組織？探索其網站，看看是否定義了專業倫理守則。這些守則說明了哪些倫理原則？他們如何“激勵”成員遵守守則？ ### 2. 倫理檢查清單 -雖然專業守則定義了從業者所需的_倫理行為_，但它們在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大規模項目中。因此，許多數據科學專家[提倡使用檢查清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，這些清單可以將原則與實踐**聯繫起來**，以更具決定性和可操作的方式。 +雖然專業守則定義了從業者所需的_倫理行為_，但它們在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大規模項目中。因此，許多數據科學專家[提倡使用檢查清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，以**將原則與實踐**更具決定性和可操作性地聯繫起來。 -檢查清單將問題轉化為“是/否”任務，可以被操作化，並作為標準產品發布工作流程的一部分進行跟蹤。 +檢查清單將問題轉化為“是/否”任務，可以實現操作化，並允許它們作為標準產品發布工作流程的一部分進行跟蹤。 示例包括： - * [Deon](https://deon.drivendata.org/) - 一個通用的數據倫理檢查清單，基於[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於集成。 - * [隱私審核清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會曝光的角度提供信息處理實踐的一般指導。 - * [AI公平性檢查清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由AI從業者創建，用於支持公平性檢查的採用和集成到AI開發週期中。 - * [數據與AI倫理的22個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放的框架，結構化用於設計、實施和組織背景下的倫理問題初步探索。 + * [Deon](https://deon.drivendata.org/) - 一個通用數據倫理檢查清單，由[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於集成。 + * [隱私審核檢查清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會暴露的角度提供信息處理實踐的一般指導。 + * [人工智能公平性檢查清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由人工智能從業者創建，以支持公平性檢查的採用和集成到人工智能開發周期中。 + * [數據與人工智能倫理的22個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放式的框架，結構化用於設計、實施和組織背景下倫理問題的初步探索。 ### 3. 倫理法規 -倫理是關於定義共同價值觀並_自願_做正確的事情。**合規**是指在法律規定的情況下_遵守法律_。**治理**則廣泛涵蓋了組織運營中為了執行倫理原則和遵守既定法律的所有方式。 +倫理是關於定義共享價值並自願做正確的事情。**合規**是指在有法律規定的情況下_遵守法律_。**治理**則涵蓋了組織為執行倫理原則和遵守既定法律所採取的所有方式。 -如今，治理在組織內部有兩種形式。首先，它是關於定義**倫理AI**原則並建立實踐，以在組織內的所有AI相關項目中實現採用。其次，它是關於遵守其運營地區的所有政府規定的**數據保護法規**。 +今天，治理在組織內部有兩種形式。首先，它是關於定義**倫理人工智能**原則並建立實踐以實現所有與人工智能相關的項目中的採用。其次，它是關於遵守所有政府規定的**數據保護法規**，以適應其運營的地區。 數據保護和隱私法規的示例： - * `1974年`，[美國隱私法案](https://www.justice.gov/opcl/privacy-act-1974) - 規範_聯邦政府_對個人信息的收集、使用和披露。 - * `1996年`，[美國健康保險攜帶與責任法案（HIPAA）](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 保護個人健康數據。 + * `1974年`，[美國隱私法案](https://www.justice.gov/opcl/privacy-act-1974) - 規範_聯邦政府_收集、使用和披露個人信息。 + * `1996年`，[美國健康保險流通與責任法案（HIPAA）](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 保護個人健康數據。 * `1998年`，[美國兒童在線隱私保護法案（COPPA）](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 保護13歲以下兒童的數據隱私。 - * `2018年`，[通用數據保護條例（GDPR）](https://gdpr-info.eu/) - 提供用戶權利、數據保護和隱私。 + * `2018年`，[通用數據保護法規（GDPR）](https://gdpr-info.eu/) - 提供用戶權利、數據保護和隱私。 * `2018年`，[加州消費者隱私法案（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 賦予消費者更多對其（個人）數據的_權利_。 - * `2021年`，中國[個人信息保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) 剛剛通過，成為全球最強的在線數據隱私法規之一。 + * `2021年`，中國[個人信息保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/)剛剛通過，創造了全球最強的在線數據隱私法規之一。 -> 🚨 歐盟定義的GDPR（通用數據保護條例）仍然是當今最具影響力的數據隱私法規之一。你知道它還定義了[8項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)來保護公民的數字隱私和個人數據嗎？了解這些權利是什麼以及它們為什麼重要。 +> 🚨 歐盟定義的GDPR（通用數據保護法規）仍然是今天最具影響力的數據隱私法規之一。你知道它還定義了[8項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)以保護公民的數字隱私和個人數據嗎？了解這些權利是什麼以及它們為什麼重要。 ### 4. 倫理文化 -需要注意的是，_合規_（僅僅滿足“法律條文”的要求）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（如僵化、信息不對稱和分配不公平）之間仍然存在無形的差距，而這些問題可能加速AI的武器化。 +注意，_合規_（僅僅滿足“法律的字面要求”）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（例如僵化、信息不對稱和分配不公平）之間仍然存在無形的差距，這些問題可能加速人工智能的武器化。 -後者需要[協作方式來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，以在行業內部建立情感聯繫和一致的共同價值觀。這需要在組織內部[正式化數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)——允許_任何人_ [拉動安燈繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（在過程早期提出倫理問題），並將_倫理評估_（例如，在招聘中）作為AI項目團隊組建的核心標準。 +後者需要[協作方式來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，以在行業內建立情感聯繫和一致的共享價值。這需要在組織內部建立更[正式化的數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture)，允許_任何人_在過程早期[拉動Andon繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（提出倫理問題），並將_倫理評估_（例如在招聘中）作為人工智能項目團隊組建的核心標準。 --- -## [課後測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 -## 回顧與自學 +## [課後測驗](https://ff-quizzes.netlify.app/en/ds/) 🎯 +## 回顧與自學 -課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具則有助於在現實世界中應用倫理實踐。以下是一些入門資源： +課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具則有助於在現實世界中應用倫理實踐。以下是一些入門資源。 -* [機器學習初學者](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - 來自Microsoft的公平性課程。 +* [機器學習入門](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - 來自Microsoft的公平性課程。 * [負責任人工智能的原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn 提供的免費學習路徑。 * [倫理與數據科學](https://resources.oreilly.com/examples/0636920203964) - O'Reilly 電子書 (M. Loukides, H. Mason 等人著) * [數據科學倫理](https://www.coursera.org/learn/data-science-ethics#syllabus) - 密歇根大學提供的線上課程。 @@ -260,7 +260,9 @@ CO_OP_TRANSLATOR_METADATA: # 作業 -[撰寫一個數據倫理案例研究](assignment.md) +[撰寫一篇數據倫理案例研究](assignment.md) + +--- **免責聲明**： -本文件已使用人工智能翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。儘管我們致力於提供準確的翻譯，請注意自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於重要信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。 \ No newline at end of file +本文件已使用人工智能翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。儘管我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始語言的文件應被視為權威來源。對於重要信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。 \ No newline at end of file diff --git a/translations/hr/1-Introduction/02-ethics/README.md b/translations/hr/1-Introduction/02-ethics/README.md index 38f302f3..edfe126f 100644 --- a/translations/hr/1-Introduction/02-ethics/README.md +++ b/translations/hr/1-Introduction/02-ethics/README.md @@ -1,31 +1,31 @@ # Uvod u etiku podataka -|![ Sketchnote od [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| Etika znanosti o podacima - _Sketchnote od [@nitya](https://twitter.com/nitya)_ | +| Etika u znanosti o podacima - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | --- Svi smo mi građani podataka koji živimo u svijetu prepunom podataka. -Tržišni trendovi pokazuju da će do 2022. godine 1 od 3 velike organizacije kupovati i prodavati svoje podatke putem online [tržnica i razmjena](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Kao **razvijatelji aplikacija**, lakše ćemo i jeftinije integrirati uvide temeljene na podacima i automatizaciju vođenu algoritmima u svakodnevna korisnička iskustva. No, kako umjetna inteligencija (AI) postaje sveprisutna, morat ćemo razumjeti i potencijalne štete uzrokovane [oružavanjem](https://www.youtube.com/watch?v=TQHs8SA1qpk) takvih algoritama u velikim razmjerima. +Tržišni trendovi pokazuju da će do 2022. godine jedna od tri velike organizacije kupovati i prodavati svoje podatke putem online [tržnica i burzi](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Kao **razvijatelji aplikacija**, bit će nam lakše i jeftinije integrirati uvide temeljene na podacima i automatizaciju vođenu algoritmima u svakodnevna korisnička iskustva. No, kako umjetna inteligencija postaje sveprisutna, morat ćemo razumjeti i potencijalne štete koje može prouzročiti [oružavanje](https://www.youtube.com/watch?v=TQHs8SA1qpk) takvih algoritama u velikim razmjerima. -Trendovi također pokazuju da ćemo do 2025. godine stvoriti i konzumirati preko [180 zettabajta](https://www.statista.com/statistics/871513/worldwide-data-created/) podataka. Kao **znanstvenici o podacima**, to nam daje neviđenu razinu pristupa osobnim podacima. To znači da možemo graditi profile ponašanja korisnika i utjecati na donošenje odluka na načine koji stvaraju [iluziju slobodnog izbora](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), dok potencijalno usmjeravamo korisnike prema ishodima koji nama odgovaraju. To također otvara šira pitanja o privatnosti podataka i zaštiti korisnika. +Trendovi također pokazuju da ćemo do 2025. godine stvoriti i konzumirati preko [180 zettabajta](https://www.statista.com/statistics/871513/worldwide-data-created/) podataka. Kao **znanstvenici podataka**, to nam daje neviđenu razinu pristupa osobnim podacima. To znači da možemo izgraditi profile ponašanja korisnika i utjecati na donošenje odluka na načine koji stvaraju [iluziju slobodnog izbora](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), dok potencijalno usmjeravamo korisnike prema ishodima koji nama odgovaraju. Također se postavljaju šira pitanja o privatnosti podataka i zaštiti korisnika. -Etika podataka sada su _nužne smjernice_ za znanost o podacima i inženjering, pomažući nam da minimiziramo potencijalne štete i nenamjerne posljedice naših akcija temeljenih na podacima. [Gartnerov Hype Cycle za AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) identificira relevantne trendove u digitalnoj etici, odgovornoj AI i upravljanju AI-jem kao ključne pokretače većih megatrendova oko _demokratizacije_ i _industrijalizacije_ AI-ja. +Etika podataka sada su _nužne zaštitne mjere_ za znanost o podacima i inženjering, pomažući nam da minimiziramo potencijalne štete i nenamjerne posljedice naših radnji vođenih podacima. [Gartnerov Hype Cycle za AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) identificira relevantne trendove u digitalnoj etici, odgovornoj AI i upravljanju AI-jem kao ključne pokretače većih megatrendova oko _demokratizacije_ i _industrijalizacije_ AI-ja. ![Gartnerov Hype Cycle za AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -U ovoj lekciji istražit ćemo fascinantno područje etike podataka - od osnovnih koncepata i izazova, do studija slučaja i primijenjenih AI koncepata poput upravljanja - koji pomažu uspostaviti kulturu etike u timovima i organizacijama koje rade s podacima i AI-jem. +U ovoj lekciji istražit ćemo fascinantno područje etike podataka - od osnovnih pojmova i izazova, do studija slučaja i primijenjenih AI koncepata poput upravljanja - koji pomažu uspostaviti kulturu etike u timovima i organizacijama koje rade s podacima i AI-jem. ## [Kviz prije predavanja](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -37,48 +37,48 @@ Riječ "etika" dolazi od [grčke riječi "ethikos"](https://en.wikipedia.org/wik **Etika** se odnosi na zajedničke vrijednosti i moralna načela koja upravljaju našim ponašanjem u društvu. Etika se ne temelji na zakonima, već na široko prihvaćenim normama o tome što je "ispravno naspram pogrešnog". Međutim, etička razmatranja mogu utjecati na inicijative korporativnog upravljanja i vladine regulative koje stvaraju više poticaja za usklađenost. -**Etika podataka** je [nova grana etike](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) koja "proučava i procjenjuje moralne probleme povezane s _podacima, algoritmima i odgovarajućim praksama_". Ovdje se **"podaci"** fokusiraju na radnje povezane s generiranjem, bilježenjem, kuriranjem, obradom, širenjem, dijeljenjem i korištenjem, **"algoritmi"** na AI, agente, strojno učenje i robote, a **"prakse"** na teme poput odgovorne inovacije, programiranja, hakiranja i etičkih kodeksa. +**Etika podataka** je [nova grana etike](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) koja "proučava i procjenjuje moralne probleme povezane s _podacima, algoritmima i odgovarajućim praksama_". Ovdje se **"podaci"** fokusiraju na radnje povezane s generiranjem, snimanjem, kuriranjem, obradom, širenjem, dijeljenjem i korištenjem, **"algoritmi"** se fokusiraju na AI, agente, strojno učenje i robote, a **"prakse"** se fokusiraju na teme poput odgovorne inovacije, programiranja, hakiranja i etičkih kodeksa. -**Primijenjena etika** je [praktična primjena moralnih razmatranja](https://en.wikipedia.org/wiki/Applied_ethics). To je proces aktivnog istraživanja etičkih pitanja u kontekstu _stvarnih radnji, proizvoda i procesa_ te poduzimanja korektivnih mjera kako bi se osiguralo da ostanu usklađeni s našim definiranim etičkim vrijednostima. +**Primijenjena etika** je [praktična primjena moralnih razmatranja](https://en.wikipedia.org/wiki/Applied_ethics). To je proces aktivnog istraživanja etičkih pitanja u kontekstu _stvarnih radnji, proizvoda i procesa_, te poduzimanja korektivnih mjera kako bi se osiguralo da ostanu usklađeni s našim definiranim etičkim vrijednostima. -**Kultura etike** odnosi se na [_operacionalizaciju_ primijenjene etike](https://hbr.org/2019/05/how-to-design-an-ethical-organization) kako bi se osiguralo da se naši etički principi i prakse dosljedno i skalabilno usvajaju u cijeloj organizaciji. Uspješne kulture etike definiraju etičke principe na razini organizacije, pružaju značajne poticaje za usklađenost i jačaju norme etike poticanjem i pojačavanjem željenih ponašanja na svakoj razini organizacije. +**Kultura etike** odnosi se na [_operacionalizaciju_ primijenjene etike](https://hbr.org/2019/05/how-to-design-an-ethical-organization) kako bi se osiguralo da se naši etički principi i prakse dosljedno i skalabilno usvajaju u cijeloj organizaciji. Uspješne kulture etike definiraju etičke principe na razini organizacije, pružaju značajne poticaje za usklađenost i jačaju norme etike poticanjem i amplifikacijom željenih ponašanja na svakoj razini organizacije. ## Koncepti etike -U ovom ćemo odjeljku raspraviti koncepte poput **zajedničkih vrijednosti** (principa) i **etičkih izazova** (problema) za etiku podataka - te istražiti **studije slučaja** koje vam pomažu razumjeti te koncepte u stvarnim kontekstima. +U ovom dijelu raspravljat ćemo o konceptima poput **zajedničkih vrijednosti** (principa) i **etičkih izazova** (problema) za etiku podataka - te istražiti **studije slučaja** koje vam pomažu razumjeti ove koncepte u stvarnim kontekstima. -### 1. Etički principi +### 1. Principi etike -Svaka strategija etike podataka započinje definiranjem _etičkih principa_ - "zajedničkih vrijednosti" koje opisuju prihvatljiva ponašanja i vode usklađene radnje u našim projektima s podacima i AI-jem. Možete ih definirati na individualnoj ili timskoj razini. Međutim, većina velikih organizacija ih navodi u misiji ili okviru _etičkog AI-ja_ koji je definiran na korporativnoj razini i dosljedno proveden u svim timovima. +Svaka strategija etike podataka počinje definiranjem _etičkih principa_ - "zajedničkih vrijednosti" koje opisuju prihvatljiva ponašanja i vode usklađene radnje u našim projektima vezanim uz podatke i AI. Možete ih definirati na individualnoj ili timskoj razini. Međutim, većina velikih organizacija ih navodi u _misiji etičkog AI-ja_ ili okviru koji je definiran na korporativnoj razini i dosljedno proveden u svim timovima. -**Primjer:** Microsoftova [Misija odgovornog AI-ja](https://www.microsoft.com/en-us/ai/responsible-ai) glasi: _"Predani smo razvoju AI-ja vođenog etičkim principima koji stavljaju ljude na prvo mjesto"_ - identificirajući 6 etičkih principa u okviru ispod: +**Primjer:** Microsoftova [Odgovorna AI](https://www.microsoft.com/en-us/ai/responsible-ai) misija glasi: _"Posvećeni smo razvoju AI-ja vođenog etičkim principima koji stavljaju ljude na prvo mjesto"_ - identificirajući 6 etičkih principa u okviru ispod: -![Odgovorni AI u Microsoftu](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![Odgovorna AI u Microsoftu](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -Pogledajmo ukratko ove principe. _Transparentnost_ i _odgovornost_ su temeljne vrijednosti na kojima se grade ostali principi - pa krenimo od njih: +Kratko ćemo istražiti ove principe. _Transparentnost_ i _odgovornost_ su temeljne vrijednosti na kojima se grade ostali principi - pa krenimo od njih: -* [**Odgovornost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) čini praktičare _odgovornima_ za njihove operacije s podacima i AI-jem te usklađenost s ovim etičkim principima. -* [**Transparentnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) osigurava da su radnje s podacima i AI-jem _razumljive_ (interpretabilne) korisnicima, objašnjavajući što i zašto iza odluka. -* [**Pravednost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - fokusira se na osiguravanje da AI tretira _sve ljude_ pravedno, rješavajući bilo kakve sustavne ili implicitne socio-tehničke pristranosti u podacima i sustavima. -* [**Pouzdanost i sigurnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - osigurava da se AI ponaša _dosljedno_ s definiranim vrijednostima, minimizirajući potencijalne štete ili nenamjerne posljedice. -* [**Privatnost i sigurnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - odnosi se na razumijevanje porijekla podataka i pružanje _privatnosti podataka i povezanih zaštita_ korisnicima. +* [**Odgovornost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) čini praktičare _odgovornima_ za njihove operacije s podacima i AI-jem, te usklađenost s ovim etičkim principima. +* [**Transparentnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) osigurava da su radnje vezane uz podatke i AI _razumljive_ korisnicima, objašnjavajući što i zašto iza odluka. +* [**Pravednost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - fokusira se na osiguranje da AI _sve ljude_ tretira pravedno, rješavajući bilo kakve sustavne ili implicitne socio-tehničke pristranosti u podacima i sustavima. +* [**Pouzdanost i sigurnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - osigurava da AI djeluje _dosljedno_ s definiranim vrijednostima, minimizirajući potencijalne štete ili nenamjerne posljedice. +* [**Privatnost i sigurnost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - odnosi se na razumijevanje podrijetla podataka i pružanje _privatnosti podataka i povezanih zaštita_ korisnicima. * [**Uključivost**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - odnosi se na dizajniranje AI rješenja s namjerom, prilagođavajući ih kako bi zadovoljila _širok raspon ljudskih potreba_ i sposobnosti. -> 🚨 Razmislite o tome kakva bi mogla biti vaša misija etike podataka. Istražite okvire etičkog AI-ja drugih organizacija - ovdje su primjeri iz [IBM-a](https://www.ibm.com/cloud/learn/ai-ethics), [Googlea](https://ai.google/principles) i [Facebooka](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Koje zajedničke vrijednosti dijele? Kako se ti principi odnose na AI proizvod ili industriju u kojoj djeluju? +> 🚨 Razmislite o tome što bi mogla biti vaša misija etike podataka. Istražite okvire etičkog AI-ja drugih organizacija - ovdje su primjeri iz [IBM-a](https://www.ibm.com/cloud/learn/ai-ethics), [Googlea](https://ai.google/principles) i [Facebooka](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Koje zajedničke vrijednosti imaju? Kako se ti principi odnose na AI proizvod ili industriju u kojoj djeluju? ### 2. Etički izazovi -Nakon što definiramo etičke principe, sljedeći korak je procijeniti naše radnje s podacima i AI-jem kako bismo vidjeli jesu li usklađene s tim zajedničkim vrijednostima. Razmislite o svojim radnjama u dvije kategorije: _prikupljanje podataka_ i _dizajn algoritama_. +Nakon što definiramo etičke principe, sljedeći korak je procijeniti naše radnje vezane uz podatke i AI kako bismo vidjeli jesu li usklađene s tim zajedničkim vrijednostima. Razmislite o svojim radnjama u dvije kategorije: _prikupljanje podataka_ i _dizajn algoritama_. -Kod prikupljanja podataka, radnje će vjerojatno uključivati **osobne podatke** ili osobno prepoznatljive informacije (PII) za identificirane žive pojedince. To uključuje [različite stavke neosobnih podataka](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) koje _zajedno_ identificiraju pojedinca. Etički izazovi mogu se odnositi na _privatnost podataka_, _vlasništvo nad podacima_ i povezane teme poput _informiranog pristanka_ i _prava intelektualnog vlasništva_ korisnika. +Kod prikupljanja podataka, radnje će vjerojatno uključivati **osobne podatke** ili osobno prepoznatljive informacije (PII) za identificirane žive pojedince. To uključuje [različite stavke neosobnih podataka](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) koje _zajedno_ identificiraju pojedinca. Etički izazovi mogu se odnositi na _privatnost podataka_, _vlasništvo podataka_ i povezane teme poput _informiranog pristanka_ i _prava intelektualnog vlasništva_ za korisnike. -Kod dizajna algoritama, radnje će uključivati prikupljanje i kuriranje **skupova podataka**, a zatim njihovo korištenje za treniranje i implementaciju **modela podataka** koji predviđaju ishode ili automatiziraju odluke u stvarnim kontekstima. Etički izazovi mogu proizaći iz _pristranosti skupa podataka_, problema s _kvalitetom podataka_, _nepravednosti_ i _pogrešnog predstavljanja_ u algoritmima - uključujući neke probleme koji su sustavne prirode. +Kod dizajna algoritama, radnje će uključivati prikupljanje i kuriranje **skupova podataka**, a zatim njihovo korištenje za treniranje i implementaciju **modela podataka** koji predviđaju ishode ili automatiziraju odluke u stvarnim kontekstima. Etički izazovi mogu proizaći iz _pristranosti skupa podataka_, problema _kvalitete podataka_, _nepravednosti_ i _pogrešnog predstavljanja_ u algoritmima - uključujući neke probleme koji su sustavne prirode. -U oba slučaja, etički izazovi ističu područja gdje naše radnje mogu doći u sukob s našim zajedničkim vrijednostima. Kako bismo otkrili, ublažili, minimizirali ili eliminirali te zabrinutosti, trebamo postavljati moralna "da/ne" pitanja vezana uz naše radnje, a zatim poduzeti korektivne mjere prema potrebi. Pogledajmo neke etičke izazove i moralna pitanja koja postavljaju: +U oba slučaja, etički izazovi ističu područja gdje naše radnje mogu biti u sukobu s našim zajedničkim vrijednostima. Kako bismo otkrili, ublažili, minimizirali ili eliminirali ove zabrinutosti - trebamo postavljati moralna "da/ne" pitanja vezana uz naše radnje, a zatim poduzeti korektivne mjere prema potrebi. Pogledajmo neke etičke izazove i moralna pitanja koja postavljaju: -#### 2.1 Vlasništvo nad podacima +#### 2.1 Vlasništvo podataka -Prikupljanje podataka često uključuje osobne podatke koji mogu identificirati subjekte podataka. [Vlasništvo nad podacima](https://permission.io/blog/data-ownership) odnosi se na _kontrolu_ i [_prava korisnika_](https://permission.io/blog/data-ownership) vezana uz stvaranje, obradu i širenje podataka. +Prikupljanje podataka često uključuje osobne podatke koji mogu identificirati subjekte podataka. [Vlasništvo podataka](https://permission.io/blog/data-ownership) odnosi se na _kontrolu_ i [_prava korisnika_](https://permission.io/blog/data-ownership) vezana uz stvaranje, obradu i širenje podataka. Moralna pitanja koja trebamo postaviti su: * Tko posjeduje podatke? (korisnik ili organizacija) @@ -92,7 +92,7 @@ Moralna pitanja koja trebamo postaviti su: Pitanja za istraživanje ovdje su: * Je li korisnik (subjekt podataka) dao dopuštenje za prikupljanje i korištenje podataka? * Je li korisnik razumio svrhu za koju su ti podaci prikupljeni? -* Je li korisnik razumio potencijalne rizike od svog sudjelovanja? +* Je li korisnik razumio potencijalne rizike od sudjelovanja? #### 2.3 Intelektualno vlasništvo @@ -112,14 +112,14 @@ Pitanja za istraživanje ovdje su: * Jesu li korisnički (osobni) podaci zaštićeni od hakiranja i curenja? * Jesu li korisnički podaci dostupni samo ovlaštenim korisnicima i kontekstima? * Je li anonimnost korisnika očuvana kada se podaci dijele ili šire? -* Može li se korisnik deidentificirati iz anonimiziranih skupova podataka? +* Može li se korisnik de-identificirati iz anonimiziranih skupova podataka? #### 2.5 Pravo na zaborav -[Pravo na zaborav](https://en.wikipedia.org/wiki/Right_to_be_forgotten) ili [Pravo na brisanje](https://www.gdpreu.org/right-to-be-forgotten/) pruža dodatnu zaštitu osobnih podataka korisnicima. Konkretno, daje korisnicima pravo da zatraže brisanje ili uklanjanje osobnih podataka iz internetskih pretraživanja i drugih lokacija, _pod određenim okolnostima_ - omogućujući im novi početak online bez da ih prošle radnje opterećuju. +[Pravo na zaborav](https://en.wikipedia.org/wiki/Right_to_be_forgotten) ili [Pravo na brisanje](https://www.gdpreu.org/right-to-be-forgotten/) pruža dodatnu zaštitu osobnih podataka korisnicima. Konkretno, daje korisnicima pravo da zatraže brisanje ili uklanjanje osobnih podataka iz internetskih pretraživanja i drugih lokacija, _pod određenim okolnostima_ - omogućujući im novi početak online bez da se prošle radnje drže protiv njih. Pitanja za istraživanje ovdje su: -* Omogućuje li sustav subjektima podataka da zatraže brisanje? +* Omogućava li sustav subjektima podataka da zatraže brisanje? * Treba li povlačenje korisničkog pristanka automatski pokrenuti brisanje? * Jesu li podaci prikupljeni bez pristanka ili nezakonitim sredstvima? * Jesmo li usklađeni s vladinim regulativama za privatnost podataka? @@ -129,22 +129,20 @@ Pitanja za istraživanje ovdje su: Pristranost skupa podataka ili [pristranost prikupljanja](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) odnosi se na odabir _nereprezentativnog_ podskupa podataka za razvoj algoritama, stvarajući potencijalnu nepravednost u ishodima za različite skupine. Vrste pristranosti uključuju pristranost odabira ili uzorkovanja, pristranost volontera i pristranost instrumenata. Pitanja za istraživanje ovdje su: -* Jesmo li regrutirali reprezentativan skup subjekata podataka? +* Jesmo li regrutirali reprezentativni skup subjekata podataka? * Jesmo li testirali naš prikupljeni ili kurirani skup podataka na razne pristranosti? * Možemo li ublažiti ili ukloniti otkrivene pristranosti? #### 2.7 Kvaliteta podataka -[Kvaliteta podataka](https://lakefs.io/data-quality-testing/) odnosi se na valjanost kuriranog skupa podataka korištenog za razvoj naših algoritama, provjeravajući zadovoljavaju li značajke i zapisi zahtjeve za razinom točnosti i dosljednosti potrebnom za našu AI svrhu. +[Kvaliteta podataka](https://lakefs.io/data-quality-testing/) ispituje valjanost kuriranog skupa podataka korištenog za razvoj naših algoritama, provjeravajući jesu li značajke i zapisi u skladu s zahtjevima za razinu točnosti i dosljednosti potrebnu za naš AI cilj. Pitanja za istraživanje ovdje su: -* Jesmo li uhvatili valjane _značajke_ za naš slučaj upotrebe? +* Jesmo li uhvatili valjane _značajke_ za našu svrhu? * Jesu li podaci dosljedno prikupljeni iz različitih izvora podataka? * Je li skup podataka _potpun_ za različite uvjete ili scenarije? -* Jesu li informacije točno zabilježene u odražavanju stvarnosti? - -#### 2.8 Pravednost algoritama -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) provjerava dizajn algoritma kako bi se utvrdilo diskriminira li sustavno određene podskupine ispitanika, što može dovesti do [potencijalnih šteta](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) u _raspodjeli_ (kada se resursi uskraćuju ili odbijaju toj skupini) i _kvaliteti usluge_ (kada AI nije jednako precizan za neke podskupine kao za druge). +* Jesu li informacije točno uhvaćene u odražavanju stvarnosti? +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) provjerava dizajn algoritma kako bi se utvrdilo diskriminira li sustavno određene podskupine subjekata podataka, što može dovesti do [potencijalnih šteta](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) u _dodjeli_ (gdje se resursi uskraćuju ili odbijaju toj skupini) i _kvaliteti usluge_ (gdje AI nije jednako precizan za neke podskupine kao za druge). Pitanja za istraživanje: * Jesmo li procijenili točnost modela za različite podskupine i uvjete? @@ -164,7 +162,7 @@ Pitanja za istraživanje: * Postoje li alternativna objašnjenja koja mogu ponuditi drugačiji zaključak? #### 2.10 Slobodan izbor -[Iluzija slobodnog izbora](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) događa se kada sustavi "arhitekture izbora" koriste algoritme za donošenje odluka kako bi usmjerili ljude prema preferiranom ishodu, dok im se pritom čini da imaju opcije i kontrolu. Ovi [tamni obrasci](https://www.darkpatterns.org/) mogu uzrokovati društvene i ekonomske štete korisnicima. Budući da odluke korisnika utječu na profile ponašanja, te radnje potencijalno oblikuju buduće izbore, što može pojačati ili proširiti utjecaj tih šteta. +[Iluzija slobodnog izbora](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) događa se kada sustavi "arhitekture izbora" koriste algoritme za donošenje odluka kako bi potaknuli ljude na odabir preferiranog ishoda, dok im se istovremeno čini da imaju opcije i kontrolu. Ovi [tamni obrasci](https://www.darkpatterns.org/) mogu uzrokovati društvene i ekonomske štete korisnicima. Budući da odluke korisnika utječu na profile ponašanja, te radnje potencijalno oblikuju buduće izbore koji mogu pojačati ili proširiti utjecaj tih šteta. Pitanja za istraživanje: * Je li korisnik razumio implikacije donošenja tog izbora? @@ -177,91 +175,92 @@ Kako bismo ove etičke izazove stavili u kontekst stvarnog svijeta, korisno je p Evo nekoliko primjera: -| Etički izazov | Studija slučaja | +| Etički izazov | Studija slučaja | |--- |--- | | **Informirani pristanak** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Afroameričkim muškarcima koji su sudjelovali u studiji obećana je besplatna medicinska skrb _ali su ih istraživači obmanuli_ ne informirajući ih o dijagnozi ili dostupnosti liječenja. Mnogi su umrli, a partneri i djeca su bili pogođeni; studija je trajala 40 godina. | -| **Privatnost podataka** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) omogućio je istraživačima pristup _10M anonimnih ocjena filmova od 50K korisnika_ kako bi poboljšali algoritme preporuka. Međutim, istraživači su uspjeli povezati anonimne podatke s osobno identificirajućim podacima u _vanjskim skupovima podataka_ (npr. IMDb komentari) - učinkovito "deanonimizirajući" neke Netflix pretplatnike.| -| **Pristranost u prikupljanju podataka** | 2013 - Grad Boston [razvio Street Bump](https://www.boston.gov/transportation/street-bump), aplikaciju koja je omogućila građanima da prijave rupe na cestama, dajući gradu bolje podatke o cestama za pronalaženje i popravak problema. Međutim, [ljudi s nižim prihodima imali su manje pristupa automobilima i telefonima](https://hbr.org/2013/04/the-hidden-biases-in-big-data), čineći njihove probleme s cestama nevidljivima u ovoj aplikaciji. Programeri su surađivali s akademicima na pitanjima _pravednog pristupa i digitalnih podjela_ radi pravednosti. | -| **Pravednost algoritma** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) procijenio je točnost AI proizvoda za klasifikaciju spola, otkrivajući nedostatke u točnosti za žene i osobe tamnije boje kože. [Apple Card iz 2019.](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) činilo se da nudi manje kredita ženama nego muškarcima. Oba primjera ilustriraju probleme pristranosti algoritma koji dovode do socio-ekonomskih šteta.| -| **Pogrešno predstavljanje podataka** | 2020 - [Odjel za javno zdravstvo Georgije objavio COVID-19 grafikone](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) koji su izgledali kao da obmanjuju građane o trendovima potvrđenih slučajeva s ne-kronološkim redoslijedom na x-osi. Ovo ilustrira pogrešno predstavljanje kroz trikove vizualizacije. | -| **Iluzija slobodnog izbora** | 2020 - Edukacijska aplikacija [ABCmouse platila je $10M za nagodbu s FTC-om](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) gdje su roditelji bili zarobljeni u plaćanju pretplata koje nisu mogli otkazati. Ovo ilustrira tamne obrasce u arhitekturi izbora, gdje su korisnici bili usmjereni prema potencijalno štetnim izborima. | -| **Privatnost podataka i prava korisnika** | 2021 - Facebook [curenje podataka](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) otkrilo je podatke 530M korisnika, što je rezultiralo nagodbom od $5B s FTC-om. Međutim, odbili su obavijestiti korisnike o curenju, kršeći prava korisnika na transparentnost i pristup podacima. | +| **Privatnost podataka** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) pružio je istraživačima _10M anonimiziranih ocjena filmova od 50K korisnika_ kako bi se poboljšali algoritmi preporuka. Međutim, istraživači su uspjeli povezati anonimizirane podatke s osobno identificiranim podacima u _vanjskim skupovima podataka_ (npr. IMDb komentari) - učinkovito "deanonimizirajući" neke Netflix pretplatnike.| +| **Pristranost u prikupljanju podataka** | 2013 - Grad Boston [razvio Street Bump](https://www.boston.gov/transportation/street-bump), aplikaciju koja je omogućila građanima da prijave rupe na cestama, dajući gradu bolje podatke o cestama za pronalaženje i popravak problema. Međutim, [ljudi s nižim prihodima imali su manje pristupa automobilima i telefonima](https://hbr.org/2013/04/the-hidden-biases-in-big-data), čineći njihove probleme s cestama nevidljivima u ovoj aplikaciji. Programeri su surađivali s akademicima na _pristupu i digitalnim podjelama_ radi pravednosti. | +| **Pravednost algoritma** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) procijenila je točnost AI proizvoda za klasifikaciju spola, otkrivajući nedostatke u točnosti za žene i osobe tamnije boje kože. [Apple Card iz 2019.](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) činilo se da nudi manje kredita ženama nego muškarcima. Oba primjera ilustriraju probleme pristranosti algoritma koji dovode do socio-ekonomskih šteta.| +| **Pogrešno predstavljanje podataka** | 2020 - [Georgia Department of Public Health objavio COVID-19 grafikone](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) koji su izgledali kao da obmanjuju građane o trendovima potvrđenih slučajeva s ne-kronološkim redoslijedom na x-osi. Ovo ilustrira pogrešno predstavljanje kroz trikove vizualizacije. | +| **Iluzija slobodnog izbora** | 2020 - Edukativna aplikacija [ABCmouse platila $10M za nagodbu s FTC-om](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) gdje su roditelji bili zarobljeni u plaćanju pretplata koje nisu mogli otkazati. Ovo ilustrira tamne obrasce u arhitekturama izbora, gdje su korisnici bili potaknuti na potencijalno štetne odluke. | +| **Privatnost podataka i prava korisnika** | 2021 - Facebook [Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) otkrio podatke 530M korisnika, što je rezultiralo nagodbom od $5B s FTC-om. Međutim, odbio je obavijestiti korisnike o povredi, kršeći prava korisnika na transparentnost i pristup podacima. | Želite istražiti više studija slučaja? Pogledajte ove resurse: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - etičke dileme u raznim industrijama. -* [Tečaj o etici u znanosti o podacima](https://www.coursera.org/learn/data-science-ethics#syllabus) - ključne studije slučaja. -* [Primjeri gdje su stvari krenule po zlu](https://deon.drivendata.org/examples/) - Deon popis s primjerima. +* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - studije slučaja u fokusu. +* [Where things have gone wrong](https://deon.drivendata.org/examples/) - Deon popis s primjerima. + > 🚨 Razmislite o studijama slučaja koje ste vidjeli - jeste li doživjeli ili bili pogođeni sličnim etičkim izazovom u svom životu? Možete li se sjetiti barem jedne druge studije slučaja koja ilustrira jedan od etičkih izazova koje smo raspravili u ovom odjeljku? ## Primijenjena etika -Razgovarali smo o konceptima etike, izazovima i studijama slučaja u kontekstu stvarnog svijeta. No kako započeti _primjenu_ etičkih načela i praksi u našim projektima? I kako _operacionalizirati_ ove prakse za bolju upravu? Istražimo neka rješenja iz stvarnog svijeta: +Razgovarali smo o konceptima etike, izazovima i studijama slučaja u kontekstu stvarnog svijeta. No, kako započeti _primjenu_ etičkih načela i praksi u našim projektima? I kako _operacionalizirati_ ove prakse za bolju upravu? Istražimo neka rješenja iz stvarnog svijeta: ### 1. Profesionalni kodeksi -Profesionalni kodeksi nude jednu opciju za organizacije da "potaknu" članove na podršku njihovim etičkim načelima i misiji. Kodeksi su _moralne smjernice_ za profesionalno ponašanje, pomažući zaposlenicima ili članovima da donose odluke koje su u skladu s načelima njihove organizacije. Oni su učinkoviti koliko i dobrovoljna usklađenost članova; međutim, mnoge organizacije nude dodatne nagrade i kazne kako bi motivirale članove na usklađenost. +Profesionalni kodeksi nude jednu opciju za organizacije da "potaknu" članove na podršku njihovim etičkim načelima i misiji. Kodeksi su _moralne smjernice_ za profesionalno ponašanje, pomažući zaposlenicima ili članovima da donose odluke koje su u skladu s načelima njihove organizacije. Oni su učinkoviti koliko i dobrovoljna usklađenost članova; međutim, mnoge organizacije nude dodatne nagrade i kazne kako bi motivirale usklađenost. Primjeri uključuju: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Kodeks etike * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Kodeks ponašanja (kreiran 2013.) - * [ACM Kodeks etike i profesionalnog ponašanja](https://www.acm.org/code-of-ethics) (od 1993.) + * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (od 1993.) -> 🚨 Pripadate li profesionalnoj organizaciji za inženjering ili znanost o podacima? Istražite njihovu stranicu kako biste vidjeli definiraju li profesionalni kodeks etike. Što to govori o njihovim etičkim načelima? Kako "potiču" članove na pridržavanje kodeksa? +> 🚨 Pripadate li profesionalnoj inženjerskoj ili organizaciji za podatkovnu znanost? Istražite njihovu stranicu kako biste vidjeli definiraju li profesionalni kodeks etike. Što to govori o njihovim etičkim načelima? Kako "potiču" članove da slijede kodeks? -### 2. Etički popisi za provjeru +### 2. Etičke kontrolne liste -Dok profesionalni kodeksi definiraju potrebna _etička ponašanja_ od praktičara, oni [imaju poznata ograničenja](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) u provedbi, posebno u projektima velikih razmjera. Umjesto toga, mnogi stručnjaci za znanost o podacima [zagovaraju popise za provjeru](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), koji mogu **povezati načela s praksama** na deterministički i provediv način. +Dok profesionalni kodeksi definiraju potrebna _etička ponašanja_ od praktičara, oni [imaju poznata ograničenja](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) u provedbi, posebno u projektima velikih razmjera. Umjesto toga, mnogi stručnjaci za podatkovnu znanost [zagovaraju kontrolne liste](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), koje mogu **povezati načela s praksama** na deterministički i provediv način. -Popisi za provjeru pretvaraju pitanja u zadatke "da/ne" koji se mogu operacionalizirati, omogućujući njihovo praćenje kao dio standardnih tijekova rada za izdavanje proizvoda. +Kontrolne liste pretvaraju pitanja u zadatke "da/ne" koji se mogu operacionalizirati, omogućujući njihovo praćenje kao dio standardnih tijekova rada za izdavanje proizvoda. Primjeri uključuju: - * [Deon](https://deon.drivendata.org/) - opći popis za provjeru etike podataka kreiran prema [preporukama industrije](https://deon.drivendata.org/#checklist-citations) s alatom naredbenog retka za jednostavnu integraciju. - * [Popis za provjeru privatnosti](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - pruža opće smjernice za praksu rukovanja informacijama iz pravne i društvene perspektive. - * [Popis za provjeru pravednosti AI-a](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - kreiran od strane AI praktičara za podršku usvajanju i integraciji provjera pravednosti u razvojne cikluse AI-a. - * [22 pitanja za etiku u podacima i AI-u](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - otvoreniji okvir, strukturiran za početno istraživanje etičkih pitanja u dizajnu, implementaciji i organizacijskim kontekstima. + * [Deon](https://deon.drivendata.org/) - opća kontrolna lista za etiku podataka kreirana iz [preporuka industrije](https://deon.drivendata.org/#checklist-citations) s alatom naredbenog retka za jednostavnu integraciju. + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - pruža opće smjernice za praksu rukovanja informacijama iz pravne i društvene perspektive. + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - kreirana od strane AI praktičara za podršku usvajanju i integraciji provjera pravednosti u AI razvojne cikluse. + * [22 pitanja za etiku u podacima i AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - otvoreniji okvir, strukturiran za početno istraživanje etičkih pitanja u dizajnu, implementaciji i organizacijskim kontekstima. ### 3. Etičke regulative Etika se odnosi na definiranje zajedničkih vrijednosti i činjenje ispravnih stvari _dobrovoljno_. **Usklađenost** se odnosi na _poštivanje zakona_ ako i gdje je definiran. **Upravljanje** općenito pokriva sve načine na koje organizacije djeluju kako bi provele etička načela i uskladile se s utvrđenim zakonima. -Danas upravljanje ima dva oblika unutar organizacija. Prvo, radi se o definiranju načela **etičkog AI-a** i uspostavljanju praksi za operacionalizaciju usvajanja u svim AI projektima organizacije. Drugo, radi se o usklađivanju sa svim vladinim propisima o **zaštiti podataka** za regije u kojima djeluje. +Danas upravljanje ima dva oblika unutar organizacija. Prvo, radi se o definiranju **etičkih AI** načela i uspostavljanju praksi za operacionalizaciju usvajanja u svim AI projektima organizacije. Drugo, radi se o usklađivanju sa svim vladinim propisima o zaštiti podataka za regije u kojima djeluje. Primjeri propisa o zaštiti podataka i privatnosti: * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - regulira _saveznu vladu_ u prikupljanju, korištenju i otkrivanju osobnih podataka. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - štiti osobne zdravstvene podatke. * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - štiti privatnost podataka djece mlađe od 13 godina. - * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - pruža prava korisnicima, zaštitu podataka i privatnost. + * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - pruža prava korisnika, zaštitu podataka i privatnost. * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) daje potrošačima više _prava_ nad njihovim (osobnim) podacima. - * `2021`, Kineski [Zakon o zaštiti osobnih podataka](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) upravo je usvojen, stvarajući jedan od najjačih propisa o privatnosti podataka na internetu u svijetu. + * `2021`, Kineski [Zakon o zaštiti osobnih podataka](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) upravo je donesen, stvarajući jedan od najjačih propisa o privatnosti podataka na internetu u svijetu. -> 🚨 Europska unija definirala je GDPR (Opća uredba o zaštiti podataka), koji ostaje jedan od najutjecajnijih propisa o privatnosti podataka danas. Jeste li znali da također definira [8 prava korisnika](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) za zaštitu digitalne privatnosti i osobnih podataka građana? Saznajte koja su to prava i zašto su važna. +> 🚨 Europska unija definirala je GDPR (Opća uredba o zaštiti podataka) koji ostaje jedan od najutjecajnijih propisa o privatnosti podataka danas. Jeste li znali da također definira [8 prava korisnika](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) za zaštitu digitalne privatnosti i osobnih podataka građana? Saznajte koja su to prava i zašto su važna. ### 4. Kultura etike -Napominjemo da i dalje postoji nematerijalni jaz između _usklađenosti_ (činjenja dovoljno da se zadovolji "slovo zakona") i rješavanja [sustavnih problema](https://www.coursera.org/learn/data-science-ethics/home/week/4) (poput osifikacije, asimetrije informacija i distribucijske nepravednosti) koji mogu ubrzati upotrebu AI-a u štetne svrhe. +Napominjemo da i dalje postoji nematerijalni jaz između _usklađenosti_ (činjenja dovoljno da se zadovolji "slovo zakona") i rješavanja [sustavnih problema](https://www.coursera.org/learn/data-science-ethics/home/week/4) (poput osifikacije, asimetrije informacija i distribucijske nepravednosti) koji mogu ubrzati "oružavanje" AI-a. -Potonje zahtijeva [suradničke pristupe za definiranje kultura etike](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) koje grade emocionalne veze i dosljedne zajedničke vrijednosti _među organizacijama_ u industriji. To poziva na više [formaliziranih kultura etike podataka](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) u organizacijama - omogućujući _svima_ da [povuku Andon kabel](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (kako bi rano ukazali na etičke probleme) i čineći _etičke procjene_ (npr. pri zapošljavanju) ključnim kriterijem za formiranje timova u AI projektima. +Ovo drugo zahtijeva [suradničke pristupe za definiranje kultura etike](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) koje grade emocionalne veze i dosljedne zajedničke vrijednosti _među organizacijama_ u industriji. To poziva na više [formaliziranih kultura etike podataka](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) u organizacijama - omogućujući _svima_ da [povuku Andon konopac](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (kako bi rano ukazali na etičke probleme) i čineći _etičke procjene_ (npr. pri zapošljavanju) ključnim kriterijem za formiranje timova u AI projektima. --- -## [Post-lecture quiz](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [Post-lecture quiz](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## Pregled i samostalno učenje Tečajevi i knjige pomažu u razumijevanju osnovnih etičkih koncepata i izazova, dok studije slučaja i alati pomažu u primjeni etičkih praksi u stvarnim kontekstima. Evo nekoliko resursa za početak. * [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - lekcija o pravednosti, od Microsofta. -* [Principi odgovorne umjetne inteligencije](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - besplatni obrazovni put na Microsoft Learn platformi. -* [Etika i znanost o podacima](https://resources.oreilly.com/examples/0636920203964) - O'Reilly e-knjiga (M. Loukides, H. Mason i dr.) -* [Etika u znanosti o podacima](https://www.coursera.org/learn/data-science-ethics#syllabus) - online tečaj Sveučilišta Michigan. -* [Etika razotkrivena](https://ethicsunwrapped.utexas.edu/case-studies) - studije slučaja sa Sveučilišta Texas. +* [Principi odgovorne umjetne inteligencije](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - besplatni obrazovni program od Microsoft Learn. +* [Etika i znanost o podacima](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason i dr.) +* [Etika u znanosti o podacima](https://www.coursera.org/learn/data-science-ethics#syllabus) - online tečaj Sveučilišta Michigan. +* [Etika razotkrivena](https://ethicsunwrapped.utexas.edu/case-studies) - studije slučaja Sveučilišta Texas. -# Zadatak +# Zadatak -[Napišite studiju slučaja o etici podataka](assignment.md) +[Napišite studiju slučaja o etici podataka](assignment.md) --- **Odricanje od odgovornosti**: -Ovaj dokument je preveden korištenjem AI usluge za prevođenje [Co-op Translator](https://github.com/Azure/co-op-translator). Iako nastojimo osigurati točnost, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati mjerodavnim izvorom. Za ključne informacije preporučuje se profesionalni prijevod od strane stručnjaka. Ne preuzimamo odgovornost za bilo kakve nesporazume ili pogrešne interpretacije proizašle iz korištenja ovog prijevoda. \ No newline at end of file +Ovaj dokument je preveden pomoću AI usluge za prevođenje [Co-op Translator](https://github.com/Azure/co-op-translator). Iako nastojimo osigurati točnost, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na izvornom jeziku treba smatrati autoritativnim izvorom. Za ključne informacije preporučuje se profesionalni prijevod od strane ljudskog prevoditelja. Ne preuzimamo odgovornost za nesporazume ili pogrešne interpretacije koje mogu proizaći iz korištenja ovog prijevoda. \ No newline at end of file diff --git a/translations/hu/1-Introduction/02-ethics/README.md b/translations/hu/1-Introduction/02-ethics/README.md index 0978e07a..25fc22d7 100644 --- a/translations/hu/1-Introduction/02-ethics/README.md +++ b/translations/hu/1-Introduction/02-ethics/README.md @@ -1,105 +1,105 @@ -# Bevezetés az adatetika világába +# Bevezetés az adatetikai kérdésekbe |![ Sketchnote készítette: [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| Adattudományi etika - _Sketchnote készítette: [@nitya](https://twitter.com/nitya)_ | +| Adatelemzési etika - _Sketchnote készítette: [@nitya](https://twitter.com/nitya)_ | --- -Mindannyian adatpolgárok vagyunk egy adatokkal átszőtt világban. +Mindannyian adatpolgárok vagyunk egy adatközpontú világban. -A piaci trendek azt mutatják, hogy 2022-re minden harmadik nagy szervezet online [piactereken és tőzsdéken](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) keresztül fog adatokat vásárolni és eladni. **Alkalmazásfejlesztőként** egyre könnyebb és olcsóbb lesz adatvezérelt betekintéseket és algoritmusvezérelt automatizációt integrálni a mindennapi felhasználói élményekbe. Azonban, ahogy a mesterséges intelligencia (MI) mindent áthatóvá válik, meg kell értenünk azokat a potenciális károkat is, amelyeket az ilyen algoritmusok [fegyverként való alkalmazása](https://www.youtube.com/watch?v=TQHs8SA1qpk) okozhat nagy léptékben. +A piaci trendek azt mutatják, hogy 2022-re minden harmadik nagy szervezet online [piactereken és csereplatformokon](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) keresztül fog adatokat vásárolni és eladni. **Alkalmazásfejlesztőként** könnyebb és olcsóbb lesz adatvezérelt betekintéseket és algoritmusvezérelt automatizációt integrálni a mindennapi felhasználói élményekbe. Azonban ahogy az AI egyre elterjedtebbé válik, meg kell értenünk azokat a potenciális károkat is, amelyeket az ilyen algoritmusok [fegyveres alkalmazása](https://www.youtube.com/watch?v=TQHs8SA1qpk) okozhat nagy léptékben. -A trendek azt is jelzik, hogy 2025-re több mint [180 zettabájtnyi](https://www.statista.com/statistics/871513/worldwide-data-created/) adatot fogunk létrehozni és fogyasztani. **Adattudósként** ez példátlan szintű hozzáférést biztosít számunkra a személyes adatokhoz. Ez lehetővé teszi, hogy felhasználói viselkedési profilokat építsünk, és olyan döntéshozatalt befolyásoljunk, amely [a szabad választás illúzióját](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) kelti, miközben esetleg a számunkra kedvező eredmények felé tereljük a felhasználókat. Ez szélesebb körű kérdéseket is felvet az adatvédelemről és a felhasználói jogok védelméről. +A trendek azt is mutatják, hogy 2025-re több mint [180 zettabájtnyi](https://www.statista.com/statistics/871513/worldwide-data-created/) adatot fogunk létrehozni és fogyasztani. **Adattudósként** ez példátlan szintű hozzáférést biztosít számunkra személyes adatokhoz. Ez lehetővé teszi, hogy viselkedési profilokat építsünk fel a felhasználókról, és befolyásoljuk döntéseiket olyan módon, amely [a szabad választás illúzióját](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) kelti, miközben esetlegesen a számunkra kedvező eredmények felé tereljük őket. Ez szélesebb körű kérdéseket vet fel az adatvédelemről és a felhasználói jogok védelméről. -Az adatetika ma már _elengedhetetlen irányelv_ az adattudomány és a mérnöki munka számára, amely segít minimalizálni az adatvezérelt cselekedeteinkből eredő potenciális károkat és nem szándékos következményeket. A [Gartner MI Hype Cycle](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) azonosítja a digitális etika, a felelős MI és az MI irányítás releváns trendjeit, mint kulcsfontosságú hajtóerőket az MI _demokratizálása_ és _iparosítása_ körüli nagyobb megatrendekhez. +Az adatetika mostanra _szükséges védőkorlát_ az adatelemzés és mérnöki munka számára, segítve a potenciális károk és nem szándékos következmények minimalizálását az adatvezérelt cselekvéseinkből. A [Gartner AI Hype Cycle](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) az adatetika, a felelős AI és az AI irányítás releváns trendjeit az AI _demokratizációja_ és _iparosítása_ körüli nagyobb megatrendek kulcsfontosságú hajtóerejeként azonosítja. -![Gartner MI Hype Cycle - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![Gartner AI Hype Cycle - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -Ebben a leckében az adatetika lenyűgöző területét fogjuk felfedezni - az alapfogalmaktól és kihívásoktól kezdve az esettanulmányokon át az alkalmazott MI fogalmakig, mint például az irányítás -, amelyek segítenek az etikai kultúra kialakításában az adatokkal és MI-vel dolgozó csapatokban és szervezetekben. +Ebben a leckében az adatetika lenyűgöző területét fogjuk felfedezni - az alapfogalmaktól és kihívásoktól kezdve az esettanulmányokon és alkalmazott AI koncepciókon át, mint például az irányítás -, amelyek segítenek az etikai kultúra kialakításában az adatokat és AI-t használó csapatokban és szervezetekben. ## [Előadás előtti kvíz](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 -## Alapvető meghatározások +## Alapvető definíciók Kezdjük az alapvető terminológia megértésével. -Az "etika" szó a [görög "ethikos"](https://en.wikipedia.org/wiki/Ethics) (és annak gyökere, az "ethos") szóból származik, amely _jellemet vagy erkölcsi természetet_ jelent. +Az "etika" szó a [görög "ethikos"](https://en.wikipedia.org/wiki/Ethics) (és annak "ethos" gyökere) szóból származik, amely _jellemet vagy erkölcsi természetet_ jelent. -**Etika** azokról a közös értékekről és erkölcsi elvekről szól, amelyek irányítják viselkedésünket a társadalomban. Az etika nem törvényeken alapul, hanem azon a széles körben elfogadott normán, hogy mi a "helyes és helytelen". Azonban az etikai megfontolások befolyásolhatják a vállalatirányítási kezdeményezéseket és a kormányzati szabályozásokat, amelyek több ösztönzőt teremtenek a megfelelésre. +**Etika** azokról a közös értékekről és erkölcsi elvekről szól, amelyek irányítják viselkedésünket a társadalomban. Az etika nem törvényeken alapul, hanem széles körben elfogadott normákon arról, hogy mi a "helyes és helytelen". Az etikai megfontolások azonban befolyásolhatják a vállalati irányítási kezdeményezéseket és a kormányzati szabályozásokat, amelyek több ösztönzőt teremtenek a megfelelésre. -**Adatetika** egy [új etikai ág](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), amely "az _adatokkal, algoritmusokkal és a hozzájuk kapcsolódó gyakorlatokkal_ kapcsolatos erkölcsi problémákat tanulmányozza és értékeli". Itt az **"adatok"** az adatok generálásával, rögzítésével, kurálásával, feldolgozásával, terjesztésével, megosztásával és felhasználásával kapcsolatos cselekvésekre összpontosítanak, az **"algoritmusok"** az MI-re, ügynökökre, gépi tanulásra és robotokra, míg a **"gyakorlatok"** olyan témákra, mint a felelős innováció, programozás, hackelés és etikai kódexek. +**Adatetika** egy [új etikai ág](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), amely "tanulmányozza és értékeli az _adatokkal, algoritmusokkal és kapcsolódó gyakorlatokkal_ kapcsolatos erkölcsi problémákat". Itt az **"adatok"** az adatok létrehozásával, rögzítésével, gondozásával, feldolgozásával, terjesztésével, megosztásával és felhasználásával kapcsolatos cselekvésekre összpontosítanak, az **"algoritmusok"** az AI-ra, ügynökökre, gépi tanulásra és robotokra, míg a **"gyakorlatok"** olyan témákra, mint a felelős innováció, programozás, hackelés és etikai kódexek. -**Alkalmazott etika** az [erkölcsi megfontolások gyakorlati alkalmazása](https://en.wikipedia.org/wiki/Applied_ethics). Ez az a folyamat, amely során aktívan vizsgáljuk az etikai kérdéseket a _valós cselekvések, termékek és folyamatok_ kontextusában, és korrekciós intézkedéseket teszünk annak érdekében, hogy ezek összhangban maradjanak a meghatározott etikai értékeinkkel. +**Alkalmazott etika** az [erkölcsi megfontolások gyakorlati alkalmazása](https://en.wikipedia.org/wiki/Applied_ethics). Ez az etikai kérdések aktív vizsgálatának folyamata a _valós cselekvések, termékek és folyamatok_ kontextusában, és korrekciós intézkedések megtétele annak érdekében, hogy ezek összhangban maradjanak a meghatározott etikai értékeinkkel. -**Etikai kultúra** az [_alkalmazott etika operacionalizálásáról_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) szól, hogy biztosítsuk, hogy etikai elveinket és gyakorlatainkat következetesen és skálázható módon alkalmazzák a szervezet egészében. A sikeres etikai kultúrák szervezet-szintű etikai elveket határoznak meg, jelentős ösztönzőket biztosítanak a megfeleléshez, és megerősítik az etikai normákat azáltal, hogy minden szinten ösztönzik és erősítik a kívánt viselkedéseket. +**Etikai kultúra** az [_alkalmazott etika működőképessé tétele_](https://hbr.org/2019/05/how-to-design-an-ethical-organization), hogy biztosítsuk, hogy etikai elveink és gyakorlataink következetesen és skálázható módon kerüljenek alkalmazásra az egész szervezetben. A sikeres etikai kultúrák szervezet-szintű etikai elveket határoznak meg, jelentős ösztönzőket biztosítanak a megfeleléshez, és megerősítik az etikai normákat azáltal, hogy minden szinten ösztönzik és erősítik a kívánt viselkedéseket. ## Etikai fogalmak -Ebben a részben olyan fogalmakat tárgyalunk, mint a **közös értékek** (elvek) és az **etikai kihívások** (problémák) az adatetika területén - valamint **esettanulmányokat** vizsgálunk, amelyek segítenek megérteni ezeket a fogalmakat a valós kontextusokban. +Ebben a szakaszban olyan fogalmakat fogunk megvitatni, mint a **közös értékek** (elvek) és **etikai kihívások** (problémák) az adatetika területén - valamint **esettanulmányokat** fogunk vizsgálni, amelyek segítenek megérteni ezeket a fogalmakat valós kontextusban. ### 1. Etikai elvek -Minden adatetikai stratégia az _etikai elvek_ meghatározásával kezdődik - azokkal a "közös értékekkel", amelyek leírják az elfogadható viselkedéseket, és irányítják a megfelelőségi cselekvéseket az adat- és MI-projektjeinkben. Ezeket egyéni vagy csapatszinten is meghatározhatjuk. Azonban a legtöbb nagy szervezet ezeket egy _etikus MI_ küldetésnyilatkozatban vagy keretrendszerben foglalja össze, amelyet vállalati szinten határoznak meg, és következetesen érvényesítenek minden csapatban. +Minden adatetikai stratégia az _etikai elvek_ meghatározásával kezdődik - azokkal a "közös értékekkel", amelyek leírják az elfogadható viselkedéseket, és irányítják a megfelelési cselekvéseket adat- és AI-projektjeinkben. Ezeket egyéni vagy csapatszinten is meghatározhatjuk. Azonban a legtöbb nagy szervezet ezeket egy _etikus AI_ küldetésnyilatkozatban vagy keretrendszerben határozza meg, amelyet vállalati szinten definiálnak és következetesen érvényesítenek minden csapatban. -**Példa:** A Microsoft [Felelős MI](https://www.microsoft.com/en-us/ai/responsible-ai) küldetésnyilatkozata így szól: _"Elkötelezettek vagyunk az MI fejlődése iránt, amelyet olyan etikai elvek vezérelnek, amelyek az embereket helyezik előtérbe"_ - az alábbi keretrendszerben 6 etikai elvet azonosítva: +**Példa:** A Microsoft [Felelős AI](https://www.microsoft.com/en-us/ai/responsible-ai) küldetésnyilatkozata így szól: _"Elkötelezettek vagyunk az AI fejlődése iránt, amelyet etikai elvek vezérelnek, amelyek az embereket helyezik előtérbe"_ - az alábbi keretrendszerben 6 etikai elvet azonosítva: -![Felelős MI a Microsoftnál](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![Felelős AI a Microsoftnál](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -Vizsgáljuk meg röviden ezeket az elveket. A _transzparencia_ és az _elszámoltathatóság_ alapvető értékek, amelyekre a többi elv épül - kezdjük ezekkel: +Nézzük meg röviden ezeket az elveket. A _transzparencia_ és _felelősségvállalás_ alapvető értékek, amelyekre a többi elv épül - kezdjük ezekkel: -* [**Elszámoltathatóság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) biztosítja, hogy a szakemberek _felelősséget vállaljanak_ adat- és MI-műveleteikért, valamint az etikai elvek betartásáért. -* [**Transzparencia**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) biztosítja, hogy az adat- és MI-műveletek _érthetőek_ legyenek a felhasználók számára, megmagyarázva a döntések mögötti mit és miért. -* [**Méltányosság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - biztosítja, hogy az MI _minden embert_ méltányosan kezeljen, kezelve az adat- és rendszerszintű implicit társadalmi-technikai torzításokat. -* [**Megbízhatóság és biztonság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - biztosítja, hogy az MI _következetesen_ viselkedjen a meghatározott értékekkel összhangban, minimalizálva a potenciális károkat vagy nem szándékos következményeket. -* [**Adatvédelem és biztonság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - az adatok eredetének megértéséről és a felhasználók számára _adatvédelem és kapcsolódó védelem_ biztosításáról szól. -* [**Befogadás**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - az MI-megoldások szándékos tervezéséről szól, hogy azok _széles körű emberi igényekhez_ és képességekhez alkalmazkodjanak. +* [**Felelősségvállalás**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) arra ösztönzi a szakembereket, hogy _felelősséget vállaljanak_ adat- és AI-műveleteikért, valamint az etikai elvek betartásáért. +* [**Transzparencia**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) biztosítja, hogy az adat- és AI-cselekvések _érthetőek_ legyenek a felhasználók számára, megmagyarázva a döntések mögötti mit és miért. +* [**Méltányosság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - arra összpontosít, hogy az AI _minden embert_ méltányosan kezeljen, foglalkozva az adatokban és rendszerekben lévő szisztematikus vagy implicit szociotechnikai torzításokkal. +* [**Megbízhatóság és biztonság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - biztosítja, hogy az AI _következetesen_ viselkedjen a meghatározott értékekkel összhangban, minimalizálva a potenciális károkat vagy nem szándékos következményeket. +* [**Adatvédelem és biztonság**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - az adatvonal megértéséről és a felhasználók számára _adatvédelem és kapcsolódó védelem_ biztosításáról szól. +* [**Befogadás**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - az AI-megoldások szándékos tervezéséről szól, hogy azok _széles körű emberi igényekhez_ és képességekhez alkalmazkodjanak. -> 🚨 Gondolkodj el azon, hogy mi lehetne a te adatetikai küldetésnyilatkozatod. Fedezd fel más szervezetek etikus MI-keretrendszereit - itt van néhány példa: [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), és [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Milyen közös értékeket találsz bennük? Hogyan kapcsolódnak ezek az elvek az általuk működtetett MI-termékekhez vagy iparágakhoz? +> 🚨 Gondolkodj el azon, hogy mi lehetne az adatetikai küldetésnyilatkozatod. Fedezd fel más szervezetek etikus AI keretrendszereit - itt van néhány példa: [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), és [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Milyen közös értékekkel rendelkeznek? Hogyan kapcsolódnak ezek az elvek az általuk működtetett AI-termékhez vagy iparághoz? ### 2. Etikai kihívások -Miután meghatároztuk az etikai elveket, a következő lépés az adat- és MI-műveleteink értékelése annak érdekében, hogy azok összhangban állnak-e ezekkel a közös értékekkel. Gondolj a cselekedeteidre két kategóriában: _adatgyűjtés_ és _algoritmus tervezés_. +Miután meghatároztuk az etikai elveket, a következő lépés az adat- és AI-cselekvéseink értékelése annak érdekében, hogy azok összhangban állnak-e ezekkel a közös értékekkel. Gondolj a cselekvéseidre két kategóriában: _adatgyűjtés_ és _algoritmus tervezés_. -Az adatok gyűjtése során a műveletek valószínűleg **személyes adatokat** vagy személyesen azonosítható információkat (PII) érintenek, amelyek azonosítható élő személyekre vonatkoznak. Ez magában foglalja a [különféle nem személyes adatokat](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), amelyek _együttesen_ azonosítanak egy személyt. Az etikai kihívások kapcsolódhatnak az _adatvédelemhez_, _adatbirtokláshoz_ és kapcsolódó témákhoz, mint például a _tájékozott beleegyezés_ és a _felhasználói szellemi tulajdonjogok_. +Az adatgyűjtés során a cselekvések valószínűleg **személyes adatokat** vagy személyesen azonosítható információkat (PII) érintenek az azonosítható élő egyének számára. Ez magában foglalja a [különféle nem személyes adatokat](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), amelyek _együttesen_ azonosítanak egy egyént. Az etikai kihívások az _adatvédelem_, _adatbirtoklás_ és kapcsolódó témák, mint például _tájékozott beleegyezés_ és _szellemi tulajdonjogok_ köré összpontosulhatnak. -Az algoritmus tervezése során a műveletek magukban foglalják a **adatkészletek** gyűjtését és kurálását, majd ezek felhasználását **adatmodellek** betanítására és telepítésére, amelyek valós környezetben jósolnak eredményeket vagy automatizálnak döntéseket. Az etikai kihívások felmerülhetnek az _adatkészlet torzításából_, _adatminőségi_ problémákból, _méltánytalanságból_ és _félrevezetésből_ az algoritmusokban - beleértve néhány rendszerszintű problémát is. +Az algoritmus tervezés során a cselekvések magukban foglalják **adatkészletek** gyűjtését és gondozását, majd ezek felhasználását **adatmodellek** képzésére és telepítésére, amelyek valós kontextusban előrejelzéseket készítenek vagy automatizált döntéseket hoznak. Az etikai kihívások a _adatkészlet torzítás_, _adatminőség_ problémák, _méltánytalanság_ és _félrevezetés_ köré összpontosulhatnak az algoritmusokban - beleértve néhány szisztematikus jellegű problémát. -Mindkét esetben az etikai kihívások olyan területeket emelnek ki, ahol cselekedeteink konfliktusba kerülhetnek közös értékeinkkel. Az ilyen aggályok észleléséhez, enyhítéséhez, minimalizálásához vagy megszüntetéséhez erkölcsi "igen/nem" kérdéseket kell feltennünk a cselekedeteinkkel kapcsolatban, majd szükség esetén korrekciós intézkedéseket kell tennünk. Nézzünk meg néhány etikai kihívást és az általuk felvetett erkölcsi kérdéseket: +Mindkét esetben az etikai kihívások olyan területeket emelnek ki, ahol cselekvéseink konfliktusba kerülhetnek közös értékeinkkel. Az ilyen aggályok észleléséhez, enyhítéséhez, minimalizálásához vagy megszüntetéséhez erkölcsi "igen/nem" kérdéseket kell feltennünk cselekvéseinkkel kapcsolatban, majd szükség esetén korrekciós intézkedéseket kell tennünk. Nézzünk meg néhány etikai kihívást és az általuk felvetett erkölcsi kérdéseket: #### 2.1 Adatbirtoklás -Az adatok gyűjtése gyakran személyes adatokat érint, amelyek az adat alanyait azonosíthatják. Az [adatbirtoklás](https://permission.io/blog/data-ownership) az adatok létrehozásával, feldolgozásával és terjesztésével kapcsolatos _ellenőrzésről_ és [_felhasználói jogokról_](https://permission.io/blog/data-ownership) szól. +Az adatgyűjtés gyakran személyes adatokat érint, amelyek az adat alanyait azonosíthatják. Az [adatbirtoklás](https://permission.io/blog/data-ownership) az adatok létrehozásával, feldolgozásával és terjesztésével kapcsolatos _ellenőrzésről_ és [_felhasználói jogokról_](https://permission.io/blog/data-ownership) szól. Az erkölcsi kérdések, amelyeket fel kell tennünk: * Ki birtokolja az adatokat? (felhasználó vagy szervezet) * Milyen jogai vannak az adat alanyainak? (pl. hozzáférés, törlés, hordozhatóság) - * Milyen jogai vannak a szervezeteknek? (pl. rosszindulatú felhasználói vélemények helyesbítése) + * Milyen jogai vannak a szervezeteknek? (pl. rosszindulatú felhasználói vélemények helyreállítása) #### 2.2 Tájékozott beleegyezés -A [tájékozott beleegyezés](https://legaldictionary.net/informed-consent/) azt jelenti, hogy a felhasználók egy cselekvéshez (például adatgyűjtéshez) _teljes körű megértéssel_ járulnak hozzá, beleértve a célokat, a lehetséges kockázatokat és az alternatívákat. +A [tájékozott beleegyezés](https://legaldictionary.net/informed-consent/) azt jelenti, hogy a felhasználók egy cselekvéshez (például adatgyűjtéshez) _teljes körű megértéssel_ járulnak hozzá, beleértve a célt, a potenciális kockázatokat és az alternatívákat. -Itt feltett kérdések: +Itt felmerülő kérdések: * A felhasználó (adat alanya) engedélyt adott az adatok rögzítésére és felhasználására? - * A felhasználó megértette, hogy mi célból gyűjtötték az adatokat? - * A felhasználó megértette a részvételéből eredő lehetséges kockázatokat? + * A felhasználó megértette, hogy miért gyűjtötték az adatokat? + * A felhasználó megértette a részvételéből eredő potenciális kockázatokat? #### 2.3 Szellemi tulajdon A [szellemi tulajdon](https://en.wikipedia.org/wiki/Intellectual_property) az emberi kezdeményezésből származó immateriális alkotásokra utal, amelyek _gazdasági értékkel_ bírhatnak egyének vagy vállalkozások számára. -Itt feltett kérdések: - * Az összegyűjtött adatok gazdasági értékkel bírnak-e egy felhasználó vagy vállalkozás számára? +Itt felmerülő kérdések: + * A gyűjtött adatok gazdasági értékkel bírnak-e egy felhasználó vagy vállalkozás számára? * Van-e a **felhasználónak** szellemi tulajdona itt? * Van-e a **szervezetnek** szellemi tulajdona itt? * Ha ezek a jogok léteznek, hogyan védjük őket? @@ -108,60 +108,65 @@ Itt feltett kérdések: Az [adatvédelem](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) vagy információs magánélet a felhasználói magánélet megőrzésére és a felhasználói identitás védelmére vonatkozik a személyesen azonosítható információk tekintetében. -Itt feltett kérdések: - * A felhasználók (személyes) adatai védettek-e a hackelésekkel és szivárgásokkal szemben? - * A felhasználók adatai csak jogosult felhasználók és kontextusok számára érhetők el? - * A felhasználók anonimitása megmarad-e, amikor az adatokat megosztják vagy terjesztik? - * Egy felhasználó -[Algorithmusok méltányossága](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) azt vizsgálja, hogy az algoritmus tervezése szisztematikusan diszkriminálja-e az adatközösségek bizonyos alcsoportjait, ami [potenciális károkat](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) okozhat az _erőforrások elosztásában_ (amikor az erőforrásokat megtagadják vagy visszatartják az adott csoporttól) és a _szolgáltatás minőségében_ (amikor az AI nem olyan pontos bizonyos alcsoportok esetében, mint másoknál). +Itt felmerülő kérdések: + * A felhasználók (személyes) adatai védettek-e a hackelés és szivárgás ellen? + * A felhasználók adatai csak jogosult felhasználók és kontextusok számára hozzáférhetők-e? + * A felhasználók anonimitása megőrzött-e, amikor az adatokat megosztják vagy terjesztik? + * Lehet-e egy felhasználót azonosítani anonimizált adatállományokból? + +#### 2.5 Az elfeledtetés joga + +Az [elfeledtet +[Algorithmusok méltányossága](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) azt vizsgálja, hogy az algoritmus tervezése szisztematikusan diszkriminál-e bizonyos adatcsoportok ellen, ami [potenciális károkat](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) okozhat az _elosztásban_ (ahol erőforrásokat tagadnak meg vagy vonnak vissza az adott csoporttól) és a _szolgáltatás minőségében_ (ahol az AI nem olyan pontos bizonyos csoportok esetében, mint másoknál). Kérdések, amelyeket érdemes megvizsgálni: - * Értékeltük-e a modell pontosságát különböző alcsoportok és körülmények között? - * Vizsgáltuk-e a rendszert potenciális károk (pl. sztereotípiák) szempontjából? + * Értékeltük-e a modell pontosságát különböző csoportok és feltételek esetében? + * Vizsgáltuk-e a rendszert potenciális károk (pl. sztereotipizálás) szempontjából? * Tudjuk-e módosítani az adatokat vagy újratanítani a modelleket az azonosított károk enyhítése érdekében? Fedezz fel olyan forrásokat, mint az [AI méltányossági ellenőrzőlisták](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA), hogy többet megtudj. #### 2.9 Félrevezetés -[Adataz félrevezetése](https://www.sciencedirect.com/topics/computer-science/misrepresentation) arra vonatkozik, hogy vajon őszintén jelentett adatokból származó betekintéseket megtévesztő módon kommunikálunk-e, hogy támogassunk egy kívánt narratívát. +[Adataz félrevezetése](https://www.sciencedirect.com/topics/computer-science/misrepresentation) arról szól, hogy vajon őszintén közölt adatokból származó betekintéseket megtévesztő módon kommunikálunk-e egy kívánt narratíva támogatása érdekében. Kérdések, amelyeket érdemes megvizsgálni: * Jelentünk-e hiányos vagy pontatlan adatokat? - * Úgy vizualizáljuk-e az adatokat, hogy félrevezető következtetéseket vonjanak le belőlük? + * Úgy vizualizáljuk-e az adatokat, hogy az félrevezető következtetéseket eredményezzen? * Használunk-e szelektív statisztikai technikákat az eredmények manipulálására? * Vannak-e alternatív magyarázatok, amelyek más következtetést kínálhatnak? #### 2.10 Szabad választás -A [szabad választás illúziója](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) akkor fordul elő, amikor a rendszer "választási architektúrái" döntéshozó algoritmusokat használnak arra, hogy az embereket egy preferált eredmény felé tereljék, miközben úgy tűnik, hogy lehetőségeket és kontrollt adnak nekik. Ezek a [sötét minták](https://www.darkpatterns.org/) társadalmi és gazdasági károkat okozhatnak a felhasználóknak. Mivel a felhasználói döntések befolyásolják a viselkedési profilokat, ezek a cselekvések potenciálisan meghatározhatják a jövőbeli választásokat, amelyek felerősíthetik vagy kiterjeszthetik a károk hatását. +A [szabad választás illúziója](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) akkor fordul elő, amikor a rendszer „választási architektúrái” döntéshozó algoritmusokat használnak arra, hogy az embereket egy preferált eredmény felé tereljék, miközben látszólag lehetőségeket és kontrollt kínálnak nekik. Ezek a [sötét minták](https://www.darkpatterns.org/) társadalmi és gazdasági károkat okozhatnak a felhasználóknak. Mivel a felhasználói döntések hatással vannak a viselkedési profilokra, ezek a cselekvések potenciálisan befolyásolják a jövőbeli választásokat, amelyek felerősíthetik vagy kiterjeszthetik ezen károk hatását. Kérdések, amelyeket érdemes megvizsgálni: * Értette-e a felhasználó annak a választásnak a következményeit? - * Tudott-e a felhasználó az (alternatív) választási lehetőségekről és azok előnyeiről és hátrányairól? + * Tudott-e a felhasználó (alternatív) választási lehetőségekről és azok előnyeiről és hátrányairól? * Visszafordíthatja-e a felhasználó egy automatizált vagy befolyásolt döntést később? ### 3. Esettanulmányok -Ahhoz, hogy ezeket az etikai kihívásokat valós kontextusba helyezzük, érdemes olyan esettanulmányokat megvizsgálni, amelyek kiemelik az egyénekre és a társadalomra gyakorolt potenciális károkat és következményeket, amikor az ilyen etikai vétségeket figyelmen kívül hagyják. +Ahhoz, hogy ezeket az etikai kihívásokat valós kontextusba helyezzük, érdemes olyan esettanulmányokat megvizsgálni, amelyek rávilágítanak az egyénekre és a társadalomra gyakorolt potenciális károkra és következményekre, amikor az ilyen etikai vétségeket figyelmen kívül hagyják. Íme néhány példa: | Etikai kihívás | Esettanulmány | |--- |--- | -| **Tájékozott beleegyezés** | 1972 - [Tuskegee szifilisz tanulmány](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Az afrikai-amerikai férfiak, akik részt vettek a tanulmányban, ingyenes orvosi ellátást ígértek, _de megtévesztették_ őket a kutatók, akik nem tájékoztatták őket a diagnózisukról vagy a kezelés elérhetőségéről. Sok alany meghalt, és partnereik vagy gyermekeik is érintettek voltak; a tanulmány 40 évig tartott. | -| **Adatvédelem** | 2007 - A [Netflix adatdíj](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) kutatóknak _10M anonimizált filmértékelést 50K ügyféltől_ biztosított, hogy javítsák az ajánlási algoritmusokat. Azonban a kutatók képesek voltak az anonimizált adatokat személyazonosító adatokkal összekapcsolni _külső adatbázisokban_ (pl. IMDb kommentek), hatékonyan "deanonimizálva" néhány Netflix előfizetőt.| -| **Gyűjtési torzítás** | 2013 - Boston városa [kifejlesztette a Street Bump](https://www.boston.gov/transportation/street-bump) alkalmazást, amely lehetővé tette a polgárok számára, hogy kátyúkat jelentsenek, jobb úthálózati adatokat biztosítva a városnak a problémák megtalálásához és javításához. Azonban [az alacsonyabb jövedelmű csoportoknak kevesebb hozzáférésük volt autókhoz és telefonokhoz](https://hbr.org/2013/04/the-hidden-biases-in-big-data), így az ő úthálózati problémáik láthatatlanok maradtak az alkalmazásban. A fejlesztők akadémikusokkal dolgoztak együtt, hogy _méltányos hozzáférést és digitális szakadékokat_ kezeljenek a méltányosság érdekében. | -| **Algoritmusok méltányossága** | 2018 - Az MIT [Gender Shades Study](http://gendershades.org/overview.html) értékelte a nemek osztályozására szolgáló AI termékek pontosságát, feltárva a pontossági hiányosságokat a nők és színes bőrűek esetében. Egy [2019-es Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) látszólag kevesebb hitelt kínált a nőknek, mint a férfiaknak. Mindkettő az algoritmikus torzítás problémáit illusztrálta, amelyek társadalmi-gazdasági károkat okoztak.| -| **Adatok félrevezetése** | 2020 - A [Georgia Egészségügyi Minisztérium COVID-19 grafikonokat](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) tett közzé, amelyek látszólag félrevezették a polgárokat az igazolt esetek trendjeiről, nem kronológiai sorrendben az x-tengelyen. Ez a vizualizációs trükkök általi félrevezetést illusztrálja. | -| **Szabad választás illúziója** | 2020 - A tanulási alkalmazás [ABCmouse 10M dollárt fizetett az FTC panasz rendezésére](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), ahol a szülők nem tudták lemondani az előfizetéseket, amelyekbe belecsúsztak. Ez a választási architektúrák sötét mintáit illusztrálja, ahol a felhasználókat potenciálisan káros döntések felé terelték. | -| **Adatvédelem és felhasználói jogok** | 2021 - A Facebook [adatvédelmi incidens](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 530M felhasználó adatait tette ki, ami 5B dolláros egyezséget eredményezett az FTC-vel. Azonban megtagadta a felhasználók értesítését az incidensről, megsértve a felhasználói jogokat az adatátláthatóság és hozzáférés terén. | +| **Tájékozott beleegyezés** | 1972 - [Tuskegee szifilisz tanulmány](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Az afrikai-amerikai férfiak, akik részt vettek a tanulmányban, ingyenes orvosi ellátást ígértek, _de megtévesztették őket_ a kutatók, akik nem tájékoztatták őket a diagnózisukról vagy a kezelés elérhetőségéről. Sok alany meghalt, és partnereik vagy gyermekeik is érintettek voltak; a tanulmány 40 évig tartott. | +| **Adatvédelem** | 2007 - A [Netflix adatdíj](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) kutatóknak _10M anonimizált filmértékelést_ biztosított 50K ügyféltől az ajánlási algoritmusok javítása érdekében. Azonban a kutatók képesek voltak az anonimizált adatokat személyazonosító adatokkal összekapcsolni _külső adatbázisokban_ (pl. IMDb kommentek), hatékonyan „deanonimizálva” néhány Netflix előfizetőt.| +| **Gyűjtési torzítás** | 2013 - Boston városa [kifejlesztette a Street Bump](https://www.boston.gov/transportation/street-bump) nevű alkalmazást, amely lehetővé tette a polgárok számára, hogy kátyúkat jelentsenek, jobb úthálózati adatokat biztosítva a városnak a problémák megtalálásához és javításához. Azonban [az alacsonyabb jövedelmű csoportoknak kevesebb hozzáférésük volt autókhoz és telefonokhoz](https://hbr.org/2013/04/the-hidden-biases-in-big-data), így az ő úthálózati problémáik láthatatlanok maradtak az alkalmazásban. A fejlesztők akadémikusokkal dolgoztak együtt az _egyenlő hozzáférés és digitális szakadék_ kérdéseinek megoldása érdekében. | +| **Algoritmusok méltányossága** | 2018 - Az MIT [Gender Shades Study](http://gendershades.org/overview.html) értékelte a nemek osztályozására szolgáló AI termékek pontosságát, feltárva a pontossági hiányosságokat a nők és színes bőrűek esetében. Egy [2019-es Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) látszólag kevesebb hitelt kínált a nőknek, mint a férfiaknak. Mindkettő rávilágított az algoritmikus torzítás problémáira, amelyek társadalmi-gazdasági károkat okoztak.| +| **Adatok félrevezetése** | 2020 - A [Georgia Egészségügyi Minisztérium COVID-19 grafikonokat](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) tett közzé, amelyek látszólag félrevezették a polgárokat az igazolt esetek trendjeiről a nem kronológiai sorrendben elhelyezett x-tengely miatt. Ez a vizualizációs trükkök általi félrevezetést illusztrálja. | +| **Szabad választás illúziója** | 2020 - A tanulási alkalmazás [ABCmouse 10M dollárt fizetett az FTC panasz rendezésére](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), ahol a szülők nem tudták lemondani az előfizetéseket, amelyekbe „csapdába estek”. Ez a választási architektúrák sötét mintáit illusztrálja, ahol a felhasználókat potenciálisan káros döntések felé terelték. | +| **Adatvédelem és felhasználói jogok** | 2021 - A Facebook [adatvédelmi incidens](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 530M felhasználó adatait tette ki, ami 5B dolláros egyezséget eredményezett az FTC-vel. Azonban megtagadta a felhasználók értesítését az incidensről, megsértve a felhasználói jogokat az adatok átláthatóságával és hozzáférésével kapcsolatban. | Szeretnél további esettanulmányokat felfedezni? Nézd meg ezeket a forrásokat: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - etikai dilemmák különböző iparágakban. * [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - mérföldkőnek számító esettanulmányok. * [Where things have gone wrong](https://deon.drivendata.org/examples/) - deon ellenőrzőlista példákkal. -> 🚨 Gondolj azokra az esettanulmányokra, amelyeket láttál - tapasztaltál vagy érintett-e hasonló etikai kihívást az életedben? Tudsz legalább egy másik esettanulmányt, amely illusztrálja az ebben a szakaszban tárgyalt etikai kihívások egyikét? + +> 🚨 Gondolj az általad látott esettanulmányokra - tapasztaltál vagy érintett voltál hasonló etikai kihívásban az életedben? Tudsz legalább egy másik esettanulmányt, amely illusztrálja az ebben a szakaszban tárgyalt etikai kihívások egyikét? ## Alkalmazott etika @@ -169,51 +174,55 @@ Beszéltünk az etikai fogalmakról, kihívásokról és esettanulmányokról va ### 1. Szakmai kódexek -A szakmai kódexek egy lehetőséget kínálnak a szervezetek számára, hogy "ösztönözzék" tagjaikat az etikai elveik és küldetésük támogatására. A kódexek _erkölcsi iránymutatások_ a szakmai viselkedéshez, segítve az alkalmazottakat vagy tagokat olyan döntések meghozatalában, amelyek összhangban vannak a szervezet elveivel. Csak annyira hatékonyak, amennyire a tagok önkéntes megfelelése; azonban sok szervezet további jutalmakat és büntetéseket kínál, hogy motiválja a tagokat a megfelelésre. +A szakmai kódexek egy lehetőséget kínálnak a szervezetek számára, hogy „ösztönözzék” tagjaikat az etikai elvek és küldetésnyilatkozat támogatására. A kódexek _erkölcsi iránymutatások_ a szakmai viselkedéshez, segítve az alkalmazottakat vagy tagokat olyan döntések meghozatalában, amelyek összhangban vannak a szervezet elveivel. Csak annyira hatékonyak, amennyire a tagok önkéntes megfelelése; azonban sok szervezet további jutalmakat és büntetéseket kínál a megfelelés ösztönzésére. Példák: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Etikai Kódex * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Magatartási Kódex (2013-ban létrehozva) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 óta) -> 🚨 Tagja vagy valamilyen szakmai mérnöki vagy adatkutatási szervezetnek? Nézd meg a weboldalukat, hogy meghatároznak-e szakmai etikai kódexet. Mit mond ez az etikai elveikről? Hogyan "ösztönzik" a tagokat a kódex követésére? +> 🚨 Tagja vagy valamilyen szakmai mérnöki vagy adatkutatási szervezetnek? Nézd meg a weboldalukat, hogy meghatároznak-e szakmai etikai kódexet. Mit mond ez az etikai elveikről? Hogyan „ösztönzik” a tagokat a kódex követésére? ### 2. Etikai ellenőrzőlisták Míg a szakmai kódexek meghatározzák a szakemberek _etikai viselkedését_, [ismert korlátokkal](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) rendelkeznek a végrehajtásban, különösen nagyszabású projektek esetében. Ehelyett sok adatkutatási szakértő [ellenőrzőlistákat javasol](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), amelyek **összekapcsolják az elveket a gyakorlatokkal** determinisztikusabb és cselekvőképesebb módon. -Az ellenőrzőlisták a kérdéseket "igen/nem" feladatokká alakítják, amelyek operacionalizálhatók, lehetővé téve, hogy nyomon kövessék őket a szokásos termékkiadási munkafolyamatok részeként. +Az ellenőrzőlisták a kérdéseket „igen/nem” feladatokká alakítják, amelyek operacionalizálhatók, lehetővé téve, hogy nyomon kövessék őket a szokásos termékkiadási munkafolyamatok részeként. Példák: * [Deon](https://deon.drivendata.org/) - általános célú adatetikai ellenőrzőlista, amelyet [iparági ajánlások](https://deon.drivendata.org/#checklist-citations) alapján hoztak létre, parancssori eszközzel a könnyű integráció érdekében. * [Adatvédelmi audit ellenőrzőlista](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - általános iránymutatást nyújt az információkezelési gyakorlatokhoz jogi és társadalmi kitettség szempontjából. - * [AI méltányossági ellenőrzőlista](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI szakemberek által létrehozva, hogy támogassák a méltányossági ellenőrzések bevezetését és integrációját az AI fejlesztési ciklusokba. - * [22 kérdés az adatok és AI etikájáról](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - nyitottabb keretrendszer, amelyet az etikai kérdések kezdeti feltárására strukturáltak a tervezés, megvalósítás és szervezeti kontextusokban. + * [AI méltányossági ellenőrzőlista](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI szakemberek által létrehozva, hogy támogassa a méltányossági ellenőrzések bevezetését és integrációját az AI fejlesztési ciklusokba. + * [22 kérdés az adatok és AI etikájáról](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - nyitottabb keretrendszer, amelyet az etikai kérdések kezdeti feltárására terveztek a tervezés, megvalósítás és szervezeti kontextusokban. ### 3. Etikai szabályozások -Az etika közös értékek meghatározásáról és a helyes cselekvésről szól _önkéntesen_. **Megfelelés** arról szól, hogy _követjük a törvényt_, ha és ahol meghatározták. **Irányítás** szélesebb értelemben magában foglalja az összes módot, ahogyan a szervezetek működnek az etikai elvek érvényesítése és a meghatározott törvények betartása érdekében. +Az etika közös értékek meghatározásáról és a helyes cselekvésről szól _önkéntesen_. **Megfelelés** a _törvények betartásáról_ szól, ha és ahol meghatározták. **Irányítás** szélesebb értelemben magában foglalja az összes olyan módot, ahogyan a szervezetek működnek az etikai elvek érvényesítése és a meghatározott törvények betartása érdekében. -Ma az irányítás két formát ölt a szervezeteken belül. Először is, az **etikus AI** elvek meghatározásáról és a gyakorlatok létrehozásáról szól, hogy operacionalizálják az elfogadást az összes AI-val kapcsolatos projektben a szervezeten belül. Másodszor, arról szól, hogy megfeleljenek az összes kormány által előírt **adatvédelmi szabályozásnak** azokban a régiókban, ahol működnek. +Ma az irányítás két formát ölt a szervezeteken belül. Először is, az **etikus AI** elvek meghatározásáról és a gyakorlatok létrehozásáról szól, amelyek operacionalizálják az elfogadást az összes AI-val kapcsolatos projektben a szervezeten belül. Másodszor, az összes kormány által előírt **adatvédelmi szabályozásnak** való megfelelésről szól azokban a régiókban, ahol működik. Adatvédelmi és adatvédelmi szabályozások példái: - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - szabályozza a _szövetségi kormány_ személyes információk gyűjtését, használatát és közzétételét. + * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - szabályozza a _szövetségi kormány_ személyes adatok gyűjtését, használatát és közzétételét. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - védi a személyes egészségügyi adatokat. * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - védi a 13 év alatti gyermekek adatvédelmét. * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - felhasználói jogokat, adatvédelmet és adatbiztonságot biztosít. - * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) több _jogot_ biztosít a fogyasztóknak a (személyes) adataik felett. - * `2021`, Kína [Személyes Információk Védelmi Törvénye](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) éppen elfogadva, létrehozva az egyik legerősebb online adatvédelmi szabályozást világszerte. + * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) több _jogot_ biztosít a fogyasztóknak a személyes adataik felett. + * `2021`, Kína [Személyes Adatvédelmi Törvénye](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) éppen elfogadva, létrehozva az egyik legerősebb online adatvédelmi szabályozást világszerte. + +> 🚨 Az Európai Unió által meghatározott GDPR (General Data Protection Regulation) ma az egyik legbefolyásosabb adatvédelmi szabályozás. Tudtad, hogy [8 felhasználói jogot](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) is meghatároz a polgárok digitális adatvédelmének és személyes adatainak védelmére? Ismerd meg, mik ezek, és miért fontosak. + +### 4. Etikai kultúra -> 🚨 Az Európai Unió által meghatározott GDPR (Általános Adatvédelmi Rendelet) ma az egyik legbefolyásosabb adatvédelmi szabályozás. Tudtad, hogy [8 felhasználói jogot](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) is meghatároz a digitális adatvédelem és személyes adatok védelme érdek +Fontos meg * [A felelős mesterséges intelligencia alapelvei](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - ingyenes tanulási útvonal a Microsoft Learn-től. -* [Etika és adattudomány](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason és mások) +* [Etika és adat tudomány](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason és mások) * [Adattudományi etika](https://www.coursera.org/learn/data-science-ethics#syllabus) - online kurzus a Michigani Egyetemtől. * [Etika kibontva](https://ethicsunwrapped.utexas.edu/case-studies) - esettanulmányok a Texasi Egyetemtől. # Feladat -[Írj egy esettanulmányt az adatetikáról](assignment.md) +[Írj egy adatetikai esettanulmányt](assignment.md) --- diff --git a/translations/id/1-Introduction/02-ethics/README.md b/translations/id/1-Introduction/02-ethics/README.md index 877dbf01..b93303eb 100644 --- a/translations/id/1-Introduction/02-ethics/README.md +++ b/translations/id/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # データ倫理の導入 -|![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![ [(@sketchthedocs)](https://sketchthedocs.dev) によるスケッチノート ](../../sketchnotes/02-Ethics.png)| |:---:| -| データサイエンス倫理 - _スケッチノート by [@nitya](https://twitter.com/nitya)_ | +| データサイエンス倫理 - _[@nitya](https://twitter.com/nitya) によるスケッチノート_ | --- 私たちはデータ化された世界に生きるデータ市民です。 -市場の動向によると、2022年までに大企業の3分の1がオンラインの[マーケットプレイスや取引所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)を通じてデータを売買するようになると言われています。**アプリ開発者**として、データ駆動型の洞察やアルゴリズム駆動型の自動化を日常のユーザー体験に統合することが、より簡単で安価になります。しかし、AIが広く普及するにつれて、そのようなアルゴリズムが大規模に[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)されることで生じる潜在的な害についても理解する必要があります。 +市場の動向によると、2022年までに大規模な組織の3分の1がオンラインの[マーケットプレイスや取引所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)を通じてデータを売買するようになると言われています。**アプリ開発者**として、データ駆動型の洞察やアルゴリズム駆動型の自動化を日常のユーザー体験に統合することが、より簡単かつ安価になります。しかし、AIが広く普及するにつれて、そのようなアルゴリズムが大規模に[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)されることで生じる潜在的な害についても理解する必要があります。 -また、2025年までに[180ゼタバイト](https://www.statista.com/statistics/871513/worldwide-data-created/)以上のデータを生成・消費するという予測もあります。**データサイエンティスト**として、これにより個人データへのアクセスがかつてないほど容易になります。これにより、ユーザーの行動プロファイルを構築し、自由選択の[幻想](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)を作り出しながら、私たちが望む結果にユーザーを誘導することが可能になります。しかし、これによりデータプライバシーやユーザー保護に関する広範な問題も浮上します。 +また、2025年までに[180ゼタバイト](https://www.statista.com/statistics/871513/worldwide-data-created/)以上のデータを生成・消費するという予測もあります。**データサイエンティスト**として、これにより個人データへのアクセスがかつてないほど容易になります。これにより、ユーザーの行動プロファイルを構築し、[自由選択の錯覚](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)を作り出しながら、ユーザーを私たちが望む結果に誘導することが可能になります。しかし、これによりデータプライバシーやユーザー保護に関する広範な問題も浮上します。 -データ倫理は、データサイエンスやエンジニアリングにおける潜在的な害や意図しない結果を最小限に抑えるための_必要なガードレール_となります。[ガートナーのAIハイプサイクル](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)は、デジタル倫理、責任あるAI、AIガバナンスに関連するトレンドを、AIの_民主化_と_産業化_を推進する主要なメガトレンドとして特定しています。 +データ倫理は、データサイエンスやエンジニアリングにおける潜在的な害や意図しない結果を最小限に抑えるための_必要なガードレール_です。[GartnerのAIハイプサイクル](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)は、デジタル倫理、責任あるAI、AIガバナンスに関連するトレンドを、AIの_民主化_と_産業化_を推進する主要なメガトレンドとして特定しています。 -![ガートナーのAIハイプサイクル - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![GartnerのAIハイプサイクル - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) このレッスンでは、データ倫理の魅力的な分野を探求します。基本的な概念や課題から、ケーススタディやガバナンスのような応用AIの概念まで、データやAIを扱うチームや組織に倫理文化を確立する方法を学びます。 @@ -35,27 +35,27 @@ CO_OP_TRANSLATOR_METADATA: 「倫理」という言葉は、[ギリシャ語の「ethikos」](https://en.wikipedia.org/wiki/Ethics)（その語源である「ethos」）に由来し、_性格や道徳的性質_を意味します。 -**倫理**とは、社会における行動を支配する共有価値観や道徳的原則のことです。倫理は法律ではなく、「正しい vs. 間違っている」という広く受け入れられた規範に基づいています。しかし、倫理的な考慮事項は、企業統治の取り組みや政府規制に影響を与え、コンプライアンスのためのインセンティブを増やすことがあります。 +**倫理**とは、社会における行動を支配する共有価値観や道徳的原則のことです。倫理は法律ではなく、「正しい vs. 間違っている」という広く受け入れられた規範に基づいています。しかし、倫理的な考慮事項は、企業統治の取り組みや政府規制に影響を与え、コンプライアンスのインセンティブを増やすことがあります。 -**データ倫理**は、_データ、アルゴリズム、およびそれに関連する実践_に関する道徳的問題を「研究し評価する」[新しい倫理の分野](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)です。ここで、**「データ」**は生成、記録、キュレーション、処理、普及、共有、使用に関連する行動に焦点を当て、**「アルゴリズム」**はAI、エージェント、機械学習、ロボットに焦点を当て、**「実践」**は責任あるイノベーション、プログラミング、ハッキング、倫理コードなどのトピックに焦点を当てます。 +**データ倫理**は、_データ、アルゴリズム、対応する実践_に関連する道徳的問題を「研究し評価する」[新しい倫理の分野](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)です。ここで、**「データ」**は生成、記録、キュレーション、処理、普及、共有、使用に関連する行動に焦点を当て、**「アルゴリズム」**はAI、エージェント、機械学習、ロボットに焦点を当て、**「実践」**は責任あるイノベーション、プログラミング、ハッキング、倫理コードなどのトピックに焦点を当てます。 -**応用倫理**は、_現実世界の行動、製品、プロセス_の文脈で倫理的問題を積極的に調査し、定義された倫理的価値観に沿った状態を維持するために是正措置を講じる[道徳的考慮事項の実践的応用](https://en.wikipedia.org/wiki/Applied_ethics)です。 +**応用倫理**は、_現実世界の行動、製品、プロセス_の文脈で倫理的問題を積極的に調査し、定義された倫理的価値観に一致するように是正措置を講じる[道徳的考慮事項の実践的応用](https://en.wikipedia.org/wiki/Applied_ethics)です。 -**倫理文化**は、組織全体で倫理的原則と実践が一貫してスケーラブルに採用されるようにするために、応用倫理を[_運用化_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)することです。成功する倫理文化は、組織全体の倫理的原則を定義し、コンプライアンスのための意味のあるインセンティブを提供し、望ましい行動を奨励し増幅することで、組織のあらゆるレベルで倫理規範を強化します。 +**倫理文化**は、組織全体で倫理的原則と実践が一貫して拡張可能な方法で採用されるようにするために、応用倫理を[_運用化_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)することです。成功する倫理文化は、組織全体の倫理的原則を定義し、コンプライアンスに対する意味のあるインセンティブを提供し、望ましい行動を奨励し増幅することで、組織のあらゆるレベルで倫理規範を強化します。 ## 倫理の概念 -このセクションでは、データ倫理における**共有価値観**（原則）や**倫理的課題**（問題）について議論し、これらの概念を現実世界の文脈で理解するための**ケーススタディ**を探ります。 +このセクションでは、データ倫理における**共有価値観**（原則）や**倫理的課題**（問題）について議論し、これらの概念を現実世界の文脈で理解するための**ケーススタディ**を探求します。 ### 1. 倫理原則 -すべてのデータ倫理戦略は、_倫理原則_を定義することから始まります。これは、データとAIプロジェクトにおける許容される行動を記述し、コンプライアンス行動を導く「共有価値観」です。これらは個人やチームレベルで定義することができます。しかし、ほとんどの大企業は、企業レベルで定義され、すべてのチームに一貫して適用される_倫理的AI_ミッションステートメントやフレームワークにこれをまとめています。 +すべてのデータ倫理戦略は、_倫理原則_を定義することから始まります。これは、データとAIプロジェクトにおける許容される行動を記述し、コンプライアンス行動を導く「共有価値観」です。これらは個人やチームレベルで定義することができます。しかし、ほとんどの大規模な組織では、これらを企業レベルで定義され、すべてのチームで一貫して施行される_倫理的AI_ミッションステートメントやフレームワークにまとめています。 -**例:** Microsoftの[責任あるAI](https://www.microsoft.com/en-us/ai/responsible-ai)ミッションステートメントは、_「私たちは、人々を第一に考える倫理原則によって推進されるAIの進歩にコミットしています」_と述べ、以下の6つの倫理原則を特定しています。 +**例:** Microsoftの[責任あるAI](https://www.microsoft.com/en-us/ai/responsible-ai)ミッションステートメントは、_「人々を第一に考える倫理原則によって推進されるAIの進歩にコミットしています」_と述べており、以下の6つの倫理原則を特定しています： ![Microsoftの責任あるAI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -これらの原則を簡単に探ってみましょう。_透明性_と_責任_は他の原則の基盤となる価値観であるため、まずそこから始めます： +これらの原則を簡単に見てみましょう。_透明性_と_責任_は他の原則の基盤となる価値観であるため、まずそこから始めます： * [**責任**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)は、実践者がデータとAIの運用に対して_責任_を持ち、これらの倫理原則に準拠することを保証します。 * [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)は、データとAIの行動がユーザーにとって_理解可能_（解釈可能）であり、決定の背後にある内容と理由を説明することを保証します。 @@ -64,21 +64,21 @@ CO_OP_TRANSLATOR_METADATA: * [**プライバシーとセキュリティ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)は、データの系譜を理解し、ユーザーに_データプライバシーと関連する保護_を提供することに焦点を当てます。 * [**包括性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)は、AIソリューションを意図的に設計し、_幅広い人間のニーズ_と能力に対応するように適応させることに焦点を当てます。 -> 🚨 あなたのデータ倫理ミッションステートメントはどのようなものになるでしょうか。他の組織の倫理的AIフレームワークを探ってみましょう。ここには[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)、[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)の例があります。これらの共有価値観にはどのような共通点がありますか？これらの原則は、それぞれのAI製品や業界にどのように関連していますか？ +> 🚨 あなたのデータ倫理ミッションステートメントはどのようなものになるでしょうか。他の組織の倫理的AIフレームワークを探求してみましょう。例えば、[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)、[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)の例があります。これらの共有価値観にはどのような共通点がありますか？これらの原則は、それぞれのAI製品や業界にどのように関連していますか？ ### 2. 倫理的課題 -倫理原則を定義した後、次のステップは、データとAIの行動がこれらの共有価値観に一致しているかどうかを評価することです。あなたの行動を_データ収集_と_アルゴリズム設計_の2つのカテゴリで考えてみてください。 +倫理原則を定義した後、次のステップは、データとAIの行動がこれらの共有価値観と一致しているかどうかを評価することです。行動を_データ収集_と_アルゴリズム設計_の2つのカテゴリーで考えてみましょう。 -データ収集では、行動は**個人データ**や個人を特定できる情報（PII）に関わる可能性があります。これには、個人を_集合的に_特定する[多様な非個人データ](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)が含まれます。倫理的課題は、_データプライバシー_、_データ所有権_、および_インフォームドコンセント_や_知的財産権_などの関連トピックに関するものです。 +データ収集では、行動は**個人データ**や個人を特定できる情報（PII）を含む可能性があります。これには、個人を_集合的に_特定する[多様な非個人データ](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)が含まれます。倫理的課題は、_データプライバシー_、_データ所有権_、および_インフォームドコンセント_や_知的財産権_などの関連トピックに関連する可能性があります。 -アルゴリズム設計では、行動は**データセット**を収集・キュレーションし、それを使用して**データモデル**をトレーニング・展開し、現実世界の文脈で結果を予測したり意思決定を自動化したりします。倫理的課題は、_データセットのバイアス_、_データ品質_の問題、_不公平性_、およびアルゴリズムの_誤表現_に関連する可能性があります。これには、体系的な問題も含まれます。 +アルゴリズム設計では、行動は**データセット**を収集・キュレーションし、それを使用して**データモデル**をトレーニング・展開し、現実世界の文脈で結果を予測したり意思決定を自動化したりすることに関連します。倫理的課題は、_データセットのバイアス_、_データ品質_の問題、_不公平性_、およびアルゴリズムの_誤表現_に関連する可能性があります。これには、体系的な問題も含まれることがあります。 -どちらの場合も、倫理的課題は、行動が共有価値観と衝突する可能性のある領域を強調します。これらの懸念を検出、軽減、最小化、または排除するためには、行動に関連する道徳的な「はい/いいえ」の質問を行い、必要に応じて是正措置を講じる必要があります。倫理的課題とそれが提起する道徳的質問をいくつか見てみましょう。 +どちらの場合も、倫理的課題は、行動が共有価値観と衝突する可能性のある領域を強調します。これらの懸念を検出、緩和、最小化、または排除するためには、行動に関連する道徳的な「はい/いいえ」の質問を行い、必要に応じて是正措置を講じる必要があります。倫理的課題とそれが提起する道徳的質問をいくつか見てみましょう： #### 2.1 データ所有権 -データ収集は、データ主体を特定できる個人データを含むことがよくあります。[データ所有権](https://permission.io/blog/data-ownership)は、データの作成、処理、普及に関連する_コントロール_と[_ユーザー権利_](https://permission.io/blog/data-ownership)に関するものです。 +データ収集は、データ主体を特定できる個人データを含むことがよくあります。[データ所有権](https://permission.io/blog/data-ownership)は、データの生成、処理、普及に関連する_コントロール_と[_ユーザー権利_](https://permission.io/blog/data-ownership)に関するものです。 道徳的な質問は以下の通りです： * データの所有者は誰ですか？（ユーザーまたは組織） @@ -87,38 +87,38 @@ CO_OP_TRANSLATOR_METADATA: #### 2.2 インフォームドコンセント -[インフォームドコンセント](https://legaldictionary.net/informed-consent/)は、ユーザーが目的、潜在的リスク、代替案を含む関連事実を_完全に理解_した上で、行動（例：データ収集）に同意する行為を定義します。 +[インフォームドコンセント](https://legaldictionary.net/informed-consent/)は、ユーザーが目的、潜在的なリスク、代替案を含む関連事実を_完全に理解_した上で、行動（例：データ収集）に同意する行為を定義します。 -ここで探るべき質問は： +ここで探求する質問は： * ユーザー（データ主体）はデータの収集と使用に許可を与えましたか？ * ユーザーはそのデータが収集された目的を理解しましたか？ - * ユーザーは参加による潜在的リスクを理解しましたか？ + * ユーザーは参加による潜在的なリスクを理解しましたか？ #### 2.3 知的財産 -[知的財産](https://en.wikipedia.org/wiki/Intellectual_property)は、人間のイニシアチブから生じる無形の創造物であり、個人や企業にとって_経済的価値_を持つ可能性があります。 +[知的財産](https://en.wikipedia.org/wiki/Intellectual_property)は、人間の創意工夫から生まれた無形の創造物であり、個人や企業にとって_経済的価値_を持つ可能性があります。 -ここで探るべき質問は： +ここで探求する質問は： * 収集されたデータはユーザーや企業にとって経済的価値を持っていましたか？ * **ユーザー**には知的財産がありますか？ * **組織**には知的財産がありますか？ - * これらの権利が存在する場合、どのように保護していますか？ + * これらの権利が存在する場合、それらをどのように保護していますか？ #### 2.4 データプライバシー [データプライバシー](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)または情報プライバシーは、個人を特定できる情報に関して、ユーザーのプライバシーを維持し、ユーザーの身元を保護することを指します。 -ここで探るべき質問は： +ここで探求する質問は： * ユーザーの（個人）データはハッキングや漏洩から保護されていますか？ - * ユーザーのデータは許可されたユーザーやコンテキストにのみアクセス可能ですか？ + * ユーザーのデータは許可されたユーザーや文脈にのみアクセス可能ですか？ * データが共有または普及される際にユーザーの匿名性は維持されていますか？ * 匿名化されたデータセットからユーザーを特定することは可能ですか？ #### 2.5 忘れられる権利 -[忘れられる権利](https://en.wikipedia.org/wiki/Right_to_be_forgotten)または[消去権](https://www.gdpreu.org/right-to-be-forgotten/)は、ユーザーに追加の個人データ保護を提供します。具体的には、特定の状況下でインターネット検索やその他の場所から個人データの削除を要求する権利をユーザーに与え、過去の行動が将来にわたって不利に働かないようにします。 +[忘れられる権利](https://en.wikipedia.org/wiki/Right_to_be_forgotten)または[消去権](https://www.gdpreu.org/right-to-be-forgotten/)は、ユーザーに追加の個人データ保護を提供します。具体的には、特定の状況下でインターネット検索やその他の場所から個人データの削除または除去を要求する権利をユーザーに与え、過去の行動がユーザーに不利に働かないようにします。 -ここで探るべき質問は： +ここで探求する質問は： * システムはデータ主体が消去を要求することを許可していますか？ * ユーザーの同意の撤回が自動消去を引き起こすべきですか？ * データは同意なしまたは違法な手段で収集されましたか？ @@ -126,124 +126,124 @@ CO_OP_TRANSLATOR_METADATA: #### 2.6 データセットのバイアス -データセットまたは[収集バイアス](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)は、アルゴリズム開発のために_非代表的な_データのサブセットを選択することで、多様なグループに対して結果の不公平性を生じさせることを指します。バイアスの種類には、選択またはサンプリングバイアス、ボランティアバイアス、機器バイアスがあります。 +データセットまたは[収集バイアス](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)は、アルゴリズム開発のために_非代表的な_データのサブセットを選択することで、さまざまなグループに対する結果の公平性に潜在的な影響を与えることを指します。バイアスの種類には、選択またはサンプリングバイアス、ボランティアバイアス、機器バイアスがあります。 -ここで探るべき質問は： +ここで探求する質問は： * 代表的なデータ主体のセットを募集しましたか？ * 収集またはキュレーションされたデータセットをさまざまなバイアスについてテストしましたか？ - * 発見されたバイアスを軽減または除去することは可能ですか？ + * 発見されたバイアスを緩和または除去することは可能ですか？ -#### 2.7 データ品質 - -[データ品質](https://lake -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) は、アルゴリズムの設計が特定のデータ主体のサブグループに対して体系的に差別を行い、_配分_（そのグループにリソースが拒否または提供されない）や_サービスの質_（AIがあるサブグループに対して他のグループほど正確でない）における[潜在的な被害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)を引き起こしていないかを確認するものです。 +#### +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) は、アルゴリズム設計が特定のデータ主体のサブグループに対して体系的に差別を行い、_資源配分_（そのグループに対して資源が拒否または保留される場合）や_サービスの質_（AIが特定のサブグループに対して他のグループほど正確でない場合）における[潜在的な害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)を引き起こすかどうかを確認するものです。 ここで検討すべき質問は以下の通りです： * 多様なサブグループや条件に対してモデルの精度を評価しましたか？ - * 潜在的な被害（例：ステレオタイプ化）についてシステムを精査しましたか？ - * 特定された被害を軽減するためにデータを修正したり、モデルを再学習させたりできますか？ + * ステレオタイプ化などの潜在的な害についてシステムを精査しましたか？ + * 特定された害を軽減するためにデータを修正したりモデルを再学習させることは可能ですか？ -[AI Fairness チェックリスト](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA)のようなリソースを活用して、さらに学びましょう。 +[AI Fairness チェックリスト](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA)などのリソースを探求して、さらに学びましょう。 -#### 2.9 誤った表現 +#### 2.9 誤表現 -[データの誤表現](https://www.sciencedirect.com/topics/computer-science/misrepresentation)とは、正直に報告されたデータから得られた洞察を、望ましいストーリーを支持するために欺瞞的に伝えていないかを問うことです。 +[データの誤表現](https://www.sciencedirect.com/topics/computer-science/misrepresentation)とは、正直に報告されたデータから得られた洞察を、望ましいストーリーを支持するために欺瞞的に伝えていないかどうかを問うことです。 ここで検討すべき質問は以下の通りです： * 不完全または不正確なデータを報告していませんか？ - * 誤解を招く結論を導くような方法でデータを可視化していませんか？ + * 誤解を招く結論を導くような方法でデータを視覚化していませんか？ * 結果を操作するために選択的な統計手法を使用していませんか？ - * 別の結論を導く可能性のある代替説明はありませんか？ + * 別の結論を提供する可能性のある代替説明はありませんか？ #### 2.10 自由選択 -[自由選択の錯覚](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)は、システムの「選択アーキテクチャ」が意思決定アルゴリズムを使用して、人々を好ましい結果に誘導しつつ、選択肢やコントロールを与えているように見せかける場合に発生します。これらの[ダークパターン](https://www.darkpatterns.org/)は、ユーザーに社会的および経済的な被害をもたらす可能性があります。ユーザーの意思決定が行動プロファイルに影響を与えるため、これらの行動は将来の選択に影響を与え、被害の影響を拡大または延長する可能性があります。 +[自由選択の錯覚](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)は、システムの「選択アーキテクチャ」が意思決定アルゴリズムを使用して、ユーザーに選択肢やコントロールを与えているように見せながら、好ましい結果を取るよう促す場合に発生します。これらの[ダークパターン](https://www.darkpatterns.org/)は、ユーザーに社会的および経済的な害を引き起こす可能性があります。ユーザーの意思決定は行動プロファイルに影響を与えるため、これらの行動は将来の選択を促進または拡大する可能性があります。 ここで検討すべき質問は以下の通りです： - * ユーザーはその選択を行うことの影響を理解していましたか？ + * ユーザーはその選択をすることの影響を理解していましたか？ * ユーザーは（代替の）選択肢とそれぞれの利点と欠点を認識していましたか？ - * ユーザーは自動化された選択や影響を受けた選択を後から取り消すことができますか？ + * ユーザーは自動化された選択や影響を受けた選択を後で取り消すことができますか？ ### 3. ケーススタディ -これらの倫理的課題を現実世界の文脈で考えるには、倫理違反が見過ごされた場合に個人や社会に与える潜在的な被害や結果を強調するケーススタディを検討することが役立ちます。 +これらの倫理的課題を現実世界の文脈で考えるには、倫理違反が見過ごされた場合に個人や社会に与える潜在的な害や結果を強調するケーススタディを検討することが役立ちます。 以下はいくつかの例です： | 倫理的課題 | ケーススタディ | |--- |--- | -| **インフォームドコンセント** | 1972年 - [タスキギー梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 研究に参加したアフリカ系アメリカ人男性は無料の医療ケアを約束されましたが、研究者は被験者に診断や治療の利用可能性を知らせずに欺きました。多くの被験者が死亡し、パートナーや子供にも影響が及びました。この研究は40年間続きました。 | -| **データプライバシー** | 2007年 - [Netflixデータ賞](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/)では、研究者に_50,000人の顧客からの1,000万件の匿名化された映画評価_が提供され、推薦アルゴリズムの改善が試みられました。しかし、研究者は匿名化されたデータを外部データセット（例：IMDbのコメント）と照合することで、Netflixの一部の加入者を「再識別」することができました。| -| **収集バイアス** | 2013年 - ボストン市は[Street Bump](https://www.boston.gov/transportation/street-bump)というアプリを開発し、市民が道路の穴を報告できるようにしました。これにより、市は道路データを改善し、問題を特定して修正することができました。しかし、[低所得層の人々は車や携帯電話へのアクセスが少ない](https://hbr.org/2013/04/the-hidden-biases-in-big-data)ため、彼らの道路問題はこのアプリでは見えなくなりました。開発者は公平性のために_アクセスの平等性とデジタル格差_の問題に取り組むため、学術関係者と協力しました。 | -| **アルゴリズムの公平性** | 2018年 - MITの[Gender Shades Study](http://gendershades.org/overview.html)は、性別分類AI製品の精度を評価し、女性や有色人種に対する精度のギャップを明らかにしました。[2019年のApple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/)では、男性よりも女性に対してクレジットが少なく提供されるように見えました。これらは、アルゴリズムバイアスが社会経済的な被害を引き起こす例を示しています。| -| **データの誤表現** | 2020年 - [ジョージア州公衆衛生局が発表したCOVID-19チャート](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)は、x軸の非時系列順序によって、確認された症例の傾向について市民を誤解させるように見えました。これは、視覚化トリックによる誤表現を示しています。 | -| **自由選択の錯覚** | 2020年 - 学習アプリ[ABCmouseがFTCの苦情を解決するために1,000万ドルを支払った](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)ケースでは、親がキャンセルできないサブスクリプションを支払うように追い込まれました。これは、ユーザーが潜在的に有害な選択に誘導される選択アーキテクチャにおけるダークパターンを示しています。 | -| **データプライバシーとユーザーの権利** | 2021年 - Facebookの[データ漏洩](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users)では、5億3,000万人のユーザーのデータが漏洩し、FTCに50億ドルの和解金を支払う結果となりました。しかし、Facebookは漏洩についてユーザーに通知することを拒否し、データの透明性とアクセスに関するユーザーの権利を侵害しました。| - -さらにケーススタディを探したいですか？以下のリソースをチェックしてください： +| **インフォームドコンセント** | 1972年 - [タスキーギ梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 研究に参加したアフリカ系アメリカ人男性は無料の医療を約束されましたが、研究者によって診断や治療の利用可能性について知らされずに欺かれました。多くの被験者が死亡し、パートナーや子供にも影響が及びました。この研究は40年間続きました。 | +| **データプライバシー** | 2007年 - [Netflixデータ賞](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/)は、研究者に_50Kの顧客からの10Mの匿名化された映画ランキング_を提供し、推薦アルゴリズムを改善することを目的としていました。しかし、研究者は匿名化されたデータを外部データセット（例：IMDbコメント）と関連付けることで、一部のNetflix加入者を「匿名解除」することができました。| +| **収集バイアス** | 2013年 - ボストン市は[Street Bump](https://www.boston.gov/transportation/street-bump)というアプリを開発し、市民が道路の穴を報告できるようにし、市が問題を特定して修正するためのより良い道路データを提供しました。しかし、[低所得層の人々は車や電話へのアクセスが少ない](https://hbr.org/2013/04/the-hidden-biases-in-big-data)ため、このアプリでは彼らの道路問題が見えなくなっていました。開発者は公平性のために_公平なアクセスとデジタル格差_の問題に取り組むために学者と協力しました。 | +| **アルゴリズムの公平性** | 2018年 - MITの[Gender Shades Study](http://gendershades.org/overview.html)は、性別分類AI製品の精度を評価し、女性や有色人種に対する精度のギャップを明らかにしました。[2019年のApple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/)は、男性よりも女性に少ないクレジットを提供しているように見えました。どちらもアルゴリズムバイアスが社会経済的な害を引き起こす問題を示しています。| +| **データの誤表現** | 2020年 - [ジョージア州公衆衛生局はCOVID-19のチャートを公開](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)し、確認されたケースの傾向について市民を誤解させるような非時系列のx軸を使用しました。これは視覚化トリックによる誤表現を示しています。 | +| **自由選択の錯覚** | 2020年 - 学習アプリ[ABCmouseはFTCの苦情を解決するために$10Mを支払った](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)ケースでは、親がキャンセルできないサブスクリプションを支払うように追い込まれました。これは、ユーザーが潜在的に有害な選択肢に誘導されるダークパターンを示しています。 | +| **データプライバシーとユーザーの権利** | 2021年 - Facebookの[データ漏洩](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users)では、530Mのユーザーのデータが漏洩し、FTCに$5Bの和解金を支払う結果となりました。しかし、漏洩についてユーザーに通知することを拒否し、データの透明性とアクセスに関するユーザーの権利を侵害しました。 | + +さらにケーススタディを探求したいですか？以下のリソースをチェックしてください： * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - 多様な業界における倫理的ジレンマ。 -* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - 代表的なケーススタディを探求。 -* [Where things have gone wrong](https://deon.drivendata.org/examples/) - Deonチェックリストの例。 +* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - 重要なケーススタディを探求。 +* [Where things have gone wrong](https://deon.drivendata.org/examples/) - Deonチェックリストと例。 -> 🚨 あなたが見たケーススタディについて考えてみてください。これまでに似たような倫理的課題を経験したり、影響を受けたりしたことがありますか？このセクションで議論した倫理的課題の1つを示す別のケーススタディを少なくとも1つ考えることができますか？ +> 🚨 あなたが見たケーススタディについて考えてみてください。あなたの人生で似たような倫理的課題を経験したり影響を受けたりしたことはありますか？このセクションで議論した倫理的課題を示す少なくとも1つの別のケーススタディを思いつくことができますか？ ## 応用倫理 -これまでに倫理の概念、課題、そして現実世界の文脈でのケーススタディについて話してきました。しかし、プロジェクトで倫理的な原則や実践をどのように_適用_するのでしょうか？また、これらの実践をどのように_運用化_してより良いガバナンスを実現するのでしょうか？いくつかの現実的な解決策を探ってみましょう： +倫理の概念、課題、そして現実世界の文脈でのケーススタディについて話しました。しかし、プロジェクトで倫理的な原則や実践を_適用_するにはどうすればよいでしょうか？また、これらの実践をより良いガバナンスのために_運用化_するにはどうすればよいでしょうか？いくつかの現実的な解決策を探ってみましょう： ### 1. プロフェッショナルコード -プロフェッショナルコードは、組織が倫理的原則やミッションステートメントを支持するようメンバーを「奨励」するための1つの選択肢を提供します。コードはプロフェッショナルな行動のための_道徳的ガイドライン_であり、従業員やメンバーが組織の原則に沿った意思決定を行うのを助けます。これらはメンバーの自主的な遵守に依存しますが、多くの組織は遵守を促すために追加の報酬や罰則を提供しています。 +プロフェッショナルコードは、組織がメンバーに倫理的原則やミッションステートメントを支持するよう「奨励」するための選択肢を提供します。コードはプロフェッショナルな行動のための_道徳的ガイドライン_であり、従業員やメンバーが組織の原則に沿った意思決定を行うのを助けます。これらはメンバーの自主的な遵守に依存しますが、多くの組織はメンバーの遵守を促進するために追加の報酬や罰則を提供しています。 例： - * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) 倫理規範 + * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) 倫理コード * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) 行動規範（2013年作成） * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics)（1993年以降） -> 🚨 あなたはプロフェッショナルなエンジニアリングまたはデータサイエンス組織に所属していますか？そのサイトを調べて、プロフェッショナルコードが定義されているか確認してください。それはどのような倫理的原則を示していますか？メンバーがコードを遵守するようにどのように「奨励」しているのでしょうか？ +> 🚨 あなたはプロフェッショナルなエンジニアリングやデータサイエンスの組織に所属していますか？そのサイトを探して、プロフェッショナルな倫理コードを定義しているかどうかを確認してください。それは彼らの倫理的原則について何を示していますか？メンバーにコードを遵守させるためにどのように「奨励」しているのでしょうか？ ### 2. 倫理チェックリスト -プロフェッショナルコードは実践者に求められる_倫理的行動_を定義しますが、大規模プロジェクトにおける[実施の限界](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)が知られています。その代わりに、多くのデータサイエンスの専門家は[チェックリスト](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)を推奨しています。これにより、原則を実践に結び付け、より決定論的で実行可能な方法を提供します。 +プロフェッショナルコードは実践者に必要な_倫理的行動_を定義しますが、大規模プロジェクトにおける[既知の制限](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)があります。その代わりに、多くのデータサイエンスの専門家は[チェックリスト](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)を提唱しており、これにより**原則を実践に結び付ける**ことがより決定論的かつ実行可能になります。 -チェックリストは質問を「はい/いいえ」のタスクに変換し、標準的な製品リリースワークフローの一部として追跡可能にします。 +チェックリストは質問を「はい/いいえ」のタスクに変換し、運用化することができ、標準的な製品リリースワークフローの一部として追跡可能になります。 例： - * [Deon](https://deon.drivendata.org/) - [業界の推奨事項](https://deon.drivendata.org/#checklist-citations)に基づいて作成された汎用データ倫理チェックリストで、コマンドラインツールを使用して簡単に統合可能。 - * [プライバシー監査チェックリスト](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 法的および社会的な観点から情報取り扱いの一般的なガイダンスを提供。 - * [AI Fairness チェックリスト](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI開発サイクルに公平性チェックを統合するためにAI実践者によって作成。 - * [データとAIにおける倫理のための22の質問](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 設計、実装、組織的文脈における倫理的問題の初期探求のためのよりオープンなフレームワーク。 + * [Deon](https://deon.drivendata.org/) - [業界の推奨事項](https://deon.drivendata.org/#checklist-citations)から作成された汎用データ倫理チェックリストで、コマンドラインツールを使用して簡単に統合可能。 + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 法的および社会的な露出の観点から情報処理の一般的なガイダンスを提供。 + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI開発サイクルに公平性チェックを統合するためにAI実践者によって作成。 + * [データとAIの倫理に関する22の質問](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 設計、実装、組織的な文脈での倫理的問題の初期探求のために構造化されたよりオープンなフレームワーク。 ### 3. 倫理規制 -倫理は共有価値を定義し、自発的に正しいことを行うことに関するものです。一方、**コンプライアンス**は、定義された法律を_遵守する_ことに関するものです。**ガバナンス**は、組織が倫理的原則を実施し、確立された法律を遵守するために運営するすべての方法を広くカバーします。 +倫理は共有価値を定義し、自発的に正しいことを行うことに関するものです。**コンプライアンス**は、定義されている場合に法律を遵守することに関するものです。**ガバナンス**は、組織が倫理的原則を強制し、確立された法律を遵守するために運営するすべての方法を広くカバーします。 -今日、ガバナンスは組織内で2つの形を取ります。1つ目は、**倫理的AI**の原則を定義し、組織内のすべてのAI関連プロジェクトで採用を運用化するための実践を確立することです。2つ目は、組織が運営する地域での政府が義務付けた**データ保護規制**を遵守することです。 +今日、ガバナンスは組織内で2つの形態を取ります。まず、**倫理的AI**原則を定義し、組織内のすべてのAI関連プロジェクトにわたって採用を運用化する実践を確立することです。次に、組織が運営する地域のすべての政府が定めた**データ保護規制**を遵守することです。 -データ保護およびプライバシー規制の例： +データ保護とプライバシー規制の例： * `1974年`、[米国プライバシー法](https://www.justice.gov/opcl/privacy-act-1974) - _連邦政府_による個人情報の収集、使用、開示を規制。 * `1996年`、[米国医療保険の携行性と責任に関する法律（HIPAA）](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 個人の健康データを保護。 * `1998年`、[米国児童オンラインプライバシー保護法（COPPA）](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13歳未満の子供のデータプライバシーを保護。 * `2018年`、[一般データ保護規則（GDPR）](https://gdpr-info.eu/) - ユーザーの権利、データ保護、プライバシーを提供。 - * `2018年`、[カリフォルニア州消費者プライバシー法（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 消費者に（個人）データに関するより多くの_権利_を付与。 - * `2021年`、中国の[個人情報保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) - 世界で最も強力なオンラインデータプライバシー規制の1つを制定。 + * `2018年`、[カリフォルニア消費者プライバシー法（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 消費者に（個人）データに関するより多くの_権利_を提供。 + * `2021年`、中国の[個人情報保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) - 世界で最も強力なオンラインデータプライバシー規制の1つを作成。 -> 🚨 欧州連合が定義したGDPR（一般データ保護規則）は、今日最も影響力のあるデータプライバシー規制の1つです。GDPRは市民のデジタルプライバシーと個人データを保護するための[8つのユーザー権利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)も定義していることをご存知ですか？これらが何であるか、そしてなぜ重要なのかを学びましょう。 +> 🚨 欧州連合が定義したGDPR（一般データ保護規則）は、今日最も影響力のあるデータプライバシー規制の1つです。これが市民のデジタルプライバシーと個人データを保護するために[8つのユーザー権利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)を定義していることを知っていましたか？これらが何であるか、そしてなぜ重要なのかを学びましょう。 ### 4. 倫理文化 -_コンプライアンス_（「法律の文言」を満たすために十分なことを行う）と、AIの武器化を加速させる可能性のある[システム的な問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（硬直化、情報の非対称性、分配の不公平性など）に対処することの間には、依然として無形のギャップがあります。 +_コンプライアンス_（「法律の文言」を満たすために十分なことを行うこと）と[体系的な問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（硬直化、情報の非対称性、分配の不公平性など）に対処することの間には、依然として無形のギャップがあります。これらの問題はAIの武器化を加速させる可能性があります。 -後者には、業界全体で一貫した共有価値と感情的なつながりを構築する[倫理文化を定義するための協力的アプローチ](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)が必要です。これには、組織内でより[正式化されたデータ倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)を構築することが求められます。これにより、_誰でも_（プロセスの早い段階で倫理的 -* [責任あるAIの原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learnの無料学習パス。 +後者には、業界内で_組織全体_で一貫した共有価値と感情的なつながりを構築する[倫理文化を定義するための協力的アプローチ](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)が必要です。これには、組織内でより[正式化されたデータ倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)を構築することが求められます。これにより、_誰でも_（プロセスの早い段階で倫理的懸念を提起するために）[アンドンコードを引く](https://en.wikipedia.org/wiki/Andon_(manufacturing))ことができ、AIプロジェクトのチーム形成において_倫理的評価_（例：採用時）が重要な基準とな +* [責任あるAIの原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learnによる無料学習パス。 * [倫理とデータサイエンス](https://resources.oreilly.com/examples/0636920203964) - O'Reillyの電子書籍 (M. Loukides, H. Mason 他) -* [データサイエンス倫理](https://www.coursera.org/learn/data-science-ethics#syllabus) - ミシガン大学のオンラインコース。 -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - テキサス大学のケーススタディ。 +* [データサイエンス倫理](https://www.coursera.org/learn/data-science-ethics#syllabus) - ミシガン大学によるオンラインコース。 +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - テキサス大学によるケーススタディ。 # 課題 [データ倫理のケーススタディを書く](assignment.md) +--- + **免責事項**: -この文書は、AI翻訳サービス [Co-op Translator](https://github.com/Azure/co-op-translator) を使用して翻訳されています。正確性を追求しておりますが、自動翻訳には誤りや不正確さが含まれる可能性があります。元の言語で記載された原文が正式な情報源と見なされるべきです。重要な情報については、専門の人間による翻訳を推奨します。この翻訳の使用に起因する誤解や誤訳について、当社は一切の責任を負いません。 \ No newline at end of file +この文書は、AI翻訳サービス [Co-op Translator](https://github.com/Azure/co-op-translator) を使用して翻訳されています。正確性を追求しておりますが、自動翻訳には誤りや不正確な部分が含まれる可能性があることをご承知ください。元の言語で記載された文書が正式な情報源とみなされるべきです。重要な情報については、専門の人間による翻訳を推奨します。この翻訳の使用に起因する誤解や誤解釈について、当方は一切の責任を負いません。 \ No newline at end of file diff --git a/translations/ko/1-Introduction/02-ethics/README.md b/translations/ko/1-Introduction/02-ethics/README.md index d76ae02a..f446f78e 100644 --- a/translations/ko/1-Introduction/02-ethics/README.md +++ b/translations/ko/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ -# Duomenų etikos įvadas +# Įvadas į duomenų etiką |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| @@ -17,117 +17,117 @@ CO_OP_TRANSLATOR_METADATA: Mes visi esame duomenų piliečiai, gyvenantys duomenų pasaulyje. -Rinkos tendencijos rodo, kad iki 2022 m. 1 iš 3 didelių organizacijų pirks ir parduos savo duomenis per internetines [turgavietes ir mainų platformas](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Kaip **programėlių kūrėjai**, mes pastebėsime, kad duomenimis pagrįstų įžvalgų ir algoritmais pagrįstos automatizacijos integravimas į kasdienes vartotojų patirtis taps lengvesnis ir pigesnis. Tačiau, kai dirbtinis intelektas tampa visur paplitęs, turėsime suprasti ir galimą žalą, kurią gali sukelti tokių algoritmų [ginklavimas](https://www.youtube.com/watch?v=TQHs8SA1qpk) dideliu mastu. +Rinkos tendencijos rodo, kad iki 2022 m. 1 iš 3 didelių organizacijų pirks ir parduos savo duomenis per internetines [rinkas ir mainų platformas](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Kaip **programėlių kūrėjai**, mes galėsime lengviau ir pigiau integruoti duomenimis pagrįstas įžvalgas ir algoritmais valdomą automatizaciją į kasdienes vartotojų patirtis. Tačiau, kai dirbtinis intelektas tampa visur paplitęs, turėsime suprasti galimą žalą, kurią gali sukelti tokių algoritmų [ginklavimas](https://www.youtube.com/watch?v=TQHs8SA1qpk) dideliu mastu. -Tendencijos taip pat rodo, kad iki 2025 m. sukursime ir suvartosime daugiau nei [180 zettabaitų](https://www.statista.com/statistics/871513/worldwide-data-created/) duomenų. Kaip **duomenų mokslininkai**, mes turėsime precedento neturintį prieigą prie asmeninių duomenų. Tai reiškia, kad galėsime kurti vartotojų elgsenos profilius ir daryti įtaką sprendimų priėmimui taip, kad sukurtume [laisvo pasirinkimo iliuziją](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), tuo pačiu galimai nukreipdami vartotojus link mums pageidaujamų rezultatų. Tai taip pat kelia platesnius klausimus apie duomenų privatumą ir vartotojų apsaugą. +Tendencijos taip pat rodo, kad iki 2025 m. sukursime ir suvartosime daugiau nei [180 zettabaitų](https://www.statista.com/statistics/871513/worldwide-data-created/) duomenų. Kaip **duomenų mokslininkai**, turėsime precedento neturintį prieigą prie asmeninių duomenų. Tai reiškia, kad galėsime kurti vartotojų elgsenos profilius ir daryti įtaką sprendimų priėmimui taip, kad sukurtume [laisvo pasirinkimo iliuziją](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), tuo pačiu galimai nukreipdami vartotojus link mums pageidaujamų rezultatų. Tai taip pat kelia platesnius klausimus apie duomenų privatumą ir vartotojų apsaugą. -Duomenų etika dabar yra _būtinos gairės_ duomenų mokslui ir inžinerijai, padedančios sumažinti galimą žalą ir netyčines pasekmes, kylančias iš mūsų veiksmų, pagrįstų duomenimis. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) identifikuoja skaitmeninės etikos, atsakingo DI ir DI valdymo tendencijas kaip pagrindinius veiksnius, skatinančius didesnes megatendencijas, susijusias su DI _demokratizacija_ ir _industrializacija_. +Duomenų etika dabar yra _būtinos gairės_ duomenų mokslui ir inžinerijai, padedančios sumažinti galimą žalą ir netyčines pasekmes, kylančias iš mūsų veiksmų, pagrįstų duomenimis. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) identifikuoja aktualias tendencijas skaitmeninėje etikoje, atsakingame dirbtiniame intelekte ir AI valdyme kaip pagrindinius veiksnius didesnėms megatendencijoms, susijusioms su _demokratizacija_ ir _industrializacija_ AI. ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -Šioje pamokoje mes nagrinėsime įdomią duomenų etikos sritį – nuo pagrindinių sąvokų ir iššūkių iki atvejų analizių ir taikomų DI koncepcijų, tokių kaip valdymas, kurios padeda sukurti etikos kultūrą komandose ir organizacijose, dirbančiose su duomenimis ir DI. +Šioje pamokoje nagrinėsime įdomią duomenų etikos sritį – nuo pagrindinių sąvokų ir iššūkių iki atvejų analizės ir taikomų AI koncepcijų, tokių kaip valdymas, kurios padeda sukurti etikos kultūrą komandose ir organizacijose, dirbančiose su duomenimis ir AI. -## [Prieš paskaitą vykdomas testas](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 +## [Prieš paskaitos testas](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## Pagrindinės sąvokos Pradėkime nuo pagrindinių terminų supratimo. -Žodis „etika“ kilęs iš [graikiško žodžio „ethikos“](https://en.wikipedia.org/wiki/Ethics) (ir jo šaknies „ethos“), reiškiančio _charakterį arba moralinę prigimtį_. +Žodis „etika“ kilęs iš [graikiško žodžio „ethikos“](https://en.wikipedia.org/wiki/Ethics) (ir jo šaknies „ethos“), reiškiančio _charakterį ar moralinę prigimtį_. -**Etika** – tai bendros vertybės ir moraliniai principai, kurie reguliuoja mūsų elgesį visuomenėje. Etika grindžiama ne įstatymais, o plačiai priimtomis normomis, kas yra „teisinga prieš neteisinga“. Tačiau etiniai svarstymai gali turėti įtakos įmonių valdymo iniciatyvoms ir vyriausybės reglamentams, kurie sukuria daugiau paskatų laikytis taisyklių. +**Etika** – tai bendros vertybės ir moraliniai principai, kurie reguliuoja mūsų elgesį visuomenėje. Etika grindžiama ne įstatymais, o plačiai priimtomis normomis, kas yra „teisinga vs. neteisinga“. Tačiau etiniai svarstymai gali turėti įtakos įmonių valdymo iniciatyvoms ir vyriausybės reglamentams, kurie sukuria daugiau paskatų laikytis taisyklių. -**Duomenų etika** yra [nauja etikos šaka](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), kuri „tiria ir vertina moralines problemas, susijusias su _duomenimis, algoritmais ir atitinkama praktika_“. Čia **„duomenys“** apima veiksmus, susijusius su duomenų generavimu, įrašymu, tvarkymu, apdorojimu, platinimu, dalijimusi ir naudojimu, **„algoritmai“** apima DI, agentus, mašininį mokymąsi ir robotus, o **„praktika“** apima tokias temas kaip atsakingos inovacijos, programavimas, įsilaužimai ir etikos kodeksai. +**Duomenų etika** yra [nauja etikos šaka](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), kuri „tiria ir vertina moralines problemas, susijusias su _duomenimis, algoritmais ir atitinkama praktika_“. Čia **„duomenys“** apima veiksmus, susijusius su generavimu, įrašymu, kuravimu, apdorojimu, sklaida, dalijimusi ir naudojimu, **„algoritmai“** apima AI, agentus, mašininį mokymąsi ir robotus, o **„praktika“** apima temas, tokias kaip atsakinga inovacija, programavimas, įsilaužimas ir etikos kodeksai. -**Taikomoji etika** yra [moralinių svarstymų praktinis taikymas](https://en.wikipedia.org/wiki/Applied_ethics). Tai procesas, kai aktyviai tiriamos etinės problemos realių veiksmų, produktų ir procesų kontekste, ir imamasi korekcinių veiksmų, kad jie išliktų suderinti su mūsų apibrėžtomis etinėmis vertybėmis. +**Taikomoji etika** yra [moralinių svarstymų praktinis taikymas](https://en.wikipedia.org/wiki/Applied_ethics). Tai procesas, kai aktyviai tiriamos etinės problemos realių veiksmų, produktų ir procesų kontekste, ir imamasi korekcinių veiksmų, kad jie išliktų suderinti su apibrėžtomis etinėmis vertybėmis. -**Etikos kultūra** yra apie [_taikomosios etikos įgyvendinimą_](https://hbr.org/2019/05/how-to-design-an-ethical-organization), siekiant užtikrinti, kad mūsų etikos principai ir praktika būtų nuosekliai ir masteliškai taikomi visoje organizacijoje. Sėkmingos etikos kultūros apibrėžia organizacijos mastu taikomus etikos principus, suteikia prasmingas paskatas laikytis taisyklių ir stiprina etikos normas, skatindamos ir amplifikuodamos pageidaujamą elgesį kiekviename organizacijos lygmenyje. +**Etikos kultūra** – tai [_taikomosios etikos operatyvinimas_](https://hbr.org/2019/05/how-to-design-an-ethical-organization), siekiant užtikrinti, kad mūsų etiniai principai ir praktika būtų nuosekliai ir masto požiūriu pritaikyti visoje organizacijoje. Sėkmingos etikos kultūros apibrėžia organizacijos mastu etinius principus, suteikia prasmingas paskatas laikytis taisyklių ir skatina bei stiprina pageidaujamą elgesį kiekviename organizacijos lygyje. ## Etikos sąvokos -Šioje dalyje aptarsime tokias sąvokas kaip **bendros vertybės** (principai) ir **etikos iššūkiai** (problemos) duomenų etikoje – ir nagrinėsime **atvejų analizes**, kurios padės suprasti šias sąvokas realiame kontekste. +Šiame skyriuje aptarsime tokias sąvokas kaip **bendros vertybės** (principai) ir **etikos iššūkiai** (problemos) duomenų etikoje – ir nagrinėsime **atvejų analizes**, kurios padės suprasti šias sąvokas realiame kontekste. ### 1. Etikos principai -Kiekviena duomenų etikos strategija prasideda nuo _etinių principų_ apibrėžimo – „bendrų vertybių“, kurios apibūdina priimtiną elgesį ir vadovauja atitinkamiems veiksmams mūsų duomenų ir DI projektuose. Juos galima apibrėžti individualiu ar komandos lygmeniu. Tačiau dauguma didelių organizacijų šiuos principus apibrėžia _etinio DI_ misijos pareiškime arba sistemoje, kuri yra nustatyta korporaciniu lygmeniu ir nuosekliai taikoma visose komandose. +Kiekviena duomenų etikos strategija prasideda nuo _etinių principų_ apibrėžimo – „bendrų vertybių“, kurios apibūdina priimtiną elgesį ir vadovauja veiksmams, atitinkantiems taisykles, mūsų duomenų ir AI projektuose. Juos galite apibrėžti individualiu ar komandos lygiu. Tačiau dauguma didelių organizacijų apibrėžia juos _etinio AI_ misijos pareiškime ar sistemoje, kuri yra apibrėžta korporatyviniu lygiu ir nuosekliai taikoma visose komandose. -**Pavyzdys:** „Microsoft“ [atsakingo DI](https://www.microsoft.com/en-us/ai/responsible-ai) misijos pareiškimas skamba taip: _„Mes esame įsipareigoję skatinti DI, vadovaujantis etikos principais, kurie pirmiausia rūpinasi žmonėmis“_ – identifikuojant 6 etikos principus žemiau pateiktoje sistemoje: +**Pavyzdys:** Microsoft [Atsakingo AI](https://www.microsoft.com/en-us/ai/responsible-ai) misijos pareiškimas skamba: _„Mes esame įsipareigoję AI pažangai, kurią skatina etiniai principai, pirmiausia orientuoti į žmones“_ – identifikuojant 6 etinius principus žemiau pateiktoje sistemoje: -![Atsakingas DI „Microsoft“](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![Atsakingas AI Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) Trumpai aptarkime šiuos principus. _Skaidrumas_ ir _atsakomybė_ yra pagrindinės vertybės, ant kurių statomi kiti principai – todėl pradėkime nuo jų: -* [**Atsakomybė**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) užtikrina, kad specialistai būtų _atsakingi_ už savo duomenų ir DI veiksmus bei atitiktį šiems etikos principams. -* [**Skaidrumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) užtikrina, kad duomenų ir DI veiksmai būtų _suprantami_ vartotojams, paaiškinant, kas ir kodėl buvo nuspręsta. -* [**Teisingumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) – siekia užtikrinti, kad DI elgtųsi _teisingai su visais žmonėmis_, sprendžiant bet kokias sistemines ar implicitines šališkumo problemas duomenyse ir sistemose. -* [**Patikimumas ir saugumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – užtikrina, kad DI elgtųsi _nuosekliai_ su apibrėžtomis vertybėmis, sumažinant galimą žalą ar netyčines pasekmes. -* [**Privatumas ir saugumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – tai duomenų kilmės supratimas ir _duomenų privatumo bei susijusių apsaugų_ teikimas vartotojams. -* [**Įtrauktis**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – tai DI sprendimų kūrimas su intencija, pritaikant juos, kad jie atitiktų _platų žmonių poreikių ir gebėjimų spektrą_. +* [**Atsakomybė**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) užtikrina, kad praktikai būtų _atsakingi_ už savo duomenų ir AI operacijas bei laikymąsi šių etinių principų. +* [**Skaidrumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) užtikrina, kad duomenų ir AI veiksmai būtų _suprantami_ vartotojams, paaiškinant, kas ir kodėl priimami sprendimai. +* [**Teisingumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) – orientuojasi į tai, kad AI elgtųsi _teisingai su visais žmonėmis_, sprendžiant bet kokius sisteminius ar implicitinius socio-techninius šališkumus duomenyse ir sistemose. +* [**Patikimumas ir saugumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – užtikrina, kad AI elgtųsi _nuosekliai_ su apibrėžtomis vertybėmis, sumažinant galimą žalą ar netyčines pasekmes. +* [**Privatumas ir saugumas**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – tai duomenų kilmės supratimas ir _duomenų privatumo bei susijusių apsaugų_ suteikimas vartotojams. +* [**Įtrauktis**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) – tai AI sprendimų kūrimas su ketinimu, pritaikant juos _plačiam žmonių poreikių ir gebėjimų spektrui_. -> 🚨 Pagalvokite, kokia galėtų būti jūsų duomenų etikos misijos pareiškimas. Išnagrinėkite kitų organizacijų etinio DI sistemas – čia pateikiami pavyzdžiai iš [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) ir [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Kokias bendras vertybes jie turi? Kaip šie principai susiję su DI produktu ar pramone, kurioje jie veikia? +> 🚨 Pagalvokite, kokia galėtų būti jūsų duomenų etikos misijos pareiškimas. Išnagrinėkite kitų organizacijų etinio AI sistemas – čia pateikiami pavyzdžiai iš [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) ir [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Kokias bendras vertybes jie turi? Kaip šie principai susiję su AI produktu ar pramone, kurioje jie veikia? ### 2. Etikos iššūkiai -Kai turime apibrėžtus etikos principus, kitas žingsnis yra įvertinti mūsų duomenų ir DI veiksmus, siekiant nustatyti, ar jie atitinka šias bendras vertybes. Pagalvokite apie savo veiksmus dviejose kategorijose: _duomenų rinkimas_ ir _algoritmų kūrimas_. +Kai turime apibrėžtus etinius principus, kitas žingsnis yra įvertinti mūsų duomenų ir AI veiksmus, kad pamatytume, ar jie atitinka tas bendras vertybes. Pagalvokite apie savo veiksmus dviejose kategorijose: _duomenų rinkimas_ ir _algoritmų kūrimas_. -Renkant duomenis, veiksmai greičiausiai apims **asmeninius duomenis** arba asmeniškai identifikuojamą informaciją (PII), susijusią su atpažįstamais gyvais asmenimis. Tai apima [įvairius neasmeninių duomenų elementus](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), kurie _kartu_ gali identifikuoti asmenį. Etikos iššūkiai gali būti susiję su _duomenų privatumu_, _duomenų nuosavybe_ ir susijusiomis temomis, tokiomis kaip _informuotas sutikimas_ ir _intelektinės nuosavybės teisės_ vartotojams. +Renkant duomenis, veiksmai greičiausiai apims **asmeninius duomenis** arba asmeniškai identifikuojamą informaciją (PII), susijusią su identifikuojamais gyvais asmenimis. Tai apima [įvairius neasmeninių duomenų elementus](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), kurie _kolektyviai_ identifikuoja asmenį. Etikos iššūkiai gali būti susiję su _duomenų privatumu_, _duomenų nuosavybe_ ir susijusiomis temomis, tokiomis kaip _informuotas sutikimas_ ir _intelektinės nuosavybės teisės_ vartotojams. -Kuriant algoritmus, veiksmai apims **duomenų rinkinių** rinkimą ir tvarkymą, o tada jų naudojimą **duomenų modeliams** mokyti ir diegti, siekiant prognozuoti rezultatus arba automatizuoti sprendimus realiame kontekste. Etikos iššūkiai gali kilti dėl _rinkinio šališkumo_, _duomenų kokybės_ problemų, _neteisingumo_ ir _klaidingo atvaizdavimo_ algoritmuose – įskaitant kai kurias sistemines problemas. +Kuriant algoritmus, veiksmai apims **duomenų rinkinių** rinkimą ir kuravimą, o vėliau jų naudojimą **duomenų modelių** mokymui ir diegimui, kurie prognozuoja rezultatus arba automatizuoja sprendimus realiame kontekste. Etikos iššūkiai gali kilti dėl _duomenų rinkinio šališkumo_, _duomenų kokybės_ problemų, _neteisingumo_ ir _klaidingo atvaizdavimo_ algoritmuose – įskaitant kai kurias sistemines problemas. -Abiem atvejais etikos iššūkiai pabrėžia sritis, kuriose mūsų veiksmai gali prieštarauti mūsų bendroms vertybėms. Norėdami aptikti, sumažinti, sušvelninti ar pašalinti šias problemas, turime užduoti moralinius „taip/ne“ klausimus, susijusius su mūsų veiksmais, ir prireikus imtis korekcinių veiksmų. Pažvelkime į kai kuriuos etikos iššūkius ir moralinius klausimus, kuriuos jie kelia: +Abiem atvejais etikos iššūkiai pabrėžia sritis, kuriose mūsų veiksmai gali susidurti su konfliktu su bendromis vertybėmis. Norėdami aptikti, sumažinti, minimizuoti ar pašalinti šias problemas, turime užduoti moralinius „taip/ne“ klausimus, susijusius su mūsų veiksmais, ir prireikus imtis korekcinių veiksmų. Pažvelkime į kai kuriuos etikos iššūkius ir moralinius klausimus, kuriuos jie kelia: #### 2.1 Duomenų nuosavybė -Duomenų rinkimas dažnai apima asmeninius duomenis, kurie gali identifikuoti duomenų subjektus. [Duomenų nuosavybė](https://permission.io/blog/data-ownership) yra apie _kontrolę_ ir [_vartotojų teises_](https://permission.io/blog/data-ownership), susijusias su duomenų kūrimu, apdorojimu ir platinimu. +Duomenų rinkimas dažnai apima asmeninius duomenis, kurie gali identifikuoti duomenų subjektus. [Duomenų nuosavybė](https://permission.io/blog/data-ownership) yra apie _kontrolę_ ir [_vartotojų teises_](https://permission.io/blog/data-ownership), susijusias su duomenų kūrimu, apdorojimu ir sklaida. -Moraliniai klausimai, kuriuos turime užduoti: - * Kas valdo duomenis? (vartotojas ar organizacija) - * Kokias teises turi duomenų subjektai? (pvz., prieiga, ištrynimas, perkeliamumas) - * Kokias teises turi organizacijos? (pvz., taisyti kenksmingas vartotojų apžvalgas) +Moraliniai klausimai, kuriuos reikia užduoti: +* Kas valdo duomenis? (vartotojas ar organizacija) +* Kokias teises turi duomenų subjektai? (pvz., prieiga, ištrynimas, perkeliamumas) +* Kokias teises turi organizacijos? (pvz., taisyti kenksmingas vartotojų apžvalgas) #### 2.2 Informuotas sutikimas -[Informuotas sutikimas](https://legaldictionary.net/informed-consent/) apibrėžia veiksmą, kai vartotojai sutinka su veiksmu (pvz., duomenų rinkimu), turėdami _pilną supratimą_ apie svarbius faktus, įskaitant tikslą, galimą riziką ir alternatyvas. +[Informuotas sutikimas](https://legaldictionary.net/informed-consent/) apibrėžia vartotojų sutikimą veiksmui (pvz., duomenų rinkimui) su _pilnu supratimu_ apie svarbius faktus, įskaitant tikslą, galimas rizikas ir alternatyvas. Klausimai, kuriuos reikia nagrinėti: - * Ar vartotojas (duomenų subjektas) davė leidimą rinkti ir naudoti duomenis? - * Ar vartotojas suprato tikslą, dėl kurio buvo renkami duomenys? - * Ar vartotojas suprato galimą riziką, susijusią su jų dalyvavimu? +* Ar vartotojas (duomenų subjektas) davė leidimą duomenų rinkimui ir naudojimui? +* Ar vartotojas suprato tikslą, dėl kurio buvo surinkti duomenys? +* Ar vartotojas suprato galimas rizikas, susijusias su jų dalyvavimu? #### 2.3 Intelektinė nuosavybė -[Intelektinė nuosavybė](https://en.wikipedia.org/wiki/Intellectual_property) reiškia nematerialius kūrinius, atsiradusius dėl žmogaus iniciatyvos, kurie gali _turėti ekonominę vertę_ asmenims ar verslui. +[Intelektinė nuosavybė](https://en.wikipedia.org/wiki/Intellectual_property) reiškia nematerialius kūrinius, atsiradusius iš žmogaus iniciatyvos, kurie gali _turėti ekonominę vertę_ asmenims ar verslui. Klausimai, kuriuos reikia nagrinėti: - * Ar surinkti duomenys turėjo ekonominę vertę vartotojui ar verslui? - * Ar **vartotojas** turi intelektinę nuosavybę čia? - * Ar **organizacija** turi intelektinę nuosavybę čia? - * Jei šios teisės egzistuoja, kaip mes jas saugome? +* Ar surinkti duomenys turėjo ekonominę vertę vartotojui ar verslui? +* Ar **vartotojas** turi intelektinę nuosavybę čia? +* Ar **organizacija** turi intelektinę nuosavybę čia? +* Jei šios teisės egzistuoja, kaip jas saugome? #### 2.4 Duomenų privatumas -[Duomenų privatumas](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) arba informacijos privatumas reiškia vartotojų privatumo išsaugojimą ir jų tapatybės apsaugą, susijusią su asmeniškai identifikuojama informacija. +[Duomenų privatumas](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) arba informacijos privatumas reiškia vartotojų privatumo išsaugojimą ir vartotojų tapatybės apsaugą, susijusią su asmeniškai identifikuojama informacija. Klausimai, kuriuos reikia nagrinėti: - * Ar vartotojų (asmeniniai) duomenys yra apsaugoti nuo įsilaužimų ir nutekėjimų? - * Ar vartotojų duomenys yra prieinami tik įgaliotiems vartotojams ir kontekstams? - * Ar vartotojų anonimiškumas išsaugomas, kai duomenys yra dalijami ar platinami? - * Ar vartotojas gali būti deanonimizuotas iš anonimizuotų duomenų rinkinių? +* Ar vartotojų (asmeniniai) duomenys yra apsaugoti nuo įsilaužimų ir nutekėjimų? +* Ar vartotojų duomenys yra prieinami tik įgaliotiems vartotojams ir kontekstams? +* Ar vartotojų anonimiškumas išsaugomas, kai duomenys yra dalijami ar skleidžiami? +* Ar vartotojas gali būti deidentifikuotas iš anonimizuotų duomenų rinkinių? #### 2.5 Teisė būti pamirštam -[Teisė būti pamirštam](https://en.wikipedia.org/wiki/Right_to_be_forgotten) arba [teisė į ištrynimą](https://www.gdpreu.org/right-to-be-forgotten/) suteikia papildomą asmeninių duomenų apsaugą vartotojams. Konkrečiai, ji suteikia vartotojams teisę prašyti asmeninių duomenų ištrynimo ar pašalinimo iš interneto paieškų ir kitų vietų, _tam tikromis aplinkybėmis_ – leidžiant jiems pradėti iš naujo internete, nes jų praeities veiksmai nebūtų laikomi prieš juos. +[Teisė būti pamirštam](https://en.wikipedia.org/wiki/Right_to_be_forgotten) arba [Teisė į ištrynimą](https://www.gdpreu.org/right-to-be-forgotten/) suteikia papildomą asmeninių duomenų apsaugą vartotojams. Konkrečiai, tai suteikia vartotojams teisę prašyti asmeninių duomenų ištrynimo ar pašalinimo iš interneto paieškų ir kitų vietų, _tam tikromis aplinkybėmis_ – leidžiant jiems naują pradžią internete be praeities veiksmų, kurie galėtų būti laikomi prieš juos. Klausimai, kuriuos reikia nagrinėti: - * Ar sistema leidžia duomenų subjektams prašyti ištrynimo? - * Ar vartotojo sutikimo atšaukimas turėtų automatiškai sukelti ištrynimą? - * Ar duomenys buvo surinkti be sutikimo ar neteisėtomis priemonėmis? - * Ar mes laikomės vyriausybės reglamentų dėl duomenų privatumo? +* Ar sistema leidžia duomenų subjektams prašyti ištrynimo? +* Ar vartotojo sutikimo atšaukimas turėtų automatiškai sukelti ištrynimą? +* Ar duomenys buvo surinkti be sutikimo ar neteisėtais būdais? +* Ar mes laikomės vyriausybės reglamentų dėl duomenų privatumo? #### 2.6 Duomenų rinkinio šališkumas -Duomenų rinkinys arba [rinkimo š -[Algoritmų sąžiningumas](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) tikrina, ar algoritmų kūrimas sistemingai nediskriminuoja tam tikrų duomenų subjektų grupių, sukeldamas [galimą žalą](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) _paskirstymo_ (kai ištekliai atimami arba nesuteikiami tai grupei) ir _paslaugų kokybės_ (kai dirbtinis intelektas nėra toks tikslus kai kurioms grupėms kaip kitoms) srityse. +Duomenų rinkinio arba [rinkimo šališkumas](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) yra apie _nereprezentatyvaus_ du +[Algoritmų sąžiningumas](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) tikrina, ar algoritmų dizainas sistemingai nediskriminuoja tam tikrų duomenų subjektų grupių, sukeldamas [galimą žalą](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) _paskirstymo_ (kai ištekliai atimami arba nesuteikiami tai grupei) ir _paslaugų kokybės_ (kai AI nėra toks tikslus tam tikroms grupėms kaip kitoms) srityse. Klausimai, kuriuos verta apsvarstyti: * Ar įvertinome modelio tikslumą įvairioms grupėms ir sąlygoms? @@ -144,7 +144,7 @@ Klausimai, kuriuos verta apsvarstyti: * Ar pateikiame neišsamius ar netikslius duomenis? * Ar vizualizuojame duomenis taip, kad sukeltume klaidingas išvadas? * Ar naudojame selektyvius statistinius metodus rezultatams manipuliuoti? - * Ar yra alternatyvių paaiškinimų, kurie galėtų pateikti kitokią išvadą? + * Ar yra alternatyvių paaiškinimų, kurie galėtų pasiūlyti kitokią išvadą? #### 2.10 Laisvo pasirinkimo iliuzija @@ -153,25 +153,25 @@ Klausimai, kuriuos verta apsvarstyti: Klausimai, kuriuos verta apsvarstyti: * Ar vartotojas suprato, kokias pasekmes turi jo pasirinkimas? * Ar vartotojas buvo informuotas apie (alternatyvius) pasirinkimus ir jų privalumus bei trūkumus? - * Ar vartotojas gali vėliau atšaukti automatizuotą ar įtakotą pasirinkimą? + * Ar vartotojas gali vėliau pakeisti automatizuotą ar įtakotą pasirinkimą? ### 3. Atvejų analizės -Norint suprasti šiuos etikos iššūkius realiame pasaulyje, verta peržiūrėti atvejų analizes, kurios parodo galimą žalą ir pasekmes asmenims bei visuomenei, kai tokie etikos pažeidimai yra ignoruojami. +Norint suprasti šiuos etikos iššūkius realiame pasaulyje, verta pažvelgti į atvejų analizes, kurios parodo galimą žalą ir pasekmes asmenims bei visuomenei, kai tokie etikos pažeidimai yra ignoruojami. Štai keletas pavyzdžių: | Etikos iššūkis | Atvejo analizė | |--- |--- | | **Informuotas sutikimas** | 1972 m. - [Tuskegee sifilio tyrimas](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Afroamerikiečiai vyrai, dalyvavę tyrime, buvo pažadėti nemokama medicininė priežiūra, _bet buvo apgauti_ tyrėjų, kurie neinformavo jų apie diagnozę ar gydymo galimybes. Daugelis dalyvių mirė, o jų partneriai ar vaikai buvo paveikti; tyrimas truko 40 metų. | -| **Duomenų privatumas** | 2007 m. - [Netflix duomenų prizas](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) pateikė tyrėjams _10 mln. anonimizuotų filmų įvertinimų iš 50 tūkst. klientų_, siekiant pagerinti rekomendacijų algoritmus. Tačiau tyrėjai sugebėjo susieti anonimizuotus duomenis su asmeniškai identifikuojamais duomenimis iš _išorinių duomenų rinkinių_ (pvz., IMDb komentarų), efektyviai „deanonimizuodami“ kai kuriuos Netflix abonentus.| -| **Duomenų rinkimo šališkumas** | 2013 m. - Bostono miestas [sukūrė Street Bump](https://www.boston.gov/transportation/street-bump), programėlę, leidžiančią piliečiams pranešti apie duobes, suteikiant miestui geresnius duomenis apie kelių būklę. Tačiau [žmonės iš mažesnių pajamų grupių turėjo mažiau prieigos prie automobilių ir telefonų](https://hbr.org/2013/04/the-hidden-biases-in-big-data), todėl jų kelių problemos tapo nematomos šioje programėlėje. Kūrėjai bendradarbiavo su akademikais, kad spręstų _teisingos prieigos ir skaitmeninės atskirties_ klausimus. | -| **Algoritmų sąžiningumas** | 2018 m. - MIT [Gender Shades tyrimas](http://gendershades.org/overview.html) įvertino AI produktų tikslumą pagal lytį, atskleisdamas tikslumo spragas moterims ir spalvotiems žmonėms. [2019 m. Apple kortelė](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) atrodė, kad siūlo mažiau kredito moterims nei vyrams. Abu atvejai parodė algoritminio šališkumo problemas, sukeliančias socialinę ir ekonominę žalą.| -| **Netinkamas duomenų pateikimas** | 2020 m. - [Džordžijos sveikatos departamentas paskelbė COVID-19 diagramas](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), kurios atrodė klaidinančios piliečius apie patvirtintų atvejų tendencijas, pateikdamos nechronologinę x ašies tvarką. Tai iliustruoja netinkamą pateikimą naudojant vizualizacijos triukus. | -| **Laisvo pasirinkimo iliuzija** | 2020 m. - Mokymosi programėlė [ABCmouse sumokėjo 10 mln. dolerių, kad išspręstų FTC skundą](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), kai tėvai buvo priversti mokėti už prenumeratas, kurių negalėjo atšaukti. Tai iliustruoja tamsiuosius modelius pasirinkimo architektūrose, kur vartotojai buvo paskatinti priimti potencialiai žalingus sprendimus. | -| **Duomenų privatumas ir vartotojų teisės** | 2021 m. - Facebook [duomenų nutekėjimas](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) atskleidė 530 mln. vartotojų duomenis, dėl ko buvo skirta 5 mlrd. dolerių bauda FTC. Tačiau Facebook atsisakė informuoti vartotojus apie nutekėjimą, pažeisdama vartotojų teises į duomenų skaidrumą ir prieigą. | - -Norite sužinoti daugiau atvejų analizių? Peržiūrėkite šiuos šaltinius: +| **Duomenų privatumas** | 2007 m. - [Netflix duomenų prizas](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) pateikė tyrėjams _10 mln. anonimizuotų filmų įvertinimų iš 50 tūkst. klientų_, siekiant pagerinti rekomendacijų algoritmus. Tačiau tyrėjai sugebėjo susieti anonimizuotus duomenis su asmeniškai identifikuojamais duomenimis _išoriniuose duomenų rinkiniuose_ (pvz., IMDb komentarais), efektyviai „deanonimizuodami“ kai kuriuos Netflix abonentus.| +| **Duomenų rinkimo šališkumas** | 2013 m. - Bostono miestas [sukūrė Street Bump](https://www.boston.gov/transportation/street-bump), programėlę, leidžiančią piliečiams pranešti apie duobes, suteikiant miestui geresnius duomenis apie kelių būklę. Tačiau [žmonės iš mažesnių pajamų grupių turėjo mažiau prieigos prie automobilių ir telefonų](https://hbr.org/2013/04/the-hidden-biases-in-big-data), todėl jų kelių problemos tapo nematomos šioje programėlėje. Kūrėjai dirbo su akademikais, kad spręstų _teisingos prieigos ir skaitmeninės atskirties_ klausimus. | +| **Algoritmų sąžiningumas** | 2018 m. - MIT [Gender Shades tyrimas](http://gendershades.org/overview.html) įvertino AI produktų tikslumą pagal lytį, atskleidžiant netikslumus moterų ir spalvotų žmonių atžvilgiu. [2019 m. Apple kortelė](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) atrodė, kad siūlo mažiau kredito moterims nei vyrams. Abu atvejai parodė algoritminio šališkumo problemas, sukeliančias socialinę ir ekonominę žalą.| +| **Netinkamas duomenų pateikimas** | 2020 m. - [Džordžijos sveikatos departamentas paskelbė COVID-19 diagramas](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), kurios klaidino piliečius apie patvirtintų atvejų tendencijas, naudodamas nechronologinę x ašies tvarką. Tai iliustruoja netinkamą pateikimą per vizualizacijos triukus. | +| **Laisvo pasirinkimo iliuzija** | 2020 m. - Mokymosi programėlė [ABCmouse sumokėjo 10 mln. dolerių, kad išspręstų FTC skundą](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), kai tėvai buvo priversti mokėti už prenumeratas, kurių negalėjo atšaukti. Tai iliustruoja tamsiuosius modelius pasirinkimo architektūrose, kur vartotojai buvo nukreipti link galimai žalingų pasirinkimų. | +| **Duomenų privatumas ir vartotojų teisės** | 2021 m. - Facebook [duomenų nutekėjimas](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) atskleidė 530 mln. vartotojų duomenis, dėl ko buvo skirta 5 mlrd. dolerių bauda FTC. Tačiau Facebook atsisakė informuoti vartotojus apie nutekėjimą, pažeisdamas vartotojų teises į duomenų skaidrumą ir prieigą. | + +Norite daugiau atvejų analizių? Peržiūrėkite šiuos šaltinius: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - etikos dilemos įvairiose pramonės šakose. * [Duomenų mokslo etikos kursas](https://www.coursera.org/learn/data-science-ethics#syllabus) - svarbiausių atvejų analizės. * [Kur viskas nepavyko](https://deon.drivendata.org/examples/) - Deon kontrolinis sąrašas su pavyzdžiais. @@ -184,32 +184,32 @@ Mes aptarėme etikos sąvokas, iššūkius ir atvejų analizes realiame pasaulyj ### 1. Profesiniai kodeksai -Profesiniai kodeksai siūlo vieną iš būdų organizacijoms „skatinti“ narius palaikyti jų etikos principus ir misiją. Kodeksai yra _moralinės gairės_ profesiniam elgesiui, padedančios darbuotojams ar nariams priimti sprendimus, atitinkančius jų organizacijos principus. Jie yra veiksmingi tiek, kiek nariai savanoriškai jų laikosi; tačiau daugelis organizacijų siūlo papildomas paskatas ir bausmes, kad motyvuotų narius laikytis kodekso. +Profesiniai kodeksai siūlo vieną iš būdų organizacijoms „skatinti“ narius palaikyti jų etikos principus ir misiją. Kodeksai yra _moralinės gairės_ profesiniam elgesiui, padedančios darbuotojams ar nariams priimti sprendimus, atitinkančius organizacijos principus. Jie yra veiksmingi tiek, kiek nariai savanoriškai jų laikosi; tačiau daugelis organizacijų siūlo papildomas paskatas ir bausmes, kad motyvuotų narius laikytis kodekso. Pavyzdžiai: * [Oksfordo Miuncheno](http://www.code-of-ethics.org/code-of-conduct/) etikos kodeksas * [Duomenų mokslo asociacijos](http://datascienceassn.org/code-of-conduct.html) elgesio kodeksas (sukurtas 2013 m.) * [ACM etikos ir profesinio elgesio kodeksas](https://www.acm.org/code-of-ethics) (nuo 1993 m.) -> 🚨 Ar priklausote profesinei inžinerijos ar duomenų mokslo organizacijai? Peržiūrėkite jų svetainę, kad pamatytumėte, ar jie apibrėžia profesinį etikos kodeksą. Ką tai sako apie jų etikos principus? Kaip jie „skatina“ narius laikytis kodekso? +> 🚨 Ar priklausote profesinei inžinerijos ar duomenų mokslo organizacijai? Peržiūrėkite jų svetainę, kad sužinotumėte, ar jie apibrėžia profesinį etikos kodeksą. Ką tai sako apie jų etikos principus? Kaip jie „skatina“ narius laikytis kodekso? ### 2. Etikos kontroliniai sąrašai -Nors profesiniai kodeksai apibrėžia reikalaujamą _etišką elgesį_ specialistams, jie [turi žinomų apribojimų](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) vykdymo užtikrinime, ypač didelio masto projektuose. Vietoj to, daugelis duomenų mokslo ekspertų [rekomenduoja kontrolinius sąrašus](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), kurie gali **susieti principus su praktikomis** labiau apibrėžtais ir veiksmais pagrįstais būdais. +Nors profesiniai kodeksai apibrėžia reikalaujamą _etikos elgesį_ specialistams, jie [turi žinomų apribojimų](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) vykdymo užtikrinime, ypač didelio masto projektuose. Vietoj to, daugelis duomenų mokslo ekspertų [rekomenduoja kontrolinius sąrašus](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), kurie gali **susieti principus su praktikomis** labiau apibrėžtais ir veiksmais pagrįstais būdais. -Kontroliniai sąrašai paverčia klausimus „taip/ne“ užduotimis, kurias galima įgyvendinti, leidžiant jas stebėti kaip standartinių produktų išleidimo darbo eigų dalį. +Kontroliniai sąrašai paverčia klausimus „taip/ne“ užduotimis, kurias galima įgyvendinti, leidžiant juos stebėti kaip standartinių produktų išleidimo darbo eigų dalį. Pavyzdžiai: * [Deon](https://deon.drivendata.org/) - bendros paskirties duomenų etikos kontrolinis sąrašas, sukurtas remiantis [pramonės rekomendacijomis](https://deon.drivendata.org/#checklist-citations) su komandinės eilutės įrankiu lengvam integravimui. * [Privatumo audito kontrolinis sąrašas](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - pateikia bendras gaires informacijos tvarkymo praktikoms iš teisinės ir socialinės perspektyvos. - * [AI sąžiningumo kontrolinis sąrašas](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - sukurtas AI specialistų, siekiant palaikyti sąžiningumo patikrinimų integravimą į AI kūrimo ciklus. + * [AI sąžiningumo kontrolinis sąrašas](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - sukurtas AI specialistų, siekiant palaikyti sąžiningumo patikrinimų integraciją į AI kūrimo ciklus. * [22 klausimai apie etiką duomenyse ir AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - atviresnė sistema, skirta pradinei etikos klausimų analizei dizaino, įgyvendinimo ir organizaciniuose kontekstuose. ### 3. Etikos reguliavimas -Etika yra apie bendrų vertybių apibrėžimą ir teisingų veiksmų atlikimą _savanoriškai_. **Atitiktis** yra apie _įstatymų laikymąsi_, jei jie yra apibrėžti. **Valdymas** apima visas organizacijų veiklos formas, skirtas etikos principų įgyvendinimui ir nustatytų įstatymų laikymuisi. +Etika yra apie bendrų vertybių apibrėžimą ir teisingų veiksmų atlikimą _savanoriškai_. **Atitiktis** yra apie _įstatymų laikymąsi_, jei jie yra apibrėžti. **Valdymas** apima visas organizacijų veiklos formas, skirtas etikos principams įgyvendinti ir laikytis nustatytų įstatymų. -Šiandien valdymas organizacijose vyksta dviem formomis. Pirma, tai yra apie **etiško AI** principų apibrėžimą ir praktikų įgyvendinimą, siekiant užtikrinti jų taikymą visuose organizacijos AI projektuose. Antra, tai yra apie visų vyriausybės nustatytų **duomenų apsaugos reguliavimų** laikymąsi regionuose, kuriuose organizacija veikia. +Šiandien valdymas organizacijose vyksta dviem formomis. Pirma, tai yra apie **etinių AI** principų apibrėžimą ir praktikų nustatymą, siekiant užtikrinti jų taikymą visiems su AI susijusiems projektams organizacijoje. Antra, tai yra apie visų vyriausybės nustatytų **duomenų apsaugos reguliavimų** laikymąsi regionuose, kuriuose organizacija veikia. Duomenų apsaugos ir privatumo reguliavimo pavyzdžiai: @@ -220,23 +220,23 @@ Duomenų apsaugos ir privatumo reguliavimo pavyzdžiai: * `2018`, [Kalifornijos vartotojų privatumo aktas (CCPA)](https://www.oag.ca.gov/privacy/ccpa) suteikia vartotojams daugiau _teisių_ į jų (asmeninius) duomenis. * `2021`, Kinijos [Asmeninės informacijos apsaugos įstatymas](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) ką tik priimtas, sukuriantis vieną iš stipriausių internetinių duomenų privatumo reguliavimų pasaulyje. -> 🚨 Europos Sąjungos apibrėžtas GDPR (Bendrasis duomenų apsaugos reglamentas) išlieka vienu iš įtakingiausių duomenų privatumo reguliavimų šiandien. Ar žinojote, kad jis taip pat apibrėžia [8 vartotojų teises](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr), skirtas apsaugoti piliečių skaitmeninį privatumą ir asmens duomenis? Sužinokite, kokios jos yra ir kodėl jos svarbios. +> 🚨 Europos Sąjungos apibrėžtas GDPR (Bendrasis duomenų apsaugos reglamentas) išlieka vienu įtakingiausių duomenų privatumo reguliavimų šiandien. Ar žinojote, kad jis taip pat apibrėžia [8 vartotojų teises](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr), skirtas apsaugoti piliečių skaitmeninį privatumą ir asmens duomenis? Sužinokite, kokios jos yra ir kodėl jos svarbios. ### 4. Etikos kultūra -Atkreipkite dėmesį, kad vis dar egzistuoja nematomas atotrūkis tarp _atitikties_ (pakankamo veikimo pagal „įstatymo raidę“) ir [sisteminių problemų](https://www.coursera.org/learn/data-science-ethics/home/week/4) sprendimo (pvz., informacijos asimetrijos ir paskirstymo neteisingumo), kurios gali paspartinti AI ginklavimą. +Atkreipkite dėmesį, kad vis dar egzistuoja nematomas atotrūkis tarp _atitikties_ (pakankamo veikimo pagal „įstatymo raidę“) ir [sisteminių problemų](https://www.coursera.org/learn/data-science-ethics/home/week/4) sprendimo (pvz., ossifikacijos, informacijos asimetrijos ir paskirstymo neteisingumo), kurios gali paspartinti AI ginklavimą. -Pastarasis reikalauja [bendradarbiavimo metodų etikos kultūrų kūrimui](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), kurie užtikrina emocinius ryšius ir nuoseklias bendras vertybes _visose organizacijose_ pramonėje. Tai reikalauja daugiau [formalizuotų duomenų etikos kultūrų](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) organizacijose – leidžiant _bet kam_ [traukti Andon virvę](https://en.wikipedia.org/wiki/Andon_(manufacturing)) -* [Atsakingo dirbtinio intelekto principai](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - nemokamas mokymosi kelias iš Microsoft Learn. -* [Etika ir duomenų mokslas](https://resources.oreilly.com/examples/0636920203964) - O'Reilly elektroninė knyga (M. Loukides, H. Mason ir kt.) -* [Duomenų mokslo etika](https://www.coursera.org/learn/data-science-ethics#syllabus) - internetinis kursas iš Mičigano universiteto. -* [Etika atskleista](https://ethicsunwrapped.utexas.edu/case-studies) - atvejų analizės iš Teksaso universiteto. +Pastarasis reikalauja [bendradarbiavimo metodų etikos kultūrų apibrėžimui](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), kurie kuria emocinius ryšius ir nuoseklias bendras vertybes _visose organizacijose_ pramonėje. Tai reikalauja daugiau [formalizuotų duomenų etikos kultūrų](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) organizacijose – leidžiant _bet kam_ [traukti Andon virvę](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (kad anksti iškeltų +* [Atsakingo dirbtinio intelekto principai](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - nemokamas mokymosi kelias iš Microsoft Learn. +* [Etika ir duomenų mokslas](https://resources.oreilly.com/examples/0636920203964) - O'Reilly elektroninė knyga (M. Loukides, H. Mason ir kt.) +* [Duomenų mokslo etika](https://www.coursera.org/learn/data-science-ethics#syllabus) - internetinis kursas iš Mičigano universiteto. +* [Etika be užuolankų](https://ethicsunwrapped.utexas.edu/case-studies) - atvejų analizės iš Teksaso universiteto. -# Užduotis +# Užduotis -[Parašykite duomenų etikos atvejo analizę](assignment.md) +[Parašykite duomenų etikos atvejo analizę](assignment.md) --- **Atsakomybės apribojimas**: -Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą [Co-op Translator](https://github.com/Azure/co-op-translator). Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama naudoti profesionalų žmogaus vertimą. Mes neprisiimame atsakomybės už nesusipratimus ar klaidingus interpretavimus, atsiradusius dėl šio vertimo naudojimo. \ No newline at end of file +Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą [Co-op Translator](https://github.com/Azure/co-op-translator). Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar klaidingus interpretavimus, atsiradusius naudojant šį vertimą. \ No newline at end of file diff --git a/translations/mo/1-Introduction/02-ethics/README.md b/translations/mo/1-Introduction/02-ethics/README.md index a1b01633..6e75092b 100644 --- a/translations/mo/1-Introduction/02-ethics/README.md +++ b/translations/mo/1-Introduction/02-ethics/README.md @@ -1,31 +1,31 @@ # 資料倫理簡介 -|![ 由 [(@sketchthedocs)](https://sketchthedocs.dev) 繪製的手繪筆記 ](../../sketchnotes/02-Ethics.png)| +|![由 [(@sketchthedocs)](https://sketchthedocs.dev) 繪製的速寫筆記](../../sketchnotes/02-Ethics.png)| |:---:| -| 資料科學倫理 - _由 [@nitya](https://twitter.com/nitya) 繪製的手繪筆記_ | +| 資料科學倫理 - _由 [@nitya](https://twitter.com/nitya) 繪製的速寫筆記_ | --- -我們都是生活在數據化世界中的資料公民。 +我們都是生活在數據化世界中的數據公民。 -市場趨勢顯示，到2022年，三分之一的大型組織將通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)買賣數據。作為**應用程式開發者**，我們將更容易且更便宜地將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中。但隨著人工智慧（AI）的普及，我們也需要了解這些算法在大規模應用時可能帶來的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)危害。 +市場趨勢顯示，到2022年，每三家大型組織中就有一家會通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)購買和出售數據。作為**應用程式開發者**，我們會發現將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中變得更加容易和便宜。但隨著人工智慧的普及，我們也需要了解這些算法在大規模應用中可能造成的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)潛在危害。 -趨勢還顯示，到2025年，我們將創造並消耗超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**資料科學家**，這讓我們能夠前所未有地接觸到個人數據。這意味著我們可以建立用戶的行為檔案，並以某種方式影響決策，從而創造一種[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能將用戶推向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 +趨勢還顯示，到2025年，我們將創造和消耗超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**數據科學家**，這使我們能夠前所未有地接觸到個人數據。這意味著我們可以建立用戶的行為檔案，並以某些方式影響決策，創造一種[自由選擇的幻覺](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能引導用戶朝向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 -資料倫理現在是資料科學與工程的_必要防護措施_，幫助我們減少數據驅動行動可能帶來的潛在危害和意外後果。[Gartner AI 技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)將數字倫理、負責任的AI和AI治理列為推動AI_民主化_和_工業化_這兩大趨勢的關鍵驅動因素。 +數據倫理現在是數據科學和工程的_必要防護措施_，幫助我們減少數據驅動行動可能帶來的潛在危害和意外後果。[Gartner人工智慧技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)指出，數字倫理、負責任的人工智慧和人工智慧治理是推動人工智慧_民主化_和_工業化_等更大趨勢的關鍵驅動因素。 -![Gartner 2020年的AI技術成熟度曲線](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![Gartner 2020年人工智慧技術成熟度曲線](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -在這節課中，我們將探索資料倫理這個迷人的領域——從核心概念和挑戰，到案例研究和應用AI概念（如治理），幫助在處理數據和AI的團隊和組織中建立倫理文化。 +在本課程中，我們將探索數據倫理的迷人領域——從核心概念和挑戰，到案例研究和應用人工智慧概念（如治理），幫助在處理數據和人工智慧的團隊和組織中建立倫理文化。 ## [課前測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -33,236 +33,236 @@ CO_OP_TRANSLATOR_METADATA: 讓我們先了解一些基本術語。 -「倫理」一詞來自[希臘語 "ethikos"](https://en.wikipedia.org/wiki/Ethics)（及其詞根 "ethos"），意為_品格或道德本質_。 +"倫理"一詞源自[希臘語 "ethikos"](https://en.wikipedia.org/wiki/Ethics)（及其根源 "ethos"），意為_品格或道德本質_。 -**倫理**是指在社會中規範我們行為的共同價值觀和道德原則。倫理並非基於法律，而是基於廣泛接受的「對與錯」的標準。然而，倫理考量可以影響企業治理舉措和政府法規，從而創造更多遵從的激勵措施。 +**倫理**是指在社會中指導我們行為的共同價值觀和道德原則。倫理不是基於法律，而是基於廣泛接受的"對與錯"的規範。然而，倫理考量可以影響企業治理倡議和政府法規，從而創造更多遵守的激勵措施。 -**資料倫理**是一個[新的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，研究和評估與_數據、算法及相關實踐_相關的道德問題。在這裡，**「數據」**側重於生成、記錄、管理、處理、傳播、共享和使用的行為，**「算法」**側重於AI、代理、機器學習和機器人，**「實踐」**則側重於負責任的創新、編程、駭客行為和倫理守則等主題。 +**數據倫理**是一個[新興的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，研究和評估與_數據、算法及相關實踐_相關的道德問題。在這裡，**"數據"**專注於生成、記錄、策劃、處理、傳播、共享和使用的行動，**"算法"**專注於人工智慧、代理、機器學習和機器人，**"實踐"**專注於負責任的創新、編程、駭客行為和倫理守則等主題。 -**應用倫理**是[道德考量的實際應用](https://en.wikipedia.org/wiki/Applied_ethics)。它是積極調查_現實世界行動、產品和流程_中的倫理問題，並採取糾正措施以確保這些行為與我們定義的倫理價值保持一致的過程。 +**應用倫理**是[道德考量的實際應用](https://en.wikipedia.org/wiki/Applied_ethics)。它是積極調查_現實世界行動、產品和流程_中的倫理問題，並採取糾正措施以確保這些行動與我們定義的倫理價值保持一致的過程。 -**倫理文化**是關於[將應用倫理_操作化_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，以確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採用。成功的倫理文化會定義全組織的倫理原則，提供有意義的遵從激勵，並通過鼓勵和放大組織各層級的期望行為來強化倫理規範。 +**倫理文化**是關於[_操作化_應用倫理](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採用。成功的倫理文化定義了全組織範圍的倫理原則，提供有意義的遵守激勵措施，並通過鼓勵和放大每個層級的期望行為來加強倫理規範。 ## 倫理概念 -在本節中，我們將討論**共同價值觀**（原則）和**倫理挑戰**（問題）等資料倫理概念，並通過**案例研究**幫助您在現實世界的背景中理解這些概念。 +在本節中，我們將討論**共同價值觀**（原則）和**倫理挑戰**（問題）等數據倫理概念，並探索**案例研究**，幫助您在現實世界的背景中理解這些概念。 ### 1. 倫理原則 -每個資料倫理策略都始於定義_倫理原則_——描述可接受行為並指導我們在數據和AI項目中的合規行動的「共同價值觀」。您可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在公司層面定義這些原則，並在所有團隊中一致執行，通常以_倫理AI_使命聲明或框架的形式呈現。 +每個數據倫理策略都始於定義_倫理原則_——描述可接受行為並指導數據和人工智慧項目中合規行動的"共同價值觀"。您可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在企業層面定義一個_倫理人工智慧_使命聲明或框架，並在所有團隊中一致執行。 -**範例：** 微軟的[負責任AI](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_「我們致力於推動以將人放在首位的倫理原則為基礎的AI發展」_，並在以下框架中確定了6個倫理原則： +**範例：** 微軟的[負責任人工智慧](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_"我們致力於推動以倫理原則為基礎的人工智慧，將人放在首位"_，並在以下框架中確定了六個倫理原則： -![微軟的負責任AI框架](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![微軟的負責任人工智慧](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -讓我們簡要探討這些原則。_透明性_和_問責性_是其他原則的基石，因此我們從這裡開始： +讓我們簡要探討這些原則。_透明性_和_問責性_是其他原則的基礎價值觀，因此我們從這裡開始： -* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使從業者對其數據和AI操作以及對這些倫理原則的遵守負責。 -* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保數據和AI行動對用戶是_可理解的_（可解釋的），解釋決策背後的原因和內容。 -* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——確保AI對_所有人_公平對待，解決數據和系統中的任何系統性或隱性社會技術偏見。 -* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保AI行為與定義的價值觀_一致_，最大限度地減少潛在危害或意外後果。 +* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使實踐者對其數據和人工智慧操作以及遵守這些倫理原則負責。 +* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保數據和人工智慧行動對用戶是_可理解的_（可解釋的），解釋決策背後的內容和原因。 +* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——專注於確保人工智慧公平對待_所有人_，解決數據和系統中的系統性或隱性社會技術偏見。 +* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保人工智慧以_一致性_的方式行事，減少潛在危害或意外後果。 * [**隱私與安全**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——關注數據來源的理解，並為用戶提供_數據隱私及相關保護_。 -* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——有意設計AI解決方案，適應_廣泛的人類需求_和能力。 +* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——專注於有意設計人工智慧解決方案，並使其適應_廣泛的人類需求_和能力。 -> 🚨 想一想您的資料倫理使命聲明可能是什麼。探索其他組織的倫理AI框架——這裡有來自[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的範例。它們有哪些共同的價值觀？這些原則如何與它們所處的AI產品或行業相關？ +> 🚨 思考您的數據倫理使命聲明可能是什麼。探索其他組織的倫理人工智慧框架——以下是[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的範例。他們有哪些共同的價值觀？這些原則如何與他們所運營的人工智慧產品或行業相關？ ### 2. 倫理挑戰 -一旦我們定義了倫理原則，下一步就是評估我們的數據和AI行動是否與這些共同價值觀一致。考慮您的行動可以分為兩類：_數據收集_和_算法設計_。 +一旦我們定義了倫理原則，下一步就是評估我們的數據和人工智慧行動是否符合這些共同價值觀。思考您的行動可以分為兩類：_數據收集_和_算法設計_。 -在數據收集方面，行動可能涉及**個人數據**或可識別的個人信息（PII），這些信息可以識別特定的活人個體。這包括[多樣的非個人數據項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些數據_集合起來_可以識別一個人。倫理挑戰可能涉及_數據隱私_、_數據所有權_以及相關主題，如_知情同意_和_用戶的知識產權_。 +在數據收集方面，行動可能涉及**個人數據**或可識別的個人信息（PII），這些信息可以識別活著的個人。這包括[多樣化的非個人數據項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些數據_共同_識別一個人。倫理挑戰可能涉及_數據隱私_、_數據所有權_以及相關主題，如_知情同意_和用戶的_知識產權權利_。 -在算法設計方面，行動將涉及收集和管理**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能來自_數據集偏見_、_數據質量_問題、_不公平性_和算法中的_誤導性_，包括一些系統性問題。 +在算法設計方面，行動將涉及收集和策劃**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能源於_數據集偏見_、_數據質量_問題、_不公平性_和算法中的_誤導性_，包括一些系統性問題。 -在這兩種情況下，倫理挑戰突出了我們的行動可能與共同價值觀發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對我們的行動提出道德上的「是/否」問題，然後根據需要採取糾正措施。讓我們來看看一些倫理挑戰及其引發的道德問題： +在這兩種情況下，倫理挑戰突出了我們的行動可能與共同價值觀發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對行動提出道德的"是/否"問題，然後根據需要採取糾正措施。讓我們看看一些倫理挑戰及其引發的道德問題： #### 2.1 數據所有權 -數據收集通常涉及可識別數據主體的個人數據。[數據所有權](https://permission.io/blog/data-ownership)關注與數據創建、處理和傳播相關的_控制權_和[用戶權利](https://permission.io/blog/data-ownership)。 +數據收集通常涉及可識別數據主體的個人數據。[數據所有權](https://permission.io/blog/data-ownership)是關於與數據的創建、處理和傳播相關的_控制_和[_用戶權利_](https://permission.io/blog/data-ownership)。 需要提出的道德問題包括： - * 誰擁有數據？（用戶還是組織） - * 數據主體擁有哪些權利？（例如：訪問、刪除、可攜性） - * 組織擁有哪些權利？（例如：糾正惡意用戶評論） +* 誰擁有數據？（用戶或組織） +* 數據主體擁有哪些權利？（例如：訪問、刪除、可攜性） +* 組織擁有哪些權利？（例如：糾正惡意用戶評論） #### 2.2 知情同意 -[知情同意](https://legaldictionary.net/informed-consent/)指用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下，同意某項行動（如數據收集）。 +[知情同意](https://legaldictionary.net/informed-consent/)指用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下同意某項行動（如數據收集）。 需要探討的問題包括： - * 用戶（數據主體）是否同意數據的收集和使用？ - * 用戶是否了解數據收集的目的？ - * 用戶是否了解參與可能帶來的潛在風險？ +* 用戶（數據主體）是否允許數據的捕獲和使用？ +* 用戶是否理解捕獲數據的目的？ +* 用戶是否理解參與可能帶來的潛在風險？ #### 2.3 知識產權 [知識產權](https://en.wikipedia.org/wiki/Intellectual_property)指由人類創造的無形產物，可能對個人或企業具有_經濟價值_。 需要探討的問題包括： - * 收集的數據是否對用戶或企業具有經濟價值？ - * **用戶**是否擁有這裡的知識產權？ - * **組織**是否擁有這裡的知識產權？ - * 如果這些權利存在，我們如何保護它們？ +* 收集的數據是否對用戶或企業具有經濟價值？ +* **用戶**是否擁有知識產權？ +* **組織**是否擁有知識產權？ +* 如果存在這些權利，我們如何保護它們？ #### 2.4 數據隱私 -[數據隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指保護用戶隱私和身份，特別是與可識別個人信息相關的保護。 +[數據隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指保護用戶隱私和身份，特別是與可識別個人信息相關的部分。 需要探討的問題包括： - * 用戶的（個人）數據是否安全，防止駭客攻擊和洩露？ - * 用戶的數據是否僅限於授權用戶和上下文訪問？ - * 在數據共享或傳播時，用戶的匿名性是否得到保護？ - * 用戶是否可以從匿名數據集中被重新識別？ +* 用戶的（個人）數據是否防止駭客攻擊和洩漏？ +* 用戶的數據是否僅在授權的用戶和情境中可訪問？ +* 用戶的匿名性是否在數據共享或傳播時得到保護？ +* 用戶是否可以從匿名數據集中被去識別？ -#### 2.5 被遺忘權 +#### 2.5 被遺忘的權利 -[被遺忘權](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人數據保護。具體來說，它賦予用戶在特定情況下請求刪除或移除個人數據的權利，允許他們在網上獲得一個新的開始，而不會因過去的行為受到影響。 +[被遺忘的權利](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人數據保護。具體而言，它賦予用戶在特定情況下要求刪除或移除個人數據的權利，允許他們在網上重新開始，而不受過去行動的影響。 需要探討的問題包括： - * 系統是否允許數據主體請求刪除？ - * 用戶撤回同意是否應觸發自動刪除？ - * 數據是否在未經同意或非法手段下收集？ - * 我們是否符合政府對數據隱私的法規？ +* 系統是否允許數據主體請求刪除？ +* 用戶撤回同意是否應觸發自動刪除？ +* 是否存在未經同意或非法手段收集的數據？ +* 我們是否符合政府對數據隱私的法規？ #### 2.6 數據集偏見 -數據集或[收集偏見](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指為算法開發選擇了一個_非代表性_的數據子集，可能導致對不同群體的結果不公平。偏見類型包括選擇或抽樣偏見、志願者偏見和工具偏見。 +數據集或[收集偏見](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指選擇_非代表性_的數據子集進行算法開發，可能導致對不同群體的結果不公平。偏見類型包括選擇或抽樣偏見、志願者偏見和工具偏見。 需要探討的問題包括： - * 我們是否招募了一個具有代表性的數據主體集合？ - * 我們是否測試了收集或管理的數據集中的各種偏見？ - * 我們是否可以減輕或消除發現的偏見？ +* 我們是否招募了代表性數據主體？ +* 我們是否測試了收集或策劃的數據集以檢測各種偏見？ +* 我們是否能減輕或消除發現的偏見？ #### 2.7 數據質量 -[數據質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的數據集的有效性，確保特徵和記錄符合我們AI目的所需的準確性和一致性要求。 +[數據質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的策劃數據集的有效性，確保特徵和記錄符合人工智慧目的所需的準確性和一致性要求。 需要探討的問題包括： - * 我們是否捕獲了適合我們用例的有效_特徵_？ - * 數據是否在不同數據來源中_一致_地捕獲？ - * 數據集是否_完整_，涵蓋多樣條件或場景？ - * 捕獲的信息是否_準確_地反映了現實？ +* 我們是否捕獲了適合我們用例的有效_特徵_？ +* 數據是否在不同數據來源中_一致性_地捕獲？ +* 數據集是否_完整_，涵蓋不同條件或場景？ +* 捕獲的信息是否_準確_地反映了現實？ #### 2.8 算法公平性 -[演算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) 是檢查演算法設計是否系統性地對特定數據主體的子群體造成歧視，進而導致在資源分配（_allocation_，如資源被拒絕或扣留）和服務質量（_quality of service_，如 AI 對某些子群體的準確性不如其他群體）方面的[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 +[演算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) 是檢查演算法設計是否系統性地對特定數據主體的子群體造成歧視，導致在資源分配（_allocation_，例如資源被拒絕或扣留）和服務品質（_quality of service_，例如 AI 對某些子群體的準確性不如其他群體）方面的[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 需要探討的問題包括： * 我們是否評估了模型在不同子群體和條件下的準確性？ - * 我們是否仔細檢查了系統可能帶來的傷害（例如，刻板印象）？ + * 我們是否仔細檢查了系統可能造成的傷害（例如刻板印象）？ * 我們是否可以修正數據或重新訓練模型以減輕已識別的傷害？ 探索像 [AI 公平性檢查清單](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) 這樣的資源以了解更多。 #### 2.9 錯誤呈現 -[數據錯誤呈現](https://www.sciencedirect.com/topics/computer-science/misrepresentation) 是指我們是否以欺騙的方式傳達來自誠實報告數據的洞見，以支持某種期望的敘述。 +[數據錯誤呈現](https://www.sciencedirect.com/topics/computer-science/misrepresentation) 是指我們是否以欺騙的方式傳達來自誠實報告數據的洞察，以支持某種期望的敘述。 需要探討的問題包括： * 我們是否報告了不完整或不準確的數據？ - * 我們是否以誤導結論的方式可視化數據？ - * 我們是否使用選擇性的統計技術來操縱結果？ - * 是否存在可能提供不同結論的替代解釋？ + * 我們是否以誤導性結論的方式可視化數據？ + * 我們是否使用選擇性的統計技術來操控結果？ + * 是否存在其他可能提供不同結論的解釋？ #### 2.10 自由選擇 -[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) 發生在系統的「選擇架構」使用決策演算法來引導人們選擇某種偏好的結果，同時表面上給予他們選擇和控制的權利。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行動可能會驅動未來的選擇，進一步放大或延續這些傷害的影響。 +[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) 是指系統的「選擇架構」使用決策演算法來引導人們選擇偏好的結果，同時看似給予他們選擇和控制的自由。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行動可能驅動未來的選擇，進一步放大或延伸這些傷害的影響。 需要探討的問題包括： * 用戶是否理解做出該選擇的影響？ * 用戶是否了解（替代）選擇及其各自的優缺點？ - * 用戶是否可以在之後撤銷自動化或受影響的選擇？ + * 用戶是否能夠在事後逆轉自動化或受影響的選擇？ ### 3. 案例研究 -將這些倫理挑戰放在現實世界的背景中，幫助我們了解當忽視這些倫理問題時，對個人和社會可能造成的潛在傷害和後果。 +為了將這些倫理挑戰放在真實世界的背景中，研究案例有助於了解當忽視這些倫理問題時，可能對個人和社會造成的傷害和後果。 以下是一些例子： | 倫理挑戰 | 案例研究 | |--- |--- | -| **知情同意** | 1972 年 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙他們，未告知診斷或治療的可用性。許多受試者因此死亡，伴侶或子女也受到影響；該研究持續了 40 年。 | -| **數據隱私** | 2007 年 - [Netflix 數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) 向研究人員提供了 _10M 來自 50K 客戶的匿名電影評分_，以改進推薦演算法。然而，研究人員能夠將匿名數據與外部數據集（如 IMDb 評論）中的個人身份數據相關聯，實際上「去匿名化」了一些 Netflix 訂閱者。| -| **收集偏差** | 2013 年 - 波士頓市[開發了 Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告坑洞的應用程式，幫助城市獲取更好的道路數據以解決問題。然而，[低收入群體的人們較少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在該應用程式中不可見。開發者與學者合作解決公平性問題，如數位鴻溝和公平訪問。 | -| **演算法公平性** | 2018 年 - MIT [Gender Shades 研究](http://gendershades.org/overview.html) 評估了性別分類 AI 產品的準確性，揭示了對女性和有色人種準確性不足的問題。一個 [2019 年 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) 似乎給女性提供的信用額度低於男性。這兩個例子都說明了演算法偏差導致的社會經濟傷害問題。| -| **數據錯誤呈現** | 2020 年 - [喬治亞州公共衛生部發布的 COVID-19 圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) 似乎通過非時間順序的 x 軸排序誤導公民關於確診病例趨勢的理解。這說明了通過可視化技巧進行的錯誤呈現。 | -| **自由選擇的假象** | 2020 年 - 學習應用程式 [ABCmouse 支付 1000 萬美元解決 FTC 投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被困於無法取消的訂閱中。這說明了選擇架構中的黑暗模式，導致用戶被引導做出可能有害的選擇。 | -| **數據隱私與用戶權利** | 2021 年 - Facebook [數據洩露](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 暴露了 5.3 億用戶的數據，導致向 FTC 支付 50 億美元的和解金。然而，它拒絕通知用戶洩露事件，違反了用戶關於數據透明性和訪問的權利。 | +| **知情同意** | 1972 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙了受試者，未告知他們的診斷或治療的可用性。許多受試者死亡，伴侶或子女受到影響；研究持續了40年。 | +| **數據隱私** | 2007 - [Netflix數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) 向研究人員提供了_50K客戶的10M匿名電影評分_以改進推薦演算法。然而，研究人員能夠將匿名數據與外部數據集（例如IMDb評論）中的個人身份數據相關聯，實際上「去匿名化」了一些Netflix訂閱者。| +| **收集偏差** | 2013 - 波士頓市[開發了Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告路面坑洞的應用程式，幫助城市獲得更好的道路數據以發現和修復問題。然而，[低收入群體的人們較少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在此應用程式中不可見。開發者與學者合作解決_公平性和數字鴻溝_問題。 | +| **演算法公平性** | 2018 - MIT [Gender Shades研究](http://gendershades.org/overview.html) 評估了性別分類AI產品的準確性，揭示了對女性和有色人種準確性上的差距。一個[2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) 似乎給女性的信用額度低於男性。這兩者都說明了演算法偏差導致的社會經濟傷害問題。| +| **數據錯誤呈現** | 2020 - [喬治亞州公共衛生部發布COVID-19圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)，圖表似乎通過非時間順序的x軸排列誤導公民關於確診病例趨勢的理解。這說明了通過可視化技巧進行的錯誤呈現。 | +| **自由選擇的假象** | 2020 - 學習應用程式[ABCmouse支付了$10M以解決FTC投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被困於無法取消的訂閱付款中。這說明了選擇架構中的黑暗模式，導致用戶被引導做出可能有害的選擇。 | +| **數據隱私與用戶權利** | 2021 - Facebook [數據洩漏](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 暴露了530M用戶的數據，導致向FTC支付了$5B的和解金。然而，它拒絕通知用戶洩漏事件，違反了用戶關於數據透明性和訪問的權利。 | 想探索更多案例研究？查看以下資源： * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - 涵蓋多個行業的倫理困境。 * [數據科學倫理課程](https://www.coursera.org/learn/data-science-ethics#syllabus) - 探討標誌性案例研究。 -* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon 清單中的示例。 +* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon清單中的案例示例。 -> 🚨 想想你見過的案例研究——你是否曾經歷過或受到類似倫理挑戰的影響？你能想到至少一個其他案例來說明我們在本節中討論的倫理挑戰嗎？ +> 🚨 思考你所見過的案例研究——你是否曾經經歷過或受到類似倫理挑戰的影響？你能否想到至少一個其他案例研究來說明我們在本節中討論的倫理挑戰之一？ ## 應用倫理 -我們已經討論了倫理概念、挑戰以及現實世界中的案例研究。但我們如何開始在項目中_應用_倫理原則和實踐？我們又如何_實現_這些實踐以改進治理？讓我們來探索一些現實世界的解決方案： +我們已經討論了倫理概念、挑戰以及真實世界背景中的案例研究。但我們如何開始在項目中_應用_倫理原則和實踐？以及如何_實現_這些實踐以改善治理？讓我們探索一些真實世界的解決方案： ### 1. 專業守則 -專業守則為組織提供了一種選擇，通過「激勵」成員支持其倫理原則和使命聲明。守則是專業行為的_道德指導方針_，幫助員工或成員做出符合組織原則的決策。它的效力取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰來激勵成員遵守。 +專業守則為組織提供了一種選擇，用於「激勵」成員支持其倫理原則和使命聲明。守則是專業行為的_道德指南_，幫助員工或成員做出符合組織原則的決策。它的效果取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰以激勵成員遵守。 示例包括： * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) 倫理守則 - * [數據科學協會](http://datascienceassn.org/code-of-conduct.html) 行為守則（2013 年創建） - * [ACM 倫理與專業行為守則](https://www.acm.org/code-of-ethics)（自 1993 年起） + * [數據科學協會](http://datascienceassn.org/code-of-conduct.html) 行為守則（創建於2013年） + * [ACM倫理守則與專業行為守則](https://www.acm.org/code-of-ethics)（自1993年起） > 🚨 你是否屬於某個專業工程或數據科學組織？探索他們的網站，看看是否定義了專業倫理守則。這些守則說明了哪些倫理原則？他們如何「激勵」成員遵守守則？ -### 2. 倫理清單 +### 2. 倫理檢查清單 -雖然專業守則定義了從業者所需的_倫理行為_，但它們在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大規模項目中。因此，許多數據科學專家[提倡使用清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，這些清單可以將原則與實踐**聯繫起來**，以更具決定性和可操作的方式。 +雖然專業守則定義了從業者所需的_倫理行為_，但它在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大型項目中。因此，許多數據科學專家[提倡使用檢查清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，這些清單可以**將原則與實踐**更具決定性地聯繫起來。 -清單將問題轉化為「是/否」任務，可以被操作化，並作為標準產品發布工作流程的一部分進行跟蹤。 +檢查清單將問題轉化為「是/否」任務，可以操作化，並允許它們作為標準產品發布工作流程的一部分進行跟蹤。 示例包括： - * [Deon](https://deon.drivendata.org/) - 一個通用數據倫理清單，由[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於整合。 - * [隱私審核清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會曝光的角度提供信息處理實踐的一般指導。 - * [AI 公平性清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由 AI 從業者創建，用於支持公平性檢查的採用和整合到 AI 開發週期中。 - * [數據與 AI 倫理的 22 個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放的框架，結構化用於設計、實施和組織背景下倫理問題的初步探索。 + * [Deon](https://deon.drivendata.org/) - 一個通用數據倫理檢查清單，由[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於集成。 + * [隱私審核檢查清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會暴露的角度提供信息處理實踐的一般指導。 + * [AI公平性檢查清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由AI從業者創建，用於支持公平性檢查的採用和集成到AI開發週期中。 + * [數據與AI倫理的22個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放式的框架，結構化用於設計、實施和組織背景中的倫理問題初步探索。 ### 3. 倫理法規 -倫理是關於定義共同價值觀並_自願_做正確的事情。**合規**是指在有法律規定的情況下_遵守法律_。**治理**則廣泛涵蓋了組織運營以執行倫理原則並遵守既定法律的所有方式。 +倫理是關於定義共享價值並自願做正確的事情。**合規**是指在法律定義的情況下_遵守法律_。**治理**則涵蓋了組織運作以執行倫理原則並遵守既定法律的所有方式。 -如今，治理在組織內有兩種形式。首先，它是關於定義**倫理 AI** 原則並建立實踐，以在組織內的所有 AI 相關項目中實現採用。其次，它是關於遵守其運營地區的所有政府規定的**數據保護法規**。 +今天，治理在組織內有兩種形式。首先，它是關於定義**倫理AI**原則並建立實踐以操作化採用，涵蓋組織內所有與AI相關的項目。其次，它是關於遵守所有政府規定的**數據保護法規**，適用於其運營的地區。 數據保護和隱私法規的示例： - * `1974`，[美國隱私法案](https://www.justice.gov/opcl/privacy-act-1974) - 規範_聯邦政府_對個人信息的收集、使用和披露。 - * `1996`，[美國健康保險攜帶與責任法案 (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 保護個人健康數據。 - * `1998`，[美國兒童在線隱私保護法案 (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 保護 13 歲以下兒童的數據隱私。 - * `2018`，[通用數據保護條例 (GDPR)](https://gdpr-info.eu/) - 提供用戶權利、數據保護和隱私。 - * `2018`，[加州消費者隱私法案 (CCPA)](https://www.oag.ca.gov/privacy/ccpa) - 賦予消費者更多對其（個人）數據的_權利_。 + * `1974`，[美國隱私法案](https://www.justice.gov/opcl/privacy-act-1974) - 規範_聯邦政府_收集、使用和披露個人信息。 + * `1996`，[美國健康保險攜帶與責任法案（HIPAA）](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 保護個人健康數據。 + * `1998`，[美國兒童在線隱私保護法案（COPPA）](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 保護13歲以下兒童的數據隱私。 + * `2018`，[通用數據保護法規（GDPR）](https://gdpr-info.eu/) - 提供用戶權利、數據保護和隱私。 + * `2018`，[加州消費者隱私法案（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 賦予消費者更多關於其（個人）數據的_權利_。 * `2021`，中國[個人信息保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) 剛剛通過，創造了全球最強的在線數據隱私法規之一。 -> 🚨 歐盟定義的 GDPR（通用數據保護條例）仍然是當今最具影響力的數據隱私法規之一。你知道它還定義了[8 項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)來保護公民的數字隱私和個人數據嗎？了解這些權利是什麼以及它們為什麼重要。 +> 🚨 歐盟定義的GDPR（通用數據保護法規）仍然是今天最具影響力的數據隱私法規之一。你知道它還定義了[8項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)以保護公民的數字隱私和個人數據嗎？了解這些權利是什麼以及它們為什麼重要。 ### 4. 倫理文化 -需要注意的是，_合規_（做到足以滿足「法律條文」）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（如僵化、信息不對稱和分配不公平）之間仍然存在無形的差距，而這些問題可能加速 AI 的武器化。 +注意，_合規_（僅僅滿足「法律條文」的要求）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（例如僵化、信息不對稱和分配不公平）之間仍然存在無形的差距，這些問題可能加速AI的武器化。 -後者需要[協作方式來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，以在行業內建立情感聯繫和一致的共同價值觀。這需要在組織內建立更多[正式化的數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)——允許_任何人_ [拉動安燈繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（在過程早期提出倫理問題），並將_倫理評估_（例如，在招聘中）作為 AI 項目團隊組建的核心標準。 +後者需要[協作方式來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，在行業內建立情感聯繫和一致的共享價值。這需要在組織內[正式化數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)——允許_任何人_ [拉動安燈繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（在過程早期提出倫理問題），並將_倫理評估_（例如在招聘中）作為AI項目團隊組建的核心標準。 --- -## [課後測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 -## 回顧與自學 +## [課後測驗](https://ff-quizzes.netlify.app/en/ds/) 🎯 +## 回顧與自學 -課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具則有助於在現實世界中應用倫理實踐。以下是一些入門資源： +課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具有助於在真實世界背景中應用倫理實踐。以下是一些入門資源。 -* [機器學習初學者](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - 來自 Microsoft 的公平性課程。 -* [負責任 AI 的原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn 提供的免費學習路徑。 +* [初學者的機器學習](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - 來自Microsoft的公平性課程。 +* [負責任人工智慧的原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn 提供的免費學習路徑。 * [倫理與數據科學](https://resources.oreilly.com/examples/0636920203964) - O'Reilly 電子書 (M. Loukides, H. Mason 等人著) * [數據科學倫理](https://www.coursera.org/learn/data-science-ethics#syllabus) - 密西根大學提供的線上課程。 -* [倫理解密](https://ethicsunwrapped.utexas.edu/case-studies) - 德州大學的案例研究。 +* [倫理解讀](https://ethicsunwrapped.utexas.edu/case-studies) - 德州大學的案例研究。 # 作業 -[撰寫一篇數據倫理案例研究](assignment.md) +[撰寫數據倫理案例研究](assignment.md) --- **免責聲明**： -本文件已使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解讀概不負責。 \ No newline at end of file +本文件已使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。雖然我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵資訊，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或誤釋不承擔責任。 \ No newline at end of file diff --git a/translations/mr/1-Introduction/02-ethics/README.md b/translations/mr/1-Introduction/02-ethics/README.md index cfdd0320..2bb3bb0c 100644 --- a/translations/mr/1-Introduction/02-ethics/README.md +++ b/translations/mr/1-Introduction/02-ethics/README.md @@ -1,241 +1,258 @@ -# डेटा नीतिशास्त्राची ओळख +# डेटा नैतिकतेची ओळख |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| डेटा सायन्स नीतिशास्त्र - _[@nitya](https://twitter.com/nitya) यांचे स्केच_ | +| डेटा सायन्स नैतिकता - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | --- -आपण सर्वजण डेटा-आधारित जगात राहणारे डेटा नागरिक आहोत. +आपण सर्वजण डेटा-आधारित जगात डेटा नागरिक म्हणून राहतो. -मार्केट ट्रेंड्स सांगतात की 2022 पर्यंत, प्रत्येक 3 मोठ्या संस्थांपैकी 1 संस्था आपला डेटा ऑनलाइन [Marketplaces आणि Exchanges](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) द्वारे खरेदी आणि विक्री करेल. **अ‍ॅप डेव्हलपर्स** म्हणून, डेटा-आधारित अंतर्दृष्टी आणि अल्गोरिदम-आधारित ऑटोमेशन आपल्या दैनंदिन वापरकर्ता अनुभवांमध्ये समाविष्ट करणे सोपे आणि स्वस्त होईल. परंतु जेव्हा AI सर्वव्यापी होतो, तेव्हा आपल्याला अशा अल्गोरिदमच्या [weaponization](https://www.youtube.com/watch?v=TQHs8SA1qpk) मुळे होणाऱ्या संभाव्य हानींचेही आकलन करणे आवश्यक आहे. +बाजारातील ट्रेंड्स सांगतात की 2022 पर्यंत, प्रत्येक तीन मोठ्या संस्थांपैकी एक आपला डेटा ऑनलाइन [Marketplaces and Exchanges](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) च्या माध्यमातून खरेदी आणि विक्री करेल. **अ‍ॅप डेव्हलपर्स** म्हणून, आपल्याला डेटा-आधारित अंतर्दृष्टी आणि अल्गोरिदम-आधारित ऑटोमेशन आपल्या दैनंदिन वापरकर्ता अनुभवांमध्ये समाविष्ट करणे सोपे आणि स्वस्त होईल. परंतु जेव्हा AI सर्वत्र पसरते, तेव्हा आपल्याला अशा अल्गोरिदमच्या [weaponization](https://www.youtube.com/watch?v=TQHs8SA1qpk) मुळे होणाऱ्या संभाव्य हानींचा मोठ्या प्रमाणावर विचार करावा लागेल. -ट्रेंड्स असेही सूचित करतात की 2025 पर्यंत आपण [180 zettabytes](https://www.statista.com/statistics/871513/worldwide-data-created/) पेक्षा जास्त डेटा तयार करू आणि वापरू. **डेटा सायंटिस्ट्स** म्हणून, यामुळे आपल्याला वैयक्तिक डेटावर अभूतपूर्व प्रवेश मिळतो. याचा अर्थ असा की आपण वापरकर्त्यांचे वर्तनात्मक प्रोफाइल तयार करू शकतो आणि निर्णय घेण्यावर प्रभाव टाकू शकतो, ज्यामुळे [स्वतंत्र निवडीचा आभास](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) निर्माण होतो, परंतु वापरकर्त्यांना आपल्या पसंतीच्या परिणामांकडे ढकलले जाऊ शकते. यामुळे डेटा गोपनीयता आणि वापरकर्ता संरक्षण यासारख्या व्यापक प्रश्नांनाही वाचा फोडली जाते. +ट्रेंड्स असेही सूचित करतात की 2025 पर्यंत आपण [180 zettabytes](https://www.statista.com/statistics/871513/worldwide-data-created/) डेटा तयार आणि वापर करू. **डेटा सायंटिस्ट्स** म्हणून, यामुळे आपल्याला वैयक्तिक डेटावर अभूतपूर्व स्तरावर प्रवेश मिळतो. याचा अर्थ असा की आपण वापरकर्त्यांचे वर्तनात्मक प्रोफाइल तयार करू शकतो आणि निर्णय घेण्यावर प्रभाव टाकू शकतो ज्यामुळे [मुक्त निवडीचा भ्रम](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) निर्माण होतो, तर वापरकर्त्यांना आपल्याला हवे असलेले परिणाम मिळविण्यासाठी प्रेरित करू शकतो. यामुळे डेटा गोपनीयता आणि वापरकर्त्यांच्या संरक्षणावर व्यापक प्रश्न निर्माण होतात. -डेटा नीतिशास्त्र आता डेटा सायन्स आणि अभियांत्रिकीसाठी _आवश्यक मार्गदर्शक_ बनले आहे, ज्यामुळे आपल्या डेटा-आधारित कृतींमुळे होणाऱ्या संभाव्य हानी आणि अनपेक्षित परिणाम कमी होतात. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) डिजिटल नीतिशास्त्र, जबाबदार AI, आणि AI गव्हर्नन्समधील संबंधित ट्रेंड्स ओळखतो, जे AI च्या _लोकशाहीकरण_ आणि _औद्योगिकीकरण_ यासारख्या मोठ्या प्रवाहांना चालना देतात. +डेटा नैतिकता आता डेटा सायन्स आणि अभियांत्रिकीसाठी _आवश्यक मार्गदर्शक_ बनली आहे, ज्यामुळे आपल्याला आपल्या डेटा-आधारित कृतींमुळे होणाऱ्या संभाव्य हानी आणि अनपेक्षित परिणाम कमी करण्यास मदत होते. [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) डिजिटल नैतिकता, जबाबदार AI, आणि AI गव्हर्नन्समधील संबंधित ट्रेंड्स ओळखतो, जे AI च्या _लोकशाहीकरण_ आणि _औद्योगिकीकरण_ यासारख्या मोठ्या प्रवृत्तींना चालना देतात. ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -या धड्यात, आपण डेटा नीतिशास्त्राच्या आकर्षक क्षेत्राचा अभ्यास करू - मूलभूत संकल्पना आणि आव्हानांपासून ते केस स्टडीज आणि गव्हर्नन्ससारख्या लागू AI संकल्पनांपर्यंत - ज्यामुळे डेटा आणि AI सह काम करणाऱ्या संघ आणि संस्थांमध्ये नीतिशास्त्र संस्कृती प्रस्थापित होण्यास मदत होते. +या धड्यात, आपण डेटा नैतिकतेच्या आकर्षक क्षेत्राचा अभ्यास करू - मूलभूत संकल्पना आणि आव्हाने, केस स्टडीज आणि गव्हर्नन्ससारख्या लागू केलेल्या AI संकल्पनांपर्यंत - ज्यामुळे डेटा आणि AI सह काम करणाऱ्या संघ आणि संस्थांमध्ये नैतिकतेची संस्कृती निर्माण होण्यास मदत होते. -## [पूर्व-व्याख्यान क्विझ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 +## [पूर्व-व्याख्यान प्रश्नमंजुषा](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 -## मूलभूत परिभाषा +## मूलभूत संज्ञा -चला, मूलभूत परिभाषा समजून घेऊन सुरुवात करूया. +चला मूलभूत शब्दसंग्रह समजून घेण्यापासून सुरुवात करूया. -"नीतिशास्त्र" हा शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) (आणि त्याचा मूळ "ethos") पासून आला आहे, ज्याचा अर्थ _स्वभाव किंवा नैतिक स्वरूप_ असा होतो. +"नैतिकता" हा शब्द [ग्रीक शब्द "ethikos"](https://en.wikipedia.org/wiki/Ethics) (आणि त्याचा मूळ "ethos") पासून आला आहे, ज्याचा अर्थ _स्वभाव किंवा नैतिक स्वरूप_ असा आहे. -**नीतिशास्त्र** म्हणजे समाजातील आपल्या वर्तनावर नियंत्रण ठेवणाऱ्या सामायिक मूल्ये आणि नैतिक तत्त्वे. नीतिशास्त्र कायद्यांवर आधारित नसून "योग्य विरुद्ध अयोग्य" याबद्दलच्या व्यापकपणे स्वीकारल्या गेलेल्या मानकांवर आधारित आहे. तथापि, नैतिक विचार कॉर्पोरेट गव्हर्नन्स उपक्रमांवर आणि अनुपालनासाठी अधिक प्रोत्साहन निर्माण करणाऱ्या सरकारी नियमांवर प्रभाव टाकू शकतात. +**नैतिकता** म्हणजे समाजात आपल्या वर्तनाचे नियमन करणाऱ्या सामायिक मूल्ये आणि नैतिक तत्त्वे. नैतिकता कायद्यांवर आधारित नसून "योग्य विरुद्ध अयोग्य" याबद्दलच्या व्यापकपणे स्वीकारलेल्या मानदंडांवर आधारित असते. तथापि, नैतिक विचार कॉर्पोरेट गव्हर्नन्स उपक्रम आणि सरकारी नियमांवर प्रभाव टाकू शकतात, जे अनुपालनासाठी अधिक प्रोत्साहन निर्माण करतात. -**डेटा नीतिशास्त्र** हे एक [नवीन नीतिशास्त्र शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) आहे, जे "_डेटा, अल्गोरिदम आणि संबंधित पद्धती_" यांच्याशी संबंधित नैतिक समस्यांचा अभ्यास आणि मूल्यांकन करते. येथे, **"डेटा"** म्हणजे निर्मिती, नोंद, व्यवस्थापन, प्रक्रिया, प्रसार, सामायिकरण आणि वापराशी संबंधित क्रिया, **"अल्गोरिदम"** म्हणजे AI, एजंट्स, मशीन लर्निंग आणि रोबोट्स, आणि **"पद्धती"** म्हणजे जबाबदार नवकल्पना, प्रोग्रामिंग, हॅकिंग आणि नीतिशास्त्र कोड्स यासारख्या विषयांवर लक्ष केंद्रित करते. +**डेटा नैतिकता** ही नैतिकतेची [नवीन शाखा](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) आहे जी "_डेटा, अल्गोरिदम आणि संबंधित पद्धती_" यांच्याशी संबंधित नैतिक समस्यांचा अभ्यास आणि मूल्यांकन करते. येथे, **"डेटा"** निर्मिती, नोंदणी, व्यवस्थापन, प्रक्रिया, प्रसार, सामायिकरण आणि वापराशी संबंधित क्रियांवर लक्ष केंद्रित करते, **"अल्गोरिदम"** AI, एजंट्स, मशीन लर्निंग आणि रोबोट्सवर लक्ष केंद्रित करते, आणि **"पद्धती"** जबाबदार नवकल्पना, प्रोग्रामिंग, हॅकिंग आणि नैतिकता कोड्स यासारख्या विषयांवर लक्ष केंद्रित करते. -**लागू नीतिशास्त्र** म्हणजे [नैतिक विचारांचा व्यावहारिक उपयोग](https://en.wikipedia.org/wiki/Applied_ethics). हे _वास्तविक-जगातील कृती, उत्पादने आणि प्रक्रिया_ यांच्या संदर्भात नैतिक मुद्द्यांचा सक्रियपणे तपास करण्याची प्रक्रिया आहे आणि आपल्या परिभाषित नैतिक मूल्यांशी सुसंगत राहण्यासाठी सुधारात्मक उपाययोजना करणे. +**लागू केलेली नैतिकता** म्हणजे नैतिक विचारांचा [व्यावहारिक उपयोग](https://en.wikipedia.org/wiki/Applied_ethics). हे _वास्तविक जगातील कृती, उत्पादने आणि प्रक्रिया_ यांच्या संदर्भात नैतिक समस्यांचा सक्रियपणे तपास करण्याची प्रक्रिया आहे आणि परिभाषित नैतिक मूल्यांशी सुसंगत राहण्यासाठी सुधारात्मक उपाययोजना करणे. -**नीतिशास्त्र संस्कृती** म्हणजे [_लागू नीतिशास्त्राचे_ कार्यान्वयन](https://hbr.org/2019/05/how-to-design-an-ethical-organization) सुनिश्चित करणे, जेणेकरून आपल्या नैतिक तत्त्वे आणि पद्धती संपूर्ण संस्थेमध्ये सातत्यपूर्ण आणि स्केलेबल पद्धतीने स्वीकारल्या जातील. यशस्वी नीतिशास्त्र संस्कृती संस्थात्मक स्तरावर नैतिक तत्त्वे परिभाषित करतात, अनुपालनासाठी अर्थपूर्ण प्रोत्साहन प्रदान करतात आणि प्रत्येक स्तरावर इच्छित वर्तन प्रोत्साहित करून आणि वाढवून नीतिशास्त्र मानकांना बळकट करतात. +**नैतिकता संस्कृती** म्हणजे [_लागू केलेल्या नैतिकतेचे_ कार्यान्वयन](https://hbr.org/2019/05/how-to-design-an-ethical-organization) जेणेकरून आपल्या नैतिक तत्त्वे आणि पद्धती संपूर्ण संस्थेत सातत्यपूर्ण आणि स्केलेबल पद्धतीने स्वीकारल्या जातील. यशस्वी नैतिकता संस्कृती संस्थात्मक स्तरावर नैतिक तत्त्वे परिभाषित करतात, अनुपालनासाठी अर्थपूर्ण प्रोत्साहन प्रदान करतात आणि संस्थेच्या प्रत्येक स्तरावर इच्छित वर्तन प्रोत्साहित करून आणि वाढवून नैतिकता मानदंड मजबूत करतात. -## नीतिशास्त्र संकल्पना +## नैतिकतेच्या संकल्पना -या विभागात, आपण **सामायिक मूल्ये** (तत्त्वे) आणि **नीतिक आव्हाने** (समस्या) यासारख्या संकल्पनांवर चर्चा करू - आणि **केस स्टडीज**चा अभ्यास करू, ज्यामुळे तुम्हाला या संकल्पना वास्तविक-जगातील संदर्भात समजण्यास मदत होईल. +या विभागात, आपण **सामायिक मूल्ये** (तत्त्वे) आणि **नैतिक आव्हाने** (समस्या) यासारख्या संकल्पनांवर चर्चा करू - आणि **केस स्टडीज** एक्सप्लोर करू जे तुम्हाला वास्तविक जगातील संदर्भात या संकल्पना समजून घेण्यास मदत करतात. -### 1. नीतिशास्त्र तत्त्वे +### 1. नैतिक तत्त्वे -प्रत्येक डेटा नीतिशास्त्र धोरणाची सुरुवात _नीतिक तत्त्वे_ परिभाषित करून होते - "सामायिक मूल्ये" जी स्वीकारार्ह वर्तनांचे वर्णन करतात आणि आपल्या डेटा आणि AI प्रकल्पांमध्ये अनुपालन कृतींना मार्गदर्शन करतात. तुम्ही ही तत्त्वे वैयक्तिक किंवा संघ स्तरावर परिभाषित करू शकता. तथापि, बहुतेक मोठ्या संस्था कॉर्पोरेट स्तरावर परिभाषित आणि सर्व संघांमध्ये सातत्याने लागू केलेल्या _नीतिक AI_ मिशन स्टेटमेंट किंवा फ्रेमवर्कमध्ये ही तत्त्वे रेखाटतात. +प्रत्येक डेटा नैतिकता धोरणाची सुरुवात _नैतिक तत्त्वे_ परिभाषित करण्यापासून होते - "सामायिक मूल्ये" जी स्वीकारार्ह वर्तनाचे वर्णन करतात आणि आपल्या डेटा आणि AI प्रकल्पांमध्ये अनुपालन कृतींना मार्गदर्शन करतात. तुम्ही ही तत्त्वे वैयक्तिक किंवा संघ स्तरावर परिभाषित करू शकता. तथापि, बहुतेक मोठ्या संस्था कॉर्पोरेट स्तरावर परिभाषित केलेल्या आणि सर्व संघांमध्ये सातत्याने लागू केलेल्या _नैतिक AI_ मिशन स्टेटमेंट किंवा फ्रेमवर्कमध्ये याची रूपरेषा तयार करतात. -**उदाहरण:** Microsoft च्या [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन स्टेटमेंटमध्ये असे म्हटले आहे: _"आम्ही अशा नैतिक तत्त्वांनी प्रेरित AI च्या प्रगतीसाठी वचनबद्ध आहोत जी लोकांना प्रथम स्थान देतात"_ - खालील फ्रेमवर्कमध्ये 6 नैतिक तत्त्वे ओळखली आहेत: +**उदाहरण:** Microsoft च्या [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) मिशन स्टेटमेंटमध्ये असे म्हटले आहे: _"आम्ही AI च्या प्रगतीसाठी वचनबद्ध आहोत जी नैतिक तत्त्वांद्वारे चालवली जाते जी लोकांना प्रथम स्थान देते"_ - खालील फ्रेमवर्कमध्ये 6 नैतिक तत्त्वे ओळखली आहेत: ![Responsible AI at Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -चला या तत्त्वांचा थोडक्यात अभ्यास करूया. _पारदर्शकता_ आणि _जबाबदारी_ ही मूलभूत मूल्ये आहेत ज्यावर इतर तत्त्वे आधारित आहेत - त्यामुळे तिथून सुरुवात करूया: +चला या तत्त्वांचा थोडक्यात अभ्यास करूया. _पारदर्शकता_ आणि _जबाबदारी_ ही मूलभूत मूल्ये आहेत ज्यावर इतर तत्त्वे तयार केली जातात - त्यामुळे तिथून सुरुवात करूया: -* [**जबाबदारी**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा आणि AI ऑपरेशन्ससाठी, तसेच या नैतिक तत्त्वांचे पालन करण्यासाठी व्यावसायिकांना _जबाबदार_ बनवते. -* [**पारदर्शकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) सुनिश्चित करते की डेटा आणि AI क्रिया वापरकर्त्यांसाठी _समजण्यासारख्या_ (स्पष्ट) असतील, निर्णयांच्या मागील काय आणि का याचे स्पष्टीकरण देते. -* [**न्याय**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI सर्व लोकांशी _न्यायाने_ वागेल याची खात्री करण्यावर लक्ष केंद्रित करते, डेटा आणि प्रणालींमधील कोणत्याही प्रणालीगत किंवा अप्रत्यक्ष सामाजिक-तांत्रिक पूर्वग्रहांना संबोधित करते. +* [**जबाबदारी**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा आणि AI ऑपरेशन्ससाठी, तसेच नैतिक तत्त्वांचे अनुपालन सुनिश्चित करण्यासाठी व्यावसायिकांना _जबाबदार_ बनवते. +* [**पारदर्शकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) डेटा आणि AI कृती वापरकर्त्यांसाठी _समजण्यासारख्या_ (interpretative) बनवते, निर्णयांमागील काय आणि का स्पष्ट करते. +* [**न्याय**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI सर्व लोकांशी _न्यायाने_ वागते याची खात्री करण्यावर लक्ष केंद्रित करते, डेटा आणि प्रणालींमधील कोणत्याही प्रणालीगत किंवा अप्रत्यक्ष सामाजिक-तांत्रिक पक्षपातांना संबोधित करते. * [**विश्वसनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI _सुसंगतपणे_ परिभाषित मूल्यांसह वागते याची खात्री करते, संभाव्य हानी किंवा अनपेक्षित परिणाम कमी करते. * [**गोपनीयता आणि सुरक्षा**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - डेटा वंशावळ समजून घेणे आणि वापरकर्त्यांना _डेटा गोपनीयता आणि संबंधित संरक्षण_ प्रदान करणे याबद्दल आहे. -* [**समावेशकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - हेतूपूर्वक AI सोल्यूशन्स डिझाइन करण्याबद्दल आहे, त्यांना _विविध मानवी गरजा_ आणि क्षमता पूर्ण करण्यासाठी अनुकूल बनवणे. +* [**समावेशकता**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI सोल्यूशन्स _विविध मानवी गरजा आणि क्षमता_ पूर्ण करण्यासाठी डिझाइन करण्याच्या हेतूने तयार करणे. -> 🚨 तुमचे डेटा नीतिशास्त्र मिशन स्टेटमेंट काय असू शकते याचा विचार करा. इतर संस्थांकडून नैतिक AI फ्रेमवर्क एक्सप्लोर करा - येथे [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), आणि [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) यांचे उदाहरणे आहेत. त्यांच्यात कोणती सामायिक मूल्ये आहेत? ही तत्त्वे त्यांच्या AI उत्पादन किंवा उद्योगाशी कशी संबंधित आहेत? +> 🚨 तुमचे डेटा नैतिकता मिशन स्टेटमेंट काय असू शकते याचा विचार करा. इतर संस्थांकडून नैतिक AI फ्रेमवर्क एक्सप्लोर करा - येथे [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), आणि [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) चे उदाहरणे आहेत. त्यांच्यात कोणती सामायिक मूल्ये आहेत? ते AI उत्पादन किंवा उद्योगाशी कसे संबंधित आहेत ज्यामध्ये ते कार्य करतात? -### 2. नीतिशास्त्र आव्हाने +### 2. नैतिक आव्हाने -एकदा नैतिक तत्त्वे परिभाषित झाल्यानंतर, पुढील पाऊल म्हणजे आपल्या डेटा आणि AI कृतींचे मूल्यांकन करणे, त्या सामायिक मूल्यांशी सुसंगत आहेत का हे पाहणे. तुमच्या कृतींचा विचार दोन श्रेणींमध्ये करा: _डेटा संकलन_ आणि _अल्गोरिदम डिझाइन_. +एकदा नैतिक तत्त्वे परिभाषित झाल्यानंतर, पुढील पायरी म्हणजे आपल्या डेटा आणि AI कृतींचे मूल्यांकन करणे की त्या सामायिक मूल्यांशी जुळतात का. तुमच्या कृतींचा विचार दोन श्रेणींमध्ये करा: _डेटा संकलन_ आणि _अल्गोरिदम डिझाइन_. -डेटा संकलनासह, कृतींमध्ये **वैयक्तिक डेटा** किंवा ओळखण्यायोग्य जिवंत व्यक्तींसाठी वैयक्तिक ओळखण्यायोग्य माहिती (PII) समाविष्ट असण्याची शक्यता आहे. यामध्ये [विविध प्रकारचे गैर-वैयक्तिक डेटा](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) समाविष्ट आहेत जे _एकत्रितपणे_ एखाद्या व्यक्तीला ओळखतात. नैतिक आव्हाने _डेटा गोपनीयता_, _डेटा मालकी_, आणि _माहितीपूर्ण संमती_ आणि _बौद्धिक मालमत्ता हक्क_ यासारख्या संबंधित विषयांशी संबंधित असू शकतात. +डेटा संकलनासह, कृतींमध्ये **वैयक्तिक डेटा** किंवा ओळखण्यायोग्य जिवंत व्यक्तींसाठी वैयक्तिक ओळखण्यायोग्य माहिती (PII) समाविष्ट असते. यामध्ये [विविध प्रकारचे गैर-वैयक्तिक डेटा](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) समाविष्ट असते जे _एकत्रितपणे_ व्यक्तीला ओळखतात. नैतिक आव्हाने _डेटा गोपनीयता_, _डेटा मालकी_, आणि संबंधित विषय जसे की _सहमती_ आणि _बौद्धिक मालमत्तेचे अधिकार_ यासंबंधित असू शकतात. -अल्गोरिदम डिझाइनसह, कृतींमध्ये **डेटासेट्स** गोळा करणे आणि व्यवस्थापित करणे, नंतर त्यांचा वापर करून **डेटा मॉडेल्स** तयार करणे आणि तैनात करणे समाविष्ट असेल, जे वास्तविक-जगातील संदर्भांमध्ये परिणामांची भविष्यवाणी करतात किंवा निर्णय स्वयंचलित करतात. नैतिक आव्हाने _डेटासेट पूर्वग्रह_, _डेटा गुणवत्ता_ समस्या, _अन्याय_ आणि अल्गोरिदममधील _चुकीचे प्रतिनिधित्व_ यामुळे उद्भवू शकतात - ज्यामध्ये काही समस्या प्रणालीगत असू शकतात. +अल्गोरिदम डिझाइनसह, कृतींमध्ये **डेटासेट्स** गोळा करणे आणि व्यवस्थापित करणे, त्यांचा वापर करून **डेटा मॉडेल्स** तयार करणे आणि तैनात करणे, जे वास्तविक जगातील संदर्भात परिणामांची भविष्यवाणी करतात किंवा निर्णय स्वयंचलित करतात. नैतिक आव्हाने _डेटासेट पक्षपात_, _डेटा गुणवत्ता_ समस्या, _अन्याय_, आणि अल्गोरिदममध्ये _चुकीचे प्रतिनिधित्व_ यामुळे उद्भवू शकतात - ज्यामध्ये काही समस्या प्रणालीगत असू शकतात. -दोन्ही प्रकरणांमध्ये, नीतिशास्त्र आव्हाने अशा क्षेत्रांना अधोरेखित करतात जिथे आपल्या कृतींना सामायिक मूल्यांशी संघर्ष होण्याची शक्यता असते. या चिंतांचा शोध घेण्यासाठी, कमी करण्यासाठी, कमी करण्यासाठी किंवा दूर करण्यासाठी - आपल्याला आपल्या कृतींशी संबंधित नैतिक "होय/नाही" प्रश्न विचारण्याची आवश्यकता आहे आणि नंतर आवश्यकतेनुसार सुधारात्मक कृती करणे आवश्यक आहे. चला काही नैतिक आव्हाने आणि त्यांनी उपस्थित केलेल्या नैतिक प्रश्नांचा अभ्यास करूया: +दोन्ही बाबतीत, नैतिक आव्हाने अशा क्षेत्रांवर प्रकाश टाकतात जिथे आपल्या कृती सामायिक मूल्यांशी संघर्ष करू शकतात. या चिंतेचा शोध घेण्यासाठी, कमी करण्यासाठी, कमी करण्यासाठी किंवा दूर करण्यासाठी - आपल्याला आपल्या कृतींशी संबंधित नैतिक "होय/नाही" प्रश्न विचारावे लागतील आणि आवश्यकतेनुसार सुधारात्मक उपाययोजना करावी लागेल. चला काही नैतिक आव्हाने आणि त्यांनी उपस्थित केलेल्या नैतिक प्रश्नांचा अभ्यास करूया: #### 2.1 डेटा मालकी -डेटा संकलनात अनेकदा डेटा विषयांना ओळखणारा वैयक्तिक डेटा समाविष्ट असतो. [डेटा मालकी](https://permission.io/blog/data-ownership) म्हणजे डेटा निर्मिती, प्रक्रिया आणि प्रसाराशी संबंधित _नियंत्रण_ आणि [_वापरकर्ता हक्क_](https://permission.io/blog/data-ownership). +डेटा संकलनामध्ये अनेकदा डेटा विषयांना ओळखणारा वैयक्तिक डेटा समाविष्ट असतो. [डेटा मालकी](https://permission.io/blog/data-ownership) म्हणजे डेटा निर्मिती, प्रक्रिया आणि प्रसाराशी संबंधित _नियंत्रण_ आणि [_वापरकर्त्याचे अधिकार_](https://permission.io/blog/data-ownership). आपल्याला विचारायचे नैतिक प्रश्न: - * डेटा कोणाचा आहे? (वापरकर्ता की संस्था) - * डेटा विषयांना कोणते हक्क आहेत? (उदा: प्रवेश, विलोपन, पोर्टेबिलिटी) - * संस्थांना कोणते हक्क आहेत? (उदा: खोट्या वापरकर्ता पुनरावलोकनांचे सुधारणा) + * डेटा कोणाचा आहे? (वापरकर्ता किंवा संस्था) + * डेटा विषयांना कोणते अधिकार आहेत? (उदा: प्रवेश, विलोपन, पोर्टेबिलिटी) + * संस्थांना कोणते अधिकार आहेत? (उदा: दुर्भावनायुक्त वापरकर्ता पुनरावलोकने सुधारित करणे) -#### 2.2 माहितीपूर्ण संमती +#### 2.2 माहितीपूर्ण सहमती -[माहितीपूर्ण संमती](https://legaldictionary.net/informed-consent/) म्हणजे वापरकर्त्यांनी (डेटा विषयांनी) कृतीसाठी (जसे की डेटा संकलन) _संपूर्ण समज_ सह परवानगी देणे, ज्यामध्ये उद्देश, संभाव्य धोके आणि पर्याय यांचा समावेश आहे. +[माहितीपूर्ण सहमती](https://legaldictionary.net/informed-consent/) म्हणजे वापरकर्त्यांनी (डेटा विषयांनी) कृतीसाठी (जसे की डेटा संकलन) _संपूर्ण समज_ सह परवानगी दिली आहे. येथे विचारायचे प्रश्न: - * वापरकर्त्याने (डेटा विषयाने) डेटा कॅप्चर आणि वापरासाठी परवानगी दिली का? - * वापरकर्त्याला डेटा कॅप्चर करण्याचा उद्देश समजला का? - * वापरकर्त्याला त्यांच्या सहभागामुळे होणाऱ्या संभाव्य धोके समजले का? + * वापरकर्त्याने डेटा कॅप्चर आणि वापरासाठी परवानगी दिली आहे का? + * वापरकर्त्याला डेटा कॅप्चर करण्याचा हेतू समजला आहे का? + * वापरकर्त्याला त्यांच्या सहभागामुळे संभाव्य धोके समजले आहेत का? #### 2.3 बौद्धिक मालमत्ता [बौद्धिक मालमत्ता](https://en.wikipedia.org/wiki/Intellectual_property) म्हणजे मानवी उपक्रमातून निर्माण झालेली अमूर्त निर्मिती, ज्याला व्यक्ती किंवा व्यवसायांसाठी _आर्थिक मूल्य_ असू शकते. येथे विचारायचे प्रश्न: - * गोळा केलेल्या डेटाला वापरकर्ता किंवा व्यवसायासाठी आर्थिक मूल्य होते का? + * गोळा केलेल्या डेटाला वापरकर्ता किंवा व्यवसायासाठी आर्थिक मूल्य आहे का? * येथे **वापरकर्त्याला** बौद्धिक मालमत्ता आहे का? * येथे **संस्थेला** बौद्धिक मालमत्ता आहे का? - * जर हे हक्क अस्तित्वात असतील, तर आपण त्यांचे संरक्षण कसे करत आहोत? + * जर हे अधिकार अस्तित्वात असतील, तर आपण त्यांचे संरक्षण कसे करत आहात? #### 2.4 डेटा गोपनीयता -[डेटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) किंवा माहिती गोपनीयता म्हणजे वैयक्तिक ओळखण्यायोग्य माहितीच्या संदर्भात वापरकर्त्याच्या गोपनीयतेचे जतन आणि ओळख संरक्षित करणे. +[डेटा गोपनीयता](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) किंवा माहिती गोपनीयता म्हणजे वैयक्तिक ओळखण्यायोग्य माहितीच्या संदर्भात वापरकर्त्याच्या गोपनीयतेचे जतन आणि ओळख संरक्षण. येथे विचारायचे प्रश्न: - * वापरकर्त्यांचा (वैयक्तिक) डेटा हॅक आणि गळतीपासून सुरक्षित आहे का? - * वापरकर्त्यांचा डेटा फक्त अधिकृत वापरकर्त्यांना आणि संदर्भांनाच उपलब्ध आहे का? - * डेटा सामायिक किंवा प्रसारित केल्यावर वापरकर्त्यांची अज्ञातता जपली जाते का? - * अज्ञात डेटासेट्समधून वापरकर्त्याला पुन्हा ओळखता येऊ शकते का? + * वापरकर्त्यांचा (वैयक्तिक) डेटा हॅक आणि लीकपासून सुरक्षित आहे का? + * वापरकर्त्यांचा डेटा केवळ अधिकृत वापरकर्त्यांना आणि संदर्भांना उपलब्ध आहे का? + * डेटा सामायिक किंवा प्रसारित करताना वापरकर्त्यांची अनामिकता जतन केली जाते का? + * अनामिक डेटासेट्समधून वापरकर्त्याला ओळखले जाऊ शकते का? #### 2.5 विस्मरणाचा अधिकार -[विस्मरणाचा अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) किंवा [विलोपनाचा अधिकार](https://www.gdpreu.org/right-to-be-forgotten/) वापरकर्त्यांना अतिरिक्त वैयक्तिक डेटा संरक्षण प्रदान करतो. विशेषतः, हे वापरकर्त्यांना इंटरनेट शोधांमधून आणि इतर ठिकाणांहून वैयक्तिक डेटा हटविण्याची किंवा काढून टाकण्याची विनंती करण्याचा अधिकार देते, _विशिष्ट परिस्थितीत_ - त्यांना ऑनलाइन नवीन सुरुवात करण्याची परवानगी देते, त्यांच्या भूतकाळातील कृती त्यांच्याविरुद्ध धरल्या जात नाहीत. +[विस्मरणाचा अधिकार](https://en.wikipedia.org/wiki/Right_to_be_forgotten) किंवा [विलोपनाचा अधिकार](https://www.gdpreu.org/right-to-be-forgotten/) वापरकर्त्यांना अतिरिक्त वैयक्तिक डेटा संरक्षण प्रदान करतो. विशेषतः, हे वापरकर्त्यांना इंटरनेट शोध आणि इतर ठिकाणांवरून वैयक्तिक डेटा हटविण्याची किंवा काढून टाकण्याची विनंती करण्याचा अधिकार देते, _विशिष्ट परिस्थितीत_ - त्यांना ऑनलाइन नवीन सुरुवात करण्याची परवानगी देते. येथे विचारायचे प्रश्न: * प्रणाली डेटा विषयांना विलोपनाची विनंती करण्याची परवानगी देते का? - * वापरकर्त्याच्या संमतीच्या माघारीने स्वयंचलित विलोपन ट्रिगर करावे का? - * डेटा संमतीशिवाय किंवा बेकायदेशीर मार्गाने गोळा केला गेला होता का? + * वापरकर्त्याच्या सहमतीच्या माघारीने स्वयंचलित विलोपन ट्रिगर करावे का? + * डेटा सहमतीशिवाय किंवा बेकायदेशीर मार्गाने गोळा केला गेला होता का? * डेटा गोपनीयतेसाठी सरकारी नियमांचे पालन केले आहे का? -#### 2.6 डेटासेट पूर्वग्रह +#### 2.6 डेटासेट पक्षपात -डेटासेट किंवा [संकलन पूर्वग्रह](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) म्हणजे अल्गोरिदम विकासासाठी _अप्रतिनिधिक_ डेटाचा उपसमुच्चय -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) तपासते की अल्गोरिदम डिझाइन विशिष्ट उपसमूहांवर प्रणालीगत भेदभाव करते का, ज्यामुळे _वाटप_ (जिथे संसाधने त्या गटाला नाकारली जातात किंवा रोखली जातात) आणि _सेवेची गुणवत्ता_ (जिथे काही उपसमूहांसाठी AI इतरांइतकी अचूक नसते) यामध्ये [संभाव्य हानी](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) होऊ शकते. +डेटासेट किंवा [संकलन पक्षपात](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) म्हणजे अल्गोरिदम विकासासाठी _अप्रतिनिधिक_ डेटा उपसंच निवडणे, विविध गटांसाठी संभाव्य अन्याय निर्माण करणे. + +येथे विचारायचे प्रश्न: + * आपण डेटा विषयांचा प्रतिनिधिक संच भरती केला आहे का? + * आपण विविध पक्षपातांसाठी गोळा केलेला किंवा व्यवस्थापित केलेला डेटासेट चाचणी केला आहे का? + * आपण शोधलेल्या पक्षपातांना कमी किंवा दूर करू शकतो का? + +#### 2.7 डेटा गुणवत्ता + +[डेटा गुणवत्ता](https://lakefs.io/data-quality-testing/) म्हणजे अल्गोरिदम विकसित करण्यासाठी वापरलेल्या व्यवस्थापित डेटासेटची वैधता तपासणे, वैशिष्ट्ये आणि र +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) तपासते की अल्गोरिदम डिझाइन विशिष्ट उपसमूहांवर अन्यायकारकपणे परिणाम करत आहे का, ज्यामुळे _वाटप_ (जिथे संसाधने नाकारली जातात किंवा त्या गटापासून रोखली जातात) आणि _सेवेची गुणवत्ता_ (जिथे AI काही उपसमूहांसाठी इतरांइतकी अचूक नसते) यामध्ये [संभाव्य नुकसान](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) होऊ शकते. येथे विचार करण्यासाठी काही प्रश्न: * विविध उपसमूह आणि परिस्थितींसाठी मॉडेल अचूकतेचे मूल्यांकन केले का? - * संभाव्य हानींसाठी (उदा., स्टीरिओटायपिंग) प्रणालीचे बारकाईने परीक्षण केले का? - * ओळखलेल्या हानी कमी करण्यासाठी डेटा सुधारित किंवा मॉडेल पुन्हा प्रशिक्षित करू शकतो का? + * संभाव्य नुकसान (उदा., पूर्वग्रह) तपासले का? + * ओळखलेल्या नुकसानीस कमी करण्यासाठी डेटा सुधारित किंवा मॉडेल पुन्हा प्रशिक्षण दिले जाऊ शकते का? [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) सारख्या संसाधनांचा अभ्यास करा. #### 2.9 चुकीचे प्रतिनिधित्व -[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) म्हणजे आपण प्रामाणिकपणे नोंदवलेल्या डेटामधून मिळालेल्या अंतर्दृष्टींचा वापर करून इच्छित कथानकाला पाठिंबा देण्यासाठी फसवणूक करत आहोत का, हे विचारणे. +[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) म्हणजे विचार करणे की आपण प्रामाणिकपणे नोंदवलेल्या डेटामधून अंतर्दृष्टी अशा प्रकारे सादर करत आहोत का ज्यामुळे इच्छित कथानकाला पाठिंबा मिळतो. येथे विचार करण्यासाठी काही प्रश्न: - * आपण अपूर्ण किंवा अचूक नसलेला डेटा नोंदवत आहोत का? - * आपण डेटा अशा प्रकारे व्हिज्युअलाइज करत आहोत का ज्यामुळे चुकीचे निष्कर्ष काढले जातात? - * आपण निवडक सांख्यिकीय तंत्रांचा वापर करून परिणामांमध्ये फेरफार करत आहोत का? - * वेगळे निष्कर्ष देऊ शकणाऱ्या पर्यायी स्पष्टीकरणांचा विचार केला आहे का? + * आम्ही अपूर्ण किंवा अचूक नसलेला डेटा नोंदवत आहोत का? + * आम्ही डेटा अशा प्रकारे व्हिज्युअलाइज करत आहोत का ज्यामुळे चुकीचे निष्कर्ष निघतात? + * आम्ही निवडक सांख्यिकी तंत्र वापरून परिणामांमध्ये फेरफार करत आहोत का? + * वेगळ्या निष्कर्षासाठी पर्यायी स्पष्टीकरणे असू शकतात का? #### 2.10 स्वातंत्र्याची निवड -[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तेव्हा होते जेव्हा प्रणाली "निवड आर्किटेक्चर" निर्णय घेणाऱ्या अल्गोरिदमचा वापर करून लोकांना प्राधान्य दिलेल्या परिणामाकडे वळवते, परंतु त्यांना पर्याय आणि नियंत्रण असल्याचे भासवते. हे [dark patterns](https://www.darkpatterns.org/) वापरकर्त्यांना सामाजिक आणि आर्थिक हानी पोहोचवू शकतात. कारण वापरकर्त्यांच्या निर्णयांचा वर्तन प्रोफाइलवर परिणाम होतो, त्यामुळे हे कृती भविष्यातील निवडींवर प्रभाव टाकू शकतात आणि हानी वाढवू शकतात. +[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) तेव्हा होते जेव्हा प्रणाली "निवड आर्किटेक्चर" निर्णय घेण्याच्या अल्गोरिदमचा वापर लोकांना इच्छित परिणामाकडे वळवण्यासाठी करते, त्यांना पर्याय आणि नियंत्रण असल्याचे भासवते. हे [dark patterns](https://www.darkpatterns.org/) वापरकर्त्यांना सामाजिक आणि आर्थिक नुकसान पोहोचवू शकतात. कारण वापरकर्त्याचे निर्णय वर्तन प्रोफाइलवर परिणाम करतात, हे कृती भविष्यातील निवडींवर परिणाम करू शकतात आणि या नुकसानीचा प्रभाव वाढवू शकतात. येथे विचार करण्यासाठी काही प्रश्न: - * वापरकर्त्याला त्या निवडीचे परिणाम समजले का? - * वापरकर्त्याला (पर्यायी) निवडी आणि त्यांचे फायदे व तोटे माहीत होते का? - * वापरकर्ता नंतर स्वयंचलित किंवा प्रभावित निवड उलटवू शकतो का? + * वापरकर्त्याला ती निवड करण्याचे परिणाम समजले का? + * वापरकर्त्याला (पर्यायी) पर्याय आणि प्रत्येकाचे फायदे व तोटे माहित होते का? + * वापरकर्ता स्वयंचलित किंवा प्रभावित निवड नंतर उलट करू शकतो का? ### 3. केस स्टडीज -या नैतिक आव्हानांना वास्तव जीवनातील संदर्भात समजून घेण्यासाठी, अशा केस स्टडीजकडे पाहणे उपयुक्त ठरते ज्या व्यक्ती आणि समाजावर होणाऱ्या संभाव्य हानी आणि परिणाम दाखवतात, जेव्हा अशा नैतिक उल्लंघनांकडे दुर्लक्ष केले जाते. +या नैतिक आव्हानांना वास्तविक जीवनातील संदर्भात ठेवण्यासाठी, अशा केस स्टडीजकडे पाहणे उपयुक्त ठरते ज्यामुळे व्यक्ती आणि समाजावर होणारे संभाव्य नुकसान आणि परिणाम स्पष्ट होतात, जेव्हा अशा नैतिक उल्लंघनांकडे दुर्लक्ष केले जाते. -उदाहरणे खाली दिली आहेत: +येथे काही उदाहरणे आहेत: | नैतिक आव्हान | केस स्टडी | |--- |--- | -| **सजग संमती** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - आफ्रिकन अमेरिकन पुरुषांना मोफत वैद्यकीय उपचार देण्याचे आश्वासन दिले गेले _पण फसवले गेले_, संशोधकांनी त्यांना त्यांच्या निदानाबद्दल किंवा उपचारांच्या उपलब्धतेबद्दल माहिती दिली नाही. अनेकांचा मृत्यू झाला आणि त्यांच्या जोडीदारांवर किंवा मुलांवर परिणाम झाला; हा अभ्यास 40 वर्षे चालला. | -| **डेटा गोपनीयता** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) संशोधकांना _50K ग्राहकांच्या 10M अज्ञात चित्रपट रेटिंग_ प्रदान केले गेले, परंतु संशोधकांनी बाह्य डेटासेट्स (उदा., IMDb टिप्पण्या) मध्ये वैयक्तिकरित्या ओळखण्यायोग्य डेटा जोडून काही Netflix सदस्यांना "डीनॉनिमाइझ" केले.| -| **संकलन पूर्वग्रह** | 2013 - बोस्टन शहराने [Street Bump](https://www.boston.gov/transportation/street-bump) नावाचे अॅप विकसित केले, ज्यामुळे नागरिकांना खड्ड्यांची माहिती देण्याची परवानगी मिळाली. परंतु [कमी उत्पन्न गटातील लोकांना कार आणि फोनचा कमी प्रवेश होता](https://hbr.org/2013/04/the-hidden-biases-in-big-data), ज्यामुळे त्यांच्या रस्त्याच्या समस्या या अॅपमध्ये अदृश्य झाल्या. विकासकांनी न्याय्यतेसाठी _समान प्रवेश आणि डिजिटल विभाग_ समस्यांवर काम केले. | -| **अल्गोरिदम निष्पक्षता** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ने लिंग वर्गीकरण AI उत्पादनांच्या अचूकतेचे मूल्यांकन केले, महिलांसाठी आणि रंगाच्या व्यक्तींसाठी अचूकतेतील अंतर उघड केले. [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ने पुरुषांपेक्षा महिलांना कमी क्रेडिट दिले. दोन्ही उदाहरणे अल्गोरिदम पूर्वग्रहांमुळे सामाजिक-आर्थिक हानी दर्शवतात.| -| **डेटा चुकीचे प्रतिनिधित्व** | 2020 - [Georgia Department of Public Health ने COVID-19 चार्ट्स](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) प्रसिद्ध केले ज्यामुळे नागरिकांना प्रकरणांतील ट्रेंडबद्दल चुकीचे दिशाभूल होईल असे वाटले. हे व्हिज्युअलायझेशन युक्त्यांद्वारे चुकीचे प्रतिनिधित्व दाखवते. | -| **स्वातंत्र्याची निवड** | 2020 - शिक्षण अॅप [ABCmouse ने FTC तक्रारीचे $10M देऊन सेटलमेंट केले](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जिथे पालकांना सदस्यता रद्द करता येत नव्हती. हे निवड आर्किटेक्चरमधील dark patterns दाखवते, जिथे वापरकर्त्यांना संभाव्य हानिकारक निवडींकडे वळवले गेले. | -| **डेटा गोपनीयता आणि वापरकर्ता हक्क** | 2021 - Facebook [डेटा उल्लंघन](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ज्यामुळे 530M वापरकर्त्यांचा डेटा उघड झाला, ज्यामुळे FTC ला $5B सेटलमेंट मिळाले. परंतु वापरकर्त्यांना उल्लंघनाबद्दल सूचित करण्यास नकार दिला, डेटा पारदर्शकता आणि प्रवेशाबाबत वापरकर्त्यांच्या हक्कांचे उल्लंघन केले. | - -अधिक केस स्टडीज शोधायच्या आहेत? या संसाधनांचा अभ्यास करा: -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - विविध उद्योगांतील नैतिक दुविधा. +| **सहमतीची माहिती** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - अभ्यासात सहभागी झालेल्या आफ्रिकन अमेरिकन पुरुषांना मोफत वैद्यकीय सेवा देण्याचे आश्वासन दिले गेले _पण फसवले गेले_ संशोधकांनी विषयांना त्यांच्या निदानाबद्दल किंवा उपचार उपलब्धतेबद्दल माहिती देण्यास अपयश आले. अनेक विषयांचा मृत्यू झाला आणि भागीदार किंवा मुलांवर परिणाम झाला; अभ्यास 40 वर्षे चालला. | +| **डेटा गोपनीयता** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) संशोधकांना _50K ग्राहकांकडून 10M अनामित चित्रपट रेटिंग_ प्रदान केले गेले जेणेकरून शिफारस अल्गोरिदम सुधारता येईल. तथापि, संशोधक बाह्य डेटासेट्स (उदा., IMDb टिप्पण्या) मध्ये वैयक्तिकरित्या ओळखण्यायोग्य डेटा सह correlating करून काही Netflix सदस्यांना "de-anonymize" करण्यात सक्षम होते.| +| **संकलन पूर्वग्रह** | 2013 - बोस्टन शहराने [Street Bump](https://www.boston.gov/transportation/street-bump) विकसित केले, एक अॅप ज्यामुळे नागरिकांना खड्ड्यांची माहिती देण्याची परवानगी मिळाली, ज्यामुळे शहराला समस्या शोधण्यासाठी आणि दुरुस्त करण्यासाठी चांगला रस्त्याचा डेटा मिळाला. तथापि, [कमी उत्पन्न गटातील लोकांना कार आणि फोनचा कमी प्रवेश होता](https://hbr.org/2013/04/the-hidden-biases-in-big-data), ज्यामुळे त्यांच्या रस्त्याच्या समस्या या अॅपमध्ये अदृश्य झाल्या. विकसकांनी न्याय्य प्रवेश आणि डिजिटल विभागांच्या समस्यांसाठी शैक्षणिक संस्थांशी काम केले. | +| **अल्गोरिदम न्याय** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ने लिंग वर्गीकरण AI उत्पादनांची अचूकता मूल्यांकन केली, महिलांसाठी आणि रंगाच्या व्यक्तींसाठी अचूकतेतील अंतर उघड केले. [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) पुरुषांपेक्षा महिलांना कमी क्रेडिट देत असल्याचे दिसून आले. दोन्ही अल्गोरिदम पूर्वग्रहांमधील समस्या स्पष्ट करतात ज्यामुळे सामाजिक-आर्थिक नुकसान होते.| +| **डेटा चुकीचे प्रतिनिधित्व** | 2020 - [Georgia Department of Public Health released COVID-19 charts](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ज्यामुळे नागरिकांना पुष्टी झालेल्या प्रकरणांतील ट्रेंडबद्दल चुकीचे मार्गदर्शन करण्याचा प्रयत्न केला गेला, x-axis वर गैर-कालक्रमिक क्रमवारीसह. हे व्हिज्युअलायझेशन युक्त्यांद्वारे चुकीचे प्रतिनिधित्व स्पष्ट करते. | +| **स्वातंत्र्याची निवडीचा भ्रम** | 2020 - शिक्षण अॅप [ABCmouse paid $10M to settle an FTC complaint](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) जिथे पालकांना सदस्यता रद्द करता येत नसल्यामुळे पैसे देण्यास अडकवले गेले. हे निवड आर्किटेक्चरमधील dark patterns स्पष्ट करते, जिथे वापरकर्त्यांना संभाव्य हानिकारक निवडींकडे वळवले गेले. | +| **डेटा गोपनीयता आणि वापरकर्त्याचे अधिकार** | 2021 - Facebook [Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 530M वापरकर्त्यांचा डेटा उघड केला, ज्यामुळे FTC ला $5B सेटलमेंट मिळाली. तथापि, वापरकर्त्यांना उल्लंघनाची सूचना देण्यास नकार दिला, डेटा पारदर्शकता आणि प्रवेशाबद्दल वापरकर्त्याच्या अधिकारांचे उल्लंघन केले. | + +अधिक केस स्टडीज एक्सप्लोर करू इच्छिता? या संसाधनांकडे पहा: +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - विविध उद्योगांमधील नैतिक समस्यांचे विश्लेषण. * [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - महत्त्वाच्या केस स्टडीजचा अभ्यास. -* [Where things have gone wrong](https://deon.drivendata.org/examples/) - Deon चेकलिस्टसह उदाहरणे. +* [Where things have gone wrong](https://deon.drivendata.org/examples/) - deon चेकलिस्टसह उदाहरणे. -> 🚨 तुम्ही पाहिलेल्या केस स्टडीजबद्दल विचार करा - तुम्हाला तुमच्या जीवनात अशाच प्रकारच्या नैतिक आव्हानाचा अनुभव आला आहे का? आपण चर्चा केलेल्या नैतिक आव्हानांपैकी एकाचे उदाहरण देणारी आणखी एक केस स्टडी तुम्हाला आठवते का? +> 🚨 तुम्ही पाहिलेल्या केस स्टडीजचा विचार करा - तुमच्या आयुष्यात तुम्हाला अशाच प्रकारच्या नैतिक आव्हानाचा अनुभव आला आहे का? तुम्ही या विभागात चर्चा केलेल्या नैतिक आव्हानांपैकी एकाचे उदाहरण देणारी किमान एक केस स्टडी विचार करू शकता का? ## लागू नैतिकता -आम्ही नैतिकतेच्या संकल्पना, आव्हाने आणि वास्तव जीवनातील संदर्भातील केस स्टडीजबद्दल चर्चा केली. पण प्रकल्पांमध्ये नैतिक तत्त्वे आणि पद्धती _लागू_ करण्यास कसे सुरुवात करायची? आणि चांगल्या प्रशासनासाठी या पद्धती _ऑपरेशनलाइज_ कशा करायच्या? चला काही वास्तव उपाय शोधूया: +आम्ही नैतिकता संकल्पना, आव्हाने आणि वास्तविक जीवनातील संदर्भातील केस स्टडीजबद्दल चर्चा केली आहे. पण आपल्या प्रकल्पांमध्ये नैतिक तत्त्वे आणि पद्धती _लागू_ करण्यास कसे सुरुवात करावी? आणि चांगल्या प्रशासनासाठी या पद्धती _ऑपरेशनलाइज_ कशा कराव्यात? चला काही वास्तविक उपाय एक्सप्लोर करूया: -### 1. व्यावसायिक कोड्स +### 1. व्यावसायिक संहिता -व्यावसायिक कोड्स हे सदस्यांना त्यांच्या नैतिक तत्त्वांचे पालन करण्यासाठी "प्रोत्साहन" देण्यासाठी संस्थांसाठी एक पर्याय प्रदान करतात. कोड्स हे व्यावसायिक वर्तनासाठी _नैतिक मार्गदर्शक_ आहेत, ज्यामुळे कर्मचारी किंवा सदस्य त्यांच्या संस्थेच्या तत्त्वांशी सुसंगत निर्णय घेऊ शकतात. +व्यावसायिक संहिता संस्थांना त्यांच्या नैतिक तत्त्वांना आणि मिशन स्टेटमेंटला पाठिंबा देण्यासाठी सदस्यांना "प्रोत्साहन" देण्याचा एक पर्याय देते. संहिता व्यावसायिक वर्तनासाठी _नैतिक मार्गदर्शक तत्त्वे_ आहेत, ज्यामुळे कर्मचारी किंवा सदस्य त्यांच्या संस्थेच्या तत्त्वांशी जुळणारे निर्णय घेऊ शकतात. सदस्यांकडून स्वेच्छेने अनुपालन केल्यास ते चांगले असते; तथापि, अनेक संस्था सदस्यांकडून अनुपालन करण्यासाठी अतिरिक्त बक्षिसे आणि दंड देतात. उदाहरणे: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics - * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (2013 मध्ये तयार) + * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (2013 मध्ये तयार केले) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 पासून) -> 🚨 तुम्ही व्यावसायिक अभियांत्रिकी किंवा डेटा सायन्स संस्थेचे सदस्य आहात का? त्यांच्या साइटवर शोधा की त्यांनी व्यावसायिक नैतिकतेचा कोड परिभाषित केला आहे का. यामध्ये त्यांच्या नैतिक तत्त्वांबद्दल काय म्हटले आहे? ते सदस्यांना कोडचे पालन करण्यासाठी कसे "प्रोत्साहित" करत आहेत? +> 🚨 तुम्ही व्यावसायिक अभियांत्रिकी किंवा डेटा सायन्स संस्थेचे सदस्य आहात का? त्यांच्या साइटवर जा आणि त्यांनी व्यावसायिक नैतिकतेची संहिता परिभाषित केली आहे का ते पहा. त्यांच्या नैतिक तत्त्वांबद्दल काय सांगते? ते सदस्यांना संहितेचे पालन करण्यासाठी कसे "प्रोत्साहन" देत आहेत? ### 2. नैतिकता चेकलिस्ट -व्यावसायिक कोड्स व्यावसायिकांकडून अपेक्षित _नैतिक वर्तन_ परिभाषित करतात, परंतु त्यांना मोठ्या प्रमाणावर प्रकल्पांमध्ये अंमलबजावणीसाठी [मर्यादा आहेत](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md). त्याऐवजी, अनेक डेटा सायन्स तज्ञ [चेकलिस्टसाठी वकिली करतात](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), ज्यामुळे तत्त्वे पद्धतींशी जोडता येतात. +व्यावसायिक संहिता व्यावसायिकांकडून आवश्यक _नैतिक वर्तन_ परिभाषित करतात, परंतु मोठ्या प्रमाणातील प्रकल्पांमध्ये अंमलबजावणीमध्ये [मर्यादा आहेत](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md). त्याऐवजी, अनेक डेटा सायन्स तज्ञ [चेकलिस्ट](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ची शिफारस करतात, ज्यामुळे तत्त्वे अधिक ठोस आणि कृतीक्षम पद्धतींमध्ये जोडली जाऊ शकतात. + +चेकलिस्ट प्रश्नांना "होय/नाही" कार्यांमध्ये रूपांतरित करतात ज्यांना ऑपरेशनलाइज करता येते, ज्यामुळे त्यांना मानक उत्पादन रिलीज वर्कफ्लोचा भाग म्हणून ट्रॅक करता येते. उदाहरणे: - * [Deon](https://deon.drivendata.org/) - उद्योगाच्या शिफारशींवर आधारित सामान्य-उद्देश डेटा नैतिकता चेकलिस्ट. - * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - माहिती हाताळणी पद्धतींसाठी मार्गदर्शन. - * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI विकास चक्रांमध्ये न्याय्यतेच्या तपासणीसाठी तयार. - * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - नैतिक मुद्द्यांच्या प्राथमिक अन्वेषणासाठी फ्रेमवर्क. + * [Deon](https://deon.drivendata.org/) - [उद्योगाच्या शिफारसीं](https://deon.drivendata.org/#checklist-citations) वरून तयार केलेली सामान्य-उद्देश डेटा नैतिकता चेकलिस्ट, सोपी एकत्रीकरणासाठी कमांड-लाइन टूलसह. + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - कायदेशीर आणि सामाजिक प्रदर्शनाच्या दृष्टिकोनातून माहिती हाताळण्याच्या पद्धतींसाठी सामान्य मार्गदर्शन प्रदान करते. + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI विकास चक्रांमध्ये न्याय्यतेच्या तपासणीचा अवलंब आणि समाकलन समर्थन करण्यासाठी AI तज्ञांनी तयार केले. + * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - अधिक खुले फ्रेमवर्क, डिझाइन, अंमलबजावणी आणि संस्थात्मक संदर्भांमध्ये नैतिक समस्यांच्या प्रारंभिक अन्वेषणासाठी संरचित. ### 3. नैतिकता नियम -नैतिकता म्हणजे सामायिक मूल्ये परिभाषित करणे आणि _स्वेच्छेने_ योग्य गोष्ट करणे. **अनुपालन** म्हणजे _कायद्याचे पालन करणे_ जिथे परिभाषित केले आहे. **प्रशासन** म्हणजे संस्थांमध्ये नैतिक तत्त्वे अंमलात आणण्यासाठी आणि कायद्याचे पालन करण्यासाठी सर्व मार्ग. +नैतिकता म्हणजे सामायिक मूल्ये परिभाषित करणे आणि _स्वेच्छेने_ योग्य गोष्ट करणे. **अनुपालन** म्हणजे _कायदा पाळणे_ जेथे परिभाषित केले आहे. **प्रशासन** म्हणजे संस्थांमध्ये नैतिक तत्त्वे अंमलात आणण्यासाठी आणि स्थापित कायद्यांचे पालन करण्यासाठी ऑपरेट करण्याच्या सर्व मार्गांचा समावेश. -उदाहरणे: - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - वैयक्तिक माहितीच्या वापरावर नियंत्रण. +आज, संस्थांमध्ये प्रशासन दोन प्रकारे घेतले जाते. प्रथम, हे **नैतिक AI** तत्त्वे परिभाषित करण्याबद्दल आहे आणि संस्थेतील सर्व AI-संबंधित प्रकल्पांमध्ये अवलंबन अंमलात आणण्यासाठी पद्धती स्थापित करण्याबद्दल आहे. दुसरे म्हणजे, ते कार्यरत असलेल्या प्रदेशांसाठी सर्व सरकारी-मंडेटेड **डेटा संरक्षण नियमांचे** पालन करण्याबद्दल आहे. + +डेटा संरक्षण आणि गोपनीयता नियमांची उदाहरणे: + + * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - _फेडरल सरकार_ वैयक्तिक माहितीचे संकलन, वापर आणि प्रकटीकरण नियंत्रित करते. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - वैयक्तिक आरोग्य डेटा संरक्षित करते. - * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - वापरकर्ता हक्क, डेटा संरक्षण आणि गोपनीयता प्रदान करते. + * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 वर्षांखालील मुलांच्या डेटा गोपनीयतेचे संरक्षण करते. + * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - वापरकर्त्याचे अधिकार, डेटा संरक्षण आणि गोपनीयता प्रदान करते. + * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) ग्राहकांना त्यांच्या (वैयक्तिक) डेटावर अधिक _अधिकार_ देते. + * `2021`, चीनचे [Personal Information Protection Law](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) नुकतेच पास झाले, जगातील सर्वात मजबूत ऑनलाइन डेटा गोपनीयता नियम तयार करत आहे. -> 🚨 युरोपियन युनियनने परिभाषित केलेले GDPR (General Data Protection Regulation) आज सर्वात प्रभावी डेटा गोपनीयता नियमांपैकी एक आहे. तुम्हाला माहित आहे का की ते नागरिकांच्या डिजिटल गोपनीयता आणि वैयक्तिक डेटाचे संरक्षण करण्यासाठी [8 वापरकर्ता हक्क](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) देखील परिभाषित करते? +> 🚨 युरोपियन युनियनने परिभाषित केलेले GDPR (General Data Protection Regulation) आज सर्वात प्रभावी डेटा गोपनीयता नियमांपैकी एक आहे. तुम्हाला माहित आहे का की ते नागरिकांच्या डिजिटल गोपनीयता आणि वैयक्तिक डेटाचे संरक्षण करण्यासाठी [8 वापरकर्त्याचे अधिकार](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) देखील परिभाषित करते? हे काय आहेत आणि ते का महत्त्वाचे आहेत ते जाणून घ्या. ### 4. नैतिकता संस्कृती -_अनुपालन_ (कायद्याचे पालन करणे) आणि [प्रणालीगत मुद्द्यांना](https://www.coursera.org/learn/data-science-ethics/home/week/4) संबोधित करणे यामध्ये एक अमूर्त अंतर आहे. +लक्षात घ्या की _अनुपालन_ (कायद्याच्या "अक्षर" पूर्ण करण्यासाठी पुरेसे करणे) आणि [सिस्टममधील समस्या](https://www.coursera.org/learn/data-science-ethics/home/week/4) (जसे की ऑसिफिकेशन, माहिती विषमता आणि वितरणात्मक अन्याय) यावर लक्ष केंद्रित करणे यामध्ये एक अमूर्त अंतर आहे जे AI च्या शस्त्रीकरणाला गती देऊ शकते. -हे [नैतिकता संस्कृती परिभाषित करण्यासाठी सहकार्यात्मक दृष्टिकोन](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) आवश्यक आहे, जे भावनिक कनेक्शन आणि उद्योगातील _सुसंगत सामायिक मूल्ये_ तयार करतात. +उत्तरार्धासाठी [नैतिकता संस्कृती परिभाषित करण्यासाठी सहयोगात्मक दृष्टिकोन](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) आवश्यक आहे जे भावनिक कनेक्शन आणि उद्योगातील _संघटनांमध्ये_ सातत्यपूर्ण सामायिक मूल्ये तयार करतात. यासाठी संस्थांमध्ये अधिक [औपचारिक डेटा नैतिकता संस्कृती](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) आवश्यक आहे - _कोणालाही_ [Andon cord खेचण्याची](https://en.wikipedia.org/wiki/Andon_(manufacturing)) परवानगी देणे (प्रक्रियेत लवकर नैतिक चिंता वाढवण्यासाठी) आणि AI प्रकल्पांमध्ये टीम तयार करण्यासाठी _नैतिक मूल्यांकन_ (उदा., भरतीमध्ये) एक मुख्य निकष बनवणे. --- -## [पाठानंतरचा क्विझ](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [Post-lecture quiz](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## पुनरावलोकन आणि स्व-अभ्यास -कोर्सेस आणि पुस्तके नैतिकतेच्या मुख्य संकल्पना आणि आव्हान समजून घेण्यास मदत करतात, तर केस स्टडीज आणि साधने वास्तव जीवनातील नैतिकता पद्धतींमध्ये मदत करतात. +कोर्सेस आणि पुस्तके मुख्य नैतिकता संकल्पना आणि आव्हाने समजून घेण्यास मदत करतात, तर केस स्टडीज आणि साधने वास्तविक जीवनातील संदर्भात लागू नैतिकता पद्धतींमध्ये मदत करतात. येथे सुरुवात करण्यासाठी काही संसाधने आहेत. * [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft कडून न्याय्यतेवर धडा. -* [जवाबदार AI चे तत्त्वे](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn कडून मोफत शिकण्याचा मार्ग. -* [नैतिकता आणि डेटा सायन्स](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ईबुक (M. Loukides, H. Mason इ.) -* [डेटा सायन्स नैतिकता](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विद्यापीठाचा ऑनलाइन कोर्स. -* [एथिक्स अनरॅप्ड](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विद्यापीठातील केस स्टडीज. +* [Responsible AI चे तत्त्वे](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn कडून मोफत शिकण्याचा मार्ग. +* [नैतिकता आणि डेटा विज्ञान](https://resources.oreilly.com/examples/0636920203964) - ओ'रेली ईबुक (M. Loukides, H. Mason इ.) +* [डेटा विज्ञान नैतिकता](https://www.coursera.org/learn/data-science-ethics#syllabus) - मिशिगन विद्यापीठाचा ऑनलाइन कोर्स. +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - टेक्सास विद्यापीठाकडून केस स्टडीज. # असाइनमेंट -[डेटा नैतिकतेवरील केस स्टडी लिहा](assignment.md) +[डेटा नैतिकतेसंबंधी केस स्टडी लिहा](assignment.md) --- **अस्वीकरण**: -हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) वापरून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपया लक्षात ठेवा की स्वयंचलित भाषांतरे त्रुटी किंवा अचूकतेच्या अभावाने युक्त असू शकतात. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही. \ No newline at end of file +हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) चा वापर करून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी कृपया लक्षात ठेवा की स्वयंचलित भाषांतरे त्रुटी किंवा अचूकतेच्या अभावाने युक्त असू शकतात. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही. \ No newline at end of file diff --git a/translations/ms/1-Introduction/02-ethics/README.md b/translations/ms/1-Introduction/02-ethics/README.md index b41c64b2..489cee0e 100644 --- a/translations/ms/1-Introduction/02-ethics/README.md +++ b/translations/ms/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ -# ဒေတာအကျင့်သိက္ခာအကျဉ်းချုပ် +# ဒေတာသိက္တစ်ဆိုင်ရာကျင့်ဝတ်များကိုမိတ်ဆက်ခြင်း |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| ဒေတာသိပ္ပံအကျင့်သိက္ခာ - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | +| ဒေတာသိပ္ပံကျင့်ဝတ်များ - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | --- -ကျွန်ုပ်တို့အားလုံးသည် ဒေတာဖြင့်ပြည့်နှက်နေသောကမ္ဘာတွင် နေထိုင်နေသော ဒေတာပြည်သူများဖြစ်ပါသည်။ +ကျွန်တော်တို့အားလုံးသည် ဒေတာဖြင့်ပြည့်နှက်နေသောကမ္ဘာတစ်ခုတွင် နေထိုင်နေကြသည်။ -စျေးကွက်လမ်းကြောင်းများအရ ၂၀၂၂ ခုနှစ်တွင် ၁-၃ အကြီးစားအဖွဲ့အစည်းများသည် [Marketplaces and Exchanges](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) မှတဆင့် သူတို့၏ဒေတာကို ဝယ်ယူရောင်းချမည်ဖြစ်သည်ဟု ပြောကြားထားသည်။ **App Developers** အနေဖြင့် ဒေတာအခြေခံသုံးသပ်မှုများနှင့် algorithm အခြေခံအလိုအလျောက်လုပ်ဆောင်မှုများကို နေ့စဉ်အသုံးပြုသူအတွေ့အကြုံများတွင် ပေါင်းစပ်ရန် ပိုမိုလွယ်ကူပြီး စျေးနှုန်းသက်သာလာမည်ဖြစ်သည်။ သို့သော် AI သည် ပျံ့နှံ့လာသည့်အခါတွင် [weaponization](https://www.youtube.com/watch?v=TQHs8SA1qpk) အကြီးအကျယ်ဖြင့် algorithm များကို အသုံးချခြင်းကြောင့် ဖြစ်ပေါ်နိုင်သော နစ်နာမှုများကိုလည်း နားလည်ရန်လိုအပ်ပါသည်။ +ဈေးကွက်လမ်းညွှန်များအရ ၂၀၂၂ ခုနှစ်တွင် ကြီးမားသောအဖွဲ့အစည်းများ၏ သုံးပုံတစ်ပုံသည် [ဈေးကွက်နှင့်အလဲအလှယ်စင်တာများ](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)မှတစ်ဆင့် ဒေတာကို ဝယ်ယူရောင်းချလိမ့်မည်ဟု ခန့်မှန်းထားသည်။ **အက်ပ်ဖွံ့ဖြိုးသူများ**အနေဖြင့် ဒေတာအခြေပြုသိမြင်မှုများနှင့် အယ်လဂိုရီသမ်အခြေပြု အလိုအလျောက်လုပ်ဆောင်မှုများကို နေ့စဉ်အသုံးပြုသူအတွေ့အကြုံများထဲသို့ ပိုမိုလွယ်ကူစွာ ထည့်သွင်းနိုင်မည်ဖြစ်သည်။ သို့သော် AI သည် ပိုမိုကျယ်ပြန့်လာသည့်အခါ၌၊ [အယ်လဂိုရီသမ်များ၏လက်နက်ပြုလုပ်မှု](https://www.youtube.com/watch?v=TQHs8SA1qpk)ကြောင့် ဖြစ်ပေါ်နိုင်သည့် နောက်ဆက်တွဲအန္တရာယ်များကိုလည်း နားလည်ရန်လိုအပ်လာမည်ဖြစ်သည်။ -လမ်းကြောင်းများအရ ၂၀၂၅ ခုနှစ်တွင် [၁၈၀ zettabytes](https://www.statista.com/statistics/871513/worldwide-data-created/) ကျော်သော ဒေတာကို ဖန်တီးပြီး သုံးစွဲမည်ဖြစ်သည်ဟု ပြောကြားထားသည်။ **Data Scientists** အနေဖြင့် ဒါသည် ကိုယ်ရေးအချက်အလက်များကို များစွာရရှိနိုင်စေသည်။ ဒါသည် အသုံးပြုသူများ၏ အပြုအမူကို ပုံဖော်ပြီး [illusion of free choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ဖန်တီးခြင်းဖြင့် အသုံးပြုသူများကို ကျွန်ုပ်တို့နှစ်သက်သော ရလဒ်များသို့ ညွှန်ကြားနိုင်စေသည်။ ဒါဟာ ဒေတာကိုယ်ရေးအချက်အလက်နှင့် အသုံးပြုသူကာကွယ်မှုများနှင့် ပတ်သက်သော ကျယ်ပြန့်သောမေးခွန်းများကိုလည်း ရှုမြင်စေပါသည်။ +ထို့အပြင် ၂၀၂၅ ခုနှစ်တွင် [၁၈၀ ဇက်တာဘိုက်](https://www.statista.com/statistics/871513/worldwide-data-created/) ကျော်သော ဒေတာကို ဖန်တီးသုံးစွဲမည်ဟု ခန့်မှန်းထားသည်။ **ဒေတာသိပ္ပံပညာရှင်များ**အနေဖြင့်၊ ၎င်းသည် ကိုယ်ရေးကိုယ်တာဒေတာများကို များစွာရရှိစေမည်ဖြစ်သည်။ ၎င်းသည် အသုံးပြုသူများ၏ အပြုအမူကို ပရိုဖိုင်ဖွဲ့နိုင်စေပြီး၊ [ရွေးချယ်ခွင့်၏အလွှာအမြှောက်](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)ကို ဖန်တီးသည့်နည်းလမ်းများဖြင့် ဆုံးဖြတ်မှုများကို သက်ရောက်မှုရှိစေမည်ဖြစ်သည်။ ဒါ့အပြင် ဒေတာကိုယ်ရေးကိုယ်တာနှင့် အသုံးပြုသူကာကွယ်မှုဆိုင်ရာ ကျယ်ပြန့်သောမေးခွန်းများကိုလည်း ထွက်ပေါ်စေသည်။ -ဒေတာအကျင့်သိက္ခာသည် ဒေတာသိပ္ပံနှင့် အင်ဂျင်နီယာလုပ်ငန်းများအတွက် _လိုအပ်သောလမ်းညွှန်များ_ ဖြစ်လာပြီး ဒေတာအခြေခံလုပ်ဆောင်မှုများမှ ဖြစ်ပေါ်နိုင်သော နစ်နာမှုများနှင့် မတော်တဆဖြစ်ရပ်များကို လျှော့ချရန် ကူညီပေးပါသည်။ [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) သည် ဒစ်ဂျစ်တယ်အကျင့်သိက္ခာ၊ တာဝန်ရှိသော AI နှင့် AI အုပ်ချုပ်မှုတို့ကို _AI ရှေးဉီးတန်း_ နှင့် _စက်မှုလုပ်ငန်း_ အဖြစ် ပိုမိုကျယ်ပြန့်လာစေရန် အရေးပါသောအချက်များအဖြစ် ဖော်ပြထားသည်။ +ဒေတာကျင့်ဝတ်များသည် ဒေတာသိပ္ပံနှင့် အင်ဂျင်နီယာလုပ်ငန်းများအတွက် _လိုအပ်သောလမ်းညွှန်များ_ ဖြစ်လာပြီး၊ ဒေတာအခြေပြုလုပ်ဆောင်မှုများမှ ဖြစ်ပေါ်နိုင်သည့် အန္တရာယ်များနှင့် မတော်တဆဖြစ်ရပ်များကို လျှော့ချရန် ကူညီပေးသည်။ [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) သည် ဒစ်ဂျစ်တယ်ကျင့်ဝတ်များ၊ တာဝန်ရှိသော AI နှင့် AI အုပ်ချုပ်မှုဆိုင်ရာ လမ်းကြောင်းများကို အဓိကအချက်အဖြစ် ဖော်ပြထားပြီး၊ AI ၏ _ဒီမိုကရေတိုက်ရေး_ နှင့် _စက်မှုလုပ်ငန်းရေးရာ_ ဆိုင်ရာအကြီးမားဆုံးလမ်းကြောင်းများကို ဦးဆောင်ပေးသည်။ ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -ဒီသင်ခန်းစာတွင် ဒေတာအကျင့်သိက္ခာ၏ စိတ်ဝင်စားဖွယ်ရာနယ်ပယ်ကို လေ့လာမည်ဖြစ်ပြီး အခြေခံအယူအဆများနှင့် စိန်ခေါ်မှုများ၊ ကိစ္စလေ့လာမှုများနှင့် အကျင့်သိက္ခာအခြေခံ AI အယူအဆများကို လေ့လာမည်ဖြစ်သည်။ ဒါဟာ ဒေတာနှင့် AI ကို အသုံးပြုသောအဖွဲ့အစည်းများတွင် အကျင့်သိက္ခာယဉ်ကျေးမှုတည်ဆောက်ရန် ကူညီပေးပါသည်။ +ဒီသင်ခန်းစာတွင်၊ ဒေတာကျင့်ဝတ်ဆိုင်ရာ အခြေခံအယူအဆများနှင့် စိန်ခေါ်မှုများမှစ၍ အဖွဲ့အစည်းများနှင့် အဖွဲ့များတွင် ကျင့်ဝတ်ယဉ်ကျေးမှုကို တည်ဆောက်ရန် အထောက်အကူပြုသော အုပ်ချုပ်မှုလိုက်နာမှုများအထိ စိတ်ဝင်စားဖွယ်ရာ ဒေတာကျင့်ဝတ်နယ်ပယ်ကို လေ့လာသွားမည်ဖြစ်သည်။ ## [Pre-lecture quiz](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## အခြေခံအဓိပ္ပါယ်များ -အဓိပ္ပါယ်အခြေခံစကားလုံးများကို နားလည်ခြင်းဖြင့် စတင်ကြပါစို့။ +အရင်ဆုံး ကျင့်ဝတ်ဆိုင်ရာ အခြေခံအဓိပ္ပါယ်များကို နားလည်ကြည့်ပါ။ -"Ethics" ဆိုသောစကားလုံးသည် [ဂရိစကားလုံး "ethikos"](https://en.wikipedia.org/wiki/Ethics) (နှင့် "ethos" ဟူသောအမြစ်) မှ ဆင်းသက်လာပြီး _စရိုက်သဘောသဘာဝ_ ကို ဆိုလိုသည်။ +"Ethics" ဆိုသောစကားလုံးသည် [ဂရိစကားလုံး "ethikos"](https://en.wikipedia.org/wiki/Ethics) (နှင့် ၎င်း၏အရင်းခံ "ethos") မှ ဆင်းသက်လာပြီး _အကျင့်စရိုက် သို့မဟုတ် သဘာဝကျင့်ဝတ်_ ဟု အဓိပ္ပါယ်ရသည်။ -**Ethics** သည် လူမှုအဖွဲ့အစည်းတွင် ကျွန်ုပ်တို့၏အပြုအမူကို စီမံခန့်ခွဲသော အတူတူမျှဝေသောတန်ဖိုးများနှင့် သီလတရားများအကြောင်းဖြစ်သည်။ Ethics သည် ဥပဒေများအပေါ်မူတည်ခြင်းမဟုတ်ဘဲ "မှန်/မှား" ဟု ကျယ်ကျယ်ပြန့်ပြန့်လက်ခံထားသောစံနှုန်းများအပေါ်မူတည်သည်။ သို့သော် အကျင့်သိက္ခာဆိုင်ရာစဉ်းစားမှုများသည် ကော်ပိုရိတ်အုပ်ချုပ်မှုနှင့် အစိုးရစည်းမျဉ်းများကို လွှမ်းမိုးနိုင်ပြီး လိုက်နာမှုအတွက် ပိုမိုအကျိုးခံစားမှုများဖန်တီးနိုင်သည်။ +**ကျင့်ဝတ်များ**ဆိုသည်မှာ လူ့အသိုင်းအဝိုင်းတွင် ကျင့်သုံးသည့် အကျင့်စရိုက်နှင့် ကျင့်ဝတ်များကို အခြေခံထားသော ပုံမှန်များနှင့် တန်းတူဖြစ်သည်။ ၎င်းသည် ဥပဒေများအပေါ်မူတည်ခြင်းမဟုတ်ဘဲ၊ "မှန်/မှား" ကို သတ်မှတ်သည့် လူမှုအသိအမြင်များအပေါ် အခြေခံထားသည်။ သို့သော် ကျင့်ဝတ်ဆိုင်ရာစဉ်းစားမှုများသည် ကော်ပိုရေးရှင်းအုပ်ချုပ်မှုနှင့် အစိုးရစည်းမျဉ်းများကို သက်ရောက်မှုရှိစေပြီး၊ လိုက်နာမှုအတွက် အားပေးမှုများကို ဖန်တီးပေးနိုင်သည်။ -**Data Ethics** သည် [Ethics ၏အသစ်သောခွဲခြားမှု](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ဖြစ်ပြီး "ဒေတာ၊ algorithm နှင့် ဆက်စပ်သောအလေ့အကျင့်များနှင့်ပတ်သက်သော သီလတရားဆိုင်ရာပြဿနာများကို လေ့လာပြီး အကဲဖြတ်သည်"။ ဒီမှာ **"ဒေတာ"** သည် ဖန်တီးခြင်း၊ မှတ်တမ်းတင်ခြင်း၊ စုစည်းခြင်း၊ အလုပ်လုပ်ခြင်း၊ ဖြန့်ဝေခြင်း၊ မျှဝေခြင်းနှင့် အသုံးပြုခြင်းဆိုင်ရာ လုပ်ဆောင်မှုများကို အဓိကထားပြီး **"algorithm"** သည် AI၊ agents၊ machine learning နှင့် robots ကို အဓိကထားပြီး **"practices"** သည် တာဝန်ရှိသောဆန်းသစ်မှု၊ programming၊ hacking နှင့် ethics codes စသည်တို့ကို အဓိကထားသည်။ +**ဒေတာကျင့်ဝတ်များ**သည် [ကျင့်ဝတ်၏အသစ်တစ်မျိုးသောအခွဲ](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ဖြစ်ပြီး၊ "ဒေတာ၊ အယ်လဂိုရီသမ်များနှင့် ၎င်းတို့နှင့်ဆိုင်သော လုပ်ဆောင်မှုများနှင့်ပတ်သက်သော ကျင့်ဝတ်ပြဿနာများကို လေ့လာသုံးသပ်သည်"။ ဤတွင် **"ဒေတာ"** ဆိုသည်မှာ ဖန်တီးခြင်း၊ မှတ်တမ်းတင်ခြင်း၊ စီမံခြင်း၊ လုပ်ငန်းစဉ်များနှင့် အသုံးပြုခြင်းတို့နှင့်ဆိုင်သော လုပ်ဆောင်မှုများကို အဓိကထားသည်။ **"အယ်လဂိုရီသမ်များ"** ဆိုသည်မှာ AI၊ အေးဂျင့်များ၊ စက်လေ့လာမှုနှင့် ရိုဘော့များကို အဓိကထားသည်။ **"လုပ်ဆောင်မှုများ"** ဆိုသည်မှာ တာဝန်ရှိသောဆန်းသစ်မှု၊ ပရိုဂရမ်ရေးခြင်း၊ ဟက်ကင်းလုပ်ခြင်းနှင့် ကျင့်ဝတ်ကုဒ်များကို အဓိကထားသည်။ -**Applied Ethics** သည် [သီလတရားဆိုင်ရာစဉ်းစားမှုများ၏ လက်တွေ့အသုံးချမှု](https://en.wikipedia.org/wiki/Applied_ethics) ဖြစ်သည်။ ၎င်းသည် _လက်တွေ့လုပ်ဆောင်မှုများ၊ ထုတ်ကုန်များနှင့် လုပ်ငန်းစဉ်များ_ အတွင်း သီလတရားဆိုင်ရာပြဿနာများကို တက်ကြွစွာလေ့လာပြီး သတ်မှတ်ထားသောအကျင့်သိက္ခာတန်ဖိုးများနှင့်အညီရှိနေစေရန် ပြင်ဆင်မှုများလုပ်ဆောင်ခြင်းဖြစ်သည်။ +**ကျင့်ဝတ်ဆိုင်ရာလက်တွေ့ကျင့်သုံးမှု** (Applied Ethics) ဆိုသည်မှာ [ကျင့်ဝတ်ဆိုင်ရာစဉ်းစားမှုများကို လက်တွေ့အသုံးချခြင်း](https://en.wikipedia.org/wiki/Applied_ethics) ဖြစ်သည်။ ၎င်းသည် _လက်တွေ့လုပ်ဆောင်မှုများ၊ ထုတ်ကုန်များနှင့် လုပ်ငန်းစဉ်များ_ တွင် ကျင့်ဝတ်ပြဿနာများကို လေ့လာပြီး၊ ၎င်းတို့ကို သတ်မှတ်ထားသော ကျင့်ဝတ်တန်ဖိုးများနှင့် ကိုက်ညီစေရန် ပြင်ဆင်မှုများကို လုပ်ဆောင်ခြင်းဖြစ်သည်။ -**Ethics Culture** သည် [_Applied Ethics ကို လက်တွေ့ကျကျလုပ်ဆောင်ခြင်း_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) အကြောင်းဖြစ်ပြီး ကျွန်ုပ်တို့၏အကျင့်သိက္ခာဆိုင်ရာအယူအဆများနှင့် လုပ်ဆောင်မှုများကို အဖွဲ့အစည်းတစ်ခုလုံးအတွင်းတွင် တစ်စည်းတစ်လုံးနှင့် အကျိုးရှိစွာ လက်ခံအသုံးပြုစေရန် သေချာစေရန်ဖြစ်သည်။ အောင်မြင်သော ethics culture များသည် အဖွဲ့အစည်းအတိုင်းအတာအကျင့်သိက္ခာဆိုင်ရာအယူအဆများကို သတ်မှတ်ပြီး လိုက်နာမှုအတွက် အဓိပ္ပါယ်ရှိသောအကျိုးခံစားမှုများပေးပြီး အဖွဲ့အစည်းအဆင့်တိုင်းတွင် လိုအပ်သောအပြုအမူများကို အားပေးပြီး တိုးတက်စေသည်။ +**ကျင့်ဝတ်ယဉ်ကျေးမှု** (Ethics Culture) ဆိုသည်မှာ [_ကျင့်ဝတ်ဆိုင်ရာလက်တွေ့ကျင့်သုံးမှုများကို လုပ်ငန်းအတွင်းသို့ ပေါင်းစည်းခြင်း_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) ဖြစ်ပြီး၊ ကျင့်ဝတ်ဆိုင်ရာစံနှုန်းများနှင့် လုပ်ဆောင်မှုများကို အဖွဲ့အစည်းတစ်ခုလုံးတွင် တစ်ပြိုင်တည်းနှင့် အကျိုးရှိစွာ လက်ခံအသုံးပြုစေရန် ရည်ရွယ်သည်။ အောင်မြင်သောကျင့်ဝတ်ယဉ်ကျေးမှုများသည် အဖွဲ့အစည်းအတွင်း ကျင့်ဝတ်ဆိုင်ရာစံနှုန်းများကို သတ်မှတ်ပြီး၊ လိုက်နာမှုအတွက် အားပေးမှုများကို ပံ့ပိုးပေးပြီး၊ အဖွဲ့အစည်းအဆင့်တိုင်းတွင် လိုအပ်သောအပြုအမူများကို အားပေးနှင့် တိုးချဲ့ပေးသည်။ -## Ethics အယူအဆများ +## ကျင့်ဝတ်ဆိုင်ရာအယူအဆများ -ဒီအပိုင်းတွင် **မျှဝေသောတန်ဖိုးများ** (principles) နှင့် **အကျင့်သိက္ခာဆိုင်ရာစိန်ခေါ်မှုများ** (problems) ကို ဆွေးနွေးပြီး **ကိစ္စလေ့လာမှုများ** ကို လေ့လာမည်ဖြစ်သည်။ ၎င်းတို့သည် လက်တွေ့ကမ္ဘာတွင် အကျင့်သိက္ခာအယူအဆများကို နားလည်စေရန် ကူညီပေးသည်။ +ဤအပိုင်းတွင် **မျှဝေသောတန်ဖိုးများ** (principles) နှင့် **ကျင့်ဝတ်ပြဿနာများ** (problems) ကို ဆွေးနွေးပြီး၊ **လက်တွေ့လေ့လာမှုများ** (case studies) ကို လေ့လာသွားမည်ဖြစ်သည်။ ၎င်းတို့သည် ကျင့်ဝတ်ဆိုင်ရာအယူအဆများကို လက်တွေ့ကမ္ဘာတွင် နားလည်ရန် အထောက်အကူပြုသည်။ -### 1. Ethics Principles +### 1. ကျင့်ဝတ်ဆိုင်ရာစံနှုန်းများ -ဒေတာအကျင့်သိက္ခာမဟာဗျူဟာတိုင်းသည် _Ethics Principles_ သတ်မှတ်ခြင်းဖြင့် စတင်သည် - ဒါဟာ "မျှဝေသောတန်ဖိုးများ" ဖြစ်ပြီး ဒေတာနှင့် AI ပရောဂျက်များတွင် လက်ခံနိုင်သောအပြုအမူများကို ဖော်ပြပြီး လိုက်နာမှုလုပ်ဆောင်မှုများကို လမ်းညွှန်သည်။ ၎င်းတို့ကို တစ်ဦးချင်းအဆင့်တွင် သို့မဟုတ် အဖွဲ့အဆင့်တွင် သတ်မှတ်နိုင်သည်။ သို့သော် အကြီးစားအဖွဲ့အစည်းများအများစုသည် ၎င်းတို့၏ _Ethical AI_ မဟာဗျူဟာ သို့မဟုတ် Framework ကို ကော်ပိုရိတ်အဆင့်တွင် သတ်မှတ်ပြီး အဖွဲ့အစည်းတစ်ခုလုံးတွင် တစ်စည်းတစ်လုံးနှင့် အကျိုးရှိစွာ လိုက်နာမှုလုပ်ဆောင်မှုများကို အတည်ပြုသည်။ +ဒေတာကျင့်ဝတ်မဟာဗျူဟာတိုင်းသည် _ကျင့်ဝတ်ဆိုင်ရာစံနှုန်းများ_ ကို သတ်မှတ်ခြင်းဖြင့် စတင်သည် - ၎င်းသည် ဒေတာနှင့် AI ပရောဂျက်များတွင် လိုက်နာရမည့် လုပ်ဆောင်မှုများကို ဖော်ပြသည့် "မျှဝေသောတန်ဖိုးများ" ဖြစ်သည်။ ၎င်းတို့ကို တစ်ဦးချင်း သို့မဟုတ် အဖွဲ့အဆင့်တွင် သတ်မှတ်နိုင်သည်။ သို့သော် အများစုသောကြီးမားသောအဖွဲ့အစည်းများသည် ၎င်းတို့၏ _ကျင့်ဝတ် AI_ မဟာဗျူဟာ သို့မဟုတ် ဖွဲ့စည်းမှုတွင် သတ်မှတ်ထားပြီး၊ အဖွဲ့အစည်းရှိ အဖွဲ့အားလုံးတွင် တစ်ပြိုင်တည်းနှင့် လိုက်နာမှုရှိစေရန် အတည်ပြုထားသည်။ -**ဥပမာ:** Microsoft's [Responsible AI](https://www.microsoft.com/en-us/ai/responsible-ai) မဟာဗျူဟာသည် _"AI ကို လူသားများကို ဦးစားပေးသော အကျင့်သိက္ခာဆိုင်ရာအယူအဆများဖြင့် တိုးတက်စေရန် ကျွန်ုပ်တို့ကတိပြုထားသည်"_ ဟုဖော်ပြထားပြီး အောက်ပါ Framework တွင် ၆ ခုသော အကျင့်သိက္ခာအယူအဆများကို ဖော်ပြထားသည်။ +**ဥပမာ:** Microsoft ၏ [တာဝန်ရှိသော AI](https://www.microsoft.com/en-us/ai/responsible-ai) မဟာဗျူဟာသည် _"ကျနော်တို့သည် လူသားများကို ဦးစားပေးသော ကျင့်ဝတ်ဆိုင်ရာစံနှုန်းများဖြင့် AI ကို တိုးတက်စေရန် ကတိပြုထားသည်"_ ဟု ဖော်ပြထားပြီး၊ အောက်ပါဖွဲ့စည်းမှုတွင် ကျင့်ဝတ်ဆိုင်ရာစံနှုန်း ၆ ခုကို ဖော်ပြထားသည်။ -![Responsible AI at Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![Microsoft ၏ တာဝန်ရှိသော AI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -ဒီအယူအဆများကို အနည်းငယ်လေ့လာကြပါစို့။ _Transparency_ နှင့် _Accountability_ သည် အခြေခံတန်ဖိုးများဖြစ်ပြီး အခြားအယူအဆများကို အခြေခံထားသည် - ဒါကြောင့် အဲဒီနေရာမှ စတင်ပါစို့။ +ဤစံနှုန်းများကို အနည်းငယ်လေ့လာကြည့်ပါ။ _တင်ပြမှု_ (Transparency) နှင့် _တာဝန်ရှိမှု_ (Accountability) သည် အခြေခံတန်ဖိုးများဖြစ်ပြီး၊ အခြားစံနှုန်းများသည် ၎င်းတို့အပေါ် အခြေခံထားသည် - ထို့ကြောင့် ၎င်းတို့မှ စတင်ကြည့်ပါ: -* [**Accountability**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) သည် ဒေတာနှင့် AI လုပ်ဆောင်မှုများအတွက် လုပ်ဆောင်သူများကို _တာဝန်ရှိ_ စေပြီး အကျင့်သိက္ခာအယူအဆများနှင့် လိုက်နာမှုလုပ်ဆောင်မှုများကို အတည်ပြုစေသည်။ -* [**Transparency**](https://www.microsoft.com/en-us/ai/res -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) သည် အယ်လဂိုရီသမ်ဒီဇိုင်းသည် အချက်အလက်အုပ်စုတစ်ခုခုကို စနစ်တကျ ခွဲခြားဆက်ဆံမှုရှိမရှိ စစ်ဆေးရာတွင် အသုံးပြုသည်။ ၎င်းသည် _အရင်းအမြစ်များခွဲဝေမှု_ (အုပ်စုတစ်ခုကို အရင်းအမြစ်များ ပိတ်ပင်ခြင်း သို့မဟုတ် ငြင်းပယ်ခြင်း) နှင့် _ဝန်ဆောင်မှုအရည်အသွေး_ (AI သည် အုပ်စုတစ်ခုအတွက် တိကျမှုနည်းပြီး အခြားအုပ်စုများအတွက် ပိုမိုတိကျမှုရှိခြင်း) တို့တွင် [အန္တရာယ်ဖြစ်နိုင်မှုများ](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ဖြစ်ပေါ်စေသည်။ +* [**တာဝန်ရှိမှု**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) သည် ဒေတာနှင့် AI လုပ်ငန်းစဉ်များအတွက် လုပ်ဆောင်သူများကို _တာဝန်ရှိ_ စေသည်။ +* [**တင်ပြမှု**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) သည် ဒေတာနှင့် AI လုပ်ဆောင်မှုများကို အသုံးပြုသူများအတွက် _နားလည်နိုင်စေ_ (ရှင်းလင်းစေ) သည်။ +* [**တရားမျှတမှု**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - AI သည် လူတိုင်းကို _တရားမျှတစွာ_ ဆက်ဆံစေရန် အာရုံစိုက်သည်။ +* [**ယုံကြည်စိတ်ချမှုနှင့် လုံခြုံမှု**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI သည် သတ်မှတ်ထားသောတန်ဖိုးများနှင့် _အညီ_ လုပ်ဆောင်စေရန် အာရုံစိုက်သည်။ +* [**ကိုယ်ရေးကိုယ်တာနှင့် လုံခြုံရေး**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ဒေတာ၏လမ်းကြောင်းကို နားလည်ပြီး၊ အသုံးပြုသူများအား _ကိုယ်ရေးကိုယ်တာနှင့်ဆိုင်သော ကာကွယ်မှုများ_ ပေးသည်။ +* [**ပါဝင်မှု**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI ဖြေရှင်းချက်များကို လူသားအများစု၏ _လိုအပ်ချက်များနှင့် စွမ်းရည်များ_ ကို ဖြည့်ဆည်းစေရန် ရည်ရွယ်သည်။ -ဤနေရာတွင် စဉ်းစားရန်မေးခွန်းများမှာ- - * မျိုးစုံသောအုပ်စုများနှင့် အခြေအနေများအတွက် မော်ဒယ်တိကျမှုကို သုံးသပ်ပြီးပါသလား။ - * စနစ်ကို အန္တရာယ်ဖြစ်နိုင်မှုများ (ဥပမာ- စံနှုန်းချမှတ်မှု) အတွက် စိစစ်ပြီးပါသလား။ - * ရှာဖွေတွေ့ရှိထားသော အန္တရာယ်များကို လျှော့ချရန် အချက်အလက်များကို ပြင်ဆင်ခြင်း သို့မဟုတ် မော်ဒယ်များကို ပြန်လေ့ကျင့်ခြင်းဖြင့် ပြုပြင်နိုင်ပါသလား။ +> 🚨 သင်၏ ဒေတာကျင့်ဝတ်မဟာဗျူဟာသည် ဘယ်လိုဖြစ်သင့်မလဲဆိုတာ စဉ်းစားကြည့်ပါ။ အခြားအဖွဲ့အစည်းများ၏ ကျင့်ဝတ် AI ဖွဲ့စည်းမှုများကို လေ့လာပါ - ဤနေရာတွင် [IBM](https://www.ibm.com/cloud/learn/ai-ethics)၊ [Google](https://ai.google/principles) နှင့် [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) ၏ ဥပမာများကို တွေ့နိုင်သည်။ ၎င်းတို့တွင် မျှဝေသောတန်ဖိုးများ ဘယ်လိုတူညီသလဲ။ ၎င်းတို့၏စံနှုန်းများသည် ၎င်းတို့၏ AI ထုတ်ကုန် သို့မဟုတ် စက်မှုလုပ်ငန်းနှင့် ဘယ်လိုဆက်စပ်နေသလဲ? +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) သည် အယ်လဂိုရီသမ်ဒီဇိုင်းသည် အချက်အလက်အုပ်စုတစ်ခုခုကို စနစ်တကျ ခွဲခြားဆက်ဆံမှုရှိမရှိ စစ်ဆေးရာတွင် အသုံးပြုသည်။ ၎င်းသည် _allocation_ (အရင်းအမြစ်များကို အုပ်စုတစ်ခုမှ ပယ်ချခြင်း သို့မဟုတ် ဖယ်ရှားထားခြင်း) နှင့် _quality of service_ (AI သည် အချို့သောအုပ်စုများအတွက် အခြားအုပ်စုများနှင့် တန်းတူ တိကျမှုမရှိခြင်း) တို့တွင် [အန္တရာယ်ဖြစ်နိုင်မှုများ](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ဖြစ်ပေါ်စေနိုင်သည်။ + +ဤအပိုင်းတွင် စဉ်းစားရန်မေးခွန်းများမှာ - + * မျိုးစုံသောအုပ်စုများနှင့် အခြေအနေများအတွက် မော်ဒယ်တိကျမှုကို သုံးသပ်ပြီးပြီလား။ + * စနစ်ကို အန္တရာယ်ဖြစ်နိုင်မှုများ (ဥပမာ- စံပုံဖော်ခြင်း) အတွက် စိစစ်ပြီးပြီလား။ + * တွေ့ရှိထားသော အန္တရာယ်များကို လျော့ပါးစေရန် အချက်အလက်များကို ပြင်ဆင်ခြင်း သို့မဟုတ် မော်ဒယ်များကို ပြန်လည်လေ့ကျင့်ခြင်း ပြုလုပ်နိုင်ပါသလား။ [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) ကဲ့သို့သော အရင်းအမြစ်များကို လေ့လာပါ။ -#### 2.9 အချက်အလက်မှားယွင်းမှု +#### 2.9 အချက်အလက်မှားဖော်ပြမှု -[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) သည် အချက်အလက်များကို မှန်မှန်ကန်ကန် တင်ပြခြင်းမှ မဟုတ်ဘဲ တစ်ဖက်သတ်အကြောင်းပြချက်များကို ထောက်ခံရန် လှည့်ဖြားတင်ပြခြင်း ဖြစ်နိုင်သည်။ +[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) သည် အချက်အလက်မှန်များမှ အချက်အလက်အမြင်များကို မတရားဖော်ပြခြင်းဖြင့် လိုချင်သော အကြောင်းပြချက်ကို ထောက်ခံရန် အသုံးပြုနေမရှိကြောင်း စစ်ဆေးခြင်းနှင့် ဆိုင်သည်။ -ဤနေရာတွင် စဉ်းစားရန်မေးခွန်းများမှာ- - * မပြည့်စုံသော သို့မဟုတ် မမှန်ကန်သော အချက်အလက်များကို တင်ပြနေပါသလား။ - * အချက်အလက်များကို လှည့်ဖြားသော အနိမ့်ဆုံးသဘောထားများကို ဖော်ဆောင်ရန် ရည်ရွယ်၍ ရှုထောင့်ပြသနေပါသလား။ - * ရလဒ်များကို လှည့်ဖြားရန် ရွေးချယ်ထားသော သင်္ချာနည်းလမ်းများကို အသုံးပြုနေပါသလား။ - * အခြားသော ရှင်းလင်းချက်များဖြင့် ကွဲပြားသော သဘောတရားများကို ဖော်ပြနိုင်ပါသလား။ +ဤအပိုင်းတွင် စဉ်းစားရန်မေးခွန်းများမှာ - + * မပြည့်စုံသော သို့မဟုတ် မတိကျသော အချက်အလက်များကို ဖော်ပြနေပါသလား။ + * အချက်အလက်များကို အလွဲသုံးစားဆောင်ရန် ခေါင်းဆောင်မှုများကို ဖြစ်ပေါ်စေသော ပုံဖော်မှုများကို အသုံးပြုနေပါသလား။ + * ရလဒ်များကို လှည့်စားရန် ရွေးချယ်ထားသော စာရင်းအင်းနည်းလမ်းများကို အသုံးပြုနေပါသလား။ + * အခြားသော အကြောင်းပြချက်များက အခြားသော သတ်မှတ်ချက်များကို ပေးနိုင်မည်ဖြစ်ပါသလား။ #### 2.10 လွတ်လပ်စွာရွေးချယ်မှု -[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) သည် စနစ်၏ "ရွေးချယ်မှုဖွဲ့စည်းမှုများ" သည် လူများကို ရွေးချယ်မှုများနှင့် ထိန်းချုပ်မှုရှိသည်ဟု ထင်ရစေပြီး သတ်မှတ်ထားသော ရလဒ်တစ်ခုသို့ ဦးတည်စေသော အခြေအနေဖြစ်သည်။ ဤ [dark patterns](https://www.darkpatterns.org/) များသည် အသုံးပြုသူများအတွက် လူမှုရေးနှင့် စီးပွားရေးဆိုင်ရာ အန္တရာယ်များ ဖြစ်စေသည်။ အသုံးပြုသူ၏ ဆုံးဖြတ်ချက်များသည် အပြုအမူပရိုဖိုင်များကို သက်ရောက်စေပြီး အန္တရာယ်များကို ပိုမိုကြီးထွားစေသည်။ +[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) သည် စနစ် "ရွေးချယ်မှုဖွဲ့စည်းမှုများ" သည် လူများကို ရွေးချယ်မှုများနှင့် ထိန်းချုပ်မှုရှိသည်ဟု ထင်ရစေသော်လည်း သတ်မှတ်ထားသော ရလဒ်တစ်ခုကို ရောက်ရန် အားပေးသော အခြေအနေဖြစ်သည်။ ဤ [dark patterns](https://www.darkpatterns.org/) များသည် အသုံးပြုသူများအတွက် လူမှုရေးနှင့် စီးပွားရေးအန္တရာယ်များ ဖြစ်ပေါ်စေနိုင်သည်။ အသုံးပြုသူ၏ ဆုံးဖြတ်ချက်များသည် အပြုအမူပရိုဖိုင်များကို သက်ရောက်စေနိုင်ပြီး၊ ဤအန္တရာယ်များ၏ သက်ရောက်မှုကို တိုးမြှင့်စေနိုင်သည်။ -ဤနေရာတွင် စဉ်းစားရန်မေးခွန်းများမှာ- - * အသုံးပြုသူသည် ရွေးချယ်မှု၏ သက်ရောက်မှုများကို နားလည်ခဲ့ပါသလား။ - * အသုံးပြုသူသည် (အခြားရွေးချယ်မှုများ) နှင့် ၎င်းတို့၏ အားသာချက်/အားနည်းချက်များကို သိရှိခဲ့ပါသလား။ - * အသုံးပြုသူသည် အလိုအလျောက် သို့မဟုတ် သက်ရောက်မှုရှိသော ရွေးချယ်မှုကို နောက်ပိုင်း ပြန်လည်ပြောင်းလဲနိုင်ပါသလား။ +ဤအပိုင်းတွင် စဉ်းစားရန်မေးခွန်းများမှာ - + * အသုံးပြုသူသည် ၎င်းရွေးချယ်မှု၏ သက်ရောက်မှုများကို နားလည်ခဲ့ပါသလား။ + * အသုံးပြုသူသည် (အခြားရွေးချယ်မှုများ) နှင့် ၎င်းတို့၏ အားသာချက်များနှင့် အားနည်းချက်များကို သိရှိခဲ့ပါသလား။ + * အသုံးပြုသူသည် အလိုအလျောက် သို့မဟုတ် သက်ရောက်မှုရှိသော ရွေးချယ်မှုကို နောက်ပိုင်း ပြန်လည်ဖျက်သိမ်းနိုင်ပါသလား။ ### 3. လေ့လာမှုများ -ဤကျင့်ဝတ်ဆိုင်ရာ စိန်ခေါ်မှုများကို အမှန်တကယ်ဖြစ်ပျက်သော အခြေအနေများတွင် နားလည်ရန်၊ ကျင့်ဝတ်ချိုးဖောက်မှုများကို မျက်လုံးပိတ်ထားခြင်းကြောင့် လူပုဂ္ဂိုလ်များနှင့် လူ့အဖွဲ့အစည်းအပေါ် ဖြစ်ပေါ်လာသော အန္တရာယ်များနှင့် ရလဒ်များကို ဖော်ပြသည့် လေ့လာမှုများကို ကြည့်ရှုပါ။ +ဤကျင့်ဝတ်စိစစ်မှုများကို အမှန်တကယ်ကမ္ဘာကြီးတွင် သက်ရောက်မှုများနှင့် အကျိုးဆက်များကို နားလည်ရန်၊ ကျင့်ဝတ်ချိုးဖောက်မှုများကို မသတိထားမိသောအခါ လူများနှင့် လူ့အဖွဲ့အစည်းအပေါ် ဖြစ်ပေါ်နိုင်သော အန္တရာယ်များကို ဖော်ပြသည့် လေ့လာမှုများကို ကြည့်ရှုရန် အထောက်အကူဖြစ်သည်။ -ဤနေရာတွင် ဥပမာအချို့ကို ဖော်ပြထားသည်- +ဤအချို့သော ဥပမာများကို ကြည့်ပါ - -| ကျင့်ဝတ်ဆိုင်ရာ စိန်ခေါ်မှု | လေ့လာမှု | +| ကျင့်ဝတ်စိစစ်မှု | လေ့လာမှု | |--- |--- | -| **သဘောတူညီမှု** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - အာဖရိကန်-အမေရိကန်လူမျိုးများကို အခမဲ့ဆေးကုသမှုပေးမည်ဟု ကတိပြုခဲ့သော်လည်း၊ ၎င်းတို့၏ ရောဂါအခြေအနေ သို့မဟုတ် ကုသမှုရရှိနိုင်မှုအကြောင်း မသိစေဘဲ လှည့်ဖြားခဲ့သည်။ ၄၀ နှစ်ကြာခဲ့သည်။ | -| **အချက်အလက်ကိုယ်ရေးအချက်အလက်** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) - ၁၀ သန်းအမည်မဖော်ထားသော ရုပ်ရှင်အဆင့်သတ်မှတ်ချက်များကို ထုတ်ပြန်ခဲ့ပြီး၊ အခြားအချက်အလက်များနှင့် ဆက်စပ်၍ Netflix အသုံးပြုသူများကို "အမည်ဖော်" လုပ်နိုင်ခဲ့သည်။ | -| **စုဆောင်းမှုဘက်လိုက်မှု** | 2013 - [Street Bump](https://www.boston.gov/transportation/street-bump) - အနည်းငွေဝင်သူများ၏ လမ်းပြဿနာများကို မဖော်ပြနိုင်ခဲ့သည့် Boston ၏ app တစ်ခု။ | -| **Algorithmic Fairness** | 2018 - [Gender Shades Study](http://gendershades.org/overview.html) - AI များတွင် အမျိုးသမီးများနှင့် အရောင်အသားမတူသူများအတွက် တိကျမှုနည်းပါးမှုကို ဖော်ပြခဲ့သည်။ | -| **အချက်အလက်မှားယွင်းမှု** | 2020 - [Georgia COVID-19 charts](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) - အချိန်လိုက်မဟုတ်သော x-axis ဖြင့် ပြည်သူများကို လှည့်ဖြားခဲ့သည်။ | -| **လွတ်လပ်စွာရွေးချယ်မှု၏ မျက်လှည့်** | 2020 - [ABCmouse](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) - မိဘများကို စာရင်းပယ်ဖျက်ရန် မဖြစ်နိုင်စေသော dark patterns ကို အသုံးပြုခဲ့သည်။ | -| **ကိုယ်ရေးအချက်အလက်နှင့် အသုံးပြုသူအခွင့်အရေးများ** | 2021 - [Facebook Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) - အသုံးပြုသူများကို အသိပေးရန် ငြင်းဆန်ခဲ့သည်။ | +| **သတင်းပေးသဘောတူညီမှု** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - အာဖရိကန်-အမေရိကန်လူမျိုးသားများကို အခမဲ့ဆေးကုသမှုပေးမည်ဟု ကတိပေးခဲ့သော်လည်း၊ ၎င်းတို့၏ ရောဂါအခြေအနေ သို့မဟုတ် ကုသမှုရရှိနိုင်မှုအကြောင်း မသတိပေးခဲ့သော သုတေသနမှူးများက လှည့်စားခဲ့သည်။ | +| **ဒေတာကိုယ်ရေးအချက်အလက်လုံခြုံမှု** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) - 50,000 ဖောက်သည်များ၏ 10M အမည်မဖော်ထားသော ရုပ်ရှင်အဆင့်သတ်မှတ်မှုများကို ထုတ်ပြန်ခဲ့သည်။ သို့သော် အခြားဒေတာများနှင့် ဆက်စပ်၍ Netflix အသုံးပြုသူများကို "အမည်ဖော်" လုပ်နိုင်ခဲ့သည်။ | +| **အချက်အလက်စုဆောင်းမှုအလွဲအချော်** | 2013 - [Street Bump](https://www.boston.gov/transportation/street-bump) - အနိမ့်ဝင်ငွေအုပ်စုများတွင် ကားနှင့်ဖုန်းများကို အသုံးပြုနိုင်မှုနည်းပါးသောကြောင့်၊ ၎င်းတို့၏ လမ်းမပြဿနာများကို မမြင်နိုင်ခဲ့ပါ။ | +| **Algorithmic Fairness** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) - AI များတွင် အမျိုးသမီးများနှင့် အရောင်သားများအတွက် တိကျမှုနည်းပါးမှုကို ဖော်ထုတ်ခဲ့သည်။ | +| **ဒေတာမှားဖော်ပြမှု** | 2020 - [Georgia COVID-19 charts](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) - အချိန်အစီအစဉ်မမှန်သော x-axis ဖြင့် ပြည်သူများကို လွှဲမှားစေသော visualization များကို အသုံးပြုခဲ့သည်။ | +| **လွတ်လပ်စွာရွေးချယ်မှု၏ မျှော်မှန်းမှု** | 2020 - [ABCmouse](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) - မိဘများကို မရပ်တန့်နိုင်သော subscription များအတွက် ပိတ်မိစေခဲ့သည်။ | +| **ဒေတာလုံခြုံမှုနှင့် အသုံးပြုသူအခွင့်အရေးများ** | 2021 - Facebook [Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) - အသုံးပြုသူ 530M ၏ ဒေတာကို ဖော်ထုတ်ခဲ့သည်။ | + +ပိုမိုလေ့လာလိုပါသလား? ဤအရင်းအမြစ်များကို ကြည့်ပါ - +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) +* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) +* [Where things have gone wrong](https://deon.drivendata.org/examples/) -ပိုမိုလေ့လာလိုပါသလား? ဤအရင်းအမြစ်များကို ကြည့်ပါ- -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - စက်မှုလုပ်ငန်းများအနှံ့ ကျင့်ဝတ်ဆိုင်ရာ စိန်ခေါ်မှုများ။ -* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - ကျင့်ဝတ်ဆိုင်ရာ landmark လေ့လာမှုများ။ -* [Where things have gone wrong](https://deon.drivendata.org/examples/) - deon checklist နှင့် ဥပမာများ။ +> 🚨 သင်ကြားခဲ့သော လေ့လာမှုများကို စဉ်းစားပါ - သင်သည် ဤကျင့်ဝတ်စိစစ်မှုတစ်ခုနှင့် ဆင်တူသော အခက်အခဲတစ်ခုကို သက်ရောက်ခံဖူးပါသလား။ -> 🚨 သင်ကြည့်ရှုခဲ့သော လေ့လာမှုများအပေါ်တွင် စဉ်းစားပါ - သင်၏ဘဝတွင် အလားတူကျင့်ဝတ်ဆိုင်ရာ စိန်ခေါ်မှုတစ်ခုကို ကြုံတွေ့ဖူးပါသလား? ဤအပိုင်းတွင် ဆွေးနွေးထားသော ကျင့်ဝတ်ဆိုင်ရာ စိန်ခေါ်မှုတစ်ခုကို ဖော်ပြသည့် အခြားလေ့လာမှုတစ်ခုကို စဉ်းစားနိုင်ပါသလား? +## ကျင့်ဝတ်ကျင့်သုံးမှု -## ကျင့်ဝတ်ဆိုင်ရာ လက်တွေ့ကျင့်သုံးမှု +ကျင့်ဝတ်အကြောင်းအရာများ၊ စိစစ်မှုများနှင့် အမှန်တကယ်ကမ္ဘာကြီးတွင် ဖြစ်ပေါ်သော လေ့လာမှုများကို ဆွေးနွေးခဲ့ပါသည်။ ၎င်းတို့ကို သင်၏ပရောဂျက်များတွင် ကျင့်သုံးရန် စတင်ရန်အတွက် အချို့သောဖြေရှင်းနည်းများကို လေ့လာကြည့်ပါ - -ကျင့်ဝတ်ဆိုင်ရာ အယူအဆများ၊ စိန်ခေါ်မှုများနှင့် အမှန်တကယ်ဖြစ်ပျက်သော အခြေအနေများကို ဆွေးနွေးပြီးပါပြီ။ ဒါပေမယ့် ကျင့်ဝတ်ဆိုင်ရာ မူဝါဒများနှင့် လုပ်ဆောင်မှုများကို သင်၏ပရောဂျက်များတွင် ဘယ်လိုစတင်အသုံးချရမလဲ? ၎င်းတို့ကို အုပ်ချုပ်မှုအတွက် ဘယ်လို စနစ်တကျလုပ်ဆောင်ရမလဲ? +### 1. Professional Codes -### 1. ပရော်ဖက်ရှင်နယ် စံပြများ +Professional Codes သည် အဖွဲ့အစည်းများအတွက် ၎င်းတို့၏ ကျင့်ဝတ်စည်းမျဉ်းများနှင့် မစ်ရှင်ကို ထောက်ခံရန် အဖွဲ့ဝင်များကို "အားပေး" ရန် ရွေးချယ်မှုတစ်ခုဖြစ်သည်။ -ပရော်ဖက်ရှင်နယ် စံပြများသည် အဖွဲ့အစည်းများအတွက် ၎င်းတို့၏ ကျင့်ဝတ်ဆိုင်ရာ မူဝါဒများနှင့် မစ်ရှင်ကို ထောက်ခံရန် အဖွဲ့ဝင်များကို "အားပေး" ရန် ရွေးချယ်မှုတစ်ခုဖြစ်သည်။ +ဥပမာများ - + * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics + * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct + * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) -ဥပမာများ- - * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics - * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct - * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) +> 🚨 သင်သည် ပရော်ဖက်ရှင်နယ်အဖွဲ့အစည်းတစ်ခု၏ အဖွဲ့ဝင်ဖြစ်ပါသလား? ၎င်းတို့၏ ကျင့်ဝတ်စည်းမျဉ်းများကို စူးစမ်းကြည့်ပါ။ -> 🚨 သင်သည် ပရော်ဖက်ရှင်နယ် အင်ဂျင်နီယာ သို့မဟုတ် ဒေတာသိပ္ပံအဖွဲ့အစည်းတစ်ခု၏ အဖွဲ့ဝင်ဖြစ်ပါသလား? ၎င်းတို့၏ ကျင့်ဝတ်ဆိုင်ရာ မူဝါဒများကို လေ့လာပါ။ +### 2. Ethics Checklists -### 2. ကျင့်ဝတ် စစ်ဆေးစာရင်းများ +Checklists များသည် ကျင့်ဝတ်စည်းမျဉ်းများကို လုပ်ဆောင်နိုင်သော နည်းလမ်းများအဖြစ် ပြောင်းလဲပေးသည်။ -ကျင့်ဝတ် စစ်ဆေးစာရင်းများသည် ကျင့်ဝတ်ဆိုင်ရာ မူဝါဒများကို လုပ်ဆောင်နိုင်သော နည်းလမ်းများဖြင့် ချိတ်ဆက်ရန် အထောက်အကူပြုသည်။ +ဥပမာများ - + * [Deon](https://deon.drivendata.org/) + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) + * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) -ဥပမာများ- - * [Deon](https://deon.drivendata.org/) - ဒေတာကျင့်ဝတ် စစ်ဆေးစာရင်း။ - * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - ကိုယ်ရေးအချက်အလက်ဆိုင်ရာ လမ်းညွှန်ချက်များ။ - * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI ဖွံ့ဖြိုးမှုတွင် တရားမျှတမှု စစ်ဆေးမှုများ။ - * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - ကျင့်ဝတ်ဆိုင်ရာ အခြေခံမေးခွန်းများ။ +### 3. Ethics Regulations -### 3. ကျင့်ဝတ်ဆိုင်ရာ စည်းမျဉ်းများ +Governance သည် ကျင့်ဝတ်စည်းမျဉ်းများနှင့် တရားဥပဒေများကို လိုက်နာရန် အဖွဲ့အစည်းများ၏ လုပ်ဆောင်မှုများကို ဖော်ပြသည်။ -ကျင့်ဝတ်သည် အတူတူမျှဝေသော တန်ဖိုးများကို သတ်မှတ်ခြင်းနှင့် စိတ်ကြိုက်လုပ်ဆောင်ခြင်းဖြစ်သည်။ **အညီအဖွဲ့** သည် သတ်မှတ်ထားသော ဥပဒေများကို လိုက်နာခြင်းဖြစ်သည်။ +ဥပမာများ - + * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) + * `1996`, [HIPAA](https://www.cdc.gov/phlp/publications/topic/hipaa.html) + * `2018`, [GDPR](https://gdpr-info.eu/) + * `2021`, [China's Personal Information Protection Law](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) -ဥပမာများ- - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) +> 🚨 GDPR သည် ယနေ့အထိ အရေးကြီးသော ဒေတာလုံခြုံမှုဥပဒေတစ်ခုဖြစ်သည်။ -> 🚨 GDPR သည် ယနေ့အထိ အရေးကြီးသော ဒေတာကိုယ်ရေးအချက်အလက်ဆိုင်ရာ စည်းမျဉ်းများထဲမှ တစ်ခုဖြစ်သည်။ ၎င်းသည် [အသုံးပြုသူ၏ ၈ ချက်အခွင့်အရေးများ](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) ကိုလည်း သတ်မှတ်ထားသည်။ +### 4. Ethics Culture -### 4. ကျင့်ဝတ်ယဉ်ကျေးမှု +ကျင့်ဝတ်စည်းမျဉ်းများကို အဖွဲ့အစည်းများတွင် ပိုမိုတည်ငြိမ်သော ယဉ်ကျေးမှုအဖြစ် ဖော်ဆောင်ရန် လိုအပ်သည်။ -**အညီအဖွဲ့** နှင့် [စနစ်ဆိုင်ရာပြဿနာများ](https://www.coursera.org/learn/data-science-ethics/home/week/4) ကို ဖြေရှင်းရန် အဖွဲ့အစည်းများအတွင်း ကျင့်ဝတ်ယဉ်ကျေးမှုများကို တည်ဆောက်ရန် လိုအပ်သည်။ +> 🚨 Ethics Culture သည် အဖွဲ့အစည်းများအတွင်း သက်ရောက်မှုရှိသော ကျင့်ဝတ်စည်းမျဉ်းများကို တည်ဆောက်ရန် အရေးကြီးသည်။ --- -## [Post-lecture quiz](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 -## ပြန်လည်သုံးသပ်ခြင်းနှင့် ကိုယ်တိုင်လေ့လာမှု - -သင်ယူရန် အရင်းအမြစ်များ- -* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft မှ Fairness သင်ခန်းစာ။ -* [AI တာဝန်ယူမှုဆိုင်ရာ မူဝါဒများ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn မှ အခမဲ့ သင်ကြားမှုလမ်းကြောင်း။ -* [Ethics and Data Science](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason et. al) -* [Data Science Ethics](https://www.coursera.org/learn/data-science-ethics#syllabus) - မီချီဂန်တက္ကသိုလ်မှ အွန်လိုင်းသင်တန်း။ +## [Post-lecture quiz](https://ff-quizzes.netlify.app/en/ds/) 🎯 +## Review & Self Study + +သင်ယူရန် အရင်းအမြစ်များ - +* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) +* [AI တာဝန်ယူမှုဆိုင်ရာ မူဝါဒများ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn မှ အခမဲ့ သင်ကြားမှု လမ်းကြောင်း။ +* [Ethics and Data Science](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason စသည်တို့) +* [Data Science Ethics](https://www.coursera.org/learn/data-science-ethics#syllabus) - မီချီဂန်တက္ကသိုလ်မှ အွန်လိုင်း သင်တန်း။ * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - တက္ကဆက်တက္ကသိုလ်မှ ကိစ္စလေ့လာမှုများ။ -# လုပ်ငန်း +# လုပ်ငန်းတာဝန် -[Data Ethics Case Study ရေးရန်](assignment.md) +[ဒေတာကျင့်ဝတ်ဆိုင်ရာ ကိစ္စလေ့လာမှုရေးသားရန်](assignment.md) --- -**ဝက်ဘ်ဆိုက်မှတ်ချက်**: -ဤစာရွက်စာတမ်းကို AI ဘာသာပြန်ဝန်ဆောင်မှု [Co-op Translator](https://github.com/Azure/co-op-translator) ကို အသုံးပြု၍ ဘာသာပြန်ထားပါသည်။ ကျွန်ုပ်တို့သည် တိကျမှန်ကန်မှုအတွက် ကြိုးစားနေပါသော်လည်း၊ အလိုအလျောက်ဘာသာပြန်မှုများတွင် အမှားများ သို့မဟုတ် မမှန်ကန်မှုများ ပါဝင်နိုင်သည်ကို ကျေးဇူးပြု၍ သတိပြုပါ။ မူရင်းစာရွက်စာတမ်းကို ၎င်း၏ မူလဘာသာစကားဖြင့် အာဏာတည်သောရင်းမြစ်အဖြစ် သတ်မှတ်ရန် လိုအပ်ပါသည်။ အရေးကြီးသော အချက်အလက်များအတွက် လူ့ဘာသာပြန်ပညာရှင်များမှ အတည်ပြုထားသော ဘာသာပြန်မှုကို အသုံးပြုရန် အကြံပြုပါသည်။ ဤဘာသာပြန်မှုကို အသုံးပြုခြင်းမှ ဖြစ်ပေါ်လာသော နားလည်မှုမှားမှုများ သို့မဟုတ် အဓိပ္ပာယ်မှားမှုများအတွက် ကျွန်ုပ်တို့သည် တာဝန်မယူပါ။ \ No newline at end of file +**အကြောင်းကြားချက်**: +ဤစာရွက်စာတမ်းကို AI ဘာသာပြန်ဝန်ဆောင်မှု [Co-op Translator](https://github.com/Azure/co-op-translator) ကို အသုံးပြု၍ ဘာသာပြန်ထားပါသည်။ ကျွန်ုပ်တို့သည် တိကျမှုအတွက် ကြိုးစားနေသော်လည်း၊ အလိုအလျောက် ဘာသာပြန်ခြင်းတွင် အမှားများ သို့မဟုတ် မတိကျမှုများ ပါဝင်နိုင်သည်ကို သတိပြုပါ။ မူရင်းဘာသာစကားဖြင့် ရေးသားထားသော စာရွက်စာတမ်းကို အာဏာတရ အရင်းအမြစ်အဖြစ် ရှုလို့ရပါသည်။ အရေးကြီးသော အချက်အလက်များအတွက် လူက ဘာသာပြန်ခြင်းကို အကြံပြုပါသည်။ ဤဘာသာပြန်ကို အသုံးပြုခြင်းမှ ဖြစ်ပေါ်လာသော အလွဲအမှားများ သို့မဟုတ် အနားလွဲမှုများအတွက် ကျွန်ုပ်တို့သည် တာဝန်မယူပါ။ \ No newline at end of file diff --git a/translations/ne/1-Introduction/02-ethics/README.md b/translations/ne/1-Introduction/02-ethics/README.md index dc10da18..5f5fd7c1 100644 --- a/translations/ne/1-Introduction/02-ethics/README.md +++ b/translations/ne/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ -# ਡਾਟਾ ਨੈਤਿਕਤਾ ਦਾ ਪਰਚੇ +# ਡਾਟਾ ਨੈਤਿਕਤਾ ਦਾ ਪਰਿਚਯ |![ [(@sketchthedocs)](https://sketchthedocs.dev) ਦੁਆਰਾ ਬਣਾਈ ਗਈ ਸਕੈਚਨੋਟ ](../../sketchnotes/02-Ethics.png)| |:---:| @@ -15,65 +15,40 @@ CO_OP_TRANSLATOR_METADATA: --- -ਅਸੀਂ ਸਾਰੇ ਡਾਟਾ ਦੇ ਨਾਗਰਿਕ ਹਾਂ ਜੋ ਇੱਕ ਡਾਟਾ-ਕੇਂਦ੍ਰਿਤ ਦੁਨੀਆ ਵਿੱਚ ਰਹਿੰਦੇ ਹਾਂ। +ਅਸੀਂ ਸਾਰੇ ਡਾਟਾ ਦੇ ਨਾਗਰਿਕ ਹਾਂ ਜੋ ਇੱਕ ਡਾਟਾ-ਕੇਂਦਰਤ ਦੁਨੀਆ ਵਿੱਚ ਰਹਿ ਰਹੇ ਹਾਂ। -ਬਾਜ਼ਾਰ ਦੇ ਰੁਝਾਨ ਦੱਸਦੇ ਹਨ ਕਿ 2022 ਤੱਕ, 1-ਵਿੱਚ-3 ਵੱਡੇ ਸੰਗਠਨ ਆਪਣਾ ਡਾਟਾ ਆਨਲਾਈਨ [ਬਾਜ਼ਾਰਾਂ ਅਤੇ ਐਕਸਚੇਂਜ](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) ਰਾਹੀਂ ਖਰੀਦਣ ਅਤੇ ਵੇਚਣਗੇ। **ਐਪ ਡਿਵੈਲਪਰਾਂ** ਵਜੋਂ, ਸਾਨੂੰ ਡਾਟਾ-ਚਲਿਤ ਅੰਤਰਦ੍ਰਿਸ਼ਟੀ ਅਤੇ ਐਲਗੋਰਿਦਮ-ਚਲਿਤ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਰੋਜ਼ਾਨਾ ਉਪਭੋਗਤਾ ਅਨੁਭਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨਾ ਆਸਾਨ ਅਤੇ ਸਸਤਾ ਲੱਗੇਗਾ। ਪਰ ਜਿਵੇਂ ਕਿ AI ਹਰ ਜਗ੍ਹਾ ਹੋ ਰਿਹਾ ਹੈ, ਸਾਨੂੰ ਇਹ ਵੀ ਸਮਝਣ ਦੀ ਲੋੜ ਹੋਵੇਗੀ ਕਿ [ਇਨ੍ਹਾਂ ਐਲਗੋਰਿਦਮਾਂ](https://www.youtube.com/watch?v=TQHs8SA1qpk) ਦੇ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਹਥਿਆਰਕਰਨ ਨਾਲ ਕੀ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਹੋ ਸਕਦੇ ਹਨ। +ਬਾਜ਼ਾਰ ਦੇ ਰੁਝਾਨ ਦੱਸਦੇ ਹਨ ਕਿ 2022 ਤੱਕ, 1-ਵਿੱਚ-3 ਵੱਡੀਆਂ ਸੰਸਥਾਵਾਂ ਆਪਣਾ ਡਾਟਾ ਆਨਲਾਈਨ [ਬਾਜ਼ਾਰਾਂ ਅਤੇ ਐਕਸਚੇਂਜਾਂ](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) ਰਾਹੀਂ ਖਰੀਦਣ ਅਤੇ ਵੇਚਣਗੀਆਂ। **ਐਪ ਡਿਵੈਲਪਰਾਂ** ਵਜੋਂ, ਸਾਨੂੰ ਡਾਟਾ-ਚਲਿਤ ਅੰਦਰੂਨੀ ਜਾਣਕਾਰੀ ਅਤੇ ਐਲਗੋਰਿਦਮ-ਚਲਿਤ ਆਟੋਮੇਸ਼ਨ ਨੂੰ ਰੋਜ਼ਾਨਾ ਉਪਭੋਗਤਾ ਅਨੁਭਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨਾ ਆਸਾਨ ਅਤੇ ਸਸਤਾ ਲੱਗੇਗਾ। ਪਰ ਜਿਵੇਂ ਜਿਵੇਂ AI ਹਰ ਜਗ੍ਹਾ ਫੈਲ ਰਿਹਾ ਹੈ, ਸਾਨੂੰ ਇਹ ਵੀ ਸਮਝਣ ਦੀ ਲੋੜ ਹੋਵੇਗੀ ਕਿ ਇਸ ਤਰ੍ਹਾਂ ਦੇ ਐਲਗੋਰਿਦਮਾਂ ਦੇ ਵੱਡੇ ਪੱਧਰ 'ਤੇ [ਹਥਿਆਰਕਰਨ](https://www.youtube.com/watch?v=TQHs8SA1qpk) ਨਾਲ ਕੀ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਹੋ ਸਕਦੇ ਹਨ। -ਰੁਝਾਨ ਇਹ ਵੀ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ 2025 ਤੱਕ ਅਸੀਂ [180 ਜੈਟਾਬਾਈਟ](https://www.statista.com/statistics/871513/worldwide-data-created/) ਤੋਂ ਵੱਧ ਡਾਟਾ ਬਣਾਉਣ ਅਤੇ ਖਪਤ ਕਰਨਗੇ। **ਡਾਟਾ ਸਾਇੰਟਿਸਟਾਂ** ਵਜੋਂ, ਇਹ ਸਾਨੂੰ ਵਿਅਕਤੀਗਤ ਡਾਟਾ ਤੱਕ ਬੇਮਿਸਾਲ ਪਹੁੰਚ ਦਿੰਦਾ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਅਸੀਂ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਵਿਵਹਾਰਕ ਪ੍ਰੋਫਾਈਲ ਬਣਾਉਣ ਅਤੇ ਫੈਸਲੇ ਕਰਨ ਵਿੱਚ ਪ੍ਰਭਾਵ ਪਾਉਣ ਦੇ ਯੋਗ ਹੋ ਸਕਦੇ ਹਾਂ, ਜਿਸ ਨਾਲ [ਮੁਕਤ ਚੋਣ ਦਾ ਭਰਮ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ਬਣ ਸਕਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਨਤੀਜਿਆਂ ਵੱਲ ਧੱਕਿਆ ਜਾ ਸਕਦਾ ਹੈ ਜੋ ਅਸੀਂ ਪਸੰਦ ਕਰਦੇ ਹਾਂ। ਇਹ ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਉਪਭੋਗਤਾ ਸੁਰੱਖਿਆ ਦੇ ਵਿਆਪਕ ਸਵਾਲ ਵੀ ਖੜ੍ਹੇ ਕਰਦਾ ਹੈ। +ਰੁਝਾਨ ਇਹ ਵੀ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ 2025 ਤੱਕ ਅਸੀਂ [180 ਜ਼ੈਟਾਬਾਈਟ](https://www.statista.com/statistics/871513/worldwide-data-created/) ਤੋਂ ਵੱਧ ਡਾਟਾ ਬਣਾਉਣ ਅਤੇ ਖਪਤ ਕਰਨਗੇ। **ਡਾਟਾ ਸਾਇੰਸਦਾਨਾਂ** ਵਜੋਂ, ਇਹ ਸਾਨੂੰ ਨਿੱਜੀ ਡਾਟਾ ਤੱਕ ਬੇਮਿਸਾਲ ਪਹੁੰਚ ਦਿੰਦਾ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਅਸੀਂ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਵਿਵਹਾਰਕ ਪ੍ਰੋਫਾਈਲ ਬਣਾਉਣ ਅਤੇ ਫੈਸਲੇ ਕਰਨ ਵਿੱਚ ਪ੍ਰਭਾਵ ਪਾਉਣ ਦੇ ਯੋਗ ਹੋ ਸਕਦੇ ਹਾਂ, ਜਿਸ ਨਾਲ ਇੱਕ [ਮੁਕੰਮਲ ਚੋਣ ਦਾ ਭਰਮ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ਬਣ ਸਕਦਾ ਹੈ, ਜਦੋਂਕਿ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਾਡੇ ਪਸੰਦੀਦਾ ਨਤੀਜਿਆਂ ਵੱਲ ਧੱਕਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਇਹ ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਉਪਭੋਗਤਾ ਸੁਰੱਖਿਆ ਬਾਰੇ ਵੱਡੇ ਸਵਾਲ ਵੀ ਖੜ੍ਹੇ ਕਰਦਾ ਹੈ। -ਡਾਟਾ ਨੈਤਿਕਤਾ ਹੁਣ ਡਾਟਾ ਸਾਇੰਸ ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਲਈ _ਜ਼ਰੂਰੀ ਰੱਖਵਾਲ_ ਹਨ, ਜੋ ਸਾਡੇ ਡਾਟਾ-ਚਲਿਤ ਕਾਰਵਾਈਆਂ ਤੋਂ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਅਤੇ ਅਣਜਾਣੇ ਨਤੀਜਿਆਂ ਨੂੰ ਘਟਾਉਣ ਵਿੱਚ ਸਹਾਇਕ ਹਨ। [ਗਾਰਟਨਰ ਹਾਈਪ ਸਾਈਕਲ ਫਾਰ AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ਡਿਜ਼ੀਟਲ ਨੈਤਿਕਤਾ, ਜ਼ਿੰਮੇਵਾਰ AI, ਅਤੇ AI ਗਵਰਨੈਂਸ ਵਿੱਚ ਸਬੰਧਤ ਰੁਝਾਨਾਂ ਨੂੰ ਵੱਡੇ ਮੈਗਾਟ੍ਰੈਂਡਸ ਲਈ ਮੁੱਖ ਚਾਲਕ ਵਜੋਂ ਪਛਾਣਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ AI ਦੀ _ਲੋਕਤੰਤਰਤਾ_ ਅਤੇ _ਉਦਯੋਗੀਕਰਨ_। +ਡਾਟਾ ਨੈਤਿਕਤਾ ਹੁਣ ਡਾਟਾ ਸਾਇੰਸ ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਲਈ _ਲਾਜ਼ਮੀ ਸੁਰੱਖਿਆ ਰੇਲਾਂ_ ਹਨ, ਜੋ ਸਾਡੇ ਡਾਟਾ-ਚਲਿਤ ਕਾਰਵਾਈਆਂ ਤੋਂ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਅਤੇ ਅਣਚਾਹੇ ਨਤੀਜਿਆਂ ਨੂੰ ਘਟਾਉਣ ਵਿੱਚ ਸਹਾਇਕ ਹਨ। [ਗਾਰਟਨਰ ਹਾਈਪ ਸਾਈਕਲ ਫਾਰ AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ਡਿਜ਼ੀਟਲ ਨੈਤਿਕਤਾ, ਜ਼ਿੰਮੇਵਾਰ AI, ਅਤੇ AI ਗਵਰਨੈਂਸ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਰੁਝਾਨਾਂ ਦੀ ਪਛਾਣ ਕਰਦਾ ਹੈ, ਜੋ AI ਦੀ _ਲੋਕਤੰਤਰਿਕਤਾ_ ਅਤੇ _ਉਦਯੋਗੀਕਰਨ_ ਦੇ ਵੱਡੇ ਰੁਝਾਨਾਂ ਲਈ ਮੁੱਖ ਚਾਲਕ ਹਨ। ![ਗਾਰਟਨਰ ਦਾ AI ਲਈ ਹਾਈਪ ਸਾਈਕਲ - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -ਇਸ ਪਾਠ ਵਿੱਚ, ਅਸੀਂ ਡਾਟਾ ਨੈਤਿਕਤਾ ਦੇ ਦਿਲਚਸਪ ਖੇਤਰ ਦੀ ਪੜਚੋਲ ਕਰਾਂਗੇ - ਮੁੱਖ ਧਾਰਨਾਵਾਂ ਅਤੇ ਚੁਣੌਤੀਆਂ ਤੋਂ ਲੈ ਕੇ ਕੇਸ ਸਟੱਡੀਜ਼ ਅਤੇ ਲਾਗੂ ਕੀਤੇ AI ਧਾਰਨਾਵਾਂ ਜਿਵੇਂ ਕਿ ਗਵਰਨੈਂਸ - ਜੋ ਡਾਟਾ ਅਤੇ AI ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲੀਆਂ ਟੀਮਾਂ ਅਤੇ ਸੰਗਠਨਾਂ ਵਿੱਚ ਨੈਤਿਕਤਾ ਦੀ ਸੰਸਕ੍ਰਿਤੀ ਸਥਾਪਤ ਕਰਨ ਵਿੱਚ ਸਹਾਇਕ ਹਨ। +ਇਸ ਪਾਠ ਵਿੱਚ, ਅਸੀਂ ਡਾਟਾ ਨੈਤਿਕਤਾ ਦੇ ਰੋਮਾਂਚਕ ਖੇਤਰ ਦੀ ਪੜਚੋਲ ਕਰਾਂਗੇ - ਮੁੱਖ ਧਾਰਨਾਵਾਂ ਅਤੇ ਚੁਣੌਤੀਆਂ ਤੋਂ ਲੈ ਕੇ ਕੇਸ ਅਧਿਐਨ ਅਤੇ ਲਾਗੂ ਕੀਤੇ ਗਏ AI ਸੰਕਲਪਾਂ ਤੱਕ ਜਿਵੇਂ ਕਿ ਗਵਰਨੈਂਸ - ਜੋ ਡਾਟਾ ਅਤੇ AI ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲੀਆਂ ਟੀਮਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਵਿੱਚ ਨੈਤਿਕਤਾ ਦੀ ਸੰਸਕ੍ਰਿਤੀ ਸਥਾਪਿਤ ਕਰਨ ਵਿੱਚ ਸਹਾਇਕ ਹਨ। -## [ਪ੍ਰੀ-ਲੈਕਚਰ ਕਵਿਜ਼](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 - -## ਮੁੱਢਲੀ ਪਰਿਭਾਸ਼ਾਵਾਂ - -ਆਓ ਮੁੱਢਲੀ ਸ਼ਬਦਾਵਲੀ ਨੂੰ ਸਮਝਣ ਨਾਲ ਸ਼ੁਰੂ ਕਰੀਏ। - -"ਨੈਤਿਕਤਾ" ਸ਼ਬਦ [ਯੂਨਾਨੀ ਸ਼ਬਦ "ethikos"](https://en.wikipedia.org/wiki/Ethics) (ਅਤੇ ਇਸਦੀ ਜੜ "ethos") ਤੋਂ ਆਉਂਦਾ ਹੈ, ਜਿਸਦਾ ਅਰਥ ਹੈ _ਚਰਿੱਤਰ ਜਾਂ ਨੈਤਿਕ ਪ੍ਰਕਿਰਤੀ_। - -**ਨੈਤਿਕਤਾ** ਉਹ ਸਾਂਝੇ ਮੁੱਲ ਅਤੇ ਨੈਤਿਕ ਸਿਧਾਂਤ ਹਨ ਜੋ ਸਮਾਜ ਵਿੱਚ ਸਾਡੇ ਵਿਵਹਾਰ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦੇ ਹਨ। ਨੈਤਿਕਤਾ ਕਾਨੂੰਨਾਂ 'ਤੇ ਨਹੀਂ, ਸਗੋਂ ਇਸ ਗੱਲ 'ਤੇ ਆਧਾਰਿਤ ਹੈ ਕਿ ਕੀ "ਸਹੀ ਵਿਰੁੱਧ ਗਲਤ" ਹੈ। ਹਾਲਾਂਕਿ, ਨੈਤਿਕ ਵਿਚਾਰ ਕਾਰਪੋਰੇਟ ਗਵਰਨੈਂਸ ਪਹਲਾਂ ਅਤੇ ਸਰਕਾਰੀ ਨਿਯਮਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਅਧਿਕਤਮ ਪਾਲਣਾ ਲਈ ਹੋਰ ਪ੍ਰੇਰਨਾ ਪੈਦਾ ਕਰਦੇ ਹਨ। - -**ਡਾਟਾ ਨੈਤਿਕਤਾ** ਇੱਕ [ਨਵਾਂ ਨੈਤਿਕਤਾ ਦਾ ਸ਼ਾਖਾ](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ਹੈ ਜੋ "_ਡਾਟਾ, ਐਲਗੋਰਿਦਮ ਅਤੇ ਸੰਬੰਧਿਤ ਅਭਿਆਸਾਂ_" ਨਾਲ ਸੰਬੰਧਿਤ ਨੈਤਿਕ ਸਮੱਸਿਆਵਾਂ ਦਾ ਅਧਿਐਨ ਅਤੇ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ। ਇੱਥੇ, **"ਡਾਟਾ"** ਜਨਰੇਸ਼ਨ, ਰਿਕਾਰਡਿੰਗ, ਕਿਊਰੇਸ਼ਨ, ਪ੍ਰੋਸੈਸਿੰਗ, ਪ੍ਰਸਾਰਣ, ਸਾਂਝਾ ਕਰਨ ਅਤੇ ਵਰਤਣ ਨਾਲ ਸੰਬੰਧਿਤ ਕਾਰਵਾਈਆਂ 'ਤੇ ਧਿਆਨ ਦਿੰਦਾ ਹੈ, **"ਐਲਗੋਰਿਦਮ"** AI, ਏਜੰਟ, ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਅਤੇ ਰੋਬੋਟ 'ਤੇ ਧਿਆਨ ਦਿੰਦਾ ਹੈ, ਅਤੇ **"ਅਭਿਆਸ"** ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ, ਪ੍ਰੋਗਰਾਮਿੰਗ, ਹੈਕਿੰਗ ਅਤੇ ਨੈਤਿਕਤਾ ਕੋਡ ਜਿਵੇਂ ਵਿਸ਼ਿਆਂ 'ਤੇ ਧਿਆਨ ਦਿੰਦਾ ਹੈ। -**ਲਾਗੂ ਨੈਤਿਕਤਾ** [ਨੈਤਿਕ ਵਿਚਾਰਾਂ ਦੀ ਵਿਵਹਾਰਕ ਲਾਗੂ](https://en.wikipedia.org/wiki/Applied_ethics) ਹੈ। ਇਹ _ਅਸਲ ਦੁਨੀਆ ਦੇ ਕਾਰਵਾਈਆਂ, ਉਤਪਾਦ ਅਤੇ ਪ੍ਰਕਿਰਿਆਵਾਂ_ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਨੈਤਿਕ ਸਮੱਸਿਆਵਾਂ ਦੀ ਸਰਗਰਮ ਜਾਂਚ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸਹੀ ਕਦਮ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ ਕਿ ਇਹ ਸਾਡੇ ਨਿਰਧਾਰਤ ਨੈਤਿਕ ਮੁੱਲਾਂ ਨਾਲ ਸੰਗਤ ਰਹੇ। - -**ਨੈਤਿਕਤਾ ਦੀ ਸੰਸਕ੍ਰਿਤੀ** [_ਲਾਗੂ ਨੈਤਿਕਤਾ ਨੂੰ ਕਾਰਗਰ ਬਣਾਉਣ](https://hbr.org/2019/05/how-to-design-an-ethical-organization) ਬਾਰੇ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਕਿ ਸਾਡੇ ਨੈਤਿਕ ਸਿਧਾਂਤ ਅਤੇ ਅਭਿਆਸ ਸੰਗਠਨ ਦੇ ਹਰ ਪੱਧਰ 'ਤੇ ਲਗਾਤਾਰ ਅਤੇ ਵਿਆਪਕ ਤਰੀਕੇ ਨਾਲ ਅਪਨਾਏ ਜਾਂਦੇ ਹਨ। ਸਫਲ ਨੈਤਿਕਤਾ ਦੀਆਂ ਸੰਸਕ੍ਰਿਤੀਆਂ ਸੰਗਠਨ-ਵਿਆਪਕ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦੀਆਂ ਹਨ, ਪਾਲਣਾ ਲਈ ਅਰਥਪੂਰਨ ਪ੍ਰੇਰਨਾ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ, ਅਤੇ ਹਰ ਪੱਧਰ 'ਤੇ ਚਾਹੀਦੇ ਵਿਵਹਾਰਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਅਤੇ ਵਧਾ ਕੇ ਨੈਤਿਕ ਨਿਯਮਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀਆਂ ਹਨ। - -## ਨੈਤਿਕਤਾ ਦੇ ਧਾਰਨਾਵਾਂ - -ਇਸ ਭਾਗ ਵਿੱਚ, ਅਸੀਂ **ਸਾਂਝੇ ਮੁੱਲ** (ਸਿਧਾਂਤ) ਅਤੇ **ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ** (ਸਮੱਸਿਆਵਾਂ) ਜਿਵੇਂ ਡਾਟਾ ਨੈਤਿਕਤਾ ਦੇ ਧਾਰਨਾਵਾਂ 'ਤੇ ਚਰਚਾ ਕਰਾਂਗੇ - ਅਤੇ **ਕੇਸ ਸਟੱਡੀਜ਼** ਦੀ ਪੜਚੋਲ ਕਰਾਂਗੇ ਜੋ ਤੁਹਾਨੂੰ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਇਹ ਧਾਰਨਾਵਾਂ ਸਮਝਣ ਵਿੱਚ ਮਦਦ ਕਰਦੀਆਂ ਹਨ। - -### 1. ਨੈਤਿਕ ਸਿਧਾਂਤ +## [ਪ੍ਰੀ-ਲੈਕਚਰ ਕਵਿਜ਼](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 -ਹਰ ਡਾਟਾ ਨੈਤਿਕਤਾ ਰਣਨੀਤੀ ਦੀ ਸ਼ੁਰੂਆਤ _ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ_ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਨ ਨਾਲ ਹੁੰਦੀ ਹੈ - "ਸਾਂਝੇ ਮੁੱਲ" ਜੋ ਸਵੀਕਾਰਯੋਗ ਵਿਵਹਾਰਾਂ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ, ਅਤੇ ਸਾਡੇ ਡਾਟਾ ਅਤੇ AI ਪ੍ਰਾਜੈਕਟਾਂ ਵਿੱਚ ਪਾਲਣਾ ਕਰਨ ਵਾਲੇ ਕਾਰਵਾਈਆਂ ਨੂੰ ਮਾਰਗਦਰਸ਼ਨ ਦਿੰਦੇ ਹਨ। ਤੁਸੀਂ ਇਹਨਾਂ ਨੂੰ ਵਿਅਕਤੀਗਤ ਜਾਂ ਟੀਮ ਪੱਧਰ 'ਤੇ ਨਿਰਧਾਰਤ ਕਰ ਸਕਦੇ ਹੋ। ਹਾਲਾਂਕਿ, ਜ਼ਿਆਦਾਤਰ ਵੱਡੇ ਸੰਗਠਨ ਇਹਨਾਂ ਨੂੰ ਇੱਕ _ਨੈਤਿਕ AI_ ਮਿਸ਼ਨ ਸਟੇਟਮੈਂਟ ਜਾਂ ਫਰੇਮਵਰਕ ਵਿੱਚ ਰੂਪਾਂਤਰਿਤ ਕਰਦੇ ਹਨ ਜੋ ਕਾਰਪੋਰੇਟ ਪੱਧਰ 'ਤੇ ਨਿਰਧਾਰਤ ਹੁੰਦਾ ਹੈ ਅਤੇ ਸਾਰੀਆਂ ਟੀਮਾਂ ਵਿੱਚ ਲਗਾਤਾਰ ਲਾਗੂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। +## ਮੁੱਢਲੇ ਪਰਿਭਾਸ਼ਾਵਾਂ -**ਉਦਾਹਰਨ:** ਮਾਈਕਰੋਸਾਫਟ ਦਾ [ਜ਼ਿੰਮੇਵਾਰ AI](https://www.microsoft.com/en-us/ai/responsible-ai) ਮਿਸ਼ਨ ਸਟੇਟਮੈਂਟ ਕਹਿੰਦਾ ਹੈ: _"ਅਸੀਂ AI ਦੇ ਅਗਾਂਹ ਵਧਾਉਣ ਲਈ ਵਚਨਬੱਧ ਹਾਂ ਜੋ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਦੁਆਰਾ ਚਲਾਇਆ ਜਾਂਦਾ ਹੈ ਜੋ ਲੋਕਾਂ ਨੂੰ ਪਹਿਲਾਂ ਰੱਖਦਾ ਹੈ"_ - ਹੇਠਾਂ ਦਿੱਤੇ ਫਰੇਮਵਰਕ ਵਿੱਚ 6 ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਦੀ ਪਛਾਣ ਕਰਦਾ ਹੈ: +ਆਓ ਮੁੱਢਲੇ ਸ਼ਬਦਾਵਲੀ ਨੂੰ ਸਮਝਣ ਨਾਲ ਸ਼ੁਰੂ ਕਰੀਏ। -![ਮਾਈਕਰੋਸਾਫਟ ਵਿੱਚ ਜ਼ਿੰਮੇਵਾਰ AI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +"ਨੈਤਿਕਤਾ" ਸ਼ਬਦ [ਯੂਨਾਨੀ ਸ਼ਬਦ "ਐਥਿਕੋਸ"](https://en.wikipedia.org/wiki/Ethics) (ਅਤੇ ਇਸਦੀ ਜੜ੍ਹ "ਐਥੋਸ") ਤੋਂ ਆਉਂਦਾ ਹੈ, ਜਿਸਦਾ ਅਰਥ ਹੈ _ਚਰਿੱਤਰ ਜਾਂ ਨੈਤਿਕ ਪ੍ਰਕਿਰਤੀ_। -ਆਓ ਇਨ੍ਹਾਂ ਸਿਧਾਂਤਾਂ ਦੀ ਸੰਖੇਪ ਵਿੱਚ ਪੜਚੋਲ ਕਰੀਏ। _ਪਾਰਦਰਸ਼ਤਾ_ ਅਤੇ _ਜਵਾਬਦੇਹੀ_ ਮੁੱਢਲੇ ਮੁੱਲ ਹਨ ਜਿਨ੍ਹਾਂ 'ਤੇ ਹੋਰ ਸਿਧਾਂਤ ਬਣੇ ਹਨ - ਇਸ ਲਈ ਆਓ ਇੱਥੇ ਸ਼ੁਰੂ ਕਰੀਏ: +**ਨੈਤਿਕਤਾ** ਉਹ ਸਾਂਝੇ ਮੁੱਲ ਅਤੇ ਨੈਤਿਕ ਸਿਧਾਂਤ ਹਨ ਜੋ ਸਮਾਜ ਵਿੱਚ ਸਾਡੇ ਵਿਵਹਾਰ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਦੇ ਹਨ। ਨੈਤਿਕਤਾ ਕਾਨੂੰਨਾਂ 'ਤੇ ਨਹੀਂ, ਸਗੋਂ ਇਸ ਗੱਲ 'ਤੇ ਆਧਾਰਿਤ ਹੈ ਕਿ ਕੀ "ਸਹੀ ਅਤੇ ਗਲਤ" ਹੈ। ਹਾਲਾਂਕਿ, ਨੈਤਿਕ ਵਿਚਾਰਨ ਕਾਰਪੋਰੇਟ ਗਵਰਨੈਂਸ ਪਹਲਾਂ ਅਤੇ ਸਰਕਾਰੀ ਨਿਯਮਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਅਨੁਕੂਲਤਾ ਲਈ ਹੋਰ ਪ੍ਰੇਰਣਾ ਪੈਦਾ ਕਰਦੇ ਹਨ। -* [**ਜਵਾਬਦੇਹੀ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ਪੇਸ਼ੇਵਰਾਂ ਨੂੰ ਆਪਣੇ ਡਾਟਾ ਅਤੇ AI ਕਾਰਵਾਈਆਂ ਲਈ, ਅਤੇ ਇਨ੍ਹਾਂ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਦੀ ਪਾਲਣਾ ਲਈ _ਜਵਾਬਦੇਹ_ ਬਣਾਉਂਦੀ ਹੈ। -* [**ਪਾਰਦਰਸ਼ਤਾ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ ਕਿ ਡਾਟਾ ਅਤੇ AI ਕਾਰਵਾਈਆਂ ਉਪਭੋਗਤਾਵਾਂ ਲਈ _ਸਮਝਣਯੋਗ_ ਹਨ, ਫੈਸਲਿਆਂ ਦੇ ਪਿੱਛੇ ਕੀ ਅਤੇ ਕਿਉਂ ਦੀ ਵਿਆਖਿਆ ਕਰਦੀਆਂ ਹਨ। -* [**ਨਿਆਂ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ 'ਤੇ ਧਿਆਨ ਦਿੰਦਾ ਹੈ ਕਿ AI _ਸਾਰੇ ਲੋਕਾਂ_ ਨਾਲ ਨਿਆਂ ਕਰਦਾ ਹੈ, ਡਾਟਾ ਅਤੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਕਿਸੇ ਵੀ ਪ੍ਰਣਾਲੀਕ ਜਾਂ ਅਸਪਸ਼ਟ ਸਮਾਜ-ਤਕਨੀਕੀ ਪੱਖਪਾਤ ਨੂੰ ਹਟਾਉਂਦਾ ਹੈ। -* [**ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਸੁਰੱਖਿਆ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ ਕਿ AI _ਲਗਾਤਾਰ_ ਨਿਰਧਾਰਤ ਮੁੱਲਾਂ ਨਾਲ ਵਿਵਹਾਰ ਕਰਦਾ ਹੈ, ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਜਾਂ ਅਣਜਾਣੇ ਨਤੀਜਿਆਂ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ। -* [**ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੁਰੱਖਿਆ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ਇਹ ਡਾਟਾ ਦੀ ਲੀਨਿਏਜ ਨੂੰ ਸਮਝਣ ਅਤੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ _ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਸੰਬੰਧਿਤ ਸੁਰੱਖਿਆ_ ਪ੍ਰਦਾਨ ਕਰਨ ਬਾਰੇ ਹੈ। -* [**ਸਮਾਵੇਸ਼ਤਾ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ਇਹ ਇਰਾਦੇ ਨਾਲ AI ਹੱਲਾਂ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨ ਬਾਰੇ ਹੈ, ਇਹਨਾਂ ਨੂੰ _ਵਿਆਪਕ ਮਨੁੱਖੀ ਜ਼ਰੂਰਤਾਂ_ ਅਤੇ ਯੋਗਤਾਵਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਅਨੁਕੂਲ ਬਣਾਉਂਦਾ ਹੈ। +**ਡਾਟਾ ਨੈਤਿਕਤਾ** ਨੈਤਿਕਤਾ ਦੀ ਇੱਕ [ਨਵੀਂ ਸ਼ਾਖਾ](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ਹੈ ਜੋ "_ਡਾਟਾ, ਐਲਗੋਰਿਦਮ ਅਤੇ ਸੰਬੰਧਤ ਅਭਿਆਸਾਂ_" ਨਾਲ ਜੁੜੀਆਂ ਨੈਤਿਕ ਸਮੱਸਿਆਵਾਂ ਦਾ ਅਧਿਐਨ ਅਤੇ ਮੁਲਾਂਕਣ ਕਰਦੀ ਹੈ। ਇੱਥੇ, **"ਡਾਟਾ"** ਜਨਰੇਸ਼ਨ, ਰਿਕਾਰਡਿੰਗ, ਕੁਰੇਸ਼ਨ, ਪ੍ਰੋਸੈਸਿੰਗ, ਪ੍ਰਸਾਰਣ, ਸਾਂਝਾ ਕਰਨ ਅਤੇ ਵਰਤਣ ਨਾਲ ਜੁੜੇ ਕਾਰਵਾਈਆਂ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦਾ ਹੈ; **"ਐਲਗੋਰਿਦਮ"** AI, ਏਜੰਟ, ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਅਤੇ ਰੋਬੋਟਾਂ 'ਤੇ ਧਿਆਨ ਦਿੰਦੇ ਹਨ; ਅਤੇ **"ਅਭਿਆਸ"** ਜ਼ਿੰਮੇਵਾਰ ਨਵੀਨਤਾ, ਪ੍ਰੋਗਰਾਮਿੰਗ, ਹੈਕਿੰਗ ਅਤੇ ਨੈਤਿਕ ਕੋਡਾਂ ਵਰਗੇ ਵਿਸ਼ਿਆਂ 'ਤੇ ਧਿਆਨ ਦਿੰਦੇ ਹਨ। -> 🚨 ਸੋਚੋ ਕਿ ਤੁਹਾਡਾ ਡਾਟਾ ਨੈਤਿਕਤਾ ਮਿਸ਼ਨ ਸਟੇਟਮੈਂਟ ਕੀ ਹੋ ਸਕਦਾ ਹੈ। ਹੋਰ ਸੰਗਠਨਾਂ ਦੇ ਨੈਤਿਕ AI ਫਰੇਮਵਰਕ ਦੀ ਪੜਚੋਲ ਕਰੋ - ਇੱਥੇ [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), ਅਤੇ [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) ਦੇ ਉਦਾਹਰਨ ਹਨ। ਉਹਨਾਂ ਦੇ ਸਾਂਝੇ ਮੁੱਲ ਕੀ ਹਨ? ਇਹ ਸਿਧਾਂਤ ਉਹਨਾਂ ਦੇ AI ਉਤਪਾਦ ਜਾਂ ਉਦਯੋਗ ਨਾਲ ਕਿਵੇਂ ਸੰਬੰਧਿਤ ਹਨ? +**ਲਾਗੂ ਨੈਤਿਕਤਾ** ਨੈਤਿਕ ਵਿਚਾਰਾਂ ਦੀ [ਵਿਆਵਹਾਰਿਕ ਲਾਗੂ](https://en.wikipedia.org/wiki/Applied_ethics) ਹੈ। ਇਹ _ਅਸਲ ਦੁਨੀਆ ਦੇ ਕਾਰਵਾਈਆਂ, ਉਤਪਾਦਾਂ ਅਤੇ ਪ੍ਰਕਿਰਿਆਵਾਂ_ ਦੇ ਸੰਦਰਭ ਵਿੱਚ ਨੈਤਿਕ ਮੁੱਦਿਆਂ ਦੀ ਸਰਗਰਮ ਜਾਂਚ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸਹੀ ਕਦਮ ਚੁੱਕਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਹੈ ਕਿ ਇਹ ਸਾਡੇ ਪਰਿਭਾਸ਼ਿਤ ਨੈਤਿਕ ਮੁੱਲਾਂ ਨਾਲ ਸੰਗਤ ਰਹੇ। -### 2. ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ +**ਨੈਤਿਕਤਾ ਦੀ ਸੰਸਕ੍ਰਿਤੀ** [_ਲਾਗੂ ਨੈਤਿਕਤਾ ਨੂੰ ਕਾਰਜਨਵੀਂ ਬਣਾਉਣ_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) ਬਾਰੇ ਹੈ ਤਾਂ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਸਾਡੇ ਨੈਤਿਕ ਸਿਧਾਂਤ ਅਤੇ ਅਭਿਆਸ ਸਾਰੀ ਸੰਸਥਾ ਵਿੱਚ ਲਗਾਤਾਰ ਅਤੇ ਸਕੇਲਯੋਗ ਢੰਗ ਨਾਲ ਅਪਨਾਏ ਗਏ ਹਨ। ਸਫਲ ਨੈਤਿਕਤਾ ਦੀਆਂ ਸੰਸਕ੍ਰਿਤੀਆਂ ਸੰਸਥਾ-ਵਿਆਪੀ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੀਆਂ ਹਨ, ਅਨੁਕੂਲਤਾ ਲਈ ਅਰਥਪੂਰਨ ਪ੍ਰੇਰਣਾ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ, ਅਤੇ ਹਰ ਪੱਧਰ 'ਤੇ ਚਾਹੇ ਗਏ ਵਿਵਹਾਰਾਂ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਅਤੇ ਵਧਾ ਕੇ ਨੈਤਿਕ ਨਿਯਮਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀਆਂ ਹਨ। -ਜਦੋਂ ਸਾਡੇ ਕੋਲ ਨੈਤਿਕ ਸਿਧਾਂਤ ਨਿਰਧਾਰਤ ਹੁੰਦੇ ਹਨ, ਅਗਲਾ ਕਦਮ ਸਾਡੇ ਡਾਟਾ ਅਤੇ AI ਕਾਰਵਾਈਆਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨਾ ਹੈ ਕਿ ਕੀ ਉਹ ਸਾਂਝੇ ਮੁੱਲਾਂ ਨਾਲ ਸੰਗਤ ਹਨ। ਆਪਣੇ ਕਾਰਵਾਈਆਂ ਨੂੰ ਦੋ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚ ਸੋਚੋ: _ਡਾਟਾ ਇਕੱਠਾ ਕਰਨਾ_ ਅਤੇ _ਐਲਗੋਰਿਦਮ ਡਿਜ਼ਾਈਨ_। -ਡਾਟਾ ਇਕੱਠਾ ਕਰਨ ਨਾਲ, ਕਾਰਵਾਈਆਂ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ **ਵਿਅਕਤੀਗਤ ਡਾਟਾ** ਜਾਂ ਪਹਿਚਾਣਯੋਗ ਜੀਵਤ ਵਿਅਕਤੀਆਂ ਲਈ ਵਿਅਕਤੀਗਤ ਪਹਿਚਾਣਯੋਗ ਜਾਣਕਾਰੀ (PII) ਸ਼ਾਮਲ ਹੋਵੇਗੀ। ਇਸ ਵਿੱਚ [ਗੈਰ-ਵਿਅਕਤੀਗਤ ਡਾਟਾ](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) ਦੇ ਵੱਖ-ਵੱਖ ਆਈਟਮ ਸ਼ਾਮਲ ਹਨ ਜੋ _ਸਾਂਝੇ ਤੌਰ 'ਤੇ_ ਕਿਸੇ ਵਿਅਕਤੀ ਦੀ ਪਹਿਚਾਣ ਕਰਦੇ ਹਨ। ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ _ਡਾਟਾ ਗੋਪਨੀਯਤਾ_, _ਡਾਟਾ ਮਾਲਕੀ_, ਅਤੇ ਸੰਬੰਧਿਤ ਵਿਸ਼ਿਆਂ ਜਿਵੇਂ _ਜਾਣਕਾਰੀ ਸਹਿਮਤੀ_ ਅਤੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ _ਬੌਧਿਕ ਸੰਪਤੀ ਅਧਿਕਾਰ_ ਨਾਲ ਸੰਬੰਧਿਤ ਹੋ ਸਕਦੀਆਂ ਹਨ। +## ਨੈਤਿਕਤਾ ਦੇ ਸੰਕਲਪ -ਐਲਗੋਰਿਦਮ ਡਿਜ਼ਾਈਨ ਨਾਲ, ਕਾਰਵਾਈਆਂ **ਡਾਟਾਸੈਟ** ਇਕੱਠਾ ਕਰਨ ਅਤੇ ਕਿਊਰੇਟ ਕਰਨ, ਫਿਰ **ਡਾਟਾ ਮਾਡਲ** ਨੂੰ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਨਤੀਜੇ ਦੀ ਭਵਿੱਖਵਾਣੀ ਕਰਨ ਜਾਂ ਫੈਸਲੇ ਆਟੋਮੇਟ ਕਰਨ ਲਈ ਟ੍ਰੇਨ ਅਤੇ ਤੈਨਾਤ ਕਰਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਗੀਆਂ। ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ _ਡਾਟਾਸੈਟ ਪੱਖਪਾਤ_, _ਡਾਟਾ ਗੁਣਵੱਤਾ_ ਦੇ ਮੁੱਦਿਆਂ, _ਅਨਿਆਂ_ ਅਤੇ _ਗਲਤ ਪੇਸ਼ਕਾਰੀ_ ਵਿੱਚ ਉਤਪੰਨ ਹੋ ਸਕਦੀਆਂ ਹਨ - ਜਿਸ ਵਿੱਚ ਕੁਝ ਮੁੱਦੇ ਪ੍ਰਣਾਲੀਕ ਪ੍ਰਕਿਰਤੀ ਦੇ -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) ਇਹ ਜਾਂਚ ਕਰਦੀ ਹੈ ਕਿ ਕੀ ਐਲਗੋਰਿਥਮ ਡਿਜ਼ਾਈਨ ਸਿਸਟਮੈਟਿਕ ਤੌਰ 'ਤੇ ਡਾਟਾ ਵਿਸ਼ਿਆਂ ਦੇ ਖਾਸ ਉਪ-ਸਮੂਹਾਂ ਦੇ ਖਿਲਾਫ ਭੇਦਭਾਵ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ _ਵੰਡ_ (ਜਿੱਥੇ ਸਾਧਨ ਉਸ ਸਮੂਹ ਤੋਂ ਰੋਕੇ ਜਾਂ ਵਾਪਸ ਲਏ ਜਾਂਦੇ ਹਨ) ਅਤੇ _ਸੇਵਾ ਦੀ ਗੁਣਵੱਤਾ_ (ਜਿੱਥੇ AI ਕੁਝ ਉਪ-ਸਮੂਹਾਂ ਲਈ ਹੋਰਾਂ ਦੇ ਮੁਕਾਬਲੇ ਘੱਟ ਸਹੀ ਹੁੰਦੀ ਹੈ) ਵਿੱਚ [ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ਹੁੰਦੇ ਹਨ। +ਇਸ ਭਾਗ ਵਿੱਚ, ਅਸੀਂ **ਸਾਂਝੇ ਮੁੱਲਾਂ** (ਸਿਧਾਂਤਾਂ) ਅਤੇ **ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ** (ਸਮੱਸਿਆਵਾਂ) ਵਰਗੇ ਸੰਕਲਪਾਂ 'ਤੇ ਚਰਚਾ ਕਰਾਂਗੇ ਜੋ ਡਾਟਾ ਨੈਤਿਕਤਾ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹਨ - ਅਤੇ **ਕੇਸ ਅਧਿਐਨ** ਦੀ ਪੜਚੋਲ ਕਰਾਂਗੇ ਜੋ ਤੁਹਾਨੂੰ ਅਸਲ ਦੁਨੀਆ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਇਨ੍ਹਾਂ ਸੰਕਲਪਾਂ ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਸਹਾਇਕ ਹਨ। +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) ਇਹ ਜਾਂਚ ਕਰਦੀ ਹੈ ਕਿ ਕੀ ਐਲਗੋਰਿਥਮ ਡਿਜ਼ਾਈਨ ਸਿਸਟਮੈਟਿਕ ਤੌਰ 'ਤੇ ਡਾਟਾ ਵਿਸ਼ਿਆਂ ਦੇ ਖਾਸ ਉਪ-ਸਮੂਹਾਂ ਦੇ ਖਿਲਾਫ ਭੇਦਭਾਵ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ _ਵੰਡ_ (ਜਿੱਥੇ ਸਾਧਨ ਉਸ ਸਮੂਹ ਤੋਂ ਇਨਕਾਰ ਜਾਂ ਰੋਕੇ ਜਾਂਦੇ ਹਨ) ਅਤੇ _ਸੇਵਾ ਦੀ ਗੁਣਵੱਤਾ_ (ਜਿੱਥੇ AI ਕੁਝ ਉਪ-ਸਮੂਹਾਂ ਲਈ ਹੋਰਾਂ ਦੇ ਮੁਕਾਬਲੇ ਘੱਟ ਸਹੀ ਹੈ) ਵਿੱਚ [ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ਹੁੰਦੇ ਹਨ। ਇਥੇ ਪੜਤਾਲ ਕਰਨ ਵਾਲੇ ਸਵਾਲ ਹਨ: * ਕੀ ਅਸੀਂ ਵੱਖ-ਵੱਖ ਉਪ-ਸਮੂਹਾਂ ਅਤੇ ਹਾਲਾਤਾਂ ਲਈ ਮਾਡਲ ਦੀ ਸਹੀਤਾ ਦਾ ਮੁਲਾਂਕਨ ਕੀਤਾ? @@ -84,80 +59,81 @@ CO_OP_TRANSLATOR_METADATA: #### 2.9 ਗਲਤ ਪੇਸ਼ਕਾਰੀ -[ਡਾਟਾ ਗਲਤ ਪੇਸ਼ਕਾਰੀ](https://www.sciencedirect.com/topics/computer-science/misrepresentation) ਇਸ ਗੱਲ ਦਾ ਮੁਲਾਂਕਨ ਕਰਦੀ ਹੈ ਕਿ ਕੀ ਅਸੀਂ ਸੱਚਾਈ ਨਾਲ ਰਿਪੋਰਟ ਕੀਤੇ ਡਾਟਾ ਤੋਂ ਅੰਤਰਦ੍ਰਿਸ਼ਟੀ ਨੂੰ ਇੱਕ ਚਾਹੀਦੀ ਕਹਾਣੀ ਨੂੰ ਸਹਾਰਾ ਦੇਣ ਲਈ ਧੋਖੇਬਾਜ਼ੀ ਨਾਲ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ। +[ਡਾਟਾ ਗਲਤ ਪੇਸ਼ਕਾਰੀ](https://www.sciencedirect.com/topics/computer-science/misrepresentation) ਇਸ ਗੱਲ ਦਾ ਮੁਲਾਂਕਨ ਕਰਦੀ ਹੈ ਕਿ ਕੀ ਅਸੀਂ ਸੱਚਾਈ ਨਾਲ ਰਿਪੋਰਟ ਕੀਤੇ ਡਾਟਾ ਤੋਂ ਅੰਤਰਦ੍ਰਿਸ਼ਟੀ ਨੂੰ ਇੱਕ ਚਾਹੀਦੀ ਕਹਾਣੀ ਨੂੰ ਸਹਾਰਾ ਦੇਣ ਲਈ ਧੋਖੇ ਨਾਲ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ। ਇਥੇ ਪੜਤਾਲ ਕਰਨ ਵਾਲੇ ਸਵਾਲ ਹਨ: * ਕੀ ਅਸੀਂ ਅਧੂਰਾ ਜਾਂ ਗਲਤ ਡਾਟਾ ਰਿਪੋਰਟ ਕਰ ਰਹੇ ਹਾਂ? * ਕੀ ਅਸੀਂ ਡਾਟਾ ਨੂੰ ਇਸ ਤਰੀਕੇ ਨਾਲ ਵਿਜੁਅਲਾਈਜ਼ ਕਰ ਰਹੇ ਹਾਂ ਜੋ ਗਲਤ ਨਤੀਜੇ ਪੈਦਾ ਕਰਦਾ ਹੈ? -* ਕੀ ਅਸੀਂ ਨਤੀਜਿਆਂ ਨੂੰ ਹੇਰਫੇਰ ਕਰਨ ਲਈ ਚੁਣਵਾਂ ਸਾਂਖਿਕ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਾਂ? +* ਕੀ ਅਸੀਂ ਨਤੀਜਿਆਂ ਨੂੰ ਹੇਰਫੇਰ ਕਰਨ ਲਈ ਚੁਣਿੰਦਾ ਸਾਂਖਿਕ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਾਂ? * ਕੀ ਹੋਰ ਵਿਵਸਥਾਵਾਂ ਹਨ ਜੋ ਵੱਖਰੇ ਨਤੀਜੇ ਪੇਸ਼ ਕਰ ਸਕਦੀਆਂ ਹਨ? #### 2.10 ਮੁਫ਼ਤ ਚੋਣ -[ਮੁਫ਼ਤ ਚੋਣ ਦਾ ਭਰਮ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ਉਸ ਸਮੇਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਸਿਸਟਮ "ਚੋਣ ਆਰਕੀਟੈਕਚਰ" ਫੈਸਲਾ ਕਰਨ ਵਾਲੇ ਐਲਗੋਰਿਥਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਤਾਂ ਜੋ ਲੋਕਾਂ ਨੂੰ ਇੱਕ ਪਸੰਦੀਦਾ ਨਤੀਜੇ ਵੱਲ ਧੱਕਾ ਦਿੱਤਾ ਜਾਵੇ, ਜਦੋਂ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਵਿਕਲਪ ਅਤੇ ਨਿਯੰਤਰਣ ਦਿੱਤਾ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ [ਡਾਰਕ ਪੈਟਰਨ](https://www.darkpatterns.org/) ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਮਾਜਿਕ ਅਤੇ ਆਰਥਿਕ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੇ ਹਨ। ਕਿਉਂਕਿ ਉਪਭੋਗਤਾ ਦੇ ਫੈਸਲੇ ਵਿਵਹਾਰਕ ਪ੍ਰੋਫਾਈਲਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ, ਇਹ ਕਾਰਵਾਈਆਂ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਭਵਿੱਖ ਦੇ ਚੋਣਾਂ ਨੂੰ ਵਧਾ ਸਕਦੀਆਂ ਹਨ ਜਾਂ ਨੁਕਸਾਨਾਂ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਲੰਬਾ ਕਰ ਸਕਦੀਆਂ ਹਨ। +[ਮੁਫ਼ਤ ਚੋਣ ਦਾ ਭਰਮ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ਉਸ ਸਮੇਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਸਿਸਟਮ "ਚੋਣ ਆਰਕੀਟੈਕਚਰ" ਫੈਸਲਾ ਕਰਨ ਵਾਲੇ ਐਲਗੋਰਿਥਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਤਾਂ ਜੋ ਲੋਕਾਂ ਨੂੰ ਇੱਕ ਪਸੰਦੀਦਾ ਨਤੀਜੇ ਵੱਲ ਧੱਕਿਆ ਜਾ ਸਕੇ, ਜਦੋਂ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਵਿਕਲਪ ਅਤੇ ਨਿਯੰਤਰਣ ਦਿੱਤਾ ਜਾ ਰਿਹਾ ਹੈ। ਇਹ [ਡਾਰਕ ਪੈਟਰਨ](https://www.darkpatterns.org/) ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਮਾਜਿਕ ਅਤੇ ਆਰਥਿਕ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦੇ ਹਨ। ਕਿਉਂਕਿ ਉਪਭੋਗਤਾ ਦੇ ਫੈਸਲੇ ਵਿਵਹਾਰਕ ਪ੍ਰੋਫਾਈਲਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ, ਇਹ ਕਾਰਵਾਈਆਂ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਭਵਿੱਖ ਦੇ ਚੋਣਾਂ ਨੂੰ ਵਧਾ ਸਕਦੀਆਂ ਹਨ ਜਾਂ ਨੁਕਸਾਨਾਂ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਲੰਬਾ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਇਥੇ ਪੜਤਾਲ ਕਰਨ ਵਾਲੇ ਸਵਾਲ ਹਨ: -* ਕੀ ਉਪਭੋਗਤਾ ਨੇ ਉਸ ਚੋਣ ਨੂੰ ਕਰਨ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਸਮਝਿਆ? +* ਕੀ ਉਪਭੋਗਤਾ ਨੇ ਉਹ ਚੋਣ ਕਰਨ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਸਮਝਿਆ? * ਕੀ ਉਪਭੋਗਤਾ (ਵਿਕਲਪਕ) ਚੋਣਾਂ ਅਤੇ ਹਰ ਇੱਕ ਦੇ ਫਾਇਦੇ ਅਤੇ ਨੁਕਸਾਨਾਂ ਤੋਂ ਜਾਣੂ ਸੀ? -* ਕੀ ਉਪਭੋਗਤਾ ਬਾਅਦ ਵਿੱਚ ਇੱਕ ਆਟੋਮੈਟਿਕ ਜਾਂ ਪ੍ਰਭਾਵਿਤ ਚੋਣ ਨੂੰ ਵਾਪਸ ਕਰ ਸਕਦਾ ਹੈ? +* ਕੀ ਉਪਭੋਗਤਾ ਇੱਕ ਆਟੋਮੈਟਿਕ ਜਾਂ ਪ੍ਰਭਾਵਿਤ ਚੋਣ ਨੂੰ ਬਾਅਦ ਵਿੱਚ ਰੱਦ ਕਰ ਸਕਦਾ ਹੈ? ### 3. ਕੇਸ ਸਟੱਡੀਜ਼ -ਇਹ ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ ਨੂੰ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਰੱਖਣ ਲਈ, ਉਹ ਕੇਸ ਸਟੱਡੀਜ਼ ਦੇਖਣ ਵਿੱਚ ਮਦਦ ਕਰਦੀ ਹੈ ਜੋ ਵਿਅਕਤੀਆਂ ਅਤੇ ਸਮਾਜ ਲਈ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਅਤੇ ਨਤੀਜਿਆਂ ਨੂੰ ਹਾਈਲਾਈਟ ਕਰਦੀਆਂ ਹਨ, ਜਦੋਂ ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਨੈਤਿਕ ਉਲੰਘਣਾਵਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। +ਇਹ ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ ਨੂੰ ਅਸਲ-ਜਗਤ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਰੱਖਣ ਲਈ, ਉਹ ਕੇਸ ਸਟੱਡੀਜ਼ ਦੇਖਣ ਵਿੱਚ ਮਦਦ ਮਿਲਦੀ ਹੈ ਜੋ ਵਿਅਕਤੀਆਂ ਅਤੇ ਸਮਾਜ ਲਈ ਸੰਭਾਵਿਤ ਨੁਕਸਾਨ ਅਤੇ ਪਰਿਣਾਮਾਂ ਨੂੰ ਰੌਸ਼ਨ ਕਰਦੀਆਂ ਹਨ, ਜਦੋਂ ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਨੈਤਿਕ ਉਲੰਘਣਾਵਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। -ਇੱਥੇ ਕੁਝ ਉਦਾਹਰਨ ਹਨ: +ਇੱਥੇ ਕੁਝ ਉਦਾਹਰਣ ਹਨ: | ਨੈਤਿਕ ਚੁਣੌਤੀ | ਕੇਸ ਸਟੱਡੀ | |--- |--- | -| **ਜਾਣਕਾਰੀ ਸਹਿਮਤੀ** | 1972 - [ਟਸਕੀਗੀ ਸਿਫਿਲਿਸ ਸਟੱਡੀ](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - ਅਫਰੀਕੀ ਅਮਰੀਕੀ ਪੁਰਸ਼ਾਂ ਨੂੰ ਜੋ ਇਸ ਅਧਿਐਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਏ, ਮੁਫ਼ਤ ਮੈਡੀਕਲ ਦੇਖਭਾਲ ਦਾ ਵਾਅਦਾ ਕੀਤਾ ਗਿਆ _ਪਰ ਧੋਖਾ ਦਿੱਤਾ_ ਗਿਆ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਵਿਸ਼ਿਆਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀ ਬਿਮਾਰੀ ਜਾਂ ਇਲਾਜ ਦੀ ਉਪਲਬਧਤਾ ਬਾਰੇ ਜਾਣਕਾਰੀ ਨਹੀਂ ਦਿੱਤੀ। ਕਈ ਵਿਸ਼ਿਆਂ ਦੀ ਮੌਤ ਹੋ ਗਈ ਅਤੇ ਸਾਥੀ ਜਾਂ ਬੱਚੇ ਪ੍ਰਭਾਵਿਤ ਹੋਏ; ਅਧਿਐਨ 40 ਸਾਲ ਤੱਕ ਚੱਲਿਆ। | -| **ਡਾਟਾ ਪ੍ਰਾਈਵੇਸੀ** | 2007 - [Netflix ਡਾਟਾ ਇਨਾਮ](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) ਨੇ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ _50K ਗਾਹਕਾਂ ਤੋਂ 10M ਅਨਾਮਿਤ ਫਿਲਮ ਰੈਂਕਿੰਗ_ ਦਿੱਤੀਆਂ ਤਾਂ ਜੋ ਸਿਫਾਰਸ਼ੀ ਐਲਗੋਰਿਥਮਾਂ ਨੂੰ ਸੁਧਾਰਿਆ ਜਾ ਸਕੇ। ਹਾਲਾਂਕਿ, ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਅਨਾਮਿਤ ਡਾਟਾ ਨੂੰ _ਬਾਹਰੀ ਡਾਟਾਸੈਟਾਂ_ (ਜਿਵੇਂ IMDb ਟਿੱਪਣੀਆਂ) ਵਿੱਚ ਵਿਅਕਤੀਗਤ ਤੌਰ 'ਤੇ ਪਛਾਣਯੋਗ ਡਾਟਾ ਨਾਲ ਜੋੜਨ ਵਿੱਚ ਸਫਲਤਾ ਪ੍ਰਾਪਤ ਕੀਤੀ - ਕੁਝ Netflix ਗਾਹਕਾਂ ਨੂੰ "ਡੀ-ਅਨਾਨਿਮਾਈਜ਼" ਕਰਨਾ। | -| **ਕਲੈਕਸ਼ਨ ਪੱਖਪਾਤ** | 2013 - ਬੋਸਟਨ ਸ਼ਹਿਰ ਨੇ [Street Bump](https://www.boston.gov/transportation/street-bump) ਵਿਕਸਿਤ ਕੀਤਾ, ਇੱਕ ਐਪ ਜਿਸ ਨੇ ਨਾਗਰਿਕਾਂ ਨੂੰ ਪੋਥੋਲ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੱਤੀ, ਜਿਸ ਨਾਲ ਸ਼ਹਿਰ ਨੂੰ ਬਿਹਤਰ ਸੜਕ ਡਾਟਾ ਮਿਲਿਆ। ਹਾਲਾਂਕਿ, [ਘੱਟ ਆਮਦਨ ਵਾਲੇ ਸਮੂਹਾਂ ਦੇ ਲੋਕਾਂ ਕੋਲ ਕਾਰਾਂ ਅਤੇ ਫੋਨਾਂ ਤੱਕ ਘੱਟ ਪਹੁੰਚ ਸੀ](https://hbr.org/2013/04/the-hidden-biases-in-big-data), ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਦੇ ਸੜਕ ਦੇ ਮੁੱਦੇ ਇਸ ਐਪ ਵਿੱਚ ਅਦ੍ਰਿਸ਼ ਹੋ ਗਏ। ਡਿਵੈਲਪਰਾਂ ਨੇ ਅਕਾਦਮਿਕ ਵਿਦਵਾਨਾਂ ਨਾਲ ਕੰਮ ਕੀਤਾ ਤਾਂ ਜੋ _ਸਮਾਨ ਪਹੁੰਚ ਅਤੇ ਡਿਜ਼ੀਟਲ ਵੱਖ-ਵੱਖਤਾ_ ਦੇ ਮੁੱਦਿਆਂ ਨੂੰ ਨੈਤਿਕਤਾ ਲਈ ਹੱਲ ਕੀਤਾ ਜਾ ਸਕੇ। | -| **ਐਲਗੋਰਿਥਮਿਕ ਨੈਤਿਕਤਾ** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ਨੇ ਜੈਂਡਰ ਕਲਾਸੀਫਿਕੇਸ਼ਨ AI ਉਤਪਾਦਾਂ ਦੀ ਸਹੀਤਾ ਦਾ ਮੁਲਾਂਕਨ ਕੀਤਾ, ਜੋ ਮਹਿਲਾਵਾਂ ਅਤੇ ਰੰਗ ਦੇ ਵਿਅਕਤੀਆਂ ਲਈ ਸਹੀਤਾ ਵਿੱਚ ਖਾਮੀਆਂ ਨੂੰ ਬੇਨਕਾਬ ਕਰਦਾ ਹੈ। ਇੱਕ [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ਨੇ ਮਹਿਲਾਵਾਂ ਨੂੰ ਪੁਰਸ਼ਾਂ ਦੇ ਮੁਕਾਬਲੇ ਘੱਟ ਕਰਜ਼ਾ ਦਿੱਤਾ। ਦੋਵੇਂ ਨੇ ਐਲਗੋਰਿਥਮਿਕ ਪੱਖਪਾਤ ਵਿੱਚ ਮੁੱਦਿਆਂ ਨੂੰ ਦਰਸਾਇਆ ਜਿਸ ਨਾਲ ਸਮਾਜਿਕ-ਆਰਥਿਕ ਨੁਕਸਾਨ ਹੋਏ। | -| **ਡਾਟਾ ਗਲਤ ਪੇਸ਼ਕਾਰੀ** | 2020 - [ਜਾਰਜੀਆ ਡਿਪਾਰਟਮੈਂਟ ਆਫ਼ ਪਬਲਿਕ ਹੈਲਥ ਨੇ COVID-19 ਚਾਰਟ ਜਾਰੀ ਕੀਤੇ](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ਜੋ ਪੁਸ਼ਟੀ ਕੀਤੇ ਕੇਸਾਂ ਵਿੱਚ ਰੁਝਾਨਾਂ ਬਾਰੇ ਨਾਗਰਿਕਾਂ ਨੂੰ ਗੁੰਮਰਾਹ ਕਰਨ ਲਈ ਗਲਤ ਲਗਦੇ ਸਨ। ਇਹ ਵਿਜੁਅਲਾਈਜ਼ੇਸ਼ਨ ਚਾਲਾਂ ਰਾਹੀਂ ਗਲਤ ਪੇਸ਼ਕਾਰੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। | -| **ਮੁਫ਼ਤ ਚੋਣ ਦਾ ਭਰਮ** | 2020 - ਸਿੱਖਣ ਵਾਲੇ ਐਪ [ABCmouse ਨੇ FTC ਸ਼ਿਕਾਇਤ ਨੂੰ ਸੈਟਲ ਕਰਨ ਲਈ $10M ਦਾ ਭੁਗਤਾਨ ਕੀਤਾ](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ਜਿੱਥੇ ਮਾਪੇ ਸਬਸਕ੍ਰਿਪਸ਼ਨ ਲਈ ਭੁਗਤਾਨ ਕਰਨ ਲਈ ਫਸੇ ਹੋਏ ਸਨ ਜਿਸ ਨੂੰ ਉਹ ਰੱਦ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਹ ਚੋਣ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਡਾਰਕ ਪੈਟਰਨ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਜਿੱਥੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨਦਾਇਕ ਚੋਣਾਂ ਵੱਲ ਧੱਕਿਆ ਗਿਆ। | -| **ਡਾਟਾ ਪ੍ਰਾਈਵੇਸੀ ਅਤੇ ਉਪਭੋਗਤਾ ਅਧਿਕਾਰ** | 2021 - Facebook [ਡਾਟਾ ਬ੍ਰੀਚ](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ਨੇ 530M ਉਪਭੋਗਤਾਵਾਂ ਤੋਂ ਡਾਟਾ ਨੂੰ ਬੇਨਕਾਬ ਕੀਤਾ, ਜਿਸ ਨਾਲ FTC ਨੂੰ $5B ਦਾ ਸੈਟਲਮੈਂਟ ਹੋਇਆ। ਹਾਲਾਂਕਿ, ਇਸ ਨੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਬ੍ਰੀਚ ਦੀ ਸੂਚਨਾ ਦੇਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ, ਜੋ ਡਾਟਾ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਪਹੁੰਚ ਦੇ ਉਪਭੋਗਤਾ ਅਧਿਕਾਰਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦਾ ਹੈ। | +| **ਜਾਣਕਾਰੀ ਸਹਿਮਤੀ** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - ਅਫਰੀਕੀ ਅਮਰੀਕੀ ਪੁਰਸ਼ਾਂ ਨੂੰ ਜੋ ਇਸ ਅਧਿਐਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਏ, ਮੁਫ਼ਤ ਮੈਡੀਕਲ ਦੇਖਭਾਲ ਦਾ ਵਾਅਦਾ ਕੀਤਾ ਗਿਆ _ਪਰ ਧੋਖਾ ਦਿੱਤਾ_ ਗਿਆ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਵਿਸ਼ਿਆਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀ ਬਿਮਾਰੀ ਜਾਂ ਇਲਾਜ ਦੀ ਉਪਲਬਧਤਾ ਬਾਰੇ ਜਾਣਕਾਰੀ ਨਹੀਂ ਦਿੱਤੀ। ਕਈ ਵਿਸ਼ਿਆਂ ਦੀ ਮੌਤ ਹੋਈ ਅਤੇ ਸਾਥੀ ਜਾਂ ਬੱਚੇ ਪ੍ਰਭਾਵਿਤ ਹੋਏ; ਅਧਿਐਨ 40 ਸਾਲ ਤੱਕ ਚੱਲਿਆ। | +| **ਡਾਟਾ ਗੋਪਨੀਯਤਾ** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) ਨੇ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ _50K ਗਾਹਕਾਂ ਤੋਂ 10M ਅਨਾਮਿਤ ਫਿਲਮ ਰੈਂਕਿੰਗ_ ਦਿੱਤੀਆਂ ਤਾਂ ਜੋ ਸਿਫਾਰਸ਼ੀ ਐਲਗੋਰਿਥਮਾਂ ਨੂੰ ਸੁਧਾਰਿਆ ਜਾ ਸਕੇ। ਹਾਲਾਂਕਿ, ਖੋਜਕਰਤਾਵਾਂ ਅਨਾਮਿਤ ਡਾਟਾ ਨੂੰ _ਬਾਹਰੀ ਡਾਟਾਸੈਟ_ (ਜਿਵੇਂ IMDb ਟਿੱਪਣੀਆਂ) ਨਾਲ ਜੋੜਨ ਵਿੱਚ ਸਫਲ ਰਹੇ - ਕੁਝ Netflix ਗਾਹਕਾਂ ਨੂੰ "ਡੀ-ਅਨਾਨਿਮਾਈਜ਼" ਕਰਦੇ ਹੋਏ।| +| **ਕਲੈਕਸ਼ਨ ਪੱਖਪਾਤ** | 2013 - ਬੋਸਟਨ ਸ਼ਹਿਰ ਨੇ [Street Bump](https://www.boston.gov/transportation/street-bump) ਵਿਕਸਿਤ ਕੀਤਾ, ਇੱਕ ਐਪ ਜਿਸ ਨੇ ਨਾਗਰਿਕਾਂ ਨੂੰ ਪੋਥੋਲ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੱਤੀ, ਜਿਸ ਨਾਲ ਸ਼ਹਿਰ ਨੂੰ ਬਿਹਤਰ ਸੜਕ ਡਾਟਾ ਮਿਲਿਆ। ਹਾਲਾਂਕਿ, [ਘੱਟ ਆਮਦਨ ਵਾਲੇ ਸਮੂਹਾਂ ਦੇ ਲੋਕਾਂ ਨੂੰ ਕਾਰਾਂ ਅਤੇ ਫੋਨਾਂ ਤੱਕ ਘੱਟ ਪਹੁੰਚ](https://hbr.org/2013/04/the-hidden-biases-in-big-data) ਸੀ, ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਦੇ ਸੜਕ ਦੇ ਮੁੱਦੇ ਇਸ ਐਪ ਵਿੱਚ ਅਦ੍ਰਿਸ਼ ਹੋ ਗਏ। ਵਿਕਾਸਕਾਰਾਂ ਨੇ ਨਿਆਂ ਅਤੇ ਡਿਜ਼ੀਟਲ ਵੰਡ ਦੇ ਮੁੱਦਿਆਂ ਲਈ ਅਕਾਦਮਿਕ ਵਿਦਵਾਨਾਂ ਨਾਲ ਕੰਮ ਕੀਤਾ।| +| **ਐਲਗੋਰਿਥਮਿਕ ਨਿਆਂ** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ਨੇ ਜੈਂਡਰ ਕਲਾਸੀਫਿਕੇਸ਼ਨ AI ਉਤਪਾਦਾਂ ਦੀ ਸਹੀਤਾ ਦਾ ਮੁਲਾਂਕਨ ਕੀਤਾ, ਜੋ ਮਹਿਲਾਵਾਂ ਅਤੇ ਰੰਗ ਦੇ ਵਿਅਕਤੀਆਂ ਲਈ ਸਹੀਤਾ ਵਿੱਚ ਖਾਮੀਆਂ ਨੂੰ ਬੇਨਕਾਬ ਕਰਦਾ ਹੈ। ਇੱਕ [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ਨੇ ਮਹਿਲਾਵਾਂ ਨੂੰ ਪੁਰਸ਼ਾਂ ਦੇ ਮੁਕਾਬਲੇ ਘੱਟ ਕ੍ਰੈਡਿਟ ਦੀ ਪੇਸ਼ਕਸ਼ ਕੀਤੀ। ਦੋਵੇਂ ਨੇ ਐਲਗੋਰਿਥਮਿਕ ਪੱਖਪਾਤ ਵਿੱਚ ਸਮਾਜਿਕ-ਆਰਥਿਕ ਨੁਕਸਾਨਾਂ ਨੂੰ ਦਰਸਾਇਆ।| +| **ਡਾਟਾ ਗਲਤ ਪੇਸ਼ਕਾਰੀ** | 2020 - [Georgia Department of Public Health released COVID-19 charts](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ਜਿਨ੍ਹਾਂ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੇ ਕੇਸਾਂ ਦੇ ਰੁਝਾਨਾਂ ਬਾਰੇ ਨਾਗਰਿਕਾਂ ਨੂੰ ਗੁੰਮਰਾਹ ਕਰਨ ਲਈ x-ਅਕਸ 'ਤੇ ਗੈਰ-ਕ੍ਰਮਬੱਧ ਕ੍ਰਮਵਾਰਤਾ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਇਹ ਵਿਜੁਅਲਾਈਜ਼ੇਸ਼ਨ ਚਾਲਾਂ ਰਾਹੀਂ ਗਲਤ ਪੇਸ਼ਕਾਰੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।| +| **ਮੁਫ਼ਤ ਚੋਣ ਦਾ ਭਰਮ** | 2020 - ਸਿੱਖਣ ਵਾਲੇ ਐਪ [ABCmouse paid $10M to settle an FTC complaint](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ਜਿੱਥੇ ਮਾਪੇ ਸਬਸਕ੍ਰਿਪਸ਼ਨ ਲਈ ਫਸੇ ਹੋਏ ਸਨ ਜੋ ਉਹ ਰੱਦ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਹ ਚੋਣ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਡਾਰਕ ਪੈਟਰਨ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਜਿੱਥੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੰਭਾਵਿਤ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨਦਾਇਕ ਚੋਣਾਂ ਵੱਲ ਧੱਕਿਆ ਗਿਆ।| +| **ਡਾਟਾ ਗੋਪਨੀਯਤਾ ਅਤੇ ਉਪਭੋਗਤਾ ਅਧਿਕਾਰ** | 2021 - Facebook [Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) ਨੇ 530M ਉਪਭੋਗਤਾਵਾਂ ਤੋਂ ਡਾਟਾ ਨੂੰ ਬਾਹਰ ਕੀਤਾ, ਜਿਸ ਨਾਲ FTC ਨੂੰ $5B ਦਾ ਨਿਪਟਾਰਾ ਹੋਇਆ। ਹਾਲਾਂਕਿ, ਇਸ ਨੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਡਾਟਾ ਲੀਕ ਬਾਰੇ ਸੂਚਿਤ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ, ਜੋ ਡਾਟਾ ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਪਹੁੰਚ ਦੇ ਉਪਭੋਗਤਾ ਅਧਿਕਾਰਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦਾ ਹੈ।| ਹੋਰ ਕੇਸ ਸਟੱਡੀਜ਼ ਦੀ ਖੋਜ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ? ਇਹ ਸਰੋਤਾਂ ਦੀ ਜਾਂਚ ਕਰੋ: -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - ਵੱਖ-ਵੱਖ ਉਦਯੋਗਾਂ ਵਿੱਚ ਨੈਤਿਕ ਦਿਲੇਮਾਂ। +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - ਵੱਖ-ਵੱਖ ਉਦਯੋਗਾਂ ਵਿੱਚ ਨੈਤਿਕ ਦਿਲੇਮਿਆਂ। * [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - ਪ੍ਰਸਿੱਧ ਕੇਸ ਸਟੱਡੀਜ਼ ਦੀ ਖੋਜ। -* [Where things have gone wrong](https://deon.drivendata.org/examples/) - ਡਿਓਨ ਚੈਕਲਿਸਟ ਨਾਲ ਉਦਾਹਰਨ। +* [Where things have gone wrong](https://deon.drivendata.org/examples/) - ਡਿਓਨ ਚੈਕਲਿਸਟ ਨਾਲ ਉਦਾਹਰਣ। -> 🚨 ਉਹ ਕੇਸ ਸਟੱਡੀਜ਼ ਬਾਰੇ ਸੋਚੋ ਜੋ ਤੁਸੀਂ ਦੇਖੀਆਂ ਹਨ - ਕੀ ਤੁਸੀਂ ਆਪਣੇ ਜੀਵਨ ਵਿੱਚ ਇੱਕ ਸਮਾਨ ਨੈਤਿਕ ਚੁਣੌਤੀ ਦਾ ਅਨੁਭਵ ਕੀਤਾ ਹੈ ਜਾਂ ਪ੍ਰਭਾਵਿਤ ਹੋਏ ਹੋ? ਕੀ ਤੁਸੀਂ ਇਸ ਭਾਗ ਵਿੱਚ ਚਰਚਾ ਕੀਤੀ ਗਈ ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਨੂੰ ਦਰਸਾਉਣ ਵਾਲੀ ਘੱਟੋ-ਘੱਟ ਇੱਕ ਹੋਰ ਕੇਸ ਸਟੱਡੀ ਬਾਰੇ ਸੋਚ ਸਕਦੇ ਹੋ? +> 🚨 ਉਹ ਕੇਸ ਸਟੱਡੀਜ਼ ਬਾਰੇ ਸੋਚੋ ਜੋ ਤੁਸੀਂ ਦੇਖੀਆਂ ਹਨ - ਕੀ ਤੁਸੀਂ ਆਪਣੇ ਜੀਵਨ ਵਿੱਚ ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਨੈਤਿਕ ਚੁਣੌਤੀ ਦਾ ਅਨੁਭਵ ਕੀਤਾ ਹੈ ਜਾਂ ਪ੍ਰਭਾਵਿਤ ਹੋਏ ਹੋ? ਕੀ ਤੁਸੀਂ ਇਸ ਭਾਗ ਵਿੱਚ ਚਰਚਾ ਕੀਤੀ ਗਈ ਨੈਤਿਕ ਚੁਣੌਤੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਨੂੰ ਦਰਸਾਉਣ ਵਾਲੀ ਘੱਟੋ-ਘੱਟ ਇੱਕ ਹੋਰ ਕੇਸ ਸਟੱਡੀ ਬਾਰੇ ਸੋਚ ਸਕਦੇ ਹੋ? ## ਲਾਗੂ ਨੈਤਿਕਤਾ -ਅਸੀਂ ਨੈਤਿਕਤਾ ਦੇ ਅਵਧਾਰਨਾ, ਚੁਣੌਤੀਆਂ ਅਤੇ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਕੇਸ ਸਟੱਡੀਜ਼ ਬਾਰੇ ਗੱਲ ਕੀਤੀ ਹੈ। ਪਰ ਅਸੀਂ ਆਪਣੇ ਪ੍ਰੋਜੈਕਟਾਂ ਵਿੱਚ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਅਤੇ ਅਭਿਆਸਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਸ਼ੁਰੂਆਤ ਕਿਵੇਂ ਕਰਦੇ ਹਾਂ? ਅਤੇ ਅਸੀਂ ਬਿਹਤਰ ਸ਼ਾਸਨ ਲਈ ਇਨ੍ਹਾਂ ਅਭਿਆਸਾਂ ਨੂੰ ਕਿਵੇਂ "ਚਾਲੂ" ਕਰਦੇ ਹਾਂ? ਆਓ ਕੁਝ ਅਸਲ-ਦੁਨੀਆ ਦੇ ਹੱਲਾਂ ਦੀ ਖੋਜ ਕਰੀਏ: +ਅਸੀਂ ਨੈਤਿਕਤਾ ਦੇ ਅਵਧਾਰਨਾ, ਚੁਣੌਤੀਆਂ ਅਤੇ ਅਸਲ-ਜਗਤ ਦੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਕੇਸ ਸਟੱਡੀਜ਼ ਬਾਰੇ ਗੱਲ ਕੀਤੀ ਹੈ। ਪਰ ਅਸੀਂ ਆਪਣੇ ਪ੍ਰਾਜੈਕਟਾਂ ਵਿੱਚ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਅਤੇ ਅਭਿਆਸਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਸ਼ੁਰੂਆਤ ਕਿਵੇਂ ਕਰਦੇ ਹਾਂ? ਅਤੇ ਅਸੀਂ ਬਿਹਤਰ ਸ਼ਾਸਨ ਲਈ ਇਨ੍ਹਾਂ ਅਭਿਆਸਾਂ ਨੂੰ ਕਿਵੇਂ "ਚਾਲੂ" ਕਰਦੇ ਹਾਂ? ਆਓ ਕੁਝ ਅਸਲ-ਜਗਤ ਦੇ ਹੱਲਾਂ ਦੀ ਖੋਜ ਕਰੀਏ: ### 1. ਪੇਸ਼ੇਵਰ ਕੋਡ -ਪੇਸ਼ੇਵਰ ਕੋਡ ਸੰਗਠਨਾਂ ਨੂੰ ਆਪਣੇ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਅਤੇ ਮਿਸ਼ਨ ਸਟੇਟਮੈਂਟ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਮੈਂਬਰਾਂ ਨੂੰ "ਪ੍ਰੇਰਿਤ" ਕਰਨ ਦਾ ਇੱਕ ਵਿਕਲਪ ਪੇਸ਼ ਕਰਦੇ ਹਨ। ਕੋਡ ਪੇਸ਼ੇਵਰ ਵਿਵਹਾਰ ਲਈ _ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼_ ਹਨ, ਜੋ ਕਰਮਚਾਰੀਆਂ ਜਾਂ ਮੈਂਬਰਾਂ ਨੂੰ ਆਪਣੇ ਸੰਗਠਨ ਦੇ ਸਿਧਾਂਤਾਂ ਦੇ ਅਨੁਕੂਲ ਫੈਸਲੇ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ। ਇਹ ਸਿਰਫ ਮੈਂਬਰਾਂ ਦੀ ਸਵੈ-ਇੱਛਾ ਅਨੁਕੂਲਤਾ ਦੇ ਤੌਰ 'ਤੇ ਹੀ ਚੰਗੇ ਹਨ; ਹਾਲਾਂਕਿ, ਕਈ ਸੰਗਠਨ ਮੈਂਬਰਾਂ ਤੋਂ ਅਨੁਕੂਲਤਾ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰਨ ਲਈ ਵਾਧੂ ਇਨਾਮ ਅਤੇ ਸਜ਼ਾਵਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦੇ ਹਨ। +ਪੇਸ਼ੇਵਰ ਕੋਡ ਸੰਗਠਨਾਂ ਨੂੰ ਆਪਣੇ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਅਤੇ ਮਿਸ਼ਨ ਸਟੇਟਮੈਂਟ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ ਮੈਂਬਰਾਂ ਨੂੰ "ਪ੍ਰੇਰਿਤ" ਕਰਨ ਦਾ ਇੱਕ ਵਿਕਲਪ ਪੇਸ਼ ਕਰਦੇ ਹਨ। ਕੋਡ ਪੇਸ਼ੇਵਰ ਵਿਵਹਾਰ ਲਈ _ਨੈਤਿਕ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼_ ਹਨ, ਜੋ ਕਰਮਚਾਰੀਆਂ ਜਾਂ ਮੈਂਬਰਾਂ ਨੂੰ ਉਹ ਫੈਸਲੇ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਸੰਗਠਨ ਦੇ ਸਿਧਾਂਤਾਂ ਨਾਲ ਸੰਗਤ ਰੱਖਦੇ ਹਨ। ਇਹ ਸਿਰਫ ਮੈਂਬਰਾਂ ਦੀ ਸਵੈ-ਇੱਛਾ ਅਨੁਕੂਲਤਾ ਦੇ ਤੌਰ 'ਤੇ ਹੀ ਚੰਗੇ ਹਨ; ਹਾਲਾਂਕਿ, ਕਈ ਸੰਗਠਨ ਮੈਂਬਰਾਂ ਤੋਂ ਅਨੁਕੂਲਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਵਾਧੂ ਇਨਾਮ ਅਤੇ ਸਜ਼ਾਵਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦੇ ਹਨ। -ਉਦਾਹਰਨਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ: -* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) ਨੈਤਿਕਤਾ ਦਾ ਕੋਡ -* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) ਕੋਡ ਆਫ਼ ਕੰਡਕਟ (2013 ਵਿੱਚ ਬਣਾਇਆ ਗਿਆ) -* [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 ਤੋਂ) +ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ: +* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics +* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (2013 ਵਿੱਚ ਬਣਾਇਆ ਗਿਆ) +* [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 ਤੋਂ) > 🚨 ਕੀ ਤੁਸੀਂ ਕਿਸੇ ਪੇਸ਼ੇਵਰ ਇੰਜੀਨੀਅਰਿੰਗ ਜਾਂ ਡਾਟਾ ਸਾਇੰਸ ਸੰਗਠਨ ਦੇ ਮੈਂਬਰ ਹੋ? ਉਨ੍ਹਾਂ ਦੀ ਸਾਈਟ ਦੀ ਖੋਜ ਕਰੋ ਤਾਂ ਜੋ ਪਤਾ ਲਗਾਇਆ ਜਾ ਸਕੇ ਕਿ ਕੀ ਉਹ ਪੇਸ਼ੇਵਰ ਨੈਤਿਕਤਾ ਦਾ ਕੋਡ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਨ। ਇਹ ਉਨ੍ਹਾਂ ਦੇ ਨੈਤਿਕ ਸਿਧਾਂਤਾਂ ਬਾਰੇ ਕੀ ਕਹਿੰਦਾ ਹੈ? ਉਹ ਮੈਂਬਰਾਂ ਨੂੰ ਕੋਡ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਕਿਵੇਂ "ਪ੍ਰੇਰਿਤ" ਕਰ ਰਹੇ ਹਨ? ### 2. ਨੈਤਿਕਤਾ ਚੈਕਲਿਸਟ -ਜਦੋਂ ਕਿ ਪੇਸ਼ੇਵਰ ਕੋਡ ਅਭਿਆਸਕਰਤਾਵਾਂ ਤੋਂ ਲੋੜੀਂਦੇ _ਨੈਤਿਕ ਵਿਵਹਾਰ_ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਨ, ਉਹ [ਜਾਣੇ-ਪਛਾਣੇ ਸੀਮਾਵਾਂ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ਵਿੱਚ ਵੱਡੇ-ਪੱਧਰ ਦੇ ਪ੍ਰੋਜੈਕਟਾਂ ਵਿੱਚ ਲਾਗੂ ਕਰਨ ਵਿੱਚ ਹਨ। ਇਸ ਦੇ ਬਦਲੇ, ਕਈ ਡਾਟਾ ਸਾਇੰਸ ਵਿਦਵਾਨ [ਚੈਕਲਿਸਟਾਂ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ਦੀ ਸਿਫਾਰਸ਼ ਕਰਦੇ ਹਨ, ਜੋ **ਸਿਧਾਂਤਾਂ ਨੂੰ ਅਭਿਆਸਾਂ ਨਾਲ** ਹੋਰ ਨਿਰਧਾਰਤ ਅਤੇ ਕਾਰਗਰ ਤਰੀਕੇ ਨਾਲ ਜੋੜ ਸਕਦੇ ਹਨ। +ਜਦੋਂ ਕਿ ਪੇਸ਼ੇਵਰ ਕੋਡ ਅਭਿਆਸਕਰਤਾਵਾਂ ਤੋਂ ਲੋੜੀਂਦੇ _ਨੈਤਿਕ ਵਿਵਹਾਰ_ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਨ, ਉਹ [ਜਾਣੇ-ਪਛਾਣੇ ਸੀਮਾਵਾਂ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ਰੱਖਦੇ ਹਨ, ਖਾਸ ਤੌਰ 'ਤੇ ਵੱਡੇ-ਪੱਧਰ ਦੇ ਪ੍ਰਾਜੈਕਟਾਂ ਵਿੱਚ। ਇਸ ਦੀ ਬਜਾਏ, ਕਈ ਡਾਟਾ ਸਾਇੰਸ ਵਿਦਵਾਨ [ਚੈਕਲਿਸਟਾਂ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ਦੀ ਸਿਫਾਰਸ਼ ਕਰਦੇ ਹਨ, ਜੋ ਸਿਧਾਂਤਾਂ ਨੂੰ ਅਭਿਆਸਾਂ ਨਾਲ **ਜੋੜਨ** ਵਿੱਚ ਜ਼ਿਆਦਾ ਨਿਰਧਾਰਤ ਅਤੇ ਕਾਰਗਰ ਤਰੀਕੇ ਨਾਲ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ। -ਚੈਕਲਿਸਟ ਸਵਾਲਾਂ ਨੂੰ "ਹਾਂ/ਨਹੀਂ" ਕਾਰਜਾਂ ਵਿੱਚ ਬਦਲ ਦਿੰਦੇ ਹਨ ਜੋ ਚਾਲੂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਨੂੰ ਮਿਆਰੀ ਉਤਪਾਦ ਰਿਲੀਜ਼ ਵਰਕਫਲੋਜ਼ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਟ੍ਰੈਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। +ਚੈਕਲਿਸਟ ਸਵਾਲਾਂ ਨੂੰ "ਹਾਂ/ਨਹੀਂ" ਕੰਮਾਂ ਵਿੱਚ ਬਦਲ ਦਿੰਦੇ ਹਨ ਜੋ ਚਾਲੂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਨ੍ਹਾਂ ਨੂੰ ਮਿਆਰੀ ਉਤਪਾਦ ਰਿਲੀਜ਼ ਵਰਕਫਲੋਜ਼ ਦੇ ਹਿੱਸੇ ਵਜੋਂ ਟ੍ਰੈਕ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। -ਉਦਾਹਰਨਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ: -* [Deon](https://deon.drivendata.org/) - ਉਦਯੋਗ ਦੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਤੋਂ ਬਣਾਈ ਗਈ ਇੱਕ ਜਨਰਲ-ਪPurpose ਡਾਟਾ ਨੈਤਿਕਤਾ ਚੈਕਲਿਸਟ [ਚੈਕਲਿਸਟ-ਸਿਟੇਸ਼ਨ](https://deon.drivendata.org/#checklist-citations) ਨਾਲ ਇੱਕ ਕਮਾਂਡ-ਲਾਈਨ ਟੂਲ ਲਈ ਆਸਾਨ ਇੰਟੀਗ੍ਰੇਸ਼ਨ। -* [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - ਕਾਨੂੰਨੀ ਅਤੇ ਸਮਾਜਿਕ ਪੱਖਾਂ ਤੋਂ ਜਾਣਕਾਰੀ ਸੰਭਾਲਣ ਦੇ ਅਭਿਆਸਾਂ ਲਈ ਆਮ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। -* [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI ਵਿਕਾਸ ਚ -* [ਜਿੰਮੇਵਾਰ AI ਦੇ ਸਿਧਾਂਤ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - ਮਾਈਕਰੋਸਾਫਟ ਲਰਨ ਤੋਂ ਮੁਫ਼ਤ ਸਿੱਖਣ ਦਾ ਪਾਠ। -* [ਨੈਤਿਕਤਾ ਅਤੇ ਡਾਟਾ ਸਾਇੰਸ](https://resources.oreilly.com/examples/0636920203964) - O'Reilly ਦੀ ਇਬੁੱਕ (M. Loukides, H. Mason ਆਦਿ)। -* [ਡਾਟਾ ਸਾਇੰਸ ਨੈਤਿਕਤਾ](https://www.coursera.org/learn/data-science-ethics#syllabus) - ਮਿਸ਼ੀਗਨ ਯੂਨੀਵਰਸਿਟੀ ਦਾ ਆਨਲਾਈਨ ਕੋਰਸ। -* [ਨੈਤਿਕਤਾ ਅਨਵਰਾਪਡ](https://ethicsunwrapped.utexas.edu/case-studies) - ਟੈਕਸਸ ਯੂਨੀਵਰਸਿਟੀ ਵੱਲੋਂ ਕੇਸ ਅਧਿਐਨ। +ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ: +* [Deon](https://deon.drivendata.org/) - ਉਦਯੋਗ ਦੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਤੋਂ ਬਣਾਈ ਗਈ ਇੱਕ ਜਨਰਲ-ਪPurpose ਡਾਟਾ ਨੈਤਿਕਤਾ ਚੈਕਲਿਸਟ [industry recommendations](https://deon.drivendata.org/#checklist-citations) ਨਾਲ ਇੱਕ ਕਮਾਂਡ-ਲਾਈਨ ਟੂਲ ਲਈ ਆਸਾਨ ਇੰਟੀਗ੍ਰੇਸ਼ਨ। +* [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - ਕਾਨੂੰਨੀ ਅਤੇ ਸਮਾਜਿਕ ਨਜ਼ਰੀਏ ਤੋਂ ਜਾਣਕਾਰੀ ਸੰਭਾਲਣ ਦੇ ਅਭਿਆਸਾਂ ਲਈ ਆਮ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। +* [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI ਵਿਕਾਸ ਚੱਕਰਾਂ ਵਿੱਚ ਨਿਆਂ ਦੀ ਜਾਂਚ ਨੂੰ ਅਪਨਾਉਣ ਅਤੇ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ AI ਅਭਿਆਸਕਰਤਾਵਾਂ ਦੁਆਰਾ ਬਣਾਇਆ ਗਿਆ। +* [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - ਡਿਜ਼ਾਈਨ, ਲ +* [ਜਿੰਮੇਵਾਰ AI ਦੇ ਸਿਧਾਂਤ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn ਤੋਂ ਮੁਫ਼ਤ ਸਿੱਖਣ ਦਾ ਰਾਹ। +* [ਨੈਤਿਕਤਾ ਅਤੇ ਡਾਟਾ ਸਾਇੰਸ](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EBook (M. Loukides, H. Mason ਆਦਿ) +* [ਡਾਟਾ ਸਾਇੰਸ ਨੈਤਿਕਤਾ](https://www.coursera.org/learn/data-science-ethics#syllabus) - ਮਿਸ਼ੀਗਨ ਯੂਨੀਵਰਸਿਟੀ ਤੋਂ ਆਨਲਾਈਨ ਕੋਰਸ। +* [ਨੈਤਿਕਤਾ ਅਨਵਰਪਡ](https://ethicsunwrapped.utexas.edu/case-studies) - ਟੈਕਸਾਸ ਯੂਨੀਵਰਸਿਟੀ ਤੋਂ ਕੇਸ ਸਟੱਡੀਜ਼। # ਅਸਾਈਨਮੈਂਟ -[ਡਾਟਾ ਨੈਤਿਕਤਾ ਦਾ ਕੇਸ ਅਧਿਐਨ ਲਿਖੋ](assignment.md) +[ਡਾਟਾ ਨੈਤਿਕਤਾ ਦੇ ਕੇਸ ਸਟੱਡੀ ਲਿਖੋ](assignment.md) --- **ਅਸਵੀਕਾਰਨਾ**: -ਇਹ ਦਸਤਾਵੇਜ਼ AI ਅਨੁਵਾਦ ਸੇਵਾ [Co-op Translator](https://github.com/Azure/co-op-translator) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ ਹੈ। ਜਦੋਂ ਕਿ ਅਸੀਂ ਸਹੀ ਹੋਣ ਦਾ ਯਤਨ ਕਰਦੇ ਹਾਂ, ਕਿਰਪਾ ਕਰਕੇ ਧਿਆਨ ਦਿਓ ਕਿ ਸਵੈਚਾਲਿਤ ਅਨੁਵਾਦਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਅਸੁਣੀਕਤਾਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਮੂਲ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਇਸਦੀ ਮੂਲ ਭਾਸ਼ਾ ਵਿੱਚ ਅਧਿਕਾਰਤ ਸਰੋਤ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਮਹੱਤਵਪੂਰਨ ਜਾਣਕਾਰੀ ਲਈ, ਪੇਸ਼ੇਵਰ ਮਨੁੱਖੀ ਅਨੁਵਾਦ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਇਸ ਅਨੁਵਾਦ ਦੀ ਵਰਤੋਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਕਿਸੇ ਵੀ ਗਲਤਫਹਿਮੀ ਜਾਂ ਗਲਤ ਵਿਆਖਿਆ ਲਈ ਅਸੀਂ ਜ਼ਿੰਮੇਵਾਰ ਨਹੀਂ ਹਾਂ। \ No newline at end of file +ਇਹ ਦਸਤਾਵੇਜ਼ AI ਅਨੁਵਾਦ ਸੇਵਾ [Co-op Translator](https://github.com/Azure/co-op-translator) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ ਹੈ। ਹਾਲਾਂਕਿ ਅਸੀਂ ਸਹੀਅਤਾ ਲਈ ਯਤਨਸ਼ੀਲ ਹਾਂ, ਕਿਰਪਾ ਕਰਕੇ ਧਿਆਨ ਦਿਓ ਕਿ ਸਵੈਚਾਲਿਤ ਅਨੁਵਾਦਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਅਸੁਚੀਤਤਾਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਮੂਲ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਇਸਦੀ ਮੂਲ ਭਾਸ਼ਾ ਵਿੱਚ ਅਧਿਕਾਰਤ ਸਰੋਤ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਮਹੱਤਵਪੂਰਨ ਜਾਣਕਾਰੀ ਲਈ, ਪੇਸ਼ੇਵਰ ਮਨੁੱਖੀ ਅਨੁਵਾਦ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਇਸ ਅਨੁਵਾਦ ਦੀ ਵਰਤੋਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਕਿਸੇ ਵੀ ਗਲਤਫਹਿਮੀ ਜਾਂ ਗਲਤ ਵਿਆਖਿਆ ਲਈ ਅਸੀਂ ਜ਼ਿੰਮੇਵਾਰ ਨਹੀਂ ਹਾਂ। \ No newline at end of file diff --git a/translations/pl/1-Introduction/02-ethics/README.md b/translations/pl/1-Introduction/02-ethics/README.md index e8ba0869..993cf67a 100644 --- a/translations/pl/1-Introduction/02-ethics/README.md +++ b/translations/pl/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # Введение в этику данных -|![Скетчноут от [(@sketchthedocs)](https://sketchthedocs.dev)](../../sketchnotes/02-Ethics.png)| +|![ Скетчноут от [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| Этика в науке о данных - _Скетчноут от [@nitya](https://twitter.com/nitya)_ | +| Этика данных - _Скетчноут от [@nitya](https://twitter.com/nitya)_ | --- Мы все являемся гражданами мира данных, живущими в эпоху цифровизации. -Рыночные тенденции показывают, что к 2022 году каждая третья крупная организация будет покупать и продавать свои данные через онлайн-[площадки и биржи](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Как **разработчики приложений**, мы обнаружим, что интеграция аналитики, основанной на данных, и автоматизации, управляемой алгоритмами, в повседневный пользовательский опыт станет проще и дешевле. Однако с распространением ИИ нам также придется понимать потенциальный вред, который может быть вызван [использованием алгоритмов в качестве оружия](https://www.youtube.com/watch?v=TQHs8SA1qpk) в масштабах. +Тенденции рынка показывают, что к 2022 году каждая третья крупная организация будет покупать и продавать свои данные через онлайн-[рынки и биржи](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Как **разработчики приложений**, мы сможем легче и дешевле интегрировать аналитические данные и автоматизацию, основанную на алгоритмах, в повседневный пользовательский опыт. Но с распространением ИИ нам также нужно понимать потенциальный вред, который может быть вызван [использованием алгоритмов в качестве оружия](https://www.youtube.com/watch?v=TQHs8SA1qpk) в масштабах. -Тенденции также указывают на то, что к 2025 году мы будем создавать и потреблять более [180 зеттабайт](https://www.statista.com/statistics/871513/worldwide-data-created/) данных. Как **ученые в области данных**, мы получаем беспрецедентный доступ к персональным данным. Это позволяет нам создавать поведенческие профили пользователей и влиять на принятие решений таким образом, чтобы создавать [иллюзию свободного выбора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), при этом потенциально направляя пользователей к результатам, которые мы предпочитаем. Это также поднимает более широкие вопросы о конфиденциальности данных и защите пользователей. +Тенденции также показывают, что к 2025 году мы будем создавать и потреблять более [180 зеттабайт](https://www.statista.com/statistics/871513/worldwide-data-created/) данных. Как **ученые данных**, мы получим беспрецедентный доступ к персональным данным. Это позволит нам создавать поведенческие профили пользователей и влиять на принятие решений, создавая [иллюзию свободного выбора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), при этом возможно направляя пользователей к предпочтительным для нас результатам. Это также поднимает более широкие вопросы о конфиденциальности данных и защите пользователей. -Этика данных становится _необходимыми ограничителями_ для науки о данных и инженерии, помогая минимизировать потенциальный вред и непреднамеренные последствия наших действий, основанных на данных. [Цикл ажиотажа Гартнера для ИИ](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) выделяет важные тенденции в области цифровой этики, ответственного ИИ и управления ИИ как ключевые драйверы для более крупных мегатрендов, связанных с _демократизацией_ и _индустриализацией_ ИИ. +Этика данных становится _необходимыми ограничителями_ для науки о данных и инженерии, помогая минимизировать потенциальный вред и непреднамеренные последствия наших действий, основанных на данных. [Цикл ожиданий Gartner для ИИ](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) выделяет важные тенденции в области цифровой этики, ответственного ИИ и управления ИИ как ключевые драйверы более крупных мегатрендов, связанных с _демократизацией_ и _индустриализацией_ ИИ. -![Цикл ажиотажа Гартнера для ИИ - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +![Цикл ожиданий Gartner для ИИ - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -В этом уроке мы исследуем увлекательную область этики данных - от основных концепций и вызовов до примеров из практики и прикладных концепций ИИ, таких как управление, которые помогают создать культуру этики в командах и организациях, работающих с данными и ИИ. +В этом уроке мы изучим увлекательную область этики данных - от основных концепций и вызовов до примеров из реальной жизни и прикладных концепций ИИ, таких как управление, которые помогают создать культуру этики в командах и организациях, работающих с данными и ИИ. ## [Тест перед лекцией](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -33,61 +33,61 @@ CO_OP_TRANSLATOR_METADATA: Начнем с понимания базовой терминологии. -Слово "этика" происходит от [греческого слова "ethikos"](https://en.wikipedia.org/wiki/Ethics) (и его корня "ethos"), что означает _характер или моральная природа_. +Слово "этика" происходит от [греческого слова "ethikos"](https://en.wikipedia.org/wiki/Ethics) (и его корня "ethos"), означающего _характер или моральная природа_. -**Этика** касается общих ценностей и моральных принципов, которые регулируют наше поведение в обществе. Этика основывается не на законах, а на широко принятых нормах того, что является "правильным или неправильным". Однако этические соображения могут влиять на корпоративное управление и государственное регулирование, создавая больше стимулов для соблюдения. +**Этика** касается общих ценностей и моральных принципов, которые регулируют наше поведение в обществе. Этика основывается не на законах, а на широко принятых нормах того, что считается "правильным или неправильным". Однако этические соображения могут влиять на инициативы корпоративного управления и государственные регулирования, создавая больше стимулов для соблюдения. -**Этика данных** - это [новая ветвь этики](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), которая "изучает и оценивает моральные проблемы, связанные с _данными, алгоритмами и соответствующими практиками_". Здесь **"данные"** сосредоточены на действиях, связанных с созданием, записью, курированием, обработкой, распространением, обменом и использованием; **"алгоритмы"** - на ИИ, агентах, машинном обучении и роботах; а **"практики"** - на таких темах, как ответственное новаторство, программирование, хакерство и кодексы этики. +**Этика данных** - это [новая ветвь этики](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), которая "изучает и оценивает моральные проблемы, связанные с _данными, алгоритмами и соответствующими практиками_". Здесь **"данные"** сосредоточены на действиях, связанных с генерацией, записью, обработкой, распространением, обменом и использованием, **"алгоритмы"** - на ИИ, агентах, машинном обучении и роботах, а **"практики"** - на таких темах, как ответственное инновации, программирование, хакерство и кодексы этики. **Прикладная этика** - это [практическое применение моральных соображений](https://en.wikipedia.org/wiki/Applied_ethics). Это процесс активного изучения этических вопросов в контексте _реальных действий, продуктов и процессов_ и принятия корректирующих мер, чтобы они оставались в соответствии с нашими определенными этическими ценностями. -**Культура этики** касается [_операционализации_ прикладной этики](https://hbr.org/2019/05/how-to-design-an-ethical-organization), чтобы гарантировать, что наши этические принципы и практики последовательно и масштабируемо внедряются по всей организации. Успешные культуры этики определяют этические принципы на уровне всей организации, предоставляют значимые стимулы для соблюдения и укрепляют нормы этики, поощряя и усиливая желаемое поведение на каждом уровне организации. +**Культура этики** касается [_операционализации_ прикладной этики](https://hbr.org/2019/05/how-to-design-an-ethical-organization), чтобы гарантировать, что наши этические принципы и практики принимаются последовательно и масштабируемо во всей организации. Успешные культуры этики определяют этические принципы на уровне всей организации, предоставляют значимые стимулы для соблюдения и укрепляют нормы этики, поощряя и усиливая желаемое поведение на каждом уровне организации. ## Концепции этики -В этом разделе мы обсудим такие концепции, как **общие ценности** (принципы) и **этические вызовы** (проблемы) в области этики данных, а также рассмотрим **примеры из практики**, которые помогут вам понять эти концепции в реальных контекстах. +В этом разделе мы обсудим такие концепции, как **общие ценности** (принципы) и **этические вызовы** (проблемы) для этики данных, а также изучим **примеры из реальной жизни**, которые помогут вам понять эти концепции в реальных контекстах. ### 1. Принципы этики -Любая стратегия этики данных начинается с определения _этических принципов_ - "общих ценностей", которые описывают приемлемое поведение и направляют действия, соответствующие требованиям, в наших проектах, связанных с данными и ИИ. Вы можете определить их на индивидуальном или командном уровне. Однако большинство крупных организаций формулируют их в виде миссии или рамочной программы _этического ИИ_, которая определяется на корпоративном уровне и последовательно внедряется во всех командах. +Каждая стратегия этики данных начинается с определения _этических принципов_ - "общих ценностей", которые описывают приемлемое поведение и направляют действия, соответствующие требованиям, в наших проектах, связанных с данными и ИИ. Вы можете определить их на индивидуальном или командном уровне. Однако большинство крупных организаций формулируют их в виде миссии или рамочной программы _этического ИИ_, которая определяется на корпоративном уровне и последовательно применяется ко всем командам. -**Пример:** Миссия [Ответственного ИИ](https://www.microsoft.com/en-us/ai/responsible-ai) компании Microsoft гласит: _"Мы привержены развитию ИИ, основанного на этических принципах, которые ставят людей на первое место"_ - выделяя 6 этических принципов в следующей рамочной программе: +**Пример:** Миссия Microsoft [Ответственный ИИ](https://www.microsoft.com/en-us/ai/responsible-ai) гласит: _"Мы стремимся к развитию ИИ, основанного на этических принципах, которые ставят людей на первое место"_ - определяя 6 этических принципов в рамочной программе ниже: ![Ответственный ИИ в Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -Давайте кратко рассмотрим эти принципы. _Прозрачность_ и _ответственность_ являются основополагающими ценностями, на которых строятся другие принципы, поэтому начнем с них: +Давайте кратко рассмотрим эти принципы. _Прозрачность_ и _ответственность_ являются основополагающими ценностями, на которых строятся остальные принципы - начнем с них: -* [**Ответственность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) делает практиков _ответственными_ за их действия с данными и ИИ, а также за соблюдение этих этических принципов. -* [**Прозрачность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) гарантирует, что действия с данными и ИИ _понятны_ (интерпретируемы) пользователям, объясняя, что и почему было сделано. +* [**Ответственность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) делает практиков _ответственными_ за их действия, связанные с данными и ИИ, и за соблюдение этих этических принципов. +* [**Прозрачность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) гарантирует, что действия, связанные с данными и ИИ, _понятны_ пользователям, объясняя, что и почему было сделано. * [**Справедливость**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - сосредоточена на обеспечении того, чтобы ИИ относился _ко всем людям_ справедливо, устраняя любые системные или скрытые социально-технические предвзятости в данных и системах. * [**Надежность и безопасность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - гарантирует, что ИИ ведет себя _последовательно_ с определенными ценностями, минимизируя потенциальный вред или непреднамеренные последствия. * [**Конфиденциальность и безопасность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - касается понимания происхождения данных и предоставления _конфиденциальности данных и связанных с этим защит_ пользователям. * [**Инклюзивность**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - касается проектирования решений ИИ с намерением адаптировать их для удовлетворения _широкого спектра человеческих потребностей_ и возможностей. -> 🚨 Подумайте, какой могла бы быть ваша миссия в области этики данных. Изучите рамочные программы этического ИИ других организаций - вот примеры от [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) и [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Какие общие ценности у них есть? Как эти принципы соотносятся с продуктами ИИ или отраслью, в которой они работают? +> 🚨 Подумайте, какой могла бы быть ваша миссия в области этики данных. Изучите рамочные программы этического ИИ других организаций - вот примеры от [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) и [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Какие общие ценности у них есть? Как эти принципы связаны с продуктами ИИ или отраслью, в которой они работают? ### 2. Этические вызовы -После того как мы определили этические принципы, следующий шаг - оценить наши действия с данными и ИИ, чтобы убедиться, что они соответствуют этим общим ценностям. Подумайте о своих действиях в двух категориях: _сбор данных_ и _разработка алгоритмов_. +После того как мы определили этические принципы, следующим шагом будет оценка наших действий, связанных с данными и ИИ, чтобы понять, соответствуют ли они этим общим ценностям. Подумайте о своих действиях в двух категориях: _сбор данных_ и _разработка алгоритмов_. -При сборе данных действия, скорее всего, будут включать **персональные данные** или персонально идентифицируемую информацию (PII) для идентифицируемых живых лиц. Это включает [разнообразные элементы неперсональных данных](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), которые _в совокупности_ идентифицируют человека. Этические вызовы могут быть связаны с _конфиденциальностью данных_, _правами собственности на данные_ и такими темами, как _осознанное согласие_ и _права интеллектуальной собственности_ пользователей. +При сборе данных действия, скорее всего, будут связаны с **персональными данными** или персонально идентифицируемой информацией (PII) для идентифицируемых живых лиц. Это включает [разнообразные элементы неперсональных данных](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), которые _в совокупности_ идентифицируют человека. Этические вызовы могут быть связаны с _конфиденциальностью данных_, _правами собственности на данные_ и такими темами, как _осознанное согласие_ и _права интеллектуальной собственности_ пользователей. -При разработке алгоритмов действия будут включать сбор и курирование **наборов данных**, а затем их использование для обучения и развертывания **моделей данных**, которые прогнозируют результаты или автоматизируют решения в реальных контекстах. Этические вызовы могут возникать из-за _предвзятости наборов данных_, проблем с _качеством данных_, _несправедливости_ и _искажений_ в алгоритмах, включая некоторые системные проблемы. +При разработке алгоритмов действия будут включать сбор и обработку **наборов данных**, а затем их использование для обучения и развертывания **моделей данных**, которые предсказывают результаты или автоматизируют принятие решений в реальных контекстах. Этические вызовы могут возникать из-за _предвзятости наборов данных_, проблем с _качеством данных_, _несправедливости_ и _искажений_ в алгоритмах, включая некоторые системные проблемы. В обоих случаях этические вызовы подчеркивают области, где наши действия могут вступать в конфликт с нашими общими ценностями. Чтобы обнаружить, смягчить, минимизировать или устранить эти проблемы, нам нужно задавать моральные вопросы "да/нет", связанные с нашими действиями, а затем принимать корректирующие меры по мере необходимости. Давайте рассмотрим некоторые этические вызовы и моральные вопросы, которые они поднимают: -#### 2.1 Право собственности на данные +#### 2.1 Права собственности на данные -Сбор данных часто включает персональные данные, которые могут идентифицировать субъектов данных. [Право собственности на данные](https://permission.io/blog/data-ownership) касается _контроля_ и [_прав пользователей_](https://permission.io/blog/data-ownership), связанных с созданием, обработкой и распространением данных. +Сбор данных часто включает персональные данные, которые могут идентифицировать субъектов данных. [Права собственности на данные](https://permission.io/blog/data-ownership) касаются _контроля_ и [_прав пользователей_](https://permission.io/blog/data-ownership), связанных с созданием, обработкой и распространением данных. Моральные вопросы, которые нужно задать: * Кто владеет данными? (пользователь или организация) * Какие права есть у субъектов данных? (например, доступ, удаление, переносимость) -* Какие права есть у организаций? (например, исправление злонамеренных отзывов пользователей) +* Какие права есть у организаций? (например, исправление вредоносных отзывов пользователей) #### 2.2 Осознанное согласие -[Осознанное согласие](https://legaldictionary.net/informed-consent/) определяет акт согласия пользователей на действие (например, сбор данных) с _полным пониманием_ соответствующих фактов, включая цель, потенциальные риски и альтернативы. +[Осознанное согласие](https://legaldictionary.net/informed-consent/) определяет акт согласия пользователя на действие (например, сбор данных) с _полным пониманием_ соответствующих фактов, включая цель, потенциальные риски и альтернативы. Вопросы для изучения: * Дал ли пользователь (субъект данных) разрешение на сбор и использование данных? @@ -96,46 +96,46 @@ CO_OP_TRANSLATOR_METADATA: #### 2.3 Интеллектуальная собственность -[Интеллектуальная собственность](https://en.wikipedia.org/wiki/Intellectual_property) относится к нематериальным результатам человеческой инициативы, которые могут _иметь экономическую ценность_ для отдельных лиц или бизнеса. +[Интеллектуальная собственность](https://en.wikipedia.org/wiki/Intellectual_property) относится к нематериальным творениям, возникающим в результате человеческой инициативы, которые могут _иметь экономическую ценность_ для отдельных лиц или бизнеса. Вопросы для изучения: * Имеют ли собранные данные экономическую ценность для пользователя или бизнеса? -* Есть ли у **пользователя** права интеллектуальной собственности? -* Есть ли у **организации** права интеллектуальной собственности? -* Если такие права существуют, как мы их защищаем? +* Есть ли у **пользователя** интеллектуальная собственность здесь? +* Есть ли у **организации** интеллектуальная собственность здесь? +* Если эти права существуют, как мы их защищаем? #### 2.4 Конфиденциальность данных -[Конфиденциальность данных](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или информационная конфиденциальность касается сохранения конфиденциальности пользователей и защиты их идентичности в отношении персонально идентифицируемой информации. +[Конфиденциальность данных](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или информационная конфиденциальность касается сохранения конфиденциальности пользователя и защиты его идентичности в отношении персонально идентифицируемой информации. Вопросы для изучения: * Защищены ли данные пользователей (персональные) от взломов и утечек? * Доступны ли данные пользователей только авторизованным пользователям и в соответствующих контекстах? * Сохраняется ли анонимность пользователей при обмене или распространении данных? -* Можно ли деидентифицировать пользователя из анонимизированных наборов данных? +* Можно ли деидентифицировать пользователя из анонимных наборов данных? #### 2.5 Право быть забытым -[Право быть забытым](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [право на удаление](https://www.gdpreu.org/right-to-be-forgotten/) предоставляет пользователям дополнительную защиту персональных данных. В частности, оно дает пользователям право запрашивать удаление или удаление персональных данных из интернет-поисковиков и других мест _при определенных обстоятельствах_, позволяя им начать заново в интернете без учета прошлых действий. +[Право быть забытым](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [право на удаление](https://www.gdpreu.org/right-to-be-forgotten/) предоставляет пользователям дополнительную защиту персональных данных. В частности, оно дает пользователям право запросить удаление или удаление персональных данных из интернет-поисков и других мест, _при определенных обстоятельствах_, позволяя им начать заново онлайн без учета прошлых действий. Вопросы для изучения: * Позволяет ли система субъектам данных запрашивать удаление? -* Должно ли отозвание согласия пользователя автоматически запускать удаление данных? +* Должно ли отозвание согласия пользователя автоматически инициировать удаление? * Были ли данные собраны без согласия или незаконным способом? -* Соответствуем ли мы государственным регламентам по защите данных? +* Соответствуем ли мы государственным нормативам по конфиденциальности данных? #### 2.6 Предвзятость наборов данных -Предвзятость наборов данных или [предвзятость при сборе](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) касается выбора _нерепрезентативного_ подмножества данных для разработки алгоритмов, что может создавать потенциальную несправедливость в результатах для различных групп. Типы предвзятости включают предвзятость при отборе или выборке, предвзятость добровольцев и инструментальную предвзятость. +Предвзятость наборов данных или [предвзятость сбора](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) касается выбора _непредставительного_ подмножества данных для разработки алгоритмов, создавая потенциальную несправедливость в результатах для различных групп. Типы предвзятости включают предвзятость выбора или выборки, предвзятость добровольцев и предвзятость инструментов. Вопросы для изучения: -* Привлекли ли мы репрезентативный набор субъектов данных? -* Проверили ли мы наш собранный или курированный набор данных на наличие различных предвзятостей? +* Привлекли ли мы представительный набор субъектов данных? +* Проверили ли мы собранный или обработанный набор данных на наличие различных предвзятостей? * Можем ли мы смягчить или устранить обнаруженные предвзятости? #### 2.7 Качество данных -[Качество данных](https://lakefs.io/data-quality-testing/) оценивает достоверность курированного набора данных, используемого для разработки наших алгоритмов, проверяя, соответствуют ли признаки и записи требованиям к уровню точности и согласованности, необходимым для нашей цели в ИИ. +[Качество данных](https://lakefs.io/data-quality-testing/) оценивает достоверность обработанного набора данных, используемого для разработки наших алгоритмов, проверяя, соответствуют ли признаки и записи требованиям к уровню точности и согласованности, необходимым для нашей цели ИИ. Вопросы для изучения: * Захватили ли мы действительные _признаки_ для нашего случая использования? @@ -153,7 +153,7 @@ CO_OP_TRANSLATOR_METADATA: #### 2.9 Искажение данных -[Искажение данных](https://www.sciencedirect.com/topics/computer-science/misrepresentation) касается вопроса, не передаем ли мы инсайты из честно представленных данных обманным образом, чтобы поддержать желаемый нарратив. +[Искажение данных](https://www.sciencedirect.com/topics/computer-science/misrepresentation) касается вопроса, передаем ли мы инсайты из честно представленных данных обманным образом, чтобы поддержать желаемый нарратив. Вопросы для изучения: * Сообщаем ли мы неполные или неточные данные? @@ -162,7 +162,7 @@ CO_OP_TRANSLATOR_METADATA: * Существуют ли альтернативные объяснения, которые могут предложить другой вывод? #### 2.10 Свобода выбора -[Иллюзия свободы выбора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) возникает, когда "архитектуры выбора" системы используют алгоритмы принятия решений, чтобы подтолкнуть людей к предпочтительному результату, создавая видимость наличия у них опций и контроля. Эти [темные паттерны](https://www.darkpatterns.org/) могут причинять социальный и экономический вред пользователям. Поскольку решения пользователей влияют на профили поведения, эти действия потенциально формируют будущие выборы, которые могут усиливать или расширять воздействие этих вредных последствий. +[Иллюзия свободы выбора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) возникает, когда "архитектуры выбора" системы используют алгоритмы принятия решений, чтобы подтолкнуть людей к предпочтительному результату, создавая видимость наличия вариантов и контроля. Эти [темные паттерны](https://www.darkpatterns.org/) могут причинять социальный и экономический вред пользователям. Поскольку решения пользователей влияют на профили поведения, эти действия потенциально формируют будущие выборы, усиливая или расширяя воздействие этих вредных последствий. Вопросы для изучения: * Понимал ли пользователь последствия принятия этого выбора? @@ -171,18 +171,18 @@ CO_OP_TRANSLATOR_METADATA: ### 3. Примеры из практики -Чтобы рассмотреть эти этические вызовы в реальных контекстах, полезно изучить примеры из практики, которые подчеркивают потенциальный вред и последствия для отдельных людей и общества, если такие нарушения этики игнорируются. +Чтобы рассмотреть этические вызовы в реальных контекстах, полезно изучить примеры из практики, которые подчеркивают потенциальный вред и последствия для отдельных людей и общества, если этические нарушения остаются без внимания. Вот несколько примеров: | Этический вызов | Пример из практики | |--- |--- | -| **Осознанное согласие** | 1972 - [Исследование сифилиса в Таскиги](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - афроамериканским мужчинам, участвовавшим в исследовании, обещали бесплатное медицинское обслуживание, _но обманули_, не сообщив им о диагнозе или доступности лечения. Многие участники умерли, их партнеры и дети пострадали; исследование длилось 40 лет. | -| **Конфиденциальность данных** | 2007 - [Приз Netflix](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) предоставил исследователям _10 миллионов анонимных оценок фильмов от 50 тысяч клиентов_, чтобы улучшить алгоритмы рекомендаций. Однако исследователи смогли сопоставить анонимные данные с персонально идентифицируемыми данными из _внешних наборов данных_ (например, комментарии IMDb), фактически "деанонимизировав" некоторых подписчиков Netflix.| -| **Смещение в сборе данных** | 2013 - Город Бостон [разработал приложение Street Bump](https://www.boston.gov/transportation/street-bump), которое позволяло гражданам сообщать о выбоинах, предоставляя городу лучшие данные о дорогах для выявления и устранения проблем. Однако [люди с низким доходом имели меньший доступ к автомобилям и телефонам](https://hbr.org/2013/04/the-hidden-biases-in-big-data), что делало их дорожные проблемы невидимыми для этого приложения. Разработчики работали с учеными над вопросами _равного доступа и цифрового разрыва_ для обеспечения справедливости. | -| **Справедливость алгоритмов** | 2018 - Исследование MIT [Gender Shades](http://gendershades.org/overview.html) оценило точность продуктов ИИ для классификации пола, выявив пробелы в точности для женщин и цветных людей. [Карта Apple 2019 года](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/), казалось, предлагала меньший кредит женщинам, чем мужчинам. Оба случая иллюстрируют проблемы алгоритмического смещения, приводящие к социально-экономическим последствиям.| -| **Искажение данных** | 2020 - [Департамент здравоохранения Джорджии выпустил графики COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), которые, казалось, вводили граждан в заблуждение относительно тенденций подтвержденных случаев с не хронологическим порядком на оси x. Это иллюстрирует искажение через визуализационные трюки. | -| **Иллюзия свободы выбора** | 2020 - Образовательное приложение [ABCmouse заплатило $10 млн для урегулирования жалобы FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), где родители были вынуждены платить за подписки, которые они не могли отменить. Это иллюстрирует темные паттерны в архитектурах выбора, где пользователи были подтолкнуты к потенциально вредным решениям. | +| **Осознанное согласие** | 1972 - [Исследование сифилиса в Таскиги](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - афроамериканским мужчинам, участвовавшим в исследовании, обещали бесплатное медицинское обслуживание, _но обманули_, не сообщив им диагноз или информацию о доступности лечения. Многие участники умерли, а их партнеры или дети пострадали; исследование длилось 40 лет. | +| **Конфиденциальность данных** | 2007 - [Приз Netflix](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) предоставил исследователям _10 миллионов анонимных оценок фильмов от 50 тысяч клиентов_, чтобы улучшить алгоритмы рекомендаций. Однако исследователи смогли сопоставить анонимные данные с персонально идентифицируемыми данными из _внешних наборов данных_ (например, комментарии IMDb), фактически "деанонимизировав" некоторых подписчиков Netflix. | +| **Смещение в сборе данных** | 2013 - Город Бостон [разработал Street Bump](https://www.boston.gov/transportation/street-bump), приложение, позволяющее гражданам сообщать о выбоинах, предоставляя городу лучшие данные о дорогах для выявления и устранения проблем. Однако [люди с низким доходом имели меньший доступ к автомобилям и телефонам](https://hbr.org/2013/04/the-hidden-biases-in-big-data), что делало их дорожные проблемы невидимыми для этого приложения. Разработчики сотрудничали с учеными, чтобы решить вопросы _равного доступа и цифрового разрыва_ для справедливости. | +| **Справедливость алгоритмов** | 2018 - Исследование MIT [Gender Shades](http://gendershades.org/overview.html) оценило точность продуктов ИИ для классификации пола, выявив пробелы в точности для женщин и цветных людей. [Apple Card 2019 года](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) казалась предоставлять меньший кредит женщинам, чем мужчинам. Оба случая иллюстрируют проблемы алгоритмического смещения, приводящие к социально-экономическим последствиям. | +| **Искажение данных** | 2020 - [Департамент здравоохранения Джорджии выпустил графики COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), которые, казалось, вводили граждан в заблуждение относительно тенденций подтвержденных случаев, используя не хронологический порядок на оси x. Это иллюстрирует искажение через визуализационные трюки. | +| **Иллюзия свободы выбора** | 2020 - Образовательное приложение [ABCmouse выплатило $10 млн для урегулирования жалобы FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), где родители были вынуждены платить за подписки, которые они не могли отменить. Это иллюстрирует темные паттерны в архитектурах выбора, где пользователи были подтолкнуты к потенциально вредным решениям. | | **Конфиденциальность данных и права пользователей** | 2021 - [Утечка данных Facebook](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) раскрыла данные 530 миллионов пользователей, что привело к штрафу в $5 млрд от FTC. Однако компания отказалась уведомить пользователей о нарушении, нарушив их права на прозрачность данных и доступ. | Хотите изучить больше примеров из практики? Ознакомьтесь с этими ресурсами: @@ -190,18 +190,17 @@ CO_OP_TRANSLATOR_METADATA: * [Курс по этике в Data Science](https://www.coursera.org/learn/data-science-ethics#syllabus) - изучение знаковых примеров из практики. * [Где все пошло не так](https://deon.drivendata.org/examples/) - чеклист Deon с примерами. -> 🚨 Подумайте о примерах из практики, которые вы видели - сталкивались ли вы или были ли затронуты подобным этическим вызовом в своей жизни? Можете ли вы вспомнить хотя бы один другой пример, который иллюстрирует один из этических вызовов, обсуждаемых в этом разделе? +> 🚨 Подумайте о примерах из практики, которые вы видели — сталкивались ли вы или были ли затронуты подобным этическим вызовом в своей жизни? Можете ли вы придумать хотя бы один другой пример, который иллюстрирует один из этических вызовов, обсуждаемых в этом разделе? ## Прикладная этика -Мы обсудили концепции этики, вызовы и примеры из практики в реальных контекстах. Но как начать _применять_ этические принципы и практики в своих проектах? И как _операционализировать_ эти практики для лучшего управления? Давайте изучим некоторые реальные решения: +Мы обсудили концепции этики, вызовы и примеры из практики в реальных контекстах. Но как начать _применять_ этические принципы и практики в своих проектах? И как _операционализировать_ эти практики для лучшего управления? Давайте изучим несколько реальных решений: ### 1. Профессиональные кодексы -Профессиональные кодексы предлагают один из вариантов для организаций "мотивировать" членов поддерживать их этические принципы и миссию. Кодексы являются _моральными руководствами_ для профессионального поведения, помогая сотрудникам или членам принимать решения, которые соответствуют принципам их организации. Они эффективны только при добровольном соблюдении со стороны членов; однако многие организации предлагают дополнительные награды и штрафы, чтобы стимулировать соблюдение. - -Примеры включают: +Профессиональные кодексы предлагают один из вариантов для организаций "мотивировать" членов поддерживать их этические принципы и миссию. Кодексы — это _моральные ориентиры_ для профессионального поведения, помогающие сотрудникам или членам принимать решения, соответствующие принципам их организации. Они эффективны только при добровольном соблюдении; однако многие организации предлагают дополнительные награды и штрафы, чтобы стимулировать соблюдение. +Примеры: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Кодекс этики * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Кодекс поведения (создан в 2013 году) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (с 1993 года) @@ -210,56 +209,55 @@ CO_OP_TRANSLATOR_METADATA: ### 2. Чеклисты по этике -Хотя профессиональные кодексы определяют необходимое _этическое поведение_ для специалистов, они [имеют известные ограничения](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) в обеспечении соблюдения, особенно в крупных проектах. Вместо этого многие эксперты в области Data Science [рекомендуют чеклисты](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), которые могут **связать принципы с практиками** более детерминированным и действенным образом. +Хотя профессиональные кодексы определяют необходимое _этическое поведение_ для специалистов, они [имеют известные ограничения](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) в применении, особенно в крупных проектах. Вместо этого многие эксперты в области Data Science [рекомендуют чеклисты](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), которые могут **связать принципы с практикой** более детерминированным и действенным образом. Чеклисты превращают вопросы в задачи "да/нет", которые можно операционализировать, позволяя отслеживать их как часть стандартных рабочих процессов выпуска продукта. -Примеры включают: +Примеры: * [Deon](https://deon.drivendata.org/) - универсальный чеклист по этике данных, созданный на основе [рекомендаций отрасли](https://deon.drivendata.org/#checklist-citations) с инструментом командной строки для легкой интеграции. - * [Чеклист аудита конфиденциальности](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - предоставляет общие рекомендации по практике обработки информации с точки зрения юридической и социальной экспозиции. - * [Чеклист справедливости ИИ](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - созданный практиками ИИ для поддержки внедрения и интеграции проверок справедливости в циклы разработки ИИ. - * [22 вопроса по этике данных и ИИ](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - более открытая структура, предназначенная для первоначального изучения этических вопросов в дизайне, реализации и организационных контекстах. + * [Чеклист аудита конфиденциальности](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - предоставляет общие рекомендации по практике обработки информации с точки зрения юридической и социальной ответственности. + * [Чеклист справедливости ИИ](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - создан практиками ИИ для поддержки внедрения и интеграции проверок справедливости в циклы разработки ИИ. + * [22 вопроса по этике данных и ИИ](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - более открытая структура, предназначенная для начального изучения этических вопросов в дизайне, реализации и организационных контекстах. ### 3. Регулирование этики Этика касается определения общих ценностей и добровольного выполнения правильных действий. **Соблюдение** касается _следования закону_, если он определен. **Управление** охватывает все способы, которыми организации работают для обеспечения соблюдения этических принципов и выполнения установленных законов. -Сегодня управление принимает две формы в рамках организаций. Во-первых, это определение принципов **этического ИИ** и установление практик для операционализации их внедрения во всех проектах, связанных с ИИ, в организации. Во-вторых, это соблюдение всех государственных **регламентов защиты данных**, действующих в регионах, где она работает. +Сегодня управление принимает две формы в рамках организаций. Во-первых, это определение принципов **этического ИИ** и установление практик для операционализации их внедрения во всех проектах, связанных с ИИ, в организации. Во-вторых, это соблюдение всех государственных **регламентов защиты данных** для регионов, где она работает. Примеры регламентов защиты данных и конфиденциальности: - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - регулирует сбор, использование и раскрытие личной информации _федеральным правительством_. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - защищает персональные медицинские данные. * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - защищает конфиденциальность данных детей младше 13 лет. * `2018`, [Общий регламент защиты данных (GDPR)](https://gdpr-info.eu/) - предоставляет права пользователей, защиту данных и конфиденциальность. - * `2018`, [Закон о конфиденциальности потребителей Калифорнии (CCPA)](https://www.oag.ca.gov/privacy/ccpa) предоставляет потребителям больше _прав_ на их (личные) данные. + * `2018`, [Закон о конфиденциальности потребителей Калифорнии (CCPA)](https://www.oag.ca.gov/privacy/ccpa) предоставляет потребителям больше _прав_ в отношении их (персональных) данных. * `2021`, Китайский [Закон о защите персональной информации](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) недавно принят, создавая один из самых строгих онлайн-регламентов конфиденциальности данных в мире. > 🚨 Европейский Союз определил GDPR (Общий регламент защиты данных), который остается одним из самых влиятельных регламентов конфиденциальности данных сегодня. Знаете ли вы, что он также определяет [8 прав пользователей](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) для защиты цифровой конфиденциальности и персональных данных граждан? Узнайте, что это за права и почему они важны. ### 4. Культура этики -Обратите внимание, что существует нематериальный разрыв между _соблюдением_ (выполнением минимальных требований закона) и решением [системных проблем](https://www.coursera.org/learn/data-science-ethics/home/week/4) (таких как закостенелость, асимметрия информации и несправедливость распределения), которые могут ускорить использование ИИ в вредных целях. +Обратите внимание, что существует нематериальный разрыв между _соблюдением_ (выполнение достаточного для соответствия "букве закона") и решением [системных проблем](https://www.coursera.org/learn/data-science-ethics/home/week/4) (таких как окаменелость, информационная асимметрия и несправедливость распределения), которые могут ускорить использование ИИ в вредных целях. -Последнее требует [коллаборативных подходов к определению культуры этики](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), которые строят эмоциональные связи и последовательные общие ценности _в организациях_ отрасли. Это требует более [формализованных культур этики данных](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) в организациях - позволяя _любому_ [потянуть шнур Андон](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (чтобы поднять этические вопросы на ранних этапах процесса) и делая _этические оценки_ (например, при найме) ключевым критерием формирования команды в проектах ИИ. +Последнее требует [коллаборативных подходов к определению культур этики](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), которые создают эмоциональные связи и последовательные общие ценности _в организациях_ отрасли. Это требует более [формализованных культур этики данных](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) в организациях — позволяя _любому_ [потянуть шнур Андон](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (чтобы поднять этические вопросы на ранних этапах процесса) и делая _этические оценки_ (например, при найме) ключевым критерием формирования команды в проектах ИИ. --- -## [Викторина после лекции](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [Викторина после лекции](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## Обзор и самостоятельное изучение -Курсы и книги помогают понять основные концепции и вызовы этики, а примеры из практики и инструменты помогают применять этические практики в реальных контекстах. Вот несколько ресурсов для начала: +Курсы и книги помогают понять основные концепции этики и вызовы, а примеры из практики и инструменты помогают применять этические принципы в реальных контекстах. Вот несколько ресурсов для начала: * [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - урок о справедливости от Microsoft. -* [Принципы ответственного ИИ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - бесплатный учебный курс от Microsoft Learn. -* [Этика и наука о данных](https://resources.oreilly.com/examples/0636920203964) - электронная книга от O'Reilly (М. Лукидес, Х. Мейсон и др.). -* [Этика в науке о данных](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлайн-курс от Мичиганского университета. -* [Этика в деталях](https://ethicsunwrapped.utexas.edu/case-studies) - кейс-стадии от Техасского университета. +* [Принципы ответственного ИИ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - бесплатный учебный курс от Microsoft Learn. +* [Этика и наука о данных](https://resources.oreilly.com/examples/0636920203964) - электронная книга от O'Reilly (М. Лукидес, Х. Мейсон и др.) +* [Этика в науке о данных](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлайн-курс от Университета Мичигана. +* [Этика в деталях](https://ethicsunwrapped.utexas.edu/case-studies) - примеры из Университета Техаса. -# Задание +# Задание -[Напишите кейс-стадию по этике данных](assignment.md) +[Напишите кейс по этике данных](assignment.md) --- **Отказ от ответственности**: -Этот документ был переведен с помощью сервиса автоматического перевода [Co-op Translator](https://github.com/Azure/co-op-translator). Хотя мы стремимся к точности, пожалуйста, имейте в виду, что автоматические переводы могут содержать ошибки или неточности. Оригинальный документ на его исходном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется профессиональный перевод человеком. Мы не несем ответственности за любые недоразумения или неправильные толкования, возникшие в результате использования данного перевода. \ No newline at end of file +Этот документ был переведен с помощью сервиса автоматического перевода [Co-op Translator](https://github.com/Azure/co-op-translator). Хотя мы стремимся к точности, пожалуйста, учитывайте, что автоматические переводы могут содержать ошибки или неточности. Оригинальный документ на его исходном языке следует считать авторитетным источником. Для получения критически важной информации рекомендуется профессиональный перевод человеком. Мы не несем ответственности за любые недоразумения или неправильные интерпретации, возникшие в результате использования данного перевода. \ No newline at end of file diff --git a/translations/sk/1-Introduction/02-ethics/README.md b/translations/sk/1-Introduction/02-ethics/README.md index 058c88e4..af94e18a 100644 --- a/translations/sk/1-Introduction/02-ethics/README.md +++ b/translations/sk/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # บทนำสู่จริยธรรมข้อมูล -|![ สเก็ตช์โน้ตโดย [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![ สเก็ตโน้ตโดย [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| จริยธรรมข้อมูล - _สเก็ตช์โน้ตโดย [@nitya](https://twitter.com/nitya)_ | +| จริยธรรมวิทยาศาสตร์ข้อมูล - _สเก็ตโน้ตโดย [@nitya](https://twitter.com/nitya)_ | --- เราทุกคนเป็นพลเมืองข้อมูลที่อาศัยอยู่ในโลกที่เต็มไปด้วยข้อมูล -แนวโน้มตลาดบอกเราว่าภายในปี 2022 องค์กรขนาดใหญ่ 1 ใน 3 จะซื้อและขายข้อมูลของพวกเขาผ่าน [ตลาดและการแลกเปลี่ยนออนไลน์](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) ในฐานะ **นักพัฒนาแอปพลิเคชัน** เราจะพบว่าการผสานข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูลและระบบอัตโนมัติที่ขับเคลื่อนด้วยอัลกอริทึมเข้ากับประสบการณ์ผู้ใช้ในชีวิตประจำวันนั้นง่ายและถูกลง แต่เมื่อ AI กลายเป็นสิ่งที่แพร่หลาย เราก็ต้องเข้าใจถึงอันตรายที่อาจเกิดขึ้นจาก [การใช้อัลกอริทึมในทางที่ผิด](https://www.youtube.com/watch?v=TQHs8SA1qpk) ในระดับใหญ่ด้วย +แนวโน้มตลาดบอกเราว่า ภายในปี 2022 องค์กรขนาดใหญ่ 1 ใน 3 จะซื้อและขายข้อมูลของพวกเขาผ่าน [ตลาดและการแลกเปลี่ยนออนไลน์](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) ในฐานะ **นักพัฒนาแอปพลิเคชัน** เราจะพบว่าการผสานข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูลและระบบอัตโนมัติที่ขับเคลื่อนด้วยอัลกอริทึมเข้ากับประสบการณ์ผู้ใช้ในชีวิตประจำวันนั้นง่ายและถูกลง แต่เมื่อ AI กลายเป็นสิ่งที่แพร่หลาย เราก็ต้องเข้าใจถึงอันตรายที่อาจเกิดขึ้นจาก [การใช้อัลกอริทึมในทางที่ผิด](https://www.youtube.com/watch?v=TQHs8SA1qpk) ในระดับใหญ่ด้วย -แนวโน้มยังชี้ให้เห็นว่าเราจะสร้างและบริโภคข้อมูลมากกว่า [180 เซตตะไบต์](https://www.statista.com/statistics/871513/worldwide-data-created/) ภายในปี 2025 ในฐานะ **นักวิทยาศาสตร์ข้อมูล** สิ่งนี้ทำให้เรามีโอกาสเข้าถึงข้อมูลส่วนบุคคลในระดับที่ไม่เคยมีมาก่อน ซึ่งหมายความว่าเราสามารถสร้างโปรไฟล์พฤติกรรมของผู้ใช้และมีอิทธิพลต่อการตัดสินใจในลักษณะที่สร้าง [ภาพลวงตาของการเลือกอย่างเสรี](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ในขณะเดียวกันก็อาจผลักดันผู้ใช้ไปสู่ผลลัพธ์ที่เราต้องการ นอกจากนี้ยังทำให้เกิดคำถามที่กว้างขึ้นเกี่ยวกับความเป็นส่วนตัวของข้อมูลและการคุ้มครองผู้ใช้ +แนวโน้มยังชี้ให้เห็นว่าเราจะสร้างและบริโภคข้อมูลมากกว่า [180 เซตตะไบต์](https://www.statista.com/statistics/871513/worldwide-data-created/) ภายในปี 2025 ในฐานะ **นักวิทยาศาสตร์ข้อมูล** สิ่งนี้ทำให้เรามีระดับการเข้าถึงข้อมูลส่วนบุคคลที่ไม่เคยมีมาก่อน ซึ่งหมายความว่าเราสามารถสร้างโปรไฟล์พฤติกรรมของผู้ใช้และมีอิทธิพลต่อการตัดสินใจในลักษณะที่สร้าง [ภาพลวงตาของการเลือกอย่างอิสระ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) ในขณะเดียวกันก็อาจผลักดันผู้ใช้ไปสู่ผลลัพธ์ที่เราต้องการ นอกจากนี้ยังทำให้เกิดคำถามที่กว้างขึ้นเกี่ยวกับความเป็นส่วนตัวของข้อมูลและการปกป้องผู้ใช้ -จริยธรรมข้อมูลในปัจจุบันเป็น _รั้วป้องกันที่จำเป็น_ สำหรับวิทยาศาสตร์ข้อมูลและวิศวกรรม โดยช่วยลดอันตรายที่อาจเกิดขึ้นและผลกระทบที่ไม่ได้ตั้งใจจากการกระทำที่ขับเคลื่อนด้วยข้อมูลของเรา [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ระบุแนวโน้มที่เกี่ยวข้องในด้านจริยธรรมดิจิทัล AI ที่รับผิดชอบ และการกำกับดูแล AI ว่าเป็นตัวขับเคลื่อนสำคัญสำหรับแนวโน้มใหญ่ที่เกี่ยวกับ _การทำให้เป็นประชาธิปไตย_ และ _การทำให้เป็นอุตสาหกรรม_ ของ AI +จริยธรรมข้อมูลจึงกลายเป็น _รั้วป้องกันที่จำเป็น_ สำหรับวิทยาศาสตร์ข้อมูลและวิศวกรรม ซึ่งช่วยลดอันตรายที่อาจเกิดขึ้นและผลกระทบที่ไม่ได้ตั้งใจจากการกระทำที่ขับเคลื่อนด้วยข้อมูลของเรา [Gartner Hype Cycle for AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ระบุแนวโน้มที่เกี่ยวข้องในด้านจริยธรรมดิจิทัล AI ที่รับผิดชอบ และการกำกับดูแล AI เป็นตัวขับเคลื่อนสำคัญสำหรับแนวโน้มใหญ่ที่เกี่ยวกับ _การทำให้เป็นประชาธิปไตย_ และ _การทำให้เป็นอุตสาหกรรม_ ของ AI ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -ในบทเรียนนี้ เราจะสำรวจพื้นที่ที่น่าสนใจของจริยธรรมข้อมูล ตั้งแต่แนวคิดหลักและความท้าทาย ไปจนถึงกรณีศึกษาและแนวคิด AI ประยุกต์ เช่น การกำกับดูแล ที่ช่วยสร้างวัฒนธรรมจริยธรรมในทีมและองค์กรที่ทำงานกับข้อมูลและ AI +ในบทเรียนนี้ เราจะสำรวจพื้นที่ที่น่าสนใจของจริยธรรมข้อมูล ตั้งแต่แนวคิดและความท้าทายหลัก ไปจนถึงกรณีศึกษาและแนวคิด AI ที่ประยุกต์ใช้ เช่น การกำกับดูแล ซึ่งช่วยสร้างวัฒนธรรมจริยธรรมในทีมและองค์กรที่ทำงานกับข้อมูลและ AI ## [แบบทดสอบก่อนการบรรยาย](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## คำจำกัดความพื้นฐาน -เริ่มต้นด้วยการทำความเข้าใจคำศัพท์พื้นฐานกันก่อน +เริ่มต้นด้วยการทำความเข้าใจคำศัพท์พื้นฐาน คำว่า "จริยธรรม" มาจาก [คำภาษากรีก "ethikos"](https://en.wikipedia.org/wiki/Ethics) (และรากศัพท์ "ethos") ซึ่งหมายถึง _ลักษณะนิสัยหรือธรรมชาติทางศีลธรรม_ -**จริยธรรม** เกี่ยวกับค่านิยมร่วมกันและหลักการทางศีลธรรมที่กำหนดพฤติกรรมของเราในสังคม จริยธรรมไม่ได้ขึ้นอยู่กับกฎหมาย แต่ขึ้นอยู่กับบรรทัดฐานที่ยอมรับกันอย่างกว้างขวางว่าอะไรคือ "ถูกหรือผิด" อย่างไรก็ตาม การพิจารณาด้านจริยธรรมสามารถมีอิทธิพลต่อการกำกับดูแลขององค์กรและกฎระเบียบของรัฐบาลที่สร้างแรงจูงใจให้ปฏิบัติตามมากขึ้น +**จริยธรรม** คือค่านิยมร่วมและหลักการทางศีลธรรมที่กำหนดพฤติกรรมของเราในสังคม จริยธรรมไม่ได้ขึ้นอยู่กับกฎหมาย แต่ขึ้นอยู่กับบรรทัดฐานที่ได้รับการยอมรับอย่างกว้างขวางว่าอะไรคือ "ถูก vs. ผิด" อย่างไรก็ตาม การพิจารณาด้านจริยธรรมสามารถมีอิทธิพลต่อการริเริ่มการกำกับดูแลองค์กรและกฎระเบียบของรัฐบาลที่สร้างแรงจูงใจเพิ่มเติมสำหรับการปฏิบัติตาม -**จริยธรรมข้อมูล** เป็น [สาขาใหม่ของจริยธรรม](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ที่ "ศึกษาและประเมินปัญหาทางศีลธรรมที่เกี่ยวข้องกับ _ข้อมูล อัลกอริทึม และการปฏิบัติที่เกี่ยวข้อง_" ในที่นี้ **"ข้อมูล"** มุ่งเน้นไปที่การกระทำที่เกี่ยวข้องกับการสร้าง การบันทึก การดูแล การประมวลผล การเผยแพร่ การแบ่งปัน และการใช้งาน **"อัลกอริทึม"** มุ่งเน้นไปที่ AI ตัวแทน การเรียนรู้ของเครื่อง และหุ่นยนต์ และ **"การปฏิบัติ"** มุ่งเน้นไปที่หัวข้อต่างๆ เช่น นวัตกรรมที่รับผิดชอบ การเขียนโปรแกรม การแฮ็ก และจรรยาบรรณ +**จริยธรรมข้อมูล** เป็น [สาขาใหม่ของจริยธรรม](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ที่ "ศึกษาและประเมินปัญหาทางศีลธรรมที่เกี่ยวข้องกับ _ข้อมูล อัลกอริทึม และการปฏิบัติที่เกี่ยวข้อง_" ในที่นี้ **"ข้อมูล"** มุ่งเน้นไปที่การกระทำที่เกี่ยวข้องกับการสร้าง การบันทึก การดูแล การประมวลผล การเผยแพร่ การแบ่งปัน และการใช้งาน **"อัลกอริทึม"** มุ่งเน้นไปที่ AI ตัวแทน การเรียนรู้ของเครื่อง และหุ่นยนต์ และ **"การปฏิบัติ"** มุ่งเน้นไปที่หัวข้อต่างๆ เช่น นวัตกรรมที่รับผิดชอบ การเขียนโปรแกรม การแฮ็ก และรหัสจริยธรรม -**จริยธรรมประยุกต์** คือ [การประยุกต์ใช้ข้อพิจารณาทางศีลธรรมในทางปฏิบัติ](https://en.wikipedia.org/wiki/Applied_ethics) เป็นกระบวนการตรวจสอบปัญหาด้านจริยธรรมในบริบทของ _การกระทำ ผลิตภัณฑ์ และกระบวนการในโลกแห่งความเป็นจริง_ และดำเนินการแก้ไขเพื่อให้สิ่งเหล่านี้ยังคงสอดคล้องกับค่านิยมทางจริยธรรมที่กำหนดไว้ +**จริยธรรมประยุกต์** คือ [การประยุกต์ใช้การพิจารณาทางศีลธรรมในทางปฏิบัติ](https://en.wikipedia.org/wiki/Applied_ethics) เป็นกระบวนการตรวจสอบปัญหาด้านจริยธรรมอย่างแข็งขันในบริบทของ _การกระทำ ผลิตภัณฑ์ และกระบวนการในโลกแห่งความเป็นจริง_ และดำเนินการแก้ไขเพื่อให้แน่ใจว่าสิ่งเหล่านี้ยังคงสอดคล้องกับค่านิยมทางจริยธรรมที่กำหนดไว้ -**วัฒนธรรมจริยธรรม** เกี่ยวกับ [_การทำให้จริยธรรมประยุกต์เป็นรูปธรรม_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) เพื่อให้แน่ใจว่าหลักการและการปฏิบัติด้านจริยธรรมของเราได้รับการนำไปใช้อย่างสม่ำเสมอและขยายขอบเขตได้ทั่วทั้งองค์กร วัฒนธรรมจริยธรรมที่ประสบความสำเร็จจะกำหนดหลักการจริยธรรมทั่วทั้งองค์กร ให้แรงจูงใจที่มีความหมายสำหรับการปฏิบัติตาม และเสริมสร้างบรรทัดฐานด้านจริยธรรมโดยการสนับสนุนและขยายพฤติกรรมที่พึงประสงค์ในทุกระดับขององค์กร +**วัฒนธรรมจริยธรรม** คือการ [_ทำให้จริยธรรมประยุกต์เป็นรูปธรรม_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) เพื่อให้แน่ใจว่าหลักการและการปฏิบัติทางจริยธรรมของเราได้รับการนำไปใช้อย่างสม่ำเสมอและขยายได้ทั่วทั้งองค์กร วัฒนธรรมจริยธรรมที่ประสบความสำเร็จจะกำหนดหลักการทางจริยธรรมทั่วทั้งองค์กร ให้แรงจูงใจที่มีความหมายสำหรับการปฏิบัติตาม และเสริมสร้างบรรทัดฐานทางจริยธรรมโดยการสนับสนุนและขยายพฤติกรรมที่ต้องการในทุกระดับขององค์กร ## แนวคิดด้านจริยธรรม -ในส่วนนี้ เราจะพูดถึงแนวคิดต่างๆ เช่น **ค่านิยมร่วมกัน** (หลักการ) และ **ความท้าทายด้านจริยธรรม** (ปัญหา) สำหรับจริยธรรมข้อมูล - และสำรวจ **กรณีศึกษา** ที่ช่วยให้คุณเข้าใจแนวคิดเหล่านี้ในบริบทของโลกแห่งความเป็นจริง +ในส่วนนี้ เราจะพูดถึงแนวคิด เช่น **ค่านิยมร่วม** (หลักการ) และ **ความท้าทายด้านจริยธรรม** (ปัญหา) สำหรับจริยธรรมข้อมูล และสำรวจ **กรณีศึกษา** ที่ช่วยให้คุณเข้าใจแนวคิดเหล่านี้ในบริบทของโลกแห่งความเป็นจริง ### 1. หลักการด้านจริยธรรม -กลยุทธ์จริยธรรมข้อมูลทุกกลยุทธ์เริ่มต้นด้วยการกำหนด _หลักการด้านจริยธรรม_ - "ค่านิยมร่วมกัน" ที่อธิบายพฤติกรรมที่ยอมรับได้ และชี้นำการกระทำที่สอดคล้องกันในโครงการข้อมูลและ AI ของเรา คุณสามารถกำหนดสิ่งเหล่านี้ในระดับบุคคลหรือทีม อย่างไรก็ตาม องค์กรขนาดใหญ่มักจะกำหนดสิ่งเหล่านี้ในแถลงการณ์พันธกิจหรือกรอบงาน _AI ที่มีจริยธรรม_ ซึ่งกำหนดในระดับองค์กรและบังคับใช้อย่างสม่ำเสมอในทุกทีม +กลยุทธ์จริยธรรมข้อมูลทุกอย่างเริ่มต้นด้วยการกำหนด _หลักการด้านจริยธรรม_ - "ค่านิยมร่วม" ที่อธิบายพฤติกรรมที่ยอมรับได้ และชี้นำการกระทำที่สอดคล้อง ในโครงการข้อมูลและ AI ของเรา คุณสามารถกำหนดสิ่งเหล่านี้ในระดับบุคคลหรือทีม อย่างไรก็ตาม องค์กรขนาดใหญ่มักจะกำหนดสิ่งเหล่านี้ในแถลงการณ์พันธกิจ AI ด้านจริยธรรม หรือกรอบงานที่กำหนดในระดับองค์กรและบังคับใช้อย่างสม่ำเสมอในทุกทีม -**ตัวอย่าง:** แถลงการณ์พันธกิจ [AI ที่รับผิดชอบ](https://www.microsoft.com/en-us/ai/responsible-ai) ของ Microsoft ระบุว่า: _"เรามุ่งมั่นที่จะพัฒนา AI โดยยึดหลักจริยธรรมที่ให้ความสำคัญกับผู้คนเป็นอันดับแรก"_ - โดยระบุหลักการจริยธรรม 6 ข้อในกรอบงานด้านล่าง: +**ตัวอย่าง:** แถลงการณ์พันธกิจ [AI ที่รับผิดชอบ](https://www.microsoft.com/en-us/ai/responsible-ai) ของ Microsoft อ่านว่า: _"เรามุ่งมั่นที่จะพัฒนา AI ที่ขับเคลื่อนด้วยหลักการทางจริยธรรมที่ให้ความสำคัญกับผู้คนเป็นอันดับแรก"_ - โดยระบุหลักการทางจริยธรรม 6 ข้อในกรอบงานด้านล่าง: ![AI ที่รับผิดชอบของ Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -มาสำรวจหลักการเหล่านี้กันสั้นๆ _ความโปร่งใส_ และ _ความรับผิดชอบ_ เป็นค่านิยมพื้นฐานที่หลักการอื่นๆ สร้างขึ้น - ดังนั้นเรามาเริ่มต้นที่นี่: +ลองสำรวจหลักการเหล่านี้กัน _ความโปร่งใส_ และ _ความรับผิดชอบ_ เป็นค่านิยมพื้นฐานที่หลักการอื่นๆ สร้างขึ้น - ดังนั้นเรามาเริ่มต้นที่นี่: -* [**ความรับผิดชอบ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ทำให้ผู้ปฏิบัติงาน _รับผิดชอบ_ ต่อการดำเนินงานด้านข้อมูลและ AI ของพวกเขา และการปฏิบัติตามหลักการจริยธรรมเหล่านี้ -* [**ความโปร่งใส**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ทำให้มั่นใจว่าการกระทำด้านข้อมูลและ AI นั้น _เข้าใจได้_ (ตีความได้) สำหรับผู้ใช้ โดยอธิบายว่าอะไรและทำไมเบื้องหลังการตัดสินใจ -* [**ความยุติธรรม**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - มุ่งเน้นไปที่การทำให้มั่นใจว่า AI ปฏิบัติต่อ _ทุกคน_ อย่างยุติธรรม โดยจัดการกับอคติทางสังคม-เทคนิคที่เป็นระบบหรือโดยนัยในข้อมูลและระบบ -* [**ความน่าเชื่อถือและความปลอดภัย**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ทำให้มั่นใจว่า AI มีพฤติกรรม _สอดคล้อง_ กับค่านิยมที่กำหนดไว้ ลดอันตรายที่อาจเกิดขึ้นหรือผลกระทบที่ไม่ได้ตั้งใจ -* [**ความเป็นส่วนตัวและความปลอดภัย**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - เกี่ยวกับการทำความเข้าใจแหล่งที่มาของข้อมูล และให้ _ความเป็นส่วนตัวของข้อมูลและการป้องกันที่เกี่ยวข้อง_ แก่ผู้ใช้ -* [**การมีส่วนร่วม**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - เกี่ยวกับการออกแบบโซลูชัน AI ด้วยความตั้งใจ ปรับให้เหมาะสมเพื่อตอบสนอง _ความต้องการและความสามารถของมนุษย์ที่หลากหลาย_ +* [**ความรับผิดชอบ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ทำให้ผู้ปฏิบัติงาน _รับผิดชอบ_ ต่อการดำเนินงานด้านข้อมูลและ AI ของพวกเขา และการปฏิบัติตามหลักการทางจริยธรรมเหล่านี้ +* [**ความโปร่งใส**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) ทำให้การกระทำด้านข้อมูลและ AI _เข้าใจได้_ (ตีความได้) สำหรับผู้ใช้ โดยอธิบายว่าอะไรและทำไมเบื้องหลังการตัดสินใจ +* [**ความเป็นธรรม**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - มุ่งเน้นไปที่การทำให้ AI ปฏิบัติต่อ _ทุกคน_ อย่างเป็นธรรม โดยแก้ไขอคติทางสังคม-เทคนิคที่เป็นระบบหรือโดยนัยในข้อมูลและระบบ +* [**ความน่าเชื่อถือและความปลอดภัย**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ทำให้ AI มีพฤติกรรม _สอดคล้อง_ กับค่านิยมที่กำหนด ลดอันตรายที่อาจเกิดขึ้นหรือผลกระทบที่ไม่ได้ตั้งใจ +* [**ความเป็นส่วนตัวและความปลอดภัย**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - เกี่ยวกับการทำความเข้าใจสายข้อมูล และให้ _ความเป็นส่วนตัวของข้อมูลและการปกป้องที่เกี่ยวข้อง_ แก่ผู้ใช้ +* [**การมีส่วนร่วม**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - เกี่ยวกับการออกแบบโซลูชัน AI ด้วยความตั้งใจ ปรับให้เหมาะสมกับ _ความต้องการและความสามารถของมนุษย์ที่หลากหลาย_ -> 🚨 ลองคิดดูว่าแถลงการณ์พันธกิจจริยธรรมข้อมูลของคุณจะเป็นอย่างไร สำรวจกรอบงาน AI ที่มีจริยธรรมจากองค์กรอื่นๆ - นี่คือตัวอย่างจาก [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), และ [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) ค่านิยมร่วมกันที่พวกเขามีเหมือนกันคืออะไร? หลักการเหล่านี้เกี่ยวข้องกับผลิตภัณฑ์ AI หรืออุตสาหกรรมที่พวกเขาดำเนินการอย่างไร? +> 🚨 ลองคิดดูว่าคำแถลงพันธกิจจริยธรรมข้อมูลของคุณจะเป็นอย่างไร สำรวจกรอบงาน AI ด้านจริยธรรมจากองค์กรอื่นๆ - นี่คือตัวอย่างจาก [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), และ [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) ค่านิยมร่วมที่พวกเขามีเหมือนกันคืออะไร? หลักการเหล่านี้เกี่ยวข้องกับผลิตภัณฑ์ AI หรืออุตสาหกรรมที่พวกเขาดำเนินการอย่างไร? ### 2. ความท้าทายด้านจริยธรรม -เมื่อเรากำหนดหลักการจริยธรรมแล้ว ขั้นตอนต่อไปคือการประเมินการกระทำด้านข้อมูลและ AI ของเราเพื่อดูว่าพวกมันสอดคล้องกับค่านิยมร่วมกันเหล่านั้นหรือไม่ ลองคิดถึงการกระทำของคุณในสองหมวดหมู่: _การเก็บรวบรวมข้อมูล_ และ _การออกแบบอัลกอริทึม_ +เมื่อเรากำหนดหลักการทางจริยธรรมแล้ว ขั้นตอนต่อไปคือการประเมินการกระทำด้านข้อมูลและ AI ของเราเพื่อดูว่ามันสอดคล้องกับค่านิยมร่วมเหล่านั้นหรือไม่ ลองคิดถึงการกระทำของคุณในสองหมวดหมู่: _การเก็บรวบรวมข้อมูล_ และ _การออกแบบอัลกอริทึม_ -ในการเก็บรวบรวมข้อมูล การกระทำมักจะเกี่ยวข้องกับ **ข้อมูลส่วนบุคคล** หรือข้อมูลที่สามารถระบุตัวบุคคลได้ (PII) สำหรับบุคคลที่สามารถระบุตัวตนได้ ซึ่งรวมถึง [รายการข้อมูลที่ไม่ใช่ส่วนบุคคลที่หลากหลาย](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) ที่ _รวมกัน_ สามารถระบุตัวบุคคลได้ ความท้าทายด้านจริยธรรมอาจเกี่ยวข้องกับ _ความเป็นส่วนตัวของข้อมูล_ _การเป็นเจ้าของข้อมูล_ และหัวข้อที่เกี่ยวข้อง เช่น _การยินยอมที่ได้รับการแจ้ง_ และ _สิทธิในทรัพย์สินทางปัญญา_ ของผู้ใช้ +ในการเก็บรวบรวมข้อมูล การกระทำมักจะเกี่ยวข้องกับ **ข้อมูลส่วนบุคคล** หรือข้อมูลที่สามารถระบุตัวบุคคลได้ (PII) สำหรับบุคคลที่สามารถระบุตัวตนได้ ซึ่งรวมถึง [รายการข้อมูลที่ไม่ใช่ข้อมูลส่วนบุคคลที่หลากหลาย](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) ที่ _รวมกัน_ สามารถระบุตัวบุคคลได้ ความท้าทายด้านจริยธรรมอาจเกี่ยวข้องกับ _ความเป็นส่วนตัวของข้อมูล_ _การเป็นเจ้าของข้อมูล_ และหัวข้อที่เกี่ยวข้อง เช่น _การยินยอมที่ได้รับการแจ้ง_ และ _สิทธิ์ในทรัพย์สินทางปัญญา_ สำหรับผู้ใช้ -ในการออกแบบอัลกอริทึม การกระทำจะเกี่ยวข้องกับการเก็บรวบรวมและดูแล **ชุดข้อมูล** จากนั้นใช้ชุดข้อมูลเหล่านี้เพื่อฝึกอบรมและปรับใช้ **โมเดลข้อมูล** ที่คาดการณ์ผลลัพธ์หรือทำการตัดสินใจอัตโนมัติในบริบทของโลกแห่งความเป็นจริง ความท้าทายด้านจริยธรรมอาจเกิดจาก _อคติในชุดข้อมูล_ _ปัญหาคุณภาพของข้อมูล_ _ความไม่ยุติธรรม_ และ _การบิดเบือน_ ในอัลกอริทึม - รวมถึงปัญหาบางอย่างที่เป็นระบบ +ในการออกแบบอัลกอริทึม การกระทำจะเกี่ยวข้องกับการเก็บรวบรวมและดูแล **ชุดข้อมูล** จากนั้นใช้ชุดข้อมูลเหล่านั้นเพื่อฝึกและปรับใช้ **โมเดลข้อมูล** ที่คาดการณ์ผลลัพธ์หรือทำการตัดสินใจอัตโนมัติในบริบทของโลกแห่งความเป็นจริง ความท้าทายด้านจริยธรรมอาจเกิดจาก _อคติในชุดข้อมูล_ _ปัญหาคุณภาพของข้อมูล_ _ความไม่เป็นธรรม_ และ _การบิดเบือน_ ในอัลกอริทึม - รวมถึงปัญหาบางอย่างที่เป็นระบบในธรรมชาติ -ในทั้งสองกรณี ความท้าทายด้านจริยธรรมเน้นพื้นที่ที่การกระทำของเราอาจขัดแย้งกับค่านิยมร่วมกันของเรา เพื่อที่จะตรวจจับ บรรเทา ลด หรือกำจัดข้อกังวลเหล่านี้ - เราจำเป็นต้องตั้งคำถามทางศีลธรรม "ใช่/ไม่ใช่" ที่เกี่ยวข้องกับการกระทำของเรา จากนั้นดำเนินการแก้ไขตามความจำเป็น มาดูความท้าทายด้านจริยธรรมบางประการและคำถามทางศีลธรรมที่พวกมันก่อให้เกิด: +ในทั้งสองกรณี ความท้าทายด้านจริยธรรมเน้นพื้นที่ที่การกระทำของเราอาจขัดแย้งกับค่านิยมร่วมของเรา เพื่อที่จะตรวจจับ ลดผลกระทบ ลด หรือกำจัดข้อกังวลเหล่านี้ - เราจำเป็นต้องตั้งคำถามทางศีลธรรม "ใช่/ไม่ใช่" ที่เกี่ยวข้องกับการกระทำของเรา จากนั้นดำเนินการแก้ไขตามความจำเป็น ลองมาดูความท้าทายด้านจริยธรรมบางประการและคำถามทางศีลธรรมที่พวกเขาเรียกร้อง: #### 2.1 การเป็นเจ้าของข้อมูล -การเก็บรวบรวมข้อมูลมักเกี่ยวข้องกับข้อมูลส่วนบุคคลที่สามารถระบุตัวตนของเจ้าของข้อมูลได้ [การเป็นเจ้าของข้อมูล](https://permission.io/blog/data-ownership) หมายถึง _การควบคุม_ และ [_สิทธิของผู้ใช้_](https://permission.io/blog/data-ownership) ที่เกี่ยวข้องกับการสร้าง การประมวลผล และการเผยแพร่ข้อมูล +การเก็บรวบรวมข้อมูลมักเกี่ยวข้องกับข้อมูลส่วนบุคคลที่สามารถระบุตัวตนของผู้ให้ข้อมูล [การเป็นเจ้าของข้อมูล](https://permission.io/blog/data-ownership) เกี่ยวกับ _การควบคุม_ และ [_สิทธิ์ของผู้ใช้_](https://permission.io/blog/data-ownership) ที่เกี่ยวข้องกับการสร้าง การประมวลผล และการเผยแพร่ข้อมูล คำถามทางศีลธรรมที่เราต้องถามคือ: * ใครเป็นเจ้าของข้อมูล? (ผู้ใช้หรือองค์กร) - * เจ้าของข้อมูลมีสิทธิอะไรบ้าง? (เช่น การเข้าถึง การลบ การพกพา) - * องค์กรมีสิทธิอะไรบ้าง? (เช่น การแก้ไขรีวิวที่เป็นอันตราย) + * ผู้ให้ข้อมูลมีสิทธิ์อะไรบ้าง? (เช่น การเข้าถึง การลบ การพกพา) + * องค์กรมีสิทธิ์อะไรบ้าง? (เช่น การแก้ไขรีวิวผู้ใช้ที่เป็นอันตราย) #### 2.2 การยินยอมที่ได้รับการแจ้ง -[การยินยอมที่ได้รับการแจ้ง](https://legaldictionary.net/informed-consent/) หมายถึงการกระทำที่ผู้ใช้ยอมรับการกระทำ (เช่น การเก็บข้อมูล) โดยมี _ความเข้าใจอย่างเต็มที่_ เกี่ยวกับข้อเท็จจริงที่เกี่ยวข้อง รวมถึงวัตถุประสงค์ ความเสี่ยงที่อาจเกิดขึ้น และทางเลือกอื่นๆ +[การยินยอมที่ได้รับการแจ้ง](https://legaldictionary.net/informed-consent/) หมายถึงการกระทำที่ผู้ใช้ตกลงที่จะดำเนินการ (เช่น การเก็บข้อมูล) โดยมี _ความเข้าใจอย่างเต็มที่_ เกี่ยวกับข้อเท็จจริงที่เกี่ยวข้อง รวมถึงวัตถุประสงค์ ความเสี่ยงที่อาจเกิดขึ้น และทางเลือกอื่นๆ -คำถามที่ควรสำรวจในที่นี้คือ: - * ผู้ใช้ (เจ้าของข้อมูล) ให้อนุญาตสำหรับการเก็บและการใช้ข้อมูลหรือไม่? - * ผู้ใช้เข้าใจวัตถุประสงค์ที่เก็บข้อมูลหรือไม่? +คำถามที่ต้องสำรวจในที่นี้คือ: + * ผู้ใช้ (ผู้ให้ข้อมูล) ให้อนุญาตสำหรับการเก็บและการใช้ข้อมูลหรือไม่? + * ผู้ใช้เข้าใจวัตถุประสงค์ที่ข้อมูลนั้นถูกเก็บหรือไม่? * ผู้ใช้เข้าใจความเสี่ยงที่อาจเกิดขึ้นจากการมีส่วนร่วมของพวกเขาหรือไม่? #### 2.3 ทรัพย์สินทางปัญญา [ทรัพย์สินทางปัญญา](https://en.wikipedia.org/wiki/Intellectual_property) หมายถึงการสร้างสรรค์ที่จับต้องไม่ได้ซึ่งเกิดจากความคิดริเริ่มของมนุษย์ ซึ่งอาจ _มีมูลค่าทางเศรษฐกิจ_ ต่อบุคคลหรือธุรกิจ -คำถามที่ควรสำรวจในที่นี้คือ: +คำถามที่ต้องสำรวจในที่นี้คือ: * ข้อมูลที่เก็บรวบรวมมีมูลค่าทางเศรษฐกิจต่อผู้ใช้หรือธุรกิจหรือไม่? * **ผู้ใช้** มีทรัพย์สินทางปัญญาในที่นี้หรือไม่? * **องค์กร** มีทรัพย์สินทางปัญญาในที่นี้หรือไม่? - * หากสิทธิ์เหล่านี้มีอยู่ เราปกป้องสิทธิ์เหล่านี้อย่างไร? + * หากสิทธิ์เหล่านี้มีอยู่ เรากำลังปกป้องสิทธิ์เหล่านี้อย่างไร? #### 2.4 ความเป็นส่วนตัวของข้อมูล -[ความเป็นส่วนตัวของข้อมูล](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) หรือความเป็นส่วนตัวของข้อมูลหมายถึงการรักษาความเป็นส่วนตัวของผู้ใช้และการปกป้องตัวตนของผู้ใช้เกี่ยวกับข้อมูลที่สามารถระบุตัวบุคคลได้ +[ความเป็นส่วนตัวของข้อมูล](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) หรือความเป็นส่วนตัวของข้อมูลหมายถึงการรักษาความเป็นส่วนตัวของผู้ใช้และการปกป้องตัวตนของผู้ใช้เกี่ยวกับข้อมูลที่สามารถระบุตัวตนได้ -คำถามที่ควรสำรวจในที่นี้คือ: - * ข้อมูลส่วนบุคคลของผู้ใช้ปลอดภัยจากการแฮ็กและการรั่วไหลหรือไม่? - * ข้อมูลของผู้ใช้สามารถเข้าถึงได้เฉพาะผู้ใช้ที่ได้รับอนุญาตและบริบทที่เหมาะสมหรือไม่? - * การไม่ระบุตัวตนของผู้ใช้ได้รับการรักษาไว้เมื่อมีการแบ่งปัน -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) คือการตรวจสอบว่า การออกแบบอัลกอริทึมมีการเลือกปฏิบัติต่อกลุ่มย่อยของข้อมูลอย่างเป็นระบบหรือไม่ ซึ่งอาจนำไปสู่ [ผลกระทบที่อาจเกิดขึ้น](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ในเรื่องของ _การจัดสรรทรัพยากร_ (ที่ทรัพยากรถูกปฏิเสธหรือถูกระงับจากกลุ่มนั้น) และ _คุณภาพของบริการ_ (ที่ AI มีความแม่นยำไม่เท่ากันสำหรับกลุ่มย่อยต่าง ๆ) +คำถามที่ต้องสำรวจในที่นี้คือ: + * ข้อมูลส่วนบุคคลของผู้ใช้ได้รับการปกป้องจากการแฮ็กและการรั่วไหลหรือไม่? + * ข้อมูลของผู้ใช้สามารถเข้าถึงได้เฉพาะผู้ใช้ที่ได้รับอนุญาตและบริบทที่ได้รับอนุญาตหรือไม่? + * การไม่เปิดเผยตัวตนของผู้ใช้ได้รับการรักษาไว้เมื่อข้อมูลถูกแบ่งปันหรือเผยแพร่หรือไม่? + * ผู้ใช้สามารถถูกลบออกจากชุดข้อมูลที่ไม่ระบุตัวตนได้หรือไม่ +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) คือการตรวจสอบว่า การออกแบบอัลกอริทึมมีการเลือกปฏิบัติต่อกลุ่มย่อยเฉพาะของข้อมูลหรือไม่ ซึ่งอาจนำไปสู่ [ผลกระทบที่อาจเกิดขึ้น](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ในเรื่อง _การจัดสรรทรัพยากร_ (ที่ทรัพยากรถูกปฏิเสธหรือไม่ถูกมอบให้กับกลุ่มนั้น) และ _คุณภาพของบริการ_ (ที่ AI มีความแม่นยำไม่เท่ากันสำหรับกลุ่มย่อยต่าง ๆ) คำถามที่ควรพิจารณา: * เราได้ประเมินความแม่นยำของโมเดลสำหรับกลุ่มย่อยและเงื่อนไขที่หลากหลายหรือไม่? @@ -127,12 +128,12 @@ CO_OP_TRANSLATOR_METADATA: คำถามที่ควรพิจารณา: * เรากำลังรายงานข้อมูลที่ไม่ครบถ้วนหรือไม่ถูกต้องหรือไม่? - * เรากำลังแสดงข้อมูลในลักษณะที่นำไปสู่ข้อสรุปที่ทำให้เข้าใจผิดหรือไม่? - * เรากำลังใช้เทคนิคทางสถิติที่เลือกสรรเพื่อปรับเปลี่ยนผลลัพธ์หรือไม่? + * เรากำลังแสดงภาพข้อมูลในลักษณะที่นำไปสู่ข้อสรุปที่ผิดพลาดหรือไม่? + * เรากำลังใช้เทคนิคทางสถิติที่เลือกเฉพาะเพื่อปรับเปลี่ยนผลลัพธ์หรือไม่? * มีคำอธิบายทางเลือกอื่นที่อาจนำไปสู่ข้อสรุปที่แตกต่างหรือไม่? #### 2.10 การเลือกอย่างอิสระ -[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) เกิดขึ้นเมื่อ "สถาปัตยกรรมการเลือก" ของระบบใช้อัลกอริทึมการตัดสินใจเพื่อชักจูงให้ผู้คนเลือกผลลัพธ์ที่ต้องการ ในขณะที่ดูเหมือนว่าพวกเขามีตัวเลือกและการควบคุม [รูปแบบมืด](https://www.darkpatterns.org/) เหล่านี้สามารถก่อให้เกิดผลกระทบทางสังคมและเศรษฐกิจต่อผู้ใช้ เนื่องจากการตัดสินใจของผู้ใช้ส่งผลต่อโปรไฟล์พฤติกรรม การกระทำเหล่านี้อาจผลักดันการเลือกในอนาคตที่ขยายผลกระทบของความเสียหายเหล่านี้ +[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) เกิดขึ้นเมื่อ "สถาปัตยกรรมการเลือก" ของระบบใช้อัลกอริทึมการตัดสินใจเพื่อชักจูงให้ผู้คนเลือกผลลัพธ์ที่ต้องการ ในขณะที่ดูเหมือนว่าพวกเขามีตัวเลือกและการควบคุม สิ่งเหล่านี้เรียกว่า [dark patterns](https://www.darkpatterns.org/) ซึ่งอาจก่อให้เกิดผลกระทบทางสังคมและเศรษฐกิจต่อผู้ใช้ การตัดสินใจของผู้ใช้ส่งผลต่อโปรไฟล์พฤติกรรม ซึ่งอาจขับเคลื่อนการเลือกในอนาคตและขยายผลกระทบของความเสียหายเหล่านี้ คำถามที่ควรพิจารณา: * ผู้ใช้เข้าใจผลกระทบของการเลือกนั้นหรือไม่? @@ -141,26 +142,26 @@ CO_OP_TRANSLATOR_METADATA: ### 3. กรณีศึกษา -เพื่อให้เข้าใจความท้าทายด้านจริยธรรมในบริบทของโลกจริง การศึกษากรณีที่แสดงให้เห็นถึงผลกระทบและผลลัพธ์ที่อาจเกิดขึ้นต่อบุคคลและสังคมเมื่อการละเมิดจริยธรรมถูกมองข้ามจะช่วยได้ +เพื่อทำความเข้าใจความท้าทายด้านจริยธรรมในบริบทของโลกจริง การศึกษากรณีที่แสดงให้เห็นถึงผลกระทบและผลลัพธ์ที่อาจเกิดขึ้นต่อบุคคลและสังคมเมื่อการละเมิดจริยธรรมถูกมองข้ามจะช่วยได้ ตัวอย่างบางส่วน: | ความท้าทายด้านจริยธรรม | กรณีศึกษา | |--- |--- | | **การยินยอมโดยได้รับข้อมูล** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - ผู้ชายชาวแอฟริกันอเมริกันที่เข้าร่วมการศึกษานี้ได้รับสัญญาว่าจะได้รับการดูแลทางการแพทย์ฟรี _แต่ถูกหลอกลวง_ โดยนักวิจัยที่ไม่แจ้งให้ทราบถึงการวินิจฉัยหรือการรักษาที่มีอยู่ ผู้เข้าร่วมหลายคนเสียชีวิต และคู่สมรสหรือบุตรได้รับผลกระทบ การศึกษานี้ดำเนินไปเป็นเวลา 40 ปี | -| **ความเป็นส่วนตัวของข้อมูล** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) ให้ข้อมูลการจัดอันดับภาพยนตร์ที่ไม่ระบุตัวตนจำนวน _10 ล้านรายการจากลูกค้า 50,000 คน_ เพื่อช่วยปรับปรุงอัลกอริทึมการแนะนำ อย่างไรก็ตาม นักวิจัยสามารถเชื่อมโยงข้อมูลที่ไม่ระบุตัวตนกับข้อมูลที่สามารถระบุตัวตนได้ใน _ชุดข้อมูลภายนอก_ (เช่น ความคิดเห็นใน IMDb) ซึ่งทำให้สามารถ "ระบุตัวตน" ผู้ใช้ Netflix บางคนได้ | -| **อคติในการเก็บข้อมูล** | 2013 - เมืองบอสตัน [พัฒนา Street Bump](https://www.boston.gov/transportation/street-bump) แอปที่ให้พลเมืองรายงานหลุมบ่อ เพื่อให้เมืองมีข้อมูลถนนที่ดีขึ้นในการแก้ไขปัญหา อย่างไรก็ตาม [ผู้คนในกลุ่มรายได้ต่ำมีการเข้าถึงรถยนต์และโทรศัพท์น้อยกว่า](https://hbr.org/2013/04/the-hidden-biases-in-big-data) ทำให้ปัญหาถนนของพวกเขาไม่ปรากฏในแอปนี้ นักพัฒนาร่วมมือกับนักวิชาการเพื่อแก้ไขปัญหา _การเข้าถึงที่เท่าเทียมและช่องว่างทางดิจิทัล_ เพื่อความเป็นธรรม | -| **ความเป็นธรรมของอัลกอริทึม** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ประเมินความแม่นยำของผลิตภัณฑ์ AI ที่จำแนกเพศ เผยให้เห็นช่องว่างในความแม่นยำสำหรับผู้หญิงและคนผิวสี [Apple Card ปี 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ดูเหมือนจะให้เครดิตน้อยกว่ากับผู้หญิงเมื่อเทียบกับผู้ชาย ทั้งสองกรณีแสดงให้เห็นถึงปัญหาอคติในอัลกอริทึมที่นำไปสู่ผลกระทบทางเศรษฐกิจและสังคม | -| **การบิดเบือนข้อมูล** | 2020 - [กรมสาธารณสุขจอร์เจียเผยแพร่แผนภูมิ COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ที่ดูเหมือนจะทำให้ประชาชนเข้าใจผิดเกี่ยวกับแนวโน้มของจำนวนผู้ป่วยที่ได้รับการยืนยัน โดยการจัดลำดับแกน x ที่ไม่เป็นไปตามลำดับเวลา ซึ่งแสดงให้เห็นถึงการบิดเบือนผ่านเทคนิคการแสดงภาพ | -| **ภาพลวงตาของการเลือกอย่างอิสระ** | 2020 - แอปการเรียนรู้ [ABCmouse จ่ายเงิน 10 ล้านดอลลาร์เพื่อยุติข้อร้องเรียนของ FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ที่ผู้ปกครองถูกบังคับให้จ่ายเงินสำหรับการสมัครสมาชิกที่ไม่สามารถยกเลิกได้ ซึ่งแสดงให้เห็นถึงรูปแบบมืดในสถาปัตยกรรมการเลือก ที่ผู้ใช้ถูกชักจูงไปสู่การเลือกที่อาจเป็นอันตราย | -| **ความเป็นส่วนตัวของข้อมูลและสิทธิของผู้ใช้** | 2021 - [การละเมิดข้อมูล Facebook](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) เปิดเผยข้อมูลจากผู้ใช้ 530 ล้านคน ส่งผลให้มีการยุติคดีด้วยเงิน 5 พันล้านดอลลาร์กับ FTC อย่างไรก็ตาม Facebook ปฏิเสธที่จะแจ้งเตือนผู้ใช้เกี่ยวกับการละเมิด ซึ่งเป็นการละเมิดสิทธิของผู้ใช้เกี่ยวกับความโปร่งใสและการเข้าถึงข้อมูล | +| **ความเป็นส่วนตัวของข้อมูล** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) มอบข้อมูลการจัดอันดับภาพยนตร์ที่ไม่ระบุตัวตนจำนวน _10 ล้านรายการจากลูกค้า 50,000 คน_ ให้กับนักวิจัยเพื่อปรับปรุงอัลกอริทึมการแนะนำ อย่างไรก็ตาม นักวิจัยสามารถเชื่อมโยงข้อมูลที่ไม่ระบุตัวตนกับข้อมูลที่สามารถระบุตัวตนได้ใน _ชุดข้อมูลภายนอก_ (เช่น ความคิดเห็นใน IMDb) ซึ่งทำให้สามารถ "ระบุตัวตน" ของสมาชิก Netflix บางคนได้ | +| **อคติในการเก็บข้อมูล** | 2013 - เมืองบอสตัน [พัฒนา Street Bump](https://www.boston.gov/transportation/street-bump) แอปที่ให้พลเมืองรายงานหลุมบ่อ เพื่อให้เมืองมีข้อมูลถนนที่ดีขึ้นในการแก้ไขปัญหา อย่างไรก็ตาม [ผู้คนในกลุ่มรายได้ต่ำมีการเข้าถึงรถยนต์และโทรศัพท์น้อยกว่า](https://hbr.org/2013/04/the-hidden-biases-in-big-data) ทำให้ปัญหาถนนของพวกเขาไม่ปรากฏในแอปนี้ นักพัฒนาได้ทำงานร่วมกับนักวิชาการเพื่อแก้ไขปัญหา _การเข้าถึงที่เท่าเทียมและช่องว่างทางดิจิทัล_ เพื่อความเป็นธรรม | +| **ความเป็นธรรมของอัลกอริทึม** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) ประเมินความแม่นยำของผลิตภัณฑ์ AI ที่จำแนกเพศ โดยเปิดเผยช่องว่างในความแม่นยำสำหรับผู้หญิงและคนผิวสี [Apple Card ปี 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) ดูเหมือนจะให้เครดิตน้อยกว่ากับผู้หญิงเมื่อเทียบกับผู้ชาย ทั้งสองกรณีแสดงให้เห็นถึงปัญหาอคติในอัลกอริทึมที่นำไปสู่ผลกระทบทางเศรษฐกิจและสังคม | +| **การบิดเบือนข้อมูล** | 2020 - [กรมสาธารณสุขจอร์เจียเผยแพร่แผนภูมิ COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ที่ดูเหมือนจะทำให้ประชาชนเข้าใจผิดเกี่ยวกับแนวโน้มของจำนวนผู้ป่วยที่ได้รับการยืนยัน โดยการจัดลำดับแกน x ที่ไม่เป็นไปตามลำดับเวลา ซึ่งแสดงให้เห็นถึงการบิดเบือนผ่านเทคนิคการแสดงภาพ | +| **ภาพลวงตาของการเลือกอย่างอิสระ** | 2020 - แอปการเรียนรู้ [ABCmouse จ่ายเงิน 10 ล้านดอลลาร์เพื่อยุติข้อร้องเรียนของ FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ซึ่งผู้ปกครองถูกบังคับให้จ่ายเงินสำหรับการสมัครสมาชิกที่ไม่สามารถยกเลิกได้ กรณีนี้แสดงให้เห็นถึง dark patterns ในสถาปัตยกรรมการเลือก ที่ผู้ใช้ถูกชักจูงไปสู่การเลือกที่อาจเป็นอันตราย | +| **ความเป็นส่วนตัวของข้อมูลและสิทธิของผู้ใช้** | 2021 - [การละเมิดข้อมูล Facebook](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) เปิดเผยข้อมูลจากผู้ใช้ 530 ล้านคน ส่งผลให้เกิดการยุติคดีมูลค่า 5 พันล้านดอลลาร์กับ FTC อย่างไรก็ตาม Facebook ปฏิเสธที่จะแจ้งผู้ใช้เกี่ยวกับการละเมิด ซึ่งเป็นการละเมิดสิทธิของผู้ใช้เกี่ยวกับความโปร่งใสและการเข้าถึงข้อมูล | ต้องการสำรวจกรณีศึกษาเพิ่มเติม? ลองดูแหล่งข้อมูลเหล่านี้: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - ภาวะที่กลืนไม่เข้าคายไม่ออกด้านจริยธรรมในอุตสาหกรรมต่าง ๆ * [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - กรณีศึกษาสำคัญที่ถูกสำรวจ * [Where things have gone wrong](https://deon.drivendata.org/examples/) - รายการตรวจสอบ Deon พร้อมตัวอย่าง -> 🚨 ลองคิดถึงกรณีศึกษาที่คุณเคยเห็น - คุณเคยประสบหรือได้รับผลกระทบจากความท้าทายด้านจริยธรรมที่คล้ายกันในชีวิตของคุณหรือไม่? คุณสามารถคิดถึงกรณีศึกษาอื่นอย่างน้อยหนึ่งกรณีที่แสดงให้เห็นถึงหนึ่งในความท้าทายด้านจริยธรรมที่เราได้พูดถึงในส่วนนี้หรือไม่? +> 🚨 ลองคิดถึงกรณีศึกษาที่คุณเคยเห็น - คุณเคยประสบหรือได้รับผลกระทบจากความท้าทายด้านจริยธรรมที่คล้ายกันในชีวิตของคุณหรือไม่? คุณสามารถคิดถึงกรณีศึกษาอื่นที่แสดงให้เห็นถึงหนึ่งในความท้าทายด้านจริยธรรมที่เราได้พูดถึงในส่วนนี้ได้หรือไม่? ## จริยธรรมประยุกต์ @@ -168,50 +169,50 @@ CO_OP_TRANSLATOR_METADATA: ### 1. รหัสวิชาชีพ -รหัสวิชาชีพเป็นตัวเลือกหนึ่งสำหรับองค์กรในการ "จูงใจ" สมาชิกให้สนับสนุนหลักการด้านจริยธรรมและพันธกิจขององค์กร รหัสเหล่านี้เป็น _แนวทางทางศีลธรรม_ สำหรับพฤติกรรมวิชาชีพ ช่วยให้พนักงานหรือสมาชิกตัดสินใจที่สอดคล้องกับหลักการขององค์กร รหัสเหล่านี้จะมีประสิทธิภาพเท่ากับการปฏิบัติตามโดยสมัครใจของสมาชิก อย่างไรก็ตาม หลายองค์กรมีรางวัลและบทลงโทษเพิ่มเติมเพื่อกระตุ้นการปฏิบัติตามของสมาชิก +รหัสวิชาชีพเป็นตัวเลือกหนึ่งสำหรับองค์กรในการ "จูงใจ" สมาชิกให้สนับสนุนหลักการด้านจริยธรรมและพันธกิจขององค์กร รหัสเหล่านี้เป็น _แนวทางทางศีลธรรม_ สำหรับพฤติกรรมวิชาชีพ ช่วยให้พนักงานหรือสมาชิกตัดสินใจที่สอดคล้องกับหลักการขององค์กร อย่างไรก็ตาม รหัสเหล่านี้จะมีประสิทธิภาพเท่ากับการปฏิบัติตามโดยสมัครใจจากสมาชิกเท่านั้น หลายองค์กรจึงเสนอรางวัลและบทลงโทษเพิ่มเติมเพื่อกระตุ้นการปฏิบัติตาม ตัวอย่าง: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (สร้างขึ้นในปี 2013) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (ตั้งแต่ปี 1993) -> 🚨 คุณเป็นสมาชิกขององค์กรวิศวกรรมหรือวิทยาศาสตร์ข้อมูลวิชาชีพหรือไม่? สำรวจเว็บไซต์ของพวกเขาเพื่อดูว่าพวกเขากำหนดรหัสจริยธรรมวิชาชีพหรือไม่ สิ่งนี้บอกอะไรเกี่ยวกับหลักการด้านจริยธรรมของพวกเขา? พวกเขา "จูงใจ" สมาชิกให้ปฏิบัติตามรหัสอย่างไร? +> 🚨 คุณเป็นสมาชิกขององค์กรวิศวกรรมหรือวิทยาศาสตร์ข้อมูลวิชาชีพหรือไม่? ลองสำรวจเว็บไซต์ของพวกเขาเพื่อดูว่าพวกเขากำหนดรหัสจริยธรรมวิชาชีพหรือไม่ สิ่งนี้บอกอะไรเกี่ยวกับหลักการด้านจริยธรรมของพวกเขา? พวกเขา "จูงใจ" สมาชิกให้ปฏิบัติตามรหัสอย่างไร? ### 2. รายการตรวจสอบด้านจริยธรรม -ในขณะที่รหัสวิชาชีพกำหนด _พฤติกรรมด้านจริยธรรม_ ที่จำเป็นจากผู้ปฏิบัติงาน แต่ [มีข้อจำกัดที่ทราบกันดี](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ในการบังคับใช้ โดยเฉพาะในโครงการขนาดใหญ่ ผู้เชี่ยวชาญด้านวิทยาศาสตร์ข้อมูลหลายคน [สนับสนุนการใช้รายการตรวจสอบ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ซึ่งสามารถ **เชื่อมโยงหลักการกับแนวปฏิบัติ** ในลักษณะที่กำหนดและนำไปปฏิบัติได้จริงมากขึ้น +ในขณะที่รหัสวิชาชีพกำหนดพฤติกรรม _ด้านจริยธรรม_ ที่จำเป็นจากผู้ปฏิบัติงาน แต่ [มีข้อจำกัดที่ทราบกันดี](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ในการบังคับใช้ โดยเฉพาะในโครงการขนาดใหญ่ ผู้เชี่ยวชาญด้านวิทยาศาสตร์ข้อมูลหลายคน [สนับสนุนการใช้รายการตรวจสอบ](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ซึ่งสามารถ **เชื่อมโยงหลักการกับแนวปฏิบัติ** ในลักษณะที่กำหนดและนำไปปฏิบัติได้ รายการตรวจสอบเปลี่ยนคำถามให้เป็นงาน "ใช่/ไม่ใช่" ที่สามารถนำไปปฏิบัติได้ ทำให้สามารถติดตามได้เป็นส่วนหนึ่งของกระบวนการปล่อยผลิตภัณฑ์มาตรฐาน ตัวอย่าง: * [Deon](https://deon.drivendata.org/) - รายการตรวจสอบจริยธรรมข้อมูลทั่วไปที่สร้างขึ้นจาก [คำแนะนำในอุตสาหกรรม](https://deon.drivendata.org/#checklist-citations) พร้อมเครื่องมือบรรทัดคำสั่งสำหรับการผสานรวมที่ง่ายดาย - * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - ให้คำแนะนำทั่วไปสำหรับแนวปฏิบัติในการจัดการข้อมูลจากมุมมองทางกฎหมายและสังคม - * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - สร้างโดยผู้ปฏิบัติงานด้าน AI เพื่อสนับสนุนการนำการตรวจสอบความเป็นธรรมไปใช้ในวงจรการพัฒนา AI - * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - กรอบงานที่เปิดกว้างมากขึ้น โครงสร้างสำหรับการสำรวจเบื้องต้นเกี่ยวกับปัญหาด้านจริยธรรมในด้านการออกแบบ การดำเนินการ และบริบทขององค์กร + * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - ให้คำแนะนำทั่วไปสำหรับแนวปฏิบัติการจัดการข้อมูลจากมุมมองทางกฎหมายและสังคม + * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - สร้างขึ้นโดยผู้ปฏิบัติงาน AI เพื่อสนับสนุนการนำการตรวจสอบความเป็นธรรมไปใช้ในวงจรการพัฒนา AI + * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - กรอบงานที่เปิดกว้างมากขึ้น ซึ่งมีโครงสร้างสำหรับการสำรวจเบื้องต้นเกี่ยวกับปัญหาด้านจริยธรรมในบริบทของการออกแบบ การดำเนินการ และองค์กร ### 3. กฎระเบียบด้านจริยธรรม -จริยธรรมเกี่ยวกับการกำหนดค่านิยมร่วมกันและการทำสิ่งที่ถูกต้อง _โดยสมัครใจ_ **การปฏิบัติตาม** เกี่ยวกับ _การปฏิบัติตามกฎหมาย_ หากมีการกำหนดไว้ **การกำกับดูแล** ครอบคลุมวิธีการทั้งหมดที่องค์กรดำเนินการเพื่อบังคับใช้หลักการด้านจริยธรรมและปฏิบัติตามกฎหมายที่กำหนดไว้ +จริยธรรมเกี่ยวกับการกำหนดค่านิยมร่วมกันและการทำสิ่งที่ถูกต้อง _โดยสมัครใจ_ **การปฏิบัติตาม** คือการ _ปฏิบัติตามกฎหมาย_ หากมีการกำหนดไว้ **การกำกับดูแล** ครอบคลุมวิธีการทั้งหมดที่องค์กรดำเนินการเพื่อบังคับใช้หลักการด้านจริยธรรมและปฏิบัติตามกฎหมายที่กำหนดไว้ ปัจจุบัน การกำกับดูแลมีสองรูปแบบในองค์กร ประการแรกคือการกำหนดหลักการ **AI ด้านจริยธรรม** และสร้างแนวปฏิบัติเพื่อทำให้การนำไปใช้เป็นระบบในทุกโครงการที่เกี่ยวข้องกับ AI ในองค์กร ประการที่สองคือการปฏิบัติตาม **กฎระเบียบการคุ้มครองข้อมูล** ที่รัฐบาลกำหนดสำหรับภูมิภาคที่องค์กรดำเนินการอยู่ ตัวอย่างกฎระเบียบการคุ้มครองข้อมูลและความเป็นส่วนตัว: - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - ควบคุมการรวบรวม การใช้ และการเปิดเผยข้อมูลส่วนบุคคลของ _รัฐบาลกลาง_ + * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - ควบคุมการเก็บรวบรวม การใช้ และการเปิดเผยข้อมูลส่วนบุคคลของ _รัฐบาลกลาง_ * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - ปกป้องข้อมูลสุขภาพส่วนบุคคล * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - ปกป้องความเป็นส่วนตัวของข้อมูลเด็กอายุต่ำกว่า 13 ปี * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - ให้สิทธิผู้ใช้ การคุ้มครองข้อมูล และความเป็นส่วนตัว * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) - ให้สิทธิผู้บริโภคมากขึ้นเกี่ยวกับข้อมูล (ส่วนบุคคล) ของพวกเขา * `2021`, [กฎหมายคุ้มครองข้อมูลส่วนบุคคลของจีน](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) เพิ่งผ่าน ซึ่งเป็นหนึ่งในกฎระเบียบความเป็นส่วนตัวออนไลน์ที่เข้มงวดที่สุดในโลก -> 🚨 สหภาพยุโรปกำหนด GDPR (General Data Protection Regulation) ซึ่งยังคงเป็นหนึ่งในกฎระเบียบความเป็นส่วนตัวของข้อมูลที่มีอิทธิพลมากที่สุดในปัจจุบัน คุณทราบหรือไม่ว่ามันยังกำหนด [8 สิทธิของผู้ใช้](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) เพื่อปกป้องความเป็นส่วนตัวทางดิจิทัลและข้อมูลส่วนบุคคลของพลเมือง? เรียนรู้เกี่ยวกับสิ่งเหล่านี้และเหตุผลที่สำคัญ +> 🚨 สหภาพยุโรปกำหนด GDPR (General Data Protection Regulation) ซึ่งยังคงเป็นหนึ่งในกฎระเบียบความเป็นส่วนตัวของข้อมูลที่มีอิทธิพลมากที่สุดในปัจจุบัน คุณทราบหรือไม่ว่า GDPR ยังกำหนด [8 สิทธิของผู้ใช้](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) เพื่อปกป้องความเป็นส่วนตัวทางดิจิทัลและข้อมูลส่วนบุคคลของพลเมือง? เรียนรู้เกี่ยวกับสิ่งเหล่านี้และเหตุผลที่สำคัญ ### 4. วัฒนธรรมด้านจริยธรรม -โปรดทราบว่ายังคงมีช่องว่างที่จับต้องไม่ได้ระหว่าง _การปฏิบัติตาม_ (การทำให้เพียงพอเพื่อให้เป็นไปตาม "ตัวอักษรของกฎหมาย") และการแก้ไข [ปัญหาระบบ](https://www.coursera.org/learn/data-science-ethics/home/week/4) (เช่น การแข็งตัวของระบบ ความไม่สมดุลของข้อมูล และความไม่เป็นธรรมในการกระจาย) ที่สามารถเร่งการใช้งาน AI ในทางที่ผิด +โปรดทราบว่ายังมีช่องว่างที่จับต้องไม่ได้ระหว่าง _การปฏิบัติตาม_ (การทำเพียงพอเพื่อให้เป็นไปตาม "ตัวอักษรของกฎหมาย") และการแก้ไข [ปัญหาระบบ](https://www.coursera.org/learn/data-science-ethics/home/week/4) (เช่น การแข็งตัวของระบบ ความไม่สมดุลของข้อมูล และความไม่เป็นธรรมในการกระจาย) ที่สามารถเร่งการใช้งาน AI ในทางที่ผิด -สิ่งหลังนี้ +การแก้ไขปัญหาระบบต้องการ [แนวทางการทำ * [หลักการของ AI ที่มีความรับผิดชอบ](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - เส้นทางการเรียนรู้ฟรีจาก Microsoft Learn -* [จริยธรรมและวิทยาศาสตร์ข้อมูล](https://resources.oreilly.com/examples/0636920203964) - หนังสืออิเล็กทรอนิกส์จาก O'Reilly (M. Loukides, H. Mason และคณะ) +* [จริยธรรมและวิทยาศาสตร์ข้อมูล](https://resources.oreilly.com/examples/0636920203964) - หนังสืออิเล็กทรอนิกส์จาก O'Reilly (M. Loukides, H. Mason และคนอื่น ๆ) * [จริยธรรมในวิทยาศาสตร์ข้อมูล](https://www.coursera.org/learn/data-science-ethics#syllabus) - คอร์สออนไลน์จากมหาวิทยาลัยมิชิแกน * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - กรณีศึกษาจากมหาวิทยาลัยเท็กซัส diff --git a/translations/tl/1-Introduction/02-ethics/README.md b/translations/tl/1-Introduction/02-ethics/README.md index 9ec08617..838a69fd 100644 --- a/translations/tl/1-Introduction/02-ethics/README.md +++ b/translations/tl/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ -# Veri Etiği Giriş +# Veri Etiğine Giriş |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| @@ -17,11 +17,11 @@ CO_OP_TRANSLATOR_METADATA: Hepimiz veriyle dolu bir dünyada yaşayan veri vatandaşlarıyız. -Pazar trendleri, 2022 yılı itibarıyla büyük organizasyonların üçte birinin verilerini çevrimiçi [Pazar Yerleri ve Borsalar](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) aracılığıyla alıp satacağını gösteriyor. **Uygulama Geliştiricileri** olarak, veri odaklı içgörüleri ve algoritma tabanlı otomasyonu günlük kullanıcı deneyimlerine entegre etmenin daha kolay ve ucuz hale geldiğini göreceğiz. Ancak yapay zeka yaygınlaştıkça, bu tür algoritmaların [silah haline getirilmesi](https://www.youtube.com/watch?v=TQHs8SA1qpk) sonucu oluşabilecek potansiyel zararları da anlamamız gerekecek. +Pazar trendleri, 2022 yılı itibarıyla büyük organizasyonların üçte birinin verilerini çevrimiçi [Pazar Yerleri ve Borsalar](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) aracılığıyla alıp satacağını gösteriyor. **Uygulama Geliştiricileri** olarak, veri odaklı içgörüleri ve algoritma tabanlı otomasyonu günlük kullanıcı deneyimlerine entegre etmenin daha kolay ve ucuz hale geldiğini göreceğiz. Ancak yapay zeka yaygınlaştıkça, bu tür algoritmaların [silah haline getirilmesi](https://www.youtube.com/watch?v=TQHs8SA1qpk) sonucu ortaya çıkabilecek potansiyel zararları da anlamamız gerekecek. -Trendler ayrıca 2025 yılına kadar [180 zettabayt](https://www.statista.com/statistics/871513/worldwide-data-created/) veri oluşturup tüketeceğimizi gösteriyor. **Veri Bilimcileri** olarak, bu durum bize kişisel verilere benzeri görülmemiş bir erişim sağlıyor. Bu, kullanıcıların davranış profillerini oluşturabileceğimiz ve karar alma süreçlerini, kullanıcıları tercih ettiğimiz sonuçlara yönlendirebilecek şekilde etkileyebileceğimiz anlamına geliyor. Aynı zamanda veri gizliliği ve kullanıcı korumaları gibi daha geniş soruları da gündeme getiriyor. +Trendler ayrıca 2025 yılına kadar [180 zettabayt](https://www.statista.com/statistics/871513/worldwide-data-created/) veri üreteceğimizi ve tüketeceğimizi gösteriyor. **Veri Bilimcileri** olarak, bu durum bize kişisel verilere benzeri görülmemiş bir erişim sağlıyor. Bu, kullanıcıların davranış profillerini oluşturabileceğimiz ve karar alma süreçlerini, kullanıcıları tercih ettiğimiz sonuçlara yönlendirebilecek şekilde etkileyebileceğimiz anlamına geliyor. Aynı zamanda veri gizliliği ve kullanıcı korumaları gibi daha geniş soruları da gündeme getiriyor. -Veri etiği, veri bilimi ve mühendisliği için artık _gerekli koruma önlemleri_ haline geldi ve veri odaklı eylemlerimizden kaynaklanabilecek potansiyel zararları ve istenmeyen sonuçları en aza indirmemize yardımcı oluyor. [Gartner'ın Yapay Zeka Hype Döngüsü](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/), dijital etik, sorumlu yapay zeka ve yapay zeka yönetimi gibi ilgili trendleri, yapay zekanın _demokratikleşmesi_ ve _endüstrileşmesi_ etrafındaki daha büyük megatrendlerin anahtar itici güçleri olarak tanımlıyor. +Veri etiği, veri bilimi ve mühendisliği için artık _gerekli koruma önlemleri_ haline geldi ve veri odaklı eylemlerimizden kaynaklanabilecek potansiyel zararları ve istenmeyen sonuçları en aza indirmemize yardımcı oluyor. [Gartner'ın Yapay Zeka Hype Döngüsü](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/), dijital etik, sorumlu yapay zeka ve yapay zeka yönetimi gibi ilgili trendleri, yapay zekanın _demokratikleşmesi_ ve _endüstrileşmesi_ gibi daha büyük megatrendlerin anahtar itici güçleri olarak tanımlıyor. ![Gartner'ın Yapay Zeka Hype Döngüsü - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) @@ -35,44 +35,44 @@ Bu derste, veri etiği alanını keşfedeceğiz - temel kavramlardan ve zorlukla "Etik" kelimesi, _karakter veya ahlaki doğa_ anlamına gelen [Yunanca "ethikos"](https://en.wikipedia.org/wiki/Ethics) (ve kökü "ethos") kelimesinden gelir. -**Etik**, toplumdaki davranışlarımızı yöneten ortak değerler ve ahlaki ilkelerdir. Etik, yasalara değil, "doğru ve yanlış" olarak kabul edilen normlara dayanır. Ancak etik değerlendirmeler, uyum için daha fazla teşvik yaratan kurumsal yönetim girişimlerini ve hükümet düzenlemelerini etkileyebilir. +**Etik**, toplumdaki davranışlarımızı yöneten ortak değerler ve ahlaki prensiplerle ilgilidir. Etik, yasalara değil, "doğru ve yanlış" olarak kabul edilen normlara dayanır. Ancak etik düşünceler, uyum için daha fazla teşvik yaratan kurumsal yönetim girişimlerini ve hükümet düzenlemelerini etkileyebilir. -**Veri Etiği**, "_veriler, algoritmalar ve ilgili uygulamalarla_ ilgili ahlaki sorunları inceleyen ve değerlendiren" [etik alanında yeni bir dal](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) olarak tanımlanır. Burada, **"veri"** oluşturma, kaydetme, düzenleme, işleme, yayma, paylaşma ve kullanım ile ilgili eylemlere odaklanır; **"algoritmalar"** yapay zeka, ajanlar, makine öğrenimi ve robotlara odaklanır; ve **"uygulamalar"** sorumlu yenilik, programlama, hackleme ve etik kodlar gibi konulara odaklanır. +**Veri Etiği**, "_veriler, algoritmalar ve ilgili uygulamalarla_ ilgili ahlaki sorunları inceleyen ve değerlendiren" [etik alanında yeni bir dal](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) olarak tanımlanır. Burada, **"veri"** veri üretimi, kaydı, kürasyonu, işlenmesi, yayılması, paylaşımı ve kullanımı ile ilgili eylemlere odaklanır; **"algoritmalar"** yapay zeka, ajanlar, makine öğrenimi ve robotlara odaklanır; ve **"uygulamalar"** sorumlu yenilik, programlama, hackleme ve etik kodlar gibi konulara odaklanır. -**Uygulamalı Etik**, [_ahlaki değerlendirmelerin pratik uygulamasıdır_](https://en.wikipedia.org/wiki/Applied_ethics). Bu, _gerçek dünya eylemleri, ürünleri ve süreçleri_ bağlamında etik sorunları aktif olarak araştırma ve bunların tanımlanmış etik değerlerimizle uyumlu kalmasını sağlamak için düzeltici önlemler alma sürecidir. +**Uygulamalı Etik**, [_ahlaki düşüncelerin pratik uygulaması_](https://en.wikipedia.org/wiki/Applied_ethics) ile ilgilidir. Bu, _gerçek dünya eylemleri, ürünleri ve süreçleri_ bağlamında etik sorunları aktif olarak araştırma ve bu sorunların tanımlı etik değerlerimizle uyumlu kalmasını sağlamak için düzeltici önlemler alma sürecidir. -**Etik Kültürü**, [_uygulamalı etiği_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) operasyonel hale getirmekle ilgilidir; böylece etik ilkelerimizin ve uygulamalarımızın, bir organizasyonun her seviyesinde tutarlı ve ölçeklenebilir bir şekilde benimsenmesini sağlarız. Başarılı etik kültürleri, organizasyon genelinde etik ilkeler tanımlar, uyum için anlamlı teşvikler sağlar ve istenen davranışları teşvik ederek ve güçlendirerek etik normları her seviyede pekiştirir. +**Etik Kültürü**, [_uygulamalı etiği_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) operasyonel hale getirmekle ilgilidir; böylece etik prensiplerimizin ve uygulamalarımızın tüm organizasyon genelinde tutarlı ve ölçeklenebilir bir şekilde benimsenmesini sağlar. Başarılı etik kültürleri, organizasyon genelinde etik prensipler tanımlar, uyum için anlamlı teşvikler sağlar ve istenen davranışları her seviyede teşvik ederek ve güçlendirerek etik normları pekiştirir. ## Etik Kavramları -Bu bölümde, veri etiği için **ortak değerler** (ilkeler) ve **etik zorluklar** (sorunlar) gibi kavramları tartışacağız - ve bu kavramları gerçek dünya bağlamlarında anlamanıza yardımcı olacak **vaka çalışmaları** inceleyeceğiz. +Bu bölümde, veri etiği için **ortak değerler** (prensipler) ve **etik zorluklar** (sorunlar) gibi kavramları tartışacağız - ve bu kavramları gerçek dünya bağlamlarında anlamanıza yardımcı olacak **vaka çalışmaları** inceleyeceğiz. -### 1. Etik İlkeler +### 1. Etik Prensipler -Her veri etiği stratejisi, veri ve yapay zeka projelerimizde kabul edilebilir davranışları tanımlayan ve uyumlu eylemleri yönlendiren "ortak değerler" olan _etik ilkeleri_ tanımlamakla başlar. Bunları bireysel veya ekip düzeyinde tanımlayabilirsiniz. Ancak, çoğu büyük organizasyon, bunları kurumsal düzeyde tanımlanan ve tüm ekiplerde tutarlı bir şekilde uygulanan bir _etik yapay zeka_ misyon bildirimi veya çerçevesinde belirtir. +Her veri etiği stratejisi, veri ve yapay zeka projelerimizde kabul edilebilir davranışları tanımlayan ve uyumlu eylemleri yönlendiren _etik prensipleri_ tanımlamakla başlar. Bunları bireysel veya ekip düzeyinde tanımlayabilirsiniz. Ancak, çoğu büyük organizasyon, bunları kurumsal düzeyde tanımlanan ve tüm ekiplerde tutarlı bir şekilde uygulanan bir _etik yapay zeka_ misyon bildirimi veya çerçevesinde belirtir. -**Örnek:** Microsoft'un [Sorumlu Yapay Zeka](https://www.microsoft.com/en-us/ai/responsible-ai) misyon bildirimi şöyle der: _"İnsanları önceliklendiren etik ilkelerle yönlendirilen yapay zekanın ilerlemesine bağlıyız"_ - aşağıdaki çerçevede 6 etik ilkeyi tanımlıyor: +**Örnek:** Microsoft'un [Sorumlu Yapay Zeka](https://www.microsoft.com/en-us/ai/responsible-ai) misyon bildirimi şu şekilde ifade edilir: _"İnsanları önceliklendiren etik prensiplerle yönlendirilen yapay zekanın ilerlemesine bağlıyız"_ - aşağıdaki çerçevede 6 etik prensibi tanımlıyor: ![Microsoft'ta Sorumlu Yapay Zeka](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -Bu ilkeleri kısaca inceleyelim. _Şeffaflık_ ve _hesap verebilirlik_, diğer ilkelerin üzerine inşa edildiği temel değerlerdir - bu yüzden buradan başlayalım: +Bu prensipleri kısaca inceleyelim. _Şeffaflık_ ve _hesap verebilirlik_, diğer prensiplerin üzerine inşa edildiği temel değerlerdir - bu yüzden buradan başlayalım: -* [**Hesap Verebilirlik**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), uygulayıcıları veri ve yapay zeka operasyonlarından ve bu etik ilkelere uyumdan _sorumlu_ kılar. -* [**Şeffaflık**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), veri ve yapay zeka eylemlerinin kullanıcılar için _anlaşılır_ (yorumlanabilir) olmasını sağlar, kararların ne ve nedenini açıklar. -* [**Adalet**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6), yapay zekanın _tüm insanlara_ adil davranmasını sağlar, veri ve sistemlerdeki sistemik veya örtük sosyo-teknik önyargıları ele alır. -* [**Güvenilirlik ve Güvenlik**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), yapay zekanın tanımlanmış değerlere _tutarlı_ bir şekilde davranmasını sağlar, potansiyel zararları veya istenmeyen sonuçları en aza indirir. +* [**Hesap Verebilirlik**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), uygulayıcıları veri ve yapay zeka operasyonları ve bu etik prensiplere uyum konusunda _sorumlu_ kılar. +* [**Şeffaflık**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), veri ve yapay zeka eylemlerinin kullanıcılar için _anlaşılır_ (yorumlanabilir) olmasını sağlar, kararların arkasındaki ne ve nedenleri açıklar. +* [**Adalet**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6), yapay zekanın _tüm insanlara_ adil davranmasını sağlamaya odaklanır, veri ve sistemlerdeki sistemik veya örtük sosyo-teknik önyargıları ele alır. +* [**Güvenilirlik ve Güvenlik**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), yapay zekanın tanımlı değerlere _tutarlı_ bir şekilde davranmasını sağlar, potansiyel zararları veya istenmeyen sonuçları en aza indirir. * [**Gizlilik ve Güvenlik**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), veri kökenini anlamak ve kullanıcılara _veri gizliliği ve ilgili korumalar_ sağlamakla ilgilidir. * [**Kapsayıcılık**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6), yapay zeka çözümlerini niyetle tasarlamak ve onları _geniş bir insan ihtiyaçları ve yetenekleri yelpazesine_ uyarlamakla ilgilidir. -> 🚨 Veri etiği misyon bildiriminizin ne olabileceğini düşünün. Diğer organizasyonların etik yapay zeka çerçevelerini keşfedin - işte [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) ve [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) örnekleri. Ortak değerleri nelerdir? Bu ilkeler, faaliyet gösterdikleri yapay zeka ürünü veya endüstri ile nasıl ilişkilidir? +> 🚨 Veri etiği misyon bildiriminizin ne olabileceğini düşünün. Diğer organizasyonların etik yapay zeka çerçevelerini keşfedin - işte [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) ve [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) örnekleri. Ortak değerleri nelerdir? Bu prensipler, faaliyet gösterdikleri yapay zeka ürünü veya endüstri ile nasıl ilişkilidir? ### 2. Etik Zorluklar -Etik ilkeler tanımlandıktan sonra, bir sonraki adım, veri ve yapay zeka eylemlerimizin bu ortak değerlerle uyumlu olup olmadığını değerlendirmektir. Eylemlerinizi iki kategoriye ayırarak düşünün: _veri toplama_ ve _algoritma tasarımı_. +Etik prensiplerimizi tanımladıktan sonra, bir sonraki adım, veri ve yapay zeka eylemlerimizin bu ortak değerlerle uyumlu olup olmadığını değerlendirmektir. Eylemlerinizi iki kategoriye ayırarak düşünün: _veri toplama_ ve _algoritma tasarımı_. -Veri toplama ile ilgili eylemler, muhtemelen **kişisel veri** veya yaşayan bireyler için kişisel olarak tanımlanabilir bilgiler (PII) içerecektir. Bu, bir bireyi _toplu olarak_ tanımlayan [çeşitli kişisel olmayan veri öğelerini](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) içerir. Etik zorluklar, _veri gizliliği_, _veri sahipliği_ ve kullanıcılar için _bilgilendirilmiş onay_ ve _fikri mülkiyet hakları_ gibi ilgili konularla ilgili olabilir. +Veri toplama ile ilgili eylemler, muhtemelen **kişisel veri** veya yaşayan bireyler için kişisel olarak tanımlanabilir bilgiler (PII) içerecektir. Bu, bir bireyi _toplu olarak_ tanımlayan [çeşitli kişisel olmayan veri öğelerini](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) içerir. Etik zorluklar, _veri gizliliği_, _veri sahipliği_ ve _bilgilendirilmiş onay_ gibi ilgili konularla bağlantılı olabilir. -Algoritma tasarımı ile ilgili eylemler, **veri setleri** toplama ve düzenleme, ardından bunları gerçek dünya bağlamlarında sonuçları tahmin eden veya kararları otomatikleştiren **veri modelleri** eğitmek ve dağıtmakla ilgili olacaktır. Etik zorluklar, _veri seti önyargısı_, _veri kalitesi_ sorunları, _adaletsizlik_ ve algoritmalardaki _yanlış temsil_ gibi konulardan kaynaklanabilir - bazıları sistemik nitelikte olabilir. +Algoritma tasarımı ile ilgili eylemler, **veri setleri** toplama ve küratörlüğünü yapmayı, ardından bunları gerçek dünya bağlamlarında sonuçları tahmin eden veya kararları otomatikleştiren **veri modelleri** eğitmek ve dağıtmak için kullanmayı içerecektir. Etik zorluklar, _veri seti önyargısı_, _veri kalitesi_ sorunları, _adaletsizlik_ ve algoritmalardaki _yanlış temsil_ gibi konulardan kaynaklanabilir - bazıları sistemik nitelikte olabilir. Her iki durumda da, etik zorluklar, eylemlerimizin ortak değerlerimizle çatışabileceği alanları vurgular. Bu endişeleri tespit etmek, hafifletmek, en aza indirmek veya ortadan kaldırmak için, eylemlerimizle ilgili ahlaki "evet/hayır" soruları sormamız ve gerektiğinde düzeltici eylemler almamız gerekir. Şimdi bazı etik zorluklara ve bunların ortaya çıkardığı ahlaki sorulara bakalım: @@ -106,17 +106,17 @@ Burada keşfedilecek sorular şunlardır: #### 2.4 Veri Gizliliği -[Veri gizliliği](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) veya bilgi gizliliği, kullanıcı gizliliğinin korunması ve kişisel olarak tanımlanabilir bilgilerin kullanıcı kimliğinin korunması ile ilgilidir. +[Veri gizliliği](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) veya bilgi gizliliği, kullanıcı kimliğinin korunması ve kişisel olarak tanımlanabilir bilgilerin korunması ile ilgilidir. Burada keşfedilecek sorular şunlardır: * Kullanıcıların (kişisel) verileri hacklere ve sızıntılara karşı güvenli mi? - * Kullanıcıların verileri yalnızca yetkili kullanıcılar ve bağlamlar tarafından erişilebilir mi? - * Kullanıcıların anonimliği, veri paylaşıldığında veya yayıldığında korunuyor mu? - * Bir kullanıcı anonimleştirilmiş veri setlerinden kimliksizleştirilebilir mi? + * Kullanıcıların verileri yalnızca yetkili kullanıcılar ve bağlamlar için erişilebilir mi? + * Veri paylaşıldığında veya yayıldığında kullanıcıların anonimliği korunuyor mu? + * Kullanıcı anonimleştirilmiş veri setlerinden kimliksizleştirilebilir mi? #### 2.5 Unutulma Hakkı -[Unutulma Hakkı](https://en.wikipedia.org/wiki/Right_to_be_forgotten) veya [Silme Hakkı](https://www.gdpreu.org/right-to-be-forgotten/), kullanıcılara ek kişisel veri koruması sağlar. Özellikle, kullanıcılara İnternet aramalarından ve diğer konumlardan kişisel verilerin silinmesini veya kaldırılmasını talep etme hakkı verir, _belirli koşullar altında_ - geçmiş eylemlerin kendilerine karşı kullanılmamasını sağlayarak çevrimiçi olarak yeni bir başlangıç yapmalarına olanak tanır. +[Unutulma Hakkı](https://en.wikipedia.org/wiki/Right_to_be_forgotten) veya [Silinme Hakkı](https://www.gdpreu.org/right-to-be-forgotten/), kullanıcılara ek kişisel veri koruması sağlar. Özellikle, kullanıcılara İnternet aramalarından ve diğer konumlardan kişisel verilerin silinmesini veya kaldırılmasını talep etme hakkı verir, _belirli koşullar altında_ - geçmiş eylemlerin kendilerine karşı kullanılmaması için çevrimiçi olarak yeni bir başlangıç yapmalarına olanak tanır. Burada keşfedilecek sorular şunlardır: * Sistem, veri konularının silme talebinde bulunmasına izin veriyor mu? @@ -126,132 +126,132 @@ Burada keşfedilecek sorular şunlardır: #### 2.6 Veri Seti Önyargısı -Veri seti veya [Toplama Önyargısı](http://researcharticles.com/index.php/bias-in-data-collection-in-research/), algoritma geliştirme için _temsil edici olmayan_ bir veri alt kümesi seçmekle ilgilidir ve bu durum çeşitli gruplar için sonuçlarda potansiyel adaletsizlik yaratır. Önyargı türleri arasında seçim veya örnekleme önyargısı, gönüllü önyargı ve araç önyargısı bulunur. +Veri seti veya [Toplama Önyargısı](http://researcharticles.com/index.php/bias-in-data-collection-in-research/), algoritma geliştirme için _temsil edici olmayan_ bir veri alt kümesi seçmekle ilgilidir ve bu durum, çeşitli gruplar için sonuçların adaletsiz olmasına neden olabilir. Önyargı türleri arasında seçim veya örnekleme önyargısı, gönüllü önyargısı ve araç önyargısı bulunur. Burada keşfedilecek sorular şunlardır: * Temsil edici bir veri konusu seti mi topladık? - * Toplanan veya düzenlenen veri setimizi çeşitli önyargılar açısından test ettik mi? - * Bulunan önyargıları hafifletebilir veya ortadan kaldırabilir miyiz? + * Toplanan veya küratörlüğü yapılan veri setimizi çeşitli önyargılar açısından test ettik mi? + * Keşfedilen önyargıları hafifletebilir veya ortadan kaldırabilir miyiz? #### 2.7 Veri Kalitesi -[Veri Kalitesi](https://lakefs.io/data-quality-testing/), algoritmalarımızı geliştirmek için kullanılan düzenlenmiş veri setinin geçerliliğini inceler ve özelliklerin ve kayıtların yapay zeka amacımız için gereken doğruluk ve tutarlılık düzeyini karşılayıp karşılamadığını kontrol eder. +[Veri Kalitesi](https://lakefs.io/data-quality-testing/), algoritmalarımızı geliştirmek için kullanılan küratörlüğü yapılmış veri setinin geçerliliğini inceler ve özelliklerin ve kayıtların yapay zeka amacımız için gereken doğruluk ve tutarlılık düzeyini karşılayıp karşılamadığını kontrol eder. Burada keşfedilecek sorular şunlardır: - * Kullanım durumumuz için geçerli _özellikler_ yakaladık mı? + * Kullanım senaryomuz için geçerli _özellikler_ yakaladık mı? * Çeşitli veri kaynakları arasında veri _tutarlı_ bir şekilde mi yakalandı? * Veri seti, çeşitli koşullar veya senaryolar için _tam_ mı? * Bilgiler, gerçekliği yansıtacak şekilde _doğru_ bir şekilde mi yakalandı? #### 2.8 Algoritma Adaleti -[Algorithm Adaleti](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f), algoritma tasarımının belirli veri gruplarına sistematik olarak ayrımcılık yapıp yapmadığını ve bunun sonucunda _kaynak tahsisi_ (kaynakların o gruptan esirgenmesi veya reddedilmesi) ve _hizmet kalitesi_ (AI'nin bazı alt gruplar için diğerlerine göre daha az doğru olması) gibi [potansiyel zararlar](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) oluşturup oluşturmadığını kontrol eder. +[Algoritma Adaleti](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f), algoritma tasarımının belirli veri gruplarına sistematik olarak ayrımcılık yapıp yapmadığını ve bunun sonucunda _dağıtım_ (kaynakların o gruptan esirgenmesi veya reddedilmesi) ve _hizmet kalitesi_ (Yapay Zeka'nın bazı alt gruplar için diğerlerine kıyasla daha az doğru olması) gibi [potansiyel zararlar](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) yaratıp yaratmadığını kontrol eder. -Burada incelenmesi gereken sorular: +Burada incelenmesi gereken sorular şunlardır: * Model doğruluğunu farklı alt gruplar ve koşullar için değerlendirdik mi? * Sistemi potansiyel zararlar (örneğin, stereotipleme) açısından inceledik mi? - * Belirlenen zararları azaltmak için verileri revize edebilir veya modelleri yeniden eğitebilir miyiz? + * Belirlenen zararları azaltmak için verileri yeniden düzenleyebilir veya modelleri yeniden eğitebilir miyiz? -Daha fazla bilgi edinmek için [AI Adalet kontrol listeleri](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) gibi kaynakları keşfedin. +Daha fazla bilgi edinmek için [Yapay Zeka Adaleti kontrol listeleri](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) gibi kaynakları keşfedin. -#### 2.9 Yanıltıcı Temsil +#### 2.9 Yanıltıcı Bilgi -[Veri Yanıltıcı Temsili](https://www.sciencedirect.com/topics/computer-science/misrepresentation), dürüstçe raporlanan verilerden elde edilen içgörüleri, istenen bir anlatıyı desteklemek için aldatıcı bir şekilde iletişim kurup kurmadığımızı sorgular. +[Veri Yanıltıcılığı](https://www.sciencedirect.com/topics/computer-science/misrepresentation), dürüstçe raporlanan verilerden elde edilen içgörülerin, istenen bir anlatıyı desteklemek için yanıltıcı bir şekilde sunulup sunulmadığını sorgular. -Burada incelenmesi gereken sorular: +Burada incelenmesi gereken sorular şunlardır: * Eksik veya yanlış veri mi raporluyoruz? - * Verileri yanıltıcı sonuçlar çıkaracak şekilde mi görselleştiriyoruz? + * Verileri yanıltıcı sonuçlara yönlendirecek şekilde mi görselleştiriyoruz? * Sonuçları manipüle etmek için seçici istatistiksel teknikler mi kullanıyoruz? - * Farklı bir sonuca yol açabilecek alternatif açıklamalar var mı? + * Farklı bir sonuca götürebilecek alternatif açıklamalar var mı? #### 2.10 Özgür Seçim -[Özgür Seçim Yanılsaması](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), sistem "seçim mimarilerinin" karar verme algoritmalarını kullanarak insanları tercih edilen bir sonuca yönlendirdiği, ancak onlara seçenekler ve kontrol sunduğu izlenimini verdiği durumlarda ortaya çıkar. Bu [karanlık desenler](https://www.darkpatterns.org/) kullanıcılar için sosyal ve ekonomik zararlar yaratabilir. Kullanıcı kararları davranış profillerini etkilediğinden, bu eylemler potansiyel olarak bu zararların etkisini artırabilir veya uzatabilir. +[Özgür Seçim Yanılsaması](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice), sistemin "seçim mimarilerinin" karar verme algoritmalarını kullanarak insanları tercih edilen bir sonuca yönlendirdiği, ancak onlara seçenekler ve kontrol sunduğu izlenimini verdiği durumlarda ortaya çıkar. Bu tür [karanlık desenler](https://www.darkpatterns.org/), kullanıcılar için sosyal ve ekonomik zararlara yol açabilir. Kullanıcı kararları davranış profillerini etkilediğinden, bu eylemler potansiyel olarak bu zararların etkisini artırabilir veya uzatabilir. -Burada incelenmesi gereken sorular: - * Kullanıcı, o seçimi yapmanın sonuçlarını anladı mı? - * Kullanıcı, (alternatif) seçeneklerin ve her birinin artıları ve eksilerinin farkında mıydı? - * Kullanıcı, otomatik veya etkilenmiş bir seçimi daha sonra geri alabilir mi? +Burada incelenmesi gereken sorular şunlardır: + * Kullanıcı, bu seçimi yapmanın sonuçlarını anladı mı? + * Kullanıcı, (alternatif) seçeneklerin ve her birinin artı ve eksilerinin farkında mıydı? + * Kullanıcı, otomatikleştirilmiş veya etkilenmiş bir seçimi daha sonra geri alabilir mi? ### 3. Vaka Çalışmaları -Bu etik zorlukları gerçek dünya bağlamlarında ele almak için, bu tür etik ihlallerin göz ardı edildiğinde bireyler ve toplum üzerindeki potansiyel zararları ve sonuçları vurgulayan vaka çalışmalarına bakmak faydalı olur. +Bu etik zorlukları gerçek dünya bağlamlarına yerleştirmek için, bu tür etik ihlallerin göz ardı edilmesi durumunda bireyler ve toplum üzerindeki potansiyel zararları ve sonuçları vurgulayan vaka çalışmalarına bakmak faydalı olur. İşte birkaç örnek: -| Etik Zorluk | Vaka Çalışması | +| Etik Zorluğu | Vaka Çalışması | |--- |--- | -| **Bilgilendirilmiş Onay** | 1972 - [Tuskegee Frengi Çalışması](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Çalışmaya katılan Afrikalı Amerikalı erkeklere ücretsiz tıbbi bakım vaat edildi, ancak araştırmacılar teşhislerini veya tedavi seçeneklerini açıklamayarak onları _aldattı_. Birçok katılımcı öldü ve eşleri veya çocukları etkilendi; çalışma 40 yıl sürdü. | -| **Veri Gizliliği** | 2007 - [Netflix veri ödülü](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) araştırmacılara _50K müşteriden 10M anonimleştirilmiş film puanlaması_ sağladı, böylece öneri algoritmalarını geliştirebilirlerdi. Ancak, araştırmacılar anonimleştirilmiş verileri _harici veri setlerindeki_ (örneğin, IMDb yorumları) kişisel olarak tanımlanabilir verilerle ilişkilendirebildi - bazı Netflix abonelerini "de-anonimleştirdi".| -| **Toplama Önyargısı** | 2013 - Boston Şehri [Street Bump uygulamasını geliştirdi](https://www.boston.gov/transportation/street-bump), vatandaşların çukurları bildirmesine olanak tanıyarak şehre yol sorunlarını bulmak ve düzeltmek için daha iyi veriler sağladı. Ancak, [düşük gelir gruplarındaki insanların araba ve telefonlara erişimi daha azdı](https://hbr.org/2013/04/the-hidden-biases-in-big-data), bu da onların yol sorunlarını bu uygulamada görünmez hale getirdi. Geliştiriciler, adalet için _eşit erişim ve dijital bölünmeler_ sorunları üzerinde akademisyenlerle çalıştı. | -| **Algoritmik Adalet** | 2018 - MIT [Gender Shades Çalışması](http://gendershades.org/overview.html), cinsiyet sınıflandırma AI ürünlerinin doğruluğunu değerlendirdi ve kadınlar ve renkli insanlar için doğrulukta boşluklar olduğunu ortaya çıkardı. Bir [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) kadınlara erkeklere göre daha az kredi sunmuş gibi göründü. Her ikisi de algoritmik önyargıların sosyo-ekonomik zararlara yol açtığını gösterdi.| -| **Veri Yanıltıcı Temsili** | 2020 - [Georgia Halk Sağlığı Departmanı COVID-19 grafiklerini yayınladı](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) ve x ekseninde kronolojik olmayan sıralama ile vatandaşları doğrulanmış vakalardaki eğilimler hakkında yanıltmış gibi göründü. Bu, görselleştirme hileleriyle yanıltıcı temsili örnekler. | -| **Özgür Seçim Yanılsaması** | 2020 - Öğrenme uygulaması [ABCmouse, FTC şikayetini çözmek için 10M $ ödedi](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) ve ebeveynler iptal edemedikleri abonelikler için ödeme yapmaya zorlandı. Bu, kullanıcıların potansiyel olarak zararlı seçimlere yönlendirildiği seçim mimarilerindeki karanlık desenleri gösteriyor. | -| **Veri Gizliliği ve Kullanıcı Hakları** | 2021 - Facebook [Veri İhlali](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 530M kullanıcının verilerini ifşa etti ve FTC'ye 5B $ ödeme yaptı. Ancak, kullanıcıları ihlal hakkında bilgilendirmeyi reddetti ve veri şeffaflığı ve erişimi ile ilgili kullanıcı haklarını ihlal etti. | +| **Bilgilendirilmiş Onay** | 1972 - [Tuskegee Frengi Çalışması](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Çalışmaya katılan Afrikalı Amerikalı erkeklere ücretsiz tıbbi bakım vaat edildi, _ancak_ araştırmacılar teşhislerini veya tedavi seçeneklerini açıklamadı. Birçok katılımcı öldü ve eşleri veya çocukları etkilendi; çalışma 40 yıl sürdü. | +| **Veri Gizliliği** | 2007 - [Netflix veri ödülü](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/), araştırmacılara _50K müşteriden 10M anonimleştirilmiş film derecelendirmesi_ sağladı. Ancak, araştırmacılar anonimleştirilmiş verileri _harici veri setlerindeki_ (örneğin, IMDb yorumları) kişisel olarak tanımlanabilir verilerle ilişkilendirebildi - bazı Netflix abonelerini "de-anonimleştirdi".| +| **Toplama Yanlılığı** | 2013 - Boston Şehri, vatandaşların çukurları bildirmesine olanak tanıyan [Street Bump](https://www.boston.gov/transportation/street-bump) adlı bir uygulama geliştirdi. Ancak, [düşük gelirli grupların araba ve telefonlara daha az erişimi vardı](https://hbr.org/2013/04/the-hidden-biases-in-big-data), bu da onların yol sorunlarını bu uygulamada görünmez hale getirdi. Geliştiriciler, adalet için _eşit erişim ve dijital uçurumlar_ sorunlarını çözmek üzere akademisyenlerle çalıştı. | +| **Algoritmik Adalet** | 2018 - MIT [Gender Shades Çalışması](http://gendershades.org/overview.html), cinsiyet sınıflandırma yapay zeka ürünlerinin doğruluğunu değerlendirdi ve kadınlar ve renkli insanlar için doğrulukta boşluklar olduğunu ortaya çıkardı. Bir [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/), kadınlara erkeklere kıyasla daha az kredi sunuyor gibi görünüyordu. Her ikisi de sosyo-ekonomik zararlara yol açan algoritmik önyargı sorunlarını gösterdi.| +| **Veri Yanıltıcılığı** | 2020 - [Georgia Halk Sağlığı Departmanı, COVID-19 grafiklerini](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) yayınladı ve x ekseninde kronolojik olmayan sıralama ile vatandaşları doğrulanmış vaka eğilimleri hakkında yanıltıyor gibi göründü. Bu, görselleştirme hileleriyle yanıltıcılığı gösterir. | +| **Özgür Seçim Yanılsaması** | 2020 - Öğrenme uygulaması [ABCmouse, FTC şikayetini çözmek için 10M $ ödedi](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/). Bu, kullanıcıların potansiyel olarak zararlı seçimlere yönlendirildiği seçim mimarilerindeki karanlık desenleri gösterir. | +| **Veri Gizliliği ve Kullanıcı Hakları** | 2021 - Facebook [Veri İhlali](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users), 530M kullanıcının verilerini açığa çıkardı ve FTC'ye 5B $'lık bir anlaşma ile sonuçlandı. Ancak, kullanıcıları ihlal hakkında bilgilendirmeyi reddetti ve veri şeffaflığı ve erişimi konusundaki kullanıcı haklarını ihlal etti. | Daha fazla vaka çalışması keşfetmek ister misiniz? Bu kaynaklara göz atın: -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - çeşitli endüstrilerde etik ikilemler. -* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - önemli vaka çalışmaları inceleniyor. -* [Where things have gone wrong](https://deon.drivendata.org/examples/) - deon kontrol listesi ve örnekler. +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - çeşitli sektörlerde etik ikilemler. +* [Veri Bilimi Etiği kursu](https://www.coursera.org/learn/data-science-ethics#syllabus) - önemli vaka çalışmaları inceleniyor. +* [Yanlış giden örnekler](https://deon.drivendata.org/examples/) - deon kontrol listesi örnekleriyle. -> 🚨 Gördüğünüz vaka çalışmalarını düşünün - hayatınızda benzer bir etik zorlukla karşılaştınız mı veya etkilendiniz mi? Bu bölümde tartıştığımız etik zorluklardan birini gösteren en az bir başka vaka çalışması düşünebilir misiniz? +> 🚨 Gördüğünüz vaka çalışmalarını düşünün - hayatınızda benzer bir etik zorluk yaşadınız mı veya etkilendiniz mi? Bu bölümde tartıştığımız etik zorluklardan birini gösteren başka bir vaka çalışması düşünebilir misiniz? ## Uygulamalı Etik -Etik kavramları, zorlukları ve gerçek dünya bağlamlarında vaka çalışmalarını konuştuk. Peki, projelerimizde etik ilkeleri ve uygulamaları nasıl _uygularız_? Ve bu uygulamaları daha iyi yönetişim için nasıl _operasyonelleştiririz_? Gerçek dünya çözümlerini keşfedelim: +Etik kavramları, zorlukları ve vaka çalışmalarını gerçek dünya bağlamlarında ele aldık. Ancak, projelerimizde etik ilkeleri ve uygulamaları _uygulamaya_ nasıl başlarız? Ve bu uygulamaları daha iyi yönetişim için nasıl _operasyonelleştiririz_? Gerçek dünya çözümlerini keşfedelim: ### 1. Mesleki Kodlar -Mesleki Kodlar, kuruluşların üyelerini etik ilkelerini ve misyon bildirimlerini desteklemeye "teşvik etmek" için bir seçenek sunar. Kodlar, profesyonel davranış için _ahlaki yönergeler_ olup, çalışanların veya üyelerin kuruluşlarının ilkelerine uygun kararlar almasına yardımcı olur. Üyelerin gönüllü uyumu kadar etkili olsalar da, birçok kuruluş üyelerin uyumunu motive etmek için ek ödüller ve cezalar sunar. +Mesleki Kodlar, kuruluşların üyelerini etik ilkelerini ve misyon beyanlarını desteklemeye "teşvik etmek" için bir seçenek sunar. Kodlar, profesyonel davranış için _ahlaki kılavuzlardır_ ve çalışanların veya üyelerin kuruluşlarının ilkelerine uygun kararlar almasına yardımcı olur. Ancak, üyelerin gönüllü uyumu kadar etkilidir; birçok kuruluş, üyelerin uyumunu motive etmek için ek ödüller ve cezalar sunar. Örnekler: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Etik Kodu - * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Davranış Kuralları (2013'te oluşturuldu) - * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993'ten beri) + * [Veri Bilimi Derneği](http://datascienceassn.org/code-of-conduct.html) Davranış Kuralları (2013'te oluşturuldu) + * [ACM Etik ve Profesyonel Davranış Kodu](https://www.acm.org/code-of-ethics) (1993'ten beri) -> 🚨 Bir profesyonel mühendislik veya veri bilimi organizasyonuna üye misiniz? Sitelerini inceleyerek bir mesleki etik kodu tanımlayıp tanımlamadıklarını görün. Bu, etik ilkeleri hakkında ne söylüyor? Üyeleri kodu takip etmeye nasıl "teşvik ediyorlar"? +> 🚨 Bir mühendislik veya veri bilimi meslek kuruluşuna üye misiniz? Sitelerini inceleyerek bir mesleki etik kodu tanımlayıp tanımlamadıklarını görün. Bu, etik ilkeleri hakkında ne söylüyor? Üyeleri kodu takip etmeye nasıl "teşvik ediyorlar"? ### 2. Etik Kontrol Listeleri -Mesleki kodlar, uygulayıcılardan beklenen _etik davranışı_ tanımlarken, [bilinen sınırlamaları](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) vardır, özellikle büyük ölçekli projelerde. Bunun yerine, birçok veri bilimi uzmanı [kontrol listelerini](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) savunur, bu da **ilkeleri uygulamalara bağlayabilir** ve daha belirleyici ve uygulanabilir yollar sunabilir. +Mesleki kodlar, uygulayıcılardan beklenen _etik davranışı_ tanımlarken, [büyük ölçekli projelerde](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) uygulanabilirlik açısından bilinen sınırlamalara sahiptir. Bunun yerine, birçok veri bilimi uzmanı, ilkeleri daha belirleyici ve uygulanabilir yollarla **uygulamalara bağlayabilen** [kontrol listelerini](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) savunur. Kontrol listeleri, soruları "evet/hayır" görevlerine dönüştürerek operasyonelleştirilebilir ve standart ürün sürüm iş akışlarının bir parçası olarak izlenebilir hale getirir. Örnekler: - * [Deon](https://deon.drivendata.org/) - [endüstri önerilerinden](https://deon.drivendata.org/#checklist-citations) oluşturulmuş genel amaçlı bir veri etik kontrol listesi ve kolay entegrasyon için bir komut satırı aracı. + * [Deon](https://deon.drivendata.org/) - [sektör önerilerinden](https://deon.drivendata.org/#checklist-citations) oluşturulmuş genel amaçlı bir veri etiği kontrol listesi ve kolay entegrasyon için bir komut satırı aracı. * [Gizlilik Denetim Kontrol Listesi](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - yasal ve sosyal maruz kalma perspektiflerinden bilgi işleme uygulamaları için genel rehberlik sağlar. - * [AI Adalet Kontrol Listesi](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI geliştirme döngülerine adalet kontrollerinin benimsenmesini ve entegrasyonunu desteklemek için AI uygulayıcıları tarafından oluşturuldu. - * [Veri ve AI'da etik için 22 soru](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - tasarım, uygulama ve organizasyonel bağlamlarda etik sorunların ilk keşfi için daha açık uçlu bir çerçeve. + * [Yapay Zeka Adaleti Kontrol Listesi](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - adalet kontrollerinin yapay zeka geliştirme döngülerine entegrasyonunu desteklemek için yapay zeka uygulayıcıları tarafından oluşturulmuştur. + * [Veri ve Yapay Zekada Etik için 22 Soru](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - tasarım, uygulama ve organizasyonel bağlamlarda etik sorunların ilk keşfi için yapılandırılmış daha açık uçlu bir çerçeve. ### 3. Etik Düzenlemeler -Etik, paylaşılan değerleri tanımlamak ve doğru olanı _gönüllü olarak_ yapmakla ilgilidir. **Uyum**, tanımlandığı takdirde _yasaya uymak_ ile ilgilidir. **Yönetişim**, kuruluşların etik ilkeleri uygulamak ve tanımlanmış yasalara uymak için çalıştığı tüm yolları kapsar. +Etik, paylaşılan değerleri tanımlamak ve _gönüllü olarak_ doğru olanı yapmakla ilgilidir. **Uyum**, tanımlandığı takdirde _yasalara uymakla_ ilgilidir. **Yönetişim**, kuruluşların etik ilkeleri uygulamak ve belirlenmiş yasalara uymak için faaliyet gösterdiği tüm yolları kapsar. -Bugün yönetişim, kuruluşlar içinde iki şekilde gerçekleşir. İlk olarak, **etik AI** ilkelerini tanımlamak ve kuruluşun tüm AI ile ilgili projelerinde benimsenmeyi operasyonelleştirmekle ilgilidir. İkincisi, faaliyet gösterdiği bölgeler için tüm hükümet tarafından belirlenmiş **veri koruma düzenlemelerine** uymakla ilgilidir. +Bugün yönetişim, kuruluşlar içinde iki şekilde gerçekleşir. İlk olarak, **etik yapay zeka** ilkelerini tanımlamak ve kuruluşun tüm yapay zeka ile ilgili projelerinde benimsenmesini sağlamak için uygulamalar oluşturmaktır. İkincisi, faaliyet gösterdiği bölgelerdeki tüm hükümet tarafından belirlenen **veri koruma düzenlemelerine** uymaktır. -Veri koruma ve gizlilik düzenlemeleri örnekleri: +Veri koruma ve gizlilik düzenlemelerine örnekler: - * `1974`, [ABD Gizlilik Yasası](https://www.justice.gov/opcl/privacy-act-1974) - _federal hükümetin_ kişisel bilgilerin toplanması, kullanılması ve açıklanmasını düzenler. - * `1996`, [ABD Sağlık Sigortası Taşınabilirlik ve Hesap Verebilirlik Yasası (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - kişisel sağlık verilerini korur. + * `1974`, [ABD Gizlilik Yasası](https://www.justice.gov/opcl/privacy-act-1974) - _federal hükümetin_ kişisel bilgileri toplamasını, kullanmasını ve ifşa etmesini düzenler. + * `1996`, [ABD Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - kişisel sağlık verilerini korur. * `1998`, [ABD Çocukların Çevrimiçi Gizliliğini Koruma Yasası (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 yaş altındaki çocukların veri gizliliğini korur. * `2018`, [Genel Veri Koruma Yönetmeliği (GDPR)](https://gdpr-info.eu/) - kullanıcı hakları, veri koruma ve gizlilik sağlar. - * `2018`, [California Tüketici Gizliliği Yasası (CCPA)](https://www.oag.ca.gov/privacy/ccpa) tüketicilere (kişisel) verileri üzerinde daha fazla _hak_ verir. + * `2018`, [Kaliforniya Tüketici Gizliliği Yasası (CCPA)](https://www.oag.ca.gov/privacy/ccpa) - tüketicilere (kişisel) verileri üzerinde daha fazla _hak_ verir. * `2021`, Çin'in [Kişisel Bilgi Koruma Yasası](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) yeni geçti ve dünya çapında en güçlü çevrimiçi veri gizliliği düzenlemelerinden birini oluşturdu. > 🚨 Avrupa Birliği tarafından tanımlanan GDPR (Genel Veri Koruma Yönetmeliği), bugün en etkili veri gizliliği düzenlemelerinden biri olmaya devam ediyor. Ayrıca vatandaşların dijital gizliliğini ve kişisel verilerini korumak için [8 kullanıcı hakkı](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) tanımladığını biliyor muydunuz? Bunların ne olduğunu ve neden önemli olduklarını öğrenin. ### 4. Etik Kültürü -Uyum (yasaların "harfini" yerine getirmek için yeterince yapmak) ile [sistemik sorunları](https://www.coursera.org/learn/data-science-ethics/home/week/4) ele almak (örneğin, katılaşma, bilgi asimetrisi ve dağıtımsal adaletsizlik) arasında hala elle tutulamayan bir boşluk olduğunu unutmayın. +Not edin ki, _uyum_ (yasanın "harfine" uygun hareket etmek) ile [sistemik sorunları](https://www.coursera.org/learn/data-science-ethics/home/week/4) ele almak (örneğin, katılaşma, bilgi asimetrisi ve dağıtım adaletsizliği) arasında soyut bir boşluk vardır. Bu tür sorunlar, yapay zekanın silah haline getirilmesini hızlandırabilir. -İkincisi, [etik kültürlerini tanımlamak için işbirlikçi yaklaşımlar](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) gerektirir ve bu, endüstrideki kuruluşlar arasında duygusal bağlar ve tutarlı paylaşılan değerler oluşturur. Bu, kuruluşlarda daha [resmileştirilmiş veri etik kültürleri](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) oluşturmayı gerektirir - _herkesin_ (etik endişeleri sürecin başında dile getirmek için) [Andon ipini çekmesine](https://en.wikipedia.org/wiki/Andon_(manufacturing)) olanak tanır ve _etik değerlendirmeleri_ (örneğin, işe alımda) AI projelerinde ekip oluşturmanın temel kriteri haline getirir. +İkincisi, [etik kültürlerini tanımlamak için işbirlikçi yaklaşımlar](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) gerektirir. Bu, duygusal bağlar kurmayı ve sektördeki kuruluşlar arasında tutarlı ortak değerler oluşturmayı içerir. Bu, kuruluşlarda daha [resmileştirilmiş veri etiği kültürleri](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) oluşturmayı gerektirir - _herkesin_ (süreçte erken aşamada etik kaygıları dile getirmek için) [Andon ipini çekmesine](https://en.wikipedia.org/wiki/Andon_(manufacturing)) olanak tanır ve yapay zeka projelerinde ekip oluşturmanın temel kriteri olarak _etik değerlendirmeleri_ (örneğin, işe alımda) yapar. --- -## [Ders sonrası test](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 -## Gözden Geçirme ve Kendi Kendine Çalışma +## [Ders sonrası sınav](https://ff-quizzes.netlify.app/en/ds/) 🎯 +## Gözden Geçirme ve Kendi Kendine Çalışma -Kurslar ve kitaplar temel etik kavramları ve zorlukları anlamaya yardımcı olurken, vaka çalışmaları ve araçlar gerçek dünya bağlamlarında uygulamalı etik uygulamalarına yardımcı olur. İşte başlamak için birkaç kaynak. +Kurslar ve kitaplar, temel etik kavramlarını ve zorluklarını anlamaya yardımcı olurken, vaka çalışmaları ve araçlar, gerçek dünya bağlamlarında uygulamalı etik uygulamalarına yardımcı olur. Başlamak için birkaç kaynak: -* [Başlangıç Seviyesi Makine Öğrenimi](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft'tan Adalet üzerine bir ders. +* [Başlangıç Seviyesi için Makine Öğrenimi](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft'tan Adalet üzerine bir ders. * [Sorumlu Yapay Zeka İlkeleri](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn'den ücretsiz öğrenim yolu. * [Etik ve Veri Bilimi](https://resources.oreilly.com/examples/0636920203964) - O'Reilly EKitap (M. Loukides, H. Mason ve diğerleri) * [Veri Bilimi Etiği](https://www.coursera.org/learn/data-science-ethics#syllabus) - Michigan Üniversitesi'nden çevrimiçi kurs. @@ -264,4 +264,4 @@ Kurslar ve kitaplar temel etik kavramları ve zorlukları anlamaya yardımcı ol --- **Feragatname**: -Bu belge, [Co-op Translator](https://github.com/Azure/co-op-translator) adlı yapay zeka çeviri hizmeti kullanılarak çevrilmiştir. Doğruluk için çaba göstersek de, otomatik çevirilerin hata veya yanlışlıklar içerebileceğini lütfen unutmayın. Belgenin orijinal dili, yetkili kaynak olarak kabul edilmelidir. Kritik bilgiler için profesyonel insan çevirisi önerilir. Bu çevirinin kullanımından kaynaklanan yanlış anlamalar veya yanlış yorumlamalar için sorumluluk kabul etmiyoruz. \ No newline at end of file +Bu belge, AI çeviri hizmeti [Co-op Translator](https://github.com/Azure/co-op-translator) kullanılarak çevrilmiştir. Doğruluğu sağlamak için çaba göstersek de, otomatik çevirilerin hata veya yanlışlık içerebileceğini lütfen unutmayın. Belgenin orijinal dili, yetkili kaynak olarak kabul edilmelidir. Kritik bilgiler için profesyonel insan çevirisi önerilir. Bu çevirinin kullanımından kaynaklanan yanlış anlamalar veya yanlış yorumlamalardan sorumlu değiliz. \ No newline at end of file diff --git a/translations/tw/1-Introduction/02-ethics/README.md b/translations/tw/1-Introduction/02-ethics/README.md index 478d8650..4e8d9d98 100644 --- a/translations/tw/1-Introduction/02-ethics/README.md +++ b/translations/tw/1-Introduction/02-ethics/README.md @@ -1,203 +1,199 @@ # 資料倫理簡介 -|![ 由 [(@sketchthedocs)](https://sketchthedocs.dev) 繪製的草圖筆記 ](../../sketchnotes/02-Ethics.png)| +|![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| 資料科學倫理 - _由 [@nitya](https://twitter.com/nitya) 繪製的草圖筆記_ | +| 資料科學倫理 - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | --- -我們都是生活在數據化世界中的資料公民。 +我們都是生活在數據化世界中的數據公民。 -市場趨勢顯示，到2022年，每三家大型組織中就有一家將通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)購買和出售其數據。作為**應用程式開發者**，我們會發現將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中變得更加容易和便宜。但隨著人工智慧（AI）的普及，我們也需要了解這些算法在大規模應用中可能帶來的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)危害。 +市場趨勢顯示，到2022年，三分之一的大型組織將通過線上[市場和交易所](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/)購買和出售數據。作為**應用程式開發者**，我們將更容易、更便宜地將數據驅動的洞察力和算法驅動的自動化整合到日常用戶體驗中。但隨著人工智慧的普及，我們也需要了解這些算法在大規模應用中可能造成的[武器化](https://www.youtube.com/watch?v=TQHs8SA1qpk)危害。 -趨勢還顯示，到2025年，我們將創造並消耗超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**資料科學家**，這讓我們能夠以前所未有的程度接觸到個人數據。這意味著我們可以建立用戶的行為檔案，並以某種方式影響決策，從而創造一種[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能將用戶推向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 +趨勢還顯示，到2025年，我們將創造和消耗超過[180澤字節](https://www.statista.com/statistics/871513/worldwide-data-created/)的數據。作為**資料科學家**，這使我們能夠前所未有地接觸到個人數據。這意味著我們可以建立用戶的行為檔案，並以某些方式影響決策，創造一種[自由選擇的幻覺](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice)，同時可能引導用戶朝向我們偏好的結果。這也引發了關於數據隱私和用戶保護的更廣泛問題。 -資料倫理現在是資料科學和工程的_必要防護欄_，幫助我們最大限度地減少數據驅動行動可能帶來的潛在危害和意外後果。[Gartner AI 技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)將數字倫理、負責任的AI和AI治理的相關趨勢確定為推動AI_民主化_和_工業化_這兩大趨勢的關鍵因素。 - -![Gartner的AI技術成熟度曲線 - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) - -在本課程中，我們將探索資料倫理這一迷人的領域——從核心概念和挑戰，到案例研究和應用AI概念（如治理），這些都幫助在處理數據和AI的團隊和組織中建立倫理文化。 +資料倫理現在是資料科學和工程的_必要防護措施_，幫助我們減少數據驅動行動可能帶來的潛在危害和意外後果。[Gartner人工智慧技術成熟度曲線](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/)指出，數字倫理、負責任的人工智慧和人工智慧治理是推動人工智慧_民主化_和_工業化_的主要趨勢。 +![Gartner的人工智慧技術成熟度曲線 - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) +在本課程中，我們將探索資料倫理這個迷人的領域——從核心概念和挑戰，到案例研究和應用人工智慧概念（如治理），幫助在處理數據和人工智慧的團隊和組織中建立倫理文化。 ## [課前測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 ## 基本定義 -讓我們從理解基本術語開始。 +讓我們先了解一些基本術語。 -"倫理"一詞來自[希臘詞 "ethikos"](https://en.wikipedia.org/wiki/Ethics)（及其根源 "ethos"），意為_品格或道德本質_。 +「倫理」一詞源自[希臘詞 "ethikos"](https://en.wikipedia.org/wiki/Ethics)（及其根源 "ethos"），意指_品格或道德本質_。 -**倫理**是指在社會中規範我們行為的共同價值觀和道德原則。倫理不是基於法律，而是基於廣泛接受的"對與錯"的標準。然而，倫理考量可以影響公司治理舉措和政府法規，從而創造更多的合規激勵。 +**倫理**是指在社會中規範我們行為的共同價值觀和道德原則。倫理不是基於法律，而是基於廣泛接受的「對與錯」的標準。然而，倫理考量可以影響企業治理倡議和政府法規，從而創造更多遵守的激勵措施。 -**資料倫理**是一個[新的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，它"研究和評估與_數據、算法及相關實踐_相關的道德問題"。其中，**"數據"**側重於與生成、記錄、管理、處理、傳播、共享和使用相關的行動，**"算法"**側重於AI、代理、機器學習和機器人，**"實踐"**則側重於負責任的創新、編程、駭客行為和倫理守則等主題。 +**資料倫理**是一個[新興的倫理分支](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1)，研究和評估與_數據、算法及相關實踐_相關的道德問題。在這裡，**「數據」**側重於生成、記錄、策劃、處理、傳播、共享和使用的行動，**「算法」**側重於人工智慧、代理、機器學習和機器人，**「實踐」**側重於負責任的創新、編程、駭客行為和倫理守則等主題。 **應用倫理**是[道德考量的實際應用](https://en.wikipedia.org/wiki/Applied_ethics)。它是積極調查_現實世界行動、產品和流程_中的倫理問題，並採取糾正措施以確保這些行動與我們定義的倫理價值保持一致的過程。 -**倫理文化**是關於[將應用倫理_操作化_](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，以確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採用。成功的倫理文化會定義全組織範圍的倫理原則，提供有意義的合規激勵，並通過在組織各層級鼓勵和放大期望的行為來強化倫理規範。 - +**倫理文化**是關於[_操作化_應用倫理](https://hbr.org/2019/05/how-to-design-an-ethical-organization)，確保我們的倫理原則和實踐在整個組織中以一致且可擴展的方式被採用。成功的倫理文化定義了全組織範圍的倫理原則，提供有意義的遵守激勵措施，並通過鼓勵和放大期望的行為來加強倫理規範。 ## 倫理概念 -在本節中，我們將討論**共同價值觀**（原則）和**倫理挑戰**（問題）等資料倫理概念，並通過**案例研究**來幫助您在現實世界的背景中理解這些概念。 +在本節中，我們將討論資料倫理中的**共同價值**（原則）和**倫理挑戰**（問題），並探索**案例研究**，幫助您在現實世界的背景中理解這些概念。 ### 1. 倫理原則 -每個資料倫理策略都始於定義_倫理原則_——這些"共同價值觀"描述了可接受的行為，並指導我們在資料和AI項目中的合規行動。您可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在公司層面定義這些原則，並在所有團隊中一致執行，通常以_倫理AI_使命聲明或框架的形式呈現。 +每個資料倫理策略都始於定義_倫理原則_——描述可接受行為並指導合規行動的「共同價值」，用於我們的數據和人工智慧項目。您可以在個人或團隊層面定義這些原則。然而，大多數大型組織會在企業層面定義並一致執行的_倫理人工智慧_使命聲明或框架中概述這些原則。 -**範例：** 微軟的[負責任AI](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_"我們致力於推動以道德原則為基礎的AI發展，將人放在首位"_，並在以下框架中確定了6個倫理原則： +**範例：** 微軟的[負責任人工智慧](https://www.microsoft.com/en-us/ai/responsible-ai)使命聲明寫道：_「我們致力於推動以倫理原則為基礎的人工智慧，將人放在首位」_，並在以下框架中識別了六個倫理原則： -![微軟的負責任AI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) +![微軟的負責任人工智慧](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -讓我們簡要探討這些原則。_透明性_和_問責性_是其他原則的基石，因此我們從這裡開始： +讓我們簡要探索這些原則。_透明性_和_問責性_是其他原則的基礎價值，因此我們從這裡開始： -* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使從業者對其資料和AI操作以及對這些倫理原則的合規負責。 -* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保資料和AI行動對用戶是_可理解的_（可解釋的），解釋決策背後的內容和原因。 -* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——專注於確保AI對_所有人_公平對待，解決資料和系統中的任何系統性或隱性社會技術偏見。 -* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保AI行為與定義的價值觀_一致_，最大限度地減少潛在危害或意外後果。 -* [**隱私與安全**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——關於理解資料來源，並為用戶提供_資料隱私及相關保護_。 -* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——關於有意設計AI解決方案，並使其適應_廣泛的人類需求_和能力。 +* [**問責性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)使實踐者對其數據和人工智慧操作以及遵守這些倫理原則負責。 +* [**透明性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)確保數據和人工智慧行動對用戶是_可理解的_（可解釋的），解釋決策背後的內容和原因。 +* [**公平性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6)——確保人工智慧公平對待_所有人_，解決數據和系統中的任何系統性或隱性社會技術偏見。 +* [**可靠性與安全性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——確保人工智慧以_一致性_的方式行事，符合定義的價值觀，減少潛在危害或意外後果。 +* [**隱私與安全**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——了解數據的來源，並為用戶提供_數據隱私及相關保護_。 +* [**包容性**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6)——有意設計人工智慧解決方案，適應以滿足_廣泛的人類需求_和能力。 -> 🚨 想一想您的資料倫理使命聲明可能是什麼。探索其他組織的倫理AI框架——這裡有[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的範例。它們有哪些共同的價值觀？這些原則如何與它們運作的AI產品或行業相關？ +> 🚨 想想您的資料倫理使命聲明可能是什麼。探索其他組織的倫理人工智慧框架——以下是[IBM](https://www.ibm.com/cloud/learn/ai-ethics)、[Google](https://ai.google/principles)和[Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/)的範例。他們有哪些共同的價值觀？這些原則如何與他們所運營的人工智慧產品或行業相關？ ### 2. 倫理挑戰 -一旦我們定義了倫理原則，下一步就是評估我們的資料和AI行動是否與這些共同價值觀一致。考慮您的行動可以分為兩類：_資料收集_和_算法設計_。 +一旦我們定義了倫理原則，下一步就是評估我們的數據和人工智慧行動是否符合這些共同價值。思考您的行動可以分為兩類：_數據收集_和_算法設計_。 -在資料收集方面，行動可能涉及**個人資料**或可識別的個人信息（PII），這些信息可以識別活著的個體，包括[多樣的非個人資料項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些項目_集體_識別一個人。倫理挑戰可能涉及_資料隱私_、_資料所有權_以及相關主題，如_知情同意_和用戶的_知識產權_。 +在數據收集方面，行動可能涉及**個人數據**或可識別的個人信息（PII），這些信息可以識別活著的個人。這包括[多樣化的非個人數據項目](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en)，這些數據_共同_識別一個人。倫理挑戰可能涉及_數據隱私_、_數據所有權_以及相關主題，如_知情同意_和用戶的_知識產權權利_。 -在算法設計方面，行動將涉及收集和管理**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能來自_數據集偏見_、_數據質量_問題、_不公平性_和算法中的_誤導性_，包括一些系統性問題。 +在算法設計方面，行動將涉及收集和策劃**數據集**，然後使用它們來訓練和部署**數據模型**，以在現實世界的背景中預測結果或自動化決策。倫理挑戰可能來自_數據集偏差_、_數據質量_問題、_不公平性_和算法中的_誤導性_——包括一些系統性問題。 -在這兩種情況下，倫理挑戰突出了我們的行動可能與共同價值觀發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對行動提出道德上的"是/否"問題，然後根據需要採取糾正措施。讓我們來看看一些倫理挑戰及其引發的道德問題： +在這兩種情況下，倫理挑戰突出了我們的行動可能與共同價值發生衝突的領域。為了檢測、減輕、最小化或消除這些問題，我們需要針對行動提出道德的「是/否」問題，然後根據需要採取糾正措施。讓我們看看一些倫理挑戰及其引發的道德問題： +#### 2.1 數據所有權 -#### 2.1 資料所有權 +數據收集通常涉及可以識別數據主體的個人數據。[數據所有權](https://permission.io/blog/data-ownership)是關於與數據的創建、處理和傳播相關的_控制_和[_用戶權利_](https://permission.io/blog/data-ownership)。 -資料收集通常涉及可識別資料主體的個人資料。[資料所有權](https://permission.io/blog/data-ownership)關於與資料創建、處理和傳播相關的_控制_和[用戶權利](https://permission.io/blog/data-ownership)。 - -我們需要提出的道德問題包括： - * 誰擁有資料？（用戶還是組織） - * 資料主體擁有哪些權利？（例如：訪問、刪除、可攜性） - * 組織擁有哪些權利？（例如：更正惡意用戶評論） +需要提出的道德問題包括： +* 誰擁有數據？（用戶或組織） +* 數據主體擁有哪些權利？（例如：訪問、刪除、可攜性） +* 組織擁有哪些權利？（例如：糾正惡意用戶評論） #### 2.2 知情同意 -[知情同意](https://legaldictionary.net/informed-consent/)指用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下，同意某項行動（如資料收集）。 +[知情同意](https://legaldictionary.net/informed-consent/)指的是用戶在充分了解相關事實（包括目的、潛在風險和替代方案）的情況下同意某項行動（如數據收集）。 需要探討的問題包括： - * 用戶（資料主體）是否允許資料的收集和使用？ - * 用戶是否理解資料收集的目的？ - * 用戶是否理解參與可能帶來的潛在風險？ +* 用戶（數據主體）是否允許數據的捕獲和使用？ +* 用戶是否理解捕獲數據的目的？ +* 用戶是否理解參與可能帶來的潛在風險？ #### 2.3 知識產權 -[知識產權](https://en.wikipedia.org/wiki/Intellectual_property)指由人類創造的無形產物，這些產物可能對個人或企業具有_經濟價值_。 +[知識產權](https://en.wikipedia.org/wiki/Intellectual_property)指的是人類創造的無形產物，可能對個人或企業具有_經濟價值_。 需要探討的問題包括： - * 收集的資料是否對用戶或企業具有經濟價值？ - * **用戶**是否擁有這裡的知識產權？ - * **組織**是否擁有這裡的知識產權？ - * 如果這些權利存在，我們如何保護它們？ +* 收集的數據是否對用戶或企業具有經濟價值？ +* **用戶**是否擁有知識產權？ +* **組織**是否擁有知識產權？ +* 如果存在這些權利，我們如何保護它們？ -#### 2.4 資料隱私 +#### 2.4 數據隱私 -[資料隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指保護用戶隱私和身份，特別是與可識別個人信息相關的隱私。 +[數據隱私](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/)或信息隱私指的是保護用戶隱私和身份，特別是與可識別的個人信息相關。 需要探討的問題包括： - * 用戶的（個人）資料是否安全，防止駭客攻擊和洩漏？ - * 用戶的資料是否僅限於授權用戶和上下文訪問？ - * 在資料共享或傳播時，用戶的匿名性是否得到保護？ - * 用戶是否可以從匿名數據集中被重新識別？ +* 用戶的（個人）數據是否防止駭客攻擊和洩漏？ +* 用戶的數據是否僅限於授權用戶和上下文訪問？ +* 在數據共享或傳播時，是否保留用戶的匿名性？ +* 用戶是否可以從匿名數據集中被去識別？ -#### 2.5 被遺忘權 +#### 2.5 被遺忘的權利 -[被遺忘權](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人資料保護。具體來說，它賦予用戶在特定情況下請求刪除或移除個人資料的權利，允許他們在網上獲得一個新的開始，而不會因過去的行為受到影響。 +[被遺忘的權利](https://en.wikipedia.org/wiki/Right_to_be_forgotten)或[刪除權](https://www.gdpreu.org/right-to-be-forgotten/)為用戶提供額外的個人數據保護。具體而言，它賦予用戶在特定情況下要求刪除或移除個人數據的權利，允許他們在網上重新開始，而不受過去行動的影響。 需要探討的問題包括： - * 系統是否允許資料主體請求刪除？ - * 用戶撤回同意是否應觸發自動刪除？ - * 資料是否在未經同意或非法手段下收集？ - * 我們是否符合政府對資料隱私的法規？ +* 系統是否允許數據主體請求刪除？ +* 用戶撤回同意是否應觸發自動刪除？ +* 是否存在未經同意或非法手段收集的數據？ +* 我們是否符合政府對數據隱私的法規？ -#### 2.6 數據集偏見 +#### 2.6 數據集偏差 -數據集或[收集偏見](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指為算法開發選擇了一個_非代表性_的數據子集，可能導致對不同群體的不公平結果。偏見類型包括選擇或抽樣偏見、自願者偏見和工具偏見。 +數據集或[收集偏差](http://researcharticles.com/index.php/bias-in-data-collection-in-research/)指的是選擇_非代表性_的數據子集進行算法開發，可能導致對不同群體的結果不公平。偏差類型包括選擇或抽樣偏差、志願者偏差和工具偏差。 需要探討的問題包括： - * 我們是否招募了一個具有代表性的資料主體集合？ - * 我們是否測試了收集或管理的數據集是否存在各種偏見？ - * 我們是否可以減輕或消除發現的任何偏見？ +* 我們是否招募了代表性數據主體？ +* 我們是否測試了收集或策劃的數據集以檢測各種偏差？ +* 我們是否能減輕或消除發現的偏差？ -#### 2.7 資料質量 +#### 2.7 數據質量 -[資料質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的數據集的有效性，確保特徵和記錄符合我們AI目的所需的準確性和一致性要求。 +[數據質量](https://lakefs.io/data-quality-testing/)檢查用於開發算法的策劃數據集的有效性，確保特徵和記錄符合人工智慧目的所需的準確性和一致性要求。 需要探討的問題包括： - * 我們是否捕獲了適合我們用例的有效_特徵_？ - * 是否在不同的數據來源中_一致地_捕獲了資料？ - * 數據集是否_完整_，涵蓋了不同的條件或場景？ - * 捕獲的信息是否_準確_地反映了現實？ +* 我們是否捕獲了適合我們使用案例的有效_特徵_？ +* 數據是否在不同數據來源中_一致地_捕獲？ +* 數據集是否_完整_，涵蓋多樣化的條件或場景？ +* 捕獲的信息是否_準確_反映了現實？ #### 2.8 算法公平性 -[演算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) 是檢查演算法設計是否系統性地對特定數據主體的子群體造成歧視，導致在資源分配（_allocation_）方面（資源被拒絕或扣留）以及服務品質（_quality of service_）方面（AI對某些子群體的準確性不如其他群體）出現[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 +[演算法公平性](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) 是檢查演算法設計是否系統性地對特定數據主體的子群體造成歧視，導致在資源分配（例如拒絕或扣留該群體的資源）和服務品質（例如 AI 對某些子群體的準確性不如其他群體）方面的[潛在傷害](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml)。 -以下是需要探討的問題： +需要探討的問題包括： * 我們是否評估了模型在不同子群體和條件下的準確性？ * 我們是否仔細檢查了系統可能造成的傷害（例如刻板印象）？ * 我們是否可以修正數據或重新訓練模型以減輕已識別的傷害？ -探索像[AI公平性檢查清單](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA)等資源以了解更多。 +探索像 [AI 公平性檢查清單](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) 這樣的資源以了解更多。 #### 2.9 錯誤呈現 [數據錯誤呈現](https://www.sciencedirect.com/topics/computer-science/misrepresentation) 是指我們是否以欺騙的方式傳達來自誠實報告數據的洞察，以支持某種期望的敘述。 -以下是需要探討的問題： +需要探討的問題包括： * 我們是否報告了不完整或不準確的數據？ - * 我們是否以誤導的方式可視化數據，導致錯誤結論？ + * 我們是否以誤導性結論的方式可視化數據？ * 我們是否使用選擇性的統計技術來操控結果？ * 是否存在可能提供不同結論的替代解釋？ #### 2.10 自由選擇 -[自由選擇的幻象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) 是指系統的「選擇架構」使用決策演算法來引導人們選擇偏好的結果，同時看似給予他們選擇和控制的權利。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行動可能驅動未來的選擇，進一步放大或延伸這些傷害的影響。 +[自由選擇的假象](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) 是指系統的「選擇架構」使用決策演算法來引導人們採取偏好的結果，同時看似給予他們選擇和控制權。這些[黑暗模式](https://www.darkpatterns.org/)可能對用戶造成社會和經濟上的傷害。由於用戶的決策會影響行為檔案，這些行動可能驅動未來的選擇，進一步放大或延續這些傷害的影響。 -以下是需要探討的問題： +需要探討的問題包括： * 用戶是否理解做出該選擇的影響？ * 用戶是否了解（替代）選擇及其各自的優缺點？ - * 用戶是否能夠在事後逆轉自動化或受影響的選擇？ + * 用戶是否可以在之後撤銷自動化或受影響的選擇？ ### 3. 案例研究 -為了將這些倫理挑戰置於現實世界的背景中，研究案例研究有助於了解當忽視這些倫理問題時，可能對個人和社會造成的傷害和後果。 +為了將這些倫理挑戰置於現實世界的背景中，研究案例有助於了解當忽視這些倫理問題時，對個人和社會可能造成的傷害和後果。 以下是一些例子： | 倫理挑戰 | 案例研究 | |--- |--- | -| **知情同意** | 1972年 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙了受試者，未告知他們的診斷或治療的可用性。許多受試者死亡，其伴侶或子女也受到影響；研究持續了40年。 | -| **數據隱私** | 2007年 - [Netflix數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/)向研究人員提供了_50,000名客戶的1,000萬匿名電影評分_，以幫助改進推薦演算法。然而，研究人員能夠將匿名數據與外部數據集（例如IMDb評論）中的個人身份數據相關聯，實際上「去匿名化」了一些Netflix訂閱者。| -| **收集偏差** | 2013年 - 波士頓市[開發了Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告路面坑洞的應用程式，為城市提供更好的道路數據以發現和修復問題。然而，[低收入群體的人們較少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在此應用程式中不可見。開發者與學者合作解決_公平性和數字鴻溝_問題。 | -| **演算法公平性** | 2018年 - MIT [Gender Shades研究](http://gendershades.org/overview.html)評估了性別分類AI產品的準確性，揭示了女性和有色人種的準確性差距。一項[2019年Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/)似乎給女性提供的信用額度低於男性。這兩個例子都說明了演算法偏差導致的社會經濟傷害。| -| **數據錯誤呈現** | 2020年 - [喬治亞州公共衛生部發布COVID-19圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)，似乎通過非時間順序的x軸排列誤導公民關於確診病例趨勢的理解。這說明了通過可視化技巧進行的錯誤呈現。 | -| **自由選擇的幻象** | 2020年 - 學習應用程式[ABCmouse支付了1000萬美元以解決FTC投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被困於無法取消的訂閱付款中。這說明了選擇架構中的黑暗模式，導致用戶被引導至可能有害的選擇。 | -| **數據隱私與用戶權利** | 2021年 - Facebook [數據洩漏](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users)洩漏了5.3億用戶的數據，導致向FTC支付了50億美元的和解金。然而，它拒絕通知用戶洩漏事件，違反了用戶關於數據透明性和訪問的權利。 | - -想探索更多案例研究？查看以下資源： +| **知情同意** | 1972 - [塔斯基吉梅毒研究](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - 參與研究的非裔美國男性被承諾提供免費醫療服務，但研究人員欺騙了受試者，未告知其診斷或治療的可用性。許多受試者死亡，其伴侶或子女也受到影響；研究持續了40年。 | +| **數據隱私** | 2007 - [Netflix數據獎](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) 向研究人員提供了_50K客戶的10M匿名電影評分_以改進推薦演算法。然而，研究人員能夠將匿名數據與_外部數據集_（例如IMDb評論）中的個人身份數據相關聯，實際上「去匿名化」了一些Netflix訂閱者。| +| **收集偏差** | 2013 - 波士頓市[開發了Street Bump](https://www.boston.gov/transportation/street-bump)，一款讓市民報告路面坑洞的應用程式，幫助城市獲得更好的道路數據以發現和修復問題。然而，[低收入群體的人們較少擁有汽車和手機](https://hbr.org/2013/04/the-hidden-biases-in-big-data)，使得他們的道路問題在此應用程式中不可見。開發者與學者合作解決_公平性和數位鴻溝_問題。 | +| **演算法公平性** | 2018 - MIT [Gender Shades研究](http://gendershades.org/overview.html) 評估性別分類AI產品的準確性，揭示了女性和有色人種的準確性差距。一個[2019年Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) 似乎給女性的信用額度低於男性。這兩個例子都說明了演算法偏差導致的社會經濟傷害。| +| **數據錯誤呈現** | 2020 - [喬治亞州公共衛生部發布COVID-19圖表](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening)，似乎通過非時間順序的x軸排列誤導公民關於確診病例趨勢的理解。這說明了通過可視化技巧進行的錯誤呈現。 | +| **自由選擇的假象** | 2020 - 學習應用程式[ABCmouse支付了1000萬美元以解決FTC投訴](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/)，家長被困於無法取消的訂閱付款中。這說明了選擇架構中的黑暗模式，導致用戶做出可能有害的選擇。 | +| **數據隱私與用戶權利** | 2021 - Facebook [數據洩漏](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) 暴露了5.3億用戶的數據，導致向FTC支付了50億美元的和解金。然而，它拒絕通知用戶洩漏事件，違反了用戶關於數據透明性和訪問的權利。 | + +想要探索更多案例研究？查看以下資源： * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - 涵蓋多個行業的倫理困境。 -* [數據科學倫理課程](https://www.coursera.org/learn/data-science-ethics#syllabus) - 探討標誌性案例研究。 -* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon清單中的示例。 +* [數據科學倫理課程](https://www.coursera.org/learn/data-science-ethics#syllabus) - 探索標誌性案例研究。 +* [問題出在哪裡](https://deon.drivendata.org/examples/) - Deon清單中的案例示例。 -> 🚨 思考你所見過的案例研究——你是否曾經遇到或受到類似倫理挑戰的影響？你能否想到至少一個其他案例研究來說明我們在本節中討論的倫理挑戰之一？ +> 🚨 思考你所見過的案例研究——你是否曾經遇到或受到類似倫理挑戰的影響？你能想到至少一個其他案例研究來說明我們在本節中討論的倫理挑戰嗎？ ## 應用倫理 @@ -205,56 +201,56 @@ CO_OP_TRANSLATOR_METADATA: ### 1. 專業守則 -專業守則為組織提供了一種選擇，通過「激勵」成員支持其倫理原則和使命宣言。守則是專業行為的_道德指南_，幫助員工或成員做出符合組織原則的決策。它的效力取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰以激勵成員遵守。 +專業守則為組織提供了一種選擇，用於「激勵」成員支持其倫理原則和使命宣言。守則是專業行為的_道德指南_，幫助員工或成員做出符合組織原則的決策。它的效果取決於成員的自願遵守；然而，許多組織提供額外的獎勵和懲罰以激勵成員遵守。 -示例包括： +例子包括： - * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/)倫理守則 - * [數據科學協會](http://datascienceassn.org/code-of-conduct.html)行為守則（創建於2013年） + * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) 倫理守則 + * [數據科學協會](http://datascienceassn.org/code-of-conduct.html) 行為守則（創建於2013年） * [ACM倫理守則與專業行為守則](https://www.acm.org/code-of-ethics)（自1993年起） > 🚨 你是否屬於某個專業工程或數據科學組織？探索他們的網站，看看是否定義了專業倫理守則。這些守則說明了哪些倫理原則？他們如何「激勵」成員遵守守則？ -### 2. 倫理清單 +### 2. 倫理檢查清單 -雖然專業守則定義了從業者所需的_倫理行為_，但它在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大型項目中。因此，許多數據科學專家[提倡使用清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，這可以**將原則與實踐**更具決定性和可操作性地聯繫起來。 +雖然專業守則定義了從業者所需的_倫理行為_，但它在執行方面[存在已知的局限性](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，特別是在大規模項目中。因此，許多數據科學專家[提倡使用檢查清單](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)，以**將原則轉化為實踐**，使其更具決定性和可操作性。 -清單將問題轉化為「是/否」任務，可以被操作化，並作為標準產品發布工作流程的一部分進行跟蹤。 +檢查清單將問題轉化為「是/否」任務，可以被操作化，並作為標準產品發布工作流程的一部分進行跟蹤。 -示例包括： - * [Deon](https://deon.drivendata.org/) - 一個通用數據倫理清單，由[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於集成。 - * [隱私審核清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會暴露的角度提供信息處理實踐的一般指導。 - * [AI公平性清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由AI從業者創建，以支持公平性檢查在AI開發周期中的採用和集成。 - * [數據與AI倫理的22個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放式的框架，結構化用於設計、實施和組織背景下倫理問題的初步探索。 +例子包括： + * [Deon](https://deon.drivendata.org/) - 一個通用數據倫理檢查清單，由[行業建議](https://deon.drivendata.org/#checklist-citations)創建，並提供命令行工具以便於集成。 + * [隱私審核檢查清單](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - 從法律和社會暴露的角度提供信息處理實踐的一般指導。 + * [AI公平性檢查清單](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - 由AI從業者創建，用於支持公平性檢查的採用和集成到AI開發周期中。 + * [數據與AI倫理的22個問題](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - 更開放式的框架，結構化用於設計、實施和組織背景下的倫理問題初步探索。 ### 3. 倫理法規 -倫理是關於定義共享價值並自願做正確的事情。**合規**是指在法律定義的情況下_遵守法律_。**治理**則涵蓋了組織為執行倫理原則和遵守既定法律所採取的所有方式。 +倫理是關於定義共享價值並自願做正確的事情。**合規**是指在法律定義的情況下_遵守法律_。**治理**則涵蓋了組織運作以執行倫理原則並遵守既定法律的所有方式。 -今天，治理在組織內部有兩種形式。首先，它是關於定義**倫理AI**原則並建立實踐，以在組織內所有與AI相關的項目中實現採用。其次，它是關於遵守所有政府規定的**數據保護法規**，以適應其運營的地區。 +今天，治理在組織內部有兩種形式。首先，它是關於定義**倫理AI**原則並建立實踐以實現所有與AI相關項目中的採用。其次，它是關於遵守所有政府規定的**數據保護法規**，以適應其運營的地區。 -數據保護和隱私法規的示例： +數據保護和隱私法規的例子： * `1974年`，[美國隱私法案](https://www.justice.gov/opcl/privacy-act-1974) - 規範_聯邦政府_收集、使用和披露個人信息。 * `1996年`，[美國健康保險流通與責任法案（HIPAA）](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - 保護個人健康數據。 * `1998年`，[美國兒童在線隱私保護法案（COPPA）](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 保護13歲以下兒童的數據隱私。 * `2018年`，[通用數據保護法規（GDPR）](https://gdpr-info.eu/) - 提供用戶權利、數據保護和隱私。 - * `2018年`，[加州消費者隱私法案（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 賦予消費者更多_個人數據_的權利。 - * `2021年`，中國[個人信息保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/)剛剛通過，創造了全球最強的在線數據隱私法規之一。 + * `2018年`，[加州消費者隱私法案（CCPA）](https://www.oag.ca.gov/privacy/ccpa) - 賦予消費者更多對其（個人）數據的_權利_。 + * `2021年`，中國[個人信息保護法](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) 剛剛通過，創造了全球最強的在線數據隱私法規之一。 -> 🚨 歐盟定義的GDPR（通用數據保護法規）仍然是今天最具影響力的數據隱私法規之一。你知道它還定義了[8項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)以保護公民的數字隱私和個人數據嗎？了解這些權利是什麼以及它們為什麼重要。 +> 🚨 歐盟定義的GDPR（通用數據保護法規）仍然是今天最具影響力的數據隱私法規之一。你知道它還定義了[8項用戶權利](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr)以保護公民的數字隱私和個人數據嗎？了解這些權利是什麼，以及它們為什麼重要。 ### 4. 倫理文化 -注意，仍然存在一個無形的差距，即_合規_（做足以滿足「法律條文」的要求）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（例如僵化、信息不對稱和分配不公平）之間的差距，這些問題可能加速AI的武器化。 +注意，仍然存在一個無形的差距，即_合規_（做到足以符合「法律的字面要求」）與解決[系統性問題](https://www.coursera.org/learn/data-science-ethics/home/week/4)（例如僵化、信息不對稱和分配不公平）之間的差距，這些問題可能加速AI的武器化。 -後者需要[協作方法來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，以在行業內建立情感聯繫和一致的共享價值。這需要在組織內建立更[正式化的數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture)，允許_任何人_在過程早期[拉動安燈繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（提出倫理問題），並將_倫理評估_（例如在招聘中）作為AI項目團隊組建的核心標準。 +後者需要[協作方式來定義倫理文化](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f)，以在行業內建立情感聯繫和一致的共享價值。這需要在組織內部[正式化數據倫理文化](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/)——允許_任何人_ [拉動Andon繩](https://en.wikipedia.org/wiki/Andon_(manufacturing))（在過程早期提出倫理問題），並將_倫理評估_（例如在招聘中）作為AI項目團隊組建的核心標準。 --- -## [課後測驗](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [課後測驗](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## 回顧與自學 -課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具有助於在現實世界中應用倫理實踐。以下是一些入門資源： +課程和書籍有助於理解核心倫理概念和挑戰，而案例研究和工具有助於在現實世界中應用倫理實踐。以下是一些入門資源。 * [初學者的機器學習](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - 來自Microsoft的公平性課程。 * [負責任人工智慧的原則](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - Microsoft Learn 提供的免費學習路徑。 @@ -266,5 +262,7 @@ CO_OP_TRANSLATOR_METADATA: [撰寫一篇數據倫理案例研究](assignment.md) +--- + **免責聲明**： -本文件使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。雖然我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵信息，建議使用專業人工翻譯。我們對因使用此翻譯而產生的任何誤解或錯誤解釋不承擔責任。 \ No newline at end of file +本文件已使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。儘管我們努力確保翻譯的準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。原始文件的母語版本應被視為權威來源。對於關鍵資訊，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋不承擔責任。 \ No newline at end of file diff --git a/translations/uk/1-Introduction/02-ethics/README.md b/translations/uk/1-Introduction/02-ethics/README.md index 9c01ddcf..9ad245b0 100644 --- a/translations/uk/1-Introduction/02-ethics/README.md +++ b/translations/uk/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@ # ڈیٹا اخلاقیات کا تعارف -|![ [(@sketchthedocs)](https://sketchthedocs.dev) کی اسکیچ نوٹ ](../../sketchnotes/02-Ethics.png)| +|![ اسکیچ نوٹ [(@sketchthedocs)](https://sketchthedocs.dev) کی طرف سے ](../../sketchnotes/02-Ethics.png)| |:---:| -| ڈیٹا سائنس اخلاقیات - _[@nitya](https://twitter.com/nitya) کی اسکیچ نوٹ_ | +| ڈیٹا سائنس اخلاقیات - _اسکیچ نوٹ [@nitya](https://twitter.com/nitya) کی طرف سے_ | --- -ہم سب ایک ایسے دنیا میں رہتے ہیں جو مکمل طور پر ڈیٹا پر مبنی ہو چکی ہے۔ +ہم سب ایک ڈیٹا سے بھرپور دنیا میں ڈیٹا کے شہری ہیں۔ -مارکیٹ کے رجحانات بتاتے ہیں کہ 2022 تک، ہر تین میں سے ایک بڑی تنظیم اپنا ڈیٹا آن لائن [مارکیٹ پلیسز اور ایکسچینجز](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) کے ذریعے خریدے گی اور بیچے گی۔ بطور **ایپ ڈویلپرز**، ہمارے لیے ڈیٹا پر مبنی بصیرتوں اور الگورتھم پر مبنی خودکار نظاموں کو روزمرہ کے صارف تجربات میں شامل کرنا آسان اور سستا ہو جائے گا۔ لیکن جیسے جیسے AI عام ہوتا جا رہا ہے، ہمیں یہ بھی سمجھنا ہوگا کہ بڑے پیمانے پر ان الگورتھمز کے [ہتھیار بننے](https://www.youtube.com/watch?v=TQHs8SA1qpk) سے کیا ممکنہ نقصانات ہو سکتے ہیں۔ +مارکیٹ کے رجحانات بتاتے ہیں کہ 2022 تک، ہر تین میں سے ایک بڑی تنظیم اپنا ڈیٹا آن لائن [مارکیٹ پلیسز اور ایکسچینجز](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/) کے ذریعے خریدے گی اور بیچے گی۔ بطور **ایپ ڈویلپرز**، ہمارے لیے ڈیٹا سے چلنے والی بصیرتوں اور الگورتھم سے چلنے والی خودکاریت کو روزمرہ کے صارف تجربات میں شامل کرنا آسان اور سستا ہوگا۔ لیکن جیسے جیسے AI عام ہوتا جا رہا ہے، ہمیں یہ بھی سمجھنا ہوگا کہ بڑے پیمانے پر ان الگورتھمز کے [ہتھیار سازی](https://www.youtube.com/watch?v=TQHs8SA1qpk) سے ممکنہ نقصانات کیا ہو سکتے ہیں۔ -رجحانات یہ بھی ظاہر کرتے ہیں کہ ہم 2025 تک [180 زیٹابائٹس](https://www.statista.com/statistics/871513/worldwide-data-created/) سے زیادہ ڈیٹا تخلیق اور استعمال کریں گے۔ بطور **ڈیٹا سائنسدان**، یہ ہمیں ذاتی ڈیٹا تک بے مثال رسائی فراہم کرتا ہے۔ اس کا مطلب یہ ہے کہ ہم صارفین کے رویوں کے پروفائل بنا سکتے ہیں اور فیصلہ سازی پر اثر ڈال سکتے ہیں، جس سے ایک [آزاد انتخاب کا دھوکہ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) پیدا ہو سکتا ہے، جبکہ ممکنہ طور پر صارفین کو ان نتائج کی طرف دھکیل سکتے ہیں جو ہم چاہتے ہیں۔ یہ ڈیٹا کی پرائیویسی اور صارف کے تحفظات پر وسیع تر سوالات بھی اٹھاتا ہے۔ +رجحانات یہ بھی ظاہر کرتے ہیں کہ ہم 2025 تک [180 زیٹا بائٹس](https://www.statista.com/statistics/871513/worldwide-data-created/) سے زیادہ ڈیٹا تخلیق کریں گے اور استعمال کریں گے۔ بطور **ڈیٹا سائنسدان**، یہ ہمیں ذاتی ڈیٹا تک بے مثال رسائی فراہم کرتا ہے۔ اس کا مطلب ہے کہ ہم صارفین کے رویے کے پروفائل بنا سکتے ہیں اور فیصلہ سازی پر اثر ڈال سکتے ہیں، جس سے ایک [آزاد انتخاب کا دھوکہ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) پیدا ہو سکتا ہے، جبکہ ممکنہ طور پر صارفین کو ان نتائج کی طرف دھکیل سکتے ہیں جو ہمیں پسند ہیں۔ یہ ڈیٹا کی پرائیویسی اور صارف تحفظات پر وسیع سوالات بھی اٹھاتا ہے۔ -ڈیٹا اخلاقیات اب ڈیٹا سائنس اور انجینئرنگ کے لیے _ضروری حفاظتی اصول_ بن چکے ہیں، جو ہمیں ڈیٹا پر مبنی اقدامات سے ممکنہ نقصانات اور غیر ارادی نتائج کو کم کرنے میں مدد دیتے ہیں۔ [گارٹنر ہائپ سائیکل برائے AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ڈیجیٹل اخلاقیات، ذمہ دار AI، اور AI گورننس میں رجحانات کو بڑے میگا رجحانات کے کلیدی ڈرائیورز کے طور پر شناخت کرتا ہے، جیسے کہ AI کی _جمہوریت سازی_ اور _صنعت کاری_۔ +ڈیٹا اخلاقیات اب ڈیٹا سائنس اور انجینئرنگ کے لیے _ضروری حفاظتی اصول_ ہیں، جو ہمارے ڈیٹا سے چلنے والے اقدامات کے ممکنہ نقصانات اور غیر ارادی نتائج کو کم کرنے میں مدد کرتے ہیں۔ [گارٹنر ہائپ سائیکل برائے AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) ڈیجیٹل اخلاقیات، ذمہ دار AI، اور AI گورننس میں متعلقہ رجحانات کو بڑے رجحانات کے کلیدی محرکات کے طور پر شناخت کرتا ہے، جیسے AI کی _جمہوریت سازی_ اور _صنعت کاری_۔ ![گارٹنر کا ہائپ سائیکل برائے AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -اس سبق میں، ہم ڈیٹا اخلاقیات کے دلچسپ میدان کو دریافت کریں گے - بنیادی تصورات اور چیلنجز سے لے کر کیس اسٹڈیز اور عملی AI تصورات جیسے گورننس تک - جو ان ٹیموں اور تنظیموں میں اخلاقیات کی ثقافت قائم کرنے میں مدد دیتے ہیں جو ڈیٹا اور AI کے ساتھ کام کرتی ہیں۔ +اس سبق میں، ہم ڈیٹا اخلاقیات کے دلچسپ علاقے کو دریافت کریں گے - بنیادی تصورات اور چیلنجز سے لے کر کیس اسٹڈیز اور AI کے عملی تصورات جیسے گورننس - جو ڈیٹا اور AI کے ساتھ کام کرنے والی ٹیموں اور تنظیموں میں اخلاقیات کی ثقافت قائم کرنے میں مدد کرتے ہیں۔ ## [لیکچر سے پہلے کا کوئز](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -33,163 +33,166 @@ CO_OP_TRANSLATOR_METADATA: آئیے بنیادی اصطلاحات کو سمجھنے سے شروع کرتے ہیں۔ -"اخلاقیات" کا لفظ [یونانی لفظ "ethikos"](https://en.wikipedia.org/wiki/Ethics) (اور اس کی جڑ "ethos") سے آیا ہے، جس کا مطلب ہے _کردار یا اخلاقی فطرت_۔ +لفظ "اخلاقیات" [یونانی لفظ "ethikos"](https://en.wikipedia.org/wiki/Ethics) (اور اس کی جڑ "ethos") سے آیا ہے، جس کا مطلب ہے _کردار یا اخلاقی فطرت_۔ -**اخلاقیات** ان مشترکہ اقدار اور اخلاقی اصولوں کے بارے میں ہیں جو معاشرے میں ہمارے رویے کو کنٹرول کرتے ہیں۔ اخلاقیات قوانین پر مبنی نہیں ہیں بلکہ اس بات پر مبنی ہیں کہ "صحیح اور غلط" کے بارے میں کیا وسیع پیمانے پر قبول کیا جاتا ہے۔ تاہم، اخلاقی غور و فکر کارپوریٹ گورننس کے اقدامات اور حکومتی ضوابط کو متاثر کر سکتے ہیں جو تعمیل کے لیے مزید ترغیبات پیدا کرتے ہیں۔ +**اخلاقیات** ان مشترکہ اقدار اور اخلاقی اصولوں کے بارے میں ہیں جو معاشرے میں ہمارے رویے کو کنٹرول کرتے ہیں۔ اخلاقیات قوانین پر مبنی نہیں ہیں بلکہ اس بات پر مبنی ہیں کہ "صحیح بمقابلہ غلط" کیا ہے۔ تاہم، اخلاقی غور و فکر کارپوریٹ گورننس اقدامات اور حکومتی ضوابط کو متاثر کر سکتے ہیں، جو تعمیل کے لیے مزید مراعات پیدا کرتے ہیں۔ **ڈیٹا اخلاقیات** اخلاقیات کی ایک [نئی شاخ](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) ہے جو "_ڈیٹا، الگورتھمز اور متعلقہ طریقوں_" سے متعلق اخلاقی مسائل کا مطالعہ اور جائزہ لیتی ہے۔ یہاں، **"ڈیٹا"** ان اعمال پر مرکوز ہے جو تخلیق، ریکارڈنگ، کیوریشن، پروسیسنگ، تقسیم، اشتراک، اور استعمال سے متعلق ہیں، **"الگورتھمز"** AI، ایجنٹس، مشین لرننگ، اور روبوٹس پر مرکوز ہیں، اور **"طریقے"** ذمہ دارانہ جدت، پروگرامنگ، ہیکنگ، اور اخلاقیات کے ضابطوں جیسے موضوعات پر مرکوز ہیں۔ -**عملی اخلاقیات** اخلاقی غور و فکر کے [عملی اطلاق](https://en.wikipedia.org/wiki/Applied_ethics) کا نام ہے۔ یہ _حقیقی دنیا کے اعمال، مصنوعات، اور عمل_ کے سیاق و سباق میں اخلاقی مسائل کی فعال طور پر تحقیق کرنے اور ان کو درست کرنے کے اقدامات کرنے کا عمل ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ ہمارے بیان کردہ اخلاقی اقدار کے مطابق رہیں۔ +**عملی اخلاقیات** اخلاقی غور و فکر کے [عملی اطلاق](https://en.wikipedia.org/wiki/Applied_ethics) کے بارے میں ہیں۔ یہ _حقیقی دنیا کے اعمال، مصنوعات، اور عمل_ کے سیاق و سباق میں اخلاقی مسائل کی فعال طور پر تحقیق کرنے اور اصلاحی اقدامات کرنے کا عمل ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ ہماری بیان کردہ اخلاقی اقدار کے مطابق رہیں۔ -**اخلاقیات کی ثقافت** [_عملی اخلاقیات کو عملی جامہ پہنانے_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) کے بارے میں ہے تاکہ یہ یقینی بنایا جا سکے کہ ہمارے اخلاقی اصول اور طریقے پوری تنظیم میں مستقل اور قابل پیمائش انداز میں اپنائے جائیں۔ کامیاب اخلاقی ثقافتیں تنظیمی سطح پر اخلاقی اصولوں کی وضاحت کرتی ہیں، تعمیل کے لیے بامعنی ترغیبات فراہم کرتی ہیں، اور ہر سطح پر مطلوبہ رویوں کو فروغ دے کر اخلاقی اصولوں کو تقویت دیتی ہیں۔ +**اخلاقیات کی ثقافت** [_عملی اخلاقیات کو عملی جامہ پہنانے_](https://hbr.org/2019/05/how-to-design-an-ethical-organization) کے بارے میں ہے تاکہ یہ یقینی بنایا جا سکے کہ ہماری اخلاقی اصول اور طریقے پورے تنظیم میں مستقل اور قابل پیمانہ انداز میں اپنائے جائیں۔ کامیاب اخلاقیات کی ثقافتیں تنظیمی سطح پر اخلاقی اصولوں کی وضاحت کرتی ہیں، تعمیل کے لیے بامعنی مراعات فراہم کرتی ہیں، اور ہر سطح پر مطلوبہ رویوں کو فروغ دے کر اور بڑھا کر اخلاقیات کے اصولوں کو تقویت دیتی ہیں۔ ## اخلاقیات کے تصورات -اس حصے میں، ہم **مشترکہ اقدار** (اصول) اور **اخلاقی چیلنجز** (مسائل) جیسے تصورات پر بات کریں گے اور **کیس اسٹڈیز** کا جائزہ لیں گے جو آپ کو حقیقی دنیا کے سیاق و سباق میں ان تصورات کو سمجھنے میں مدد دیتے ہیں۔ +اس حصے میں، ہم **مشترکہ اقدار** (اصول) اور **اخلاقی چیلنجز** (مسائل) جیسے تصورات پر بات کریں گے، اور **کیس اسٹڈیز** کا جائزہ لیں گے جو آپ کو حقیقی دنیا کے سیاق و سباق میں ان تصورات کو سمجھنے میں مدد فراہم کریں گے۔ -### 1. اخلاقی اصول +### 1. اخلاقیات کے اصول -ہر ڈیٹا اخلاقیات کی حکمت عملی _اخلاقی اصولوں_ کی وضاحت سے شروع ہوتی ہے - وہ "مشترکہ اقدار" جو قابل قبول رویوں کو بیان کرتی ہیں اور ہمارے ڈیٹا اور AI منصوبوں میں تعمیل کے اقدامات کی رہنمائی کرتی ہیں۔ آپ ان کی وضاحت انفرادی یا ٹیم کی سطح پر کر سکتے ہیں۔ تاہم، زیادہ تر بڑی تنظیمیں ان کی وضاحت ایک _اخلاقی AI_ مشن بیان یا فریم ورک میں کرتی ہیں جو کارپوریٹ سطح پر بیان کیا جاتا ہے اور تمام ٹیموں میں مستقل طور پر نافذ کیا جاتا ہے۔ +ہر ڈیٹا اخلاقیات کی حکمت عملی _اخلاقی اصولوں_ کی وضاحت سے شروع ہوتی ہے - وہ "مشترکہ اقدار" جو قابل قبول رویوں کو بیان کرتی ہیں اور ہمارے ڈیٹا اور AI منصوبوں میں تعمیل کے اقدامات کی رہنمائی کرتی ہیں۔ آپ ان اصولوں کو انفرادی یا ٹیم کی سطح پر بیان کر سکتے ہیں۔ تاہم، زیادہ تر بڑی تنظیمیں ان اصولوں کو ایک _اخلاقی AI_ مشن بیان یا فریم ورک میں بیان کرتی ہیں، جو کارپوریٹ سطح پر بیان کیا جاتا ہے اور تمام ٹیموں میں مستقل طور پر نافذ کیا جاتا ہے۔ -**مثال:** مائیکروسافٹ کا [ذمہ دار AI](https://www.microsoft.com/en-us/ai/responsible-ai) مشن بیان کہتا ہے: _"ہم AI کی ترقی کے لیے پرعزم ہیں جو اخلاقی اصولوں کے ذریعے لوگوں کو اولین ترجیح دیتا ہے"_ - جو نیچے دیے گئے فریم ورک میں 6 اخلاقی اصولوں کی نشاندہی کرتا ہے: +**مثال:** مائیکروسافٹ کا [ذمہ دار AI](https://www.microsoft.com/en-us/ai/responsible-ai) مشن بیان کہتا ہے: _"ہم AI کی ترقی کے لیے پرعزم ہیں جو اخلاقی اصولوں پر مبنی ہو جو لوگوں کو اولین ترجیح دے"_ - اور نیچے دیے گئے فریم ورک میں 6 اخلاقی اصولوں کی نشاندہی کرتا ہے: ![مائیکروسافٹ میں ذمہ دار AI](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) -آئیے ان اصولوں کا مختصر جائزہ لیں۔ _شفافیت_ اور _جوابدہی_ بنیادی اقدار ہیں جن پر دیگر اصول تعمیر کیے گئے ہیں - تو آئیے یہاں سے شروع کرتے ہیں: +آئیے ان اصولوں کو مختصراً دریافت کریں۔ _شفافیت_ اور _جوابدہی_ بنیادی اقدار ہیں جن پر دیگر اصول تعمیر کیے گئے ہیں - تو آئیے یہاں سے شروع کریں: * [**جوابدہی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) پریکٹیشنرز کو ان کے ڈیٹا اور AI آپریشنز اور ان اخلاقی اصولوں کی تعمیل کے لیے _ذمہ دار_ بناتی ہے۔ -* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اس بات کو یقینی بناتی ہے کہ ڈیٹا اور AI کے اقدامات صارفین کے لیے _سمجھے جانے کے قابل_ ہوں، فیصلوں کے پیچھے کیا اور کیوں کی وضاحت کرتے ہوئے۔ -* [**منصفانہ رویہ**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - اس بات پر مرکوز ہے کہ AI تمام لوگوں کے ساتھ _منصفانہ_ سلوک کرے، ڈیٹا اور نظام میں کسی بھی نظامی یا مضمر سماجی-تکنیکی تعصبات کو حل کرے۔ -* [**قابل اعتماد اور حفاظت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - اس بات کو یقینی بناتی ہے کہ AI _مستقل طور پر_ بیان کردہ اقدار کے مطابق برتاؤ کرے، ممکنہ نقصانات یا غیر ارادی نتائج کو کم کرے۔ -* [**پرائیویسی اور سیکیورٹی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ڈیٹا کے ماخذ کو سمجھنے اور صارفین کو _ڈیٹا پرائیویسی اور متعلقہ تحفظات_ فراہم کرنے کے بارے میں ہے۔ +* [**شفافیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) اس بات کو یقینی بناتی ہے کہ ڈیٹا اور AI کے اقدامات صارفین کے لیے _سمجھنے کے قابل_ ہوں، فیصلوں کے پیچھے کیا اور کیوں کی وضاحت کرتے ہوئے۔ +* [**انصاف**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - اس بات پر مرکوز ہے کہ AI تمام لوگوں کے ساتھ _منصفانہ_ سلوک کرے، ڈیٹا اور نظام میں کسی بھی نظامی یا غیر واضح سماجی-تکنیکی تعصبات کو حل کرے۔ +* [**قابل اعتمادیت اور حفاظت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - اس بات کو یقینی بناتی ہے کہ AI _مخصوص اقدار_ کے ساتھ مستقل طور پر کام کرے، ممکنہ نقصانات یا غیر ارادی نتائج کو کم کرے۔ +* [**پرائیویسی اور سیکیورٹی**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - ڈیٹا کی اصل کو سمجھنے اور صارفین کو _ڈیٹا پرائیویسی اور متعلقہ تحفظات_ فراہم کرنے کے بارے میں ہے۔ * [**شمولیت**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - AI حل کو ارادے کے ساتھ ڈیزائن کرنے کے بارے میں ہے، انہیں _وسیع انسانی ضروریات_ اور صلاحیتوں کو پورا کرنے کے لیے ڈھالنا۔ -> 🚨 سوچیں کہ آپ کا ڈیٹا اخلاقیات کا مشن بیان کیا ہو سکتا ہے۔ دیگر تنظیموں کے اخلاقی AI فریم ورک کو دریافت کریں - یہاں [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [Google](https://ai.google/principles)، اور [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) کی مثالیں ہیں۔ ان میں کون سی مشترکہ اقدار ہیں؟ یہ اصول ان کے AI پروڈکٹ یا صنعت سے کیسے متعلق ہیں؟ +> 🚨 سوچیں کہ آپ کا ڈیٹا اخلاقیات مشن بیان کیا ہو سکتا ہے۔ دیگر تنظیموں کے اخلاقی AI فریم ورک کو دریافت کریں - یہاں [IBM](https://www.ibm.com/cloud/learn/ai-ethics)، [Google](https://ai.google/principles)، اور [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/) کی مثالیں ہیں۔ ان میں کون سی مشترکہ اقدار ہیں؟ یہ اصول ان کے AI پروڈکٹ یا صنعت سے کیسے متعلق ہیں؟ -### 2. اخلاقی چیلنجز +### 2. اخلاقیات کے چیلنجز -جب ہم اخلاقی اصولوں کی وضاحت کر لیتے ہیں، تو اگلا قدم یہ ہے کہ ہم اپنے ڈیٹا اور AI کے اقدامات کا جائزہ لیں تاکہ یہ دیکھا جا سکے کہ آیا وہ ان مشترکہ اقدار کے مطابق ہیں۔ اپنے اقدامات کو دو زمروں میں سوچیں: _ڈیٹا اکٹھا کرنا_ اور _الگورتھم ڈیزائن_۔ +جب ہم اخلاقی اصولوں کی وضاحت کر لیتے ہیں، تو اگلا قدم یہ ہے کہ ہمارے ڈیٹا اور AI اقدامات کا جائزہ لیا جائے کہ آیا وہ ان مشترکہ اقدار کے مطابق ہیں۔ اپنے اقدامات کو دو زمروں میں سوچیں: _ڈیٹا جمع کرنا_ اور _الگورتھم ڈیزائن_۔ -ڈیٹا اکٹھا کرنے کے ساتھ، اقدامات ممکنہ طور پر **ذاتی ڈیٹا** یا ذاتی طور پر قابل شناخت معلومات (PII) پر مشتمل ہوں گے جو زندہ افراد کی شناخت کر سکتی ہیں۔ اس میں [غیر ذاتی ڈیٹا کی مختلف اشیاء](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) شامل ہیں جو _اجتماعی طور پر_ کسی فرد کی شناخت کرتی ہیں۔ اخلاقی چیلنجز _ڈیٹا پرائیویسی_، _ڈیٹا کی ملکیت_، اور متعلقہ موضوعات جیسے _مطلع رضامندی_ اور صارفین کے لیے _دانشورانہ املاک کے حقوق_ سے متعلق ہو سکتے ہیں۔ +ڈیٹا جمع کرنے کے ساتھ، اقدامات ممکنہ طور پر **ذاتی ڈیٹا** یا ذاتی طور پر قابل شناخت معلومات (PII) شامل کریں گے جو زندہ افراد کی شناخت کر سکتی ہیں۔ اس میں [غیر ذاتی ڈیٹا کی متنوع اشیاء](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) شامل ہیں جو _اجتماعی طور پر_ کسی فرد کی شناخت کرتی ہیں۔ اخلاقی چیلنجز _ڈیٹا پرائیویسی_، _ڈیٹا کی ملکیت_، اور متعلقہ موضوعات جیسے _مطلع رضامندی_ اور صارفین کے لیے _دانشورانہ املاک کے حقوق_ سے متعلق ہو سکتے ہیں۔ -الگورتھم ڈیزائن کے ساتھ، اقدامات میں **ڈیٹاسیٹس** کو جمع کرنا اور ترتیب دینا شامل ہوگا، پھر ان کا استعمال کرتے ہوئے **ڈیٹا ماڈلز** کو تربیت دینا اور تعینات کرنا جو حقیقی دنیا کے سیاق و سباق میں نتائج کی پیش گوئی کرتے ہیں یا فیصلے خودکار بناتے ہیں۔ اخلاقی چیلنجز _ڈیٹاسیٹ کے تعصب_، _ڈیٹا کے معیار_ کے مسائل، _غیر منصفانہ رویہ_، اور الگورتھمز میں _غلط بیانی_ سے پیدا ہو سکتے ہیں - بشمول کچھ مسائل جو نظامی نوعیت کے ہیں۔ +الگورتھم ڈیزائن کے ساتھ، اقدامات **ڈیٹا سیٹس** جمع کرنے اور ان کا انتظام کرنے، پھر انہیں حقیقی دنیا کے سیاق و سباق میں نتائج کی پیش گوئی یا فیصلوں کو خودکار کرنے کے لیے **ڈیٹا ماڈلز** کو تربیت دینے اور تعینات کرنے پر مشتمل ہوں گے۔ اخلاقی چیلنجز _ڈیٹا سیٹ کے تعصب_، _ڈیٹا کے معیار_ کے مسائل، _غیر منصفانہ_ اور _غلط بیانی_ میں الگورتھمز میں پیدا ہو سکتے ہیں - بشمول کچھ مسائل جو نظامی نوعیت کے ہیں۔ -دونوں صورتوں میں، اخلاقی چیلنجز ان علاقوں کو اجاگر کرتے ہیں جہاں ہمارے اقدامات ہمارے مشترکہ اقدار کے ساتھ تنازعہ پیدا کر سکتے ہیں۔ ان خدشات کا پتہ لگانے، ان کو کم کرنے، کم سے کم کرنے، یا ختم کرنے کے لیے - ہمیں اپنے اقدامات سے متعلق اخلاقی "ہاں/نہیں" سوالات پوچھنے کی ضرورت ہے، پھر ضرورت کے مطابق اصلاحی اقدامات کریں۔ آئیے کچھ اخلاقی چیلنجز اور ان کے اٹھائے گئے اخلاقی سوالات پر نظر ڈالیں: +دونوں صورتوں میں، اخلاقیات کے چیلنجز ان علاقوں کو اجاگر کرتے ہیں جہاں ہمارے اقدامات ہمارے مشترکہ اقدار کے ساتھ تنازعہ پیدا کر سکتے ہیں۔ ان خدشات کا پتہ لگانے، کم کرنے، کم سے کم کرنے، یا ختم کرنے کے لیے - ہمیں اپنے اقدامات سے متعلق اخلاقی "ہاں/نہیں" سوالات پوچھنے کی ضرورت ہے، پھر ضرورت کے مطابق اصلاحی اقدامات کریں۔ آئیے کچھ اخلاقی چیلنجز اور ان کے اٹھائے گئے اخلاقی سوالات پر نظر ڈالیں: #### 2.1 ڈیٹا کی ملکیت -ڈیٹا اکٹھا کرنا اکثر ذاتی ڈیٹا پر مشتمل ہوتا ہے جو ڈیٹا کے موضوعات کی شناخت کر سکتا ہے۔ [ڈیٹا کی ملکیت](https://permission.io/blog/data-ownership) ڈیٹا کی تخلیق، پروسیسنگ، اور تقسیم سے متعلق _کنٹرول_ اور [_صارف کے حقوق_](https://permission.io/blog/data-ownership) کے بارے میں ہے۔ +ڈیٹا جمع کرنا اکثر ذاتی ڈیٹا شامل کرتا ہے جو ڈیٹا کے موضوعات کی شناخت کر سکتا ہے۔ [ڈیٹا کی ملکیت](https://permission.io/blog/data-ownership) ڈیٹا کی تخلیق، پروسیسنگ، اور تقسیم سے متعلق _کنٹرول_ اور [_صارف کے حقوق_](https://permission.io/blog/data-ownership) کے بارے میں ہے۔ -ہمیں جو اخلاقی سوالات پوچھنے کی ضرورت ہے: -* ڈیٹا کا مالک کون ہے؟ (صارف یا تنظیم) -* ڈیٹا کے موضوعات کے کیا حقوق ہیں؟ (مثلاً: رسائی، حذف، پورٹیبلٹی) -* تنظیم کے کیا حقوق ہیں؟ (مثلاً: بدنیتی پر مبنی صارف کے جائزوں کو درست کرنا) +اخلاقی سوالات جو ہمیں پوچھنے کی ضرورت ہے: + * ڈیٹا کا مالک کون ہے؟ (صارف یا تنظیم) + * ڈیٹا کے موضوعات کے کیا حقوق ہیں؟ (مثلاً: رسائی، حذف، پورٹیبلٹی) + * تنظیموں کے کیا حقوق ہیں؟ (مثلاً: بدنیتی پر مبنی صارف جائزوں کو درست کرنا) #### 2.2 مطلع رضامندی -[مطلع رضامندی](https://legaldictionary.net/informed-consent/) اس عمل کی وضاحت کرتی ہے جس میں صارفین کسی عمل (جیسے ڈیٹا اکٹھا کرنا) پر _مکمل معلومات_ کے ساتھ رضامندی دیتے ہیں، بشمول مقصد، ممکنہ خطرات، اور متبادلات۔ +[مطلع رضامندی](https://legaldictionary.net/informed-consent/) صارفین کے کسی عمل (جیسے ڈیٹا جمع کرنا) پر اتفاق کرنے کے عمل کی وضاحت کرتی ہے، جس میں متعلقہ حقائق کی _مکمل سمجھ_ شامل ہوتی ہے، بشمول مقصد، ممکنہ خطرات، اور متبادل۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا صارف (ڈیٹا کا موضوع) نے ڈیٹا کیپچر اور استعمال کی اجازت دی؟ -* کیا صارف نے سمجھا کہ یہ ڈیٹا کس مقصد کے لیے اکٹھا کیا گیا؟ -* کیا صارف نے اپنی شرکت سے ممکنہ خطرات کو سمجھا؟ +یہاں دریافت کرنے کے سوالات: + * کیا صارف (ڈیٹا کا موضوع) نے ڈیٹا کیپچر اور استعمال کی اجازت دی؟ + * کیا صارف نے اس مقصد کو سمجھا جس کے لیے وہ ڈیٹا جمع کیا گیا تھا؟ + * کیا صارف نے اپنی شرکت سے ممکنہ خطرات کو سمجھا؟ #### 2.3 دانشورانہ املاک -[دانشورانہ املاک](https://en.wikipedia.org/wiki/Intellectual_property) انسانی پہل سے پیدا ہونے والی غیر مادی تخلیقات کو کہتے ہیں، جو افراد یا کاروبار کے لیے _معاشی قدر_ رکھ سکتی ہیں۔ +[دانشورانہ املاک](https://en.wikipedia.org/wiki/Intellectual_property) انسانی پہل سے پیدا ہونے والی غیر محسوس تخلیقات کو ظاہر کرتی ہے، جو افراد یا کاروبار کے لیے _معاشی قدر_ رکھ سکتی ہیں۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا جمع کیا گیا ڈیٹا صارف یا کاروبار کے لیے معاشی قدر رکھتا ہے؟ -* کیا یہاں **صارف** کی دانشورانہ املاک موجود ہے؟ -* کیا یہاں **تنظیم** کی دانشورانہ املاک موجود ہے؟ -* اگر یہ حقوق موجود ہیں، تو ہم انہیں کیسے محفوظ کر رہے ہیں؟ +یہاں دریافت کرنے کے سوالات: + * کیا جمع کردہ ڈیٹا صارف یا کاروبار کے لیے معاشی قدر رکھتا ہے؟ + * کیا یہاں **صارف** کے پاس دانشورانہ املاک ہے؟ + * کیا یہاں **تنظیم** کے پاس دانشورانہ املاک ہے؟ + * اگر یہ حقوق موجود ہیں، تو ہم انہیں کیسے محفوظ کر رہے ہیں؟ #### 2.4 ڈیٹا پرائیویسی [ڈیٹا پرائیویسی](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) یا معلومات کی پرائیویسی صارف کی شناخت کے تحفظ اور ذاتی طور پر قابل شناخت معلومات کے تحفظ سے متعلق ہے۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا صارفین کا (ذاتی) ڈیٹا ہیکس اور لیکس سے محفوظ ہے؟ -* کیا صارفین کا ڈیٹا صرف مجاز صارفین اور سیاق و سباق تک رسائی رکھتا ہے؟ -* کیا صارفین کی گمنامی کو ڈیٹا کے اشتراک یا تقسیم کے وقت محفوظ رکھا گیا؟ -* کیا صارف کو گمنام ڈیٹاسیٹس سے دوبارہ شناخت کیا جا سکتا ہے؟ +یہاں دریافت کرنے کے سوالات: + * کیا صارفین کا (ذاتی) ڈیٹا ہیک اور لیک سے محفوظ ہے؟ + * کیا صارفین کا ڈیٹا صرف مجاز صارفین اور سیاق و سباق تک قابل رسائی ہے؟ + * کیا ڈیٹا کے اشتراک یا تقسیم کے وقت صارفین کی گمنامی محفوظ ہے؟ + * کیا صارف کو گمنام ڈیٹا سیٹس سے دوبارہ شناخت کیا جا سکتا ہے؟ #### 2.5 بھول جانے کا حق -[بھول جانے کا حق](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حذف کا حق](https://www.gdpreu.org/right-to-be-forgotten/) صارفین کو اضافی ذاتی ڈیٹا کے تحفظ فراہم کرتا ہے۔ خاص طور پر، یہ صارفین کو انٹرنیٹ تلاشوں اور دیگر مقامات سے ذاتی ڈیٹا کو حذف کرنے یا ہٹانے کی درخواست کرنے کا حق دیتا ہے، _مخصوص حالات کے تحت_ - انہیں آن لائن ایک نیا آغاز کرنے کی اجازت دیتا ہے بغیر ماضی کے اعمال کے ان کے خلاف استعمال ہونے کے۔ +[بھول جانے کا حق](https://en.wikipedia.org/wiki/Right_to_be_forgotten) یا [حذف کرنے کا حق](https://www.gdpreu.org/right-to-be-forgotten/) صارفین کو اضافی ذاتی ڈیٹا تحفظ فراہم کرتا ہے۔ خاص طور پر، یہ صارفین کو انٹرنیٹ تلاشوں اور دیگر مقامات سے ذاتی ڈیٹا کو حذف یا ہٹانے کی درخواست کرنے کا حق دیتا ہے، _مخصوص حالات کے تحت_ - انہیں آن لائن ایک نئی شروعات کرنے کی اجازت دیتا ہے بغیر ماضی کے اعمال کو ان کے خلاف رکھا جائے۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا نظام ڈیٹا کے موضوعات کو حذف کی درخواست کرنے کی اجازت دیتا ہے؟ -* کیا صارف کی رضامندی کی واپسی خودکار حذف کو متحرک کرنی چاہیے؟ -* کیا ڈیٹا بغیر رضامندی یا غیر قانونی ذرائع سے اکٹھا کیا گیا؟ -* کیا ہم ڈیٹا پرائیویسی کے لیے حکومتی ضوابط کے مطابق ہیں؟ +یہاں دریافت کرنے کے سوالات: + * کیا نظام ڈیٹا کے موضوعات کو حذف کرنے کی درخواست کرنے کی اجازت دیتا ہے؟ + * کیا صارف کی رضامندی کی واپسی خودکار حذف کو متحرک کرنی چاہیے؟ + * کیا ڈیٹا بغیر رضامندی یا غیر قانونی ذرائع سے جمع کیا گیا تھا؟ + * کیا ہم ڈیٹا پرائیویسی کے لیے حکومتی ضوابط کے مطابق ہیں؟ -#### 2.6 ڈیٹاسیٹ کا تعصب +#### 2.6 ڈیٹا سیٹ کا تعصب -ڈیٹاسیٹ یا [اکٹھا کرنے کا تعصب](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) غیر نمائندہ ڈیٹا کے ذیلی سیٹ کو الگورتھم کی ترقی کے لیے منتخب کرنے کے بارے میں ہے، جو مختلف گروہوں کے لیے ممکنہ طور پر غیر منصفانہ نتائج پیدا کرتا ہے۔ تعصب کی اقسام میں انتخاب یا سیمپلنگ کا تعصب، رضاکارانہ تعصب، اور آلے کا تعصب شامل ہیں۔ +ڈیٹا سیٹ یا [جمع کرنے کا تعصب](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) ایک _غیر نمائندہ_ ڈیٹا کے ذیلی سیٹ کو الگورتھم کی ترقی کے لیے منتخب کرنے کے بارے میں ہے، جو مختلف گروہوں کے لیے ممکنہ غیر منصفانہ نتائج پیدا کرتا ہے۔ تعصب کی اقسام میں انتخاب یا نمونہ تعصب، رضاکارانہ تعصب، اور آلہ تعصب شامل ہیں۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا ہم نے ڈیٹا کے موضوعات کا نمائندہ سیٹ بھرتی کیا؟ -* کیا ہم نے اپنے جمع کیے گئے یا ترتیب دیے گئے ڈیٹاسیٹ کو مختلف تعصبات کے لیے جانچا؟ -* کیا ہم دریافت شدہ تعصبات کو کم یا ختم کر سکتے ہیں؟ +یہاں دریافت کرنے کے سوالات: + * کیا ہم نے ڈیٹا کے موضوعات کا نمائندہ سیٹ بھرتی کیا؟ + * کیا ہم نے مختلف تعصبات کے لیے اپنے جمع کردہ یا تیار کردہ ڈیٹا سیٹ کی جانچ کی؟ + * کیا ہم دریافت شدہ تعصبات کو کم یا ختم کر سکتے ہیں؟ #### 2.7 ڈیٹا کا معیار -[ڈیٹا کا معیار](https://lakefs.io/data-quality-testing/) اس ترتیب دیے گئے ڈیٹاسیٹ کی درستگی کو دیکھتا ہے جو ہمارے الگورتھمز کو تیار کرنے کے لیے استعمال کیا جاتا ہے، یہ چیک کرتے ہوئے کہ آیا خصوصیات اور ریکارڈز ہمارے AI مقصد کے لیے درکار درستگی اور مستقل مزاجی کی سطح کو پورا کرتے ہیں۔ +[ڈیٹا کا معیار](https://lakefs.io/data-quality-testing/) ہمارے الگورتھمز کو تیار کرنے کے لیے استعمال کیے گئے تیار کردہ ڈیٹا سیٹ کی درستگی کو دیکھتا ہے، یہ جانچتا ہے کہ آیا خصوصیات اور ریکارڈز ہمارے AI مقصد کے لیے مطلوبہ سطح کی درستگی اور مستقل مزاجی کو پورا کرتے ہیں۔ -یہاں دریافت کرنے کے لیے سوالات: -* کیا ہم نے اپنے استعمال کے کیس کے لیے درست _خصوصیات_ کو قید کیا؟ -* کیا مختلف ڈیٹا ذرائع کے درمیان ڈیٹا کو _مستقل طور پر_ قید کیا گیا؟ -* کیا -[الگورتھم کی منصفانہ جانچ](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) یہ دیکھتی ہے کہ آیا الگورتھم کا ڈیزائن مخصوص گروہوں کے خلاف منظم طور پر امتیاز کرتا ہے، جس کے نتیجے میں _وسائل کی تقسیم_ (جہاں وسائل کو اس گروہ سے انکار یا روکا جاتا ہے) اور _سروس کے معیار_ (جہاں AI کچھ گروہوں کے لیے اتنا درست نہیں جتنا دوسروں کے لیے ہے) میں [ممکنہ نقصان](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) ہوتا ہے۔ +یہاں دریافت کرنے کے سوالات: + * کیا ہم نے اپنے استعمال کے کیس کے لیے درست _خصوصیات_ کو جمع کیا؟ + * کیا مختلف ڈیٹا ذرائع کے درمیان ڈیٹا _مسلسل_ طور پر جمع کیا گیا؟ + * کیا مختلف حالات یا منظرناموں کے لیے ڈیٹا سیٹ _مکمل_ ہے؟ + * کیا معلومات حقیقت کی عکاسی میں _درست_ طور پر جمع کی گئی ہیں؟ + +#### 2.8 الگورتھم کا انصاف +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) یہ جانچتا ہے کہ آیا الگورتھم کا ڈیزائن مخصوص گروہوں کے خلاف منظم طور پر امتیاز کرتا ہے، جس کے نتیجے میں _وسائل کی تقسیم_ (جہاں وسائل کو اس گروہ سے انکار یا روکا جاتا ہے) اور _سروس کے معیار_ (جہاں AI کچھ گروہوں کے لیے اتنا درست نہیں جتنا دوسروں کے لیے ہے) میں [ممکنہ نقصانات](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) پیدا ہوتے ہیں۔ یہاں غور کرنے کے سوالات: * کیا ہم نے مختلف گروہوں اور حالات کے لیے ماڈل کی درستگی کا جائزہ لیا؟ -* کیا ہم نے ممکنہ نقصانات (جیسے دقیانوسی تصورات) کے لیے نظام کا بغور جائزہ لیا؟ +* کیا ہم نے ممکنہ نقصانات (جیسے، دقیانوسی تصورات) کے لیے نظام کا بغور جائزہ لیا؟ * کیا ہم ڈیٹا کو دوبارہ ترتیب دے سکتے ہیں یا ماڈلز کو دوبارہ تربیت دے سکتے ہیں تاکہ شناخت شدہ نقصانات کو کم کیا جا سکے؟ -مزید جاننے کے لیے [AI Fairness چیک لسٹس](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) جیسے وسائل کا جائزہ لیں۔ +مزید جاننے کے لیے [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) جیسے وسائل کا جائزہ لیں۔ #### 2.9 غلط بیانی -[ڈیٹا کی غلط بیانی](https://www.sciencedirect.com/topics/computer-science/misrepresentation) یہ سوال اٹھاتی ہے کہ آیا ہم دیانتداری سے رپورٹ کیے گئے ڈیٹا سے حاصل کردہ بصیرت کو دھوکہ دہی کے انداز میں پیش کر رہے ہیں تاکہ مطلوبہ بیانیہ کی حمایت کی جا سکے۔ +[Data Misrepresentation](https://www.sciencedirect.com/topics/computer-science/misrepresentation) یہ سوال اٹھاتا ہے کہ آیا ہم دیانتداری سے رپورٹ کیے گئے ڈیٹا سے حاصل کردہ بصیرت کو دھوکہ دہی سے پیش کر رہے ہیں تاکہ مطلوبہ بیانیہ کی حمایت کی جا سکے۔ یہاں غور کرنے کے سوالات: * کیا ہم نامکمل یا غلط ڈیٹا رپورٹ کر رہے ہیں؟ -* کیا ہم ڈیٹا کو اس طرح سے بصری بنا رہے ہیں جو گمراہ کن نتائج کو جنم دیتا ہے؟ +* کیا ہم ڈیٹا کو اس طرح سے پیش کر رہے ہیں جو گمراہ کن نتائج کو جنم دیتا ہے؟ * کیا ہم نتائج کو جوڑنے کے لیے منتخب شماریاتی تکنیک استعمال کر رہے ہیں؟ * کیا متبادل وضاحتیں موجود ہیں جو مختلف نتیجہ پیش کر سکتی ہیں؟ #### 2.10 آزاد انتخاب -[آزاد انتخاب کا دھوکہ](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) اس وقت ہوتا ہے جب نظام کے "انتخابی ڈھانچے" فیصلہ سازی کے الگورتھمز کا استعمال کرتے ہوئے لوگوں کو ایک ترجیحی نتیجہ کی طرف دھکیلتے ہیں، جبکہ انہیں اختیارات اور کنٹرول دینے کا تاثر دیتے ہیں۔ یہ [تاریک نمونے](https://www.darkpatterns.org/) صارفین کو سماجی اور اقتصادی نقصان پہنچا سکتے ہیں۔ چونکہ صارف کے فیصلے رویے کے پروفائلز پر اثر انداز ہوتے ہیں، یہ اقدامات ممکنہ طور پر مستقبل کے انتخاب کو بڑھا سکتے ہیں یا ان نقصانات کے اثرات کو بڑھا سکتے ہیں۔ +[Illusion of Free Choice](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) اس وقت پیدا ہوتی ہے جب نظام کے "چوائس آرکیٹیکچرز" فیصلہ سازی کے الگورتھمز کا استعمال کرتے ہوئے لوگوں کو ایک ترجیحی نتیجہ کی طرف دھکیلتے ہیں، جبکہ انہیں اختیارات اور کنٹرول دینے کا تاثر دیتے ہیں۔ یہ [dark patterns](https://www.darkpatterns.org/) صارفین کو سماجی اور اقتصادی نقصان پہنچا سکتے ہیں۔ چونکہ صارف کے فیصلے رویے کے پروفائلز پر اثر انداز ہوتے ہیں، یہ اقدامات ممکنہ طور پر مستقبل کے انتخاب کو بڑھا سکتے ہیں یا ان نقصانات کے اثرات کو بڑھا سکتے ہیں۔ یہاں غور کرنے کے سوالات: * کیا صارف نے اس انتخاب کے اثرات کو سمجھا؟ -* کیا صارف کو (متبادل) انتخاب اور ہر ایک کے فوائد و نقصانات کا علم تھا؟ -* کیا صارف بعد میں خودکار یا متاثرہ انتخاب کو واپس لے سکتا ہے؟ +* کیا صارف کو (متبادل) انتخاب اور ان کے فوائد و نقصانات کا علم تھا؟ +* کیا صارف بعد میں خودکار یا متاثرہ انتخاب کو تبدیل کر سکتا ہے؟ ### 3. کیس اسٹڈیز -ان اخلاقی چیلنجز کو حقیقی دنیا کے سیاق و سباق میں رکھنے کے لیے، ایسے کیس اسٹڈیز کو دیکھنا مددگار ثابت ہوتا ہے جو ان اخلاقی خلاف ورزیوں کو نظر انداز کرنے پر افراد اور معاشرے کو ممکنہ نقصانات اور نتائج کو اجاگر کرتے ہیں۔ +ان اخلاقی چیلنجز کو حقیقی دنیا کے سیاق و سباق میں رکھنے کے لیے، ایسے کیس اسٹڈیز کو دیکھنا مددگار ثابت ہوتا ہے جو ان اخلاقی خلاف ورزیوں کو نظر انداز کرنے پر افراد اور معاشرے پر ممکنہ نقصانات اور نتائج کو اجاگر کرتے ہیں۔ یہاں کچھ مثالیں ہیں: | اخلاقی چیلنج | کیس اسٹڈی | |--- |--- | -| **مطلع رضامندی** | 1972 - [ٹسکیگی سیفلس اسٹڈی](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - افریقی امریکی مردوں کو جو اس مطالعے میں شامل تھے، مفت طبی دیکھ بھال کا وعدہ کیا گیا تھا _لیکن دھوکہ دیا گیا_ کیونکہ محققین نے شرکاء کو ان کی تشخیص یا علاج کی دستیابی کے بارے میں مطلع کرنے میں ناکام رہے۔ کئی شرکاء فوت ہو گئے اور ان کے شریک حیات یا بچے متاثر ہوئے؛ مطالعہ 40 سال تک جاری رہا۔ | -| **ڈیٹا کی پرائیویسی** | 2007 - [نیٹ فلکس ڈیٹا انعام](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) نے محققین کو _50K صارفین کے 10M گمنام فلمی درجہ بندی_ فراہم کی تاکہ سفارش الگورتھمز کو بہتر بنایا جا سکے۔ تاہم، محققین گمنام ڈیٹا کو _بیرونی ڈیٹاسیٹس_ (جیسے IMDb تبصرے) میں ذاتی طور پر شناختی ڈیٹا کے ساتھ جوڑنے میں کامیاب رہے - مؤثر طریقے سے کچھ نیٹ فلکس صارفین کو "ڈی-گمنام" کر دیا۔| -| **مجموعہ تعصب** | 2013 - بوسٹن شہر نے [اسٹریٹ بمپ](https://www.boston.gov/transportation/street-bump) تیار کیا، ایک ایپ جو شہریوں کو گڑھے رپورٹ کرنے دیتی ہے، جس سے شہر کو بہتر سڑک کے ڈیٹا حاصل کرنے میں مدد ملی۔ تاہم، [کم آمدنی والے گروہوں کے لوگوں کو کاروں اور فونز تک کم رسائی حاصل تھی](https://hbr.org/2013/04/the-hidden-biases-in-big-data)، جس سے ان کے سڑک کے مسائل اس ایپ میں پوشیدہ ہو گئے۔ ڈویلپرز نے منصفانہ رسائی اور ڈیجیٹل تقسیم کے مسائل کے لیے ماہرین کے ساتھ کام کیا۔ | -| **الگورتھم کی منصفانہ جانچ** | 2018 - MIT [جینڈر شیڈز اسٹڈی](http://gendershades.org/overview.html) نے صنفی درجہ بندی AI مصنوعات کی درستگی کا جائزہ لیا، خواتین اور رنگین افراد کے لیے درستگی میں فرق کو ظاہر کیا۔ ایک [2019 ایپل کارڈ](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) نے مردوں کے مقابلے میں خواتین کو کم کریڈٹ پیش کیا۔ دونوں نے الگورتھم کے تعصب میں مسائل کو اجاگر کیا جو سماجی و اقتصادی نقصانات کا باعث بنتے ہیں۔| -| **ڈیٹا کی غلط بیانی** | 2020 - [جارجیا ڈیپارٹمنٹ آف پبلک ہیلتھ نے COVID-19 چارٹس جاری کیے](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) جو شہریوں کو تصدیق شدہ کیسز کے رجحانات کے بارے میں گمراہ کرنے کے لیے x-axis پر غیر زمانی ترتیب کا استعمال کرتے ہوئے نظر آئے۔ یہ بصری چالوں کے ذریعے غلط بیانی کو ظاہر کرتا ہے۔ | -| **آزاد انتخاب کا دھوکہ** | 2020 - لرننگ ایپ [ABCmouse نے FTC شکایت کو حل کرنے کے لیے $10M ادا کیے](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) جہاں والدین کو سبسکرپشنز کے لیے ادائیگی کرنے پر مجبور کیا گیا جسے وہ منسوخ نہیں کر سکتے تھے۔ یہ انتخابی ڈھانچوں میں تاریک نمونوں کو ظاہر کرتا ہے، جہاں صارفین کو ممکنہ طور پر نقصان دہ انتخاب کی طرف دھکیل دیا گیا۔ | -| **ڈیٹا کی پرائیویسی اور صارف کے حقوق** | 2021 - فیس بک [ڈیٹا لیک](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) نے 530M صارفین کا ڈیٹا افشا کیا، جس کے نتیجے میں FTC کو $5B کی ادائیگی ہوئی۔ تاہم، اس نے صارفین کو لیک کے بارے میں مطلع کرنے سے انکار کر دیا، صارف کے ڈیٹا کی شفافیت اور رسائی کے حقوق کی خلاف ورزی کی۔ | +| **مطلع رضامندی** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - افریقی امریکی مردوں کو جو اس مطالعے میں شامل تھے، مفت طبی دیکھ بھال کا وعدہ کیا گیا تھا _لیکن دھوکہ دیا گیا_، کیونکہ محققین نے شرکاء کو ان کی تشخیص یا علاج کی دستیابی کے بارے میں مطلع کرنے میں ناکام رہے۔ کئی شرکاء فوت ہو گئے اور ان کے شریک حیات یا بچے متاثر ہوئے؛ یہ مطالعہ 40 سال تک جاری رہا۔ | +| **ڈیٹا پرائیویسی** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) نے محققین کو _50K صارفین کے 10M گمنام فلمی درجہ بندی_ فراہم کی تاکہ سفارش الگورتھمز کو بہتر بنایا جا سکے۔ تاہم، محققین گمنام ڈیٹا کو _بیرونی ڈیٹا سیٹس_ (جیسے، IMDb تبصرے) کے ساتھ ذاتی طور پر شناختی ڈیٹا سے جوڑنے میں کامیاب رہے - مؤثر طریقے سے کچھ Netflix صارفین کو "ڈی-گمنام" کر دیا۔ | +| **کلیکشن تعصب** | 2013 - بوسٹن شہر نے [Street Bump](https://www.boston.gov/transportation/street-bump) تیار کیا، ایک ایپ جو شہریوں کو گڑھے رپورٹ کرنے دیتی ہے، جس سے شہر کو بہتر سڑک کے ڈیٹا حاصل کرنے میں مدد ملی۔ تاہم، [کم آمدنی والے گروہوں کے لوگوں کو کاروں اور فونز تک کم رسائی حاصل تھی](https://hbr.org/2013/04/the-hidden-biases-in-big-data)، جس سے ان کے سڑک کے مسائل اس ایپ میں پوشیدہ ہو گئے۔ ڈویلپرز نے منصفانہ رسائی اور ڈیجیٹل تقسیم کے مسائل پر کام کیا۔ | +| **الگورتھمک انصاف** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) نے صنفی درجہ بندی AI مصنوعات کی درستگی کا جائزہ لیا، خواتین اور رنگین افراد کے لیے درستگی میں فرق کو ظاہر کیا۔ ایک [2019 Apple Card](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) نے مردوں کے مقابلے میں خواتین کو کم کریڈٹ پیش کیا۔ دونوں نے الگورتھمک تعصب میں مسائل کو اجاگر کیا جو سماجی و اقتصادی نقصانات کا باعث بنتے ہیں۔ | +| **ڈیٹا غلط بیانی** | 2020 - [Georgia Department of Public Health released COVID-19 charts](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) جو شہریوں کو تصدیق شدہ کیسز کے رجحانات کے بارے میں گمراہ کرنے کے لیے x-axis پر غیر زمانی ترتیب کا استعمال کرتے ہوئے دکھائی دی۔ یہ بصری چالوں کے ذریعے غلط بیانی کو ظاہر کرتا ہے۔ | +| **آزاد انتخاب کا دھوکہ** | 2020 - لرننگ ایپ [ABCmouse paid $10M to settle an FTC complaint](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) جہاں والدین کو سبسکرپشنز کے لیے ادائیگی کرنے پر مجبور کیا گیا جسے وہ منسوخ نہیں کر سکتے تھے۔ یہ چوائس آرکیٹیکچرز میں تاریک نمونوں کو ظاہر کرتا ہے، جہاں صارفین کو ممکنہ طور پر نقصان دہ انتخاب کی طرف دھکیل دیا گیا۔ | +| **ڈیٹا پرائیویسی اور صارف کے حقوق** | 2021 - Facebook [Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) نے 530M صارفین کا ڈیٹا افشا کیا، جس کے نتیجے میں FTC کو $5B کا تصفیہ ہوا۔ تاہم، اس نے صارفین کو خلاف ورزی کے بارے میں مطلع کرنے سے انکار کر دیا، صارف کے حقوق کی خلاف ورزی کی۔ | مزید کیس اسٹڈیز دریافت کرنا چاہتے ہیں؟ ان وسائل کو دیکھیں: -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - مختلف صنعتوں میں اخلاقی مسائل۔ -* [ڈیٹا سائنس اخلاقیات کورس](https://www.coursera.org/learn/data-science-ethics#syllabus) - اہم کیس اسٹڈیز کا جائزہ۔ -* [جہاں چیزیں غلط ہوئیں](https://deon.drivendata.org/examples/) - ڈیون چیک لسٹ کے ساتھ مثالیں۔ +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - مختلف صنعتوں میں اخلاقی مخمصے۔ +* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - اہم کیس اسٹڈیز کا جائزہ۔ +* [Where things have gone wrong](https://deon.drivendata.org/examples/) - ڈیون چیک لسٹ کے ساتھ مثالیں۔ -> 🚨 ان کیس اسٹڈیز کے بارے میں سوچیں جو آپ نے دیکھے ہیں - کیا آپ نے اپنی زندگی میں اسی طرح کے اخلاقی چیلنج کا سامنا کیا ہے یا متاثر ہوئے ہیں؟ کیا آپ کم از کم ایک اور کیس اسٹڈی کے بارے میں سوچ سکتے ہیں جو اس سیکشن میں زیر بحث اخلاقی چیلنجز میں سے ایک کو ظاہر کرتا ہو؟ +> 🚨 ان کیس اسٹڈیز کے بارے میں سوچیں جو آپ نے دیکھے ہیں - کیا آپ نے اپنی زندگی میں اسی طرح کے اخلاقی چیلنج کا تجربہ کیا یا اس سے متاثر ہوئے؟ کیا آپ کم از کم ایک اور کیس اسٹڈی کے بارے میں سوچ سکتے ہیں جو اس سیکشن میں زیر بحث اخلاقی چیلنجز میں سے ایک کو ظاہر کرتا ہو؟ ## اطلاقی اخلاقیات @@ -197,62 +200,61 @@ CO_OP_TRANSLATOR_METADATA: ### 1. پیشہ ورانہ ضابطے -پیشہ ورانہ ضابطے تنظیموں کو اپنے اخلاقی اصولوں اور مشن بیان کی حمایت کرنے کے لیے اراکین کو "حوصلہ افزائی" کرنے کا ایک آپشن پیش کرتے ہیں۔ ضابطے پیشہ ورانہ رویے کے لیے _اخلاقی رہنما خطوط_ ہیں، جو ملازمین یا اراکین کو ایسے فیصلے کرنے میں مدد دیتے ہیں جو ان کی تنظیم کے اصولوں کے مطابق ہوں۔ یہ صرف اراکین کی رضاکارانہ تعمیل کے طور پر اچھے ہیں؛ تاہم، بہت سی تنظیمیں اراکین کی تعمیل کو متحرک کرنے کے لیے اضافی انعامات اور سزائیں پیش کرتی ہیں۔ +پیشہ ورانہ ضابطے تنظیموں کو اپنے اخلاقی اصولوں اور مشن بیان کی حمایت کرنے کے لیے ممبران کو "حوصلہ افزائی" کرنے کا ایک آپشن پیش کرتے ہیں۔ ضابطے پیشہ ورانہ رویے کے لیے _اخلاقی رہنما خطوط_ ہیں، جو ملازمین یا ممبران کو ایسے فیصلے کرنے میں مدد دیتے ہیں جو ان کی تنظیم کے اصولوں کے مطابق ہوں۔ یہ صرف ممبران کی رضاکارانہ تعمیل کے طور پر اچھے ہیں؛ تاہم، بہت سی تنظیمیں ممبران کی تعمیل کو متحرک کرنے کے لیے اضافی انعامات اور سزائیں پیش کرتی ہیں۔ مثالیں شامل ہیں: +* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Code of Ethics +* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Code of Conduct (2013 میں تخلیق کیا گیا) +* [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (1993 سے) -* [آکسفورڈ میونخ](http://www.code-of-ethics.org/code-of-conduct/) اخلاقیات کا ضابطہ -* [ڈیٹا سائنس ایسوسی ایشن](http://datascienceassn.org/code-of-conduct.html) ضابطہ اخلاق (2013 میں تخلیق کیا گیا) -* [ACM ضابطہ اخلاق اور پیشہ ورانہ طرز عمل](https://www.acm.org/code-of-ethics) (1993 سے) - -> 🚨 کیا آپ کسی پیشہ ور انجینئرنگ یا ڈیٹا سائنس تنظیم کے رکن ہیں؟ ان کی ویب سائٹ کو دیکھیں کہ آیا وہ پیشہ ورانہ اخلاقیات کا ضابطہ بیان کرتے ہیں۔ یہ ان کے اخلاقی اصولوں کے بارے میں کیا کہتا ہے؟ وہ اراکین کو ضابطے پر عمل کرنے کے لیے کیسے "حوصلہ افزائی" کر رہے ہیں؟ +> 🚨 کیا آپ کسی پیشہ ور انجینئرنگ یا ڈیٹا سائنس تنظیم کے ممبر ہیں؟ ان کی ویب سائٹ کو دریافت کریں تاکہ یہ دیکھ سکیں کہ آیا وہ پیشہ ورانہ اخلاقیات کا ضابطہ بیان کرتے ہیں۔ یہ ان کے اخلاقی اصولوں کے بارے میں کیا کہتا ہے؟ وہ ممبران کو ضابطے پر عمل کرنے کے لیے کیسے "حوصلہ افزائی" کر رہے ہیں؟ ### 2. اخلاقیات چیک لسٹس -جبکہ پیشہ ورانہ ضابطے پریکٹیشنرز سے مطلوبہ _اخلاقی رویے_ کی وضاحت کرتے ہیں، ان کے نفاذ میں [معلوم حدود](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) ہیں، خاص طور پر بڑے پیمانے پر منصوبوں میں۔ اس کے بجائے، بہت سے ڈیٹا سائنس ماہرین [چیک لسٹس کی وکالت کرتے ہیں](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)، جو **اصولوں کو عملی طریقوں سے جوڑ سکتے ہیں**۔ +جبکہ پیشہ ورانہ ضابطے پریکٹیشنرز سے مطلوبہ _اخلاقی رویے_ کی وضاحت کرتے ہیں، وہ [نفاذ میں معلوم حدود](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) رکھتے ہیں، خاص طور پر بڑے پیمانے پر منصوبوں میں۔ اس کے بجائے، بہت سے ڈیٹا سائنس ماہرین [چیک لسٹس کی وکالت کرتے ہیں](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md)، جو **اصولوں کو عمل سے جوڑنے** کے لیے زیادہ تعیناتی اور قابل عمل طریقے فراہم کرتے ہیں۔ چیک لسٹس سوالات کو "ہاں/نہیں" کاموں میں تبدیل کرتی ہیں جنہیں عملی شکل دی جا سکتی ہے، جس سے انہیں معیاری پروڈکٹ ریلیز ورک فلو کے حصے کے طور پر ٹریک کیا جا سکتا ہے۔ مثالیں شامل ہیں: -* [ڈیون](https://deon.drivendata.org/) - صنعت کی سفارشات سے تخلیق کردہ ایک عمومی مقصد ڈیٹا اخلاقیات چیک لسٹ [کمانڈ لائن ٹول](https://deon.drivendata.org/#checklist-citations) کے ساتھ آسان انضمام کے لیے۔ -* [پرائیویسی آڈٹ چیک لسٹ](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - قانونی اور سماجی نمائش کے نقطہ نظر سے معلوماتی ہینڈلنگ کے طریقوں کے لیے عمومی رہنمائی فراہم کرتی ہے۔ -* [AI منصفانہ چیک لسٹ](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI پریکٹیشنرز کے ذریعہ تخلیق کردہ، AI ترقیاتی سائیکلوں میں منصفانہ چیکوں کو اپنانے اور انضمام کی حمایت کے لیے۔ -* [ڈیٹا اور AI میں اخلاقیات کے لیے 22 سوالات](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - زیادہ کھلے ڈھانچے کا فریم ورک، ڈیزائن، نفاذ، اور تنظیمی سیاق و سباق میں اخلاقی مسائل کی ابتدائی تلاش کے لیے۔ +* [Deon](https://deon.drivendata.org/) - صنعت کی سفارشات سے تخلیق کردہ ایک عمومی مقصد ڈیٹا اخلاقیات چیک لسٹ [کمانڈ لائن ٹول](https://deon.drivendata.org/#checklist-citations) کے ساتھ آسان انضمام کے لیے۔ +* [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - قانونی اور سماجی نمائش کے نقطہ نظر سے معلوماتی ہینڈلنگ کے طریقوں کے لیے عمومی رہنمائی فراہم کرتا ہے۔ +* [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - AI پریکٹیشنرز کے ذریعہ تخلیق کردہ، AI ترقیاتی سائیکلوں میں انصاف کے چیکوں کو اپنانے اور انضمام کی حمایت کے لیے۔ +* [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - زیادہ کھلا فریم ورک، ڈیزائن، نفاذ، اور تنظیمی سیاق و سباق میں اخلاقی مسائل کی ابتدائی تلاش کے لیے تشکیل دیا گیا۔ ### 3. اخلاقیات کے ضوابط -اخلاقیات مشترکہ اقدار کی وضاحت کرنے اور _رضاکارانہ طور پر_ صحیح کام کرنے کے بارے میں ہیں۔ **تعمیل** اس بارے میں ہے کہ _قانون کی پیروی کرنا_ اگر اور جہاں بیان کیا گیا ہو۔ **حکمرانی** وسیع پیمانے پر ان تمام طریقوں کا احاطہ کرتی ہے جن کے ذریعے تنظیمیں اخلاقی اصولوں کو نافذ کرنے اور قائم کردہ قوانین کی تعمیل کرنے کے لیے کام کرتی ہیں۔ +اخلاقیات مشترکہ اقدار کی وضاحت کرنے اور _رضاکارانہ طور پر_ صحیح کام کرنے کے بارے میں ہے۔ **تعمیل** اس بارے میں ہے کہ _قانون کی پیروی_ کہاں اور اگر بیان کی گئی ہو۔ **حکمرانی** وسیع طور پر ان تمام طریقوں کا احاطہ کرتی ہے جن کے ذریعے تنظیمیں اخلاقی اصولوں کو نافذ کرنے اور قائم کردہ قوانین کی تعمیل کرنے کے لیے کام کرتی ہیں۔ آج، حکمرانی تنظیموں کے اندر دو شکلیں اختیار کرتی ہے۔ پہلے، یہ **اخلاقی AI** اصولوں کی وضاحت کرنے اور تنظیم میں تمام AI سے متعلق منصوبوں میں اپنانے کو عملی شکل دینے کے طریقوں کو قائم کرنے کے بارے میں ہے۔ دوسرا، یہ ان تمام حکومت کی طرف سے لازمی **ڈیٹا تحفظ کے ضوابط** کی تعمیل کے بارے میں ہے جن علاقوں میں یہ کام کرتی ہے۔ ڈیٹا تحفظ اور پرائیویسی ضوابط کی مثالیں: -* `1974`, [امریکی پرائیویسی ایکٹ](https://www.justice.gov/opcl/privacy-act-1974) - _وفاقی حکومت_ کے ذاتی معلومات کے جمع کرنے، استعمال، اور انکشاف کو منظم کرتا ہے۔ -* `1996`, [امریکی ہیلتھ انشورنس پورٹیبلٹی اور احتساب ایکٹ (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - ذاتی صحت کے ڈیٹا کی حفاظت کرتا ہے۔ -* `1998`, [امریکی بچوں کا آن لائن پرائیویسی تحفظ ایکٹ (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 سال سے کم عمر بچوں کے ڈیٹا کی پرائیویسی کی حفاظت کرتا ہے۔ -* `2018`, [جنرل ڈیٹا پروٹیکشن ریگولیشن (GDPR)](https://gdpr-info.eu/) - صارف کے حقوق، ڈیٹا تحفظ، اور پرائیویسی فراہم کرتا ہے۔ -* `2018`, [کیلیفورنیا کنزیومر پرائیویسی ایکٹ (CCPA)](https://www.oag.ca.gov/privacy/ccpa) صارفین کو ان کے (ذاتی) ڈیٹا پر زیادہ _حقوق_ دیتا ہے۔ -* `2021`, چین کا [ذاتی معلومات کا تحفظ قانون](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) ابھی پاس ہوا، دنیا میں آن لائن ڈیٹا پرائیویسی کے سب سے مضبوط ضوابط میں سے ایک تخلیق کرتا ہے۔ +* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - _وفاقی حکومت_ کے ذاتی معلومات کے جمع کرنے، استعمال، اور انکشاف کو منظم کرتا ہے۔ +* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - ذاتی صحت کے ڈیٹا کی حفاظت کرتا ہے۔ +* `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - 13 سال سے کم عمر بچوں کے ڈیٹا پرائیویسی کی حفاظت کرتا ہے۔ +* `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - صارف کے حقوق، ڈیٹا تحفظ، اور پرائیویسی فراہم کرتا ہے۔ +* `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) صارفین کو ان کے (ذاتی) ڈیٹا پر زیادہ _حقوق_ دیتا ہے۔ +* `2021`, چین کا [Personal Information Protection Law](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) ابھی منظور ہوا، جو دنیا بھر میں آن لائن ڈیٹا پرائیویسی کے سب سے مضبوط ضوابط میں سے ایک تخلیق کرتا ہے۔ -> 🚨 یورپی یونین کی طرف سے بیان کردہ GDPR (جنرل ڈیٹا پروٹیکشن ریگولیشن) آج ڈیٹا پرائیویسی کے سب سے زیادہ اثر انگیز ضوابط میں سے ایک ہے۔ کیا آپ جانتے ہیں کہ یہ [8 صارف کے حقوق](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) بھی بیان کرتا ہے تاکہ شہریوں کی ڈیجیٹل پرائیویسی اور ذاتی ڈیٹا کی حفاظت کی جا سکے؟ ان کے بارے میں جانیں کہ یہ کیا ہیں اور کیوں اہم ہیں۔ +> 🚨 یورپی یونین کی طرف سے بیان کردہ GDPR (General Data Protection Regulation) آج ڈیٹا پرائیویسی کے سب سے زیادہ اثر انگیز ضوابط میں سے ایک ہے۔ کیا آپ جانتے ہیں کہ یہ [8 صارف کے حقوق](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) بھی بیان کرتا ہے تاکہ شہریوں کی ڈیجیٹل پرائیویسی اور ذاتی ڈیٹا کی حفاظت کی جا سکے؟ ان کے بارے میں جانیں کہ یہ کیا ہیں اور کیوں اہم ہیں۔ ### 4. اخلاقیات کی ثقافت -نوٹ کریں کہ _تعمیل_ (قانون کے "حرف" کو پورا کرنے کے لیے کافی کرنا) اور [نظامی مسائل](https://www.coursera.org/learn/data-science-ethics/home/week/4) (جیسے جمود، معلوماتی عدم توازن، اور تقسیماتی غیر منصفانہ) کو حل کرنے کے درمیان ایک غیر محسوس فرق موجود ہے جو AI کے ہتھیاروں کو تیز کر سکتا ہے۔ +نوٹ کریں کہ _تعمیل_ (قانون کے "حرف" کو پورا کرنے کے لیے کافی کرنا) اور [نظامی مسائل](https://www.coursera.org/learn/data-science-ethics/home/week/4) (جیسے، جمود، معلوماتی عدم توازن، اور تقسیماتی غیر منصفانہ) کو حل کرنے کے درمیان ایک غیر محسوس فرق موجود ہے جو AI کے ہتھیار بنانے کو تیز کر سکتا ہے۔ -بعد والے کو [اخلاقیات کی ثقافتوں کی وضاحت کے لیے تعاون پر مبنی نقطہ نظر](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) کی ضرورت ہوتی ہے جو صنعت میں _تنظیموں_ کے درمیان جذباتی تعلقات اور مستقل مشترکہ اقدار کو تشکیل دیتے ہیں۔ اس کے لیے تنظیموں میں زیادہ [باضابطہ ڈیٹا اخلاقیات کی ثقافتیں](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) بنانے کی ضرورت ہوتی ہے - جس سے _کوئی بھی_ [اینڈن کورڈ کھینچ سکتا ہے](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (عمل کے ابتدائی مرحلے میں اخلاقیات کے خدشات کو اٹھانے کے لیے) اور _اخلاقی تشخیصات_ (جیسے، بھرتی میں) کو AI منصوبوں میں ٹیم کی تشکیل کے لیے ایک بنیادی معیار بنا سکتا ہے۔ +بعد والے کو [اخلاقیات کی ثقافتوں کی وضاحت کے لیے تعاون پر مبنی نقطہ نظر](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) کی ضرورت ہوتی ہے جو صنعت میں تنظیموں کے درمیان جذباتی تعلقات اور مستقل مشترکہ اقدار کو تشکیل دیتے ہیں۔ اس کے لیے تنظیموں میں زیادہ [باضابطہ ڈیٹا اخلاقیات کی ثقافتیں](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) بنانے کی ضرورت ہوتی ہے - جس سے _کوئی بھی_ [Andon cord کھینچ سکتا ہے](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (عمل کے ابتدائی مرحلے میں اخلاقیات کے خدشات کو اٹھانے کے لیے) اور _اخلاقی جائزے_ (جیسے، بھرتی میں) کو AI منصوبوں میں ٹیم کی تشکیل کے لیے ایک بنیادی معیار بنا سکتا ہے۔ --- -## [لیکچر کے بعد کا کوئز](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [لیکچر کے بعد کوئز](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## جائزہ اور خود مطالعہ -کورسز اور کتابیں اخلاقیات کے بنیادی تصورات اور چیلنجز کو سمجھنے میں مدد کرتی ہیں، جبکہ کیس اسٹڈیز اور ٹولز حقیقی دنیا کے سیاق و سباق میں اطلاقی اخلاقیات کے طریقوں میں مدد کرتے ہیں۔ شروع کرنے کے لیے یہاں کچھ وسائل ہیں۔ +کورسز اور کتابیں اخلاقیات کے بنیادی تصورات اور چیلنجز کو سمجھنے میں مدد کرتی ہیں، جبکہ کیس اسٹڈیز اور ٹولز حقیقی دنیا کے سیاق و سباق میں اطلاقی اخلاقیات کے طریقوں میں مدد کرتے ہیں۔ یہاں شروع کرنے کے لیے کچھ وسائل ہیں۔ -* [ -* [ذمہ دار مصنوعی ذہانت کے اصول](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مائیکروسافٹ لرن سے مفت تعلیمی راستہ۔ -* [اخلاقیات اور ڈیٹا سائنس](https://resources.oreilly.com/examples/0636920203964) - او'ریلی ای بک (ایم لوکائیڈز، ایچ میسن وغیرہ) -* [ڈیٹا سائنس اخلاقیات](https://www.coursera.org/learn/data-science-ethics#syllabus) - مشی گن یونیورسٹی کا آن لائن کورس۔ -* [اخلاقیات ان ریپڈ](https://ethicsunwrapped.utexas.edu/case-studies) - ٹیکساس یونیورسٹی کے کیس اسٹڈیز۔ +* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - Microsoft کی طرف سے انصاف پر سبق۔ +- [ذمہ دار مصنوعی ذہانت کے اصول](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - مائیکروسافٹ لرن کا مفت تعلیمی راستہ۔ +- [اخلاقیات اور ڈیٹا سائنس](https://resources.oreilly.com/examples/0636920203964) - او'ریلی ای بک (ایم. لوکائیڈز، ایچ. میسن وغیرہ) +- [ڈیٹا سائنس کے اخلاقیات](https://www.coursera.org/learn/data-science-ethics#syllabus) - مشی گن یونیورسٹی کا آن لائن کورس۔ +- [اخلاقیات کی وضاحت](https://ethicsunwrapped.utexas.edu/case-studies) - ٹیکساس یونیورسٹی کے کیس اسٹڈیز۔ # اسائنمنٹ @@ -261,4 +263,4 @@ CO_OP_TRANSLATOR_METADATA: --- **ڈسکلیمر**: -یہ دستاویز AI ترجمہ سروس [Co-op Translator](https://github.com/Azure/co-op-translator) کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا عدم درستگی ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے لیے ہم ذمہ دار نہیں ہیں۔ \ No newline at end of file +یہ دستاویز AI ترجمہ سروس [Co-op Translator](https://github.com/Azure/co-op-translator) کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔ \ No newline at end of file diff --git a/translations/vi/1-Introduction/02-ethics/README.md b/translations/vi/1-Introduction/02-ethics/README.md index 4d0a912f..0d0f0201 100644 --- a/translations/vi/1-Introduction/02-ethics/README.md +++ b/translations/vi/1-Introduction/02-ethics/README.md @@ -1,31 +1,31 @@ # Giới thiệu về Đạo đức Dữ liệu -|![ Sketchnote bởi [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| +|![ Sketchnote của [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| -| Đạo đức Khoa học Dữ liệu - _Sketchnote bởi [@nitya](https://twitter.com/nitya)_ | +| Đạo đức Khoa học Dữ liệu - _Sketchnote của [@nitya](https://twitter.com/nitya)_ | --- Chúng ta đều là công dân dữ liệu sống trong một thế giới được số hóa bởi dữ liệu. -Xu hướng thị trường cho thấy rằng đến năm 2022, cứ 3 tổ chức lớn thì sẽ có 1 tổ chức mua và bán dữ liệu của họ thông qua các [Thị trường và Sàn giao dịch](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Là **Nhà phát triển ứng dụng**, chúng ta sẽ thấy việc tích hợp các thông tin chi tiết dựa trên dữ liệu và tự động hóa dựa trên thuật toán vào trải nghiệm người dùng hàng ngày trở nên dễ dàng và rẻ hơn. Nhưng khi AI trở nên phổ biến, chúng ta cũng cần hiểu những tác hại tiềm ẩn do [việc vũ khí hóa](https://www.youtube.com/watch?v=TQHs8SA1qpk) các thuật toán này ở quy mô lớn. +Xu hướng thị trường cho thấy rằng đến năm 2022, cứ 3 tổ chức lớn thì sẽ có 1 tổ chức mua và bán dữ liệu của họ thông qua các [Thị trường và Sàn giao dịch trực tuyến](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Là **Nhà phát triển ứng dụng**, chúng ta sẽ thấy việc tích hợp các thông tin chi tiết dựa trên dữ liệu và tự động hóa dựa trên thuật toán vào trải nghiệm người dùng hàng ngày trở nên dễ dàng và rẻ hơn. Nhưng khi AI trở nên phổ biến, chúng ta cũng cần hiểu những tác hại tiềm ẩn do [việc vũ khí hóa](https://www.youtube.com/watch?v=TQHs8SA1qpk) các thuật toán này ở quy mô lớn. -Xu hướng cũng chỉ ra rằng chúng ta sẽ tạo ra và tiêu thụ hơn [180 zettabyte](https://www.statista.com/statistics/871513/worldwide-data-created/) dữ liệu vào năm 2025. Là **Nhà khoa học dữ liệu**, điều này mang lại cho chúng ta mức độ truy cập chưa từng có vào dữ liệu cá nhân. Điều này có nghĩa là chúng ta có thể xây dựng hồ sơ hành vi của người dùng và ảnh hưởng đến việc ra quyết định theo cách tạo ra một [ảo tưởng về sự lựa chọn tự do](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) trong khi có thể hướng người dùng đến các kết quả mà chúng ta mong muốn. Nó cũng đặt ra các câu hỏi rộng hơn về quyền riêng tư dữ liệu và bảo vệ người dùng. +Xu hướng cũng chỉ ra rằng chúng ta sẽ tạo ra và tiêu thụ hơn [180 zettabyte](https://www.statista.com/statistics/871513/worldwide-data-created/) dữ liệu vào năm 2025. Là **Nhà khoa học dữ liệu**, điều này mang lại cho chúng ta mức độ truy cập chưa từng có vào dữ liệu cá nhân. Điều này có nghĩa là chúng ta có thể xây dựng hồ sơ hành vi của người dùng và ảnh hưởng đến việc ra quyết định theo cách tạo ra [ảo tưởng về sự lựa chọn tự do](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) trong khi có thể hướng người dùng đến các kết quả mà chúng ta mong muốn. Nó cũng đặt ra các câu hỏi rộng hơn về quyền riêng tư dữ liệu và bảo vệ người dùng. Đạo đức dữ liệu giờ đây là _hàng rào cần thiết_ cho khoa học và kỹ thuật dữ liệu, giúp chúng ta giảm thiểu các tác hại tiềm ẩn và hậu quả không mong muốn từ các hành động dựa trên dữ liệu của mình. [Chu kỳ Hype của Gartner về AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) xác định các xu hướng liên quan đến đạo đức kỹ thuật số, AI có trách nhiệm và quản trị AI là các yếu tố thúc đẩy các xu hướng lớn hơn xung quanh _dân chủ hóa_ và _công nghiệp hóa_ AI. ![Chu kỳ Hype của Gartner về AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) -Trong bài học này, chúng ta sẽ khám phá lĩnh vực thú vị về đạo đức dữ liệu - từ các khái niệm và thách thức cốt lõi, đến các nghiên cứu điển hình và các khái niệm AI ứng dụng như quản trị - giúp thiết lập văn hóa đạo đức trong các nhóm và tổ chức làm việc với dữ liệu và AI. +Trong bài học này, chúng ta sẽ khám phá lĩnh vực thú vị của đạo đức dữ liệu - từ các khái niệm và thách thức cốt lõi, đến các nghiên cứu điển hình và các khái niệm AI ứng dụng như quản trị - giúp thiết lập văn hóa đạo đức trong các nhóm và tổ chức làm việc với dữ liệu và AI. ## [Câu hỏi trước bài giảng](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/2) 🎯 @@ -41,7 +41,7 @@ Từ "đạo đức" xuất phát từ [từ tiếng Hy Lạp "ethikos"](https:/ **Đạo đức ứng dụng** là [việc áp dụng thực tế các cân nhắc đạo đức](https://en.wikipedia.org/wiki/Applied_ethics). Đây là quá trình điều tra tích cực các vấn đề đạo đức trong bối cảnh _hành động, sản phẩm và quy trình thực tế_, và thực hiện các biện pháp khắc phục để đảm bảo rằng chúng vẫn phù hợp với các giá trị đạo đức đã xác định. -**Văn hóa đạo đức** là về [_hiện thực hóa_ đạo đức ứng dụng](https://hbr.org/2019/05/how-to-design-an-ethical-organization) để đảm bảo rằng các nguyên tắc và thực hành đạo đức của chúng ta được áp dụng một cách nhất quán và có thể mở rộng trên toàn tổ chức. Các văn hóa đạo đức thành công xác định các nguyên tắc đạo đức trên toàn tổ chức, cung cấp các động lực có ý nghĩa cho việc tuân thủ, và củng cố các chuẩn mực đạo đức bằng cách khuyến khích và khuếch đại các hành vi mong muốn ở mọi cấp độ của tổ chức. +**Văn hóa đạo đức** là về [_hoạt động hóa_ đạo đức ứng dụng](https://hbr.org/2019/05/how-to-design-an-ethical-organization) để đảm bảo rằng các nguyên tắc và thực hành đạo đức của chúng ta được áp dụng một cách nhất quán và có thể mở rộng trên toàn tổ chức. Các văn hóa đạo đức thành công xác định các nguyên tắc đạo đức trên toàn tổ chức, cung cấp các động lực có ý nghĩa cho việc tuân thủ, và củng cố các chuẩn mực đạo đức bằng cách khuyến khích và khuếch đại các hành vi mong muốn ở mọi cấp độ của tổ chức. ## Các khái niệm về đạo đức @@ -64,87 +64,87 @@ Hãy cùng khám phá ngắn gọn các nguyên tắc này. _Minh bạch_ và _t * [**Quyền riêng tư & Bảo mật**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - là về việc hiểu nguồn gốc dữ liệu và cung cấp _quyền riêng tư dữ liệu và các bảo vệ liên quan_ cho người dùng. * [**Tính bao gồm**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - là về việc thiết kế các giải pháp AI với ý định, điều chỉnh chúng để đáp ứng _một loạt các nhu cầu và khả năng của con người_. -> 🚨 Hãy nghĩ về tuyên bố sứ mệnh đạo đức dữ liệu của bạn có thể là gì. Khám phá các khung đạo đức AI từ các tổ chức khác - đây là các ví dụ từ [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), và [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Các giá trị chung của họ có điểm gì tương đồng? Các nguyên tắc này liên quan như thế nào đến sản phẩm AI hoặc ngành mà họ hoạt động? +> 🚨 Hãy nghĩ về tuyên bố sứ mệnh đạo đức dữ liệu của bạn có thể là gì. Khám phá các khung đạo đức AI từ các tổ chức khác - đây là các ví dụ từ [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), và [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Những giá trị chung nào mà họ có điểm tương đồng? Những nguyên tắc này liên quan như thế nào đến sản phẩm AI hoặc ngành mà họ hoạt động? ### 2. Thách thức đạo đức Khi chúng ta đã xác định các nguyên tắc đạo đức, bước tiếp theo là đánh giá các hành động dữ liệu và AI của chúng ta để xem liệu chúng có phù hợp với các giá trị chung đó hay không. Hãy nghĩ về các hành động của bạn trong hai danh mục: _thu thập dữ liệu_ và _thiết kế thuật toán_. -Với việc thu thập dữ liệu, các hành động có thể liên quan đến **dữ liệu cá nhân** hoặc thông tin nhận dạng cá nhân (PII) cho các cá nhân có thể nhận dạng. Điều này bao gồm [các mục dữ liệu không cá nhân đa dạng](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) mà _tập hợp lại_ có thể nhận dạng một cá nhân. Các thách thức đạo đức có thể liên quan đến _quyền riêng tư dữ liệu_, _quyền sở hữu dữ liệu_, và các chủ đề liên quan như _sự đồng ý được thông báo_ và _quyền sở hữu trí tuệ_ của người dùng. +Với việc thu thập dữ liệu, các hành động có thể liên quan đến **dữ liệu cá nhân** hoặc thông tin nhận dạng cá nhân (PII) cho các cá nhân có thể nhận dạng. Điều này bao gồm [các mục dữ liệu không cá nhân đa dạng](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) mà _tổng hợp lại_ có thể nhận dạng một cá nhân. Các thách thức đạo đức có thể liên quan đến _quyền riêng tư dữ liệu_, _quyền sở hữu dữ liệu_, và các chủ đề liên quan như _sự đồng ý được thông báo_ và _quyền sở hữu trí tuệ_ của người dùng. -Với thiết kế thuật toán, các hành động sẽ liên quan đến việc thu thập & quản lý **bộ dữ liệu**, sau đó sử dụng chúng để huấn luyện & triển khai **mô hình dữ liệu** dự đoán kết quả hoặc tự động hóa quyết định trong các bối cảnh thực tế. Các thách thức đạo đức có thể phát sinh từ _thiên vị bộ dữ liệu_, _vấn đề chất lượng dữ liệu_, _sự không công bằng_, và _sự sai lệch_ trong thuật toán - bao gồm một số vấn đề mang tính hệ thống. +Với thiết kế thuật toán, các hành động sẽ liên quan đến việc thu thập & quản lý **bộ dữ liệu**, sau đó sử dụng chúng để huấn luyện & triển khai **mô hình dữ liệu** dự đoán kết quả hoặc tự động hóa quyết định trong các bối cảnh thực tế. Các thách thức đạo đức có thể phát sinh từ _thiên vị bộ dữ liệu_, các vấn đề về _chất lượng dữ liệu_, _sự không công bằng_, và _sự sai lệch_ trong thuật toán - bao gồm một số vấn đề mang tính hệ thống. -Trong cả hai trường hợp, các thách thức đạo đức làm nổi bật các lĩnh vực mà hành động của chúng ta có thể gặp xung đột với các giá trị chung. Để phát hiện, giảm thiểu, giảm bớt hoặc loại bỏ các mối quan ngại này - chúng ta cần đặt ra các câu hỏi đạo đức "có/không" liên quan đến hành động của mình, sau đó thực hiện các hành động khắc phục khi cần thiết. Hãy cùng xem xét một số thách thức đạo đức và các câu hỏi đạo đức mà chúng đặt ra: +Trong cả hai trường hợp, các thách thức đạo đức làm nổi bật các lĩnh vực mà hành động của chúng ta có thể gặp xung đột với các giá trị chung. Để phát hiện, giảm thiểu, giảm bớt hoặc loại bỏ những lo ngại này - chúng ta cần đặt ra các câu hỏi đạo đức "có/không" liên quan đến hành động của mình, sau đó thực hiện các biện pháp khắc phục khi cần thiết. Hãy cùng xem một số thách thức đạo đức và các câu hỏi đạo đức mà chúng đặt ra: #### 2.1 Quyền sở hữu dữ liệu -Việc thu thập dữ liệu thường liên quan đến dữ liệu cá nhân có thể nhận dạng các đối tượng dữ liệu. [Quyền sở hữu dữ liệu](https://permission.io/blog/data-ownership) là về _kiểm soát_ và [_quyền của người dùng_](https://permission.io/blog/data-ownership) liên quan đến việc tạo ra, xử lý và phổ biến dữ liệu. +Việc thu thập dữ liệu thường liên quan đến dữ liệu cá nhân có thể nhận dạng các đối tượng dữ liệu. [Quyền sở hữu dữ liệu](https://permission.io/blog/data-ownership) là về _kiểm soát_ và [_quyền của người dùng_](https://permission.io/blog/data-ownership) liên quan đến việc tạo, xử lý và phổ biến dữ liệu. Các câu hỏi đạo đức cần đặt ra là: -* Ai sở hữu dữ liệu? (người dùng hay tổ chức) -* Các quyền mà đối tượng dữ liệu có là gì? (ví dụ: truy cập, xóa, di chuyển) -* Các quyền mà tổ chức có là gì? (ví dụ: chỉnh sửa đánh giá người dùng độc hại) + * Ai sở hữu dữ liệu? (người dùng hay tổ chức) + * Các quyền mà đối tượng dữ liệu có là gì? (ví dụ: truy cập, xóa, di chuyển) + * Các quyền mà tổ chức có là gì? (ví dụ: chỉnh sửa đánh giá người dùng độc hại) #### 2.2 Sự đồng ý được thông báo -[Sự đồng ý được thông báo](https://legaldictionary.net/informed-consent/) định nghĩa hành động người dùng đồng ý với một hành động (như thu thập dữ liệu) với _sự hiểu biết đầy đủ_ về các sự kiện liên quan bao gồm mục đích, rủi ro tiềm ẩn, và các lựa chọn thay thế. +[Sự đồng ý được thông báo](https://legaldictionary.net/informed-consent/) định nghĩa hành động người dùng đồng ý với một hành động (như thu thập dữ liệu) với _sự hiểu biết đầy đủ_ về các sự kiện liên quan bao gồm mục đích, rủi ro tiềm ẩn và các lựa chọn thay thế. Các câu hỏi cần khám phá ở đây là: -* Người dùng (đối tượng dữ liệu) có cho phép thu thập và sử dụng dữ liệu không? -* Người dùng có hiểu mục đích mà dữ liệu đó được thu thập không? -* Người dùng có hiểu các rủi ro tiềm ẩn từ sự tham gia của họ không? + * Người dùng (đối tượng dữ liệu) có cho phép thu thập và sử dụng dữ liệu không? + * Người dùng có hiểu mục đích mà dữ liệu đó được thu thập không? + * Người dùng có hiểu các rủi ro tiềm ẩn từ sự tham gia của họ không? #### 2.3 Quyền sở hữu trí tuệ [Quyền sở hữu trí tuệ](https://en.wikipedia.org/wiki/Intellectual_property) đề cập đến các sáng tạo vô hình xuất phát từ sáng kiến của con người, có thể _có giá trị kinh tế_ đối với cá nhân hoặc doanh nghiệp. Các câu hỏi cần khám phá ở đây là: -* Dữ liệu được thu thập có giá trị kinh tế đối với người dùng hoặc doanh nghiệp không? -* Người dùng có quyền sở hữu trí tuệ ở đây không? -* Tổ chức có quyền sở hữu trí tuệ ở đây không? -* Nếu các quyền này tồn tại, chúng ta đang bảo vệ chúng như thế nào? + * Dữ liệu được thu thập có giá trị kinh tế đối với người dùng hoặc doanh nghiệp không? + * **Người dùng** có quyền sở hữu trí tuệ ở đây không? + * **Tổ chức** có quyền sở hữu trí tuệ ở đây không? + * Nếu các quyền này tồn tại, chúng ta đang bảo vệ chúng như thế nào? #### 2.4 Quyền riêng tư dữ liệu [Quyền riêng tư dữ liệu](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) hoặc quyền riêng tư thông tin đề cập đến việc bảo vệ quyền riêng tư của người dùng và bảo vệ danh tính của họ liên quan đến thông tin nhận dạng cá nhân. Các câu hỏi cần khám phá ở đây là: -* Dữ liệu (cá nhân) của người dùng có được bảo mật chống lại các cuộc tấn công và rò rỉ không? -* Dữ liệu của người dùng có chỉ được truy cập bởi các người dùng và bối cảnh được ủy quyền không? -* Tính ẩn danh của người dùng có được bảo tồn khi dữ liệu được chia sẻ hoặc phổ biến không? -* Người dùng có thể được không nhận dạng từ các bộ dữ liệu đã được ẩn danh không? + * Dữ liệu (cá nhân) của người dùng có được bảo mật chống lại các cuộc tấn công và rò rỉ không? + * Dữ liệu của người dùng có chỉ được truy cập bởi các người dùng và bối cảnh được ủy quyền không? + * Tính ẩn danh của người dùng có được bảo tồn khi dữ liệu được chia sẻ hoặc phổ biến không? + * Người dùng có thể được gỡ bỏ nhận dạng khỏi các bộ dữ liệu đã được ẩn danh không? #### 2.5 Quyền được lãng quên -[Quyền được lãng quên](https://en.wikipedia.org/wiki/Right_to_be_forgotten) hoặc [Quyền xóa bỏ](https://www.gdpreu.org/right-to-be-forgotten/) cung cấp thêm sự bảo vệ dữ liệu cá nhân cho người dùng. Cụ thể, nó cho phép người dùng yêu cầu xóa hoặc loại bỏ dữ liệu cá nhân khỏi các tìm kiếm trên Internet và các địa điểm khác, _trong các trường hợp cụ thể_ - cho phép họ có một khởi đầu mới trực tuyến mà không bị các hành động trong quá khứ chống lại họ. +[Quyền được lãng quên](https://en.wikipedia.org/wiki/Right_to_be_forgotten) hoặc [Quyền xóa bỏ](https://www.gdpreu.org/right-to-be-forgotten/) cung cấp thêm sự bảo vệ dữ liệu cá nhân cho người dùng. Cụ thể, nó cho phép người dùng yêu cầu xóa hoặc loại bỏ dữ liệu cá nhân khỏi các tìm kiếm trên Internet và các vị trí khác, _trong các trường hợp cụ thể_ - cho phép họ có một khởi đầu mới trực tuyến mà không bị các hành động trong quá khứ ảnh hưởng. Các câu hỏi cần khám phá ở đây là: -* Hệ thống có cho phép đối tượng dữ liệu yêu cầu xóa bỏ không? -* Việc rút lại sự đồng ý của người dùng có nên kích hoạt việc xóa bỏ tự động không? -* Dữ liệu có được thu thập mà không có sự đồng ý hoặc bằng các phương tiện bất hợp pháp không? -* Chúng ta có tuân thủ các quy định của chính phủ về quyền riêng tư dữ liệu không? + * Hệ thống có cho phép đối tượng dữ liệu yêu cầu xóa bỏ không? + * Việc rút lại sự đồng ý của người dùng có nên kích hoạt việc xóa bỏ tự động không? + * Dữ liệu có được thu thập mà không có sự đồng ý hoặc bằng các phương pháp bất hợp pháp không? + * Chúng ta có tuân thủ các quy định của chính phủ về quyền riêng tư dữ liệu không? #### 2.6 Thiên vị bộ dữ liệu -Thiên vị bộ dữ liệu hoặc [Thiên vị thu thập](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) là về việc chọn một tập hợp con _không đại diện_ của dữ liệu để phát triển thuật toán, tạo ra sự không công bằng tiềm ẩn trong kết quả cho các nhóm đa dạng. Các loại thiên bias bao gồm thiên bias chọn lọc hoặc lấy mẫu, thiên bias tình nguyện, và thiên bias công cụ. +Thiên vị bộ dữ liệu hoặc [Thiên vị thu thập](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) là về việc chọn một tập hợp con _không đại diện_ của dữ liệu để phát triển thuật toán, tạo ra sự không công bằng tiềm ẩn trong kết quả cho các nhóm đa dạng. Các loại thiên vị bao gồm thiên vị chọn lọc hoặc lấy mẫu, thiên vị tình nguyện, và thiên vị công cụ. Các câu hỏi cần khám phá ở đây là: -* Chúng ta có tuyển chọn một tập hợp đại diện của các đối tượng dữ liệu không? -* Chúng ta có kiểm tra bộ dữ liệu đã thu thập hoặc quản lý để phát hiện các thiên bias khác nhau không? -* Chúng ta có thể giảm thiểu hoặc loại bỏ các thiên bias đã phát hiện không? + * Chúng ta có tuyển chọn một tập hợp đại diện của các đối tượng dữ liệu không? + * Chúng ta có kiểm tra bộ dữ liệu đã thu thập hoặc quản lý để phát hiện các thiên bias khác nhau không? + * Chúng ta có thể giảm thiểu hoặc loại bỏ bất kỳ thiên bias nào đã được phát hiện không? #### 2.7 Chất lượng dữ liệu -[Chất lượng dữ liệu](https://lakefs.io/data-quality-testing/) xem xét tính hợp lệ của bộ dữ liệu được quản lý để phát triển thuật toán của chúng ta, kiểm tra xem các đặc điểm và bản ghi có đáp ứng yêu cầu về mức độ chính xác và nhất quán cần thiết cho mục đích AI của chúng ta hay không. +[Chất lượng dữ liệu](https://lakefs.io/data-quality-testing/) xem xét tính hợp lệ của bộ dữ liệu được quản lý để phát triển các thuật toán của chúng ta, kiểm tra xem các đặc điểm và bản ghi có đáp ứng yêu cầu về mức độ chính xác và nhất quán cần thiết cho mục đích AI của chúng ta hay không. Các câu hỏi cần khám phá ở đây là: -* Chúng ta có thu thập các _đặc điểm hợp lệ_ cho trường hợp sử dụng của mình không? -* Dữ liệu có được thu thập _ -[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) kiểm tra xem thiết kế thuật toán có phân biệt đối xử một cách hệ thống với các nhóm đối tượng dữ liệu cụ thể hay không, dẫn đến [những tổn hại tiềm tàng](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) trong _phân bổ_ (nơi tài nguyên bị từ chối hoặc không được cung cấp cho nhóm đó) và _chất lượng dịch vụ_ (nơi AI không chính xác đối với một số nhóm như đối với các nhóm khác). + * Chúng ta có thu thập các _đặc điểm hợp lệ_ cho trường hợp sử dụng của mình không? + * +[Algorithm Fairness](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) kiểm tra xem thiết kế thuật toán có phân biệt đối xử một cách hệ thống với các nhóm đối tượng dữ liệu cụ thể hay không, dẫn đến [những tổn hại tiềm ẩn](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) trong _phân bổ_ (khi tài nguyên bị từ chối hoặc không được cung cấp cho nhóm đó) và _chất lượng dịch vụ_ (khi AI không chính xác đối với một số nhóm như đối với các nhóm khác). Các câu hỏi cần khám phá ở đây là: * Chúng ta đã đánh giá độ chính xác của mô hình đối với các nhóm và điều kiện đa dạng chưa? - * Chúng ta đã xem xét hệ thống để tìm các tổn hại tiềm tàng (ví dụ: định kiến) chưa? + * Chúng ta đã xem xét hệ thống để tìm các tổn hại tiềm ẩn (ví dụ: định kiến) chưa? * Chúng ta có thể sửa đổi dữ liệu hoặc huấn luyện lại mô hình để giảm thiểu các tổn hại đã xác định không? Khám phá các tài nguyên như [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) để tìm hiểu thêm. @@ -169,50 +169,50 @@ Các câu hỏi cần khám phá ở đây là: ### 3. Nghiên cứu tình huống -Để đặt những thách thức đạo đức này vào bối cảnh thực tế, việc xem xét các nghiên cứu tình huống giúp làm nổi bật những tổn hại và hậu quả tiềm tàng đối với cá nhân và xã hội khi các vi phạm đạo đức như vậy bị bỏ qua. +Để đặt những thách thức đạo đức này vào bối cảnh thực tế, việc xem xét các nghiên cứu tình huống giúp làm nổi bật những tổn hại và hậu quả tiềm ẩn đối với cá nhân và xã hội khi các vi phạm đạo đức như vậy bị bỏ qua. Dưới đây là một vài ví dụ: | Thách thức đạo đức | Nghiên cứu tình huống | |--- |--- | -| **Sự đồng ý được thông báo** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Những người đàn ông Mỹ gốc Phi tham gia nghiên cứu được hứa hẹn chăm sóc y tế miễn phí _nhưng bị lừa dối_ bởi các nhà nghiên cứu không thông báo cho họ về chẩn đoán hoặc sự sẵn có của phương pháp điều trị. Nhiều người đã chết và đối tác hoặc con cái của họ bị ảnh hưởng; nghiên cứu kéo dài 40 năm. | -| **Quyền riêng tư dữ liệu** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) cung cấp cho các nhà nghiên cứu _10 triệu xếp hạng phim ẩn danh từ 50 nghìn khách hàng_ để cải thiện thuật toán gợi ý. Tuy nhiên, các nhà nghiên cứu đã có thể liên kết dữ liệu ẩn danh với dữ liệu nhận dạng cá nhân trong _các tập dữ liệu bên ngoài_ (ví dụ: bình luận IMDb) - thực tế "giải ẩn danh" một số người dùng Netflix.| -| **Thiên vị trong thu thập dữ liệu** | 2013 - Thành phố Boston [phát triển Street Bump](https://www.boston.gov/transportation/street-bump), một ứng dụng cho phép công dân báo cáo ổ gà, cung cấp cho thành phố dữ liệu đường xá tốt hơn để tìm và sửa chữa các vấn đề. Tuy nhiên, [những người thuộc nhóm thu nhập thấp ít có quyền truy cập vào ô tô và điện thoại hơn](https://hbr.org/2013/04/the-hidden-biases-in-big-data), khiến các vấn đề đường xá của họ trở nên vô hình trong ứng dụng này. Các nhà phát triển đã làm việc với các học giả để giải quyết _vấn đề tiếp cận công bằng và chia rẽ kỹ thuật số_ nhằm đảm bảo tính công bằng. | -| **Công bằng thuật toán** | 2018 - [Gender Shades Study](http://gendershades.org/overview.html) của MIT đánh giá độ chính xác của các sản phẩm AI phân loại giới tính, phơi bày những khoảng cách về độ chính xác đối với phụ nữ và người da màu. Một [Apple Card năm 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) dường như cung cấp ít tín dụng hơn cho phụ nữ so với nam giới. Cả hai đều minh họa các vấn đề về thiên vị thuật toán dẫn đến tổn hại kinh tế xã hội.| -| **Sai lệch thông tin dữ liệu** | 2020 - [Sở Y tế Georgia công bố biểu đồ COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) dường như gây hiểu lầm cho công dân về xu hướng các ca bệnh được xác nhận với thứ tự không theo thời gian trên trục x. Điều này minh họa sự sai lệch thông tin thông qua các thủ thuật trực quan hóa. | -| **Ảo tưởng về quyền tự do lựa chọn** | 2020 - Ứng dụng học tập [ABCmouse trả 10 triệu USD để giải quyết khiếu nại của FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) nơi phụ huynh bị mắc kẹt trong việc trả tiền cho các gói đăng ký mà họ không thể hủy bỏ. Điều này minh họa các mô hình tối trong kiến trúc lựa chọn, nơi người dùng bị thúc đẩy đến các lựa chọn có thể gây hại. | -| **Quyền riêng tư dữ liệu & Quyền người dùng** | 2021 - [Facebook Data Breach](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) làm lộ dữ liệu của 530 triệu người dùng, dẫn đến khoản bồi thường 5 tỷ USD cho FTC. Tuy nhiên, Facebook từ chối thông báo cho người dùng về vi phạm, vi phạm quyền của người dùng liên quan đến tính minh bạch và quyền truy cập dữ liệu. | +| **Sự đồng thuận có thông tin** | 1972 - [Tuskegee Syphilis Study](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Những người đàn ông Mỹ gốc Phi tham gia nghiên cứu được hứa hẹn chăm sóc y tế miễn phí _nhưng bị lừa dối_ bởi các nhà nghiên cứu không thông báo cho họ về chẩn đoán hoặc sự tồn tại của phương pháp điều trị. Nhiều người đã chết và đối tác hoặc con cái của họ bị ảnh hưởng; nghiên cứu kéo dài 40 năm. | +| **Quyền riêng tư dữ liệu** | 2007 - [Giải thưởng dữ liệu Netflix](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) cung cấp cho các nhà nghiên cứu _10 triệu xếp hạng phim ẩn danh từ 50 nghìn khách hàng_ để cải thiện thuật toán gợi ý. Tuy nhiên, các nhà nghiên cứu đã có thể liên kết dữ liệu ẩn danh với dữ liệu nhận dạng cá nhân trong _các tập dữ liệu bên ngoài_ (ví dụ: bình luận IMDb) - thực tế "giải ẩn danh" một số người dùng Netflix.| +| **Thiên vị trong thu thập dữ liệu** | 2013 - Thành phố Boston [phát triển Street Bump](https://www.boston.gov/transportation/street-bump), một ứng dụng cho phép công dân báo cáo ổ gà, cung cấp cho thành phố dữ liệu đường xá tốt hơn để tìm và sửa chữa các vấn đề. Tuy nhiên, [những người thuộc nhóm thu nhập thấp ít có khả năng sở hữu xe hơi và điện thoại](https://hbr.org/2013/04/the-hidden-biases-in-big-data), khiến các vấn đề đường xá của họ trở nên vô hình trong ứng dụng này. Các nhà phát triển đã làm việc với các học giả để giải quyết _vấn đề tiếp cận công bằng và khoảng cách kỹ thuật số_ nhằm đảm bảo tính công bằng. | +| **Công bằng thuật toán** | 2018 - Nghiên cứu [Gender Shades của MIT](http://gendershades.org/overview.html) đánh giá độ chính xác của các sản phẩm AI phân loại giới tính, phát hiện ra sự chênh lệch về độ chính xác đối với phụ nữ và người da màu. Một [thẻ tín dụng Apple năm 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) dường như cung cấp hạn mức tín dụng thấp hơn cho phụ nữ so với nam giới. Cả hai đều minh họa các vấn đề về thiên vị thuật toán dẫn đến tổn hại kinh tế xã hội.| +| **Sai lệch thông tin dữ liệu** | 2020 - [Sở Y tế Georgia công bố biểu đồ COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) dường như gây hiểu lầm cho người dân về xu hướng các ca bệnh được xác nhận với trục x không được sắp xếp theo thứ tự thời gian. Điều này minh họa sự sai lệch thông tin thông qua các thủ thuật trực quan hóa. | +| **Ảo tưởng về quyền tự do lựa chọn** | 2020 - Ứng dụng học tập [ABCmouse trả 10 triệu USD để giải quyết khiếu nại của FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) khi phụ huynh bị mắc kẹt trong việc trả tiền cho các gói đăng ký mà họ không thể hủy bỏ. Điều này minh họa các mô hình tối trong kiến trúc lựa chọn, nơi người dùng bị thúc đẩy đến các lựa chọn có thể gây hại. | +| **Quyền riêng tư dữ liệu & Quyền người dùng** | 2021 - [Rò rỉ dữ liệu Facebook](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) làm lộ dữ liệu của 530 triệu người dùng, dẫn đến khoản tiền phạt 5 tỷ USD từ FTC. Tuy nhiên, Facebook từ chối thông báo cho người dùng về vụ rò rỉ, vi phạm quyền của người dùng liên quan đến tính minh bạch và quyền truy cập dữ liệu. | Muốn khám phá thêm các nghiên cứu tình huống? Hãy xem các tài nguyên sau: -* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - các tình huống đạo đức trong nhiều ngành công nghiệp. -* [Khóa học Đạo đức Khoa học Dữ liệu](https://www.coursera.org/learn/data-science-ethics#syllabus) - nghiên cứu các tình huống nổi bật. +* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - các tình huống đạo đức trong nhiều ngành công nghiệp khác nhau. +* [Khóa học Đạo đức Khoa học Dữ liệu](https://www.coursera.org/learn/data-science-ethics#syllabus) - các nghiên cứu tình huống nổi bật được khám phá. * [Những nơi đã xảy ra sai sót](https://deon.drivendata.org/examples/) - danh sách kiểm tra Deon với các ví dụ. > 🚨 Hãy nghĩ về các nghiên cứu tình huống bạn đã thấy - bạn đã từng trải qua hoặc bị ảnh hưởng bởi một thách thức đạo đức tương tự trong cuộc sống chưa? Bạn có thể nghĩ ra ít nhất một nghiên cứu tình huống khác minh họa một trong những thách thức đạo đức mà chúng ta đã thảo luận trong phần này không? ## Đạo đức ứng dụng -Chúng ta đã nói về các khái niệm đạo đức, thách thức và nghiên cứu tình huống trong bối cảnh thực tế. Nhưng làm thế nào để chúng ta bắt đầu _áp dụng_ các nguyên tắc và thực hành đạo đức vào các dự án của mình? Và làm thế nào để chúng ta _hiện thực hóa_ những thực hành này để cải thiện quản trị? Hãy khám phá một số giải pháp thực tế: +Chúng ta đã nói về các khái niệm đạo đức, thách thức và nghiên cứu tình huống trong bối cảnh thực tế. Nhưng làm thế nào để chúng ta bắt đầu _áp dụng_ các nguyên tắc và thực hành đạo đức vào các dự án của mình? Và làm thế nào để chúng ta _vận hành_ những thực hành này để cải thiện quản trị? Hãy khám phá một số giải pháp thực tế: ### 1. Bộ quy tắc nghề nghiệp Bộ quy tắc nghề nghiệp cung cấp một lựa chọn cho các tổ chức để "khuyến khích" các thành viên hỗ trợ các nguyên tắc đạo đức và tuyên bố sứ mệnh của họ. Các bộ quy tắc là _hướng dẫn đạo đức_ cho hành vi nghề nghiệp, giúp nhân viên hoặc thành viên đưa ra quyết định phù hợp với các nguyên tắc của tổ chức. Chúng chỉ hiệu quả khi có sự tuân thủ tự nguyện từ các thành viên; tuy nhiên, nhiều tổ chức cung cấp thêm phần thưởng và hình phạt để thúc đẩy sự tuân thủ từ các thành viên. -Các ví dụ bao gồm: +Ví dụ bao gồm: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Bộ quy tắc đạo đức * [Hiệp hội Khoa học Dữ liệu](http://datascienceassn.org/code-of-conduct.html) Bộ quy tắc ứng xử (được tạo năm 2013) - * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (từ năm 1993) + * [Bộ quy tắc đạo đức và ứng xử nghề nghiệp của ACM](https://www.acm.org/code-of-ethics) (từ năm 1993) > 🚨 Bạn có thuộc một tổ chức kỹ thuật hoặc khoa học dữ liệu chuyên nghiệp không? Hãy khám phá trang web của họ để xem liệu họ có định nghĩa một bộ quy tắc đạo đức nghề nghiệp không. Điều này nói gì về các nguyên tắc đạo đức của họ? Họ đang "khuyến khích" các thành viên tuân theo bộ quy tắc như thế nào? ### 2. Danh sách kiểm tra đạo đức -Trong khi các bộ quy tắc nghề nghiệp định nghĩa hành vi _đạo đức cần thiết_ từ các nhà thực hành, chúng [có những hạn chế đã biết](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) trong việc thực thi, đặc biệt trong các dự án quy mô lớn. Thay vào đó, nhiều chuyên gia khoa học dữ liệu [ủng hộ danh sách kiểm tra](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), có thể **kết nối các nguyên tắc với thực hành** theo cách xác định và có thể hành động hơn. +Trong khi các bộ quy tắc nghề nghiệp định nghĩa hành vi _đạo đức cần thiết_ từ các nhà thực hành, chúng [có những hạn chế đã biết](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) trong việc thực thi, đặc biệt là trong các dự án quy mô lớn. Thay vào đó, nhiều chuyên gia khoa học dữ liệu [ủng hộ danh sách kiểm tra](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), có thể **kết nối các nguyên tắc với thực hành** theo cách xác định và có thể hành động hơn. -Danh sách kiểm tra chuyển đổi các câu hỏi thành các nhiệm vụ "có/không" có thể hiện thực hóa, cho phép chúng được theo dõi như một phần của quy trình phát hành sản phẩm tiêu chuẩn. +Danh sách kiểm tra chuyển đổi các câu hỏi thành các nhiệm vụ "có/không" có thể được vận hành, cho phép chúng được theo dõi như một phần của quy trình phát hành sản phẩm tiêu chuẩn. -Các ví dụ bao gồm: +Ví dụ bao gồm: * [Deon](https://deon.drivendata.org/) - danh sách kiểm tra đạo đức dữ liệu đa mục đích được tạo từ [khuyến nghị ngành](https://deon.drivendata.org/#checklist-citations) với công cụ dòng lệnh để tích hợp dễ dàng. * [Danh sách kiểm tra kiểm toán quyền riêng tư](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - cung cấp hướng dẫn chung về thực hành xử lý thông tin từ góc độ pháp lý và xã hội. * [Danh sách kiểm tra công bằng AI](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - được tạo bởi các nhà thực hành AI để hỗ trợ việc áp dụng và tích hợp các kiểm tra công bằng vào chu kỳ phát triển AI. @@ -220,37 +220,37 @@ Các ví dụ bao gồm: ### 3. Quy định đạo đức -Đạo đức là về việc định nghĩa các giá trị chung và làm điều đúng _một cách tự nguyện_. **Tuân thủ** là về _tuân theo luật pháp_ nếu và nơi được định nghĩa. **Quản trị** bao quát tất cả các cách mà các tổ chức hoạt động để thực thi các nguyên tắc đạo đức và tuân thủ các luật đã được thiết lập. +Đạo đức là về việc định nghĩa các giá trị chung và làm điều đúng đắn _một cách tự nguyện_. **Tuân thủ** là về _tuân theo luật pháp_ nếu và khi được định nghĩa. **Quản trị** bao gồm tất cả các cách mà các tổ chức hoạt động để thực thi các nguyên tắc đạo đức và tuân thủ các luật đã được thiết lập. -Ngày nay, quản trị có hai hình thức trong các tổ chức. Đầu tiên, đó là việc định nghĩa các nguyên tắc **AI đạo đức** và thiết lập các thực hành để hiện thực hóa việc áp dụng trên tất cả các dự án liên quan đến AI trong tổ chức. Thứ hai, đó là việc tuân thủ tất cả các quy định **bảo vệ dữ liệu** do chính phủ quy định cho các khu vực mà tổ chức hoạt động. +Ngày nay, quản trị có hai hình thức trong các tổ chức. Đầu tiên, đó là việc định nghĩa các nguyên tắc **AI đạo đức** và thiết lập các thực hành để vận hành việc áp dụng trên tất cả các dự án liên quan đến AI trong tổ chức. Thứ hai, đó là việc tuân thủ tất cả các quy định **bảo vệ dữ liệu** do chính phủ quy định cho các khu vực mà tổ chức hoạt động. -Các ví dụ về quy định bảo vệ dữ liệu và quyền riêng tư: +Ví dụ về các quy định bảo vệ dữ liệu và quyền riêng tư: - * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - quy định việc thu thập, sử dụng và tiết lộ thông tin cá nhân của _chính phủ liên bang_. - * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - bảo vệ dữ liệu sức khỏe cá nhân. - * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - bảo vệ quyền riêng tư dữ liệu của trẻ em dưới 13 tuổi. - * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - cung cấp quyền người dùng, bảo vệ dữ liệu và quyền riêng tư. - * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) cung cấp cho người tiêu dùng nhiều _quyền_ hơn đối với dữ liệu (cá nhân) của họ. + * `1974`, [Đạo luật Quyền riêng tư của Hoa Kỳ](https://www.justice.gov/opcl/privacy-act-1974) - quy định việc thu thập, sử dụng và tiết lộ thông tin cá nhân của _chính phủ liên bang_. + * `1996`, [Đạo luật Bảo mật và Khả năng Chuyển đổi Bảo hiểm Y tế của Hoa Kỳ (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - bảo vệ dữ liệu sức khỏe cá nhân. + * `1998`, [Đạo luật Bảo vệ Quyền riêng tư Trẻ em Trực tuyến của Hoa Kỳ (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - bảo vệ quyền riêng tư dữ liệu của trẻ em dưới 13 tuổi. + * `2018`, [Quy định Bảo vệ Dữ liệu Chung (GDPR)](https://gdpr-info.eu/) - cung cấp quyền người dùng, bảo vệ dữ liệu và quyền riêng tư. + * `2018`, [Đạo luật Quyền riêng tư Người tiêu dùng California (CCPA)](https://www.oag.ca.gov/privacy/ccpa) cung cấp cho người tiêu dùng nhiều _quyền_ hơn đối với dữ liệu (cá nhân) của họ. * `2021`, [Luật Bảo vệ Thông tin Cá nhân của Trung Quốc](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) vừa được thông qua, tạo ra một trong những quy định bảo vệ quyền riêng tư dữ liệu trực tuyến mạnh nhất trên toàn thế giới. -> 🚨 Liên minh châu Âu đã định nghĩa GDPR (Quy định Bảo vệ Dữ liệu Chung) vẫn là một trong những quy định bảo vệ quyền riêng tư dữ liệu có ảnh hưởng nhất hiện nay. Bạn có biết rằng nó cũng định nghĩa [8 quyền người dùng](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) để bảo vệ quyền riêng tư kỹ thuật số và dữ liệu cá nhân của công dân không? Tìm hiểu về những quyền này và tại sao chúng lại quan trọng. +> 🚨 Liên minh Châu Âu đã định nghĩa GDPR (Quy định Bảo vệ Dữ liệu Chung), một trong những quy định bảo vệ quyền riêng tư dữ liệu có ảnh hưởng nhất hiện nay. Bạn có biết rằng nó cũng định nghĩa [8 quyền người dùng](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) để bảo vệ quyền riêng tư kỹ thuật số và dữ liệu cá nhân của công dân không? Hãy tìm hiểu về những quyền này và tại sao chúng lại quan trọng. ### 4. Văn hóa đạo đức -Lưu ý rằng vẫn còn một khoảng cách vô hình giữa _tuân thủ_ (làm đủ để đáp ứng "tinh thần của luật pháp") và giải quyết [các vấn đề hệ thống](https://www.coursera.org/learn/data-science-ethics/home/week/4) (như sự cứng nhắc, bất đối xứng thông tin và sự không công bằng trong phân phối) có thể đẩy nhanh việc vũ khí hóa AI. +Lưu ý rằng vẫn còn một khoảng cách vô hình giữa _tuân thủ_ (làm đủ để đáp ứng "tinh thần của luật pháp") và giải quyết [các vấn đề hệ thống](https://www.coursera.org/learn/data-science-ethics/home/week/4) (như sự cứng nhắc, bất cân xứng thông tin và sự không công bằng trong phân phối) có thể đẩy nhanh việc vũ khí hóa AI. -Điều này đòi hỏi [các cách tiếp cận hợp tác để định nghĩa văn hóa đạo đức](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) nhằm xây dựng kết nối cảm xúc và các giá trị chung nhất quán _trong các tổ chức_ trong ngành. Điều này kêu gọi [văn hóa đạo đức dữ liệu được chính thức hóa](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) trong các tổ chức - cho phép _bất kỳ ai_ [kéo dây Andon](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (để nêu lên các mối quan ngại về đạo đức sớm trong quy trình) và làm cho _đánh giá đạo đức_ (ví dụ: trong tuyển dụng) trở thành tiêu chí cốt lõi trong việc hình thành nhóm cho các dự án AI. +Điều này đòi hỏi [các cách tiếp cận hợp tác để định nghĩa văn hóa đạo đức](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) nhằm xây dựng các kết nối cảm xúc và giá trị chung nhất quán _trong các tổ chức_ trong ngành. Điều này kêu gọi [văn hóa đạo đức dữ liệu được chính thức hóa hơn](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) trong các tổ chức - cho phép _bất kỳ ai_ [kéo dây Andon](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (để nêu lên các mối quan ngại về đạo đức sớm trong quy trình) và làm cho _đánh giá đạo đức_ (ví dụ: trong tuyển dụng) trở thành tiêu chí cốt lõi trong việc hình thành đội ngũ cho các dự án AI. --- -## [Câu hỏi kiểm tra sau bài giảng](https://purple-hill-04aebfb03.1.azurestaticapps.net/quiz/3) 🎯 +## [Câu hỏi kiểm tra sau bài giảng](https://ff-quizzes.netlify.app/en/ds/) 🎯 ## Ôn tập & Tự học Các khóa học và sách giúp hiểu các khái niệm đạo đức cốt lõi và thách thức, trong khi các nghiên cứu tình huống và công cụ giúp thực hành đạo đức trong bối cảnh thực tế. Dưới đây là một vài tài nguyên để bắt đầu. * [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - bài học về Công bằng, từ Microsoft. * [Nguyên tắc AI có trách nhiệm](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - lộ trình học miễn phí từ Microsoft Learn. -* [Đạo đức và Khoa học Dữ liệu](https://resources.oreilly.com/examples/0636920203964) - Sách điện tử O'Reilly (M. Loukides, H. Mason và các tác giả khác). -* [Đạo đức trong Khoa học Dữ liệu](https://www.coursera.org/learn/data-science-ethics#syllabus) - khóa học trực tuyến từ Đại học Michigan. +* [Đạo đức và Khoa học Dữ liệu](https://resources.oreilly.com/examples/0636920203964) - Sách điện tử O'Reilly (M. Loukides, H. Mason và cộng sự). +* [Đạo đức Khoa học Dữ liệu](https://www.coursera.org/learn/data-science-ethics#syllabus) - khóa học trực tuyến từ Đại học Michigan. * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - các nghiên cứu tình huống từ Đại học Texas. # Bài tập @@ -260,4 +260,4 @@ Các khóa học và sách giúp hiểu các khái niệm đạo đức cốt l --- **Tuyên bố miễn trừ trách nhiệm**: -Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI [Co-op Translator](https://github.com/Azure/co-op-translator). Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng các bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ bản địa nên được coi là nguồn thông tin chính thức. Đối với các thông tin quan trọng, khuyến nghị sử dụng dịch vụ dịch thuật chuyên nghiệp bởi con người. Chúng tôi không chịu trách nhiệm cho bất kỳ sự hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này. \ No newline at end of file +Tài liệu này đã được dịch bằng dịch vụ dịch thuật AI [Co-op Translator](https://github.com/Azure/co-op-translator). Mặc dù chúng tôi cố gắng đảm bảo độ chính xác, xin lưu ý rằng các bản dịch tự động có thể chứa lỗi hoặc không chính xác. Tài liệu gốc bằng ngôn ngữ bản địa nên được coi là nguồn thông tin chính thức. Đối với các thông tin quan trọng, khuyến nghị sử dụng dịch vụ dịch thuật chuyên nghiệp từ con người. Chúng tôi không chịu trách nhiệm cho bất kỳ sự hiểu lầm hoặc diễn giải sai nào phát sinh từ việc sử dụng bản dịch này. \ No newline at end of file diff --git a/translations/zh/1-Introduction/02-ethics/README.md b/translations/zh/1-Introduction/02-ethics/README.md index 8d1527ba..339f9e1d 100644 --- a/translations/zh/1-Introduction/02-ethics/README.md +++ b/translations/zh/1-Introduction/02-ethics/README.md @@ -1,8 +1,8 @@