|
|
|
|
@ -1,246 +1,267 @@
|
|
|
|
|
# Въведение в етиката на данните
|
|
|
|
|
|
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
|:---:|
|
|
|
|
|
| Етика в науката за данни - _Скетч от [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
| Етика на науката за данни - _Скетч нот от [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
Всички сме граждани на света на данните.
|
|
|
|
|
Ние всички сме граждани на данни, живеещи в свят, изпълнен с данни.
|
|
|
|
|
|
|
|
|
|
Пазарните тенденции показват, че до 2022 г. една от три големи организации ще купува и продава данни чрез онлайн [пазари и борси](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Като **разработчици на приложения**, ще ни бъде по-лесно и по-евтино да интегрираме прозрения, базирани на данни, и автоматизация, управлявана от алгоритми, в ежедневния потребителски опит. Но с разпространението на AI ще трябва да разберем и потенциалните вреди, причинени от [оръжейната употреба](https://www.youtube.com/watch?v=TQHs8SA1qpk) на такива алгоритми в голям мащаб.
|
|
|
|
|
Пазарните тенденции ни казват, че до 2022 г. 1 от 3 големи организации ще купуват и продават своите данни чрез онлайн [пазарни места и борси](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Като **разработчици на приложения** ще открием, че е по-лесно и по-евтино да интегрираме прозрения, базирани на данни, и автоматизация, задвижвана от алгоритми, в ежедневните потребителски изживявания. Но тъй като изкуственият интелект става всепроникващ, ще трябва също така да разбираме потенциалните вреди, причинени от [въоръжаването](https://www.youtube.com/watch?v=TQHs8SA1qpk) на такива алгоритми в голям мащаб.
|
|
|
|
|
|
|
|
|
|
Тенденциите сочат, че до 2025 г. ще генерираме и консумираме над [180 зетабайта](https://www.statista.com/statistics/871513/worldwide-data-created/) данни. За **учените в областта на данните**, този взрив от информация предоставя безпрецедентен достъп до лични и поведенчески данни. С това идва и силата да се изграждат подробни потребителски профили и да се влияе на решенията по фин начин — често по начини, които създават [илюзия за свободен избор](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). Макар това да може да се използва за насочване на потребителите към предпочитани резултати, то също така повдига важни въпроси за поверителността на данните, автономията и етичните граници на алгоритмичното влияние.
|
|
|
|
|
Тенденциите показват, че до 2025 г. ще генерираме и консумираме над [180 зетабайта](https://www.statista.com/statistics/871513/worldwide-data-created/) данни. За **специалистите по данни** този взрив на информация осигурява безпрецедентен достъп до лични и поведенчески данни. С това идва и силата да се изградят подробни потребителски профили и да се влияе плавно върху вземането на решения — често по начини, които създават [илюзията за свободен избор](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). Докато това може да се използва за насърчаване на потребителите към предпочитани резултати, също така повдига критични въпроси за поверителността на данните, автономията и етичните граници на алгоритмичната намеса.
|
|
|
|
|
|
|
|
|
|
Етиката на данните вече е _необходима защита_ за науката за данни и инженерството, помагайки ни да минимизираме потенциалните вреди и непредвидените последици от действията ни, базирани на данни. [Цикълът на хиперболата на Gartner за AI](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) идентифицира релевантни тенденции в дигиталната етика, отговорния AI и управлението на AI като ключови двигатели за по-големи мегатенденции около _демократизацията_ и _индустриализацията_ на AI.
|
|
|
|
|
Етиката на данните вече са _необходими ограничители_ за науката за данни и инженерството, които ни помагат да минимизираме потенциалните вреди и непредвидени последствия от действията ни, базирани на данни. [Гартнеровият цикъл на преувеличение за изкуствения интелект](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) идентифицира релевантни тенденции в дигиталната етика, отговорния изкуствен интелект и управлението на изкуствения интелект като ключови двигатели за по-големите мегатенденции около _демократизиране_ и _индустриализиране_ на ИИ.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
В този урок ще разгледаме завладяващата област на етиката на данните - от основни концепции и предизвикателства до казуси и приложни AI концепции като управление, които помагат за установяване на култура на етика в екипи и организации, работещи с данни и AI.
|
|
|
|
|
В този урок ще разгледаме увлекателната област на етиката на данните — от основни концепции и предизвикателства до казуси и приложни концепции за ИИ като управление — които помагат да се изгради култура на етика в екипи и организации, работещи с данни и ИИ.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## [Тест преди лекцията](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
## [Квиз преди лекцията](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
|
|
|
|
|
## Основни дефиниции
|
|
|
|
|
|
|
|
|
|
Нека започнем с разбирането на основната терминология.
|
|
|
|
|
|
|
|
|
|
Думата "етика" произлиза от [гръцката дума "ethikos"](https://en.wikipedia.org/wiki/Ethics) (и нейния корен "ethos"), означаваща _характер или морална природа_.
|
|
|
|
|
Думата "етика" произлиза от [гръцката дума "ethikos"](https://en.wikipedia.org/wiki/Ethics) (и нейният корен "ethos"), означаваща _характер или морален характер_.
|
|
|
|
|
|
|
|
|
|
**Етиката** се отнася до споделените ценности и морални принципи, които управляват поведението ни в обществото. Етиката не се основава на закони, а на широко приети норми за това кое е "правилно срещу грешно". Въпреки това, етичните съображения могат да влияят на инициативите за корпоративно управление и правителствените регулации, които създават повече стимули за съответствие.
|
|
|
|
|
**Етиката** се отнася до споделените ценности и морални принципи, които управляват поведението ни в обществото. Етиката не се базира на закони, а на широко приети норми за това кое е "правилно" и "грешно". Въпреки това, етичните съображения могат да влияят върху корпоративните инициативи за управление и правителствени регулации, които създават повече стимул за съответствие.
|
|
|
|
|
|
|
|
|
|
**Етиката на данните** е [нов клон на етиката](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), който "изучава и оценява морални проблеми, свързани с _данни, алгоритми и съответните практики_". Тук **"данни"** се фокусират върху действия, свързани с генериране, записване, обработка, разпространение, споделяне и използване, **"алгоритми"** се фокусират върху AI, агенти, машинно обучение и роботи, а **"практики"** се фокусират върху теми като отговорна иновация, програмиране, хакерство и кодекси на етика.
|
|
|
|
|
**Етиката на данните** е [нова клонка на етиката](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1), която "изследва и оценява морални проблеми, свързани с _данните, алгоритмите и съответните практики_". Тук **"данни"** се фокусира върху действия, свързани с генериране, записване, куриране, обработка, разпространение, споделяне и използване, **"алгоритми"** върху ИИ, агенти, машинно обучение и роботи, а **"практики"** върху теми като отговорна иновация, програмиране, хакерство и кодекси на етиката.
|
|
|
|
|
|
|
|
|
|
**Приложна етика** е [практическото приложение на морални съображения](https://en.wikipedia.org/wiki/Applied_ethics). Това е процесът на активно изследване на етични въпроси в контекста на _реални действия, продукти и процеси_ и предприемане на коригиращи мерки, за да се гарантира, че те остават съобразени с определените ни етични ценности.
|
|
|
|
|
**Прилагана етика** е [практическото прилагане на морални съображения](https://en.wikipedia.org/wiki/Applied_ethics). Това е процесът на активно проучване на етични въпроси в контекста на _реални действия, продукти и процеси_, и предприемане на корективни мерки, за да гарантира, че те остават в съответствие с нашите определени етични ценности.
|
|
|
|
|
|
|
|
|
|
**Култура на етика** се отнася до [_операционализиране_ на приложната етика](https://hbr.org/2019/05/how-to-design-an-ethical-organization), за да се гарантира, че нашите етични принципи и практики се приемат последователно и мащабируемо в цялата организация. Успешните култури на етика определят етични принципи на ниво организация, предоставят значими стимули за съответствие и укрепват етичните норми, като насърчават и усилват желаното поведение на всяко ниво в организацията.
|
|
|
|
|
**Култура на етиката** се отнася до [_операционализиране_ на приложната етика](https://hbr.org/2019/05/how-to-design-an-ethical-organization), за да се гарантира, че нашите етични принципи и практики се прилагат по последователен и мащабируем начин в цялата организация. Успешните култури на етика дефинират етични принципи за организацията като цяло, предоставят значими стимули за съответствие и укрепват етичните норми чрез насърчаване и усилване на желаните поведения на всяко ниво в организацията.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## Концепции за етика
|
|
|
|
|
## Етични концепции
|
|
|
|
|
|
|
|
|
|
В този раздел ще обсъдим концепции като **споделени ценности** (принципи) и **етични предизвикателства** (проблеми) за етиката на данните - и ще разгледаме **казуси**, които ще ви помогнат да разберете тези концепции в реални контексти.
|
|
|
|
|
В този раздел ще обсъдим концепции като **споделени ценности** (принципи) и **етични предизвикателства** (проблеми) за етиката на данните — и ще разгледаме **казуси**, които ще ви помогнат да разберете тези концепции в реални контексти.
|
|
|
|
|
|
|
|
|
|
### 1. Принципи на етиката
|
|
|
|
|
### 1. Етични принципи
|
|
|
|
|
|
|
|
|
|
Всяка стратегия за етика на данните започва с дефиниране на _етични принципи_ - "споделените ценности", които описват приемливото поведение и насочват съответните действия в нашите проекти за данни и AI. Можете да ги дефинирате на индивидуално или екипно ниво. Въпреки това, повечето големи организации ги очертават в мисия или рамка за _етичен AI_, която е дефинирана на корпоративно ниво и се прилага последователно във всички екипи.
|
|
|
|
|
Всяка стратегия за етика на данните започва с дефиниране на _етични принципи_ — "споделените ценности", които описват приемливо поведение и насочват съвместимите действия в нашите проекти с данни и ИИ. Можете да ги дефинирате на индивидуално или екипно ниво. Въпреки това, повечето големи организации ги очертават в _мисионно изявление или рамка за етичен ИИ_, която се дефинира на корпоративно ниво и се налага последователно във всички екипи.
|
|
|
|
|
|
|
|
|
|
**Пример:** Мисията на Microsoft за [Отговорен AI](https://www.microsoft.com/en-us/ai/responsible-ai) гласи: _"Ние сме ангажирани с напредъка на AI, ръководен от етични принципи, които поставят хората на първо място"_ - идентифицирайки 6 етични принципа в рамката по-долу:
|
|
|
|
|
**Пример:** Мисионното изявление на Microsoft за [Отговорен ИИ](https://www.microsoft.com/en-us/ai/responsible-ai) гласи: _"Ние се ангажираме с развитието на ИИ, ръководен от етични принципи, които поставят хората на първо място"_ — идентифицирайки 6 етични принципа във следната рамка:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Нека накратко разгледаме тези принципи. _Прозрачността_ и _отговорността_ са основни ценности, върху които се изграждат останалите принципи - така че нека започнем с тях:
|
|
|
|
|
Нека накратко разгледаме тези принципи. _Прозрачността_ и _отговорността_ са основополагащи ценности, върху които са изградени останалите принципи — затова нека започнем от тях:
|
|
|
|
|
|
|
|
|
|
* [**Отговорност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) прави практикуващите _отговорни_ за своите операции с данни и AI и за съответствието с тези етични принципи.
|
|
|
|
|
* [**Прозрачност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) гарантира, че действията с данни и AI са _разбираеми_ (интерпретируеми) за потребителите, обяснявайки какво и защо стои зад решенията.
|
|
|
|
|
* [**Справедливост**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - фокусира се върху гарантирането, че AI третира _всички хора_ справедливо, адресирайки всякакви системни или имплицитни социално-технически предразсъдъци в данните и системите.
|
|
|
|
|
* [**Надеждност и безопасност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - гарантира, че AI се държи _последователно_ с определените ценности, минимизирайки потенциалните вреди или непредвидените последици.
|
|
|
|
|
* [**Поверителност и сигурност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - се отнася до разбирането на произхода на данните и предоставянето на _защита на поверителността на данните_ на потребителите.
|
|
|
|
|
* [**Инклузивност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - се отнася до проектирането на AI решения с намерение, адаптирайки ги да отговарят на _широк спектър от човешки нужди_ и способности.
|
|
|
|
|
* [**Отговорност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) прави практикуващите _отговорни_ за операциите с данни и ИИ и за съответствието с тези етични принципи.
|
|
|
|
|
* [**Прозрачност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) гарантира, че действията с данни и ИИ са _разбираеми_ (интерпретируеми) за потребителите, като обяснява какво и защо стои зад решенията.
|
|
|
|
|
* [**Справедливост**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) — се фокусира върху осигуряване на това ИИ да третира _всички хора_ честно, справяне с всякакви системни или имплицитни социално-технически пристрастия в данните и системите.
|
|
|
|
|
* [**Надеждност и безопасност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) — гарантира, че ИИ се държи _последователно_ с определените ценности, минимизирайки потенциалните вреди или непредвидени последствия.
|
|
|
|
|
* [**Поверителност и сигурност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) — касае разбирането на произхода на данните и осигуряването на _поверителност на данните и свързаните с това защити_ за потребителите.
|
|
|
|
|
* [**Инклузивност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) — е за проектиране на ИИ решения с намерение, пригодяването им да отговарят на _широк спектър от човешки нужди_ и възможности.
|
|
|
|
|
|
|
|
|
|
> 🚨 Помислете каква би могла да бъде вашата мисия за етика на данните. Разгледайте рамките за етичен AI от други организации - ето примери от [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) и [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Какви споделени ценности имат те? Как тези принципи се отнасят към AI продуктите или индустрията, в която оперират?
|
|
|
|
|
> 🚨 Помислете какво би могло да бъде вашето мисионно изявление за етиката на данните. Изследвайте рамки за етичен ИИ от други организации — ето примери от [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles) и [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Какви споделени ценности имат общо? Как тези принципи се отнасят до ИИ продукта или индустрията, в която оперират?
|
|
|
|
|
|
|
|
|
|
### 2. Етични предизвикателства
|
|
|
|
|
|
|
|
|
|
След като сме дефинирали етичните принципи, следващата стъпка е да оценим действията си с данни и AI, за да видим дали те съответстват на тези споделени ценности. Помислете за действията си в две категории: _събиране на данни_ и _проектиране на алгоритми_.
|
|
|
|
|
След като имаме дефинирани етични принципи, следващата стъпка е да оценим действията си с данни и ИИ, за да видим дали те съответстват на тези споделени ценности. Помислете за действията си в две категории: _събиране на данни_ и _проектиране на алгоритми_.
|
|
|
|
|
|
|
|
|
|
При събирането на данни действията вероятно ще включват **лични данни** или лична идентификационна информация (PII) за идентифицируеми живи индивиди. Това включва [разнообразни елементи от нелични данни](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), които _колективно_ идентифицират индивид. Етичните предизвикателства могат да се отнасят до _поверителност на данните_, _собственост на данните_ и свързани теми като _информирано съгласие_ и _права върху интелектуалната собственост_ на потребителите.
|
|
|
|
|
При събирането на данни действията вероятно ще включват **лични данни** или лична идентифицираща информация (PII) за идентифицируеми живи лица. Това включва [разнообразни елементи на неперсонални данни](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en), които _събранно_ идентифицират дадено лице. Етичните предизвикателства могат да се отнасят до _професионална тайна_, _собственост върху данните_ и свързани теми като _информирано съгласие_ и _права на интелектуална собственост_ за потребителите.
|
|
|
|
|
|
|
|
|
|
При проектирането на алгоритми действията ще включват събиране и обработка на **набори от данни**, след което използването им за обучение и внедряване на **модели на данни**, които предсказват резултати или автоматизират решения в реални контексти. Етичните предизвикателства могат да възникнат от _предразсъдъци в набора от данни_, _проблеми с качеството на данните_, _несправедливост_ и _погрешно представяне_ в алгоритмите - включително някои въпроси, които са системни по природа.
|
|
|
|
|
При проектирането на алгоритми действията ще включват събиране и куриране на **набори от данни**, след което използването им за обучение и внедряване на **модели на данни**, които предсказват резултати или автоматизират решения в реални контексти. Етични предизвикателства могат да възникнат от _пристрастия в набора от данни_, _проблеми с качеството на данните_, _несправедливост_ и _погрешно представяне_ в алгоритмите — включително някои системни проблеми.
|
|
|
|
|
|
|
|
|
|
И в двата случая етичните предизвикателства подчертават области, в които действията ни могат да влязат в конфликт с нашите споделени ценности. За да открием, смекчим, минимизираме или елиминираме тези проблеми, трябва да задаваме морални "да/не" въпроси, свързани с действията ни, и да предприемаме коригиращи действия, когато е необходимо. Нека разгледаме някои етични предизвикателства и моралните въпроси, които те повдигат:
|
|
|
|
|
В двата случая етичните предизвикателства подчертават области, където действията ни могат да влязат в конфликт със споделените ни ценности. За да открием, смекчим, минимизираме или премахнем тези опасения — трябва да задаваме морални въпроси с отговор "да/не", свързани с действията ни, след което да предприемем корективни мерки при нужда. Нека разгледаме някои етични предизвикателства и моралните въпроси, които повдигат:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
#### 2.1 Собственост на данните
|
|
|
|
|
#### 2.1 Собственост върху данните
|
|
|
|
|
|
|
|
|
|
Събирането на данни често включва лични данни, които могат да идентифицират субектите на данните. [Собствеността на данните](https://permission.io/blog/data-ownership) се отнася до _контрола_ и [_правата на потребителите_](https://permission.io/blog/data-ownership), свързани със създаването, обработката и разпространението на данни.
|
|
|
|
|
Събирането на данни често включва лични данни, които могат да идентифицират субектите на данни. [Собствеността върху данните](https://permission.io/blog/data-ownership) се отнася до _контрол_ и [_права на потребителя_](https://permission.io/blog/data-ownership), свързани със създаването, обработката и разпространението на данни.
|
|
|
|
|
|
|
|
|
|
Моралните въпроси, които трябва да зададем, са:
|
|
|
|
|
* Кой притежава данните? (потребител или организация)
|
|
|
|
|
* Какви права имат субектите на данните? (напр. достъп, изтриване, преносимост)
|
|
|
|
|
* Какви права имат организациите? (напр. коригиране на злонамерени потребителски отзиви)
|
|
|
|
|
* Какви права имат субектите на данни? (например достъп, изтриване, преносимост)
|
|
|
|
|
* Какви права имат организациите? (например коригиране на злонамерени потребителски отзиви)
|
|
|
|
|
|
|
|
|
|
#### 2.2 Информирано съгласие
|
|
|
|
|
|
|
|
|
|
[Информираното съгласие](https://legaldictionary.net/informed-consent/) определя акта на потребителите да се съгласяват с действие (като събиране на данни) с _пълно разбиране_ на релевантните факти, включително целта, потенциалните рискове и алтернативите.
|
|
|
|
|
[Информираното съгласие](https://legaldictionary.net/informed-consent/) дефинира акта на потребителите, които се съгласяват с дадено действие (като събиране на данни) с _пълно разбиране_ на съответните факти, включително целта, потенциалните рискове и алтернативите.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Дал ли е потребителят (субектът на данните) разрешение за събиране и използване на данни?
|
|
|
|
|
* Разбрал ли е потребителят целта, за която са събрани данните?
|
|
|
|
|
* Разбрал ли е потребителят потенциалните рискове от участието си?
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Потребителят (субект на данните) дал ли е разрешение за събиране и използване на данните?
|
|
|
|
|
* Разбрал ли е потребителят целта, за която са събрани тези данни?
|
|
|
|
|
* Разбрал ли е потенциалните рискове от участието си?
|
|
|
|
|
|
|
|
|
|
#### 2.3 Интелектуална собственост
|
|
|
|
|
|
|
|
|
|
[Интелектуалната собственост](https://en.wikipedia.org/wiki/Intellectual_property) се отнася до нематериални творения, произтичащи от човешка инициатива, които могат _да имат икономическа стойност_ за индивиди или бизнеси.
|
|
|
|
|
[Интелектуалната собственост](https://en.wikipedia.org/wiki/Intellectual_property) се отнася до нематериални творения, произтичащи от човешка инициатива, които могат да _имат икономическа стойност_ за отделни лица или бизнеси.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Имат ли събраните данни икономическа стойност за потребител или бизнес?
|
|
|
|
|
* Има ли **потребителят** интелектуална собственост тук?
|
|
|
|
|
* Има ли **организацията** интелектуална собственост тук?
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Имал ли е събраните данни икономическа стойност за потребител или бизнес?
|
|
|
|
|
* Има ли потребителят интелектуална собственост върху тях?
|
|
|
|
|
* Има ли организацията интелектуална собственост върху тях?
|
|
|
|
|
* Ако тези права съществуват, как ги защитаваме?
|
|
|
|
|
|
|
|
|
|
#### 2.4 Поверителност на данните
|
|
|
|
|
|
|
|
|
|
[Поверителността на данните](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или информационната поверителност се отнася до запазването на поверителността на потребителите и защитата на тяхната идентичност по отношение на личната идентификационна информация.
|
|
|
|
|
[Поверителността на данните](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или поверителността на информацията се отнася до съхраняването на поверителността на потребителя и защитата на идентичността му относно лично идентифицираща информация.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Защитени ли са личните данни на потребителите от хакерски атаки и течове?
|
|
|
|
|
* Достъпни ли са данните на потребителите само за упълномощени потребители и контексти?
|
|
|
|
|
* Запазена ли е анонимността на потребителите, когато данните се споделят или разпространяват?
|
|
|
|
|
* Може ли потребител да бъде деидентифициран от анонимизирани набори от данни?
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Данните на потребителите са ли защитени от хакерски атаки и изтичания?
|
|
|
|
|
* Данните на потребителите достъпни ли са само за упълномощени потребители и контексти?
|
|
|
|
|
* Запазва ли се анонимността на потребителите при споделяне или разпространение на данните?
|
|
|
|
|
* Може ли даден потребител да бъде де-идентифициран от анонимизирани набори от данни?
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
#### 2.5 Право да бъдеш забравен
|
|
|
|
|
#### 2.5 Правото да бъдеш забравен
|
|
|
|
|
|
|
|
|
|
[Правото да бъдеш забравен](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [Правото на изтриване](https://www.gdpreu.org/right-to-be-forgotten/) предоставя допълнителна защита на личните данни на потребителите. Специално, то дава право на потребителите да поискат изтриване или премахване на лични данни от интернет търсения и други места, _при специфични обстоятелства_ - позволявайки им ново начало онлайн без минали действия да бъдат използвани срещу тях.
|
|
|
|
|
[Правото да бъдеш забравен](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [Правото на изтриване](https://www.gdpreu.org/right-to-be-forgotten/) предоставя допълнителна защита на личните данни на потребителите. По-конкретно, то дава възможност на потребителите да поискат изтриване или премахване на лични данни от интернет търсения и други места, _при специфични обстоятелства_ — позволявайки им ново начало онлайн без да им се държат предишни действия.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Позволява ли системата на субектите на данни да поискат изтриване?
|
|
|
|
|
* Трябва ли оттеглянето на съгласието на потребителя да задейства автоматично изтриване?
|
|
|
|
|
* Събрани ли са данни без съгласие или чрез незаконни средства?
|
|
|
|
|
* Съответстваме ли на правителствените регулации за поверителност на данните?
|
|
|
|
|
* Трябва ли оттеглянето на съгласието да задейства автоматично изтриване?
|
|
|
|
|
* Бяха ли данните събрани без съгласие или по незаконни начини?
|
|
|
|
|
* Спазваме ли правителствените регулации за поверителност на данните?
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
#### 2.6 Предразсъдъци в набора от данни
|
|
|
|
|
#### 2.6 Пристрастия в набора от данни
|
|
|
|
|
|
|
|
|
|
Пред
|
|
|
|
|
* Дали информацията е уловена _точно_, отразявайки реалността?
|
|
|
|
|
Пристрастия в набора от данни или [пристрастия в събирането](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) се отнасят до избора на _нерепрезентативен_ поднабор от данни за разработка на алгоритми, създавайки потенциална несправедливост в резултатите за различни групи. Видове пристрастия включват селективно или пробно пристрастие, пристрастия от доброволци и инструментални пристрастия.
|
|
|
|
|
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Рекрутирахме ли представителен набор от субекти на данни?
|
|
|
|
|
* Тествахме ли събрания или куриран набор от данни за различни пристрастия?
|
|
|
|
|
* Можем ли да смекчим или премахнем откритите пристрастия?
|
|
|
|
|
|
|
|
|
|
#### 2.7 Качество на данните
|
|
|
|
|
|
|
|
|
|
[Качеството на данните](https://lakefs.io/data-quality-testing/) разглежда валидността на курирания набор от данни, използван за разработката на нашите алгоритми, проверявайки дали характеристиките и записите отговарят на изискванията за точност и последователност, необходими за целите ни с ИИ.
|
|
|
|
|
|
|
|
|
|
Въпросите тук са:
|
|
|
|
|
* Заснехме ли валидни _характеристики_ за нашия случай на използване?
|
|
|
|
|
* Заснехме ли данните _последователно_ от различни източници на данни?
|
|
|
|
|
* Наборът от данни _пълен_ ли е за различни условия или сценарии?
|
|
|
|
|
* Информацията е ли _точна_ като отразява реалността?
|
|
|
|
|
#### 2.8 Справедливост на алгоритмите
|
|
|
|
|
|
|
|
|
|
[Справедливост на алгоритмите](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) проверява дали дизайнът на алгоритъма систематично дискриминира определени подгрупи от субекти на данни, водейки до [потенциални вреди](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) в _разпределението_ (когато ресурси се отказват или задържат от тази група) и _качеството на услугата_ (когато ИИ не е толкова точен за някои подгрупи, колкото за други).
|
|
|
|
|
[Справедливост на алгоритмите](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) проверява дали дизайнът на алгоритъма систематично дискриминира определени подгрупи от субекти на данни, водещо до [потенциални вреди](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) при _разпределението_ (където ресурси са отказани или задържани от тази група) и _качеството на услугата_ (където изкуственият интелект не е толкова точен за някои подгрупи, колкото за други).
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Оценихме ли точността на модела за различни подгрупи и условия?
|
|
|
|
|
* Проверихме ли системата за потенциални вреди (например, стереотипи)?
|
|
|
|
|
* Можем ли да преработим данните или да обучим отново моделите, за да смекчим идентифицираните вреди?
|
|
|
|
|
Въпросите, които да разгледаме тук, са:
|
|
|
|
|
* Оценихме ли точността на модела за различни подгрупи и условия?
|
|
|
|
|
* Анализирахме ли системата за потенциални вреди (например стереотипи)?
|
|
|
|
|
* Можем ли да преработим данните или да обучим отново моделите, за да намалим установените вреди?
|
|
|
|
|
|
|
|
|
|
Разгледайте ресурси като [контролни списъци за справедливост на ИИ](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA), за да научите повече.
|
|
|
|
|
|
|
|
|
|
#### 2.9 Заблуда
|
|
|
|
|
#### 2.9 Некоректно представяне
|
|
|
|
|
|
|
|
|
|
[Заблуда в данните](https://www.sciencedirect.com/topics/computer-science/misrepresentation) се отнася до въпроса дали представяме прозрения от честно докладвани данни по подвеждащ начин, за да подкрепим желан разказ.
|
|
|
|
|
[Некоректно представяне на данни](https://www.sciencedirect.com/topics/computer-science/misrepresentation) означава да се запита дали комуникираме изводи от честно докладвани данни по заблуждаващ начин, за да подкрепим желан наратив.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Докладваме ли непълни или неточни данни?
|
|
|
|
|
* Визуализираме ли данни по начин, който води до подвеждащи заключения?
|
|
|
|
|
* Използваме ли селективни статистически техники за манипулиране на резултатите?
|
|
|
|
|
* Има ли алтернативни обяснения, които могат да предложат различно заключение?
|
|
|
|
|
Въпросите, които да разгледаме тук, са:
|
|
|
|
|
* Докладваме ли непълни или неточни данни?
|
|
|
|
|
* Визуализираме ли данните по начин, който води до подвеждащи заключения?
|
|
|
|
|
* Използваме ли селективни статистически техники за манипулиране на резултатите?
|
|
|
|
|
* Има ли алтернативни обяснения, които може да предложат различно заключение?
|
|
|
|
|
|
|
|
|
|
#### 2.10 Свободен избор
|
|
|
|
|
[Илюзията за свободен избор](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) възниква, когато "архитектурите на избор" на системата използват алгоритми за вземане на решения, за да насочват хората към предпочитан резултат, докато на пръв поглед им дават възможности и контрол. Тези [тъмни модели](https://www.darkpatterns.org/) могат да причинят социални и икономически вреди на потребителите. Тъй като решенията на потребителите влияят върху профилите на поведение, тези действия потенциално насочват бъдещи избори, които могат да усилят или разширят влиянието на тези вреди.
|
|
|
|
|
|
|
|
|
|
[Илюзията за свободен избор](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) възниква, когато "архитектурите на избор" в системата използват алгоритми за вземане на решения, за да насочат хората към предпочитан резултат, докато изглежда, че им дават опции и контрол. Тези [тъмни модели](https://www.darkpatterns.org/) могат да причинят социални и икономически вреди на потребителите. Тъй като решенията на потребителите влияят върху профилите на поведение, тези действия потенциално задвижват бъдещи избори, които могат да усилят или разширят въздействието на тези вреди.
|
|
|
|
|
|
|
|
|
|
Въпроси за разглеждане тук са:
|
|
|
|
|
* Разбра ли потребителят последиците от вземането на този избор?
|
|
|
|
|
* Беше ли потребителят наясно с (алтернативните) опции и плюсовете и минусите на всяка?
|
|
|
|
|
* Може ли потребителят да отмени автоматизиран или повлиян избор по-късно?
|
|
|
|
|
Въпросите, които да разгледаме тук, са:
|
|
|
|
|
* Разбра ли потребителят последиците от вземането на този избор?
|
|
|
|
|
* Беше ли потребителят запознат с (алтернативни) избори и с предимствата и недостатъците на всеки?
|
|
|
|
|
* Може ли потребителят да отмени автоматизиран или повлиян избор по-късно?
|
|
|
|
|
|
|
|
|
|
### 3. Казуси
|
|
|
|
|
|
|
|
|
|
За да поставим тези етични предизвикателства в контекста на реалния свят, е полезно да разгледаме казуси, които подчертават потенциалните вреди и последици за индивидите и обществото, когато такива етични нарушения се пренебрегват.
|
|
|
|
|
За да разгледаме тези етични предизвикателства в контекста на реалния свят, помага да разгледаме казуси, които подчертават потенциалните вреди и последици за отделните лица и обществото, когато такива нарушения на етиката се пренебрегват.
|
|
|
|
|
|
|
|
|
|
Ето няколко примера:
|
|
|
|
|
|
|
|
|
|
| Етично предизвикателство | Казус |
|
|
|
|
|
| Етично Предизвикателство | Казус |
|
|
|
|
|
|--- |--- |
|
|
|
|
|
| **Информирано съгласие** | 1972 - [Изследване на сифилис в Тъскиги](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Афроамерикански мъже, които участвали в изследването, били обещани безплатна медицинска грижа, _но били измамени_ от изследователи, които не информирали субектите за диагнозата им или за наличието на лечение. Много субекти починали, а партньорите или децата им били засегнати; изследването продължило 40 години. |
|
|
|
|
|
| **Поверителност на данните** | 2007 - [Награда за данни на Netflix](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) предоставила на изследователите _10 милиона анонимизирани оценки на филми от 50 хиляди клиенти_, за да помогне за подобряване на алгоритмите за препоръки. Въпреки това, изследователите успели да свържат анонимизираните данни с лично идентифицируеми данни в _външни набори от данни_ (например, коментари в IMDb) - ефективно "деанонимизирайки" някои абонати на Netflix. |
|
|
|
|
|
| **Пристрастие в събирането на данни** | 2013 - Град Бостън [разработил Street Bump](https://www.boston.gov/transportation/street-bump), приложение, което позволявало на гражданите да докладват за дупки, предоставяйки на града по-добри данни за пътната инфраструктура. Въпреки това, [хората с по-ниски доходи имали по-малък достъп до автомобили и телефони](https://hbr.org/2013/04/the-hidden-biases-in-big-data), което правело техните проблеми с пътищата невидими в това приложение. Разработчиците работили с академици за решаване на проблеми с _равен достъп и дигитални разделения_ за справедливост. |
|
|
|
|
|
| **Справедливост на алгоритмите** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) оценило точността на AI продукти за класификация на пола, разкривайки пропуски в точността за жени и хора с различен цвят на кожата. [Apple Card от 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) изглежда предлагала по-малко кредит на жени, отколкото на мъже. И двата случая илюстрират проблеми с пристрастия в алгоритмите, водещи до социално-икономически вреди. |
|
|
|
|
|
| **Заблуда в данните** | 2020 - [Департаментът за обществено здраве на Джорджия публикувал графики за COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), които изглеждали подвеждащи за гражданите относно тенденциите в потвърдените случаи с не-хронологично подреждане на x-оста. Това илюстрира заблуда чрез визуализационни трикове. |
|
|
|
|
|
| **Илюзия за свободен избор** | 2020 - Образователното приложение [ABCmouse платило $10 милиона за уреждане на жалба от FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), където родителите били принудени да плащат за абонаменти, които не можели да отменят. Това илюстрира тъмни модели в архитектурите на избор, където потребителите били насочени към потенциално вредни избори. |
|
|
|
|
|
| **Поверителност на данните и права на потребителите** | 2021 - Facebook [изтичане на данни](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) разкрило данни от 530 милиона потребители, което довело до уреждане на $5 милиарда с FTC. Въпреки това, компанията отказала да уведоми потребителите за изтичането, нарушавайки правата им за прозрачност и достъп до данни. |
|
|
|
|
|
|
|
|
|
|
Искате ли да разгледате още казуси? Вижте тези ресурси:
|
|
|
|
|
| **Информирано съгласие** | 1972 - [Изследване на сифилиса в Тъскеги](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Афроамерикански мъже, участващи в проучването, бяха обещани безплатна медицинска помощ _но бяха измамени_ от изследователите, които не информираха субектите за диагнозата им или за наличието на лечение. Много субекти починаха, а партньори или деца бяха засегнати; проучването продължи 40 години. |
|
|
|
|
|
| **Поверителност на данните** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) предостави на изследователите _10 милиона анонимизирани класации на филми от 50 000 клиенти_, за да помогне за подобряване на алгоритмите за препоръки. Въпреки това, изследователите успяха да свържат анонимизираните данни с лични данни в _външни набори от данни_ (например коментари в IMDb) - ефективно "де-анонимизирайки" някои абонати на Netflix.|
|
|
|
|
|
| **Събиране с пристрастия** | 2013 - Град Бостън [разработи Street Bump](https://www.boston.gov/transportation/street-bump), приложение, което позволява на гражданите да съобщават за дупки по улиците, давайки на града по-добри пътни данни за откриване и отстраняване на проблеми. Въпреки това, [хората от по-ниски доходни групи имаха по-малък достъп до автомобили и телефони](https://hbr.org/2013/04/the-hidden-biases-in-big-data), което направи техните пътни проблеми невидими в това приложение. Разработчиците работиха с академици за _равен достъп и проблеми с цифровото разделение_ за справедливост. |
|
|
|
|
|
| **Справедливост на алгоритмите** | 2018 - Изследването MIT [Gender Shades](http://gendershades.org/overview.html) оцени точността на AI продукти за класификация по пол, разкривайки пропуски в точността за жени и цветнокожи лица. [Apple Card през 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) изглежда предоставяше по-малко кредит на жени, отколкото на мъже. И двата случая илюстрират проблеми с алгоритмичната пристрастност, водеща до социално-икономически вреди.|
|
|
|
|
|
| **Некоректно представяне на данни** | 2020 - [Департаментът по обществено здравеопазване на Джорджия публикува графики за COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening), които изглежда подвеждаха гражданите относно тенденциите в потвърдените случаи чрез не-хронологично подреждане на x-оста. Това илюстрира некоректно представяне чрез трикове във визуализацията. |
|
|
|
|
|
| **Илюзия за свободен избор** | 2020 - Учебното приложение [ABCmouse плати 10 милиона долара за споразумение с FTC](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/), при което родителите бяха притиснати да плащат за абонаменти, които не можеха да отменят. Това илюстрира тъмни модели в архитектурите на избор, където потребителите бяха насочвани към потенциално вредни избори. |
|
|
|
|
|
| **Поверителност на данните и потребителски права** | 2021 - Facebook [изтичане на данни](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) разкри данни на 530 милиона потребители, в резултат на което последва споразумение с FTC за 5 милиарда долара. Въпреки това отказа да уведоми потребителите за нарушението, нарушавайки правата им на прозрачност и достъп до данни. |
|
|
|
|
|
|
|
|
|
|
Искате да разгледате още казуси? Разгледайте тези ресурси:
|
|
|
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - етични дилеми в различни индустрии.
|
|
|
|
|
* [Курс по етика в науката за данни](https://www.coursera.org/learn/data-science-ethics#syllabus) - разглеждане на знакови казуси.
|
|
|
|
|
* [Къде нещата са се объркали](https://deon.drivendata.org/examples/) - контролен списък Deon с примери.
|
|
|
|
|
* [Курс по етика в науката за данни](https://www.coursera.org/learn/data-science-ethics#syllabus) - разгледани са важни казуси.
|
|
|
|
|
* [Къде нещата са се объркали](https://deon.drivendata.org/examples/) - списък със случаи с примери
|
|
|
|
|
|
|
|
|
|
> 🚨 Помислете за казусите, които сте видели - изпитвали ли сте или били ли сте засегнати от подобно етично предизвикателство в живота си? Можете ли да се сетите за поне един друг казус, който илюстрира едно от етичните предизвикателства, които обсъдихме в този раздел?
|
|
|
|
|
> 🚨 Помислете за казусите, които сте виждали – преживявали ли сте или били ли сте засегнати от подобно етично предизвикателство в живота си? Можете ли да посочите поне още един казус, който илюстрира някое от етичните предизвикателства, разгледани в този раздел?
|
|
|
|
|
|
|
|
|
|
## Приложна етика
|
|
|
|
|
## Прилагана етика
|
|
|
|
|
|
|
|
|
|
Говорихме за концепции, предизвикателства и казуси в реалния свят, свързани с етиката. Но как да започнем _прилагането_ на етични принципи и практики в нашите проекти? И как да _операционализираме_ тези практики за по-добро управление? Нека разгледаме някои реални решения:
|
|
|
|
|
Говорихме за концепции, предизвикателства и казуси, свързани с етиката в реални контексти. Но как да започнем с _прилагането_ на етични принципи и практики в нашите проекти? И как да _операционализираме_ тези практики за по-добро управление? Нека разгледаме някои решения от реалния свят:
|
|
|
|
|
|
|
|
|
|
### 1. Професионални кодекси
|
|
|
|
|
|
|
|
|
|
Професионалните кодекси предлагат една опция за организациите да "стимулират" членовете си да подкрепят техните етични принципи и мисия. Кодексите са _морални насоки_ за професионално поведение, помагащи на служителите или членовете да вземат решения, които съответстват на принципите на организацията. Те са толкова добри, колкото доброволното спазване от членовете; въпреки това, много организации предлагат допълнителни награди и наказания, за да мотивират спазването от членовете.
|
|
|
|
|
Професионалните кодекси предлагат една възможност на организациите да „стимулират“ членовете си да подкрепят техните етични принципи и мисия. Кодексите са _морални насоки_ за професионално поведение, помагащи на служителите или членовете да вземат решения, които съответстват на принципите на организацията им. Те работят само при доброволно спазване от членовете; но много организации предлагат допълнителни награди и наказания, за да насърчат съответствието.
|
|
|
|
|
|
|
|
|
|
Примери включват:
|
|
|
|
|
|
|
|
|
|
* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Кодекс на етиката
|
|
|
|
|
* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Кодекс на поведение (създаден през 2013 г.)
|
|
|
|
|
* [ACM Кодекс на етиката и професионалното поведение](https://www.acm.org/code-of-ethics) (от 1993 г.)
|
|
|
|
|
* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Кодекс на етиката
|
|
|
|
|
* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Кодекс на поведение (създаден 2013)
|
|
|
|
|
* [ACM Кодекс на етиката и професионалното поведение](https://www.acm.org/code-of-ethics) (от 1993)
|
|
|
|
|
|
|
|
|
|
> 🚨 Членувате ли в професионална инженерна или организация за наука за данни? Разгледайте техния сайт, за да видите дали дефинират професионален кодекс на етиката. Какво казва това за техните етични принципи? Как "стимулират" членовете да следват кодекса?
|
|
|
|
|
> 🚨 Член ли сте на професионална инженерна или научна организация по данни? Разгледайте сайта им, за да видите дали имат дефиниран професионален кодекс на етиката. Какво показва той за техните етични принципи? Как "стимулират" членовете си да следват кодекса?
|
|
|
|
|
|
|
|
|
|
### 2. Контролни списъци за етика
|
|
|
|
|
### 2. Етични контролни списъци
|
|
|
|
|
|
|
|
|
|
Докато професионалните кодекси дефинират изискваното _етично поведение_ от практикуващите, те [имат известни ограничения](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) в прилагането, особено в мащабни проекти. Вместо това, много експерти в науката за данни [препоръчват контролни списъци](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), които могат **да свържат принципите с практиките** по по-детерминиран и приложим начин.
|
|
|
|
|
Докато професионалните кодекси дефинират необходимото _етично поведение_ на практикуващите, те [имат известни ограничения](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) при прилагане, особено в големи проекти. Вместо това много експерти в науката за данни [препоръчват контролни списъци](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), които могат **да свързват принципите с практиките** по по-детерминиран и приложим начин.
|
|
|
|
|
|
|
|
|
|
Контролните списъци превръщат въпросите в задачи "да/не", които могат да бъдат операционализирани, позволявайки им да бъдат проследявани като част от стандартните работни потоци за пускане на продукти.
|
|
|
|
|
Контролните списъци превръщат въпросите в задачи с отговор "да/не", които могат да се приведат в действие, позволявайки да бъдат проследявани като част от стандартни работни процеси за пускане на продукти.
|
|
|
|
|
|
|
|
|
|
Примери включват:
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - общопрактичен контролен списък за етика в данните, създаден от [препоръки от индустрията](https://deon.drivendata.org/#checklist-citations) с инструмент за команден ред за лесна интеграция.
|
|
|
|
|
* [Контролен списък за одит на поверителността](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - предоставя общи насоки за практики за обработка на информация от правна и социална перспектива.
|
|
|
|
|
* [Контролен списък за справедливост на ИИ](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - създаден от практикуващи в ИИ, за да подкрепи приемането и интеграцията на проверки за справедливост в цикли за разработка на ИИ.
|
|
|
|
|
* [22 въпроса за етика в данните и ИИ](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - по-отворена рамка, структурирана за първоначално разглеждане на етични въпроси в дизайна, изпълнението и организационните контексти.
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - универсален контролен списък за етика на данните, създаден от [препоръки на индустрията](https://deon.drivendata.org/#checklist-citations) с команден инструмент за лесна интеграция.
|
|
|
|
|
* [Контролен списък за одит на поверителност](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - предоставя общи насоки за практики на съхранение на информация от правна и социална гледна точка.
|
|
|
|
|
* [Контролен списък за справедливост на ИИ](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - създаден от практици на ИИ за подкрепа на прилагането и интеграцията на проверки за справедливост в цикли на разработка на ИИ.
|
|
|
|
|
* [22 въпроса за етика в данните и ИИ](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - по-отворена рамка, структурирана за първоначално изследване на етични въпроси в проектиране, изпълнение и организационен контекст.
|
|
|
|
|
|
|
|
|
|
### 3. Регулации за етика
|
|
|
|
|
### 3. Регулации по етика
|
|
|
|
|
|
|
|
|
|
Етиката е за дефиниране на споделени ценности и правене на правилното нещо _доброволно_. **Съответствие** е за _спазване на закона_, ако и където е дефиниран. **Управление** обхваща всички начини, по които организациите работят за прилагане на етични принципи и спазване на установените закони.
|
|
|
|
|
Етиката се отнася до дефиниране на споделени ценности и правене на правилното нещо _доброволно_. **Спазването** е за _придържане към закона_ там, където е дефиниран. **Управлението** обхваща всички начини, по които организациите функционират, за да прилагат етични принципи и да спазват установени закони.
|
|
|
|
|
|
|
|
|
|
Днес управлението приема две форми в рамките на организациите. Първо, става въпрос за дефиниране на **етични принципи за ИИ** и установяване на практики за операционализиране на приемането им във всички проекти, свързани с ИИ, в организацията. Второ, става въпрос за спазване на всички правителствено наложени **регулации за защита на данните** за регионите, в които оперира.
|
|
|
|
|
Днес управлението приема две форми в организациите. Първо, то е свързано с дефиниране на **принципи за етичен ИИ** и установяване на практики за операционализиране на приемането им във всички проекти, свързани с ИИ, в организацията. Второ, то се отнася до спазване на всички правителствено налагани **регулации за защита на данните** за регионите, в които оперира.
|
|
|
|
|
|
|
|
|
|
Примери за регулации за защита на данните и поверителност:
|
|
|
|
|
|
|
|
|
|
* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - регулира _събирането, използването и разкриването_ на лична информация от федералното правителство.
|
|
|
|
|
* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - защитава личните здравни данни.
|
|
|
|
|
* `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - защитава поверителността на данните на деца под 13 години.
|
|
|
|
|
* `2018`, [Общ регламент за защита на данните (GDPR)](https://gdpr-info.eu/) - предоставя права на потребителите, защита на данните и поверителност.
|
|
|
|
|
* `2018`, [Закон за поверителност на потребителите в Калифорния (CCPA)](https://www.oag.ca.gov/privacy/ccpa) - дава на потребителите повече _права_ върху техните (лични) данни.
|
|
|
|
|
* `2021`, Китайският [Закон за защита на личната информация](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) - създава една от най-силните регулации за поверителност на данните онлайн в света.
|
|
|
|
|
* `1974`, [Американски закон за поверителност](https://www.justice.gov/opcl/privacy-act-1974) - регулира събирането, използването и разкриването на лична информация от _федералното правителство_.
|
|
|
|
|
* `1996`, [Американски закон за здравно осигуряване и отчетност (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - защитава личните здравни данни.
|
|
|
|
|
* `1998`, [Американски закон за онлайн защита на децата (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - защитава поверителността на данните на деца под 13 години.
|
|
|
|
|
* `2018`, [Общ регламент за защита на данните (GDPR)](https://gdpr-info.eu/) - предоставя права на потребителите, защита на данните и поверителност.
|
|
|
|
|
* `2018`, [Калифорнийски закон за защита на потребителската поверителност (CCPA)](https://www.oag.ca.gov/privacy/ccpa) дава на потребителите повече _права_ върху техните (лични) данни.
|
|
|
|
|
* `2021`, Китайският [Закон за защита на личните данни](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) току-що беше приет, създавайки един от най-строгите онлайн регулации за поверителност на данни в света.
|
|
|
|
|
|
|
|
|
|
> 🚨 Европейският съюз дефинира GDPR (Общ регламент за защита на данните), който остава един от най-влиятелните регулации за поверителност на данните днес. Знаете ли, че той също дефинира [8 права на потребителите](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr), за да защити цифровата поверителност и личните данни на гражданите? Научете какви са те и защо са важни.
|
|
|
|
|
> 🚨 Европейският съюз дефинира GDPR (Общ регламент за защита на данните), който остава един от най-влиятелните закони за поверителност на данни днес. Знаехте ли, че той също така дефинира [8 права на потребителите](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr), които защитават цифровата поверителност и личните данни на гражданите? Научете какви са те и защо са важни.
|
|
|
|
|
|
|
|
|
|
### 4. Култура на етиката
|
|
|
|
|
### 4. Етична култура
|
|
|
|
|
|
|
|
|
|
Обърнете внимание, че съществува нематериална разлика между _спазване_ (направи достатъчно, за да отговаряш на „буквата на закона“) и справяне със [системни проблеми](https://www.coursera.org/learn/data-science-ethics/home/week/4) (като втвърдяване, информационна асиметрия и разпределителна несправедливост), които могат да ускорят въоръжаването на ИИ.
|
|
|
|
|
|
|
|
|
|
Последното изисква [съвместни подходи за определяне на етични култури](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), които изграждат емоционални връзки и постоянни споделени ценности _в цялата индустрия_. Това налага по-формализирани [етични култури на данните](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) в организациите – позволявайки на _всеки_ да [изтегли Andon кабела](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (за да повдигне етични въпроси в ранния етап на процеса) и правейки _етичните оценки_ (например при наемане) ключови критерии за формиране на екипи в ИИ проекти.
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
## [Край на лекцията – тест](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯
|
|
|
|
|
## Преглед и самообучение
|
|
|
|
|
|
|
|
|
|
Имайте предвид, че остава нематериална разлика между _съответствие_ (правене на достатъчно, за да се спази "буквата на закона") и адресиране на [системни проблеми](https://www.coursera.org/learn/data-science-ethics/home/week/4) (като осификация, информационна асиметрия и разпределителна несправедливост), които могат да ускорят оръжейната употреба на ИИ.
|
|
|
|
|
Курсове и книги помагат за разбирането на основните етични концепции и предизвикателства, докато казусите и инструментите помагат с приложната етика в реални контексти. Ето няколко ресурса за начало.
|
|
|
|
|
|
|
|
|
|
Последното изисква [съвместни подходи за дефиниране на култури на етика](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f), които изграждат емоционални връзки и последователни споделени ценности _в рамките на организациите_ в индустрията. Това изисква повече [формализирани култури на етика в данните](https://www.codeforamerica.org/news/formalizing-an
|
|
|
|
|
* [Машинно обучение за начинаещи](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - урок за справедливост от Microsoft.
|
|
|
|
|
* [Принципи на отговорния AI](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - безплатен учебен курс от Microsoft Learn.
|
|
|
|
|
* [Етика и наука за данни](https://resources.oreilly.com/examples/0636920203964) - електронна книга от O'Reilly (М. Лукидес, Х. Мейсън и др.)
|
|
|
|
|
* [Машинно обучение за начинаещи](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - урок за справедливост, от Microsoft.
|
|
|
|
|
* [Принципи на отговорния изкуствен интелект](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - безплатен учебен път от Microsoft Learn.
|
|
|
|
|
* [Етика и наука за данни](https://resources.oreilly.com/examples/0636920203964) - електронна книга на O'Reilly (М. Лукидис, Х. Мейсън и др.)
|
|
|
|
|
* [Етика в науката за данни](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлайн курс от Университета на Мичиган.
|
|
|
|
|
* [Етика без маски](https://ethicsunwrapped.utexas.edu/case-studies) - казуси от Университета на Тексас.
|
|
|
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - казуси от Университета на Тексас.
|
|
|
|
|
|
|
|
|
|
# Задача
|
|
|
|
|
# Задача
|
|
|
|
|
|
|
|
|
|
[Напишете казус за етика на данните](assignment.md)
|
|
|
|
|
[Напишете казус за етиката в данните](assignment.md)
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
**Отказ от отговорност**:
|
|
|
|
|
Този документ е преведен с помощта на AI услуга за превод [Co-op Translator](https://github.com/Azure/co-op-translator). Въпреки че се стремим към точност, моля, имайте предвид, че автоматизираните преводи може да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за недоразумения или погрешни интерпретации, произтичащи от използването на този превод.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER START -->
|
|
|
|
|
**Отказ от отговорност**:
|
|
|
|
|
Този документ е преведен с помощта на AI преводачески услуга [Co-op Translator](https://github.com/Azure/co-op-translator). Въпреки че се стремим към точност, моля имайте предвид, че автоматизираните преводи могат да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за каквито и да е недоразумения или неправилни тълкувания, произтичащи от използването на този превод.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER END -->
|
localizeflow[bot]
6 days ago