|
|
|
|
@ -1,222 +1,264 @@
|
|
|
|
|
# Увод у етику података
|
|
|
|
|
|
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
| ](../../sketchnotes/02-Ethics.png)|
|
|
|
|
|
|:---:|
|
|
|
|
|
| Етика у науци о подацима - _Скетч од [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
| Етика у науци о подацима - _Sketchnote by [@nitya](https://twitter.com/nitya)_ |
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
Сви смо ми грађани података који живе у свету заснованом на подацима.
|
|
|
|
|
Сви смо ми грађани података који живе у свету у којем су подаци свеобухватни.
|
|
|
|
|
|
|
|
|
|
Трендови на тржишту показују да ће до 2022. године једна од три велике организације куповати и продавати своје податке преко онлајн [тржишта и размена](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Као **развијачи апликација**, лакше ћемо и јефтиније интегрисати увиде засноване на подацима и аутоматизацију засновану на алгоритмима у свакодневна корисничка искуства. Али како вештачка интелигенција постаје све присутнија, мораћемо да разумемо и потенцијалне штете које могу настати [употребом](https://www.youtube.com/watch?v=TQHs8SA1qpk) таквих алгоритама у великом обиму.
|
|
|
|
|
Трендови на тржишту говоре нам да ће до 2022. године једна од три велике организације куповати и продавати своје податке преко онлајн [тржишта и берзи](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Као **програмери апликација**, биће нам лакше и јефтиније да интегришемо увиде добијене из података и аутоматизацију засновану на алгоритмима у свакодневне корисничке доживљаје. Међутим, како вештачка интелигенција постаје све присутнија, мораћемо да разумемо и потенцијалне штете које могу настати због [коришћења](https://www.youtube.com/watch?v=TQHs8SA1qpk) таквих алгоритама у великом обиму.
|
|
|
|
|
|
|
|
|
|
Трендови указују да ћемо до 2025. године генерисати и конзумирати преко [180 зетабајта](https://www.statista.com/statistics/871513/worldwide-data-created/) података. За **научнике о подацима**, ова експлозија информација пружа безпрецедентан приступ личним и понашајним подацима. Уз то долази моћ да се изграде детаљни кориснички профили и суптилно утиче на доношење одлука—често на начине који стварају [илузију слободног избора](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). Иако се то може користити за усмеравање корисника ка пожељним исходима, то такође поставља важна питања о приватности података, аутономији и етичким границама алгоритамског утицаја.
|
|
|
|
|
Трендови указују да ћемо до 2025. године генерисати и конзумирати преко [180 зетабајтова](https://www.statista.com/statistics/871513/worldwide-data-created/) података. За **научнике података**, ова експлозија информација пружа невиђени приступ личним и биолошким подацима. Уз то долази моћ да се изграде детаљни профили корисника и суптилно утиче на одлучивање—често на начине који стварају [илузију слободног избора](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). Иако се то може користити да се корисници усмере ка жељеним исходима, такође поставља критична питања о приватности података, аутономији и моралним границама утицаја алгоритама.
|
|
|
|
|
|
|
|
|
|
Етика података сада представља _неопходне ограде_ за науку о подацима и инжењеринг, помажући нам да минимизирамо потенцијалне штете и нежељене последице наших акција заснованих на подацима. [Гартнеров циклус хипа за вештачку интелигенцију](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) идентификује релевантне трендове у дигиталној етици, одговорној вештачкој интелигенцији и управљању вештачком интелигенцијом као кључне покретаче већих мегатрендова око _демократизације_ и _индустријализације_ вештачке интелигенције.
|
|
|
|
|
Етика података сада представља _неопходне ограде_ за науку о подацима и инжењерство, које нам помажу да минимизирамо потенцијалну штету и нежељене последице наших акција заснованих на подацима. [Гартнеров циклус хипе-а за вештачку интелигенцију](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) препознаје релевантне трендове у дигиталној етици, одговорном коришћењу вештачке интелигенције и управљању вештачком интелигенцијом као кључне покретаче већих мегатрендова око _демократизације_ и _индустријализације_ вештачке интелигенције.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
У овом лекцији, истражићемо фасцинантну област етике података - од основних концепата и изазова, до студија случаја и примењених концепата вештачке интелигенције као што је управљање - који помажу у успостављању културе етике у тимовима и организацијама које раде са подацима и вештачком интелигенцијом.
|
|
|
|
|
У овом часу истражићемо фасцинантно подручје етике података - од кључних појмова и изазова до студија случаја и примењених концепата вештачке интелигенције као што је управљање - који помажу у успостављању културе етике у тимовима и организацијама које раде са подацима и вештачком интелигенцијом.
|
|
|
|
|
|
|
|
|
|
## [Квиз пре предавања](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## [Претходни квиз](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯
|
|
|
|
|
|
|
|
|
|
## Основне дефиниције
|
|
|
|
|
|
|
|
|
|
Почнимо са разумевањем основне терминологије.
|
|
|
|
|
Хајде да почнемо тако што ћемо разумети основну терминологију.
|
|
|
|
|
|
|
|
|
|
Реч „етика“ потиче од [грчке речи „ethikos“](https://en.wikipedia.org/wiki/Ethics) (и њеног корена „ethos“) која значи _карактер или морална природа_.
|
|
|
|
|
|
|
|
|
|
Реч "етика" потиче од [грчке речи "ethikos"](https://en.wikipedia.org/wiki/Ethics) (и њеног корена "ethos") што значи _карактер или морална природа_.
|
|
|
|
|
**Етика** се тиче заједничких вредности и моралних принципа који управљају нашим понашањем у друштву. Етика није заснована на законима већ на широко прихваћеним нормама о томе шта је „право“ а шта „погрешно“. Међутим, етичке процене могу утицати на иницијативе корпоративног управљања и државне прописе који стварају више подстицаја за усаглашеност.
|
|
|
|
|
|
|
|
|
|
**Етика** се односи на заједничке вредности и моралне принципе који управљају нашим понашањем у друштву. Етика се не заснива на законима, већ на широко прихваћеним нормама о томе шта је "исправно насупрот погрешном". Међутим, етичка разматрања могу утицати на иницијативе корпоративног управљања и владине регулативе које стварају више подстицаја за усаглашеност.
|
|
|
|
|
**Етика података** је [нова грана етике](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) која „проучава и процењује моралне проблеме повезане са _подацима, алгоритмима и одговарајућим праксама_“. Овде се под „податцима“ фокусира на радње везане за генерисање, снимање, уређење, обраду, ширење, дељење и коришћење, „алгоритми“ се односе на вештачку интелигенцију, агенте, машинско учење и роботе, а „практике“ на теме као што су одговорне иновације, програмирање, хаковање и етички кодекси.
|
|
|
|
|
|
|
|
|
|
**Етика података** је [нова грана етике](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) која "проучава и процењује моралне проблеме повезане са _подацима, алгоритмима и одговарајућим праксама_". Овде, **"подаци"** се фокусирају на акције везане за генерисање, снимање, курирање, обраду, ширење, дељење и употребу, **"алгоритми"** се фокусирају на вештачку интелигенцију, агенте, машинско учење и роботе, а **"праксе"** се фокусирају на теме као што су одговорна иновација, програмирање, хаковање и кодекси етике.
|
|
|
|
|
**Примењена етика** је [практична примена моралних разматрања](https://en.wikipedia.org/wiki/Applied_ethics). То је процес активног истраживања етичких питања у контексту _стварних акција, производа и процеса_ и предузимања корективних мера како би се обезбедило да те вредности остану у складу са нашим дефинисаним етичким вредностима.
|
|
|
|
|
|
|
|
|
|
**Примењена етика** је [практична примена моралних разматрања](https://en.wikipedia.org/wiki/Applied_ethics). То је процес активног истраживања етичких питања у контексту _акција, производа и процеса у стварном свету_, и предузимање корективних мера како би се осигурало да они остану усклађени са нашим дефинисаним етичким вредностима.
|
|
|
|
|
**Култура етике** је о [_операционализацији_ примењене етике](https://hbr.org/2019/05/how-to-design-an-ethical-organization) како би се осигурало да наши етички принципи и праксе буду доследно и скалабилно усвојени у целој организацији. Успешне културе етике дефинишу етичке принципе широм организације, пружају значајне подстицаје за усаглашеност и јачају етичке норме подстицањем и појачавањем пожељних понашања на сваком нивоу организације.
|
|
|
|
|
|
|
|
|
|
**Култура етике** се односи на [_операционализацију_ примењене етике](https://hbr.org/2019/05/how-to-design-an-ethical-organization) како би се осигурало да наши етички принципи и праксе буду усвојени на доследан и скалабилан начин широм целе организације. Успешне културе етике дефинишу етичке принципе на нивоу организације, пружају значајне подстицаје за усаглашеност и јачају норме етике подстичући и појачавајући жељена понашања на свим нивоима организације.
|
|
|
|
|
|
|
|
|
|
## Концепти етике
|
|
|
|
|
## Пojмови етике
|
|
|
|
|
|
|
|
|
|
У овом делу, разговараћемо о концептима као што су **заједничке вредности** (принципи) и **етички изазови** (проблеми) за етику података - и истражити **студије случаја** које вам помажу да разумете ове концепте у контексту стварног света.
|
|
|
|
|
У овом одељку ћемо разговарати о концептима као што су **заједничке вредности** (принципи) и **етички изазови** (проблеми) за етику података - и истражити **студије случаја** које помажу да разумете ове концепте у стварним светским контекстима.
|
|
|
|
|
|
|
|
|
|
### 1. Принципи етике
|
|
|
|
|
|
|
|
|
|
Свака стратегија етике података почиње дефинисањем _етичких принципа_ - "заједничких вредности" које описују прихватљива понашања и воде усаглашене акције у нашим пројектима везаним за податке и вештачку интелигенцију. Можете их дефинисати на индивидуалном или тимском нивоу. Међутим, већина великих организација их дефинише у оквиру мисије или оквира _етичке вештачке интелигенције_ на корпоративном нивоу и доследно их примењује у свим тимовима.
|
|
|
|
|
Свака стратегија етике података почиње дефинисањем _етичких принципа_ - „заједничких вредности“ које описују прихватљива понашања и водич су за усаглашене акције у нашим пројектима који укључују податке и вештачку интелигенцију. Ове принципе можете дефинисати на нивоу појединца или тима. Међутим, већина великих организација их наводи у мисији или оквиру око _одговорне вештачке интелигенције_ који је одређен на корпоративном нивоу и доследно спроводи кроз све тимове.
|
|
|
|
|
|
|
|
|
|
**Пример:** Мисија [Одговорна вештачка интелигенција](https://www.microsoft.com/en-us/ai/responsible-ai) компаније Microsoft гласи: _"Посвећени смо напретку вештачке интелигенције вођене етичким принципима који стављају људе на прво место"_ - идентификујући 6 етичких принципа у оквиру приказаном испод:
|
|
|
|
|
**Пример:** Microsoft-ова [мисија за одговорну вештачку интелигенцију](https://www.microsoft.com/en-us/ai/responsible-ai) гласи: _„Посвећени смо напретку вештачке интелигенције вођене етичким принципима који стављају људе на прво место“_ - идентификујући 6 етичких принципа у следећем оквиру:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Хајде да укратко истражимо ове принципе. _Транспарентност_ и _одговорност_ су основне вредности на којима се граде остали принципи - па почнимо од њих:
|
|
|
|
|
Хајде да укратко истражимо ове принципе. _Прозирност_ и _одговорност_ су темељне вредности на којима се други принципи ослањају - па почнимо с тим:
|
|
|
|
|
|
|
|
|
|
* [**Одговорност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) чини практичаре _одговорним_ за њихове операције везане за податке и вештачку интелигенцију, као и за усаглашеност са овим етичким принципима.
|
|
|
|
|
* [**Транспарентност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) осигурава да су акције везане за податке и вештачку интелигенцију _разумљиве_ (интерпретабилне) корисницима, објашњавајући шта и зашто стоји иза одлука.
|
|
|
|
|
* [**Праведност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - фокусира се на осигурање да вештачка интелигенција третира _све људе_ праведно, решавајући било какве системске или имплицитне социо-техничке пристрасности у подацима и системима.
|
|
|
|
|
* [**Поузданост и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - осигурава да вештачка интелигенција делује _доследно_ са дефинисаним вредностима, минимизирајући потенцијалне штете или нежељене последице.
|
|
|
|
|
* [**Приватност и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на разумевање порекла података и пружање _заштите приватности података_ корисницима.
|
|
|
|
|
* [**Инклузивност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на дизајнирање решења вештачке интелигенције са намером, прилагођавајући их да задовоље _широк спектар људских потреба_ и способности.
|
|
|
|
|
* [**Одговорност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) чини практичаре _одговорним_ за операције са подацима и вештачком интелигенцијом и за усаглашеност са овим етичким принципима.
|
|
|
|
|
* [**Прозирност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) осигурава да су акције са подацима и вештачком интелигенцијом _разумљиве_ (интерпретабилне) корисницима, објашњавајући шта и зашто иза одлука.
|
|
|
|
|
* [**Праведност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - фокусира се на осигуравање да ВИ третира _све људе_ праведно, решавајући било какве системске или имплицитне социо-техничке предрасуде у подацима и системима.
|
|
|
|
|
* [**Поузданост и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - осигурава да ВИ делује _доследно_ са дефинисаним вредностима, минимизирајући потенцијалне штете или нежељене последице.
|
|
|
|
|
* [**Приватност и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на разумевање порекла података, и обезбеђивање _приватности података и сродних заштита_ корисницима.
|
|
|
|
|
* [**Инклузивност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на дизајн ВИ решења са намером, прилагођавајући их за задовољење _широког спектра људских потреба_ и способности.
|
|
|
|
|
|
|
|
|
|
> 🚨 Размислите о томе шта би могла бити ваша мисија етике података. Истражите оквире етичке вештачке интелигенције других организација - овде су примери од [IBM](https://www.ibm.com/cloud/learn/ai-ethics), [Google](https://ai.google/principles), и [Facebook](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Које заједничке вредности имају? Како се ови принципи односе на производе или индустрију вештачке интелигенције у којој делују?
|
|
|
|
|
> 🚨 Размислите о својој могућој мисији етике података. Истражите оквире етике вештачке интелигенције других организација - ево примера из [IBM-а](https://www.ibm.com/cloud/learn/ai-ethics), [Google-а](https://ai.google/principles), и [Facebook-а](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Које заједничке вредности имају? Како се ти принципи односе на ВИ производ или индустрију у којој раде?
|
|
|
|
|
|
|
|
|
|
### 2. Етички изазови
|
|
|
|
|
### 2. Изазови етике
|
|
|
|
|
|
|
|
|
|
Када дефинишемо етичке принципе, следећи корак је процена наших акција везаних за податке и вештачку интелигенцију како бисмо видели да ли су у складу са тим заједничким вредностима. Размислите о својим акцијама у две категорије: _прикупљање података_ и _дизајн алгоритама_.
|
|
|
|
|
Када дефинишемо етичке принципе, следећи корак је да проценимо наше акције са подацима и вештачком интелигенцијом да видимо да ли су у складу са тим заједничким вредностима. Размислите о вашим акцијама у две категорије: _прикупљање података_ и _дизајн алгоритама_.
|
|
|
|
|
|
|
|
|
|
Код прикупљања података, акције ће вероватно укључивати **личне податке** или лично идентификационе информације (PII) за идентификоване живе особе. Ово укључује [разноврсне ставке неперсоналних података](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) које _заједно_ идентификују појединца. Етички изазови могу се односити на _приватност података_, _власништво над подацима_ и сродне теме као што су _информисани пристанак_ и _права интелектуалне својине_ за кориснике.
|
|
|
|
|
Код прикупљања података, радње ће се вероватно односити на **личне податке** или лично идентификационе информације (PII) за идентификоване живе појединце. Ово укључује [различите ставке непersonalnih podataka](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) које _колективно_ идентификују појединца. Етички изазови могу се односити на _приватност података_, _власништво над подацима_ и сродне теме као што су _информисани пристанак_ и _права интелектуалне својине_ корисника.
|
|
|
|
|
|
|
|
|
|
Код дизајна алгоритама, акције ће укључивати прикупљање и курирање **скупова података**, а затим њихово коришћење за тренирање и примену **модела података** који предвиђају исходе или аутоматизују одлуке у стварним контекстима. Етички изазови могу настати из _пристраности у скупу података_, проблема са _квалитетом података_, _неправедности_ и _погрешног представљања_ у алгоритмима - укључујући неке проблеме који су системске природе.
|
|
|
|
|
Код дизајна алгоритама, радње ће укључивати прикупљање и уређење **скупова података**, а затим коришћење истих за тренирање и имплементацију **модела података** који предвиђају исходе или аутоматизују одлуке у стварном свету. Етички изазови могу настати због _пристрасности у скупу података_, проблема са _квалитетом података_, _неправедности_ и _погрешне представе_ у алгоритмима – укључујући и неке проблеме који су системске природе.
|
|
|
|
|
|
|
|
|
|
У оба случаја, изазови етике истичу области где наши поступци могу доћи у сукоб са заједничким вредностима. Да бисмо открили, ублажили, минимизирали или елиминисали ове бриге – морамо постављати морална „да/не“ питања у вези са нашим акцијама, а затим предузимати корективне мере по потреби. Погледајмо неке етичке изазове и морална питања која они покрећу:
|
|
|
|
|
|
|
|
|
|
У оба случаја, етички изазови истичу области где наше акције могу бити у сукобу са нашим заједничким вредностима. Да бисмо их открили, ублажили, минимизирали или елиминисали, потребно је да поставимо морална "да/не" питања у вези са нашим акцијама, а затим предузмемо корективне мере по потреби. Хајде да погледамо неке етичке изазове и морална питања која они постављају:
|
|
|
|
|
|
|
|
|
|
#### 2.1 Власништво над подацима
|
|
|
|
|
|
|
|
|
|
Прикупљање података често укључује личне податке који могу идентификовати субјекте података. [Власништво над подацима](https://permission.io/blog/data-ownership) се односи на _контролу_ и [_права корисника_](https://permission.io/blog/data-ownership) у вези са креирањем, обрадом и ширењем података.
|
|
|
|
|
Прикупљање података често укључује личне податке који могу идентификовати субјекте података. [Власништво над подацима](https://permission.io/blog/data-ownership) односи се на _контролу_ и [_корисничка права_](https://permission.io/blog/data-ownership) у вези са креирањем, обрадом и ширењем података.
|
|
|
|
|
|
|
|
|
|
Морална питања која треба поставити су:
|
|
|
|
|
* Ко је власник података? (корисник или организација)
|
|
|
|
|
* Која права имају субјекти података? (нпр. приступ, брисање, преносивост)
|
|
|
|
|
* Која права имају организације? (нпр. исправљање злонамерних корисничких рецензија)
|
|
|
|
|
Морална питања која треба поставити су:
|
|
|
|
|
* Ко је власник података? (корисник или организација)
|
|
|
|
|
* Која права имају субјекти података? (нпр. приступ, брисање, преносивост)
|
|
|
|
|
* Која права имају организације? (нпр. исправка злонамерних корисничких рецензија)
|
|
|
|
|
|
|
|
|
|
#### 2.2 Информисани пристанак
|
|
|
|
|
|
|
|
|
|
[Информисани пристанак](https://legaldictionary.net/informed-consent/) дефинише чин корисника који пристаје на акцију (као што је прикупљање података) уз _потпуно разумевање_ релевантних чињеница, укључујући сврху, потенцијалне ризике и алтернативе.
|
|
|
|
|
[Информисани пристанак](https://legaldictionary.net/informed-consent/) дефинише чин сагласности корисника за одређену радњу (као што је прикупљање података) са _потпуним разумевањем_ релевантних чињеница, укључујући сврху, потенцијалне ризике и алтернативе.
|
|
|
|
|
|
|
|
|
|
Питања за истраживање овде су:
|
|
|
|
|
* Да ли је корисник (субјект података) дао дозволу за прикупљање и употребу података?
|
|
|
|
|
* Да ли је корисник разумео сврху за коју су ти подаци прикупљени?
|
|
|
|
|
* Да ли је корисник разумео потенцијалне ризике од свог учешћа?
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли је корисник (субјект података) дао дозволу за прикупљање и коришћење података?
|
|
|
|
|
* Да ли је корисник разумео сврху за коју су подаци прикупљени?
|
|
|
|
|
* Да ли је корисник разумео потенцијалне ризике од учешћа?
|
|
|
|
|
|
|
|
|
|
#### 2.3 Интелектуална својина
|
|
|
|
|
|
|
|
|
|
[Интелектуална својина](https://en.wikipedia.org/wiki/Intellectual_property) односи се на нематеријалне творевине које су резултат људске иницијативе, а које могу _имати економску вредност_ за појединце или предузећа.
|
|
|
|
|
[Интелектуална својина](https://en.wikipedia.org/wiki/Intellectual_property) односи се на нематеријалне творевине које произлазе из људске иницијативе и које могу имати _економску вредност_ за појединце или предузећа.
|
|
|
|
|
|
|
|
|
|
Питања за истраживање овде су:
|
|
|
|
|
* Да ли прикупљени подаци имају економску вредност за корисника или предузеће?
|
|
|
|
|
* Да ли корисник има интелектуалну својину овде?
|
|
|
|
|
* Да ли организација има интелектуалну својину овде?
|
|
|
|
|
* Ако ова права постоје, како их штитимо?
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли прикупљени подаци имају економску вредност за корисника или предузеће?
|
|
|
|
|
* Да ли корисник има овде права интелектуалне својине?
|
|
|
|
|
* Да ли организација има овде права интелектуалне својине?
|
|
|
|
|
* Ако права постоје, како их штитимо?
|
|
|
|
|
|
|
|
|
|
#### 2.4 Приватност података
|
|
|
|
|
|
|
|
|
|
[Приватност података](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или информациона приватност односи се на очување приватности корисника и заштиту идентитета корисника у вези са лично идентификационим информацијама.
|
|
|
|
|
[Приватност података](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или заштита информација односи се на очување корисничке приватности и заштиту идентитета корисника у погледу лично идентификационих информација.
|
|
|
|
|
|
|
|
|
|
Питања за истраживање овде су:
|
|
|
|
|
* Да ли су кориснички (лични) подаци заштићени од хаковања и цурења?
|
|
|
|
|
* Да ли су кориснички подаци доступни само овлашћеним корисницима и контекстима?
|
|
|
|
|
* Да ли је анонимност корисника очувана када се под
|
|
|
|
|
* Да ли су информације забележене _тачно_ у одражавању стварности?
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли су лични подаци корисника заштићени од провала и цурења?
|
|
|
|
|
* Да ли су подаци корисника доступни само овлашћеним лицима и у овлашћеним контекстима?
|
|
|
|
|
* Да ли је анонимност корисника очувана када се подаци деле или шире?
|
|
|
|
|
* Да ли се корисник може дешифровати из анонимизованих скупова података?
|
|
|
|
|
|
|
|
|
|
#### 2.8 Праведност алгоритма
|
|
|
|
|
#### 2.5 Право на заборав
|
|
|
|
|
|
|
|
|
|
[Праведност алгоритма](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) проверава да ли дизајн алгоритма систематски дискриминише одређене подгрупе субјеката података, што доводи до [потенцијалних штета](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) у _расподели_ (где се ресурси ускраћују или задржавају за ту групу) и _квалитету услуге_ (где вештачка интелигенција није толико прецизна за неке подгрупе као за друге).
|
|
|
|
|
[Право на заборав](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [Право на брисање](https://www.gdpreu.org/right-to-be-forgotten/) пружа додатну заштиту личних података корисницима. Конкретно, омогућава корисницима да затраже брисање или уклањање личних података из претраживања интернета и других места, _под специфичним околностима_ - што им омогућава нови почетак на мрежи без да се прошлост против њих користи.
|
|
|
|
|
|
|
|
|
|
Питања за истраживање:
|
|
|
|
|
* Да ли смо проценили тачност модела за различите подгрупе и услове?
|
|
|
|
|
* Да ли смо детаљно испитали систем за потенцијалне штете (нпр. стереотипизацију)?
|
|
|
|
|
* Можемо ли ревидирати податке или поново обучити моделе како бисмо ублажили идентификоване штете?
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли систем омогућава субјектима података да захтевају брисање?
|
|
|
|
|
* Да ли повлачење корисничког пристанка покреће аутоматско брисање?
|
|
|
|
|
* Да ли су подаци прикупљени без пристанка или незаконитим средствима?
|
|
|
|
|
* Да ли смо усклађени са државним прописима о заштити података?
|
|
|
|
|
|
|
|
|
|
Истражите ресурсе као што су [контролне листе за праведност вештачке интелигенције](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) за више информација.
|
|
|
|
|
#### 2.6 Пристрасност скупова података
|
|
|
|
|
|
|
|
|
|
#### 2.9 Погрешно представљање
|
|
|
|
|
Пристрасност у скупу података или [пристрасност при прикупљању](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) односи се на избор _непредстављивог_ подскупа података за развој алгоритама, што може створити неправедне резултате за разноврсне групе. Типови пристрасности укључују пристрасност избора или узорковања, пристрасност волонтера и инструменталну пристрасност.
|
|
|
|
|
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли смо ангажовали репрезентативан скуп субјеката података?
|
|
|
|
|
* Да ли смо тестирали наш прикупљени или уређени скуп података на различите пристрасности?
|
|
|
|
|
* Можемо ли ублажити или уклонити откривене пристрасности?
|
|
|
|
|
|
|
|
|
|
#### 2.7 Квалитет података
|
|
|
|
|
|
|
|
|
|
[Квалитет података](https://lakefs.io/data-quality-testing/) се односи на валидност уређеног скупa података који користимо за развој наших алгоритама, проверавајући да ли подаци испуњавају захтеве за ниво тачности и доследности потребан за нашу сврху у ВИ.
|
|
|
|
|
|
|
|
|
|
Питања за испитивање су:
|
|
|
|
|
* Да ли смо прикупили важеће _карактеристике_ за наш случај употребе?
|
|
|
|
|
* Да ли су подаци прикупљени _доследно_ из различитих извора података?
|
|
|
|
|
* Да ли је скуп података _комплетан_ за разне услове или сценарије?
|
|
|
|
|
* Да ли је информација прикупљена _тачно_ у одражавању стварности?
|
|
|
|
|
#### 2.8 Праведност алгоритама
|
|
|
|
|
|
|
|
|
|
[Погрешно представљање података](https://www.sciencedirect.com/topics/computer-science/misrepresentation) подразумева питање да ли комуницирамо увиде из искрено пријављених података на обмањујући начин како бисмо подржали жељени наратив.
|
|
|
|
|
[Праведност алгоритама](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) проверава да ли дизајн алгоритма систематски дискриминише одређене подгрупе субјеката података, што води ка [потенцијалној штети](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) у _расподели_ (где се ресурси одбијају или ускраћују тој групи) и _квалитету услуге_ (где вештачка интелигенција није подједнако прецизна за неке подгрупе као за друге).
|
|
|
|
|
|
|
|
|
|
Питања за истраживање:
|
|
|
|
|
* Да ли пријављујемо непотпуне или нетачне податке?
|
|
|
|
|
* Да ли визуализујемо податке на начин који води до обмањујућих закључака?
|
|
|
|
|
* Да ли користимо селективне статистичке технике за манипулацију резултатима?
|
|
|
|
|
* Да ли постоје алтернативна објашњења која могу понудити другачији закључак?
|
|
|
|
|
Питања која треба испитати су:
|
|
|
|
|
* Да ли смо проценили прецизност модела за различите подгрупе и услове?
|
|
|
|
|
* Да ли смо пажљиво прегледали систем у погледу потенцијалне штете (нпр. стереотипизације)?
|
|
|
|
|
* Можемо ли изменити податке или поново обучити моделе да ублажимо идентификовану штету?
|
|
|
|
|
|
|
|
|
|
#### 2.10 Слободан избор
|
|
|
|
|
Истражите ресурсе као што су [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) за више информација.
|
|
|
|
|
|
|
|
|
|
[Илузија слободног избора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) се јавља када системске "архитектуре избора" користе алгоритме за доношење одлука како би подстакле људе да донесу жељени исход, док им се чини да имају опције и контролу. Ови [мрачни обрасци](https://www.darkpatterns.org/) могу изазвати социјалну и економску штету корисницима. Пошто одлуке корисника утичу на профиле понашања, ове акције потенцијално покрећу будуће изборе који могу појачати или проширити утицај ових штета.
|
|
|
|
|
#### 2.9 Погрешно представљање
|
|
|
|
|
|
|
|
|
|
[Погрешно представљање података](https://www.sciencedirect.com/topics/computer-science/misrepresentation) поставља питање да ли комуницирамо увиде из поштено пријављених података на обманујући начин да бисмо подржали жељени наратив.
|
|
|
|
|
|
|
|
|
|
Питања која треба испитати су:
|
|
|
|
|
* Да ли пријављујемо непотпуне или нетачне податке?
|
|
|
|
|
* Да ли визуализујемо податке на начин који води до завођења погрешним закључцима?
|
|
|
|
|
* Да ли користимо селективне статистичке технике за манипулацију резултатима?
|
|
|
|
|
* Постоје ли алтернативна објашњења која могу понудити другачији закључак?
|
|
|
|
|
|
|
|
|
|
Питања за истраживање:
|
|
|
|
|
* Да ли је корисник разумео импликације доношења тог избора?
|
|
|
|
|
* Да ли је корисник био свестан (алтернативних) избора и предности и недостатака сваког?
|
|
|
|
|
* Може ли корисник касније поништити аутоматизован или утицајем изазван избор?
|
|
|
|
|
#### 2.10 Илузија слободног избора
|
|
|
|
|
[Илузија слободног избора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) јавља се када "архитектуре избора" система користе алгоритме доношења одлука да нагнају људе ка жељеном исходу, при чему им се чини да имају избор и контролу. Ови [мрачни обрасци](https://www.darkpatterns.org/) могу изазвати социјалну и економску штету корисницима. Пошто корисничке одлуке утичу на профиле понашања, ове акције потенцијално покрећу будуће изборе који могу повећати или продужити утицај те штете.
|
|
|
|
|
|
|
|
|
|
Питања која треба испитати су:
|
|
|
|
|
* Да ли је корисник разумео импликације доношења тог избора?
|
|
|
|
|
* Да ли је корисник био упознат са (алтернативним) изборима и предностима и манама сваког?
|
|
|
|
|
* Може ли корисник касније опозвати аутоматски или утицани избор?
|
|
|
|
|
|
|
|
|
|
### 3. Студије случаја
|
|
|
|
|
|
|
|
|
|
Да бисмо поставили ове етичке изазове у контекст стварног света, корисно је погледати студије случаја које истичу потенцијалне штете и последице за појединце и друштво када се занемарују таква кршења етике.
|
|
|
|
|
Да бисмо поставили ове етичке изазове у стварне контексте, корисно је погледати студије случаја које илуструју потенцијалну штету и последице по појединце и друштво када се таква кршења етике занемарују.
|
|
|
|
|
|
|
|
|
|
Ево неколико примера:
|
|
|
|
|
|
|
|
|
|
| Етички изазов | Студија случаја |
|
|
|
|
|
| Етички изазов | Студија случаја |
|
|
|
|
|
|--- |--- |
|
|
|
|
|
| **Информисани пристанак** | 1972 - [Тускеги студија о сифилису](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Афроамериканци који су учествовали у студији обећана је бесплатна медицинска нега _али су обманути_ од стране истраживача који нису обавестили субјекте о њиховој дијагнози или доступности лечења. Многи субјекти су умрли, а партнери или деца су били погођени; студија је трајала 40 година. |
|
|
|
|
|
| **Приватност података** | 2007 - [Награда за Netflix податке](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) пружила је истраживачима _10 милиона анонимизованих оцена филмова од 50 хиљада корисника_ како би побољшали алгоритме препорука. Међутим, истраживачи су успели да повежу анонимизоване податке са лично идентификационим подацима у _спољним скуповима података_ (нпр. IMDb коментари) - ефективно "деанонимизујући" неке Netflix претплатнике.|
|
|
|
|
|
| **Прикупљање пристрасних података** | 2013 - Град Бостон [развио Street Bump](https://www.boston.gov/transportation/street-bump), апликацију која је омогућила грађанима да пријаве рупе на путу, пружајући граду боље податке о путевима за проналажење и поправку проблема. Међутим, [људи из група са нижим приходима имали су мањи приступ аутомобилима и телефонима](https://hbr.org/2013/04/the-hidden-biases-in-big-data), чинећи њихове проблеме на путевима невидљивим у овој апликацији. Развијачи су сарађивали са академицима на решавању питања _праведног приступа и дигиталних подела_. |
|
|
|
|
|
| **Праведност алгоритма** | 2018 - MIT [Gender Shades Study](http://gendershades.org/overview.html) је проценила тачност AI производа за класификацију пола, откривајући недостатке у тачности за жене и особе боје коже. [Apple Card из 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) је изгледа нудила мање кредита женама него мушкарцима. Оба случаја илуструју проблеме пристрасности алгоритма који доводе до социо-економских штета.|
|
|
|
|
|
| **Погрешно представљање података** | 2020 - [Одељење за јавно здравље Џорџије објавило је графиконе о COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) који су изгледали као да обмањују грађане о трендовима у потврђеним случајевима са не-хронолошким редоследом на x-оси. Ово илуструје погрешно представљање кроз трикове визуализације. |
|
|
|
|
|
| **Илузија слободног избора** | 2020 - Апликација за учење [ABCmouse платила је $10M за решавање FTC жалбе](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) где су родитељи били заробљени у плаћању претплата које нису могли отказати. Ово илуструје мрачне обрасце у архитектури избора, где су корисници били подстакнути ка потенцијално штетним изборима. |
|
|
|
|
|
| **Приватност података и права корисника** | 2021 - Facebook [провала података](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) открила је податке 530 милиона корисника, што је резултирало нагодбом од $5 милијарди са FTC. Међутим, одбили су да обавесте кориснике о провали, кршећи права корисника у вези са транспарентношћу и приступом подацима. |
|
|
|
|
|
| **Информисани пристанак** | 1972 - [Таскиги студија сифилиса](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Афроамерички мушкарци који су учествовали у студији добили су обећање о бесплатној медицинској нези, али су их истраживачи заварили јер им нису саопштили дијагнозу нити постојање лечења. Многи су умрли, а партнери и деца били су погођени; студија је трајала 40 година. |
|
|
|
|
|
| **Приватност података** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) омогућио је истраживачима 10 милиона анонимизираних рангирања филмова од 50.000 корисника ради побољшања алгоритама препорука. Међутим, истраживачи су успели да корелирају анонимне податке са лично идентификационим подацима у _екстерним скуповима података_ (нпр. коментари на IMDb), ефективно "деанонимизујући" неке претплатнике Netflix-а. |
|
|
|
|
|
| **Прикупљање пристрасности** | 2013 - Град Бостон је развио апликацију Street Bump за пријављивање рупа на путу, пружајући боље податке за идентификовање и поправку проблема. Међутим, [људи из нижих прихода имали су ограничен приступ аутомобилима и телефонама](https://hbr.org/2013/04/the-hidden-biases-in-big-data), чинећи њихове проблеме невидљивим у апликацији. Развојни тим је сарађивао са академицима на проблемима _праведног приступа и дигиталних подела_ ради праведности. |
|
|
|
|
|
| **Праведност алгоритама** | 2018 - Истраживање MIT Gender Shades проценило је прецизност AI производа за класификацију пола и открило недостатке у прецизности за жене и особе боје. [Apple Card 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) је изгледао као да мање даје кредита женама него мушкарцима. Оба случаја илуструју питања алгоритамске пристрасности која доводе до социо-економске штете. |
|
|
|
|
|
| **Погрешно представљање података** | 2020 - [Грузијски одсек за јавно здравље објавио је графиконе COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) који су изгледали као да збуњују грађане о трендовима потврђених случајева непоредним хронолошким редоследом на x-оси. Ово илуструје погрешно представљање кроз трикове визуализације. |
|
|
|
|
|
| **Илузија слободног избора** | 2020 - Апликација за учење [ABCmouse платила је 10 милиона долара за решавање жалбе FTC-а](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) у којој су родитељи били приморани да плаћају претплате које нису могли отказати. Ово илуструје мрачне обрасце у архитектурама избора, где су корисници били нагнути ка потенцијално штетним изборима. |
|
|
|
|
|
| **Приватност података и корисничка права** | 2021 - Facebook [испад података](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) изложио је податке 530 милиона корисника, што је резултирало нагодбом од 5 милијарди долара са FTC-ом. Међутим, компанија је одбила да обавести кориснике о пропусту, кршећи њихова права на транспарентност и приступ подацима. |
|
|
|
|
|
|
|
|
|
|
Желите да истражите више студија случаја? Погледајте ове ресурсе:
|
|
|
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - етичке дилеме у различитим индустријама.
|
|
|
|
|
* [Курс о етици у науци о подацима](https://www.coursera.org/learn/data-science-ethics#syllabus) - истражене значајне студије случаја.
|
|
|
|
|
* [Где су ствари пошле наопако](https://deon.drivendata.org/examples/) - Deon контролна листа са примерима.
|
|
|
|
|
Желите ли да истражите више студија случаја? Погледајте ове ресурсе:
|
|
|
|
|
* [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - етичке дилеме из различитих индустрија.
|
|
|
|
|
* [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - бави се значајним студијама случаја.
|
|
|
|
|
* [Where things have gone wrong](https://deon.drivendata.org/examples/) - деон контролне листе са примерима
|
|
|
|
|
|
|
|
|
|
> 🚨 Размислите о студијама случаја које сте видели - да ли сте доживели или били погођени сличним етичким изазовом у свом животу? Можете ли се сетити барем једне друге студије случаја која илуструје један од етичких изазова које смо овде разматрали?
|
|
|
|
|
> 🚨 Размислите о студијама случаја које сте видели - да ли сте доживели или били погођени сличним етичким изазовом у свом животу? Можете ли се сетити још једне студије случаја која илуструје један од етичких изазова о којима смо разговарали у овом одељку?
|
|
|
|
|
|
|
|
|
|
## Примењена етика
|
|
|
|
|
## Примена етике
|
|
|
|
|
|
|
|
|
|
Говорили смо о концептима етике, изазовима и студијама случаја у контексту стварног света. Али како започети _примену_ етичких принципа и пракси у нашим пројектима? И како _операционализовати_ ове праксе за боље управљање? Хајде да истражимо нека решења из стварног света:
|
|
|
|
|
Разговарали смо о концептима етике, изазовима и студијама случаја у стварним контекстима. Али како да почнемо да _примењујемо_ етичке принципе и праксе у нашим пројектима? И како да _операционализујемо_ те праксе за боље управљање? Хајде да истражимо нека решења из стварног света:
|
|
|
|
|
|
|
|
|
|
### 1. Професионални кодекси
|
|
|
|
|
|
|
|
|
|
Професионални кодекси нуде једну опцију за организације да "подстакну" чланове да подрже своје етичке принципе и мисију. Кодекси су _моралне смернице_ за професионално понашање, помажући запосленима или члановима да доносе одлуке које су у складу са принципима њихове организације. Они су добри онолико колико је добра добровољна усаглашеност чланова; међутим, многе организације нуде додатне награде и казне како би мотивисале чланове да се придржавају кодекса.
|
|
|
|
|
Професионални кодекси нуде једну опцију организацијама да "мотивишу" чланове да подрже њихове етичке принципе и мисију. Кодекси су _моралне смернице_ за професионално понашање, помажући запосленима или члановима да доносе одлуке у складу са принципима организације. Они важе у мери у којој се чланови добровољно придржавају; ипак, многе организације нуде додатне награде и казне ради мотивације поштовања кодекса.
|
|
|
|
|
|
|
|
|
|
Примери укључују:
|
|
|
|
|
|
|
|
|
|
* [Оксфорд Минхен](http://www.code-of-ethics.org/code-of-conduct/) Кодекс етике
|
|
|
|
|
* [Удружење за науку о подацима](http://datascienceassn.org/code-of-conduct.html) Кодекс понашања (креиран 2013)
|
|
|
|
|
* [ACM Кодекс етике и професионалног понашања](https://www.acm.org/code-of-ethics) (од 1993)
|
|
|
|
|
* [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Кодекс етике
|
|
|
|
|
* [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Кодекс понашања (настао 2013)
|
|
|
|
|
* [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (од 1993)
|
|
|
|
|
|
|
|
|
|
> 🚨 Да ли припадате професионалној организацији за инжењеринг или науку о подацима? Истражите њихов сајт да видите да ли дефинишу професионални кодекс етике. Шта то говори о њиховим етичким принципима? Како "подстичу" чланове да следе кодекс?
|
|
|
|
|
> 🚨 Да ли припадате некој професионалној инжењерској или научној организацији за податке? Истражите њихов сајт да видите да ли дефинишу професионални кодекс етике. Шта то говори о њиховим етичким принципима? Како "мотивишу" чланове да поштују тај кодекс?
|
|
|
|
|
|
|
|
|
|
### 2. Контролне листе за етику
|
|
|
|
|
### 2. Етичке контролне листе
|
|
|
|
|
|
|
|
|
|
Док професионални кодекси дефинишу потребно _етичко понашање_ од практичара, они [имају позната ограничења](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) у спровођењу, посебно у пројектима великог обима. Уместо тога, многи стручњаци за науку о подацима [залажу се за контролне листе](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), које могу **повезати принципе са праксом** на детерминистички и применљив начин.
|
|
|
|
|
Док професионални кодекси дефинишу захтевано _етичко понашање_ од стране практичара, они [имају позната ограничења](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) у спровођењу, посебно у великим пројектима. Уместо тога, многи стручњаци из области науке о подацима [залажу се за контролне листе](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), које могу **повезати принципе са праксама** на одређенији и применљивији начин.
|
|
|
|
|
|
|
|
|
|
Контролне листе претварају питања у задатке "да/не" који се могу операционализовати, омогућавајући њихово праћење као део стандардних радних токова за пуштање производа.
|
|
|
|
|
Контролне листе претварају питања у задатке "да/не" који се могу операционализовати и пратити као део стандардних процеса пуштања производа.
|
|
|
|
|
|
|
|
|
|
Примери укључују:
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - општа контролна листа за етику података креирана из [препорука индустрије](https://deon.drivendata.org/#checklist-citations) са алатом командне линије за лаку интеграцију.
|
|
|
|
|
* [Контролна листа за ревизију приватности](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - пружа опште смернице за праксе руковања информацијама из правних и социјалних перспектива.
|
|
|
|
|
* [Контролна листа за праведност вештачке интелигенције](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - креирана од стране AI практичара за подршку усвајању и интеграцији провера праведности у циклусе развоја AI.
|
|
|
|
|
* [22 питања за етику у подацима и AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - отворенији оквир, структуриран за почетно истраживање етичких питања у дизајну, имплементацији и организационим контекстима.
|
|
|
|
|
* [Deon](https://deon.drivendata.org/) - општа контролна листа о етици података направљена према [препорукама индустрије](https://deon.drivendata.org/#checklist-citations) са алатом командне линије за лаку интеграцију.
|
|
|
|
|
* [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - пружа опште смернице за праксе руковања информацијама из правне и друштвене перспективе.
|
|
|
|
|
* [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - креирана од стране AI стручњака за подршку усвајању и интеграцији провера праведности у циклусе развоја вештачке интелигенције.
|
|
|
|
|
* [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - више отворени оквир, структурисан за почетно истраживање етичких питања у дизајну, имплементацији и организационим контекстима.
|
|
|
|
|
|
|
|
|
|
### 3. Регулативе за етику
|
|
|
|
|
### 3. Регулативе етике
|
|
|
|
|
|
|
|
|
|
Етика се односи на дефинисање заједничких вредности и добровољно чинење исправних ствари. **Усклађеност** се односи на _поштовање закона_ ако и где је дефинисан. **Управљање** у ширем смислу обухвата све начине на које организације делују како би спровеле етичке принципе и поштовале утврђене законе.
|
|
|
|
|
Етика је о дефинисању заједничких вредности и чинењу исправне ствари _добровољно_. **Поштовање регулатива** је о _придржавању закона_ где је он дефинисан. **Управљање** обухвата све начине на које организације делују ради спровођења етичких принципа и законских прописа.
|
|
|
|
|
|
|
|
|
|
Данас управљање има два облика унутар организација. Прво, ради се о дефинисању принципа **етичке вештачке интелигенције** и успостављању пракси за операционализацију усвајања у свим пројектима везаним за AI у организацији. Друго, ради се о усклађивању са свим владиним прописима о **заштити података** за регионе у којима послује.
|
|
|
|
|
Данас управљање има два облика унутар организација. Прво, ради се о дефинисању принципа **етичке вештачке интелигенције** и успостављању пракси за оперативну примену у свим AI пројектима у организацији. Друго, ради се о поштовању свих државних **прописа о заштити података** за регије у којима послује.
|
|
|
|
|
|
|
|
|
|
Примери прописа о заштити података и приватности:
|
|
|
|
|
Примери прописа о заштити и приватности података:
|
|
|
|
|
|
|
|
|
|
* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - регулише _федералну владу_ у прикупљању, коришћењу и откривању личних информација.
|
|
|
|
|
* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - штити личне здравствене податке.
|
|
|
|
|
* `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - штити приватност података деце млађе од 13 година.
|
|
|
|
|
* `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - пружа права корисника, заштиту података и приватност.
|
|
|
|
|
* `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) даје потрошачима више _права_ над њиховим (личним) подацима.
|
|
|
|
|
* `2021`, Кинески [Закон о заштити личних информација](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/) управо је усвојен, стварајући један од најјачих прописа о приватности података на мрежи у свету.
|
|
|
|
|
* `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - регулише прикупљање, коришћење и објављивање личних података у федералној влади.
|
|
|
|
|
* `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - штити личне здравствене податке.
|
|
|
|
|
* `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - штити приватност података деце млађе од 13 година.
|
|
|
|
|
* `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - пружа корисничка права, заштиту података и приватност.
|
|
|
|
|
* `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) даје корисницима више _права_ над њиховим (личним) подацима.
|
|
|
|
|
* `2021`, Кина је усвојила [Закон о заштити личних података](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/), који је један од најстрожих закона о онлајн приватности података на свету.
|
|
|
|
|
|
|
|
|
|
> 🚨 Европска унија је дефинисала GDPR (Општа уредба о заштити података), која остаје један од најзначајнијих прописа о приватности података данас. Да ли сте знали да такође дефинише [8 права корисника](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) за заштиту дигиталне приватности и личних података грађана? Сазнајте која су то права и зашто су важна.
|
|
|
|
|
> 🚨 Европска унија је дефинисала GDPR (Општа уредба о заштити података) која остаје једна од најутицајнијих регулатива о приватности података данас. Да ли сте знали да она такође дефинише [8 корисничких права](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) за заштиту дигиталне приватности и личних података грађана? Сазнајте која су то права и зашто су важна.
|
|
|
|
|
|
|
|
|
|
### 4. Култура етике
|
|
|
|
|
|
|
|
|
|
Имајте на уму да постоји нематеријални јаз између _усклађености_ (чинење довољно да се испуни "слово закона") и решавања [системских проблема](https://www.coursera.org/learn/data-science-ethics/home/week/4) (као што су осификација, асиметрија информација и неправед
|
|
|
|
|
* [Машинско учење за почетнике](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - лекција о правичности, од Microsoft-а.
|
|
|
|
|
* [Принципи одговорне вештачке интелигенције](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - бесплатан курс на Microsoft Learn.
|
|
|
|
|
* [Етика и наука о подацима](https://resources.oreilly.com/examples/0636920203964) - O'Reilly електронска књига (М. Лукидес, Х. Мејсон и др.)
|
|
|
|
|
* [Етика у науци о подацима](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлајн курс Универзитета у Мичигену.
|
|
|
|
|
* [Етика без маске](https://ethicsunwrapped.utexas.edu/case-studies) - студије случаја са Универзитета у Тексасу.
|
|
|
|
|
Обратите пажњу да постоји нематеријална разлика између _поштовања закона_ (чињење довољног да се испуни "слово закона") и решавања [системских проблема](https://www.coursera.org/learn/data-science-ethics/home/week/4) (као што су оживљавање структурних неравнина, несиметрија информација и дистрибутивна неправда) који могу убрзати коришћење AI као оружја.
|
|
|
|
|
|
|
|
|
|
Ово последње захтева [сарадничке приступе дефинисању култура етике](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) које граде емотивне везе и конзистентне заједничке вредности _између организација_ у индустрији. То захтева формализованије [културе етике података](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) у организацијама – омогућавајући _сваком_ да [повуче Andon кабл](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (да рано пријави етичке проблеме) и да чини _етичке процене_ (нпр. при запошљавању) кључним критеријумом формирања тимова у AI пројектима.
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
## [Тест након предавања](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯
|
|
|
|
|
## Ревизија и самоучење
|
|
|
|
|
|
|
|
|
|
Курсеви и књиге помажу у разумевању основних концепата и етичких изазова, док студије случаја и алати помажу у примени етичких пракси у стварним контекстима. Ево неколико ресурса за почетак.
|
|
|
|
|
|
|
|
|
|
* [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - лекција о праведности, од Microsoft-а.
|
|
|
|
|
* [Принципи одговорне вештачке интелигенције](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - бесплатан курс компаније Microsoft Learn.
|
|
|
|
|
* [Етика и наука о подацима](https://resources.oreilly.com/examples/0636920203964) - О’Рајли е-књига (М. Лукидес, Х. Мејсон и др.)
|
|
|
|
|
* [Етика у науци о подацима](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлајн курс Универзитета у Мичигену.
|
|
|
|
|
* [Етика у откривеном облику](https://ethicsunwrapped.utexas.edu/case-studies) - студије случаја Универзитета у Тексасу.
|
|
|
|
|
|
|
|
|
|
# Задатак
|
|
|
|
|
# Задатак
|
|
|
|
|
|
|
|
|
|
[Напишите студију случаја о етици података](assignment.md)
|
|
|
|
|
[Напишите студију случая о етици података](assignment.md)
|
|
|
|
|
|
|
|
|
|
---
|
|
|
|
|
|
|
|
|
|
**Одрицање од одговорности**:
|
|
|
|
|
Овај документ је преведен помоћу услуге за превођење уз помоћ вештачке интелигенције [Co-op Translator](https://github.com/Azure/co-op-translator). Иако се трудимо да обезбедимо тачност, молимо вас да имате у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитативним извором. За критичне информације препоручује се професионални превод од стране људи. Не преузимамо одговорност за било каква погрешна тумачења или неспоразуме који могу произаћи из коришћења овог превода.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER START -->
|
|
|
|
|
**Изјава о одрицању одговорности**:
|
|
|
|
|
Овај документ је преведен коришћењем услуге за аутоматски превод [Co-op Translator](https://github.com/Azure/co-op-translator). Иако тежимо тачности, имајте у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитативним извором. За критичне информације препоручује се професионални људски превод. Нисмо одговорни за било каква неспоразума или погрешна тумачења која произилазе из коришћења овог превода.
|
|
|
|
|
<!-- CO-OP TRANSLATOR DISCLAIMER END -->
|
localizeflow[bot]
6 days ago