# Увод у етику података |![ Sketchnote by [(@sketchthedocs)](https://sketchthedocs.dev) ](../../sketchnotes/02-Ethics.png)| |:---:| | Етика у науци о подацима - _Sketchnote by [@nitya](https://twitter.com/nitya)_ | --- Сви смо ми грађани података који живе у свету у којем су подаци свеобухватни. Трендови на тржишту говоре нам да ће до 2022. године једна од три велике организације куповати и продавати своје податке преко онлајн [тржишта и берзи](https://www.gartner.com/smarterwithgartner/gartner-top-10-trends-in-data-and-analytics-for-2020/). Као **програмери апликација**, биће нам лакше и јефтиније да интегришемо увиде добијене из података и аутоматизацију засновану на алгоритмима у свакодневне корисничке доживљаје. Међутим, како вештачка интелигенција постаје све присутнија, мораћемо да разумемо и потенцијалне штете које могу настати због [коришћења](https://www.youtube.com/watch?v=TQHs8SA1qpk) таквих алгоритама у великом обиму. Трендови указују да ћемо до 2025. године генерисати и конзумирати преко [180 зетабајтова](https://www.statista.com/statistics/871513/worldwide-data-created/) података. За **научнике података**, ова експлозија информација пружа невиђени приступ личним и биолошким подацима. Уз то долази моћ да се изграде детаљни профили корисника и суптилно утиче на одлучивање—често на начине који стварају [илузију слободног избора](https://www.datasciencecentral.com/the-pareto-set-and-the-paradox-of-choice/). Иако се то може користити да се корисници усмере ка жељеним исходима, такође поставља критична питања о приватности података, аутономији и моралним границама утицаја алгоритама. Етика података сада представља _неопходне ограде_ за науку о подацима и инжењерство, које нам помажу да минимизирамо потенцијалну штету и нежељене последице наших акција заснованих на подацима. [Гартнеров циклус хипе-а за вештачку интелигенцију](https://www.gartner.com/smarterwithgartner/2-megatrends-dominate-the-gartner-hype-cycle-for-artificial-intelligence-2020/) препознаје релевантне трендове у дигиталној етици, одговорном коришћењу вештачке интелигенције и управљању вештачком интелигенцијом као кључне покретаче већих мегатрендова око _демократизације_ и _индустријализације_ вештачке интелигенције. ![Gartner's Hype Cycle for AI - 2020](https://images-cdn.newscred.com/Zz1mOWJhNzlkNDA2ZTMxMWViYjRiOGFiM2IyMjQ1YmMwZQ==) У овом часу истражићемо фасцинантно подручје етике података - од кључних појмова и изазова до студија случаја и примењених концепата вештачке интелигенције као што је управљање - који помажу у успостављању културе етике у тимовима и организацијама које раде са подацима и вештачком интелигенцијом. ## [Претходни квиз](https://ff-quizzes.netlify.app/en/ds/quiz/2) 🎯 ## Основне дефиниције Хајде да почнемо тако што ћемо разумети основну терминологију. Реч „етика“ потиче од [грчке речи „ethikos“](https://en.wikipedia.org/wiki/Ethics) (и њеног корена „ethos“) која значи _карактер или морална природа_. **Етика** се тиче заједничких вредности и моралних принципа који управљају нашим понашањем у друштву. Етика није заснована на законима већ на широко прихваћеним нормама о томе шта је „право“ а шта „погрешно“. Међутим, етичке процене могу утицати на иницијативе корпоративног управљања и државне прописе који стварају више подстицаја за усаглашеност. **Етика података** је [нова грана етике](https://royalsocietypublishing.org/doi/full/10.1098/rsta.2016.0360#sec-1) која „проучава и процењује моралне проблеме повезане са _подацима, алгоритмима и одговарајућим праксама_“. Овде се под „податцима“ фокусира на радње везане за генерисање, снимање, уређење, обраду, ширење, дељење и коришћење, „алгоритми“ се односе на вештачку интелигенцију, агенте, машинско учење и роботе, а „практике“ на теме као што су одговорне иновације, програмирање, хаковање и етички кодекси. **Примењена етика** је [практична примена моралних разматрања](https://en.wikipedia.org/wiki/Applied_ethics). То је процес активног истраживања етичких питања у контексту _стварних акција, производа и процеса_ и предузимања корективних мера како би се обезбедило да те вредности остану у складу са нашим дефинисаним етичким вредностима. **Култура етике** је о [_операционализацији_ примењене етике](https://hbr.org/2019/05/how-to-design-an-ethical-organization) како би се осигурало да наши етички принципи и праксе буду доследно и скалабилно усвојени у целој организацији. Успешне културе етике дефинишу етичке принципе широм организације, пружају значајне подстицаје за усаглашеност и јачају етичке норме подстицањем и појачавањем пожељних понашања на сваком нивоу организације. ## Пojмови етике У овом одељку ћемо разговарати о концептима као што су **заједничке вредности** (принципи) и **етички изазови** (проблеми) за етику података - и истражити **студије случаја** које помажу да разумете ове концепте у стварним светским контекстима. ### 1. Принципи етике Свака стратегија етике података почиње дефинисањем _етичких принципа_ - „заједничких вредности“ које описују прихватљива понашања и водич су за усаглашене акције у нашим пројектима који укључују податке и вештачку интелигенцију. Ове принципе можете дефинисати на нивоу појединца или тима. Међутим, већина великих организација их наводи у мисији или оквиру око _одговорне вештачке интелигенције_ који је одређен на корпоративном нивоу и доследно спроводи кроз све тимове. **Пример:** Microsoft-ова [мисија за одговорну вештачку интелигенцију](https://www.microsoft.com/en-us/ai/responsible-ai) гласи: _„Посвећени смо напретку вештачке интелигенције вођене етичким принципима који стављају људе на прво место“_ - идентификујући 6 етичких принципа у следећем оквиру: ![Responsible AI at Microsoft](https://docs.microsoft.com/en-gb/azure/cognitive-services/personalizer/media/ethics-and-responsible-use/ai-values-future-computed.png) Хајде да укратко истражимо ове принципе. _Прозирност_ и _одговорност_ су темељне вредности на којима се други принципи ослањају - па почнимо с тим: * [**Одговорност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) чини практичаре _одговорним_ за операције са подацима и вештачком интелигенцијом и за усаглашеност са овим етичким принципима. * [**Прозирност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) осигурава да су акције са подацима и вештачком интелигенцијом _разумљиве_ (интерпретабилне) корисницима, објашњавајући шта и зашто иза одлука. * [**Праведност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6) - фокусира се на осигуравање да ВИ третира _све људе_ праведно, решавајући било какве системске или имплицитне социо-техничке предрасуде у подацима и системима. * [**Поузданост и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - осигурава да ВИ делује _доследно_ са дефинисаним вредностима, минимизирајући потенцијалне штете или нежељене последице. * [**Приватност и безбедност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на разумевање порекла података, и обезбеђивање _приватности података и сродних заштита_ корисницима. * [**Инклузивност**](https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1:primaryr6) - односи се на дизајн ВИ решења са намером, прилагођавајући их за задовољење _широког спектра људских потреба_ и способности. > 🚨 Размислите о својој могућој мисији етике података. Истражите оквире етике вештачке интелигенције других организација - ево примера из [IBM-а](https://www.ibm.com/cloud/learn/ai-ethics), [Google-а](https://ai.google/principles), и [Facebook-а](https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/). Које заједничке вредности имају? Како се ти принципи односе на ВИ производ или индустрију у којој раде? ### 2. Изазови етике Када дефинишемо етичке принципе, следећи корак је да проценимо наше акције са подацима и вештачком интелигенцијом да видимо да ли су у складу са тим заједничким вредностима. Размислите о вашим акцијама у две категорије: _прикупљање података_ и _дизајн алгоритама_. Код прикупљања података, радње ће се вероватно односити на **личне податке** или лично идентификационе информације (PII) за идентификоване живе појединце. Ово укључује [различите ставке непersonalnih podataka](https://ec.europa.eu/info/law/law-topic/data-protection/reform/what-personal-data_en) које _колективно_ идентификују појединца. Етички изазови могу се односити на _приватност података_, _власништво над подацима_ и сродне теме као што су _информисани пристанак_ и _права интелектуалне својине_ корисника. Код дизајна алгоритама, радње ће укључивати прикупљање и уређење **скупова података**, а затим коришћење истих за тренирање и имплементацију **модела података** који предвиђају исходе или аутоматизују одлуке у стварном свету. Етички изазови могу настати због _пристрасности у скупу података_, проблема са _квалитетом података_, _неправедности_ и _погрешне представе_ у алгоритмима – укључујући и неке проблеме који су системске природе. У оба случаја, изазови етике истичу области где наши поступци могу доћи у сукоб са заједничким вредностима. Да бисмо открили, ублажили, минимизирали или елиминисали ове бриге – морамо постављати морална „да/не“ питања у вези са нашим акцијама, а затим предузимати корективне мере по потреби. Погледајмо неке етичке изазове и морална питања која они покрећу: #### 2.1 Власништво над подацима Прикупљање података често укључује личне податке који могу идентификовати субјекте података. [Власништво над подацима](https://permission.io/blog/data-ownership) односи се на _контролу_ и [_корисничка права_](https://permission.io/blog/data-ownership) у вези са креирањем, обрадом и ширењем података. Морална питања која треба поставити су: * Ко је власник података? (корисник или организација) * Која права имају субјекти података? (нпр. приступ, брисање, преносивост) * Која права имају организације? (нпр. исправка злонамерних корисничких рецензија) #### 2.2 Информисани пристанак [Информисани пристанак](https://legaldictionary.net/informed-consent/) дефинише чин сагласности корисника за одређену радњу (као што је прикупљање података) са _потпуним разумевањем_ релевантних чињеница, укључујући сврху, потенцијалне ризике и алтернативе. Питања за испитивање су: * Да ли је корисник (субјект података) дао дозволу за прикупљање и коришћење података? * Да ли је корисник разумео сврху за коју су подаци прикупљени? * Да ли је корисник разумео потенцијалне ризике од учешћа? #### 2.3 Интелектуална својина [Интелектуална својина](https://en.wikipedia.org/wiki/Intellectual_property) односи се на нематеријалне творевине које произлазе из људске иницијативе и које могу имати _економску вредност_ за појединце или предузећа. Питања за испитивање су: * Да ли прикупљени подаци имају економску вредност за корисника или предузеће? * Да ли корисник има овде права интелектуалне својине? * Да ли организација има овде права интелектуалне својине? * Ако права постоје, како их штитимо? #### 2.4 Приватност података [Приватност података](https://www.northeastern.edu/graduate/blog/what-is-data-privacy/) или заштита информација односи се на очување корисничке приватности и заштиту идентитета корисника у погледу лично идентификационих информација. Питања за испитивање су: * Да ли су лични подаци корисника заштићени од провала и цурења? * Да ли су подаци корисника доступни само овлашћеним лицима и у овлашћеним контекстима? * Да ли је анонимност корисника очувана када се подаци деле или шире? * Да ли се корисник може дешифровати из анонимизованих скупова података? #### 2.5 Право на заборав [Право на заборав](https://en.wikipedia.org/wiki/Right_to_be_forgotten) или [Право на брисање](https://www.gdpreu.org/right-to-be-forgotten/) пружа додатну заштиту личних података корисницима. Конкретно, омогућава корисницима да затраже брисање или уклањање личних података из претраживања интернета и других места, _под специфичним околностима_ - што им омогућава нови почетак на мрежи без да се прошлост против њих користи. Питања за испитивање су: * Да ли систем омогућава субјектима података да захтевају брисање? * Да ли повлачење корисничког пристанка покреће аутоматско брисање? * Да ли су подаци прикупљени без пристанка или незаконитим средствима? * Да ли смо усклађени са државним прописима о заштити података? #### 2.6 Пристрасност скупова података Пристрасност у скупу података или [пристрасност при прикупљању](http://researcharticles.com/index.php/bias-in-data-collection-in-research/) односи се на избор _непредстављивог_ подскупа података за развој алгоритама, што може створити неправедне резултате за разноврсне групе. Типови пристрасности укључују пристрасност избора или узорковања, пристрасност волонтера и инструменталну пристрасност. Питања за испитивање су: * Да ли смо ангажовали репрезентативан скуп субјеката података? * Да ли смо тестирали наш прикупљени или уређени скуп података на различите пристрасности? * Можемо ли ублажити или уклонити откривене пристрасности? #### 2.7 Квалитет података [Квалитет података](https://lakefs.io/data-quality-testing/) се односи на валидност уређеног скупa података који користимо за развој наших алгоритама, проверавајући да ли подаци испуњавају захтеве за ниво тачности и доследности потребан за нашу сврху у ВИ. Питања за испитивање су: * Да ли смо прикупили важеће _карактеристике_ за наш случај употребе? * Да ли су подаци прикупљени _доследно_ из различитих извора података? * Да ли је скуп података _комплетан_ за разне услове или сценарије? * Да ли је информација прикупљена _тачно_ у одражавању стварности? #### 2.8 Праведност алгоритама [Праведност алгоритама](https://towardsdatascience.com/what-is-algorithm-fairness-3182e161cf9f) проверава да ли дизајн алгоритма систематски дискриминише одређене подгрупе субјеката података, што води ка [потенцијалној штети](https://docs.microsoft.com/en-us/azure/machine-learning/concept-fairness-ml) у _расподели_ (где се ресурси одбијају или ускраћују тој групи) и _квалитету услуге_ (где вештачка интелигенција није подједнако прецизна за неке подгрупе као за друге). Питања која треба испитати су: * Да ли смо проценили прецизност модела за различите подгрупе и услове? * Да ли смо пажљиво прегледали систем у погледу потенцијалне штете (нпр. стереотипизације)? * Можемо ли изменити податке или поново обучити моделе да ублажимо идентификовану штету? Истражите ресурсе као што су [AI Fairness checklists](https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4t6dA) за више информација. #### 2.9 Погрешно представљање [Погрешно представљање података](https://www.sciencedirect.com/topics/computer-science/misrepresentation) поставља питање да ли комуницирамо увиде из поштено пријављених података на обманујући начин да бисмо подржали жељени наратив. Питања која треба испитати су: * Да ли пријављујемо непотпуне или нетачне податке? * Да ли визуализујемо податке на начин који води до завођења погрешним закључцима? * Да ли користимо селективне статистичке технике за манипулацију резултатима? * Постоје ли алтернативна објашњења која могу понудити другачији закључак? #### 2.10 Илузија слободног избора [Илузија слободног избора](https://www.datasciencecentral.com/profiles/blogs/the-illusion-of-choice) јавља се када "архитектуре избора" система користе алгоритме доношења одлука да нагнају људе ка жељеном исходу, при чему им се чини да имају избор и контролу. Ови [мрачни обрасци](https://www.darkpatterns.org/) могу изазвати социјалну и економску штету корисницима. Пошто корисничке одлуке утичу на профиле понашања, ове акције потенцијално покрећу будуће изборе који могу повећати или продужити утицај те штете. Питања која треба испитати су: * Да ли је корисник разумео импликације доношења тог избора? * Да ли је корисник био упознат са (алтернативним) изборима и предностима и манама сваког? * Може ли корисник касније опозвати аутоматски или утицани избор? ### 3. Студије случаја Да бисмо поставили ове етичке изазове у стварне контексте, корисно је погледати студије случаја које илуструју потенцијалну штету и последице по појединце и друштво када се таква кршења етике занемарују. Ево неколико примера: | Етички изазов | Студија случаја | |--- |--- | | **Информисани пристанак** | 1972 - [Таскиги студија сифилиса](https://en.wikipedia.org/wiki/Tuskegee_Syphilis_Study) - Афроамерички мушкарци који су учествовали у студији добили су обећање о бесплатној медицинској нези, али су их истраживачи заварили јер им нису саопштили дијагнозу нити постојање лечења. Многи су умрли, а партнери и деца били су погођени; студија је трајала 40 година. | | **Приватност података** | 2007 - [Netflix data prize](https://www.wired.com/2007/12/why-anonymous-data-sometimes-isnt/) омогућио је истраживачима 10 милиона анонимизираних рангирања филмова од 50.000 корисника ради побољшања алгоритама препорука. Међутим, истраживачи су успели да корелирају анонимне податке са лично идентификационим подацима у _екстерним скуповима података_ (нпр. коментари на IMDb), ефективно "деанонимизујући" неке претплатнике Netflix-а. | | **Прикупљање пристрасности** | 2013 - Град Бостон је развио апликацију Street Bump за пријављивање рупа на путу, пружајући боље податке за идентификовање и поправку проблема. Међутим, [људи из нижих прихода имали су ограничен приступ аутомобилима и телефонама](https://hbr.org/2013/04/the-hidden-biases-in-big-data), чинећи њихове проблеме невидљивим у апликацији. Развојни тим је сарађивао са академицима на проблемима _праведног приступа и дигиталних подела_ ради праведности. | | **Праведност алгоритама** | 2018 - Истраживање MIT Gender Shades проценило је прецизност AI производа за класификацију пола и открило недостатке у прецизности за жене и особе боје. [Apple Card 2019](https://www.wired.com/story/the-apple-card-didnt-see-genderand-thats-the-problem/) је изгледао као да мање даје кредита женама него мушкарцима. Оба случаја илуструју питања алгоритамске пристрасности која доводе до социо-економске штете. | | **Погрешно представљање података** | 2020 - [Грузијски одсек за јавно здравље објавио је графиконе COVID-19](https://www.vox.com/covid-19-coronavirus-us-response-trump/2020/5/18/21262265/georgia-covid-19-cases-declining-reopening) који су изгледали као да збуњују грађане о трендовима потврђених случајева непоредним хронолошким редоследом на x-оси. Ово илуструје погрешно представљање кроз трикове визуализације. | | **Илузија слободног избора** | 2020 - Апликација за учење [ABCmouse платила је 10 милиона долара за решавање жалбе FTC-а](https://www.washingtonpost.com/business/2020/09/04/abcmouse-10-million-ftc-settlement/) у којој су родитељи били приморани да плаћају претплате које нису могли отказати. Ово илуструје мрачне обрасце у архитектурама избора, где су корисници били нагнути ка потенцијално штетним изборима. | | **Приватност података и корисничка права** | 2021 - Facebook [испад података](https://www.npr.org/2021/04/09/986005820/after-data-breach-exposes-530-million-facebook-says-it-will-not-notify-users) изложио је податке 530 милиона корисника, што је резултирало нагодбом од 5 милијарди долара са FTC-ом. Међутим, компанија је одбила да обавести кориснике о пропусту, кршећи њихова права на транспарентност и приступ подацима. | Желите ли да истражите више студија случаја? Погледајте ове ресурсе: * [Ethics Unwrapped](https://ethicsunwrapped.utexas.edu/case-studies) - етичке дилеме из различитих индустрија. * [Data Science Ethics course](https://www.coursera.org/learn/data-science-ethics#syllabus) - бави се значајним студијама случаја. * [Where things have gone wrong](https://deon.drivendata.org/examples/) - деон контролне листе са примерима > 🚨 Размислите о студијама случаја које сте видели - да ли сте доживели или били погођени сличним етичким изазовом у свом животу? Можете ли се сетити још једне студије случаја која илуструје један од етичких изазова о којима смо разговарали у овом одељку? ## Примена етике Разговарали смо о концептима етике, изазовима и студијама случаја у стварним контекстима. Али како да почнемо да _примењујемо_ етичке принципе и праксе у нашим пројектима? И како да _операционализујемо_ те праксе за боље управљање? Хајде да истражимо нека решења из стварног света: ### 1. Професионални кодекси Професионални кодекси нуде једну опцију организацијама да "мотивишу" чланове да подрже њихове етичке принципе и мисију. Кодекси су _моралне смернице_ за професионално понашање, помажући запосленима или члановима да доносе одлуке у складу са принципима организације. Они важе у мери у којој се чланови добровољно придржавају; ипак, многе организације нуде додатне награде и казне ради мотивације поштовања кодекса. Примери укључују: * [Oxford Munich](http://www.code-of-ethics.org/code-of-conduct/) Кодекс етике * [Data Science Association](http://datascienceassn.org/code-of-conduct.html) Кодекс понашања (настао 2013) * [ACM Code of Ethics and Professional Conduct](https://www.acm.org/code-of-ethics) (од 1993) > 🚨 Да ли припадате некој професионалној инжењерској или научној организацији за податке? Истражите њихов сајт да видите да ли дефинишу професионални кодекс етике. Шта то говори о њиховим етичким принципима? Како "мотивишу" чланове да поштују тај кодекс? ### 2. Етичке контролне листе Док професионални кодекси дефинишу захтевано _етичко понашање_ од стране практичара, они [имају позната ограничења](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md) у спровођењу, посебно у великим пројектима. Уместо тога, многи стручњаци из области науке о подацима [залажу се за контролне листе](https://resources.oreilly.com/examples/0636920203964/blob/master/of_oaths_and_checklists.md), које могу **повезати принципе са праксама** на одређенији и применљивији начин. Контролне листе претварају питања у задатке "да/не" који се могу операционализовати и пратити као део стандардних процеса пуштања производа. Примери укључују: * [Deon](https://deon.drivendata.org/) - општа контролна листа о етици података направљена према [препорукама индустрије](https://deon.drivendata.org/#checklist-citations) са алатом командне линије за лаку интеграцију. * [Privacy Audit Checklist](https://cyber.harvard.edu/ecommerce/privacyaudit.html) - пружа опште смернице за праксе руковања информацијама из правне и друштвене перспективе. * [AI Fairness Checklist](https://www.microsoft.com/en-us/research/project/ai-fairness-checklist/) - креирана од стране AI стручњака за подршку усвајању и интеграцији провера праведности у циклусе развоја вештачке интелигенције. * [22 questions for ethics in data and AI](https://medium.com/the-organization/22-questions-for-ethics-in-data-and-ai-efb68fd19429) - више отворени оквир, структурисан за почетно истраживање етичких питања у дизајну, имплементацији и организационим контекстима. ### 3. Регулативе етике Етика је о дефинисању заједничких вредности и чинењу исправне ствари _добровољно_. **Поштовање регулатива** је о _придржавању закона_ где је он дефинисан. **Управљање** обухвата све начине на које организације делују ради спровођења етичких принципа и законских прописа. Данас управљање има два облика унутар организација. Прво, ради се о дефинисању принципа **етичке вештачке интелигенције** и успостављању пракси за оперативну примену у свим AI пројектима у организацији. Друго, ради се о поштовању свих државних **прописа о заштити података** за регије у којима послује. Примери прописа о заштити и приватности података: * `1974`, [US Privacy Act](https://www.justice.gov/opcl/privacy-act-1974) - регулише прикупљање, коришћење и објављивање личних података у федералној влади. * `1996`, [US Health Insurance Portability & Accountability Act (HIPAA)](https://www.cdc.gov/phlp/publications/topic/hipaa.html) - штити личне здравствене податке. * `1998`, [US Children's Online Privacy Protection Act (COPPA)](https://www.ftc.gov/enforcement/rules/rulemaking-regulatory-reform-proceedings/childrens-online-privacy-protection-rule) - штити приватност података деце млађе од 13 година. * `2018`, [General Data Protection Regulation (GDPR)](https://gdpr-info.eu/) - пружа корисничка права, заштиту података и приватност. * `2018`, [California Consumer Privacy Act (CCPA)](https://www.oag.ca.gov/privacy/ccpa) даје корисницима више _права_ над њиховим (личним) подацима. * `2021`, Кина је усвојила [Закон о заштити личних података](https://www.reuters.com/world/china/china-passes-new-personal-data-privacy-law-take-effect-nov-1-2021-08-20/), који је један од најстрожих закона о онлајн приватности података на свету. > 🚨 Европска унија је дефинисала GDPR (Општа уредба о заштити података) која остаје једна од најутицајнијих регулатива о приватности података данас. Да ли сте знали да она такође дефинише [8 корисничких права](https://www.freeprivacypolicy.com/blog/8-user-rights-gdpr) за заштиту дигиталне приватности и личних података грађана? Сазнајте која су то права и зашто су важна. ### 4. Култура етике Обратите пажњу да постоји нематеријална разлика између _поштовања закона_ (чињење довољног да се испуни "слово закона") и решавања [системских проблема](https://www.coursera.org/learn/data-science-ethics/home/week/4) (као што су оживљавање структурних неравнина, несиметрија информација и дистрибутивна неправда) који могу убрзати коришћење AI као оружја. Ово последње захтева [сарадничке приступе дефинисању култура етике](https://towardsdatascience.com/why-ai-ethics-requires-a-culture-driven-approach-26f451afa29f) које граде емотивне везе и конзистентне заједничке вредности _између организација_ у индустрији. То захтева формализованије [културе етике података](https://www.codeforamerica.org/news/formalizing-an-ethical-data-culture/) у организацијама – омогућавајући _сваком_ да [повуче Andon кабл](https://en.wikipedia.org/wiki/Andon_(manufacturing)) (да рано пријави етичке проблеме) и да чини _етичке процене_ (нпр. при запошљавању) кључним критеријумом формирања тимова у AI пројектима. --- ## [Тест након предавања](https://ff-quizzes.netlify.app/en/ds/quiz/3) 🎯 ## Ревизија и самоучење Курсеви и књиге помажу у разумевању основних концепата и етичких изазова, док студије случаја и алати помажу у примени етичких пракси у стварним контекстима. Ево неколико ресурса за почетак. * [Machine Learning For Beginners](https://github.com/microsoft/ML-For-Beginners/blob/main/1-Introduction/3-fairness/README.md) - лекција о праведности, од Microsoft-а. * [Принципи одговорне вештачке интелигенције](https://docs.microsoft.com/en-us/learn/modules/responsible-ai-principles/) - бесплатан курс компаније Microsoft Learn. * [Етика и наука о подацима](https://resources.oreilly.com/examples/0636920203964) - О’Рајли е-књига (М. Лукидес, Х. Мејсон и др.) * [Етика у науци о подацима](https://www.coursera.org/learn/data-science-ethics#syllabus) - онлајн курс Универзитета у Мичигену. * [Етика у откривеном облику](https://ethicsunwrapped.utexas.edu/case-studies) - студије случаја Универзитета у Тексасу. # Задатак [Напишите студију случая о етици података](assignment.md) --- **Изјава о одрицању одговорности**: Овај документ је преведен коришћењем услуге за аутоматски превод [Co-op Translator](https://github.com/Azure/co-op-translator). Иако тежимо тачности, имајте у виду да аутоматски преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитативним извором. За критичне информације препоручује се професионални људски превод. Нисмо одговорни за било каква неспоразума или погрешна тумачења која произилазе из коришћења овог превода.