msb-public
/
Data-Science-For-Beginners
mirror of https://github.com/microsoft/Data-Science-For-Beginners.git
1
0
Code Issues Projects Releases Wiki Activity
You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
Branches Tags
${ item.name }
Create tag ${ searchTerm }
Create branch ${ searchTerm }
from 'a241bfc8a5'
${ noResults }
Data-Science-For-Beginners/translations/et/1-Introduction/02-ethics
History
leestott ebddf4bd4b
🌐 Update translations via Co-op Translator 		4 months ago
..
README.md 🌐 Update translations via Co-op Translator 4 months ago
assignment.md 🌐 Update translations via Co-op Translator 4 months ago

README.md

Sissejuhatus andme-eetikasse

Sketchnote autorilt (@sketchthedocs)
Andmeteaduse eetika - Sketchnote autorilt @nitya

Me kõik oleme andmekodanikud, kes elavad andmestunud maailmas.

Turutrendid näitavad, et aastaks 2022 hakkab iga kolmas suurorganisatsioon ostma ja müüma oma andmeid veebipõhiste turgude ja vahetusplatvormide kaudu. Rakenduste arendajatena muutub andmepõhiste teadmiste ja algoritmipõhise automatiseerimise integreerimine igapäevastesse kasutajakogemustesse lihtsamaks ja odavamaks. Kuid kuna tehisintellekt muutub kõikjalolevaks, peame mõistma ka võimalikke kahjusid, mida põhjustab selliste algoritmide relvastamine suurel skaalal.

Trendid viitavad sellele, et aastaks 2025 loome ja tarbime üle 180 zettabaidi andmeid. Andmeteadlastele pakub see andmeplahvatus enneolematut juurdepääsu isiku- ja käitumisandmetele. Sellega kaasneb võime luua üksikasjalikke kasutajaprofiile ja mõjutada otsuste tegemist peenelt—tihti viisil, mis tekitab vaba valiku illusiooni. Kuigi seda saab kasutada kasutajate suunamiseks eelistatud tulemusteni, tõstatab see ka olulisi küsimusi andmete privaatsuse, autonoomia ja algoritmilise mõju eetiliste piiride kohta.

Andme-eetika on nüüd vajalikud kaitsepiirded andmeteaduse ja inseneeria jaoks, aidates meil minimeerida võimalikke kahjusid ja soovimatuid tagajärgi, mis tulenevad meie andmepõhistest tegevustest. Gartneri tehisintellekti hype-tsükkel toob esile digitaalse eetika, vastutustundliku AI ja AI juhtimise kui olulised suundumused, mis juhivad suuremaid megatrende, nagu tehisintellekti demokratiseerimine ja industrialiseerimine.

Gartneri tehisintellekti hype-tsükkel - 2020

Selles õppetükis uurime põnevat andme-eetika valdkonda—alates põhikontseptsioonidest ja väljakutsetest kuni juhtumiuuringute ja rakendatud AI kontseptsioonideni, nagu juhtimine—mis aitavad luua eetika kultuuri meeskondades ja organisatsioonides, mis töötavad andmete ja tehisintellektiga.

Loengu-eelne viktoriin 🎯

Põhimõisted

Alustame põhiterminoloogia mõistmisest.

Sõna "eetika" pärineb kreeka sõnast "ethikos" (ja selle juurest "ethos"), mis tähendab iseloomu või moraalset olemust.

Eetika käsitleb jagatud väärtusi ja moraalseid põhimõtteid, mis juhivad meie käitumist ühiskonnas. Eetika ei põhine seadustel, vaid laialdaselt aktsepteeritud normidel selle kohta, mis on "õige vs. vale". Siiski võivad eetilised kaalutlused mõjutada ettevõtte juhtimisalgatusi ja valitsuse regulatsioone, mis loovad rohkem stiimuleid vastavuse tagamiseks.

Andme-eetika on uus eetika haru, mis "uurib ja hindab moraalseid probleeme, mis on seotud andmete, algoritmide ja vastavate praktikatega". Siin keskendub "andmed" tegevustele, mis on seotud andmete loomise, salvestamise, kureerimise, töötlemise, levitamise, jagamise ja kasutamisega, "algoritmid" keskenduvad tehisintellektile, agentidele, masinõppele ja robotitele ning "praktikad" keskenduvad teemadele nagu vastutustundlik innovatsioon, programmeerimine, häkkimine ja eetika koodid.

Rakenduseetika on moraalsete kaalutluste praktiline rakendamine. See on protsess, kus aktiivselt uuritakse eetilisi küsimusi reaalse maailma tegevuste, toodete ja protsesside kontekstis ning võetakse parandusmeetmeid, et need jääksid kooskõlla meie määratletud eetiliste väärtustega.

Eetika kultuur käsitleb rakenduseetika operationaliseerimist, et tagada, et meie eetilised põhimõtted ja praktikad võetakse kasutusele järjepidevalt ja skaleeritavalt kogu organisatsioonis. Edukad eetika kultuurid määratlevad organisatsiooniülesed eetilised põhimõtted, pakuvad tähendusrikkaid stiimuleid vastavuse tagamiseks ning tugevdavad eetikanorme, julgustades ja võimendades soovitud käitumist igal organisatsiooni tasandil.

Eetika kontseptsioonid

Selles jaotises arutame selliseid kontseptsioone nagu jagatud väärtused (põhimõtted) ja eetilised väljakutsed (probleemid) andme-eetika jaoks—ning uurime juhtumiuuringuid, mis aitavad teil mõista neid kontseptsioone reaalse maailma kontekstis.

1. Eetika põhimõtted

Iga andme-eetika strateegia algab eetiliste põhimõtete määratlemisest—"jagatud väärtustest", mis kirjeldavad vastuvõetavat käitumist ja juhivad vastavuses olevaid tegevusi meie andme- ja AI-projektides. Neid saab määratleda individuaalsel või meeskonna tasandil. Kuid enamik suuri organisatsioone määratleb need eetilise AI missioonilause või raamistikuna, mis on määratletud korporatiivsel tasandil ja rakendatud järjepidevalt kõigis meeskondades.

Näide: Microsofti Vastutustundliku AI missioonilause kõlab: "Me oleme pühendunud AI edendamisele eetiliste põhimõtete alusel, mis asetavad inimesed esikohale"—tuvastades 6 eetilist põhimõtet allolevas raamistikus:

Vastutustundlik AI Microsoftis

Vaatame lühidalt neid põhimõtteid. Läbipaistvus ja vastutus on põhiväärtused, millele teised põhimõtted tuginevad—alustame neist:

  • Vastutus teeb praktikud vastutavaks nende andme- ja AI-tegevuste eest ning vastavuse eest nendele eetilistele põhimõtetele.
  • Läbipaistvus tagab, et andme- ja AI-tegevused on arusaadavad (tõlgendatavad) kasutajatele, selgitades otsuste taga olevat "mida" ja "miks".
  • Õiglus keskendub sellele, et AI kohtleks kõiki inimesi õiglaselt, lahendades süsteemseid või varjatud sotsiaal-tehnilisi eelarvamusi andmetes ja süsteemides.
  • Usaldusväärsus ja ohutus tagab, et AI käitub järjekindlalt määratletud väärtustega, minimeerides võimalikke kahjusid või soovimatuid tagajärgi.
  • Privaatsus ja turvalisus käsitleb andmete päritolu mõistmist ja kasutajatele andmeprivaatsuse ja sellega seotud kaitsete pakkumist.
  • Kaasatus keskendub AI lahenduste kavandamisele eesmärgiga kohandada neid laiade inimvajaduste ja -võimaluste rahuldamiseks.

🚨 Mõelge, milline võiks olla teie andme-eetika missioonilause. Uurige teiste organisatsioonide eetilise AI raamistikke—siin on näited IBM, Google ja Facebook. Millised jagatud väärtused neil on ühiselt? Kuidas need põhimõtted seostuvad AI toodete või tööstusharuga, milles nad tegutsevad?

2. Eetilised väljakutsed

Kui eetilised põhimõtted on määratletud, on järgmine samm hinnata meie andme- ja AI-tegevusi, et näha, kas need vastavad neile jagatud väärtustele. Mõelge oma tegevustele kahes kategoorias: andmete kogumine ja algoritmide kujundamine.

Andmete kogumisega seotud tegevused hõlmavad tõenäoliselt isikuandmeid või isikut tuvastavat teavet (PII) tuvastatavate elavate isikute kohta. See hõlmab mitmekesiseid mitteisiklikke andmeid, mis koos tuvastavad isiku. Eetilised väljakutsed võivad olla seotud andmete privaatsuse, andmete omandiõiguse ja seotud teemadega, nagu teadlik nõusolek ja intellektuaalomandi õigused kasutajatele.

Algoritmide kujundamisega seotud tegevused hõlmavad andmekogumite kogumist ja kureerimist ning nende kasutamist andmemudelite treenimiseks ja juurutamiseks, mis ennustavad tulemusi või automatiseerivad otsuseid reaalses maailmas. Eetilised väljakutsed võivad tekkida andmekogumi eelarvamustest, andmete kvaliteedi probleemidest, ebaõiglusest ja valest esitusest algoritmides—sealhulgas mõned probleemid, mis on süsteemsed.

Mõlemal juhul toovad eetilised väljakutsed esile valdkonnad, kus meie tegevused võivad olla vastuolus meie jagatud väärtustega. Nende probleemide tuvastamiseks, leevendamiseks, minimeerimiseks või kõrvaldamiseks peame esitama moraalseid "jah/ei" küsimusi, mis on seotud meie tegevustega, ja võtma vajadusel parandusmeetmeid. Vaatame mõningaid eetilisi väljakutseid ja moraalseid küsimusi, mida need tõstatavad:

2.1 Andmete omandiõigus

Andmete kogumine hõlmab sageli isikuandmeid, mis võivad tuvastada andmesubjekte. Andmete omandiõigus käsitleb kontrolli ja kasutaja õigusi, mis on seotud andmete loomise, töötlemise ja levitamisega.

Moraalsed küsimused, mida peame esitama, on:

  • Kes omab andmeid? (kasutaja või organisatsioon)
  • Millised õigused on andmesubjektidel? (nt juurdepääs, kustutamine, teisaldatavus)
  • Millised õigused on organisatsioonidel? (nt pahatahtlike kasutajaülevaadete parandamine)

2.2 Teadlik nõusolek

Teadlik nõusolek määratleb kasutajate tegevuse (nt andmete kogumine) nõustumise täieliku arusaamisega asjakohastest faktidest, sealhulgas eesmärgist, võimalikest riskidest ja alternatiividest.

Küsimused, mida siin uurida:

  • Kas kasutaja (andmesubjekt) andis loa andmete kogumiseks ja kasutamiseks?
  • Kas kasutaja mõistis, mis eesmärgil need andmed koguti?
  • Kas kasutaja mõistis osalemisega kaasnevaid võimalikke riske?

2.3 Intellektuaalomand

Intellektuaalomand viitab immateriaalsetele loomingutele, mis tulenevad inimlikust algatusest ja võivad omada majanduslikku väärtust üksikisikutele või ettevõtetele.

Küsimused, mida siin uurida:

  • Kas kogutud andmetel oli majanduslik väärtus kasutajale või ettevõttele?
  • Kas kasutajal on siin intellektuaalomand?
  • Kas organisatsioonil on siin intellektuaalomand?
  • Kui need õigused eksisteerivad, kuidas me neid kaitseme?

2.4 Andmete privaatsus

Andmete privaatsus või teabe privaatsus viitab kasutaja privaatsuse säilitamisele ja kasutaja identiteedi kaitsmisele isikut tuvastava teabe osas.

Küsimused, mida siin uurida:

  • Kas kasutajate (isiklikud) andmed on kaitstud häkkimiste ja lekkimiste eest?
  • Kas kasutajate andmed on juurdepääsetavad ainult volitatud kasutajatele ja kontekstidele?
  • Kas kasutajate anonüümsus säilib, kui andmeid jagatakse või levitatakse?
  • Kas kasutaja saab anonüümsetest andmekogumitest tuvastamatuks muuta?

2.5 Õigus olla unustatud

Õigus olla unustatud või Õigus kustutamisele pakub kasutajatele täiendavat isikuandmete kaitset. Eelkõige annab see kasutajatele õiguse taotleda isikuandmete kustutamist või eemaldamist Interneti otsingutest ja muudest kohtadest, teatud tingimustel—võimaldades neile veebis uut algust, ilma et mineviku tegevusi nende vastu kasutataks.

Küsimused, mida siin uurida:

  • Kas süsteem võimaldab andmesubjektidel taotleda kustutamist?
  • Kas kasutaja nõusoleku tagasivõtmine peaks käivitama automaatse kustutamise?
  • Kas andmeid koguti ilma nõusolekuta või ebaseaduslikult?
  • Kas me järgime valitsuse regulatsioone andmete privaatsuse osas?

2.6 Andmekogumi eelarvamused

Andmekogumi või kogumise eelarvamused käsitlevad mitteesindusliku andmealamkogumi valimist algoritmi arendamiseks, mis võib luua potentsiaalset ebaõiglust tulemuste osas erinevatele gruppidele. Eelarvamuste tüübid hõlmavad valiku- või proovivõtueelarvamusi, vabatahtlike eelarvamusi ja instrumentaalset eelarvamust.

Küsimused, mida siin uurida:

  • Kas me kaasasime esindusliku andmesubjektide kogumi?
  • Kas me testisime kogutud või kureeritud andmekogumit erinevate eelarvamuste osas?
  • Kas me saame avastatud eelarvamusi leevendada või eemaldada?

2.7 Andmete kvaliteet

Andmete kvaliteet uurib kureeritud andmekogumi kehtivust, mida kasutatakse meie algoritmide arendamiseks, kontrollides, kas tunnused ja kirjed vastavad meie AI

  • Kas teave kajastab täpselt tegelikkust?

2.8 Algoritmiline õiglus

Algoritmiline õiglus uurib, kas algoritmi disain diskrimineerib süstemaatiliselt teatud andmesubjektide alarühmi, põhjustades potentsiaalseid kahjusid ressursside jaotamisel (kus ressursid jäetakse grupile kättesaamatuks) ja teenuse kvaliteedis (kus AI ei ole teatud alarühmade jaoks nii täpne kui teiste jaoks).

Küsimused, mida siin uurida:

  • Kas me hindasime mudeli täpsust erinevate alarühmade ja tingimuste jaoks?
  • Kas me analüüsisime süsteemi võimalike kahjude (nt stereotüübid) osas?
  • Kas me saame andmeid muuta või mudeleid uuesti treenida, et tuvastatud kahjusid vähendada?

Tutvu ressurssidega nagu AI õiglus kontrollnimekirjad, et rohkem teada saada.

2.9 Valeandmete esitamine

Andmete vale esitamine tähendab küsimust, kas me edastame ausalt esitatud andmetest saadud teadmisi eksitaval viisil, et toetada soovitud narratiivi.

Küsimused, mida siin uurida:

  • Kas me esitame puudulikke või ebatäpseid andmeid?
  • Kas me visualiseerime andmeid viisil, mis viib eksitavate järeldusteni?
  • Kas me kasutame valikulisi statistilisi meetodeid tulemuste manipuleerimiseks?
  • Kas on olemas alternatiivseid selgitusi, mis võivad pakkuda teistsugust järeldust?

2.10 Vaba valiku illusioon

Vaba valiku illusioon tekib siis, kui süsteemi "valikuarhitektuurid" kasutavad otsustusalgoritme, et suunata inimesi eelistatud tulemuse poole, samal ajal näidates, et neil on valikud ja kontroll. Need tumedad mustrid võivad põhjustada kasutajatele sotsiaalset ja majanduslikku kahju. Kuna kasutajate otsused mõjutavad käitumisprofiile, võivad need tegevused potentsiaalselt võimendada või pikendada nende kahjude mõju.

Küsimused, mida siin uurida:

  • Kas kasutaja mõistis selle valiku tegemise tagajärgi?
  • Kas kasutaja oli teadlik (alternatiivsetest) valikutest ja nende plussidest ja miinustest?
  • Kas kasutaja saab hiljem automatiseeritud või mõjutatud valiku tagasi pöörata?

3. Juhtumiuuringud

Et panna need eetilised väljakutsed reaalsesse konteksti, on kasulik vaadata juhtumiuuringuid, mis toovad esile potentsiaalsed kahjud ja tagajärjed üksikisikutele ja ühiskonnale, kui selliseid eetikarikkumisi eiratakse.

Siin on mõned näited:

Eetiline väljakutse Juhtumiuuring
Teadlik nõusolek 1972 - Tuskegee süüfilise uuring - Aafrika-Ameerika mehed, kes osalesid uuringus, lubati tasuta arstiabi, kuid peteti, kuna teadlased ei teavitanud osalejaid nende diagnoosist ega ravi kättesaadavusest. Paljud osalejad surid ja nende partnerid või lapsed olid mõjutatud; uuring kestis 40 aastat.
Andmete privaatsus 2007 - Netflixi andmeauhind pakkus teadlastele 10M anonüümset filmihinnangut 50K kliendilt, et parandada soovitusalgoritme. Kuid teadlased suutsid anonüümseid andmeid korreleerida isikutuvastatavate andmetega välises andmebaasis (nt IMDb kommentaarid), mis sisuliselt "deanonüümis" mõned Netflixi tellijad.
Kogumise kallutatus 2013 - Bostoni linn arendas Street Bumpi, rakenduse, mis võimaldas kodanikel teatada teekatteaukudest, andes linnale paremaid andmeid probleemide leidmiseks ja parandamiseks. Kuid madalama sissetulekuga inimesed omasid vähem autosid ja telefone, muutes nende teekatteprobleemid rakenduses nähtamatuks. Arendajad tegid koostööd akadeemikutega, et lahendada võrdse juurdepääsu ja digitaalse lõhe küsimusi õiglasuse tagamiseks.
Algoritmiline õiglus 2018 - MIT Gender Shades Study hindas soo klassifitseerimise AI toodete täpsust, paljastades täpsuse puudujääke naiste ja värviliste inimeste jaoks. 2019 Apple'i krediitkaart näis pakkuvat naistele vähem krediiti kui meestele. Mõlemad näitasid algoritmilise kallutatuse probleeme, mis põhjustasid sotsiaal-majanduslikku kahju.
Andmete vale esitamine 2020 - Georgia rahvatervise osakond avaldas COVID-19 graafikud, mis näisid eksitavat kodanikke kinnitatud juhtumite trendide osas, kasutades mitte-kronoloogilist järjestust x-teljel. See illustreerib valeandmete esitamist visualiseerimise trikkide kaudu.
Vaba valiku illusioon 2020 - Õppeäpp ABCmouse maksis $10M, et lahendada FTC kaebus, kus vanemad olid sunnitud maksma tellimuste eest, mida nad ei saanud tühistada. See illustreerib tumedaid mustreid valikuarhitektuurides, kus kasutajad suunati potentsiaalselt kahjulike valikute poole.
Andmete privaatsus ja kasutajaõigused 2021 - Facebooki andmeleke paljastas 530M kasutaja andmed, mille tulemusel määrati FTC-le $5B trahv. Kuid Facebook keeldus kasutajaid lekke kohta teavitamast, rikkudes kasutajaõigusi andmete läbipaistvuse ja juurdepääsu osas.

Kas soovid uurida rohkem juhtumiuuringuid? Vaata neid ressursse:

🚨 Mõtle juhtumiuuringutele, mida oled näinud - kas oled kogenud või olnud mõjutatud sarnasest eetilisest väljakutsest oma elus? Kas suudad mõelda vähemalt ühele teisele juhtumiuuringule, mis illustreerib ühte eetilist väljakutset, mida oleme selles osas arutanud?

Rakendatud eetika

Oleme rääkinud eetika kontseptsioonidest, väljakutsetest ja juhtumiuuringutest reaalses kontekstis. Aga kuidas alustada eetiliste põhimõtete ja praktikate rakendamist oma projektides? Ja kuidas operationaliseerida neid praktikaid parema juhtimise jaoks? Uurime mõningaid reaalse maailma lahendusi:

1. Professionaalsed eetikakoodeksid

Professionaalsed eetikakoodeksid pakuvad ühte võimalust organisatsioonidele "motiveerida" liikmeid toetama nende eetilisi põhimõtteid ja missioonilauseid. Koodeksid on moraalsed juhised professionaalseks käitumiseks, aidates töötajatel või liikmetel teha otsuseid, mis vastavad nende organisatsiooni põhimõtetele. Need on ainult nii head, kui liikmete vabatahtlik järgimine; siiski pakuvad paljud organisatsioonid täiendavaid preemiaid ja karistusi, et motiveerida liikmeid järgima koodeksit.

Näited:

🚨 Kas kuulud professionaalsesse inseneri- või andmeteaduse organisatsiooni? Uuri nende veebisaiti, et näha, kas nad määratlevad professionaalse eetikakoodeksi. Mida see ütleb nende eetiliste põhimõtete kohta? Kuidas nad "motiveerivad" liikmeid koodeksit järgima?

2. Eetika kontrollnimekirjad

Kuigi professionaalsed koodeksid määratlevad praktikutelt nõutava eetilise käitumise, on neil teadaolevad piirangud jõustamisel, eriti suurtes projektides. Selle asemel soovitavad paljud andmeteaduse eksperdid kontrollnimekirju, mis võivad ühendada põhimõtted praktikatega deterministlikumal ja rakendatavamal viisil.

Kontrollnimekirjad muudavad küsimused "jah/ei" ülesanneteks, mida saab operationaliseerida, võimaldades neid jälgida osana standardsetest toote väljalaske töövoogudest.

Näited:

3. Eetika regulatsioonid

Eetika seisneb jagatud väärtuste määratlemises ja õige asja tegemises vabatahtlikult. Vastavus seisneb seaduse järgimises, kui ja kus see on määratletud. Juhtimine hõlmab laiemalt kõiki viise, kuidas organisatsioonid rakendavad eetilisi põhimõtteid ja järgivad kehtestatud seadusi.

Tänapäeval toimub juhtimine organisatsioonides kahel viisil. Esiteks seisneb see eetiliste AI põhimõtete määratlemises ja praktikate kehtestamises, et operationaliseerida nende kasutuselevõttu kõigis organisatsiooni AI-ga seotud projektides. Teiseks seisneb see kõigi valitsuse määratud andmekaitse regulatsioonide järgimises piirkondades, kus organisatsioon tegutseb.

Näited andmekaitse ja privaatsuse regulatsioonidest:

🚨 Euroopa Liidu määratletud GDPR (Üldine andmekaitse määrus) jääb tänapäeval üheks mõjukamaks andmete privaatsuse regulatsiooniks. Kas teadsite, et see määratleb ka 8 kasutajaõigust, et kaitsta kodanike digitaalset privaatsust ja isikuandmeid? Uurige, mis need on ja miks need on olulised.

4. Eetika kultuur

Pange tähele, et jääb puudu vastavuse (tehes piisavalt, et täita "seaduse kirja") ja süsteemsete probleemide (nagu ossifikatsioon, teabe asümmeetria ja jaotuse ebaõiglus) lahendamise vahel, mis võivad kiirendada AI relvastamist.

Viimane nõuab koostööl põhinevaid lähenemisviise eetika kultuuride määratlemiseks, mis loovad emotsionaalseid sidemeid ja järjepidevaid jagatud väärtusi organisatsioonide vahel tööstuses. See nõuab rohkem formaliseeritud andmete eetika kultuure organisatsioonides - võimaldades kõigil tõmmata Andoni nööri (et tõstatada eetilisi probleeme varakult protsessis) ja muutes eetilised hinnangud (nt värbamisel) AI projektide meeskonna moodustamise põhikriteeriumiks.

Loengu järgne viktoriin 🎯

Ülevaade ja iseseisev õpe

Kursused ja raamatud aitavad mõista eetika põhikontseptsioone ja väljakutseid, samas kui juhtumiuuringud ja tööriistad aitavad rakendada eetika praktikaid reaalses kontekstis. Siin on mõned ressursid alustamiseks.

Ülesanne

Kirjuta andmeeetika juhtumiuuring

Lahtiütlus:
See dokument on tõlgitud, kasutades AI tõlketeenust Co-op Translator. Kuigi püüame tagada täpsust, palume arvestada, et automaatsed tõlked võivad sisaldada vigu või ebatäpsusi. Algne dokument selle algkeeles tuleks lugeda autoriteetseks allikaks. Olulise teabe puhul soovitame kasutada professionaalset inimtõlget. Me ei vastuta selle tõlke kasutamisest tulenevate arusaamatuste või valede tõlgenduste eest.