You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
Data-Science-For-Beginners/translations/lt/1-Introduction/02-ethics
leestott 1c99194922
🌐 Update translations via Co-op Translator
1 year ago
..
README.md 🌐 Update translations via Co-op Translator 1 year ago
assignment.md 🌐 Update translations via Co-op Translator 1 year ago

README.md

Įvadas į duomenų etiką

 Sketchnote by (@sketchthedocs)
Duomenų mokslo etika - Sketchnote by @nitya

Mes visi esame duomenų piliečiai, gyvenantys duomenų pasaulyje.

Rinkos tendencijos rodo, kad iki 2022 m. 1 iš 3 didelių organizacijų pirks ir parduos savo duomenis per internetines rinkas ir mainų platformas. Kaip programėlių kūrėjai, mes galėsime lengviau ir pigiau integruoti duomenimis pagrįstas įžvalgas ir algoritmais valdomą automatizaciją į kasdienes vartotojų patirtis. Tačiau, kai dirbtinis intelektas tampa visur paplitęs, turėsime suprasti galimą žalą, kurią gali sukelti tokių algoritmų ginklavimas dideliu mastu.

Tendencijos taip pat rodo, kad iki 2025 m. sukursime ir suvartosime daugiau nei 180 zettabaitų duomenų. Kaip duomenų mokslininkai, turėsime precedento neturintį prieigą prie asmeninių duomenų. Tai reiškia, kad galėsime kurti vartotojų elgsenos profilius ir daryti įtaką sprendimų priėmimui taip, kad sukurtume laisvo pasirinkimo iliuziją, tuo pačiu galimai nukreipdami vartotojus link mums pageidaujamų rezultatų. Tai taip pat kelia platesnius klausimus apie duomenų privatumą ir vartotojų apsaugą.

Duomenų etika dabar yra būtinos gairės duomenų mokslui ir inžinerijai, padedančios sumažinti galimą žalą ir netyčines pasekmes, kylančias iš mūsų veiksmų, pagrįstų duomenimis. Gartner Hype Cycle for AI identifikuoja aktualias tendencijas skaitmeninėje etikoje, atsakingame dirbtiniame intelekte ir AI valdyme kaip pagrindinius veiksnius didesnėms megatendencijoms, susijusioms su demokratizacija ir industrializacija AI.

Gartner's Hype Cycle for AI - 2020

Šioje pamokoje nagrinėsime įdomią duomenų etikos sritį nuo pagrindinių sąvokų ir iššūkių iki atvejų analizės ir taikomų AI koncepcijų, tokių kaip valdymas, kurios padeda sukurti etikos kultūrą komandose ir organizacijose, dirbančiose su duomenimis ir AI.

Prieš paskaitos testas 🎯

Pagrindinės sąvokos

Pradėkime nuo pagrindinių terminų supratimo.

Žodis „etika“ kilęs iš graikiško žodžio „ethikos“ (ir jo šaknies „ethos“), reiškiančio charakterį ar moralinę prigimtį.

Etika tai bendros vertybės ir moraliniai principai, kurie reguliuoja mūsų elgesį visuomenėje. Etika grindžiama ne įstatymais, o plačiai priimtomis normomis, kas yra „teisinga vs. neteisinga“. Tačiau etiniai svarstymai gali turėti įtakos įmonių valdymo iniciatyvoms ir vyriausybės reglamentams, kurie sukuria daugiau paskatų laikytis taisyklių.

Duomenų etika yra nauja etikos šaka, kuri „tiria ir vertina moralines problemas, susijusias su duomenimis, algoritmais ir atitinkama praktika“. Čia „duomenys“ apima veiksmus, susijusius su generavimu, įrašymu, kuravimu, apdorojimu, sklaida, dalijimusi ir naudojimu, „algoritmai“ apima AI, agentus, mašininį mokymąsi ir robotus, o „praktika“ apima temas, tokias kaip atsakinga inovacija, programavimas, įsilaužimas ir etikos kodeksai.

Taikomoji etika yra moralinių svarstymų praktinis taikymas. Tai procesas, kai aktyviai tiriamos etinės problemos realių veiksmų, produktų ir procesų kontekste, ir imamasi korekcinių veiksmų, kad jie išliktų suderinti su apibrėžtomis etinėmis vertybėmis.

Etikos kultūra tai taikomosios etikos operatyvinimas, siekiant užtikrinti, kad mūsų etiniai principai ir praktika būtų nuosekliai ir masto požiūriu pritaikyti visoje organizacijoje. Sėkmingos etikos kultūros apibrėžia organizacijos mastu etinius principus, suteikia prasmingas paskatas laikytis taisyklių ir skatina bei stiprina pageidaujamą elgesį kiekviename organizacijos lygyje.

Etikos sąvokos

Šiame skyriuje aptarsime tokias sąvokas kaip bendros vertybės (principai) ir etikos iššūkiai (problemos) duomenų etikoje ir nagrinėsime atvejų analizes, kurios padės suprasti šias sąvokas realiame kontekste.

1. Etikos principai

Kiekviena duomenų etikos strategija prasideda nuo etinių principų apibrėžimo „bendrų vertybių“, kurios apibūdina priimtiną elgesį ir vadovauja veiksmams, atitinkantiems taisykles, mūsų duomenų ir AI projektuose. Juos galite apibrėžti individualiu ar komandos lygiu. Tačiau dauguma didelių organizacijų apibrėžia juos etinio AI misijos pareiškime ar sistemoje, kuri yra apibrėžta korporatyviniu lygiu ir nuosekliai taikoma visose komandose.

Pavyzdys: Microsoft Atsakingo AI misijos pareiškimas skamba: „Mes esame įsipareigoję AI pažangai, kurią skatina etiniai principai, pirmiausia orientuoti į žmones“ identifikuojant 6 etinius principus žemiau pateiktoje sistemoje:

Atsakingas AI Microsoft

Trumpai aptarkime šiuos principus. Skaidrumas ir atsakomybė yra pagrindinės vertybės, ant kurių statomi kiti principai todėl pradėkime nuo jų:

  • Atsakomybė užtikrina, kad praktikai būtų atsakingi už savo duomenų ir AI operacijas bei laikymąsi šių etinių principų.
  • Skaidrumas užtikrina, kad duomenų ir AI veiksmai būtų suprantami vartotojams, paaiškinant, kas ir kodėl priimami sprendimai.
  • Teisingumas orientuojasi į tai, kad AI elgtųsi teisingai su visais žmonėmis, sprendžiant bet kokius sisteminius ar implicitinius socio-techninius šališkumus duomenyse ir sistemose.
  • Patikimumas ir saugumas užtikrina, kad AI elgtųsi nuosekliai su apibrėžtomis vertybėmis, sumažinant galimą žalą ar netyčines pasekmes.
  • Privatumas ir saugumas tai duomenų kilmės supratimas ir duomenų privatumo bei susijusių apsaugų suteikimas vartotojams.
  • Įtrauktis tai AI sprendimų kūrimas su ketinimu, pritaikant juos plačiam žmonių poreikių ir gebėjimų spektrui.

🚨 Pagalvokite, kokia galėtų būti jūsų duomenų etikos misijos pareiškimas. Išnagrinėkite kitų organizacijų etinio AI sistemas čia pateikiami pavyzdžiai iš IBM, Google ir Facebook. Kokias bendras vertybes jie turi? Kaip šie principai susiję su AI produktu ar pramone, kurioje jie veikia?

2. Etikos iššūkiai

Kai turime apibrėžtus etinius principus, kitas žingsnis yra įvertinti mūsų duomenų ir AI veiksmus, kad pamatytume, ar jie atitinka tas bendras vertybes. Pagalvokite apie savo veiksmus dviejose kategorijose: duomenų rinkimas ir algoritmų kūrimas.

Renkant duomenis, veiksmai greičiausiai apims asmeninius duomenis arba asmeniškai identifikuojamą informaciją (PII), susijusią su identifikuojamais gyvais asmenimis. Tai apima įvairius neasmeninių duomenų elementus, kurie kolektyviai identifikuoja asmenį. Etikos iššūkiai gali būti susiję su duomenų privatumu, duomenų nuosavybe ir susijusiomis temomis, tokiomis kaip informuotas sutikimas ir intelektinės nuosavybės teisės vartotojams.

Kuriant algoritmus, veiksmai apims duomenų rinkinių rinkimą ir kuravimą, o vėliau jų naudojimą duomenų modelių mokymui ir diegimui, kurie prognozuoja rezultatus arba automatizuoja sprendimus realiame kontekste. Etikos iššūkiai gali kilti dėl duomenų rinkinio šališkumo, duomenų kokybės problemų, neteisingumo ir klaidingo atvaizdavimo algoritmuose įskaitant kai kurias sistemines problemas.

Abiem atvejais etikos iššūkiai pabrėžia sritis, kuriose mūsų veiksmai gali susidurti su konfliktu su bendromis vertybėmis. Norėdami aptikti, sumažinti, minimizuoti ar pašalinti šias problemas, turime užduoti moralinius „taip/ne“ klausimus, susijusius su mūsų veiksmais, ir prireikus imtis korekcinių veiksmų. Pažvelkime į kai kuriuos etikos iššūkius ir moralinius klausimus, kuriuos jie kelia:

2.1 Duomenų nuosavybė

Duomenų rinkimas dažnai apima asmeninius duomenis, kurie gali identifikuoti duomenų subjektus. Duomenų nuosavybė yra apie kontrolę ir vartotojų teises, susijusias su duomenų kūrimu, apdorojimu ir sklaida.

Moraliniai klausimai, kuriuos reikia užduoti:

  • Kas valdo duomenis? (vartotojas ar organizacija)
  • Kokias teises turi duomenų subjektai? (pvz., prieiga, ištrynimas, perkeliamumas)
  • Kokias teises turi organizacijos? (pvz., taisyti kenksmingas vartotojų apžvalgas)

2.2 Informuotas sutikimas

Informuotas sutikimas apibrėžia vartotojų sutikimą veiksmui (pvz., duomenų rinkimui) su pilnu supratimu apie svarbius faktus, įskaitant tikslą, galimas rizikas ir alternatyvas.

Klausimai, kuriuos reikia nagrinėti:

  • Ar vartotojas (duomenų subjektas) davė leidimą duomenų rinkimui ir naudojimui?
  • Ar vartotojas suprato tikslą, dėl kurio buvo surinkti duomenys?
  • Ar vartotojas suprato galimas rizikas, susijusias su jų dalyvavimu?

2.3 Intelektinė nuosavybė

Intelektinė nuosavybė reiškia nematerialius kūrinius, atsiradusius iš žmogaus iniciatyvos, kurie gali turėti ekonominę vertę asmenims ar verslui.

Klausimai, kuriuos reikia nagrinėti:

  • Ar surinkti duomenys turėjo ekonominę vertę vartotojui ar verslui?
  • Ar vartotojas turi intelektinę nuosavybę čia?
  • Ar organizacija turi intelektinę nuosavybę čia?
  • Jei šios teisės egzistuoja, kaip jas saugome?

2.4 Duomenų privatumas

Duomenų privatumas arba informacijos privatumas reiškia vartotojų privatumo išsaugojimą ir vartotojų tapatybės apsaugą, susijusią su asmeniškai identifikuojama informacija.

Klausimai, kuriuos reikia nagrinėti:

  • Ar vartotojų (asmeniniai) duomenys yra apsaugoti nuo įsilaužimų ir nutekėjimų?
  • Ar vartotojų duomenys yra prieinami tik įgaliotiems vartotojams ir kontekstams?
  • Ar vartotojų anonimiškumas išsaugomas, kai duomenys yra dalijami ar skleidžiami?
  • Ar vartotojas gali būti deidentifikuotas iš anonimizuotų duomenų rinkinių?

2.5 Teisė būti pamirštam

Teisė būti pamirštam arba Teisė į ištrynimą suteikia papildomą asmeninių duomenų apsaugą vartotojams. Konkrečiai, tai suteikia vartotojams teisę prašyti asmeninių duomenų ištrynimo ar pašalinimo iš interneto paieškų ir kitų vietų, tam tikromis aplinkybėmis leidžiant jiems naują pradžią internete be praeities veiksmų, kurie galėtų būti laikomi prieš juos.

Klausimai, kuriuos reikia nagrinėti:

  • Ar sistema leidžia duomenų subjektams prašyti ištrynimo?
  • Ar vartotojo sutikimo atšaukimas turėtų automatiškai sukelti ištrynimą?
  • Ar duomenys buvo surinkti be sutikimo ar neteisėtais būdais?
  • Ar mes laikomės vyriausybės reglamentų dėl duomenų privatumo?

2.6 Duomenų rinkinio šališkumas

Duomenų rinkinio arba rinkimo šališkumas yra apie nereprezentatyvaus du Algoritmų sąžiningumas tikrina, ar algoritmų dizainas sistemingai nediskriminuoja tam tikrų duomenų subjektų grupių, sukeldamas galimą žalą paskirstymo (kai ištekliai atimami arba nesuteikiami tai grupei) ir paslaugų kokybės (kai AI nėra toks tikslus tam tikroms grupėms kaip kitoms) srityse.

Klausimai, kuriuos verta apsvarstyti:

  • Ar įvertinome modelio tikslumą įvairioms grupėms ir sąlygoms?
  • Ar išanalizavome sistemą dėl galimos žalos (pvz., stereotipizavimo)?
  • Ar galime peržiūrėti duomenis arba iš naujo apmokyti modelius, kad sumažintume nustatytą žalą?

Susipažinkite su tokiais šaltiniais kaip AI sąžiningumo kontroliniai sąrašai, kad sužinotumėte daugiau.

2.9 Netinkamas duomenų pateikimas

Netinkamas duomenų pateikimas kelia klausimą, ar mes pateikiame įžvalgas iš sąžiningai pateiktų duomenų taip, kad klaidintume ir palaikytume norimą naratyvą.

Klausimai, kuriuos verta apsvarstyti:

  • Ar pateikiame neišsamius ar netikslius duomenis?
  • Ar vizualizuojame duomenis taip, kad sukeltume klaidingas išvadas?
  • Ar naudojame selektyvius statistinius metodus rezultatams manipuliuoti?
  • Ar yra alternatyvių paaiškinimų, kurie galėtų pasiūlyti kitokią išvadą?

2.10 Laisvo pasirinkimo iliuzija

Laisvo pasirinkimo iliuzija atsiranda, kai sistemos „pasirinkimo architektūros“ naudoja sprendimų priėmimo algoritmus, kad paskatintų žmones priimti pageidaujamą rezultatą, tuo pačiu suteikdamos jiems pasirinkimo ir kontrolės iliuziją. Šie tamsieji modeliai gali sukelti socialinę ir ekonominę žalą vartotojams. Kadangi vartotojų sprendimai daro įtaką elgsenos profiliams, šie veiksmai gali sustiprinti arba pratęsti šios žalos poveikį.

Klausimai, kuriuos verta apsvarstyti:

  • Ar vartotojas suprato, kokias pasekmes turi jo pasirinkimas?
  • Ar vartotojas buvo informuotas apie (alternatyvius) pasirinkimus ir jų privalumus bei trūkumus?
  • Ar vartotojas gali vėliau pakeisti automatizuotą ar įtakotą pasirinkimą?

3. Atvejų analizės

Norint suprasti šiuos etikos iššūkius realiame pasaulyje, verta pažvelgti į atvejų analizes, kurios parodo galimą žalą ir pasekmes asmenims bei visuomenei, kai tokie etikos pažeidimai yra ignoruojami.

Štai keletas pavyzdžių:

Etikos iššūkis Atvejo analizė
Informuotas sutikimas 1972 m. - Tuskegee sifilio tyrimas - Afroamerikiečiai vyrai, dalyvavę tyrime, buvo pažadėti nemokama medicininė priežiūra, bet buvo apgauti tyrėjų, kurie neinformavo jų apie diagnozę ar gydymo galimybes. Daugelis dalyvių mirė, o jų partneriai ar vaikai buvo paveikti; tyrimas truko 40 metų.
Duomenų privatumas 2007 m. - Netflix duomenų prizas pateikė tyrėjams 10 mln. anonimizuotų filmų įvertinimų iš 50 tūkst. klientų, siekiant pagerinti rekomendacijų algoritmus. Tačiau tyrėjai sugebėjo susieti anonimizuotus duomenis su asmeniškai identifikuojamais duomenimis išoriniuose duomenų rinkiniuose (pvz., IMDb komentarais), efektyviai „deanonimizuodami“ kai kuriuos Netflix abonentus.
Duomenų rinkimo šališkumas 2013 m. - Bostono miestas sukūrė Street Bump, programėlę, leidžiančią piliečiams pranešti apie duobes, suteikiant miestui geresnius duomenis apie kelių būklę. Tačiau žmonės iš mažesnių pajamų grupių turėjo mažiau prieigos prie automobilių ir telefonų, todėl jų kelių problemos tapo nematomos šioje programėlėje. Kūrėjai dirbo su akademikais, kad spręstų teisingos prieigos ir skaitmeninės atskirties klausimus.
Algoritmų sąžiningumas 2018 m. - MIT Gender Shades tyrimas įvertino AI produktų tikslumą pagal lytį, atskleidžiant netikslumus moterų ir spalvotų žmonių atžvilgiu. 2019 m. Apple kortelė atrodė, kad siūlo mažiau kredito moterims nei vyrams. Abu atvejai parodė algoritminio šališkumo problemas, sukeliančias socialinę ir ekonominę žalą.
Netinkamas duomenų pateikimas 2020 m. - Džordžijos sveikatos departamentas paskelbė COVID-19 diagramas, kurios klaidino piliečius apie patvirtintų atvejų tendencijas, naudodamas nechronologinę x ašies tvarką. Tai iliustruoja netinkamą pateikimą per vizualizacijos triukus.
Laisvo pasirinkimo iliuzija 2020 m. - Mokymosi programėlė ABCmouse sumokėjo 10 mln. dolerių, kad išspręstų FTC skundą, kai tėvai buvo priversti mokėti už prenumeratas, kurių negalėjo atšaukti. Tai iliustruoja tamsiuosius modelius pasirinkimo architektūrose, kur vartotojai buvo nukreipti link galimai žalingų pasirinkimų.
Duomenų privatumas ir vartotojų teisės 2021 m. - Facebook duomenų nutekėjimas atskleidė 530 mln. vartotojų duomenis, dėl ko buvo skirta 5 mlrd. dolerių bauda FTC. Tačiau Facebook atsisakė informuoti vartotojus apie nutekėjimą, pažeisdamas vartotojų teises į duomenų skaidrumą ir prieigą.

Norite daugiau atvejų analizių? Peržiūrėkite šiuos šaltinius:

🚨 Pagalvokite apie matytas atvejų analizes ar esate patyrę ar buvote paveikti panašaus etikos iššūkio savo gyvenime? Ar galite sugalvoti bent vieną kitą atvejo analizę, kuri iliustruotų vieną iš šiame skyriuje aptartų etikos iššūkių?

Taikomoji etika

Mes aptarėme etikos sąvokas, iššūkius ir atvejų analizes realiame pasaulyje. Bet kaip pradėti taikyti etikos principus ir praktikas savo projektuose? Ir kaip įgyvendinti šias praktikas geresniam valdymui? Pažvelkime į keletą realių sprendimų:

1. Profesiniai kodeksai

Profesiniai kodeksai siūlo vieną iš būdų organizacijoms „skatinti“ narius palaikyti jų etikos principus ir misiją. Kodeksai yra moralinės gairės profesiniam elgesiui, padedančios darbuotojams ar nariams priimti sprendimus, atitinkančius organizacijos principus. Jie yra veiksmingi tiek, kiek nariai savanoriškai jų laikosi; tačiau daugelis organizacijų siūlo papildomas paskatas ir bausmes, kad motyvuotų narius laikytis kodekso.

Pavyzdžiai:

🚨 Ar priklausote profesinei inžinerijos ar duomenų mokslo organizacijai? Peržiūrėkite jų svetainę, kad sužinotumėte, ar jie apibrėžia profesinį etikos kodeksą. Ką tai sako apie jų etikos principus? Kaip jie „skatina“ narius laikytis kodekso?

2. Etikos kontroliniai sąrašai

Nors profesiniai kodeksai apibrėžia reikalaujamą etikos elgesį specialistams, jie turi žinomų apribojimų vykdymo užtikrinime, ypač didelio masto projektuose. Vietoj to, daugelis duomenų mokslo ekspertų rekomenduoja kontrolinius sąrašus, kurie gali susieti principus su praktikomis labiau apibrėžtais ir veiksmais pagrįstais būdais.

Kontroliniai sąrašai paverčia klausimus „taip/ne“ užduotimis, kurias galima įgyvendinti, leidžiant juos stebėti kaip standartinių produktų išleidimo darbo eigų dalį.

Pavyzdžiai:

3. Etikos reguliavimas

Etika yra apie bendrų vertybių apibrėžimą ir teisingų veiksmų atlikimą savanoriškai. Atitiktis yra apie įstatymų laikymąsi, jei jie yra apibrėžti. Valdymas apima visas organizacijų veiklos formas, skirtas etikos principams įgyvendinti ir laikytis nustatytų įstatymų.

Šiandien valdymas organizacijose vyksta dviem formomis. Pirma, tai yra apie etinių AI principų apibrėžimą ir praktikų nustatymą, siekiant užtikrinti jų taikymą visiems su AI susijusiems projektams organizacijoje. Antra, tai yra apie visų vyriausybės nustatytų duomenų apsaugos reguliavimų laikymąsi regionuose, kuriuose organizacija veikia.

Duomenų apsaugos ir privatumo reguliavimo pavyzdžiai:

🚨 Europos Sąjungos apibrėžtas GDPR (Bendrasis duomenų apsaugos reglamentas) išlieka vienu įtakingiausių duomenų privatumo reguliavimų šiandien. Ar žinojote, kad jis taip pat apibrėžia 8 vartotojų teises, skirtas apsaugoti piliečių skaitmeninį privatumą ir asmens duomenis? Sužinokite, kokios jos yra ir kodėl jos svarbios.

4. Etikos kultūra

Atkreipkite dėmesį, kad vis dar egzistuoja nematomas atotrūkis tarp atitikties (pakankamo veikimo pagal „įstatymo raidę“) ir sisteminių problemų sprendimo (pvz., ossifikacijos, informacijos asimetrijos ir paskirstymo neteisingumo), kurios gali paspartinti AI ginklavimą.

Pastarasis reikalauja bendradarbiavimo metodų etikos kultūrų apibrėžimui, kurie kuria emocinius ryšius ir nuoseklias bendras vertybes visose organizacijose pramonėje. Tai reikalauja daugiau formalizuotų duomenų etikos kultūrų organizacijose leidžiant bet kam traukti Andon virvę (kad anksti iškeltų

Užduotis

Parašykite duomenų etikos atvejo analizę


Atsakomybės apribojimas:
Šis dokumentas buvo išverstas naudojant AI vertimo paslaugą Co-op Translator. Nors siekiame tikslumo, prašome atkreipti dėmesį, kad automatiniai vertimai gali turėti klaidų ar netikslumų. Originalus dokumentas jo gimtąja kalba turėtų būti laikomas autoritetingu šaltiniu. Kritinei informacijai rekomenduojama profesionali žmogaus vertimo paslauga. Mes neprisiimame atsakomybės už nesusipratimus ar klaidingus interpretavimus, atsiradusius naudojant šį vertimą.