29 KiB

Raw Blame History

Johdanto datan etiikkaan


Datan etiikka - Sketchnote by @nitya

Me kaikki olemme datan kansalaisia, jotka elävät datan täyttämässä maailmassa.

Markkinatrendit kertovat, että vuoteen 2022 mennessä yksi kolmesta suuresta organisaatiosta ostaa ja myy dataansa verkossa markkinapaikkojen ja vaihtojen kautta. Sovelluskehittäjinä meidän on helpompaa ja edullisempaa integroida dataan perustuvia oivalluksia ja algoritmeihin perustuvaa automaatiota päivittäisiin käyttäjäkokemuksiin. Mutta kun tekoälystä tulee yhä yleisempää, meidän on myös ymmärrettävä mahdolliset haitat, joita syntyy tällaisten algoritmien aseistamisesta suuressa mittakaavassa.

Trendit osoittavat myös, että vuoteen 2025 mennessä luomme ja kulutamme yli 180 zettatavua dataa. Data-analyytikoina tämä antaa meille ennennäkemättömän pääsyn henkilökohtaisiin tietoihin. Tämä tarkoittaa, että voimme rakentaa käyttäjien käyttäytymisprofiileja ja vaikuttaa päätöksentekoon tavoilla, jotka luovat illuusion vapaasta valinnasta, samalla kun ohjaamme käyttäjiä kohti meille mieluisia lopputuloksia. Tämä herättää myös laajempia kysymyksiä datan yksityisyydestä ja käyttäjien suojelusta.

Datan etiikka toimii nyt välttämättöminä suojakaiteina data-analytiikassa ja -insinöörityössä, auttaen meitä minimoimaan mahdolliset haitat ja tahattomat seuraukset datan ohjaamista toimista. Gartnerin Hype Cycle tekoälylle tunnistaa digitaaliset eettiset trendit, vastuullisen tekoälyn ja tekoälyn hallinnan keskeisiksi tekijöiksi suuremmille megatrendeille, kuten tekoälyn demokratisointi ja teollistaminen.

Tässä oppitunnissa tutustumme kiehtovaan datan etiikan alueeseen - peruskäsitteistä ja haasteista tapaustutkimuksiin ja sovellettuihin tekoälykonsepteihin, kuten hallintaan - jotka auttavat luomaan eettisen kulttuurin tiimeissä ja organisaatioissa, jotka työskentelevät datan ja tekoälyn parissa.

Ennakkokysely 🎯

Peruskäsitteet

Aloitetaan ymmärtämällä peruskäsitteet.

Sana "etiikka" tulee kreikan sanasta "ethikos" (ja sen juuresta "ethos"), joka tarkoittaa luonnetta tai moraalista olemusta.

Etiikka käsittelee yhteisiä arvoja ja moraalisia periaatteita, jotka ohjaavat käyttäytymistämme yhteiskunnassa. Etiikka ei perustu lakeihin, vaan yleisesti hyväksyttyihin normeihin siitä, mikä on "oikein vs. väärin". Kuitenkin eettiset näkökohdat voivat vaikuttaa yritysten hallintokäytäntöihin ja hallituksen säädöksiin, jotka luovat enemmän kannustimia noudattamiselle.

Datan etiikka on uusi etiikan haara, joka "tutkii ja arvioi moraalisia ongelmia, jotka liittyvät dataan, algoritmeihin ja vastaaviin käytäntöihin". Tässä "data" keskittyy toimiin, jotka liittyvät datan luomiseen, tallentamiseen, kuratointiin, käsittelyyn, levittämiseen, jakamiseen ja käyttöön, "algoritmit" keskittyvät tekoälyyn, agentteihin, koneoppimiseen ja robotteihin, ja "käytännöt" keskittyvät aiheisiin, kuten vastuullinen innovaatio, ohjelmointi, hakkerointi ja eettiset koodit.

Sovellettu etiikka on moraalisten näkökohtien käytännön soveltamista. Se on prosessi, jossa aktiivisesti tutkitaan eettisiä kysymyksiä todellisten toimien, tuotteiden ja prosessien yhteydessä ja toteutetaan korjaavia toimenpiteitä, jotta ne pysyvät määriteltyjen eettisten arvojen mukaisina.

Eettinen kulttuuri tarkoittaa soveltavan etiikan operationalisointia varmistaakseen, että eettiset periaatteemme ja käytäntömme otetaan käyttöön johdonmukaisesti ja skaalautuvasti koko organisaatiossa. Menestyvät eettiset kulttuurit määrittelevät organisaation laajuiset eettiset periaatteet, tarjoavat merkityksellisiä kannustimia noudattamiselle ja vahvistavat eettisiä normeja rohkaisemalla ja vahvistamalla toivottuja käyttäytymismalleja organisaation kaikilla tasoilla.

Etiikan käsitteet

Tässä osiossa käsittelemme käsitteitä, kuten yhteiset arvot (periaatteet) ja eettiset haasteet (ongelmat) datan etiikassa - ja tutkimme tapaustutkimuksia, jotka auttavat ymmärtämään näitä käsitteitä todellisissa yhteyksissä.

1. Etiikan periaatteet

Jokainen datan etiikkastrategia alkaa määrittelemällä eettiset periaatteet - "yhteiset arvot", jotka kuvaavat hyväksyttäviä käyttäytymismalleja ja ohjaavat noudattavia toimia datan ja tekoälyn projekteissamme. Voit määritellä nämä yksilö- tai tiimitasolla. Useimmat suuret organisaatiot kuitenkin hahmottelevat nämä eettisen tekoälyn missiolausekkeessa tai kehyksessä, joka määritellään yritystasolla ja pannaan täytäntöön johdonmukaisesti kaikissa tiimeissä.

Esimerkki: Microsoftin Vastuullinen tekoäly -missiolauseke kuuluu: "Olemme sitoutuneet tekoälyn edistämiseen eettisten periaatteiden pohjalta, jotka asettavat ihmiset etusijalle" - ja siinä tunnistetaan 6 eettistä periaatetta alla olevassa kehyksessä:

Tutkitaan lyhyesti näitä periaatteita. Läpinäkyvyys ja vastuullisuus ovat perustavanlaatuisia arvoja, joiden päälle muut periaatteet rakentuvat - aloitetaan niistä:

Vastuullisuus tekee käytännön toteuttajista vastuullisia datan ja tekoälyn toiminnastaan sekä näiden eettisten periaatteiden noudattamisesta.
Läpinäkyvyys varmistaa, että datan ja tekoälyn toimet ovat ymmärrettäviä (tulkittavia) käyttäjille, selittäen päätösten taustalla olevan mitä ja miksi.
Reiluus keskittyy varmistamaan, että tekoäly kohtelee kaikkia ihmisiä reilusti, käsitellen mahdollisia järjestelmällisiä tai implisiittisiä sosio-teknisiä vinoumia datassa ja järjestelmissä.
Luotettavuus ja turvallisuus varmistaa, että tekoäly toimii johdonmukaisesti määriteltyjen arvojen mukaisesti, minimoiden mahdolliset haitat tai tahattomat seuraukset.
Yksityisyys ja turvallisuus liittyy datan alkuperän ymmärtämiseen ja käyttäjien datan yksityisyyden ja siihen liittyvien suojien tarjoamiseen.
Osallisuus tarkoittaa tekoälyratkaisujen suunnittelua tarkoituksella, mukauttamalla niitä vastaamaan laajaa valikoimaa ihmisten tarpeita ja kykyjä.

🚨 Mieti, mikä voisi olla datan etiikan missiolausekkeesi. Tutki muiden organisaatioiden eettisiä tekoälykehyksiä - tässä esimerkkejä IBM:ltä, Googlelta ja Facebookilta. Mitä yhteisiä arvoja niillä on? Miten nämä periaatteet liittyvät tekoälytuotteeseen tai -alaan, jossa ne toimivat?

2. Etiikan haasteet

Kun eettiset periaatteet on määritelty, seuraava askel on arvioida datan ja tekoälyn toimia nähdäksemme, ovatko ne linjassa näiden yhteisten arvojen kanssa. Mieti toimiasi kahdessa kategoriassa: datan kerääminen ja algoritmien suunnittelu.

Datan keräämisessä toimet liittyvät todennäköisesti henkilökohtaisiin tietoihin tai henkilön tunnistettaviin tietoihin (PII), jotka koskevat tunnistettavia eläviä yksilöitä. Tämä sisältää monenlaisia ei-henkilökohtaisia tietoja, jotka yhdessä tunnistavat yksilön. Eettiset haasteet voivat liittyä datan yksityisyyteen, datan omistajuuteen ja aiheisiin, kuten tietoinen suostumus ja käyttäjien immateriaalioikeudet.

Algoritmien suunnittelussa toimet liittyvät datan keräämiseen ja kuratointiin, ja niiden käyttämiseen datamallien kouluttamiseen ja käyttöönottoon, jotka ennustavat tuloksia tai automatisoivat päätöksiä todellisissa yhteyksissä. Eettiset haasteet voivat liittyä datan vinoumiin, datan laatuun, epäreiluuteen ja vääristelyyn algoritmeissa - mukaan lukien jotkut järjestelmälliset ongelmat.

Molemmissa tapauksissa eettiset haasteet korostavat alueita, joissa toimemme voivat olla ristiriidassa yhteisten arvojemme kanssa. Näiden huolenaiheiden havaitsemiseksi, lieventämiseksi, minimoimiseksi tai poistamiseksi meidän on esitettävä moraalisia "kyllä/ei"-kysymyksiä toimistamme ja toteutettava korjaavia toimenpiteitä tarpeen mukaan. Katsotaanpa joitakin eettisiä haasteita ja moraalisia kysymyksiä, joita ne herättävät:

2.1 Datan omistajuus

Datan kerääminen liittyy usein henkilökohtaisiin tietoihin, jotka voivat tunnistaa datan kohteet. Datan omistajuus koskee kontrollia ja käyttäjän oikeuksia datan luomiseen, käsittelyyn ja levittämiseen liittyen.

Moraaliset kysymykset, joita meidän on esitettävä:

Kuka omistaa datan? (käyttäjä vai organisaatio)
Mitä oikeuksia datan kohteilla on? (esim. pääsy, poisto, siirrettävyys)
Mitä oikeuksia organisaatioilla on? (esim. haitallisten käyttäjäarvostelujen korjaaminen)

2.2 Tietoinen suostumus

Tietoinen suostumus määrittelee käyttäjien suostumuksen toimintaan (kuten datan keräämiseen) täydellä ymmärryksellä asiaankuuluvista faktoista, mukaan lukien tarkoitus, mahdolliset riskit ja vaihtoehdot.