29 KiB

Raw Permalink Blame History Unescape Escape

Johdanto datan etiikkaan


Datan etiikka - Sketchnote by @nitya

Me kaikki olemme datan kansalaisia, jotka elävät dataistuneessa maailmassa.

Markkinatrendit kertovat, että vuoteen 2022 mennessä yksi kolmesta suuresta organisaatiosta ostaa ja myy dataansa verkossa markkinapaikkojen ja pörssien kautta. Sovelluskehittäjinä meidän on helpompaa ja edullisempaa integroida dataan perustuvia oivalluksia ja algoritmeihin perustuvaa automaatiota päivittäisiin käyttäjäkokemuksiin. Mutta kun tekoälystä tulee yhä yleisempää, meidän on myös ymmärrettävä mahdolliset haitat, joita syntyy tällaisten algoritmien aseistamisesta suuressa mittakaavassa.

Trendit osoittavat myös, että vuoteen 2025 mennessä tuotamme ja kulutamme yli 180 zettatavua dataa. Data-analyytikkoina tämä antaa meille ennennäkemättömän pääsyn henkilökohtaisiin tietoihin. Tämä tarkoittaa, että voimme rakentaa käyttäjien käyttäytymisprofiileja ja vaikuttaa päätöksentekoon tavoilla, jotka luovat illuusion vapaasta valinnasta, samalla kun saatamme ohjata käyttäjiä kohti meille suotuisia lopputuloksia. Tämä herättää myös laajempia kysymyksiä datan yksityisyydestä ja käyttäjien suojelusta.

Datan etiikka on nyt välttämätön suojakaide data-analytiikassa ja -insinöörityössä, auttaen meitä minimoimaan mahdolliset haitat ja tahattomat seuraukset datalähtöisistä toimistamme. Gartnerin tekoälyn hypekäyrä tunnistaa digietiikan, vastuullisen tekoälyn ja tekoälyn hallinnan keskeisiksi trendeiksi, jotka ohjaavat suurempia megatrendejä, kuten tekoälyn demokratisointia ja teollistamista.

Tässä oppitunnissa tutkimme kiehtovaa datan etiikan aluetta - peruskäsitteistä ja haasteista tapaustutkimuksiin ja soveltaviin tekoälykonsepteihin, kuten hallintoon, jotka auttavat luomaan eettisen kulttuurin dataa ja tekoälyä käsittelevissä tiimeissä ja organisaatioissa.

Esiluentavisa 🎯

Perusmääritelmät

Aloitetaan ymmärtämällä peruskäsitteet.

Sana "etiikka" tulee kreikan sanasta "ethikos" (ja sen juuresta "ethos"), joka tarkoittaa luonnetta tai moraalista olemusta.

Etiikka käsittelee yhteisiä arvoja ja moraalisia periaatteita, jotka ohjaavat käyttäytymistämme yhteiskunnassa. Etiikka ei perustu lakeihin, vaan yleisesti hyväksyttyihin normeihin siitä, mikä on "oikein vs. väärin". Kuitenkin eettiset näkökohdat voivat vaikuttaa yritysten hallintokäytäntöihin ja hallituksen säädöksiin, jotka luovat enemmän kannustimia noudattamiselle.

Datan etiikka on uusi etiikan haara, joka "tutkii ja arvioi moraalisia ongelmia, jotka liittyvät dataan, algoritmeihin ja vastaaviin käytäntöihin". Tässä "data" keskittyy toimiin, jotka liittyvät datan luomiseen, tallentamiseen, kuratointiin, käsittelyyn, levittämiseen, jakamiseen ja käyttöön, "algoritmit" keskittyvät tekoälyyn, agenteihin, koneoppimiseen ja robotteihin, ja "käytännöt" keskittyvät aiheisiin, kuten vastuulliseen innovointiin, ohjelmointiin, hakkerointiin ja eettisiin koodeihin.

Soveltava etiikka on moraalisten näkökohtien käytännön soveltamista. Se on prosessi, jossa aktiivisesti tutkitaan eettisiä kysymyksiä todellisen maailman toimien, tuotteiden ja prosessien yhteydessä ja toteutetaan korjaavia toimenpiteitä, jotta nämä pysyvät linjassa määriteltyjen eettisten arvojemme kanssa.

Eettinen kulttuuri tarkoittaa soveltavan etiikan operationalisointia varmistaakseen, että eettiset periaatteemme ja käytäntömme otetaan käyttöön johdonmukaisesti ja skaalautuvasti koko organisaatiossa. Onnistuneet eettiset kulttuurit määrittelevät organisaation laajuiset eettiset periaatteet, tarjoavat merkityksellisiä kannustimia noudattamiselle ja vahvistavat eettisiä normeja rohkaisemalla ja korostamalla toivottuja käyttäytymismalleja organisaation kaikilla tasoilla.

Etiikan käsitteet

Tässä osiossa käsittelemme käsitteitä, kuten yhteiset arvot (periaatteet) ja eettiset haasteet (ongelmat) datan etiikassa - ja tutkimme tapaustutkimuksia, jotka auttavat ymmärtämään näitä käsitteitä todellisissa konteksteissa.

1. Etiikan periaatteet

Jokainen datan etiikkastrategia alkaa määrittelemällä eettiset periaatteet - "yhteiset arvot", jotka kuvaavat hyväksyttäviä käyttäytymismalleja ja ohjaavat noudattavia toimia data- ja tekoälyprojekteissamme. Voit määritellä nämä yksilö- tai tiimitasolla. Useimmat suuret organisaatiot kuitenkin laativat nämä eettisen tekoälyn missiolausekkeessa tai viitekehyksessä, joka määritellään yritystasolla ja jota sovelletaan johdonmukaisesti kaikissa tiimeissä.

Esimerkki: Microsoftin Vastuullisen tekoälyn missiolauseke kuuluu: "Olemme sitoutuneet edistämään tekoälyä eettisten periaatteiden pohjalta, jotka asettavat ihmiset etusijalle" - tunnistaen kuusi eettistä periaatetta alla olevassa viitekehyksessä:

Tutkitaan lyhyesti näitä periaatteita. Läpinäkyvyys ja vastuullisuus ovat perustavanlaatuisia arvoja, joiden päälle muut periaatteet rakentuvat - aloitetaan siis niistä:

Vastuullisuus tekee käytännön toteuttajista vastuullisia data- ja tekoälytoiminnoistaan sekä näiden eettisten periaatteiden noudattamisesta.
Läpinäkyvyys varmistaa, että data- ja tekoälytoimet ovat ymmärrettäviä (tulkittavia) käyttäjille, selittäen päätösten taustalla olevat syyt ja tarkoitukset.
Reiluus keskittyy varmistamaan, että tekoäly kohtelee kaikkia ihmisiä oikeudenmukaisesti, käsitellen mahdollisia järjestelmällisiä tai piileviä sosio-teknisiä vinoumia datassa ja järjestelmissä.
Luotettavuus ja turvallisuus varmistaa, että tekoäly toimii johdonmukaisesti määriteltyjen arvojen mukaisesti, minimoiden mahdolliset haitat tai tahattomat seuraukset.
Yksityisyys ja turvallisuus liittyy datan alkuperän ymmärtämiseen ja datan yksityisyyden ja siihen liittyvien suojatoimien tarjoamiseen käyttäjille.
Osallistavuus tarkoittaa tekoälyratkaisujen suunnittelua tarkoituksella, mukauttamalla ne vastaamaan laajaa joukkoa ihmisten tarpeita ja kykyjä.

🚨 Mieti, mikä voisi olla sinun datan etiikan missiolausekkeesi. Tutki muiden organisaatioiden eettisiä tekoälyviitekehyksiä - tässä esimerkkejä IBM:ltä, Googlelta ja Facebookilta. Mitä yhteisiä arvoja niillä on? Miten nämä periaatteet liittyvät tekoälytuotteeseen tai -alaan, jolla ne toimivat?

2. Etiikan haasteet

Kun eettiset periaatteet on määritelty, seuraava askel on arvioida data- ja tekoälytoimiamme nähdäksemme, ovatko ne linjassa näiden yhteisten arvojen kanssa. Mieti toimiasi kahdessa kategoriassa: datan kerääminen ja algoritmien suunnittelu.

Datan keräämisessä toimet liittyvät todennäköisesti henkilökohtaisiin tietoihin tai henkilön tunnistettaviin tietoihin (PII), jotka koskevat tunnistettavissa olevia eläviä yksilöitä. Tämä sisältää monenlaisia ei-henkilökohtaisia tietoja, jotka yhdessä voivat tunnistaa yksilön. Eettiset haasteet voivat liittyä datan yksityisyyteen, datan omistajuuteen ja aiheisiin, kuten tietoinen suostumus ja käyttäjien immateriaalioikeudet.

Algoritmien suunnittelussa toimet liittyvät datan keräämiseen ja kuratointiin, ja niiden käyttämiseen datamallien kouluttamiseen ja käyttöönottoon, jotka ennustavat tuloksia tai automatisoivat päätöksiä todellisissa konteksteissa. Eettisiä haasteita voi syntyä datan vinoumista, datan laadun ongelmista, epäreiluudesta ja vääristymistä algoritmeissa - mukaan lukien joitakin järjestelmällisiä ongelmia.

Molemmissa tapauksissa eettiset haasteet korostavat alueita, joissa toimintamme saattaa olla ristiriidassa yhteisten arvojemme kanssa. Näiden huolenaiheiden havaitsemiseksi, lieventämiseksi, minimoimiseksi tai poistamiseksi meidän on esitettävä moraalisia "kyllä/ei"-kysymyksiä toimistamme ja toteutettava tarvittavat korjaavat toimenpiteet. Katsotaanpa joitakin eettisiä haasteita ja niihin liittyviä moraalisia kysymyksiä:

2.1 Datan omistajuus

Datan kerääminen sisältää usein henkilökohtaisia tietoja, jotka voivat tunnistaa datan kohteet. Datan omistajuus koskee kontrollia ja käyttäjien oikeuksia liittyen datan luomiseen, käsittelyyn ja levittämiseen.

Moraalisia kysymyksiä, joita meidän on esitettävä:

Kuka omistaa datan? (käyttäjä vai organisaatio)
Mitä oikeuksia datan kohteilla on? (esim. pääsy, poistaminen, siirrettävyys)
Mitä oikeuksia organisaatioilla on? (esim. korjata haitallisia käyttäjäarvioita)

2.2 Tietoinen suostumus

Tietoinen suostumus määrittelee käyttäjien toiminnan (kuten datan keräämisen) hyväksymisen täydellä ymmärryksellä asiaankuuluvista faktoista, mukaan lukien tarkoitus, mahdolliset riskit ja vaihtoehdot.