History

leestott 1c99194922 🌐 Update translations via Co-op Translator		1 year ago
..
README.md	…
assignment.md	…

README.md

Úvod do datové etiky


Etika datové vědy - Sketchnote od @nitya

Jsme všichni datoví občané žijící v datovém světě.

Tržní trendy naznačují, že do roku 2022 bude 1 z 3 velkých organizací nakupovat a prodávat svá data prostřednictvím online tržišť a burz. Jako vývojáři aplikací zjistíme, že je snazší a levnější integrovat poznatky založené na datech a automatizaci řízenou algoritmy do každodenních uživatelských zkušeností. Ale jak se AI stává všudypřítomnou, budeme také muset pochopit potenciální škody způsobené zneužitím těchto algoritmů ve velkém měřítku.

Trendy také naznačují, že do roku 2025 vytvoříme a spotřebujeme přes 180 zettabajtů dat. Jako datoví vědci získáme bezprecedentní přístup k osobním údajům. To znamená, že můžeme vytvářet behaviorální profily uživatelů a ovlivňovat rozhodování způsoby, které vytvářejí iluzi svobodné volby, zatímco potenciálně směřujeme uživatele k výsledkům, které preferujeme. To také vyvolává širší otázky týkající se ochrany soukromí a práv uživatelů.

Datová etika je nyní nezbytným ochranným opatřením pro datovou vědu a inženýrství, které nám pomáhá minimalizovat potenciální škody a nechtěné důsledky našich akcí založených na datech. Gartnerův Hype Cycle pro AI identifikuje relevantní trendy v digitální etice, odpovědné AI a správě AI jako klíčové faktory pro větší megatrendy kolem demokratizace a industrializace AI.

V této lekci prozkoumáme fascinující oblast datové etiky - od základních konceptů a výzev, přes případové studie až po aplikované koncepty AI, jako je správa - které pomáhají vytvořit kulturu etiky v týmech a organizacích pracujících s daty a AI.

Kvíz před přednáškou 🎯

Základní definice

Začněme pochopením základní terminologie.

Slovo "etika" pochází z řeckého slova "ethikos" (a jeho kořene "ethos"), což znamená charakter nebo morální povaha.

Etika se týká sdílených hodnot a morálních principů, které řídí naše chování ve společnosti. Etika není založena na zákonech, ale na široce přijímaných normách toho, co je "správné vs. špatné". Etické úvahy však mohou ovlivnit iniciativy firemního řízení a vládní regulace, které vytvářejí více pobídek k dodržování pravidel.

Datová etika je nová odnož etiky, která "studuje a hodnotí morální problémy související s daty, algoritmy a odpovídajícími praktikami". Zde se "data" zaměřují na akce související s generováním, zaznamenáváním, kurátorstvím, zpracováním, šířením, sdílením a používáním, "algoritmy" se zaměřují na AI, agenty, strojové učení a roboty, a "praktiky" se zaměřují na témata jako odpovědné inovace, programování, hacking a etické kodexy.

Aplikovaná etika je praktická aplikace morálních úvah. Je to proces aktivního zkoumání etických otázek v kontextu reálných akcí, produktů a procesů a přijímání nápravných opatření, aby tyto zůstaly v souladu s našimi definovanými etickými hodnotami.

Kultura etiky se týká operacionalizace aplikované etiky, aby bylo zajištěno, že naše etické principy a praktiky jsou přijímány konzistentním a škálovatelným způsobem napříč celou organizací. Úspěšné kultury etiky definují celopodnikové etické principy, poskytují smysluplné pobídky k dodržování pravidel a posilují etické normy tím, že podporují a zesilují žádoucí chování na každé úrovni organizace.

Koncepty etiky

V této sekci budeme diskutovat koncepty jako sdílené hodnoty (principy) a etické výzvy (problémy) pro datovou etiku - a prozkoumáme případové studie, které vám pomohou pochopit tyto koncepty v reálných kontextech.

1. Principy etiky

Každá strategie datové etiky začíná definováním etických principů - "sdílených hodnot", které popisují přijatelné chování a řídí dodržování pravidel v našich projektech týkajících se dat a AI. Tyto principy můžete definovat na individuální nebo týmové úrovni. Nicméně většina velkých organizací je uvádí v etickém AI prohlášení nebo rámci, který je definován na korporátní úrovni a důsledně prosazován napříč všemi týmy.

Příklad: Prohlášení Microsoftu o odpovědné AI zní: "Jsme odhodláni k rozvoji AI řízené etickými principy, které staví lidi na první místo" - identifikující 6 etických principů v níže uvedeném rámci:

Pojďme si stručně prozkoumat tyto principy. Transparentnost a odpovědnost jsou základní hodnoty, na kterých jsou postaveny ostatní principy - začněme tedy zde:

Odpovědnost činí praktiky odpovědnými za jejich operace s daty a AI a za dodržování těchto etických principů.
Transparentnost zajišťuje, že akce týkající se dat a AI jsou srozumitelné uživatelům, vysvětlující co a proč za rozhodnutími.
Spravedlnost - zaměřuje se na zajištění, že AI zachází se všemi lidmi spravedlivě, řešící jakékoli systémové nebo implicitní socio-technické předsudky v datech a systémech.
Spolehlivost a bezpečnost - zajišťuje, že AI se chová konzistentně s definovanými hodnotami, minimalizuje potenciální škody nebo nechtěné důsledky.
Soukromí a bezpečnost - se týká pochopení původu dat a poskytování ochrany soukromí a souvisejících práv uživatelům.
Inkluzivita - se týká navrhování AI řešení s úmyslem, přizpůsobení je tak, aby splňovala širokou škálu lidských potřeb a schopností.

🚨 Zamyslete se nad tím, jaké by mohlo být vaše prohlášení o datové etice. Prozkoumejte etické AI rámce jiných organizací - zde jsou příklady od IBM, Google a Facebook. Jaké sdílené hodnoty mají společné? Jak se tyto principy vztahují k AI produktům nebo odvětvím, ve kterých působí?

2. Výzvy etiky

Jakmile máme definované etické principy, dalším krokem je vyhodnotit naše akce týkající se dat a AI, zda jsou v souladu s těmito sdílenými hodnotami. Zamyslete se nad svými akcemi ve dvou kategoriích: sběr dat a návrh algoritmů.

Při sběru dat budou akce pravděpodobně zahrnovat osobní údaje nebo osobně identifikovatelné informace (PII) pro identifikovatelné živé jednotlivce. To zahrnuje různé položky neosobních dat, které společně identifikují jednotlivce. Etické výzvy se mohou týkat ochrany soukromí, vlastnictví dat a souvisejících témat, jako je informovaný souhlas a práva duševního vlastnictví uživatelů.

Při návrhu algoritmů budou akce zahrnovat sběr a kurátorství datových sad, poté jejich použití k trénování a nasazení datových modelů, které předpovídají výsledky nebo automatizují rozhodování v reálných kontextech. Etické výzvy mohou vzniknout z předsudků v datových sadách, problémů s kvalitou dat, nespravedlnosti a zkreslení v algoritmech - včetně některých problémů, které jsou systémové povahy.

V obou případech etické výzvy zdůrazňují oblasti, kde naše akce mohou narazit na konflikt s našimi sdílenými hodnotami. Abychom tyto obavy odhalili, zmírnili, minimalizovali nebo odstranili, musíme si klást morální otázky typu "ano/ne" týkající se našich akcí a poté přijmout nápravná opatření podle potřeby. Podívejme se na některé etické výzvy a morální otázky, které vyvolávají:

2.1 Vlastnictví dat

Sběr dat často zahrnuje osobní údaje, které mohou identifikovat subjekty dat. Vlastnictví dat se týká kontroly a práv uživatelů souvisejících s vytvářením, zpracováním a šířením dat.

Morální otázky, které je třeba si položit, jsou:

Kdo vlastní data? (uživatel nebo organizace)
Jaká práva mají subjekty dat? (např. přístup, vymazání, přenositelnost)
Jaká práva mají organizace? (např. oprava škodlivých uživatelských recenzí)

2.2 Informovaný souhlas

Informovaný souhlas definuje akt, kdy uživatelé souhlasí s akcí (např. sběrem dat) s plným pochopením relevantních faktů, včetně účelu, potenciálních rizik a alternativ.