History

leestott a12f5d4c2d 🌐 Update translations via Co-op Translator		4 months ago
..
README.md	🌐 Update translations via Co-op Translator	4 months ago
assignment.md	🌐 Update translations via Co-op Translator	5 months ago

README.md

Unescape Escape

Úvod do datové etiky


Etika datové vědy - Sketchnote od @nitya

Jsme všichni datoví občané žijící ve světě plném dat.

Tržní trendy naznačují, že do roku 2022 bude 1 z 3 velkých organizací nakupovat a prodávat svá data prostřednictvím online tržišť a burz. Jako vývojáři aplikací zjistíme, že je snazší a levnější integrovat poznatky založené na datech a automatizaci řízenou algoritmy do každodenních uživatelských zkušeností. Ale jak se AI stává všudypřítomnou, budeme také muset pochopit potenciální škody způsobené zneužitím těchto algoritmů ve velkém měřítku.

Trendy naznačují, že do roku 2025 budeme generovat a spotřebovávat více než 180 zettabytů dat. Pro datové vědce tento výbuch informací poskytuje bezprecedentní přístup k osobním a behaviorálním datům. S tím přichází moc vytvářet podrobné uživatelské profily a jemně ovlivňovat rozhodování – často způsoby, které podporují iluzi svobodné volby. Zatímco to může být použito k nasměrování uživatelů k preferovaným výsledkům, také to vyvolává zásadní otázky o ochraně dat, autonomii a etických hranicích algoritmického vlivu.

Datová etika je nyní nezbytným zábradlím pro datovou vědu a inženýrství, které nám pomáhá minimalizovat potenciální škody a nechtěné důsledky našich akcí založených na datech. Gartnerův Hype Cycle pro AI identifikuje relevantní trendy v digitální etice, odpovědné AI a správě AI jako klíčové faktory pro větší megatrendy kolem demokratizace a industrializace AI.

V této lekci prozkoumáme fascinující oblast datové etiky – od základních konceptů a výzev po případové studie a aplikované koncepty AI, jako je správa – které pomáhají vytvořit kulturu etiky v týmech a organizacích pracujících s daty a AI.

Kvíz před přednáškou 🎯

Základní definice

Začněme pochopením základní terminologie.

Slovo "etika" pochází z řeckého slova "ethikos" (a jeho kořene "ethos"), což znamená charakter nebo morální povaha.

Etika se týká sdílených hodnot a morálních principů, které řídí naše chování ve společnosti. Etika není založena na zákonech, ale na široce přijímaných normách toho, co je "správné vs. špatné". Nicméně etické úvahy mohou ovlivnit iniciativy korporátní správy a vládní regulace, které vytvářejí více pobídek k dodržování pravidel.

Datová etika je nová odnož etiky, která "studuje a hodnotí morální problémy související s daty, algoritmy a odpovídajícími praktikami". Zde se "data" zaměřují na akce související s generováním, zaznamenáváním, kurátorstvím, zpracováním, šířením, sdílením a používáním, "algoritmy" se zaměřují na AI, agenty, strojové učení a roboty a "praktiky" se zaměřují na témata jako odpovědné inovace, programování, hacking a etické kodexy.

Aplikovaná etika je praktická aplikace morálních úvah. Je to proces aktivního zkoumání etických otázek v kontextu reálných akcí, produktů a procesů a přijímání nápravných opatření, aby tyto zůstaly v souladu s našimi definovanými etickými hodnotami.

Kultura etiky se týká operacionalizace aplikované etiky, aby bylo zajištěno, že naše etické principy a praktiky jsou přijímány konzistentním a škálovatelným způsobem napříč celou organizací. Úspěšné kultury etiky definují etické principy na úrovni celé organizace, poskytují smysluplné pobídky k dodržování pravidel a posilují normy etiky tím, že podporují a zesilují požadované chování na každé úrovni organizace.

Koncepty etiky

V této sekci budeme diskutovat koncepty jako sdílené hodnoty (principy) a etické výzvy (problémy) pro datovou etiku – a prozkoumáme případové studie, které vám pomohou pochopit tyto koncepty v reálných kontextech.

1. Principy etiky

Každá strategie datové etiky začíná definováním etických principů – "sdílených hodnot", které popisují přijatelné chování a řídí souladné akce v našich projektech zaměřených na data a AI. Tyto principy můžete definovat na individuální nebo týmové úrovni. Nicméně většina velkých organizací je stanovuje v etickém AI prohlášení nebo rámci, který je definován na korporátní úrovni a důsledně prosazován napříč všemi týmy.

Příklad: Prohlášení Microsoftu o odpovědné AI zní: "Jsme odhodláni k rozvoji AI řízené etickými principy, které staví lidi na první místo" – identifikující 6 etických principů v rámci níže:

Pojďme si stručně prozkoumat tyto principy. Transparentnost a odpovědnost jsou základní hodnoty, na kterých jsou postaveny ostatní principy – začněme tedy zde:

Odpovědnost činí praktiky odpovědnými za jejich operace s daty a AI a za dodržování těchto etických principů.
Transparentnost zajišťuje, že akce s daty a AI jsou srozumitelné (interpretovatelné) pro uživatele, vysvětlující co a proč za rozhodnutími.
Spravedlnost – zaměřuje se na zajištění, že AI zachází se všemi lidmi spravedlivě, řešící jakékoli systémové nebo implicitní socio-technické předsudky v datech a systémech.
Spolehlivost a bezpečnost – zajišťuje, že AI se chová konzistentně s definovanými hodnotami, minimalizuje potenciální škody nebo nechtěné důsledky.
Soukromí a bezpečnost – jde o pochopení původu dat a poskytování ochrany soukromí dat uživatelům.
Inkluzivita – jde o navrhování AI řešení s úmyslem, přizpůsobující je tak, aby splňovala širokou škálu lidských potřeb a schopností.

🚨 Zamyslete se nad tím, jaké by mohlo být vaše prohlášení o datové etice. Prozkoumejte rámce etické AI od jiných organizací – zde jsou příklady od IBM, Google a Facebook. Jaké sdílené hodnoty mají společné? Jak se tyto principy vztahují k AI produktům nebo průmyslu, ve kterém působí?

2. Výzvy etiky

Jakmile máme definované etické principy, dalším krokem je vyhodnotit naše akce s daty a AI, zda jsou v souladu s těmito sdílenými hodnotami. Zamyslete se nad svými akcemi ve dvou kategoriích: sběr dat a návrh algoritmů.

Při sběru dat budou akce pravděpodobně zahrnovat osobní údaje nebo osobně identifikovatelné informace (PII) pro identifikovatelné živé jednotlivce. To zahrnuje různé položky neosobních dat, které společně identifikují jednotlivce. Etické výzvy se mohou týkat ochrany dat, vlastnictví dat a souvisejících témat, jako je informovaný souhlas a práva duševního vlastnictví uživatelů.

Při návrhu algoritmů budou akce zahrnovat sběr a kurátorství datových sad, poté jejich použití k trénování a nasazení datových modelů, které předpovídají výsledky nebo automatizují rozhodování v reálných kontextech. Etické výzvy mohou vzniknout z předsudků v datových sadách, problémů s kvalitou dat, nespravedlnosti a zkreslení v algoritmech – včetně některých problémů, které jsou systémové povahy.

V obou případech etické výzvy zdůrazňují oblasti, kde naše akce mohou narazit na konflikt s našimi sdílenými hodnotami. Abychom tyto obavy detekovali, zmírnili, minimalizovali nebo eliminovali, musíme klást morální otázky typu "ano/ne" související s našimi akcemi a poté přijmout nápravná opatření podle potřeby. Podívejme se na některé etické výzvy a morální otázky, které vyvolávají:

2.1 Vlastnictví dat

Sběr dat často zahrnuje osobní údaje, které mohou identifikovat subjekty dat. Vlastnictví dat se týká kontroly a uživatelských práv souvisejících s vytvářením, zpracováním a šířením dat.

Morální otázky, které musíme klást, jsou:

Kdo vlastní data? (uživatel nebo organizace)
Jaká práva mají subjekty dat? (např. přístup, vymazání, přenositelnost)
Jaká práva mají organizace? (např. oprava škodlivých uživatelských recenzí)

2.2 Informovaný souhlas

Informovaný souhlas definuje akt, kdy uživatelé souhlasí s akcí (např. sběrem dat) s plným pochopením relevantních faktů, včetně účelu, potenciálních rizik a alternativ.