30 KiB

Raw Permalink Blame History Unescape Escape

Einführung in Datenethik


Datenethik - Sketchnote von @nitya

Wir sind alle Datenbürger, die in einer datengetriebenen Welt leben.

Markttrends zeigen, dass bis 2022 jede dritte große Organisation ihre Daten über Online-Marktplätze und Börsen kaufen und verkaufen wird. Als App-Entwickler wird es für uns einfacher und günstiger, datengesteuerte Erkenntnisse und algorithmusgesteuerte Automatisierung in den Alltag der Nutzer zu integrieren. Doch je allgegenwärtiger KI wird, desto mehr müssen wir auch die potenziellen Schäden verstehen, die durch die Instrumentalisierung solcher Algorithmen in großem Maßstab entstehen können.

Trends zeigen auch, dass wir bis 2025 über 180 Zettabyte an Daten erstellen und konsumieren werden. Als Datenwissenschaftler gibt uns dies beispiellosen Zugang zu persönlichen Daten. Das bedeutet, dass wir Verhaltensprofile von Nutzern erstellen und Entscheidungsprozesse beeinflussen können, wodurch eine Illusion der freien Wahl entsteht, während Nutzer möglicherweise in von uns bevorzugte Richtungen gelenkt werden. Dies wirft auch größere Fragen zu Datenschutz und Nutzerschutz auf.

Datenethik ist nun ein notwendiges Leitplanken-System für Datenwissenschaft und Ingenieurwesen, das uns hilft, potenzielle Schäden und unbeabsichtigte Konsequenzen unserer datengetriebenen Handlungen zu minimieren. Der Gartner Hype Cycle für KI identifiziert relevante Trends in digitaler Ethik, verantwortungsvoller KI und KI-Governance als Schlüsselfaktoren für größere Megatrends wie die Demokratisierung und Industrialisierung von KI.

In dieser Lektion werden wir den faszinierenden Bereich der Datenethik erkunden – von grundlegenden Konzepten und Herausforderungen bis hin zu Fallstudien und angewandten KI-Konzepten wie Governance, die dazu beitragen, eine Ethikkultur in Teams und Organisationen zu etablieren, die mit Daten und KI arbeiten.

Quiz vor der Vorlesung 🎯

Grundlegende Definitionen

Beginnen wir mit dem Verständnis der grundlegenden Terminologie.

Das Wort "Ethik" stammt vom griechischen Wort "ethikos" (und seiner Wurzel "ethos") ab, was Charakter oder moralische Natur bedeutet.

Ethik bezieht sich auf die gemeinsamen Werte und moralischen Prinzipien, die unser Verhalten in der Gesellschaft bestimmen. Ethik basiert nicht auf Gesetzen, sondern auf allgemein akzeptierten Normen dessen, was "richtig vs. falsch" ist. Dennoch können ethische Überlegungen Unternehmensführungsinitiativen und staatliche Vorschriften beeinflussen, die mehr Anreize für die Einhaltung schaffen.

Datenethik ist ein neuer Zweig der Ethik, der "moralische Probleme im Zusammenhang mit Daten, Algorithmen und entsprechenden Praktiken untersucht und bewertet". Hierbei konzentrieren sich "Daten" auf Aktionen wie Erzeugung, Aufzeichnung, Kuratierung, Verarbeitung, Verbreitung, Teilen und Nutzung, "Algorithmen" auf KI, Agenten, maschinelles Lernen und Roboter, und "Praktiken" auf Themen wie verantwortungsvolle Innovation, Programmierung, Hacking und Ethikkodizes.

Angewandte Ethik ist die praktische Anwendung moralischer Überlegungen. Es handelt sich um den Prozess der aktiven Untersuchung ethischer Fragen im Kontext von realen Handlungen, Produkten und Prozessen und der Ergreifung von Korrekturmaßnahmen, um sicherzustellen, dass diese mit unseren definierten ethischen Werten übereinstimmen.

Ethikkultur bezieht sich auf das Operationalisieren angewandter Ethik, um sicherzustellen, dass unsere ethischen Prinzipien und Praktiken konsistent und skalierbar in der gesamten Organisation übernommen werden. Erfolgreiche Ethikkulturen definieren organisationsweite ethische Prinzipien, bieten sinnvolle Anreize für die Einhaltung und verstärken ethische Normen, indem sie gewünschte Verhaltensweisen auf allen Ebenen der Organisation fördern und verstärken.

Ethikkonzepte

In diesem Abschnitt werden wir Konzepte wie gemeinsame Werte (Prinzipien) und ethische Herausforderungen (Probleme) für die Datenethik diskutieren – und Fallstudien untersuchen, die Ihnen helfen, diese Konzepte in realen Kontexten zu verstehen.

1. Ethische Prinzipien

Jede Datenethikstrategie beginnt mit der Definition von ethischen Prinzipien – den "gemeinsamen Werten", die akzeptables Verhalten beschreiben und regelkonforme Handlungen in unseren Daten- und KI-Projekten leiten. Sie können diese auf individueller oder Teamebene definieren. Die meisten großen Organisationen legen diese jedoch in einer Ethik-KI-Missionserklärung oder einem Rahmenwerk fest, das auf Unternehmensebene definiert und konsistent in allen Teams durchgesetzt wird.

Beispiel: Microsofts Verantwortungsvolle KI-Missionserklärung lautet: "Wir verpflichten uns zur Weiterentwicklung von KI, die von ethischen Prinzipien geleitet wird, die den Menschen in den Mittelpunkt stellen" – und identifiziert 6 ethische Prinzipien im folgenden Rahmenwerk:

Lassen Sie uns diese Prinzipien kurz erkunden. Transparenz und Verantwortlichkeit sind grundlegende Werte, auf denen andere Prinzipien aufbauen – beginnen wir also damit:

Verantwortlichkeit macht Praktiker verantwortlich für ihre Daten- und KI-Operationen sowie die Einhaltung dieser ethischen Prinzipien.
Transparenz stellt sicher, dass Daten- und KI-Aktionen für Nutzer verständlich (interpretierbar) sind und erklärt, was und warum Entscheidungen getroffen werden.
Fairness – konzentriert sich darauf, sicherzustellen, dass KI alle Menschen fair behandelt und systemische oder implizite sozio-technische Vorurteile in Daten und Systemen angeht.
Zuverlässigkeit & Sicherheit – stellt sicher, dass KI konsistent mit definierten Werten handelt und potenzielle Schäden oder unbeabsichtigte Konsequenzen minimiert.
Datenschutz & Sicherheit – bezieht sich auf das Verständnis der Datenherkunft und den Schutz der Datenprivatsphäre und verwandter Rechte der Nutzer.
Inklusivität – bedeutet, KI-Lösungen mit Absicht zu entwerfen und sie so anzupassen, dass sie eine breite Palette menschlicher Bedürfnisse und Fähigkeiten erfüllen.

🚨 Überlegen Sie, was Ihre Datenethik-Missionserklärung sein könnte. Erkunden Sie ethische KI-Rahmenwerke anderer Organisationen – hier sind Beispiele von IBM, Google und Facebook. Welche gemeinsamen Werte haben sie? Wie beziehen sich diese Prinzipien auf das KI-Produkt oder die Branche, in der sie tätig sind?

2. Ethische Herausforderungen

Sobald wir ethische Prinzipien definiert haben, besteht der nächste Schritt darin, unsere Daten- und KI-Aktionen zu bewerten, um zu sehen, ob sie mit diesen gemeinsamen Werten übereinstimmen. Denken Sie über Ihre Aktionen in zwei Kategorien nach: Datenerhebung und Algorithmendesign.

Bei der Datenerhebung werden wahrscheinlich persönliche Daten oder personenbezogene Informationen (PII) für identifizierbare lebende Personen verwendet. Dazu gehören verschiedene Arten nicht-personenbezogener Daten, die zusammen eine Person identifizieren können. Ethische Herausforderungen können sich auf Datenschutz, Datenbesitz und verwandte Themen wie informierte Zustimmung und geistige Eigentumsrechte der Nutzer beziehen.

Beim Algorithmendesign umfassen die Aktionen das Sammeln und Kuratieren von Datensätzen und deren Verwendung zum Trainieren und Bereitstellen von Datenmodellen, die Ergebnisse vorhersagen oder Entscheidungen in realen Kontexten automatisieren. Ethische Herausforderungen können sich aus Datensatzverzerrungen, Datenqualitätsproblemen, Unfairness und Fehldarstellungen in Algorithmen ergeben – einschließlich einiger systemischer Probleme.

In beiden Fällen heben ethische Herausforderungen Bereiche hervor, in denen unsere Handlungen möglicherweise mit unseren gemeinsamen Werten in Konflikt geraten. Um diese Bedenken zu erkennen, zu mindern, zu minimieren oder zu beseitigen, müssen wir moralische "Ja/Nein"-Fragen zu unseren Handlungen stellen und gegebenenfalls Korrekturmaßnahmen ergreifen. Schauen wir uns einige ethische Herausforderungen und die moralischen Fragen an, die sie aufwerfen:

2.1 Datenbesitz

Die Datenerhebung umfasst oft persönliche Daten, die die Datensubjekte identifizieren können. Datenbesitz bezieht sich auf Kontrolle und Nutzerrechte in Bezug auf die Erstellung, Verarbeitung und Verbreitung von Daten.

Die moralischen Fragen, die wir stellen müssen, sind:

Wem gehören die Daten? (Nutzer oder Organisation)
Welche Rechte haben Datensubjekte? (z. B. Zugriff, Löschung, Übertragbarkeit)
Welche Rechte haben Organisationen? (z. B. Korrektur böswilliger Nutzerbewertungen)

2.2 Informierte Zustimmung

Informierte Zustimmung definiert die Handlung, bei der Nutzer einer Aktion (wie der Datenerhebung) mit einem vollständigen Verständnis relevanter Fakten einschließlich Zweck, potenzieller Risiken und Alternativen zustimmen.