30 KiB

Raw Permalink Blame History Unescape Escape

Einführung in Datenethik


Datenethik - Sketchnote von @nitya

Wir sind alle Datenbürger, die in einer datengetriebenen Welt leben.

Markttrends zeigen, dass bis 2022 jede dritte große Organisation ihre Daten über Online-Marktplätze und Börsen kaufen und verkaufen wird. Als App-Entwickler wird es für uns einfacher und günstiger, datengesteuerte Erkenntnisse und algorithmusgesteuerte Automatisierung in den täglichen Nutzererfahrungen zu integrieren. Doch während KI allgegenwärtig wird, müssen wir auch die potenziellen Schäden verstehen, die durch die Waffenisierung solcher Algorithmen in großem Maßstab entstehen können.

Trends zeigen außerdem, dass wir bis 2025 über 180 Zettabyte an Daten erzeugen und konsumieren werden. Als Datenwissenschaftler gibt uns dies beispiellosen Zugang zu persönlichen Daten. Das bedeutet, dass wir Verhaltensprofile von Nutzern erstellen und Entscheidungsprozesse beeinflussen können, die eine Illusion der freien Wahl schaffen, während wir Nutzer möglicherweise in von uns bevorzugte Richtungen lenken. Dies wirft auch größere Fragen zu Datenschutz und Nutzerrechten auf.

Datenethik sind jetzt notwendige Leitplanken für Datenwissenschaft und Ingenieurwesen, die uns helfen, potenzielle Schäden und unbeabsichtigte Konsequenzen unserer datengetriebenen Handlungen zu minimieren. Der Gartner Hype Cycle für KI identifiziert relevante Trends in digitaler Ethik, verantwortungsvoller KI und KI-Governance als Schlüsseltreiber für größere Megatrends rund um die Demokratisierung und Industrialisierung von KI.

In dieser Lektion werden wir den faszinierenden Bereich der Datenethik erkunden – von grundlegenden Konzepten und Herausforderungen bis hin zu Fallstudien und angewandten KI-Konzepten wie Governance – die helfen, eine Ethikkultur in Teams und Organisationen zu etablieren, die mit Daten und KI arbeiten.

Quiz vor der Vorlesung 🎯

Grundlegende Definitionen

Beginnen wir mit dem Verständnis der grundlegenden Terminologie.

Das Wort "Ethik" stammt aus dem griechischen Wort "ethikos" (und dessen Wurzel "ethos"), was Charakter oder moralische Natur bedeutet.

Ethik bezieht sich auf die gemeinsamen Werte und moralischen Prinzipien, die unser Verhalten in der Gesellschaft bestimmen. Ethik basiert nicht auf Gesetzen, sondern auf allgemein akzeptierten Normen dessen, was als "richtig vs. falsch" gilt. Dennoch können ethische Überlegungen Initiativen zur Unternehmensführung und staatliche Vorschriften beeinflussen, die mehr Anreize für die Einhaltung schaffen.

Datenethik ist ein neuer Zweig der Ethik, der "moralische Probleme im Zusammenhang mit Daten, Algorithmen und entsprechenden Praktiken untersucht und bewertet". Hierbei konzentriert sich "Daten" auf Handlungen im Zusammenhang mit Erzeugung, Aufzeichnung, Pflege, Verarbeitung, Verbreitung, Teilen und Nutzung, "Algorithmen" auf KI, Agenten, maschinelles Lernen und Roboter, und "Praktiken" auf Themen wie verantwortungsvolle Innovation, Programmierung, Hacking und Ethikkodizes.

Angewandte Ethik ist die praktische Anwendung moralischer Überlegungen. Es ist der Prozess der aktiven Untersuchung ethischer Fragen im Kontext von realen Handlungen, Produkten und Prozessen und der Ergreifung von Korrekturmaßnahmen, um sicherzustellen, dass diese mit unseren definierten ethischen Werten übereinstimmen.

Ethikkultur bezieht sich darauf, angewandte Ethik zu operationalisieren, um sicherzustellen, dass unsere ethischen Prinzipien und Praktiken konsistent und skalierbar in der gesamten Organisation übernommen werden. Erfolgreiche Ethikkulturen definieren organisationsweite ethische Prinzipien, bieten sinnvolle Anreize für die Einhaltung und verstärken Ethiknormen, indem sie gewünschte Verhaltensweisen auf jeder Ebene der Organisation fördern und verstärken.

Ethikkonzepte

In diesem Abschnitt werden wir Konzepte wie gemeinsame Werte (Prinzipien) und ethische Herausforderungen (Probleme) für Datenethik diskutieren – und Fallstudien untersuchen, die Ihnen helfen, diese Konzepte in realen Kontexten zu verstehen.

1. Ethische Prinzipien

Jede Datenethikstrategie beginnt mit der Definition von ethischen Prinzipien – den "gemeinsamen Werten", die akzeptables Verhalten beschreiben und konforme Handlungen in unseren Daten- und KI-Projekten leiten. Sie können diese auf individueller oder Teamebene definieren. Die meisten großen Organisationen legen diese jedoch in einer ethischen KI-Missionserklärung oder einem Rahmenwerk fest, das auf Unternehmensebene definiert und konsistent über alle Teams hinweg durchgesetzt wird.

Beispiel: Microsofts Verantwortungsvolle KI-Missionserklärung lautet: "Wir sind verpflichtet, die Entwicklung von KI voranzutreiben, die von ethischen Prinzipien geleitet wird und den Menschen in den Mittelpunkt stellt" – und identifiziert 6 ethische Prinzipien im untenstehenden Rahmenwerk:

Lassen Sie uns diese Prinzipien kurz erkunden. Transparenz und Verantwortlichkeit sind grundlegende Werte, auf denen andere Prinzipien aufbauen – beginnen wir also damit:

Verantwortlichkeit macht Praktiker verantwortlich für ihre Daten- und KI-Operationen sowie die Einhaltung dieser ethischen Prinzipien.
Transparenz stellt sicher, dass Daten- und KI-Handlungen für Nutzer verständlich (interpretierbar) sind und erklärt, was und warum hinter Entscheidungen steckt.
Fairness – konzentriert sich darauf, sicherzustellen, dass KI alle Menschen fair behandelt und systemische oder implizite sozio-technische Vorurteile in Daten und Systemen angeht.
Zuverlässigkeit & Sicherheit – stellt sicher, dass KI sich konsistent mit definierten Werten verhält und potenzielle Schäden oder unbeabsichtigte Konsequenzen minimiert.
Privatsphäre & Sicherheit – bezieht sich auf das Verständnis der Datenherkunft und die Bereitstellung von Datenschutz und verwandten Schutzmaßnahmen für Nutzer.
Inklusivität – bezieht sich darauf, KI-Lösungen mit Absicht zu gestalten und sie so anzupassen, dass sie eine breite Palette menschlicher Bedürfnisse und Fähigkeiten erfüllen.

🚨 Überlegen Sie, was Ihre Datenethik-Missionserklärung sein könnte. Erkunden Sie ethische KI-Rahmenwerke anderer Organisationen – hier sind Beispiele von IBM, Google und Facebook. Welche gemeinsamen Werte haben sie? Wie beziehen sich diese Prinzipien auf das KI-Produkt oder die Branche, in der sie tätig sind?

2. Ethische Herausforderungen

Sobald wir ethische Prinzipien definiert haben, besteht der nächste Schritt darin, unsere Daten- und KI-Handlungen zu bewerten, um festzustellen, ob sie mit diesen gemeinsamen Werten übereinstimmen. Denken Sie über Ihre Handlungen in zwei Kategorien nach: Datenerfassung und Algorithmendesign.

Bei der Datenerfassung werden die Handlungen wahrscheinlich persönliche Daten oder persönlich identifizierbare Informationen (PII) für identifizierbare lebende Personen umfassen. Dazu gehören verschiedene Arten nicht-personenbezogener Daten, die zusammen eine Person identifizieren können. Ethische Herausforderungen können sich auf Datenschutz, Datenbesitz und verwandte Themen wie informierte Zustimmung und geistige Eigentumsrechte für Nutzer beziehen.

Beim Algorithmendesign umfassen die Handlungen das Sammeln und Pflegen von Datensätzen, die dann verwendet werden, um Datenmodelle zu trainieren und einzusetzen, die Ergebnisse vorhersagen oder Entscheidungen in realen Kontexten automatisieren. Ethische Herausforderungen können sich aus Datensatzverzerrungen, Datenqualitätsproblemen, Unfairness und Fehldarstellungen in Algorithmen ergeben – einschließlich einiger systemischer Probleme.

In beiden Fällen heben ethische Herausforderungen Bereiche hervor, in denen unsere Handlungen möglicherweise mit unseren gemeinsamen Werten in Konflikt geraten. Um diese Bedenken zu erkennen, zu mindern, zu minimieren oder zu beseitigen, müssen wir moralische "Ja/Nein"-Fragen zu unseren Handlungen stellen und gegebenenfalls Korrekturmaßnahmen ergreifen. Schauen wir uns einige ethische Herausforderungen und die moralischen Fragen an, die sie aufwerfen:

2.1 Datenbesitz

Die Datenerfassung umfasst oft persönliche Daten, die die Datensubjekte identifizieren können. Datenbesitz bezieht sich auf Kontrolle und Nutzerrechte im Zusammenhang mit der Erstellung, Verarbeitung und Verbreitung von Daten.

Die moralischen Fragen, die wir stellen müssen, sind:

Wer besitzt die Daten? (Nutzer oder Organisation)
Welche Rechte haben Datensubjekte? (z. B. Zugriff, Löschung, Übertragbarkeit)
Welche Rechte haben Organisationen? (z. B. Korrektur böswilliger Nutzerbewertungen)

2.2 Informierte Zustimmung

Informierte Zustimmung definiert die Handlung, bei der Nutzer einer Aktion (wie der Datenerfassung) mit einem vollständigen Verständnis relevanter Fakten einschließlich Zweck, potenzieller Risiken und Alternativen zustimmen.