Data-Science-For-Beginners/translations/el/1-Introduction/02-ethics

Εισαγωγή στην Ηθική των Δεδομένων

Ηθική στην Επιστήμη Δεδομένων - Σχεδίαση από @nitya

---

Είμαστε όλοι πολίτες δεδομένων που ζούμε σε έναν κόσμο γεμάτο δεδομένα.

Οι τάσεις της αγοράς μας λένε πως μέχρι το 2022, 1 στις 3 μεγάλες οργανώσεις θα αγοράζει και θα πουλάει τα δεδομένα της μέσω διαδικτυακών Αγορών και Ανταλλαγών. Ως Προγραμματιστές Εφαρμογών, θα βρούμε πιο εύκολο και πιο φθηνό να ενσωματώσουμε δεδομένα-οδηγούμενες γνώσεις και αλγοριθμο-οδηγούμενη αυτοματοποίηση στην καθημερινή εμπειρία χρήστη. Όμως, καθώς η τεχνητή νοημοσύνη γίνεται διαδεδομένη, θα χρειαστεί επίσης να κατανοήσουμε τις πιθανές βλάβες από την οπλοποίηση τέτοιων αλγορίθμων σε μεγάλη κλίμακα.

Οι τάσεις δείχνουν πως μέχρι το 2025, θα παράγουμε και θα καταναλώνουμε πάνω από 180 ζεταμπάιτ δεδομένων. Για τους Επιστήμονες Δεδομένων, αυτή η έκρηξη πληροφορίας παρέχει πρωτοφανή πρόσβαση σε προσωπικά και συμπεριφορικά δεδομένα. Μαζί έρχεται η δύναμη να δημιουργήσουν αναλυτικά προφίλ χρηστών και να επηρεάσουν διακριτικά τη λήψη αποφάσεων — συχνά με τρόπους που ενισχύουν μια ψευδαίσθηση ελεύθερης επιλογής. Ενώ αυτό μπορεί να χρησιμοποιηθεί για να ωθήσει τους χρήστες προς επιθυμητά αποτελέσματα, ανοίγει και κρίσιμα ερωτήματα σχετικά με την ιδιωτικότητα των δεδομένων, την αυτονομία και τα ηθικά όρια της αλγοριθμικής επιρροής.

Η ηθική των δεδομένων είναι τώρα αναγκαία προστατευτικά μέτρα για την επιστήμη και τη μηχανική δεδομένων, βοηθώντας μας να ελαχιστοποιήσουμε πιθανές βλάβες και ανεπιθύμητες συνέπειες από τις δράσεις μας που βασίζονται στα δεδομένα. Ο Κύκλος Υστερίας Gartner για την ΤΝ εντοπίζει σχέσεις τάσεων στην ψηφιακή ηθική, την υπεύθυνη ΤΝ και τη διακυβέρνηση ΤΝ ως βασικούς παράγοντες για μεγαλύτερες μεγα-τάσεις γύρω από τη δημοκρατικοποίηση και βιομηχανοποίηση της ΤΝ.

Σε αυτό το μάθημα, θα εξερευνήσουμε τον συναρπαστικό τομέα της ηθικής δεδομένων — από βασικές έννοιες και προκλήσεις, μέχρι μελέτες περιπτώσεων και εφαρμοσμένες έννοιες ΤΝ όπως η διακυβέρνηση — που βοηθούν να εδραιωθεί μια κουλτούρα ηθικής σε ομάδες και οργανώσεις που δουλεύουν με δεδομένα και ΤΝ.

Κουίζ πριν από το μάθημα 🎯

Βασικοί Ορισμοί

Ας ξεκινήσουμε κατανοώντας την βασική ορολογία.

Η λέξη "ηθική" προέρχεται από την Ελληνική λέξη "ηθικός" (και τη ρίζα της "ήθος") που σημαίνει χαρακτήρας ή ηθική φύση.

Ηθική αφορά τις κοινές αξίες και ηθικές αρχές που διέπουν τη συμπεριφορά μας στην κοινωνία. Η ηθική βασίζεται όχι σε νόμους αλλά σε ευρέως αποδεκτές νόρμες για το τι είναι "σωστό ή λάθος". Ωστόσο, οι ηθικές σκέψεις μπορούν να επηρεάσουν πρωτοβουλίες εταιρικής διακυβέρνησης και κυβερνητικούς κανονισμούς που δημιουργούν περισσότερα κίνητρα για συμμόρφωση.

Ηθική Δεδομένων είναι ένας νέος κλάδος της ηθικής που "μελετά και αξιολογεί ηθικά προβλήματα σχετικά με δεδομένα, αλγορίθμους και αντίστοιχες πρακτικές". Εδώ, "δεδομένα" εστιάζει σε ενέργειες σχετικά με τη δημιουργία, καταγραφή, διαχείριση, επεξεργασία, διάδοση, κοινή χρήση και χρήση, "αλγόριθμοι" εστιάζει στην ΤΝ, πράκτορες, μηχανική μάθηση και ρομπότ, και "πρακτικές" σε θέματα όπως υπεύθυνη καινοτομία, προγραμματισμός, hacking, και κώδικες ηθικής.

Εφαρμοσμένη Ηθική είναι η πρακτική εφαρμογή των ηθικών σκέψεων. Είναι η διαδικασία της ενεργούς διερεύνησης ηθικών ζητημάτων στο πλαίσιο των δραστηριοτήτων, προϊόντων και διαδικασιών στην πραγματική ζωή, και της λήψης διορθωτικών μέτρων ώστε αυτά να παραμένουν ευθυγραμμισμένα με τις καθορισμένες ηθικές αξίες μας.

Κουλτούρα Ηθικής αφορά το [λειτουργικό] εφαρμοσμένης ηθικής](https://hbr.org/2019/05/how-to-design-an-ethical-organization) ώστε να διασφαλίσουμε ότι οι ηθικές αρχές και πρακτικές υιοθετούνται με συνεπή και κλιμακούμενο τρόπο σε ολόκληρο τον οργανισμό. Οι επιτυχημένες κουλτούρες ηθικής ορίζουν αρχές ηθικής σε όλο τον οργανισμό, παρέχουν ουσιαστικά κίνητρα για συμμόρφωση, και ενισχύουν νόρμες ηθικής προωθώντας και ενισχύοντας επιθυμητές συμπεριφορές σε κάθε επίπεδο του οργανισμού.

Έννοιες Ηθικής

Σε αυτήν την ενότητα, θα συζητήσουμε έννοιες όπως κοινές αξίες (αρχές) και ηθικές προκλήσεις (προβλήματα) για την ηθική των δεδομένων — και θα εξερευνήσουμε μελέτες περιπτώσεων που θα βοηθήσουν να κατανοήσετε αυτές τις έννοιες σε πραγματικά πλαίσια.

1. Αρχές Ηθικής

Κάθε στρατηγική ηθικής δεδομένων ξεκινά ορίζοντας ηθικές αρχές — τις "κοινές αξίες" που περιγράφουν αποδεκτές συμπεριφορές και καθοδηγούν συμμορφούμενες ενέργειες στα έργα μας με δεδομένα και ΤΝ. Μπορείτε να ορίσετε αυτές σε ατομικό ή ομαδικό επίπεδο. Ωστόσο, οι περισσότερες μεγάλες οργανώσεις τις καθορίζουν σε δήλωση αποστολής ή πλαίσιο ηθικής ΤΝ που ορίζεται σε εταιρικό επίπεδο και εφαρμόζεται συνεπώς σε όλες τις ομάδες.

Παράδειγμα: Η δήλωση αποστολής της Microsoft για την Υπεύθυνη ΤΝ αναφέρει: "Δεσμευόμαστε στην προώθηση της ΤΝ που καθοδηγείται από ηθικές αρχές που βάζουν τους ανθρώπους πρώτα" — προσδιορίζοντας 6 ηθικές αρχές στο πλαίσιο παρακάτω:

Ας εξερευνήσουμε αυτές τις αρχές συνοπτικά. Η Διαφάνεια και η Λογοδοσία είναι θεμελιώδεις αξίες πάνω στις οποίες βασίζονται οι άλλες — οπότε ας ξεκινήσουμε από εκεί:

• Λογοδοσία καθιστά τους εφαρμοστές υπεύθυνους για τις λειτουργίες δεδομένων & ΤΝ και τη συμμόρφωση με αυτές τις ηθικές αρχές.
• Διαφάνεια διασφαλίζει ότι οι δράσεις δεδομένων και ΤΝ είναι κατανοητές (ερμηνεύσιμες) από χρήστες, εξηγώντας το τι και το γιατί πίσω από αποφάσεις.
• Δικαιοσύνη — εστιάζει στο να διασφαλίσει ότι η ΤΝ αντιμετωπίζει όλους τους ανθρώπους δίκαια, αντιμετωπίζοντας κάθε συστημική ή έμμεση κοινωνικο-τεχνική προκατάληψη στα δεδομένα και τα συστήματα.
• Αξιοπιστία & Ασφάλεια — εξασφαλίζει ότι η ΤΝ συμπεριφέρεται συνέχεια με καθορισμένες αξίες, ελαχιστοποιώντας πιθανές βλάβες ή ανεπιθύμητες συνέπειες.
• Ιδιωτικότητα & Ασφάλεια — αφορά την κατανόηση της καταγωγής των δεδομένων, και την παροχή προστασίας ιδιωτικότητας δεδομένων και συναφών προστασιών στους χρήστες.
• Συμπερίληψη — αφορά το σχεδιασμό λύσεων ΤΝ με πρόθεση, προσαρμόζοντάς τες για να ανταποκρίνονται σε ένα ευρύ φάσμα ανθρώπινων αναγκών και δυνατοτήτων.

🚨 Σκεφτείτε ποια θα μπορούσε να είναι η δήλωση αποστολής για την ηθική των δεδομένων σας. Εξερευνήστε πλαίσια ηθικής ΤΝ από άλλους οργανισμούς — εδώ είναι παραδείγματα από IBM, Google, και Facebook. Ποιες κοινές αξίες έχουν; Πώς σχετίζονται αυτές οι αρχές με το προϊόν ή τη βιομηχανία ΤΝ στην οποία δραστηριοποιούνται;

2. Προκλήσεις Ηθικής

Αφού ορίσουμε ηθικές αρχές, το επόμενο βήμα είναι να αξιολογήσουμε τις δράσεις μας σε δεδομένα και ΤΝ για να δούμε αν ευθυγραμμίζονται με αυτές τις κοινές αξίες. Σκεφτείτε τις ενέργειές σας σε δύο κατηγορίες: συλλογή δεδομένων και σχεδιασμός αλγορίθμου.

Στη συλλογή δεδομένων, οι ενέργειες πιθανώς θα αφορούν προσωπικά δεδομένα ή πληροφορίες ταυτοποίησης (PII) για αναγνωρίσιμα ζωντανά άτομα. Αυτό περιλαμβάνει διάφορα μη προσωπικά δεδομένα που συλλογικά αναγνωρίζουν ένα άτομο. Οι ηθικές προκλήσεις μπορεί να σχετίζονται με την ιδιωτικότητα των δεδομένων, την ιδιοκτησία δεδομένων και συναφή θέματα όπως η ενημερωμένη συγκατάθεση και τα δικαιώματα πνευματικής ιδιοκτησίας για τους χρήστες.

Στον σχεδιασμό αλγορίθμου, οι ενέργειες θα περιλαμβάνουν τη συλλογή & διαχείριση συνόλων δεδομένων, και μετά τη χρήση τους για εκπαίδευση & ανάπτυξη μοντέλων δεδομένων που προβλέπουν αποτελέσματα ή αυτοματοποιούν αποφάσεις σε πραγματικά πλαίσια. Οι ηθικές προκλήσεις μπορεί να προκύψουν από μεροληψία συνόλου δεδομένων, ζητήματα ποιότητας δεδομένων, αδικία και λανθασμένη παρουσίαση σε αλγορίθμους — συμπεριλαμβάνοντας ορισμένα ζητήματα που είναι συστημικής φύσης.

Σε κάθε περίπτωση, οι προκλήσεις ηθικής επισημαίνουν περιοχές όπου οι δράσεις μας μπορεί να έρθουν σε σύγκρουση με τις κοινές αξίες μας. Για να εντοπίσουμε, να μετριάσουμε, να ελαχιστοποιήσουμε ή να εξαλείψουμε αυτές τις ανησυχίες — πρέπει να θέσουμε ηθικά "ναι/όχι" ερωτήματα σχετικά με τις ενέργειές μας, και στη συνέχεια να λάβουμε διορθωτικά μέτρα όπως απαιτείται. Ας δούμε κάποιες ηθικές προκλήσεις και τα ηθικά ερωτήματα που εγείρουν:

2.1 Ιδιοκτησία Δεδομένων

Η συλλογή δεδομένων συχνά περιλαμβάνει προσωπικά δεδομένα που μπορούν να ταυτοποιήσουν τα υποκείμενα των δεδομένων. Η ιδιοκτησία δεδομένων αφορά τον έλεγχο και τα δικαιώματα χρήστη σχετικά με τη δημιουργία, επεξεργασία και διάδοση των δεδομένων.

Τα ηθικά ερωτήματα που πρέπει να θέσουμε είναι:

• Ποιος είναι ο ιδιοκτήτης των δεδομένων; (χρήστης ή οργανισμός)
• Ποια δικαιώματα έχουν τα υποκείμενα των δεδομένων; (π.χ.: πρόσβαση, διαγραφή, φορητότητα)
• Ποια δικαιώματα έχουν οι οργανισμοί; (π.χ.: διόρθωση κακόβουλων κριτικών χρηστών)

2.2 Ενημερωμένη Συγκατάθεση

Η ενημερωμένη συγκατάθεση ορίζει την πράξη με την οποία οι χρήστες συμφωνούν σε μια ενέργεια (όπως η συλλογή δεδομένων) με πλήρη κατανόηση των σχετικών γεγονότων, συμπεριλαμβανομένων του σκοπού, πιθανών κινδύνων, και εναλλακτικών λύσεων.

Τα ερωτήματα προς διερεύνηση εδώ είναι:

• Έδωσε ο χρήστης (υποκείμενο δεδομένων) άδεια για τη συλλογή και χρήση δεδομένων;
• Κατανόησε ο χρήστης τον σκοπό για τον οποίο συλλέχθηκαν τα δεδομένα;
• Κατανόησε ο χρήστης τους πιθανούς κινδύνους από τη συμμετοχή του;

2.3 Πνευματική Ιδιοκτησία

Η πνευματική ιδιοκτησία αναφέρεται σε άυλα δημιουργήματα που προκύπτουν από ανθρώπινη πρωτοβουλία, που μπορεί να έχουν οικονομική αξία για άτομα ή επιχειρήσεις.

Τα ερωτήματα εδώ είναι:

• Είχαν τα συλλεγόμενα δεδομένα οικονομική αξία για έναν χρήστη ή επιχείρηση;
• Έχει ο χρήστης πνευματική ιδιοκτησία σε αυτά;
• Έχει ο οργανισμός πνευματική ιδιοκτησία σε αυτά;
• Αν υπάρχουν αυτά τα δικαιώματα, πώς τα προστατεύουμε;

2.4 Ιδιωτικότητα Δεδομένων

Η ιδιωτικότητα δεδομένων ή ιδιωτικότητα πληροφοριών αναφέρεται στη διαφύλαξη της ιδιωτικότητας των χρηστών και την προστασία της ταυτότητας των χρηστών σε σχέση με πληροφορίες που μπορούν να ταυτοποιήσουν πρόσωπο.

Τα ερωτήματα εδώ είναι:

• Είναι τα δεδομένα των χρηστών (προσωπικά) προστατευμένα από παραβιάσεις και διαρροές;
• Είναι τα δεδομένα προσβάσιμα μόνο από εξουσιοδοτημένους χρήστες και πλαίσια;
• Διατηρείται η ανωνυμοποίηση των χρηστών όταν τα δεδομένα κοινοποιούνται ή διαδίδονται;
• Μπορεί να απο-ταυτοποιηθεί ένας χρήστης από ανωνυμοποιημένα σύνολα δεδομένων;

2.5 Δικαίωμα στη Λήθη

Το Δικαίωμα στη Λήθη ή Δικαίωμα στη Διαγραφή παρέχει επιπλέον προστασία προσωπικών δεδομένων στους χρήστες. Συγκεκριμένα, δίνει το δικαίωμα στους χρήστες να ζητήσουν τη διαγραφή ή αφαίρεση προσωπικών δεδομένων από αποτελέσματα διαδικτυακών αναζητήσεων και άλλες τοποθεσίες, υπό συγκεκριμένες συνθήκες — επιτρέποντάς τους μια νέα αρχή στο διαδίκτυο χωρίς να επιβαρύνονται από παρελθούσες δράσεις.

Τα ερωτήματα εδώ είναι:

• Επιτρέπει το σύστημα στα υποκείμενα των δεδομένων να ζητήσουν διαγραφή;
• Πρέπει η ανάκληση της συγκατάθεσης χρήστη να ενεργοποιεί αυτόματη διαγραφή;
• Συλλέχθηκαν δεδομένα χωρίς συγκατάθεση ή με παράνομο τρόπο;
• Συμμορφωνόμαστε με κυβερνητικές ρυθμίσεις για την προστασία δεδομένων;

2.6 Μεροληψία Συνόλου Δεδομένων

Η μεροληψία συνόλου δεδομένων ή Μεροληψία Συλλογής αφορά την επιλογή ενός μη αντιπροσωπευτικού υποσυνόλου δεδομένων για την ανάπτυξη αλγορίθμων, δημιουργώντας πιθανή αδικία στα αποτελέσματα για διαφορετικές ομάδες. Τα είδη μεροληψίας περιλαμβάνουν μεροληψία επιλογής ή δειγματοληψίας, μεροληψία εθελοντών, και μεροληψία οργάνων.

Τα ερωτήματα εδώ είναι:

• Προσελάβαμε ένα αντιπροσωπευτικό δείγμα υποκειμένων δεδομένων;
• Δοκιμάσαμε το συλλεγμένο ή διαχειρισμένο σύνολο δεδομένων για διάφορες μεροληψίες;
• Μπορούμε να μετριάσουμε ή να αφαιρέσουμε τις εντοπισμένες μεροληψίες;

2.7 Ποιότητα Δεδομένων

Η ποιότητα δεδομένων εξετάζει την εγκυρότητα του διαχειρισμένου συνόλου δεδομένων που χρησιμοποιείται για την ανάπτυξη των αλγορίθμων μας, ελέγχοντας αν τα χαρακτηριστικά και οι εγγραφές πληρούν τις απαιτήσεις για το επίπεδο ακρίβειας και συνέπειας που απαιτεί ο σκοπός της ΤΝ μας.

Τα ερωτήματα εδώ είναι:

• Καταγράψαμε έγκυρα χαρακτηριστικά για την περίπτωσή μας;
• Συλλέχθηκαν τα δεδομένα ομοιόμορφα σε διάφορες πηγές δεδομένων;
• Είναι το σύνολο δεδομένων πλήρες για διαφορετικές συνθήκες ή σενάρια;
• Είναι οι πληροφορίες καταγεγραμμένες ακριβώς ώστε να αντικατοπτρίζουν την πραγματικότητα;

2.8 Δικαιοσύνη Αλγορίθμων

Η Δικαιοσύνη Αλγορίθμων ελέγχει αν ο σχεδιασμός του αλγορίθμου διακρίνει συστηματικά εναντίον συγκεκριμένων υποομάδων υποκειμένων δεδομένων, οδηγώντας σε πιθανές βλάβες στην κατανομή (όπου πόροι αρνούνται ή παρακρατούνται από αυτήν την ομάδα) και στην ποιότητα υπηρεσίας (όπου η ΤΝ δεν είναι τόσο ακριβής για ορισμένες υποομάδες όσο για άλλες).

Ερωτήματα προς διερεύνηση εδώ είναι:

• Αξιολογήσαμε την ακρίβεια του μοντέλου για διαφορετικές υποομάδες και συνθήκες;
• Εξετάσαμε προσεκτικά το σύστημα για πιθανές βλάβες (π.χ., στερεοτυπικές αντιλήψεις);
• Μπορούμε να αναθεωρήσουμε τα δεδομένα ή να επανεκπαιδεύσουμε τα μοντέλα για να μετριάσουμε τις εντοπισμένες βλάβες;

Εξερευνήστε πόρους όπως οι λίστες ελέγχου για τη Δικαιοσύνη ΤΝ για να μάθετε περισσότερα.

2.9 Παραπλάνηση Δεδομένων

Η Παραπλάνηση Δεδομένων αφορά το αν επικοινωνούμε ευρήματα από ειλικρινώς αναφερόμενα δεδομένα με παραπλανητικό τρόπο για να στηρίξουμε μια επιθυμητή αφήγηση.

Ερωτήματα προς διερεύνηση εδώ είναι:

• Αναφέρουμε ελλιπή ή ανακριβή δεδομένα;
• Οπτικοποιούμε τα δεδομένα με τρόπο που οδηγεί σε παραπλανητικά συμπεράσματα;
• Χρησιμοποιούμε επιλεκτικές στατιστικές τεχνικές για να χειραγωγήσουμε τα αποτελέσματα;
• Υπάρχουν εναλλακτικές επεξηγήσεις που μπορεί να προσφέρουν διαφορετικό συμπέρασμα;

2.10 Ψευδαίσθηση Ελεύθερης Επιλογής

Η Ψευδαίσθηση της Ελεύθερης Επιλογής συμβαίνει όταν οι «αρχιτεκτονικές επιλογής» ενός συστήματος χρησιμοποιούν αλγορίθμους λήψης αποφάσεων για να ωθήσουν τους ανθρώπους προς μια προτιμώμενη έκβαση, ενώ φαινομενικά τους δίνουν επιλογές και έλεγχο. Αυτά τα σκοτεινά μοτίβα μπορούν να προκαλέσουν κοινωνική και οικονομική βλάβη στους χρήστες. Επειδή οι αποφάσεις των χρηστών επηρεάζουν τα προφίλ συμπεριφοράς, αυτές οι ενέργειες ενδέχεται να καθοδηγήσουν μελλοντικές επιλογές που μπορούν να ενισχύσουν ή να επεκτείνουν τον αντίκτυπο αυτών των βλαβών.

Ερωτήματα προς διερεύνηση εδώ είναι:

• Κατάλαβε ο χρήστης τις επιπτώσεις της επιλογής αυτής;
• Ήταν ο χρήστης ενημερωμένος για (εναλλακτικές) επιλογές και τα πλεονεκτήματα & μειονεκτήματα καθεμιάς;
• Μπορεί ο χρήστης να αναιρέσει μια αυτοματοποιημένη ή επηρεασμένη επιλογή αργότερα;

3. Μελέτες Περιπτώσεων

Για να τοποθετήσουμε αυτές τις ηθικές προκλήσεις σε πραγματικά πλαίσια, βοηθάει να δούμε μελέτες περιπτώσεων που αναδεικνύουν τις πιθανές βλάβες και συνέπειες για άτομα και κοινωνία, όταν τέτοιες παραβιάσεις της ηθικής παραβλέπονται.

Εδώ είναι μερικά παραδείγματα:

Ηθική Πρόκληση	Μελέτη Περίπτωσης
Ενημερωμένη Συγκατάθεση	1972 - Μελέτη Σύφιλης Tuskegee - Αφροαμερικανοί άνδρες που συμμετείχαν στη μελέτη υποσχέθηκαν δωρεάν ιατρική περίθαλψη αλλά εξαπατήθηκαν από τους ερευνητές που δεν ενημέρωσαν τα υποκείμενα για τη διάγνωση ή τη διαθεσιμότητα θεραπείας. Πολλά υποκείμενα πέθαναν & οι σύντροφοι ή τα παιδιά επλήγησαν· η μελέτη διήρκησε 40 χρόνια.
Απόρρητο Δεδομένων	2007 - Το Netflix data prize παρείχε στους ερευνητές 10 εκατ. ανωνυμοποιημένες αξιολογήσεις ταινιών από 50 χιλιάδες πελάτες για να βοηθήσει στη βελτίωση αλγορίθμων σύστασης. Ωστόσο, οι ερευνητές μπόρεσαν να συσχετίσουν ανωνυμοποιημένα δεδομένα με προσωπικά αναγνωρίσιμα δεδομένα σε εξωτερικά σύνολα δεδομένων (π.χ., σχόλια IMDb) - αποτελεσματικά «απο-αωνυμοποιώντας» ορισμένους συνδρομητές Netflix.
Προκατάληψη συλλογής	2013 - Η πόλη της Βοστώνης ανάπτυξε το Street Bump, μια εφαρμογή που επέτρεπε στους πολίτες να αναφέρουν λακκούβες, δίνοντας στην πόλη καλύτερα δεδομένα δρόμων για να βρει και να διορθώσει προβλήματα. Ωστόσο, άτομα σε χαμηλότερα εισοδηματικά στρώματα είχαν λιγότερη πρόσβαση σε αυτοκίνητα και τηλέφωνα, κάνοντας τα προβλήματα στους δρόμους τους αόρατα σε αυτή την εφαρμογή. Οι προγραμματιστές συνεργάστηκαν με ακαδημαϊκούς για θέματα ισότιμης πρόσβασης και ψηφιακών διαιρέσεων για δικαιοσύνη.
Δικαιοσύνη Αλγορίθμων	2018 - Η μελέτη Gender Shades του MIT αξιολόγησε την ακρίβεια των προϊόντων ΤΝ για ταξινόμηση φύλου, αποκαλύπτοντας κενά στην ακρίβεια για γυναίκες και άτομα με χρώμα. Μια Κάρτα Apple 2019 φάνηκε να δίνει λιγότερη πίστωση στις γυναίκες απ’ ό,τι στους άνδρες. Και οι δύο έδειξαν ζητήματα προκατάληψης αλγορίθμων που οδηγούν σε κοινωνικοοικονομικές βλάβες.
Παραπλάνηση Δεδομένων	2020 - Το Τμήμα Δημόσιας Υγείας της Γεωργίας δημοσίευσε διαγράμματα COVID-19 που φαινόταν να παραπλανούν τους πολίτες σχετικά με τάσεις σε επιβεβαιωμένες περιπτώσεις με μη χρονολογική σειρά στον άξονα x. Αυτό δείχνει παραπλάνηση μέσω οπτικοποιητικών τεχνικών.
Ψευδαίσθηση ελεύθερης επιλογής	2020 - Η εκπαιδευτική εφαρμογή ABCmouse πλήρωσε 10 εκατ. για να επιλύσει καταγγελία FTC όπου γονείς εγκλωβίστηκαν σε συνδρομές που δεν μπορούσαν να ακυρώσουν. Αυτό δείχνει σκοτεινά μοτίβα σε «αρχιτεκτονικές επιλογής», όπου οι χρήστες ωθήθηκαν προς ενδεχόμενα βλαπτικές επιλογές.
Απόρρητο δεδομένων & Δικαιώματα χρηστών	2021 - Η παραβίαση δεδομένων στο Facebook αποκάλυψε δεδομένα 530 εκατ. χρηστών, με αποτέλεσμα διακανονισμό 5 δισ. δολαρίων με την FTC. Ωστόσο αρνήθηκε να ενημερώσει τους χρήστες για την παραβίαση, παραβιάζοντας τα δικαιώματα των χρηστών σχετικά με τη διαφάνεια και πρόσβαση στα δεδομένα.

Θέλετε να εξερευνήσετε περισσότερες μελέτες περιπτώσεων; Δείτε αυτούς τους πόρους:

• Ethics Unwrapped - διλήμματα ηθικής σε διάφορες βιομηχανίες.
• Μάθημα Ηθικής στην Επιστήμη Δεδομένων - εξερεύνηση σημαντικών μελετών περιπτώσεων.
• Όπου τα πράγματα πήγαν στραβά - λίστα ελέγχου deon με παραδείγματα

🚨 Σκεφτείτε τις μελέτες περιπτώσεων που έχετε δει — έχετε βιώσει ή επηρεαστεί από παρόμοια ηθική πρόκληση στη ζωή σας; Μπορείτε να σκεφτείτε τουλάχιστον μια άλλη μελέτη περίπτωσης που να απεικονίζει μια από τις ηθικές προκλήσεις που συζητήσαμε σε αυτή την ενότητα;

Εφαρμοσμένη Ηθική

Μιλήσαμε για έννοιες ηθικής, προκλήσεις και μελέτες περιπτώσεων σε πραγματικά περιβάλλοντα. Αλλά πώς αρχίζουμε να εφαρμόζουμε ηθικές αρχές και πρακτικές στα έργα μας; Και πώς λειτουργικοποιούμε αυτές τις πρακτικές για καλύτερη διακυβέρνηση; Ας εξερευνήσουμε μερικές λύσεις πραγματικού κόσμου:

1. Επαγγελματικοί Κώδικες

Οι Επαγγελματικοί Κώδικες προσφέρουν μια επιλογή για οργανισμούς να «διεγείρουν» τα μέλη τους να υποστηρίζουν τις ηθικές αρχές και τον αποστολικό τους σκοπό. Οι κώδικες είναι ηθικές κατευθυντήριες γραμμές για την επαγγελματική συμπεριφορά, βοηθώντας τους υπαλλήλους ή τα μέλη να λαμβάνουν αποφάσεις που ευθυγραμμίζονται με τις αρχές του οργανισμού τους. Είναι τόσο αποτελεσματικοί όσο και η εκούσια συμμόρφωση των μελών· ωστόσο, πολλοί οργανισμοί προσφέρουν επιπλέον ανταμοιβές και κυρώσεις για να παρακινήσουν τη συμμόρφωση των μελών.

Παραδείγματα περιλαμβάνουν:

• Κώδικας Ηθικής Oxford Munich
• Κώδικας Συμπεριφοράς του Data Science Association (δημιουργήθηκε το 2013)
• Κώδικας Ηθικής και Επαγγελματικής Συμπεριφοράς ACM (από το 1993)

🚨 Ανήκετε σε επαγγελματικό οργανισμό μηχανικών ή επιστήμης δεδομένων; Εξερευνήστε την ιστοσελίδα τους για να δείτε αν ορίζουν κώδικα ηθικής. Τι λέει αυτό για τις ηθικές τους αρχές; Πώς «διεγείρουν» τα μέλη να ακολουθήσουν τον κώδικα;

2. Λίστες Ελέγχου Ηθικής

Ενώ οι επαγγελματικοί κώδικες ορίζουν την απαιτούμενη ηθική συμπεριφορά από τους επαγγελματίες, έχουν γνωστούς περιορισμούς στην επιβολή, ιδιαίτερα σε μεγάλα έργα. Αντιθέτως, πολλοί ειδικοί στην Επιστήμη Δεδομένων υποστηρίζουν λίστες ελέγχου που μπορούν να συνδέσουν τις αρχές με τις πρακτικές με πιο αποφασιστικούς και εφαρμόσιμους τρόπους.

Οι λίστες ελέγχου μετατρέπουν ερωτήσεις σε εργασίες «ναι/όχι» που μπορούν να λειτουργικοποιηθούν, επιτρέποντάς τους να παρακολουθούνται ως μέρος των τυπικών ροών εργασίας κυκλοφορίας προϊόντος.

Παραδείγματα περιλαμβάνουν:

• Deon - μια γενικού σκοπού λίστα ελέγχου ηθικής δεδομένων δημιουργημένη από βιομηχανικές συστάσεις με εργαλείο γραμμής εντολών για εύκολη ενσωμάτωση.
• Λίστα Ελέγχου Ελέγχου Απορρήτου - παρέχει γενική καθοδήγηση για πρακτικές χειρισμού πληροφοριών από νομικές και κοινωνικές οπτικές.
• Λίστα Ελέγχου Δικαιοσύνης ΤΝ - δημιουργημένη από επαγγελματίες της ΤΝ για να υποστηρίξει την υιοθέτηση και ενσωμάτωση ελέγχων δικαιοσύνης σε κύκλους ανάπτυξης ΤΝ.
• 22 ερωτήσεις για ηθική σε δεδομένα και ΤΝ - πιο ανοιχτό πλαίσιο, δομημένο για αρχική διερεύνηση ηθικών ζητημάτων στο σχεδιασμό, υλοποίηση και οργανωτικά πλαίσια.

3. Κανονισμοί Ηθικής

Η ηθική αφορά τον ορισμό κοινών αξιών και την εκτέλεση του σωστού εκουσίως. Η συμμόρφωση αφορά το να τηρείς τον νόμο όπου ορίζεται. Η διακυβέρνηση καλύπτει ευρέως όλους τους τρόπους με τους οποίους οι οργανώσεις λειτουργούν για να επιβάλλουν ηθικές αρχές και να συμμορφώνονται με τους ισχύοντες νόμους.

Σήμερα, η διακυβέρνηση παίρνει δύο μορφές εντός των οργανισμών. Πρώτον, αφορά τον ορισμό των αρχών της ηθικής ΤΝ και την καθιέρωση πρακτικών για τη λειτουργικοποίηση της υιοθέτησής τους σε όλα τα έργα που σχετίζονται με ΤΝ στον οργανισμό. Δεύτερον, αφορά τη συμμόρφωση με όλους τους επιβεβλημένους από την κυβέρνηση κανονισμούς προστασίας δεδομένων για τις περιοχές όπου δραστηριοποιείται.

Παραδείγματα κανονισμών προστασίας και απορρήτου δεδομένων:

• 1974, Νόμος Απορρήτου ΗΠΑ - ρυθμίζει τη συλλογή, χρήση και αποκάλυψη προσωπικών πληροφοριών από την ομοσπονδιακή κυβέρνηση.
• 1996, Νόμος HIPAA - προστατεύει προσωπικά δεδομένα υγείας.
• 1998, Νόμος COPPA - προστατεύει το απόρρητο παιδιών κάτω των 13 ετών.
• 2018, Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) - παρέχει δικαιώματα χρηστών, προστασία δεδομένων και απόρρητο.
• 2018, Νόμος Καταναλωτικού Απορρήτου Καλιφόρνιας (CCPA) δίνει στους καταναλωτές περισσότερα δικαιώματα επί των (προσωπικών) δεδομένων τους.
• 2021, Νόμος Προστασίας Προσωπικών Πληροφοριών της Κίνας Personal Information Protection Law μόλις ψηφίστηκε, δημιουργώντας έναν από τους αυστηρότερους παγκοσμίως κανονισμούς απορρήτου διαδικτυακών δεδομένων.

🚨 Ο κανονισμός GDPR (General Data Protection Regulation) που όρισε η Ευρωπαϊκή Ένωση παραμένει ένας από τους πιο επιδραστικούς κανονισμούς απορρήτου δεδομένων σήμερα. Ήξερες ότι ορίζει επίσης 8 δικαιώματα χρηστών για την προστασία της ψηφιακής ιδιωτικότητας και των προσωπικών δεδομένων των πολιτών; Μάθε ποια είναι και γιατί έχουν σημασία.

4. Πολιτισμός Ηθικής

Σημειώστε ότι παραμένει ένα άυλο χάσμα ανάμεσα στη συμμόρφωση (κάνεις αρκετά για να τηρείς «τον γράμμα του νόμου») και την αντιμετώπιση συστημικών ζητημάτων (όπως ο σχηματισμός, η ασυμμετρία πληροφοριών, και η κατανοητική αδικία) που μπορεί να επιταχύνουν την όπλιση της ΤΝ.

Το τελευταίο απαιτεί συνεργατικές προσεγγίσεις για τον ορισμό πολιτισμών ηθικής που δημιουργούν συναισθηματικούς δεσμούς και συνεπείς κοινές αξίες σε οργανισμούς στη βιομηχανία. Αυτό απαιτεί πιο επίσημους πολιτισμούς ηθικής δεδομένων σε οργανισμούς - επιτρέποντας οποιονδήποτε να τραβήξει το σχοινί Andon (για να εγείρει νωρίς ζητήματα ηθικής στη διαδικασία) και κάνοντας τις ηθικές αξιολογήσεις (π.χ., στις προσλήψεις) βασικό κριτήριο για τη συγκρότηση ομάδων σε έργα ΤΝ.

---

Κουίζ μετά τη διάλεξη 🎯

Ανασκόπηση & Αυτοεκπαίδευση

Μαθήματα και βιβλία βοηθούν στην κατανόηση βασικών εννοιών και προκλήσεων ηθικής, ενώ μελέτες περιπτώσεων και εργαλεία βοηθούν με πρακτικές εφαρμοσμένης ηθικής σε πραγματικά περιβάλλοντα. Εδώ είναι μερικοί πόροι για να ξεκινήσετε.

• Εισαγωγή στη Μηχανική Μάθηση - μάθημα για τη Δικαιοσύνη, από τη Microsoft.
• Αρχές Υπεύθυνης Τεχνητής Νοημοσύνης - δωρεάν εκπαιδευτική πορεία από το Microsoft Learn.
• Ηθική και Επιστήμη Δεδομένων - EBook από την O'Reilly (M. Loukides, H. Mason κ.ά.)
• Ηθική στην Επιστήμη Δεδομένων - διαδικτυακό μάθημα από το Πανεπιστήμιο του Μίσιγκαν.
• Αποκαλυπτική Ηθική - μελέτες περιπτώσεων από το Πανεπιστήμιο του Τέξας.

Εργασία

Γράψτε μια Μελέτη Περίπτωσης Ηθικής στα Δεδομένα

---

Αποποίηση ευθυνών: Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία μετάφρασης με τεχνητή νοημοσύνη Co-op Translator. Ενώ επιδιώκουμε την ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή λανθασμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.