29 KiB

Raw Permalink Blame History

Pengantar Etika Data


Etika Data Sains - Sketchnote oleh @nitya

Kita semua adalah warga data yang hidup di dunia yang dipenuhi data.

Tren pasar menunjukkan bahwa pada tahun 2022, 1 dari 3 organisasi besar akan membeli dan menjual data mereka melalui Marketplace dan Exchange online. Sebagai Pengembang Aplikasi, kita akan menemukan bahwa semakin mudah dan murah untuk mengintegrasikan wawasan berbasis data dan otomatisasi berbasis algoritma ke dalam pengalaman pengguna sehari-hari. Namun, seiring dengan semakin meluasnya penggunaan AI, kita juga perlu memahami potensi bahaya yang disebabkan oleh senjataisasi algoritma tersebut dalam skala besar.

Tren juga menunjukkan bahwa kita akan menciptakan dan mengonsumsi lebih dari 180 zettabyte data pada tahun 2025. Sebagai Ilmuwan Data, ini memberi kita akses yang belum pernah terjadi sebelumnya ke data pribadi. Ini berarti kita dapat membangun profil perilaku pengguna dan memengaruhi pengambilan keputusan dengan cara yang menciptakan ilusi pilihan bebas sambil berpotensi mendorong pengguna ke arah hasil yang kita inginkan. Hal ini juga menimbulkan pertanyaan yang lebih luas tentang privasi data dan perlindungan pengguna.

Etika data kini menjadi pagar pembatas yang diperlukan untuk ilmu data dan rekayasa, membantu kita meminimalkan potensi bahaya dan konsekuensi yang tidak diinginkan dari tindakan berbasis data kita. Gartner Hype Cycle untuk AI mengidentifikasi tren yang relevan dalam etika digital, AI yang bertanggung jawab, dan tata kelola AI sebagai pendorong utama megatren yang lebih besar di sekitar demokratisasi dan industrialisasi AI.

Dalam pelajaran ini, kita akan menjelajahi area menarik dari etika data - mulai dari konsep inti dan tantangan, hingga studi kasus dan konsep AI terapan seperti tata kelola - yang membantu membangun budaya etika dalam tim dan organisasi yang bekerja dengan data dan AI.

Kuis Pra-Kuliah 🎯

Definisi Dasar

Mari kita mulai dengan memahami terminologi dasar.

Kata "etika" berasal dari kata Yunani "ethikos" (dan akar katanya "ethos") yang berarti karakter atau sifat moral.

Etika adalah tentang nilai-nilai bersama dan prinsip moral yang mengatur perilaku kita dalam masyarakat. Etika tidak didasarkan pada hukum tetapi pada norma yang diterima secara luas tentang apa yang "benar vs. salah". Namun, pertimbangan etis dapat memengaruhi inisiatif tata kelola perusahaan dan peraturan pemerintah yang menciptakan lebih banyak insentif untuk kepatuhan.

Etika Data adalah cabang baru dari etika yang "mempelajari dan mengevaluasi masalah moral yang terkait dengan data, algoritma, dan praktik terkait". Di sini, "data" berfokus pada tindakan yang terkait dengan pembuatan, pencatatan, kurasi, pemrosesan, penyebaran, berbagi, dan penggunaan, "algoritma" berfokus pada AI, agen, pembelajaran mesin, dan robot, dan "praktik" berfokus pada topik seperti inovasi yang bertanggung jawab, pemrograman, peretasan, dan kode etik.

Etika Terapan adalah penerapan praktis dari pertimbangan moral. Ini adalah proses menyelidiki secara aktif masalah etika dalam konteks tindakan, produk, dan proses dunia nyata, dan mengambil langkah-langkah korektif untuk memastikan bahwa ini tetap selaras dengan nilai-nilai etika yang telah kita tetapkan.

Budaya Etika adalah tentang mengoperasionalkan etika terapan untuk memastikan bahwa prinsip dan praktik etika kita diadopsi secara konsisten dan dapat diskalakan di seluruh organisasi. Budaya etika yang sukses mendefinisikan prinsip etika di seluruh organisasi, memberikan insentif yang bermakna untuk kepatuhan, dan memperkuat norma etika dengan mendorong dan memperkuat perilaku yang diinginkan di setiap tingkat organisasi.

Konsep Etika

Dalam bagian ini, kita akan membahas konsep seperti nilai bersama (prinsip) dan tantangan etika (masalah) untuk etika data - dan mengeksplorasi studi kasus yang membantu Anda memahami konsep-konsep ini dalam konteks dunia nyata.

1. Prinsip Etika

Setiap strategi etika data dimulai dengan mendefinisikan prinsip etika - "nilai bersama" yang menggambarkan perilaku yang dapat diterima, dan memandu tindakan yang sesuai, dalam proyek data & AI kita. Anda dapat mendefinisikan ini di tingkat individu atau tim. Namun, sebagian besar organisasi besar menguraikannya dalam pernyataan misi atau kerangka kerja AI etis yang didefinisikan di tingkat perusahaan dan ditegakkan secara konsisten di semua tim.

Contoh: Pernyataan misi AI yang Bertanggung Jawab Microsoft berbunyi: "Kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip etika yang menempatkan manusia sebagai prioritas utama" - mengidentifikasi 6 prinsip etika dalam kerangka kerja berikut:

Mari kita jelajahi prinsip-prinsip ini secara singkat. Transparansi dan akuntabilitas adalah nilai-nilai dasar yang menjadi fondasi prinsip lainnya - jadi mari kita mulai dari sana:

Akuntabilitas membuat praktisi bertanggung jawab atas operasi data & AI mereka, serta kepatuhan terhadap prinsip-prinsip etika ini.
Transparansi memastikan bahwa tindakan data dan AI dapat dipahami (dapat diinterpretasikan) oleh pengguna, menjelaskan apa dan mengapa di balik keputusan.
Keadilan - berfokus pada memastikan AI memperlakukan semua orang secara adil, mengatasi bias sosial-teknis sistemik atau implisit dalam data dan sistem.
Keandalan & Keamanan - memastikan bahwa AI berperilaku konsisten dengan nilai-nilai yang telah ditentukan, meminimalkan potensi bahaya atau konsekuensi yang tidak diinginkan.
Privasi & Keamanan - adalah tentang memahami asal-usul data, dan memberikan privasi data serta perlindungan terkait kepada pengguna.
Inklusivitas - adalah tentang merancang solusi AI dengan niat, menyesuaikannya untuk memenuhi beragam kebutuhan dan kemampuan manusia.

🚨 Pikirkan tentang apa pernyataan misi etika data Anda. Jelajahi kerangka kerja AI etis dari organisasi lain - berikut adalah contoh dari IBM, Google, dan Facebook. Nilai bersama apa yang mereka miliki? Bagaimana prinsip-prinsip ini terkait dengan produk AI atau industri tempat mereka beroperasi?

2. Tantangan Etika

Setelah kita mendefinisikan prinsip etika, langkah berikutnya adalah mengevaluasi tindakan data dan AI kita untuk melihat apakah tindakan tersebut selaras dengan nilai-nilai bersama tersebut. Pikirkan tindakan Anda dalam dua kategori: pengumpulan data dan desain algoritma.

Dalam pengumpulan data, tindakan kemungkinan besar melibatkan data pribadi atau informasi yang dapat mengidentifikasi individu yang hidup. Ini mencakup berbagai item data non-pribadi yang secara kolektif mengidentifikasi individu. Tantangan etika dapat berkaitan dengan privasi data, kepemilikan data, dan topik terkait seperti persetujuan yang diinformasikan dan hak kekayaan intelektual untuk pengguna.

Dalam desain algoritma, tindakan akan melibatkan pengumpulan & kurasi dataset, kemudian menggunakannya untuk melatih & menerapkan model data yang memprediksi hasil atau mengotomatisasi keputusan dalam konteks dunia nyata. Tantangan etika dapat muncul dari bias dataset, masalah kualitas data, ketidakadilan, dan kesalahan representasi dalam algoritma - termasuk beberapa masalah yang bersifat sistemik.

Dalam kedua kasus, tantangan etika menyoroti area di mana tindakan kita mungkin bertentangan dengan nilai-nilai bersama kita. Untuk mendeteksi, mengurangi, meminimalkan, atau menghilangkan kekhawatiran ini - kita perlu mengajukan pertanyaan moral "ya/tidak" terkait tindakan kita, lalu mengambil tindakan korektif sesuai kebutuhan. Mari kita lihat beberapa tantangan etika dan pertanyaan moral yang mereka ajukan:

2.1 Kepemilikan Data

Pengumpulan data sering kali melibatkan data pribadi yang dapat mengidentifikasi subjek data. Kepemilikan data adalah tentang kontrol dan hak pengguna terkait pembuatan, pemrosesan, dan penyebaran data.

Pertanyaan moral yang perlu diajukan adalah:

Siapa yang memiliki data? (pengguna atau organisasi)
Hak apa yang dimiliki subjek data? (contoh: akses, penghapusan, portabilitas)
Hak apa yang dimiliki organisasi? (contoh: memperbaiki ulasan pengguna yang berbahaya)

2.2 Persetujuan yang Diinformasikan

Persetujuan yang diinformasikan mendefinisikan tindakan pengguna yang menyetujui suatu tindakan (seperti pengumpulan data) dengan pemahaman penuh tentang fakta yang relevan termasuk tujuan, potensi risiko, dan alternatif.