29 KiB

Raw Permalink Blame History Unescape Escape

Veri Etiğine Giriş


Veri Bilimi Etiği - Sketchnote by @nitya

Hepimiz veriyle dolu bir dünyada yaşayan veri vatandaşlarıyız.

Pazar trendleri, 2022 yılı itibarıyla büyük organizasyonların üçte birinin verilerini çevrimiçi Pazar Yerleri ve Borsalar aracılığıyla alıp satacağını gösteriyor. Uygulama Geliştiricileri olarak, veri odaklı içgörüleri ve algoritma tabanlı otomasyonu günlük kullanıcı deneyimlerine entegre etmenin daha kolay ve ucuz hale geldiğini göreceğiz. Ancak yapay zeka yaygınlaştıkça, bu tür algoritmaların silah haline getirilmesi durumunda ortaya çıkabilecek potansiyel zararları da anlamamız gerekecek.

Trendler ayrıca 2025 yılına kadar 180 zettabayt veri oluşturup tüketeceğimizi gösteriyor. Veri Bilimcileri olarak, bu durum bize kişisel verilere benzeri görülmemiş bir erişim seviyesi sağlıyor. Bu, kullanıcıların davranış profillerini oluşturabileceğimiz ve karar alma süreçlerini, kullanıcıları tercih ettiğimiz sonuçlara yönlendirebilecek şekilde etkileyebileceğimiz anlamına geliyor. Aynı zamanda veri gizliliği ve kullanıcı korumaları gibi daha geniş soruları da gündeme getiriyor.

Veri etiği, veri bilimi ve mühendisliği için artık gerekli koruma önlemleri haline geldi ve veri odaklı eylemlerimizden kaynaklanabilecek potansiyel zararları ve istenmeyen sonuçları en aza indirmemize yardımcı oluyor. Gartner'ın Yapay Zeka Hype Döngüsü dijital etik, sorumlu yapay zeka ve yapay zeka yönetimi gibi ilgili trendleri, yapay zekanın demokratikleşmesi ve endüstrileşmesi etrafındaki daha büyük megatrendlerin anahtar itici güçleri olarak tanımlıyor.

Bu derste, veri etiği alanını keşfedeceğiz - temel kavramlardan ve zorluklardan, vaka çalışmalarına ve yönetişim gibi uygulamalı yapay zeka kavramlarına kadar - veri ve yapay zeka ile çalışan ekiplerde ve organizasyonlarda bir etik kültürü oluşturulmasına yardımcı olan konuları ele alacağız.

Ders Öncesi Test 🎯

Temel Tanımlar

Öncelikle temel terminolojiyi anlamakla başlayalım.

"Etik" kelimesi, Yunanca "ethikos" (ve kökü "ethos") kelimesinden gelir ve karakter veya ahlaki doğa anlamına gelir.

Etik, toplumdaki davranışlarımızı yöneten ortak değerler ve ahlaki ilkelerdir. Etik, yasalara değil, "doğru ile yanlış" arasındaki yaygın olarak kabul edilen normlara dayanır. Ancak etik düşünceler, kurumsal yönetim girişimlerini ve uyum için daha fazla teşvik yaratan hükümet düzenlemelerini etkileyebilir.

Veri Etiği, "veri, algoritmalar ve ilgili uygulamalarla ilgili ahlaki sorunları inceleyen ve değerlendiren" yeni bir etik dalıdır. Burada, "veri" oluşturma, kaydetme, kürasyon, işleme, yayma, paylaşma ve kullanım ile ilgili eylemlere odaklanır, "algoritmalar" yapay zeka, ajanlar, makine öğrenimi ve robotlara odaklanır ve "uygulamalar" sorumlu yenilik, programlama, hackleme ve etik kodlar gibi konulara odaklanır.

Uygulamalı Etik, ahlaki düşüncelerin pratik uygulamasıdır. Bu, gerçek dünya eylemleri, ürünleri ve süreçleri bağlamında etik sorunları aktif olarak araştırma ve bunların tanımlı etik değerlerimizle uyumlu kalmasını sağlamak için düzeltici önlemler alma sürecidir.

Etik Kültürü, uygulamalı etiği operasyonelleştirmek ile ilgilidir; etik ilkelerimizin ve uygulamalarımızın tüm organizasyon genelinde tutarlı ve ölçeklenebilir bir şekilde benimsenmesini sağlamak. Başarılı etik kültürleri, organizasyon genelinde etik ilkeler tanımlar, uyum için anlamlı teşvikler sağlar ve istenen davranışları her seviyede teşvik ederek ve güçlendirerek etik normları pekiştirir.

Etik Kavramları

Bu bölümde, veri etiği için ortak değerler (ilkeler) ve etik zorluklar (sorunlar) gibi kavramları tartışacağız - ve bu kavramları gerçek dünya bağlamlarında anlamanıza yardımcı olacak vaka çalışmaları inceleyeceğiz.

1. Etik İlkeleri

Her veri etiği stratejisi, etik ilkeler tanımlayarak başlar - veri ve yapay zeka projelerimizde kabul edilebilir davranışları tanımlayan ve uyumlu eylemleri yönlendiren "ortak değerler". Bunları bireysel veya ekip düzeyinde tanımlayabilirsiniz. Ancak, çoğu büyük organizasyon bunları kurumsal düzeyde tanımlanan ve tüm ekiplerde tutarlı bir şekilde uygulanan bir etik yapay zeka misyon bildirimi veya çerçevesinde belirtir.

Örnek: Microsoft'un Sorumlu Yapay Zeka misyon bildirimi şu şekilde ifade edilir: "İnsanları ön planda tutan etik ilkelerle yönlendirilen yapay zekanın ilerlemesine bağlıyız" - aşağıdaki çerçevede 6 etik ilkeyi tanımlıyor:

Bu ilkeleri kısaca inceleyelim. Şeffaflık ve hesap verebilirlik diğer ilkelerin üzerine inşa edildiği temel değerlerdir - bu yüzden buradan başlayalım:

Hesap Verebilirlik, uygulayıcıları veri ve yapay zeka operasyonlarından ve bu etik ilkelere uyumdan sorumlu kılar.
Şeffaflık, veri ve yapay zeka eylemlerinin kullanıcılar için anlaşılır (yorumlanabilir) olmasını sağlar, kararların arkasındaki ne ve nedenleri açıklar.
Adalet, yapay zekanın tüm insanlara adil davranmasını sağlamaya odaklanır, veri ve sistemlerdeki sistemik veya örtük sosyo-teknik önyargıları ele alır.
Güvenilirlik ve Güvenlik, yapay zekanın tanımlı değerlere tutarlı bir şekilde davranmasını sağlar, potansiyel zararları veya istenmeyen sonuçları en aza indirir.
Gizlilik ve Güvenlik, veri kökenini anlamak ve kullanıcılara veri gizliliği ve ilgili korumalar sağlamakla ilgilidir.
Kapsayıcılık, yapay zeka çözümlerini niyetle tasarlamak, onları geniş bir insan ihtiyaçları ve yetenekleri yelpazesine uyarlamakla ilgilidir.

🚨 Veri etiği misyon bildiriminizin ne olabileceğini düşünün. Diğer organizasyonların etik yapay zeka çerçevelerini keşfedin - işte IBM, Google ve Facebook örnekleri. Ortak değerleri nelerdir? Bu ilkeler, çalıştıkları yapay zeka ürünü veya endüstrisiyle nasıl ilişkilidir?

2. Etik Zorluklar

Etik ilkeleri tanımladıktan sonra, bir sonraki adım veri ve yapay zeka eylemlerimizi bu ortak değerlerle uyumlu olup olmadığını değerlendirmektir. Eylemlerinizi iki kategoriye ayırmayı düşünün: veri toplama ve algoritma tasarımı.

Veri toplama ile ilgili eylemler, büyük olasılıkla kişisel veri veya tanımlanabilir yaşayan bireyler için kişisel olarak tanımlanabilir bilgiler (PII) içerecektir. Bu, bir bireyi toplu olarak tanımlayan çeşitli kişisel olmayan veri öğelerini içerir. Etik zorluklar, veri gizliliği, veri sahipliği ve kullanıcılar için bilgilendirilmiş onay ve fikri mülkiyet hakları gibi ilgili konularla ilgili olabilir.

Algoritma tasarımı ile ilgili eylemler, veri setleri toplama ve kürasyon yapmayı, ardından bunları gerçek dünya bağlamlarında sonuçları tahmin eden veya kararları otomatikleştiren veri modelleri eğitmek ve dağıtmak için kullanmayı içerecektir. Etik zorluklar, veri seti önyargısı, veri kalitesi sorunları, adaletsizlik ve algoritmalardaki yanlış temsil gibi konulardan kaynaklanabilir - bunlar arasında bazıları sistemik olabilir.

Her iki durumda da, etik zorluklar eylemlerimizin ortak değerlerimizle çatışabileceği alanları vurgular. Bu endişeleri tespit etmek, hafifletmek, en aza indirmek veya ortadan kaldırmak için, eylemlerimizle ilgili ahlaki "evet/hayır" soruları sormamız ve gerektiğinde düzeltici önlemler almamız gerekir. Şimdi bazı etik zorluklara ve bunların ortaya çıkardığı ahlaki sorulara bakalım:

2.1 Veri Sahipliği

Veri toplama genellikle veri konularını tanımlayabilecek kişisel verileri içerir. Veri sahipliği, verilerin oluşturulması, işlenmesi ve yayılması ile ilgili kontrol ve kullanıcı hakları ile ilgilidir.

Sormamız gereken ahlaki sorular şunlardır:

Verinin sahibi kimdir? (kullanıcı mı yoksa organizasyon mu?)
Veri konularının hangi hakları vardır? (örneğin: erişim, silme, taşınabilirlik)
Organizasyonların hangi hakları vardır? (örneğin: kötü niyetli kullanıcı yorumlarını düzeltme)

2.2 Bilgilendirilmiş Onay

Bilgilendirilmiş onay, kullanıcıların (veri toplama gibi) bir eylemi, amacını, potansiyel risklerini ve alternatiflerini tam olarak anlayarak kabul etmesi eylemini tanımlar.