Bu içerik Onedio üyesi kullanıcı tarafından üretilmiş, Onedio editör ekibi tarafından müdahale edilmemiştir. Siz de Onedio’da dilediğiniz şekilde içerik üretebilirsiniz.

Nur Ata Nurcan Yazio: Yapay Zekâ (AI) ve Kodlanmış Önyargı

21PAYLAŞIM
Yazio Banner

Artık kişisel verilerin insanların haberleri ve izinleri olmaksızın kaydedildiği, işe alımlarda, banka kredisi ve sigorta başvurularında, prim ve faiz hesaplamada, vize alırken, güvenlik taramalarında, telefon ve internet başvurularında ve başka birçok alanda Yapay Zekâ algoritmalarının kullanıldığı bir çağa girdik. Sosyal medyada ve haber sitelerinde ne okuyacağımıza, televizyonda ne izleyeceğimize yapay zakâ algoritmaları (Ai algorithms) yön veriyor. Bu algoritmalar seçim sonuçlarını dahi etkileme gücüne sahip.

Yapay zekâ temelli algoritmalar kullandıkları verileri eşitsizliği, ayrımcılığı, ırkçılığı, yoksulluğu ve beraberinde getirdiği problemleri çözememiş bir toplumdan elde ediyorlar.  Peki bu algoritmalar verileri ile beslendikleri topluma rağmen ön yargısız ve tarafsız olabiliyorlar mı? 2020 yapımı Netflix belgeseli “Coded Bias” (Kodlanmış önyargı) çeşitli yapay zekâ uygulama örneklerine bakarak bu soruya cevap arıyor.

Kadınları sevmeyen yapay zekâ algoritması

Reuters’in bir haberine göre, perakende devi Amazon, 2014 yılında iş başvurularında kendi geliştirdiği gizli bir yapay zekâ tabanlı algoritmayı kullanmaya başlıyor.  Algoritma, binlerce özgeçmişi tarayıp, içlerinden en iyi adayları seçmek amacı ile, başlangıçta tanımlanmış kriterlere göre onlara puanlar veriyor. Yapay zeka tabanlı her algoritma gibi, topladığı veriler ışığında zaman içinde kendi karar mekanizmalarını iyileştirmesi için programlanmış.  

2015 yılında bu yapay zekâ algoritmasının yazılım uzmanı rolü için yapılan başvurularda, kendine teknoloji rolleri için erkek adayları tercih etmeyi öğreterek, kadın adaylara ayrımcılık yapmaya başladığı fark ediliyor. Taradığı özgeçmişlerde adayın kadın olduğunu ele verecek anahtar kelimeler gördüğünde (mezun oldukları okul, aday oldukları kadın klüpleri gibi), o özgeçmişleri elediği ortaya çıkıyor. Teknoloji rollerinde başarılı kadın örneklerinin azlığı, yapay zekâ algoritmasının teknoloji rolleri için erkek adayları tercih etmesine neden oluyor.  Yapay zekâ karar verirken, verilerinin kaynağı olan toplumu örnek alıyor. 

Amazon algoritmayı bu anahtar kelimeleri gördüğünde tarafsız davranabilmesi için revize ediyor.  Yine de bu tür algoritmaların adayları yeni ayrımcı mekanizmalar keşfederek elemesinin önünü alabilmenin bir garantisi yok.  Amazon en sonunda bu sistemi kullanmayı kısmen bıraktığını açıklıyor.  

Gartner’ın 2019 yılında yaptığı bir ankete göre 2022 yılında Amerikan bazlı şirketlerin yüzde 47’si  İnsan Kaynakları (HR) departmanlarında yapay zekâ tabanlı sistemler kullanmayı planlıyor.

Irkçı yüz tanıma (Facial Recognition) sistemleri

Siyahi kadın mühendis Joy Buolamwini 2018 yılında MIT’de bir okul projesi için yüz tanıma algoritmaları üzerine yaptığı araştırmada çok çarpıcı bir sonuca ulaşıyor.  Yapay zekâ tabanlı yüz tanıma algoritmaları, sistematik olarak beyaz erkek yüzünü tanıma konusunda kadın, göçmen veya siyahi yüzleri tanıma konusunda olduğundan daha başarılı.  Hatalı eşleştirme oranı beyaz erkekler için yüzde 0.8 civarında iken,  siyahi kadınlar için bu oran yüzde 34.7’lere çıkıyor. Eğer beyaz bir erkek değilseniz, bu tür bir algoritma  yüzünüzü tanımada güçlük çektiği için sizi başka bir profille eşleştirebiliyor veya sizi tanımlayabiliyor. Böyle bir durumda haksız yere suçlanmanız, iş, kredi, sigorta veya vize başvurunuzun geri çevrilmesi mümkün. Üstelik bu tür bir haksızlıkla karşılaştığınızda itiraz etme şansınız da yok.

Yapay zekâyı kim denetleyecek?

Yapay zekâ uygulamalarının en kaygı verici yanı, kanunların ve denetleme yapacak kurumların tanımsız veya yetersiz olması.   Büyük miktarda kişisel veriyi izinsiz toplayan, elinde tutan ve bu bilgileri kendi amaçları için kullanan şirket ve kurumların denetlenmesi bu yüzden çok zor. 

Yakın geleceğin kanun yapıcı, uygulayıcı ve denetleyicilerinin bilgi teknolojileri konusunda uzman olmaları kaçınılmaz bir gereklilik.  Hukuk fakülteleri mutlaka bu bilgi asimetrisini gidermek için disiplinler arası eğitim vermek üzere evrilmeliler. Bilgi teknolojileri alanında uzman hukukçulara her toplumun çok ihtiyacı olacak. 

Nur Ata NURCAN

BU İÇERİĞE EMOJİYLE TEPKİ VER!
Helal olsun!
Hoş değil!
Yerim!
Çok acı...
Yok artık!
Çok iyi!
Kızgın!

ONEDİO ÜYELERİ NE DİYOR?

Yorum Yazın
m.-ali

Bunun haberi bi Netflix belgeselin de geçen hafta çıktı. Afro American bi kadın keşfediyor bunu. yüksek oranda beyaz erkekleri tanıyor. kadını tanımiyor. hatta Masum birini aranan bi kişiye benzetiyor. beyaz maske takinca tanıyor. sonra araştırmalar falan derken Amerikada bazi eyaletlerde yüz tanıma sistemi kaldırılıyor.

Görüş Bildir