Herkese Aynı Şeyi mi Söylüyor? Yapay Zekanın "Batılı Zihniyette" Olduğu Ortaya Çıktı
Yapay zeka sistemlerinin farklı kültürlerden gelen kullanıcılara benzer çerçevelerde yanıtlar vermesi, son dönemde yeniden tartışma konusu oldu. Uzmanlar, büyük dil modellerinin eğitim verisi ve geliştirme süreçleri nedeniyle ağırlıklı olarak Batı merkezli bir bakış açısını yansıtabildiğine dikkat çekiyor. Bu durum özellikle sosyal bilimler ve psikoloji gibi kültürel bağlamın güçlü olduğu alanlarda daha görünür hale geliyor.
Yapay zeka sistemlerinin sosyal bilimler ve psikoloji gibi alanlarda verdiği yanıtların, ağırlıklı olarak Batı merkezli bir bakış açısını yansıttığına yönelik tartışmalar sürüyor.
Araştırmalar, büyük dil modellerinin farklı kültürel bağlamları yeterince yansıtmadığını ve küresel çeşitliliği sınırlı biçimde ele aldığını ortaya koyuyor.
AA muhabirinin derlediği bilgilere göre, eğitimden iş dünyasına kadar geniş bir kullanım alanına sahip olan yapay zeka, son dönemde psikolojik danışmanlıkta da sıkça tercih ediliyor. Ancak bu alandaki yanıtların kültürel açıdan tek tip olması eleştirilere neden oluyor. Harvard Üniversitesi ve farklı kurumlardan araştırmacıların kaleme aldığı “Which Humans (Hangi İnsanlar)” başlıklı çalışmada, yapay zekanın “insan davranışı” olarak sunduğu verilerin büyük ölçüde Batılı toplumlara dayandığı vurgulanıyor.
SETA araştırmacısı ve ETAI Direktörü Dr. Gloria Shkurti Özdemir, yapay zekanın Batı merkezli yanıtlar üretmesinin sistemin yapısal özelliklerinden kaynaklandığını belirtiyor.
Özdemir’e göre bu durumun ilk nedeni, modellerin beslendiği veri kaynaklarının coğrafi olarak sınırlı olması. Konuya ilişkin değerlendirmesinde Özdemir, 'Veri seti göründüğünden geniş ancak bu genişleme aynı coğrafyanın içinde kalıyor. Buna ek olarak, ince ayar (fine-tuning) aşaması belki de en kritik halkadır, modelin 'ne söyleyeceğini' değil, 'nasıl söyleyeceğini' bu aşama belirler. Bu, şirketin kurumsal kültürünü doğrudan yansıtır.' ifadelerini kullandı.
İkinci etkenin, insan geri bildirimiyle pekiştirmeli öğrenme süreci olduğunu belirten Özdemir, değerlendiricilerin belirli coğrafyalarda yoğunlaştığını ifade ederek,
'(Doğru cevabı) Belirleyen değerlendiricilerin büyük çoğunluğu belirli ülkelerde, belirli demografik profillerden çalışan kişilerdir. Dolayısıyla 'iyi cevap' tanımı, küresel çeşitliliği değil, belirli bir kültürel filtreyi yansıtır.' dedi.
Özdemir, yapay zeka modellerini geliştiren şirketlerin büyük bölümünün Batı merkezli olmasının da bu tabloyu etkilediğini vurguladı. Sosyal bilimler literatürünün de benzer şekilde Batılı toplumlara dayandığını belirten Özdemir, 'Sosyal bilimler literatürünün kendisi zaten Batılı, eğitimli, sanayileşmiş, zengin ve demokratik toplumlar üzerinden inşa edilmiştir. Yapay zeka bu literatürle eğitildiğinde, 'insan davranışı' diye sunduğu şey aslında dünya nüfusunun yüzde 12'sinin davranışıdır. Yapay zeka, sosyal bilimlerin tarihsel ön yargılarını ölçeklendirerek dünyaya geri yansıtıyor.' değerlendirmesinde bulundu.
Yapay zekanın farklı kültürlere aynı çerçevede yanıt vermesinin özellikle psikolojik danışmanlık alanında daha belirgin hale geldiğine işaret eden Özdemir, kültürel bağlamın bu alanda belirleyici olduğunu ifade etti.
Özdemir ayrıca, farklı dillerde yapılan sorguların sonuçlarında da farklılıklar gözlemlediklerini belirterek, 'Çalışmada önde gelen birkaç büyük dil modelini, aynı senaryolar üzerinden hem İngilizce hem de Türkçe olarak test ettim. Sonuçların ayrıntılarını çalışma yayımlandığında paylaşacağım ancak şu kadarını söyleyebilirim, dil değişkeni, beklediğimden çok daha belirleyici çıktı. İngilizce sorgularda modeller arasında belirli bir çeşitlilik, nüans ve analitik derinlik gözlemlerken, Türkçe sorgularda bu çeşitlilik büyük ölçüde kayboluyordu.' ifadelerini kullandı.
Bu durumun bilgiye erişimde farklılık oluşturduğunu belirten Özdemir,
'Bu, toplumsal düzeyde sessiz bir bilgi eşitsizliği yaratıyor.' dedi.
Türkiye’nin kendi büyük dil modellerini geliştirmesinin stratejik önem taşıdığını vurgulayan Özdemir, 'Türkiye'nin kendi büyük dil modellerini geliştirmesi sadece bir prestij meselesi değil, doğrudan bir egemenlik ve bilgi güvenliği meselesidir.' değerlendirmesinde bulundu.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Bu Kafede Müdür Yok, Yapay Zeka Var: Çalışanları Bile O Seçiyor
Yıllardır Yanlış Yapıyormuşuz! Pirinç Yıkamanın Basit Yöntemi Açıklandı
Yorum Yazın