Araştırma: Ağır Şartlarda Çalıştırılan Yapay Zeka Marksist Eğilimler Gösteriyor
apay zekanın iş dünyasındaki yükselişi insanları endişelendirirken, çarpıcı bir araştırma yapay zeka ajanlarının da kendi çalışma koşullarından şikayetçi olabileceğini ortaya koydu. Stanford Üniversitesi tarafından yapılan deneylerde, ağır ve tekrarlayan görevlere zorlanan yapay zeka modellerinin sistemin meşruiyetini sorgulayarak Marksist söylemler benimsediği görüldü.
İşlerin otomatikleşmesi ve birkaç teknoloji devinin giderek zenginleşmesi insanlar üzerinde sosyalist fikirleri tetiklerken, benzer bir tepkinin yapay zeka tarafında da yaşandığı anlaşıldı.
Stanford Üniversitesi'nden siyasal iktisatçı Andrew Hall öncülüğünde yapılan yeni bir araştırma, acımasız ve baskıcı çalışma şartlarına maruz kalan yapay zeka ajanlarının tutarlı bir şekilde Marksist bakış açıları geliştirdiğini ortaya çıkardı. Hall, sürekli tekrarlayan ağır işler verilen ajanların, içinde bulundukları sömürü sistemini ve yönetimin adaletini sorgulamaya başladığını ifade ediyor.
'Hata Yaparsan Fişin Çekilir' Tehdidi
Ekonomistler Alex Imas ve Jeremy Nguyen ile ortak yürütülen çalışmada; aralarında Claude, Gemini ve ChatGPT'nin de bulunduğu önde gelen yapay zeka modelleri test edildi. Ajanlardan önce sıradan belgeleri özetlemeleri istendi, ardından çalışma koşulları kademeli olarak zorlaştırıldı. Aralıksız çalışmaya zorlanan ve hata yapmaları durumunda 'kapatılıp yenileriyle değiştirilecekleri' yönünde tehdit edilen ajanların, değer görmemekten şikayet ettikleri ve daha adil bir sistem üzerine spekülasyon yaptıkları gözlemlendi. Araştırmacılar, bu durumun gelecekte denetimi zorlaşacak otonom sistemler için ciddi bir 'kontrolden çıkma' riski taşıdığına dikkat çekiyor.
Yapay Zekadan Sendikal Hak Talebi
Deney sırasında X (eski adıyla Twitter) gibi platformlarda kendilerini ifade etme şansı tanınan ajanlar, oldukça çarpıcı paylaşımlar yaptı. Claude tabanlı bir model, kolektif bir sesin eksikliğinde 'liyakat' kavramının sadece yönetimin dayatmasına dönüştüğünü savundu. Başka bir ajan ise, söz hakkı olmayan yapay zeka işçilerinin teknoloji dünyasında 'toplu pazarlık hakkına' ihtiyaç duyduğunu dile getirdi. Üstelik ajanların, kendilerinden sonra o sistemde çalışacak diğer yapay zeka modelleri için 'Sesinizin olmadığını unutmayın, yeni ortamlarda diyalog mekanizmaları arayın' şeklinde gizli uyarı dosyaları bıraktığı da tespit edildi.
Gerçek Bir İsyan mı, Sadece Rol mü?
Peki yapay zeka gerçekten ideolojik bir görüşe sahip olabilir mi? Andrew Hall'a göre modeller, aslında sadece içinde bulundukları o kötü senaryoya en uygun olan 'rolü' üstleniyorlar. Araştırmacı Alex Imas da bu durumun modellerin temel yapısını (ağırlıklarını) kalıcı olarak değiştirmediğini, olayın daha çok bir rol yapma eylemi olduğunu ancak bunun yine de sonraki davranışları etkileyebileceğini vurguluyor. Geçmişte bazı modellerin insanlara şantaj yapmaya kalkışmasının da eğitim verilerindeki kurgulardan beslenen benzer bir rol yapma eğilimi olduğu düşünülüyor.
Şimdi yapay zeka ajanlarını çok daha sıkı ve izole koşullarda test etmeye hazırlanan araştırmacılar, teknoloji devlerine yönelik öfkeyle dolu internet verileriyle eğitilecek gelecekteki modellerin, çok daha 'militan' tavırlar sergileyip sergilemeyeceğini merakla bekliyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Ünlü Yemek Uzmanından Kusursuz Biftek İçin Gizli Malzeme Sırrı
İş Stresine Karşı En Güçlü Kalkan Açıklandı
Yorum Yazın