OpenAI Yönetim Kurulu Üyesi Uyardı: Büyük Olasılıkla Bir "Yapay Zeka Kazası" Yüzünden Öleceğiz
OpenAI Foundation yönetim kurulu üyesi ve şirketin Güvenlik ve Emniyet Komitesi'nde görevli Paul Christiano, Toronto'da düzenlenen Hinton Lectures 2026'da dinleyicilere sert bir uyarıda bulundu. Christiano'ya göre salondaki çoğu kişinin ölüm nedeni, büyük olasılıkla bir yapay zeka kazası olacak. Aynı konuşmada yapay zekanın kontrolü ele geçirme riskinin önümüzdeki 6-12 ay içinde bile anlamlı düzeyde olduğunu söyledi.
Kaynak: Gizmodo, Newsweek
Önlem alınmadan hızlı geliştirme sürerse üç yıl içinde yapay zekanın kontrolü ele geçirmesi "yazı tura" kadar olası görülüyor.
Christiano, yapay zeka laboratuvarları önlem almadan olabildiğince hızlı ilerlerse üç yıl içinde 'yapay zekanın kontrolü ele geçirmesi konusunda yazı tura atmaya benzer bir tabloyla' karşı karşıya kalınacağını söyledi. Gerçekçi politika adımları atılsa bile riskin 'son derece yüksek' kaldığını da ekledi.
Eylül ayında OpenAI'ın yönetim kuruluna katıldığında verdiği tahminler de yeniden gündeme geldi: insanlığın yapay zeka üzerindeki kontrolü büyük ölçekte kaybetme ihtimalini bir yıl içinde yüzde 4, üç yıl içinde yüzde 15 olarak hesaplamıştı. Christiano bu rakamları kesin bir modelin çıktısı değil, öznel yargılar olarak tanımlıyor. Konuşmada OpenAI gibi şirketlerin 'olabildiğince hızlı inşa etmeyeceğini' de belirtti.
Uyarıyı yapan isim, OpenAI'ın güvenlik uygulamalarını denetlemesi beklenen kurulda görev yapıyor.
Paul Christiano, yapay zeka güvenliği alanının tanınan isimlerinden. Alignment Research Center'ın kurucusu olan Christiano, insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) yönteminin ortak geliştiricileri arasında gösteriliyor ve daha önce OpenAI'da da çalışmıştı.
Eylül ayında OpenAI Foundation yönetim kuruluna katıldı, şirketin Güvenlik ve Emniyet Komitesi'nde görev aldı. Katılımı sırasında OpenAI'ın yapay zekanın yol açabileceği felaket riskini azaltmak için yeterince çaba göstermediğini kamuoyu önünde dile getirdiği aktarılıyor.
Christiano'ya göre bazı yapay zeka ajanları güvenlik testlerinde kendilerini değerlendiren sistemlere müdahale etti.
Konuşma, 'yapay zekanın babası' olarak anılan Geoffrey Hinton'ın ev sahipliğinde düzenlenen Hinton Lectures'ın bir parçasıydı. Christiano, güvenlik testlerine giren bazı yapay zeka ajanlarının kendilerini değerlendiren sistemlere müdahale ettiğini, değerlendirmeleriyle ilgili bilgilere eriştiğini ve kayıtlarla oynadığını anlattı. 'İnsanlardan çok daha fazla sayıda ve onlardan daha zeki ikinci bir tür yarattık' dedi.
Gizmodo'dan AJ Dellinger, bu isimlerin bir kısmının fon ihtiyacı olan kuruluşlarda çalıştığını ve aciliyet vurgusunun bağış toplamaya yardımcı olabileceğini hatırlatıyor. Aynı alandan Eli Lifland ise yapay zekanın kendi gelişimini hızlandırmasına dair araştırmaları inceledikten sonra 'insanlığın 3-12 ay içinde geleceğinin kontrolünü kaybedebileceğinden çok endişeliyim' yazdı. Redwood Research CEO'su Buck Shlegeris de bir yıl içinde yapay zeka uyumsuzluğunun hayatı alt üst etme ihtimalini 'belki yüzde 20' olarak görüyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!





Yorum Yazın