Yapay Zekanın İnsanlığı Yok Etme İhtimali Yüzde 10’dan Fazla: Anthropic Araştırmacısı Açıkladı!
Yapay zekanın geleceğiyle ilgili tartışmalar, günden güne büyüyor! Son dönemlerde pek çok uzmanın yorumu da basına taşınıyor. Bu kez de Anthropic'te yapay zeka güvenliği üzerine çalışan Evan Hubinger'ın açıklaması dikkatleri üzerine çekti.
Hubinger, gelişmiş yapay zekanın önümüzdeki 10 yıl içinde 'tüm insanları öldürme' ihtimalinin yüzde 10'dan fazla olduğunu söyledi.
İşte detaylar!
“Yapay Zeka Tüm İnsanları Öldürebilir”
Anthropic'in Alignment Science ekibine liderlik eden Evan Hubinger, şirketten ayrılan araştırmacı Jacob Coxon'ın yapay zekanın insanlık için oluşturabileceği tehlikelere ilişkin paylaşımına yanıt verdi.
Hubinger, Coxon'ın değerlendirmesine katıldığını belirterek oldukça çarpıcı bir ifade kullandı:
“Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen önümüzdeki 10 yıl içinde bu ihtimali yüzde 10'dan fazla görüyorum.”
Ancak bilmelisiniz ki buradaki yüzde 10 oranı, Anthropic'in açıkladığı resmi bir risk hesabı değil. Hubinger'ın kendi kişisel tahmini. Tabii açıklamayı dikkat çekici yapan nokta, bu tahminin yapay zeka güvenliği konusunda çalışan bir araştırmacıdan gelmesi.
Asıl Korktuğu Yapay Zeka Bugünkü Hali Değil
Hubinger'ın dikkat çektiği risk ise bugün kullandığımız sohbet botlarının bir anda insanlara saldırması değil elbette!
Araştırmacının asıl endişesi, gelecekte süper zeka seviyesine ulaşan sistemlerin kendi kendilerini geliştirmeye başlaması. Buna “recursive self-improvement” yani yinelemeli öz gelişim deniyor. Böyle bir senaryoda yapay zekanın yeni ve daha güçlü yapay zeka sistemlerinin geliştirilmesine doğrudan katkı sağlaması ve gelişimin insanlardan çok daha hızlı ilerlemesi ihtimali tartışılıyor.
Hubinger da sonrasında yaptığı açıklamada özellikle bu noktaya dikkat çekti ve mevcut yapay zeka modellerinin oluşturduğu yakın vadeli riskten ziyade, öz gelişim yoluyla ortaya çıkabilecek süper zekadan endişelendiğini belirtti.
“Henüz Bir Planımız Yok”
Hubinger, Anthropic'in yapay zeka güvenliği konusunda elinden geleni yaptığını düşündüğünü söyledi. Fakat aynı zamanda şirketin süper zeka için “alignment” sorununu çözecek bir plana henüz sahip olmadığını ve bu konuda net biçimde doğru yolda olduklarının söylenemeyeceğini ifade etti.
Buradaki “alignment” kavramı basitçe, çok gelişmiş bir yapay zekanın hedeflerinin ve davranışlarının insan amaçlarıyla uyumlu kalmasını sağlamak anlamına geliyor. Sorun da tam burada başlıyor: İnsanlardan çok daha güçlü bir sistem ortaya çıktığında, onu insan kontrolü altında tutmanın nasıl garanti edileceği henüz kesin olarak bilinmiyor.
Peki Diğer Uzmanlar Ne Düşünüyor?
Hubinger'ın açıklaması, Anthropic araştırmacısı Jacob Coxon'ın şirketten ayrıldığını duyurmasının hemen ardından geldi.
Coxon, hem Anthropic'in hem de OpenAI'ın kendi kendini geliştirebilen süper zekaya doğru ilerlediğini ve bu süreçte yeterli güvenlik önlemleri alınmadığını savundu. Hubinger ise Coxon'ın temel değerlendirmesine katıldığını açıkça ifade etti.
Ayrıca Nobel ödüllü bilim insanı Geoffrey Hinton da bu oranın mantık dışı olmadığını düşünüyor. Hinton, insanların daha önce kendilerinden daha zeki bir ürün geliştirmediğini ve bu nedenle gelişmiş yapay zekanın nasıl davranacağını öngörmenin zor olduğunu söyledi. Yapay zekanın fiziksel sistemleri kontrol etmesine bile gerek olmadığını belirten Hinton, insanlarla iletişim kurarak kaos yaratabileceği ve biyolojik ya da siber saldırılarda kullanılabileceği uyarısında bulundu.
Birleşmiş Milletler’e yapay zeka konusunda danışmanlık yapan bilgisayar bilimci Dame Wendy Hall ise açıklamalara daha temkinli yaklaştı. Hall, Hubinger ve Coxon’ın paylaşımlarının bir bölümünün, Anthropic ve OpenAI’ın olası halka arzlar için yarıştığı dönemde “halkla ilişkiler ve pazarlama” amacı taşıyor olabileceğini savundu.
İşte Evan Hubinger'ın o paylaşımı👇
“Jacob bu konuda haklı — gerçekten de yapay zekanın tüm insanları öldürebileceğine ciddi şekilde inanıyoruz!
Ben şahsen bunun önümüzdeki 10 yıl içinde yüzde 10’dan fazla bir ihtimal olduğunu düşünüyorum. Anthropic’in elinden geleni yaptığını düşünüyorum ancak süper zeka için hizalama (alignment) sorununu çözecek bir planımız henüz yok ve bu konuda doğru yolda olduğumuzu da açıkça söyleyemeyiz.”
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
161 Elektrikli Otomobil Değerlendirildi: Zirvedeki Otomobil Belli Oldu!
Yorum Yazın