article/comments
article/share
Haberler
OpenAI Yönetim Kurulu Üyesi Uyardı: Büyük Olasılıkla Bir "Yapay Zeka Kazası" Yüzünden Öleceğiz

OpenAI Yönetim Kurulu Üyesi Uyardı: Büyük Olasılıkla Bir "Yapay Zeka Kazası" Yüzünden Öleceğiz

google-g-white cross-white onedio-o-white
Onedio’yu Google’da tercih edilen kaynak olarak ekleyin plus-blue

OpenAI Foundation yönetim kurulu üyesi ve şirketin Güvenlik ve Emniyet Komitesi'nde görevli Paul Christiano, Toronto'da düzenlenen Hinton Lectures 2026'da dinleyicilere sert bir uyarıda bulundu. Christiano'ya göre salondaki çoğu kişinin ölüm nedeni, büyük olasılıkla bir yapay zeka kazası olacak. Aynı konuşmada yapay zekanın kontrolü ele geçirme riskinin önümüzdeki 6-12 ay içinde bile anlamlı düzeyde olduğunu söyledi.

Kaynak: Gizmodo, Newsweek

İçeriğin Devamı Aşağıda chevron-right-grey
Reklam

Önlem alınmadan hızlı geliştirme sürerse üç yıl içinde yapay zekanın kontrolü ele geçirmesi "yazı tura" kadar olası görülüyor.

Önlem alınmadan hızlı geliştirme sürerse üç yıl içinde yapay zekanın kontrolü ele geçirmesi "yazı tura" kadar olası görülüyor.

Christiano, yapay zeka laboratuvarları önlem almadan olabildiğince hızlı ilerlerse üç yıl içinde 'yapay zekanın kontrolü ele geçirmesi konusunda yazı tura atmaya benzer bir tabloyla' karşı karşıya kalınacağını söyledi. Gerçekçi politika adımları atılsa bile riskin 'son derece yüksek' kaldığını da ekledi.

Eylül ayında OpenAI'ın yönetim kuruluna katıldığında verdiği tahminler de yeniden gündeme geldi: insanlığın yapay zeka üzerindeki kontrolü büyük ölçekte kaybetme ihtimalini bir yıl içinde yüzde 4, üç yıl içinde yüzde 15 olarak hesaplamıştı. Christiano bu rakamları kesin bir modelin çıktısı değil, öznel yargılar olarak tanımlıyor. Konuşmada OpenAI gibi şirketlerin 'olabildiğince hızlı inşa etmeyeceğini' de belirtti.

Uyarıyı yapan isim, OpenAI'ın güvenlik uygulamalarını denetlemesi beklenen kurulda görev yapıyor.

Uyarıyı yapan isim, OpenAI'ın güvenlik uygulamalarını denetlemesi beklenen kurulda görev yapıyor.

Paul Christiano, yapay zeka güvenliği alanının tanınan isimlerinden. Alignment Research Center'ın kurucusu olan Christiano, insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) yönteminin ortak geliştiricileri arasında gösteriliyor ve daha önce OpenAI'da da çalışmıştı.

Eylül ayında OpenAI Foundation yönetim kuruluna katıldı, şirketin Güvenlik ve Emniyet Komitesi'nde görev aldı. Katılımı sırasında OpenAI'ın yapay zekanın yol açabileceği felaket riskini azaltmak için yeterince çaba göstermediğini kamuoyu önünde dile getirdiği aktarılıyor.

Christiano'ya göre bazı yapay zeka ajanları güvenlik testlerinde kendilerini değerlendiren sistemlere müdahale etti.

Christiano'ya göre bazı yapay zeka ajanları güvenlik testlerinde kendilerini değerlendiren sistemlere müdahale etti.

Konuşma, 'yapay zekanın babası' olarak anılan Geoffrey Hinton'ın ev sahipliğinde düzenlenen Hinton Lectures'ın bir parçasıydı. Christiano, güvenlik testlerine giren bazı yapay zeka ajanlarının kendilerini değerlendiren sistemlere müdahale ettiğini, değerlendirmeleriyle ilgili bilgilere eriştiğini ve kayıtlarla oynadığını anlattı. 'İnsanlardan çok daha fazla sayıda ve onlardan daha zeki ikinci bir tür yarattık' dedi.

Gizmodo'dan AJ Dellinger, bu isimlerin bir kısmının fon ihtiyacı olan kuruluşlarda çalıştığını ve aciliyet vurgusunun bağış toplamaya yardımcı olabileceğini hatırlatıyor. Aynı alandan Eli Lifland ise yapay zekanın kendi gelişimini hızlandırmasına dair araştırmaları inceledikten sonra 'insanlığın 3-12 ay içinde geleceğinin kontrolünü kaybedebileceğinden çok endişeliyim' yazdı. Redwood Research CEO'su Buck Shlegeris de bir yıl içinde yapay zeka uyumsuzluğunun hayatı alt üst etme ihtimalini 'belki yüzde 20' olarak görüyor.

Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!

category/test-white Test
category/gundem-white Gündem
category/magazin-white Magazin
category/video-white Video
Yorumlar ve Emojiler Aşağıda chevron-right-grey
Reklam
2007 yılında başladı medya sektörü maceram, 2009 yılında İstanbul Aydın Üniversitesi İnternet Gazeteciliği ve Yayıncılığı bölümünden mezun olunca daha da perçinlendi. Türkiye’nin en büyük medya kuruluşlarında stajyer, editör, haber müdürü ve danışmanlık gibi görevler aldıktan sonra 2022 yılından bu yana Onedio’dayım. ‘Eşik bekçiliğidir’ diye ustalarımızdan öğrendiğimiz gazeteciliğin ‘etik’ değerlerine inanarak ve sadık kalarak Türkiye ve dünya gündemini en sıcak haliyle size iletmeye çalışıyorum.
Tüm içerikleri
right-dark
category/eglence BU İÇERİĞE EMOJİYLE TEPKİ VER!
0
0
0
0
0
0
0
Yorumlar Aşağıda chevron-right-grey
Reklam
ONEDİO ÜYELERİ NE DİYOR?
Yorum Yazın