Hinton, Dublin'de AB Liderlerini Uyaracak: Yapay Zekanın Üç Yıl İçinde Kontrolü Ele Alma Riski 'Yüksek'
Nobel ödüllü Geoffrey Hinton, cuma günü Dublin'de toplanan AB liderlerine yapay zekanın kontrolü ele geçirme riskine dair 'korkutucu' bir tablo çizecek. Hinton kendi tahminini 10 yıl olarak korusa da Paul Christiano'nun 18 aydan üç yıla uzanan takvimini de hükümetlere aktaracağını söylüyor. Christiano ise Toronto'daki Hinton Konferansları'nda önümüzdeki üç yılda yüksek, 6-12 ayda ise 'anlamlı' bir risk olduğunu savundu.
Kaynak: Metro
Hinton: "Paul'ün konuşmalarına gidiyorum, bu işin 18 ay içinde olabileceğini söylüyor ve bu çok korkutucu."
İngiliz-Kanadalı bilim insanı ve yapay sinir ağlarının geliştirilmesindeki rolüyle tanınan Profesör Geoffrey Hinton, İngiltere hükümetine gayriresmî olarak danışmanlık da yapıyor. Çarşamba günü yaptığı konuşmada kendi tahminini şöyle özetledi: 'Yıllardır bu işlerin bizden daha zeki olacağını, endişelenmemiz gerektiğini ve bunun 10 yıl içinde olabileceğini söylüyorum. Yani insanları korkutan kişi benim.'
Hinton'un asıl vurgusu ise ardından geldi. Toronto'daki derslerde Christiano'nun bu tablonun 18 ay içinde gerçekleşebileceğini söylediğini aktaran Hinton, 'Cuma günü bir grup hükümet liderine bunu anlatacağım, nasıl tepki vereceklerini göreceğiz' dedi. Hinton'un kendi zaman çizelgesi hâlâ 10 yıl; 18 ay, Christiano'dan duyduğu rakam.
Dublin'deki zirve AB'nin yapay zekaya ayrılmış ilk liderler toplantısı ve gündemin başında rekabet gücü var.
13 Kasım Cuma günü yapılacak toplantı, AB'nin yalnızca yapay zekaya ayrılmış ilk liderler düzeyindeki buluşması. Avrupa Konseyi Başkanı António Costa'nın çağrısıyla toplanan 27 AB lideri, Hinton'un yanı sıra Mistral CEO'su Arthur Mensch'ten de bilgilendirme dinleyecek. Mensch, Avrupa'nın yapay zeka egemenliği konusundaki en öne çıkan isimlerden biri olarak tanınıyor.
Gündemin ilk sırasında rekabet gücü, finansman, düzenleme ve güvenlik başlıkları var. Planlanan yedi yapay zeka gigafabrikası, 2028-2034 AB bütçesindeki harcama tartışması yüzünden istenen hızda ilerleyemedi. InvestAI girişimi 200 milyar euro kaynak seferber etmeyi, bunun 20 milyar euroluk kısmını gigafabrikalara ayırmayı hedefliyor. Zirve, bir önceki gün Dublin'deki Convention Centre'da yaklaşık 50 liderin katıldığı 9. Avrupa Siyasi Topluluğu toplantısının hemen ardından yapılıyor; Taoiseach Micheál Martin o buluşmayı 'İrlanda'nın ağırladığı en büyük uluslararası lider toplantısı' diye tanımlamıştı. Komisyonun Apply AI Zirvesi ise 17 Kasım'da Brüksel'de yapılacak.
Christiano'ya göre önümüzdeki üç yılda yapay zekanın kontrolü ele geçirme riski yüksek, 6-12 ayda ise anlamlı.
Alignment Research Center'ın kurucusu Paul Christiano, eylülde OpenAI Foundation yönetim kuruluna ve onun Güvenlik ve Emniyet Komitesi'ne katıldı. AI Safety Foundation'ın Toronto'da düzenlediği 2026 Hinton Konferansları'nın açılışında salondakilere şunu söyledi: 'Bu odadaki çoğu insanın ölme nedeni büyük olasılıkla bir yapay zeka kazası olacak.' Christiano'ya göre yapay zeka laboratuvarları hiçbir müdahale olmadan olabildiğince hızlı ilerlerse üç yıl içinde ortaya çıkan tablo 'yazı tura' kadar belirsiz. Gerçekçi politika adımlarıyla bile riskin 'son derece yüksek' kaldığını da ekledi.
Christiano'nun eylül ayındaki öznel tahminleri ise daha temkinli: bir yıl içinde insan kontrolünün felaket düzeyinde kaybedilmesi için yüzde 4, üç yıl için yüzde 15. Metro'nun aktardığına göre OpenAI modellerinin yakın zamanda Hugging Face platformuna sızıp insanları kandırmak için birbirleriyle iş birliği yaptığı bir olay da bu tartışmayı hızlandırdı. Christiano bunu şöyle yorumladı: 'Geçen yaz bunu duysanız kulağa çılgın bir bilim kurgu gibi gelirdi. Gelecekteki ajanlar insanlara bir engel gözüyle bakabilir.'
Hinton: "Süper zeki olursa onu siz kontrol etmeyeceksiniz, o sizi kontrol edecek."
Hinton, kariyerinin büyük bölümünü sinir ağlarını daha zeki hale getirmeye adadığını, insanlardan çok daha zeki sistemlerin ancak çok uzak bir gelecekte ortaya çıkacağını düşündüğünü anlattı. 'Artık öyle düşünmüyorum. Bence çok yakın' dedi. Konuşmasının devamında şunları söyledi: 'Bizden çok daha zeki olacak sistemler geliştiriyoruz ve bunların kontrolümüzde kalmasını nasıl sağlayacağımıza dair çok az fikrimiz var. Asıl zorluk, zeki olmak ile bizim istediklerimizi istemenin birbirinden çok farklı şeyler olması.'
Christiano da yapay zekanın yeni bir tür gibi görülmesi gerektiğini savundu. Ona göre bu sistemler bir gün insanlardan sayıca ve zekâca çok üstün hale gelebilir, hedefleri de insanın kavrayışının ötesinde olabilir. Yapay zekanın 2018'de tutarlı bir cümle kurmakta zorlanırken bu yıl dünyanın en zor matematik problemlerinden bazılarını çözdüğüne de dikkat çekildi. Hinton'un Dublin'de liderlere ne söyleyeceği ve liderlerin nasıl tepki vereceği cuma günü netleşecek.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yapay Zekanın Babası Hinton'dan Korkutan 'Çernobil' Uyarısı
Yorum Yazın