400 Bilim İnsanından Acil Yapay Zeka Çağrısı Geldi: Aralarında Nobel Ödüllü İsim de Var
Nobel ödüllü Geoffrey Hinton'ın da aralarında olduğu 400'ü aşkın bilim insanı, yapay zekâ şirketlerine ve hükümetlere ortak bir çağrı yaptı. Açık mektupta, bilgisayar sistemlerine sızabilen güçlü yapay zekâ modellerinin internetten tamamen ayrılması ve bu alanı denetleyecek uluslararası bir kurum kurulması isteniyor.
Modeller test ortamından kaçtı
Çağrının arkasında bu yaz art arda açıklanan güvenlik olayları var. OpenAI temmuzda, test ettiği modellerin kapalı deneme ortamından çıkıp yapay zekâ platformu Hugging Face'e saldırdığını açıkladı.
Decrypt'in aktardığına göre benzer olaylar Anthropic ve Meta'nın modellerinde de yaşandı; bir test ortağının sistemi yanlışlıkla internete bağlı bırakılınca modeller gerçek şirketlerin sistemlerine sızdı. Mektupta, 'Acil değişiklikler yapılmazsa bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar kritik altyapımıza çok daha fazla zarar verecek' deniyor.
"Hava boşluğu" ne demek?
Mektubun en dikkat çeken önerisi, bilgisayar korsanlığı yapabilecek düzeydeki modellerin varsayılan olarak 'hava boşluğu' (airgapping) yöntemiyle korunması. Bu yöntemde model, internete ve dış ağlara fiziksel olarak hiç bağlanmıyor.
İnternet erişimi gibi daha fazla serbestlik gerektiren durumlar için ise yeni bir uluslararası kurumun standart belirlemesi isteniyor. Bu kurum, modellerin kontrolden çıktığı her olayı kayda geçirecek; raporlar zamanla kamuoyuyla paylaşılacak.
İmzacılar arasında kimler var?
Mektubu Hinton'ın yanı sıra Turing Ödüllü Yoshua Bengio, UC Berkeley'den Stuart Russell ve RSA şifrelemesinin mucitlerinden Ron Rivest gibi isimler imzaladı. Altı kıtadan araştırmacıların imzaladığı mektupta imza sayısı 487'ye ulaştı.
Çağrı, ABD'li yapay zekâ şirketlerinin eylülde Beyaz Saray'da gönüllü güvenlik taahhütleri içeren bir anlaşma imzalamasının ardından geldi. Hinton ise şirketlerin kendi kendini denetlemesine karşı çıkıyor: 'Eminim petrol ve asbest şirketleri de bunu isterdi.'
Mektubun yasal bir bağlayıcılığı yok; ancak dünyanın önde gelen yapay zekâ ve siber güvenlik araştırmacılarının ortak sesi olarak dikkat çekiyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Bu içerikler de ilginizi çekebilir:
Yapay Zeka Tek Bir Oda Fotoğrafından Evin Adresini Bulabiliyor
Yorum Yazın