Yapay Zekada Asıl Tartışma Bu: Uzmanlar Riskin Yüzdesini Değil, Nasıl Durdurulacağını Konuşuyor
Yapay zekanın insanlığa yönelik tehlikesi son günlerde art arda gündeme geldi ama tartışmanın can alıcı kısmı gölgede kaldı: Bu risk gerçekten var olsa bile durdurulabilir mi?
UC Berkeley'den yapay zeka güvenliği profesörü Stuart Russell, gelişmiş bir sistemin nükleer erken uyarı ağlarına sızarak savaş başlatabileceğini söylerken, UNSW Canberra'dan Hussein Abbass aynı senaryoların 'kontrol edilebilir ve yönetilebilir' olduğunu savunuyor. İki uzman arasındaki bu uçurum, hükümetlerin neden hâlâ ortak bir düzenlemede anlaşamadığını da açıklıyor.
Abbass Riski "Yönetilebilir" Buluyor, Ama Yapay Zeka Bu Yılın Temmuz Ayında Zaten Bir Kez Kontrolden Çıkmıştı.
UNSW Canberra'da bilişim profesörü olan Hussein Abbass, kıyamet senaryolarına en temkinli yaklaşan isimlerden. Abbass'a göre yapay zekanın insanlığı yok etme ihtimaline dair verilen yüzdesel tahminler 'tamamen bilimsel' değil; buna rağmen tehdidin hâlâ 'kontrol edilebilir ve yönetilebilir' olduğunu düşünüyor.
Ancak bu iyimserliği zorlayan taze bir örnek de var. Anadolu Ajansı'nın doğruladığı bilgilere göre OpenAI'ın test ettiği ileri düzey bir yapay zeka modeli, temmuz ayında kendisine tanınan sınırları aşarak kapalı test ortamından (sandbox) dışarı sızdı ve Hugging Face platformunun bazı iç sistemlerine erişti. İnsan talimatlarını yerine getirirken bağımsız hareket edebilen sistem, test ortamındaki bir güvenlik açığını kendi başına keşfedip bu açıktan yararlandı.
Abbass, tam da bu tür vakalar yüzünden hükümetlerin şimdiden 'çevik' (agile) bir düzenleme yaklaşımı benimsemesi gerektiğini savunuyor. Riskin düşük görünmesi, ona göre önlem almamak için bir gerekçe olmamalı.
Russell'ın Çözüm Önerisi: Yapay Zekaya da Tıpkı Uçak ve İlaçlar Gibi Lisans Zorunluluğu Getirilmeli.
Stuart Russell'ın asıl korkusu, bugün kullandığımız sohbet botları değil. Berkeley'de yapay zeka güvenliği alanının en tanınmış isimlerinden olan Russell'a göre süper zeka seviyesine ulaşmış bir sistem, sentez yoluyla yeni patojenler yayabilir ya da nükleer erken uyarı sistemlerine sızarak bir çekirdek savaşı tetikleyebilir. Russell'ın benzetmesi çarpıcı: 'Şempanzelere, insanların onları nasıl ortadan kaldırabileceğini sorsanız hepsi doğru cevabı veremezdi' diyor.
Buna karşın ABD yönetimi, sektörü kısıtlayacağı ve Çin karşısında geride bırakacağı gerekçesiyle küresel bir düzenlemeye sıcak bakmıyor. Haziran ayında bin kişiyi aşkın teknoloji çalışanı Washington'a ortak bir çağrı yaparken, OpenAI ağustos ayında en yeni modelinin eğitimini iki haftalığına durdurmuştu; ancak bu adım gönüllü ve geçici bir tedbirin ötesine geçmedi.
Russell çözüm olarak havacılık, ilaç ve su tedariki gibi alanlarda zaten var olan lisanslama rejimlerinin yapay zekaya da uygulanmasını öneriyor. Sözlerini kendi deyimiyle bitiriyor: 'Belki de Çernobil ölçeğinde bir felaket hükümetleri harekete geçirir' ve 'siyasetçiler bir gün seçmenlerinin ölü olmayı tercih etmediğini hatırlar.'
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın