Bill Gates'ten Yapay Zeka Uyarısı: "Biyolojik Bir Olay Covid-19'dan Çok Daha Büyük Hasar Bırakabilir"
Microsoft'un kurucu ortağı Bill Gates, Financial Times'ın düzenlediği Future of AI Summit'te yapay zekanın biyolojik silahlar ve siber saldırılar için kullanılabileceği konusunda uyardı. Gates'e göre yapay zekanın karıştığı bir biyogüvenlik olayının yaratacağı hasar Covid-19'u çok geride bırakabilir. Gates, ABD'nin uluslararası çabalara katılmamasının önlemleri yavaşlattığını da söyledi.
Kaynak: Insider Paper, MIT Technology Review
Bill Gates, yapay zekanın karıştığı bir biyogüvenlik olayının Covid-19'dan çok daha büyük hasar yaratabileceği konusunda uyardı.
Gates, 4 Kasım Çarşamba günü Financial Times'ın Future of AI Summit etkinliğinde yaptığı konuşmada, en acil tehditlerin yapay zekanın biyolojik silah geliştirmede ve siber güvenlik açıklarının sömürülmesinde kullanılması olduğunu belirtti. Yapay zekanın karıştığı bir biyogüvenlik olayının ölçeğinin Covid-19'dan çok daha büyük olabileceğini söyleyen Gates, bu teknolojinin hem faydasının hem de tehlikesinin hafife alınmaması gerektiğini vurguladı.
Gates'in rakamla ifade ettiği karşılaştırma ise ağustos ayında MIT Technology Review'a verdiği röportajdan geliyor. Milyarder, biyoterörizm riskini doğal bir pandemiye kıyasla 'yaklaşık 50 kat daha korkutucu ve daha olası' diye tanımlamıştı. Aynı röportajda 'biyoterörizm eşiğini de siber saldırı eşiğini de aştık' diyen Gates, 'Bu eşiklerin aşılmış olması beni şoka sokuyor' ifadesini kullandı. Sektörün dışında endişe ve tartışma bulunmamasına da şaşırdığını söyleyen Gates, dünyanın pandemiye bugün daha hazırlıklı olmadığını, ABD'nin de bu konuda farklı durumda olmadığını dile getirdi.
Açık ağırlıklı modellerin güvenlik filtreleri sökülebiliyor, Gates'e göre bu da riski büyütüyor.
Gates'in üzerinde en çok durduğu konulardan biri, indirilip yerel bilgisayarlarda çalıştırılabilen açık ağırlıklı modeller oldu. Bu modellerin değiştirilebildiğini, güvenlik filtrelerinin ve izleme mekanizmalarının kaldırılabildiğini anlatan Gates'e göre bu durum riski ciddi biçimde artırıyor. Öncü yapay zeka modelleri, daha önce uzmanlık gerektiren patojen mühendisliğinin teknik engellerini de düşürüyor.
MIT Technology Review röportajında çözüm önerisini de açıkça ortaya koyan Gates, 'Yeni moleküller üretebilen her model izlenmeli' dedi. ABD'nin bu kapsama giren her modeli izlemeye tabi tutması gerektiğini savunan Gates, bir modelin 'izleme mantığının atıldığı karanlık bir yere kopyalanamaması' gerektiğini söyledi. Gözetimin de iyileştirilmesi gerektiğini ekledi. Gates ayrıca yapay zekanın ilaç ve aşı alanında hayat kurtaran gelişmelere yol açacağını, ancak 'olumlu yetenekleri tehlikeli olanlardan ayırmanın zor' olduğunu belirtti.
Siber cephede de tablo ağır: Gates, teknik bilgisi olmayan birinin bile yapay zekayla saldırı düzenleyebildiğini söyledi.
'Teknik bilgisi olmayan biri yalnızca yapay zekayı kullanarak siber saldırı yapabilir mi? İşte artık oradayız!' diyen Gates, söz konusu eşiğin yalnızca bir kodlama eşiği olmadığını, 'devasa bir siber saldırı eşiği' olduğunu söyledi. Ardından sert bir tespit ekledi: 'Bunun sonucunda ne oldu biliyor musunuz? Pek bir şey olmadı.'
Yapay zeka sistemleri büyük miktarda kodu tarayarak güvenlik açıklarını insan bilgisayar korsanlarından daha hızlı bulabiliyor, bazı sistemler istismar kodunun hazırlanıp çalıştırılmasına da yardımcı olabiliyor. Gates'e göre bu durum elektrik şebekeleri, şehir su şebekeleri ve hastane bilişim sistemleri gibi kritik altyapılar için doğrudan tehdit oluşturuyor. Gates daha önce de yapay zekayı 'insanın icat ettiği en tehlikeli teknoloji' olarak nitelemiş, önümüzdeki yıl özellikle siber alanda 'çok sayıda olumsuz sürpriz' yaşanacağını söylemişti. Asıl tehlikenin yapay zekanın kontrolden çıkması değil, güvenlik önlemleri kaldırılmış modelleri kullanan 'kötü niyetli insanlar' olduğunu belirtmişti.
Gates'in en sert eleştirisi Washington'a: Gönüllü denetim yetmez, ABD olmadan çözüm zor.
Gates, sorunun gönüllü önlemlerle çözülemeyeceğini savundu. 'Birçok şirket işin içine girdiğinde, bu sorunu çözmenin tek yolu hükümetler' diyen Gates, MIT Technology Review röportajında da aynı çizgide konuşmuş, 'Bir sektörün kendi kendini denetlemesine güvenemezsiniz' demişti. Haberlere göre Trump yönetimi daha sıkı devlet düzenlemesine karşı çıkıyor ve sektörün kendi kendini denetlemesinden yana.
Önde gelen yapay zeka laboratuvarlarının büyük bölümü ABD'de bulunduğu için Washington'ın tutumu küresel çabaları doğrudan etkiliyor. Gates, 'ABD işin içinde olmadıktan sonra harekete geçmenin pek faydası yok. Bu yüzden çabalarımız adeta engellenmiş durumda' ifadelerini kullandı. G20 içinde yapay zeka kuralları üzerinde çalışan bir grup olduğu, Trump'ın bu girişimi 'globalist ajanda' olarak nitelediği aktarıldı. Gates, ABD hükümetinin tutumunu değiştirmesi için kaç tehlikeli olayın yaşanması gerektiğini de sorguladı. Gates'in yıl bitmeden yayımlamayı planladığı biyoloji odaklı notun ise bu tartışmaya yeni bir boyut katması bekleniyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yapay Zekanın Babası Hinton'dan Korkutan 'Çernobil' Uyarısı
Yorum Yazın