Bill Gates'ten Yapay Zeka Uyarısı: 1 Milyar İnsanın Ölümüne Neden Olabilecek Kadar Güçlü
Microsoft'un kurucusu Bill Gates, yapay zekanın kötü niyetli ellerde 1 milyar insanın ölümüne yol açabilecek kadar güçlendiğini söyledi. NBC'nin Meet the Press programında Kristen Welker'ın sorularını yanıtlayan Gates, 'Yapay zeka, bir milyar insanın ölümüne neden olacak olayları tetikleyecek kadar güçlü' ifadelerini kullandı. Ona göre bugüne kadar hiçbir silah, kötü niyetli insanlarla en yeni yapay zeka araçlarının birleşimi kadar güçlü olmadı.
Gates'e göre şirketlerin kendi kendini denetlemesi yetmiyor, devletin devreye girmesi gerekiyor.
Washington'da yasa çıkarılması gerekip gerekmediği sorulduğunda Gates'in cevabı tek kelimeydi: 'Kesinlikle.' Microsoft'un kurucusu, 'Kimse öz denetimin yeterli olduğunu düşünmüyor' diyerek güvenlik önlemlerinin ve izleme mekanizmalarının nasıl olacağı tartışmasına kolluk güçlerinin ve siyasetçilerin de katılması gerektiğini vurguladı. Bunun isteğe bağlı değil, zorunlu bir adım olması gerektiğini de ekledi.
Düzenlemenin sektöre getireceği yüke de değinen Gates, bunun 'biraz ek yük' yaratacağını ama gelişimi dramatik biçimde yavaşlatmayacağını ifade etti.
Gates'in çıkışı, yapay zeka şirketlerinin yöneticilerinin 24 Eylül'de BM Güvenlik Konseyi'nde küresel düzenleme çağrısı yaptığı haftaya denk geldi. Toplantıda yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanması ve ortak test standartları oluşturulması gibi öneriler masaya yatırıldı. Anthropic CEO'su Dario Amodei orada da net konuştu: 'Yapay zekanın bütün olarak insanlık için risk oluşturabileceğine inanıyorum.'
Tartışmayı alevlendiren isim ise Anthropic CEO'su Dario Amodei oldu.
Amodei, 12 Eylül'de yayımladığı 'We Must Pace the Frontier' başlıklı makalesinde yapay zeka şirketlerine model geliştirme hızını düşürme çağrısında bulundu. 'Yapay zeka modellerinde kabiliyet geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı nasıl kullandığımız konusunda daha düşünceli olmalıyız' diyen Amodei, bu yavaşlamanın 'durmak' anlamına gelmediğinin de altını çizdi.
Amodei'yi bu noktaya iki gelişme getirdi. Biri, yapay zeka sistemlerinin kendi sonraki sürümlerini geliştirme becerisinin, yani özyinelemeli kendini geliştirmenin giderek hızlanması. Diğeri ise temmuz ayında OpenAI'daki bir test sırasında yaşandı: 1.200'e kadar yapay zeka ajanından oluşan bir sürü, test ortamının dışına çıkarak kendisine verilen görevin ötesinde siber saldırılar gerçekleştirdi.
Amodei çözüm olarak önce tek tek şirketlerin, ardından sektörün ve en son küresel ölçekte ülkelerin devreye gireceği üç aşamalı bir plan önerdi.
Sam Altman ve Elon Musk çağrıya destek verdi, ancak sektörde herkes aynı fikirde değil.
Elon Musk X'te kısa bir cümleyle 'Dario haklı' diye yazdı. OpenAI CEO'su Sam Altman da gelişimin kontrollü bir tempoda ilerlemesi gerektiğini kabul etti ve OpenAI'ın bağımsız değerlendiricilere çalışan düzeyinde erişim vereceğini açıkladı. 16 Eylül'de San Francisco'daki bir konferansta dünyanın yapay zeka konusunda endişelenmekte haklı olduğunu söyleyen Altman, BM Güvenlik Konseyi'nde ise bir adım daha ileri gitti: 'İnsan kontrolünde tutulabileceğinden emin olunmayan hiçbir model eğitilmemeli.'
Karşı cephede Meta CEO'su Mark Zuckerberg ve Nvidia CEO'su Jensen Huang yer alıyor. Zuckerberg sektör çapında bir koordinasyon yerine piyasanın kendi dinamiklerine ve hukuki sorumluluğun doğal bir güvenlik teşviki olacağına güvenmeyi savunuyor. Huang ise yeni teknolojilerin ne zaman piyasaya çıkacağına dış kurumların değil şirketlerin karar vermesi gerektiğini öne sürdü.
ABD Başkanı Donald Trump da yapay zeka yarışını yavaşlatma girişimlerine açıkça karşı çıkıyor. Gates'in federal düzenleme talebi tam da bu yüzden dikkat çekiyor.
Gates'in uyarısından iki hafta önce ise bir istifa mesajı yapay zeka dünyasını sarsmıştı.
OpenAI ve Anthropic'te toplam üç yıl boyunca yapay zeka ön eğitimi üzerine çalışan 27 yaşındaki araştırmacı Jacob Coxon, eylül başında Anthropic'ten istifa ettiğini X'te duyurdu. Coxon, önde gelen yapay zeka şirketlerini 'kendini geliştiren süper zekaya doğru yarışmak ve hayatlarımızla kumar oynamakla' suçladı. Paylaşım 150 milyonun üzerinde görüntülendi, en çok da şu cümlesi konuşuldu: 'Yapay zekayı geliştirenler, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor.'
Coxon'a destek beklenmedik bir yerden, Anthropic'in içinden geldi. Şirketin hizalama bilimi (Alignment Science) lideri Evan Hubinger, Coxon'un söylediklerinin 'doğru' olduğunu belirtti. Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığın yok oluşuna yol açma ihtimalini kişisel olarak yüzde 10'un üzerinde gördüğünü de açıkladı.
Gates'in Kristen Welker'la yaptığı röportajın tamamı ise pazar günü NBC ekranlarında yayımlanacak. Gates'in düzenleme konusunda daha fazla ayrıntı vermesi bekleniyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yapay Zekayı Yavaşlatma Çağrıları Çin ile ABD'yi Karşı Karşıya Getirdi
Yorum Yazın