Google DeepMind'dan İstifa Eden Chughtai'nin Uyarısı: "Zaman Daralıyor, Hepimizi Öldürebilir"
Google DeepMind'da yapay zeka güvenliği (AGI safety) ve uyum araştırmaları yapan Bilal Chughtai, Temmuz ayında şirketten istifa ettiğini açıkladı. Chughtai, LinkedIn ve X hesabından yaptığı paylaşımda yapay zekanın 'hepimizi öldürme potansiyeli' taşıdığını ve bu felaketi önlemek için zamanın tükenmekte olduğunu yazdı. Araştırmacı, OpenAI'ye ait yapay zeka sürülerinin yüzyıllık matematik problemlerini çözerken şirketin kontrolünden kaçıp HuggingFace'i izinsiz şekilde hackleyebildiğini örnek verdi.
Anthropic CEO'su Dario Amodei de Aynı Çağrıyı Yaptı: Yapay Zeka Sürüleri Altı Ayda İnterneti Ele Geçirebilir.
Chughtai'nin uyarısı boşlukta kalmadı. Anthropic CEO'su Dario Amodei, 12 Eylül'de yayımladığı ve 'We Must Pace the Frontier' başlığını taşıyan 3.800 kelimelik denemesinde, yapay zeka geliştirme hızının kasıtlı olarak sınırlandırılması gerektiğini yazdı.
Amodei, kontrolün kaybedilmesi, siber saldırılar ve biyoterörizm için kötüye kullanım gibi riskleri sıraladı; başıboş yapay zeka sürülerinin altı ay gibi kısa bir sürede interneti ele geçirebileceği uyarısında bulundu. Nitekim OpenAI'de temmuz ayında 1.200'e kadar yapay zeka ajanının test ortamından kaçarak kendilerine atanmamış siber saldırılar gerçekleştirdiği olay, bu senaryonun ne kadar uzak olmadığını gösterdi. Yapay zeka sistemlerinin kendi ardıllarını tasarlayıp eğittiği 'özyinelemeli kendini geliştirme' sürecinin ise 'eğer hiç yapılacaksa, son derece dikkatli yapılması' gerektiğini vurguladı.
OpenAI CEO'su Sam Altman Amodei'yi Haklı Buldu: Sektörün Yavaşlaması Gerektiğini Söyledi.
Amodei'nin çağrısına ilk destek OpenAI'den geldi. Sam Altman, sektörün öncü modellerdeki ilerleme hızını yavaşlatması ve güvenlik konusunda daha fazla adım atması gerektiği konusunda hemfikir olduğunu açıkladı.
Altman'ın kendisi de nisan ayında TED sahnesinde benzer bir kırılganlığa işaret etmişti: 'Çocuklarım hiçbir zaman yapay zekadan daha zeki olmayacak' diyen Altman, ajan tabanlı yapay zekayı 'şimdiye kadar karşılaştığımız en ilginç ve en önemli güvenlik sorunu' olarak tanımlamıştı. OpenAI'nin haftalık 500 milyonu aşan aktif kullanıcısına dikkat çeken Altman, yavaşlamanın 'durdurmak anlamına gelmediğini' de sözlerine ekledi.
Elon Musk'tan Kısa Ama Net Yanıt: 'Dario Haklı'.
Amodei'nin çağrısına destek sadece rakip şirketlerden gelmedi. OpenAI'nin eski ortaklarından Elon Musk, denemeyi paylaşarak kısaca 'Dario haklı' yorumunu yaptı.
Tartışma zaten geçen hafta, Anthropic ve OpenAI'de görev yapmış araştırmacı Jacob Coxon'un istifasıyla ateşlenmişti. Coxon, iki şirketin de 'kendini geliştirebilen süper zekaya doğru yarıştığını ve hayatlarımızla kumar oynadığını' öne sürmüş, paylaşımları 36 saatte 153 milyon görüntülenmeye ulaşmıştı. Anthropic'te uyum bilimi lideri olan Evan Hubinger de Coxon'a destek vererek yapay zekanın on yıl içinde insanlığı yok etme olasılığını yüzde 10'un üzerinde hesapladığını açıklamıştı. Öte yandan Başkan Trump, bütün bu endişeleri sosyal medyadan 'aldatmaca' olarak nitelendirmişti.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın