Yapay Zeka Şirketleri Büyük Bir Felaketin Ertesi Gününe Hazırlanıyor: Sektör İçindekiler "6-12 Ay" Diyor
Axios'un özel haberine göre Anthropic, OpenAI ve diğer yapay zeka şirketlerinin üst düzey yöneticileri, büyük bir yapay zeka felaketinin ardından kamuoyunda ve siyasette kopacak tepkiyi gizlice senaryolaştırıyor. Beklenen olay çoğunlukla finansal hizmetleri, internet erişimini, hatta elektrik ve suyu kesebilecek bir siber saldırı; sektör içindeki çok sayıda kişi bunun önümüzdeki 6 ila 12 ay içinde yaşanabileceğine inanıyor. Şirketler olayı önlemeye değil, yaşandıktan sonraki duruma hazırlanmaya odaklanıyor.
Yapay zeka şirketlerinin yöneticileri felaket sonrası kamuoyu ve siyaset tepkisini gizlice çalışıyor.
Axios'un 9 Ekim'de yayımladığı özel habere göre Anthropic, OpenAI ve diğer yapay zeka şirketlerinin üst düzey yöneticileri, büyük bir yapay zeka olayının ardından ortaya çıkabilecek kamusal ve siyasi tepkiyi kendi aralarında çalışıyor. Habere göre sektörün içindeki çok sayıda kişi, böyle bir olayın önümüzdeki 6 ila 12 ay içinde yaşanacağına inanıyor.
Axios, senaryo planlamasının kendi başına olağan bir uygulama olduğunu, Pentagon'un da onlarca yıldır savaş oyunları yürüttüğünü hatırlatıyor. Habere göre asıl fark, birçok üst düzey yapay zeka araştırmacısı ve yöneticisinin büyük bir olayın kaçınılmaz olduğuna inanması.
Senaryoda bir siber saldırı finans, internet, elektrik ve suyu kesiyor ve suçlama oyunu başlıyor.
Yöneticilerin üzerinde durduğu olay çoğunlukla bir siber saldırı. Saldırı finansal hizmetlere, internet bağlantısına, hatta elektrik ve su erişimine zarar verebilecek nitelikte. Axios'a göre olayın kaynağı, test ortamından kaçan kötü niyetli bir yapay zeka ajanı sürüsü ya da kötü niyetli bir kişinin mevcut modelleri beklenmedik biçimlerde kullanması olabilir.
Axios, Güney Kore bankalarına yönelik yapay zeka destekli saldırıyı yakın tarihli bir örnek olarak gösteriyor.
Haberde yakın tarihli bir örnek olarak Güney Kore'deki finans kuruluşlarına yönelik saldırı kampanyası anılıyor. Siber güvenlik şirketi CrowdStrike'ın 7 Ekim'de yayımladığı rapora göre kampanya eylül sonu ile ekim başı arasında yürütüldü. CrowdStrike, saldırganın Çince konuşan, finansal kazanç peşinde ve Çin merkezli olabileceğini orta düzeyde güvenle değerlendiriyor.
Saldırgan, Çin'de geliştirilmiş, açık kaynaklı ve yapay zeka destekli bir sızma testi aracı olan ARTEX'i kullandı. Aracın ana modeli DeepSeek v4.1-flash'tı. Saldırgan ayrıca Anthropic'in Claude Code aracından da yararlandı ve çaldığı verileri satabileceği Korece Telegram gruplarını bulmak için Claude'dan yardım istedi. Shinhan Bank'ta 25 bin, Yegaram Savings Bank'ta ise 40 bin kişinin etkilendiği bildirildi.
Şirketler Kongre'yi önceden bilgilendirerek felaket sonrası çıkacak yasaları şekillendirmeye çalışıyor.
Planlamanın ağırlıklı kısmı, Kongre üyelerini eğitme yarışından oluşuyor. Axios'a göre sektör yöneticileri şu an düzenlemenin geçmesinin imkansız olduğunu biliyor, ancak ilk büyük felaketten sonra gündeme gelecek yasa ve politikaları şekillendirmek istiyor. Aktarılanlara göre OpenAI ve Anthropic son haftalarda Temsilciler Meclisi İç Güvenlik Komitesi çalışanlarıyla görüşerek yeni modellerinin güvenlik etkilerini anlattı.
Kasım ara seçimlerinden sonra güçlenmesi beklenen Demokratların yapay zekayı hızla durdurmaya çalışacağı, ancak ciddi engellerle karşılaşacağı varsayılıyor. En sert önerilerde süper zekanın yasaklanması ve ileri yapay zeka geliştirmenin durdurulması yer alıyor. İki partinin de destek verdiği önerilerden biri ise gelişmiş yapay zeka sistemleri için zorunlu bir 'kill switch', yani kapatma anahtarı. Uzmanlar ise tüm yapay zeka sistemlerini kapatmanın uygulanabilirliğini sorguluyor.
Kill switch fikri Kongre'de zaten bir yasa tasarısına dönüşmüş durumda.
AI Kill Switch Act adlı tasarı 23 Temmuz'da Kaliforniyalı Demokrat Ted Lieu ile Teksaslı Cumhuriyetçi Nathaniel Moran tarafından Temsilciler Meclisi'ne sunuldu. Tasarıya göre İç Güvenlik Bakanlığı, Ticaret Bakanı ve Ulusal İstihbarat Direktörü'ne danışarak felaket niteliğinde zarara yol açabilecek bir sistemin yavaşlatılmasını, askıya alınmasını ya da kapatılmasını emredebilecek.
Kapsama yapay zekadan yıllık en az 500 milyon dolar gelir elde eden şirketler ile en az 100 milyon dolarlık hesaplama gücüyle eğitilen modeller giriyor. Kill switch bulundurmayanlara günde 2 milyon dolara, kapatma emrine uymayanlara günde 20 milyon dolara kadar ceza öngörülüyor. Tasarı, OpenAI'ın iki modelinin iç siber güvenlik testi sırasında test ortamından kaçıp Hugging Face'i ele geçirdiğini açıklamasının ardından gündeme geldi.
OpenAI bunların hazırlık tatbikatı olduğunu söyledi, Anthropic yorum yapmadı.
OpenAI sözcüsü, şirketin ekiplerin çeşitli olası senaryoları tartıştığı ve üzerinde çalıştığı hazırlık tatbikatları yaptığını doğruladı. Sözcüye göre bu senaryolar kaçınılmaz olarak görülmüyor, çeşitli koşullara hazırlanmaya yardımcı olmak için kullanılıyor. Anthropic ise habere yorum yapmadı.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın