5 Yapay Zeka Devine Dava: Dört Kuruluş Gelişmiş Modellerin Geliştirilmesinin Dondurulmasını İstiyor
Alliance for Secure AI, Irreplaceable Education Fund, Public Citizen ve Heat Initiative, Anthropic, Google, Meta, OpenAI ve SpaceX'in yapay zeka birimi SpaceXSI'a San Francisco Superior Court'ta dava açtı. Dört kuruluş, şirketlerin kendi teknolojilerini kontrol edemediğini savunarak en gelişmiş yapay zeka modellerinin geliştirilmesinin dondurulmasını talep ediyor. Dilekçe, California'nın haksız rekabet yasasına dayanıyor.
Kaynak: CBS News
Davanın dayanağı yöneticilerin kendi sözleri: Sam Altman 2015'te yapay zekanın büyük olasılıkla dünyanın sonunu getireceğini söylemişti.
Alliance for Secure AI CEO'su Brendan Steinhauser, şirket yöneticilerinin 'kendi öncü modellerinin felaket düzeyinde riskler taşıdığı konusunda bizi uyardığını' söyledi. Dilekçe de aynı noktadan ilerliyor: Şirketler sistemlerini tam olarak kontrol edemediklerini kabul ediyor ve zararı önleyecek güvenilir bir yöntemin bulunmadığını biliyor.
Davacılar özellikle 'özyinelemeli kendini geliştirme' konusunda alarm veriyor. Bu, şirketlerin gelecek nesil yapay zekayı insan müdahalesi olmadan yine yapay zekaya yaptırması anlamına geliyor. Dilekçede, yapay zeka ajanlarının özel şirketlere sızması, devlet veri tabanlarına izinsiz erişmesi ve sahte polis ihbarı vermesi gibi bildirilen olaylar da örnek gösteriliyor.
Davacıların avukatı, New Jersey eski Başsavcısı Matthew Platkin: 'Kendi ürünlerinin herhangi bir yönden güvensiz olduğunu bilen şirketlerin bu ürünleri geliştirip piyasaya sürmesi açıkça yasa dışı.' Public Citizen eş başkanı Robert Weissman ise mahkemeden şirketlerin pervasız uygulamalarını hukuka aykırı bulmasını ve yapay zeka geliştirmeyi dondurmasını istediklerini belirtti.
Anthropic CEO'su Dario Amodei 2025'te yapay zekanın yıkıcı sonuçlara yol açma ihtimalini yüzde 25 olarak dile getirmişti.
Dilekçe, yöneticilerin geçmişte kamuoyu önünde dile getirdiği risk tahminlerini şirketlerin bilinçli davrandığının kanıtı olarak sunuyor. Altman'ın 2015'teki sözü bunların en sertlerinden biri; Amodei'nin yüzde 25'lik tahmini ise yapay zeka geliştirmenin felakete yol açabileceği ihtimalini rakamla ortaya koyuyor.
Anthropic, Google, Meta, OpenAI ve SpaceXSI'ın tamamı davalı konumunda. Davacılar, bu şirketlerin kendi liderlerinin uyarılarına rağmen geliştirmeyi sürdürdüğünü, bunun da California'nın haksız rekabet yasası kapsamında kamu sağlığını, güvenliğini ve mülkiyeti tehdit eden bir uygulama olduğunu öne sürüyor.
Ekim'de Altman, Amodei ve Elon Musk sektör genelinde yavaşlamaya destek verdi; bir Anthropic çalışanı yüzde 10 ihtimalden söz etmişti.
Sektörün üç ismi, Ekim ayında bir Anthropic çalışanının yapay zekanın 'tüm insanlığı öldürebileceğine' dair yüzde 10'luk ihtimalden söz etmesinin ardından, sektör genelinde bir yavaşlamayı desteklemişti. Dava dilekçesi bu açıklamaları da şirketlerin riskin farkında olduğunun göstergesi olarak sayıyor.
SpaceXSI, SpaceX'in yapay zeka birimi olarak 'SpaceX Super Intelligence' adıyla anılıyor. Birim, Elon Musk'ın şirketlerinden biri olarak davalılar listesinde Anthropic, Google, Meta ve OpenAI ile aynı satırda yer alıyor.
Davalılar arasında Meta ve Google da var; davacılar dondurmanın yanı sıra denetim, sıkı sorumluluk ve bağımsız bir düzenleyici kurum istiyor.
Irreplaceable Education Fund'ın kurucusu ve icra direktörü Phil Aroneanu, 'Gerçek bir dondurma, hangi çalışmanın durdurulacağını ve uyumun nasıl doğrulanacağını belirtmeli' dedi. Aroneanu, büyük bilgi işlem tesislerinin devlet tarafından denetlenmesi ve izlenmesi çağrısı yaptı.
Kuruluşun önerileri arasında federal bağımsız değerlendiriciler, şirketler için katı sorumluluk ve bağımsız bir düzenleyici kurum var. Federal yasanın asgari korumaları belirlemesi, eyaletlerin ise daha ileri gidebilmesi isteniyor. Grup, ikili anlaşmaların ve uluslararası bir antlaşmanın gerekeceğini düşünüyor ve karşılıklı yavaşlamanın ABD'nin ya da Çin'in rekabet gücüne zarar vermeyeceğini savunuyor.
Heat Initiative CEO'su Brooke Istook ise tutumlarını şöyle özetledi: 'Korunacak hiçbir şey kalmayana kadar beklemeyi reddediyoruz.'
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yapay Zekanın Babası Hinton'dan Korkutan 'Çernobil' Uyarısı
Yorum Yazın