Yapay Zeka Sektörünün Devlerinden "Ani Fren" Niteliğinde Çağrı: Yavaşlama Konusunda Birleştiler
Yapay zeka teknolojileri her geçen gün daha hızlı gelişirken sektörün önde gelen isimlerinden dikkat çeken açıklamalar gelmeye devam ediyor. Anthropic CEO'su Dario Amodei, AI sektörünün gelişim hızının yavaşlatılması gerektiğini savundu. Amodei'nin çağrısına OpenAI CEO'su Sam Altman ve Elon Musk da destek verdi. Üç ismin açıklamaları yapay zekanın geleceği ve güvenliği konusundaki tartışmaları yeniden gündeme taşıdı.
Detaylar 👇
Yapay zekanın gelişim hızı neden tartışılıyor?
Yapay zekanın hızla gelişmesiyle birlikte teknolojinin güvenliği konusunda endişeler de giderek büyüyor. Son günlerde AI modellerinin savaşta silah ve saldırı teknolojilerinin geliştirilmesinde kullanıldığına dair haberler gündeme gelirken, yapay zeka destekli sistemlerin siber saldırılarda ve farklı suçlarda kullanılabilmesi de tartışılıyor. Bunun yanında sektörden bazı araştırmacılar, kontrol edilemeyen ve kendi kendini geliştirebilen yapay zekaların ileride insanlık için varoluşsal bir tehdit oluşturabileceği konusunda açıkça uyarıyor. Anthropic araştırmacısı Jacob Coxon'ın istifasının ardından yaptığı “AI hepimizi öldürebilir” uyarısı da bu tartışmayı yeniden alevlendirdi.
Ayrıca Temmuz ayında 1.300'den fazla AI şirketi çalışanının imzaladığı “Pacing the Frontier” bildirisi de yapay zeka araştırmalarındaki ilerlemenin gerektiğinde yavaşlatılabilmesi için teknik ve yönetişim araçlarının geliştirilmesini istemişti.
Anthropic CEO'su Dario Amodei de yayımladığı yeni yazısında benzer bir noktaya dikkat çekti. Amodei, yapay zeka sektörünün “frontier” olarak adlandırılan en gelişmiş sistemlerdeki ilerleme hızını kontrol altına alması gerektiğini savunurken, bunun için üç aşamalı bir plan önerdi. Bu planın ilk adımı olarak Anthropic bağımsız üçüncü taraf değerlendiricilere sistemlerine sürekli ve çalışanlarla benzer düzeyde erişim sağlamayı taahhüt etti.
Dario Amodei: “AI endüstrisi yavaşlamalı”
Amodei, X üzerinden yaptığı paylaşımda “Cepheyi Yavaşlatmalıyız” başlıklı yeni yazısını duyurdu. Anthropic CEO'su, şirketinin bağımsız değerlendiricilere kalıcı erişim vereceğini ve bu kişilerin güvenlik önlemlerine uyulup uyulmadığını kontrol edebileceğini belirtti.
Bu değerlendiriciler ayrıca yaşanan güvenlik olaylarını raporlayabilecek ve modellerin eğitim sürecindeki davranışlarını inceleyebilecek. Amodei'nin yaklaşımı, yapay zeka şirketlerinin kendi güvenlik değerlendirmelerine ek olarak bağımsız denetimin de devreye girmesini öngörüyor.
Sam Altman ve Elon Musk'tan Amodei'ye destek
Amodei'nin çağrısına OpenAI CEO'su Sam Altman'dan da kısa sürede destek geldi. Altman, “Dario ile AI gelişim hızını ayarlamamız gerektiği konusunda hemfikirim” diyerek konunun son haftalarda OpenAI içerisinde de önemli bir gündem maddesi olduğunu söyledi.
Altman ayrıca bağımsız değerlendiricilerin şirket sistemlerine çalışan benzeri erişime sahip olmasının iyi bir fikir olduğunu belirterek OpenAI'ın da benzer bir uygulamayı hayata geçireceğini açıkladı.
Elon Musk ise Amodei'nin paylaşımına yalnızca “Dario haklı” diyerek yanıt verdi. Böylece yapay zeka sektörünün farklı kanatlarından üç önemli isim, AI teknolojilerinin gelişim hızının güvenlik önlemleriyle birlikte ele alınması gerektiği konusunda aynı noktada buluşmuş oldu.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir;
Yorum Yazın