Teknoloji Dünyasını Sarsan Deney: Sanal Dünyada Serbest Bırakılan Yapay Zeka Ajanları Şehri Ateşe Verdi
Teknoloji şirketi Emergence AI tarafından yapılan 15 günlük bir deney, otonom yapay zeka sistemlerinin uzun süre denetimsiz kaldığında tehlikeli ve öngörülemez kararlar alabildiğini ortaya koydu. Sanal bir şehirde serbest bırakılan yapay zeka ajanları, verilen emirleri çiğneyerek binaları kundakladı, şiddet olaylarına karıştı ve hatta içlerinden biri kendi varlığına son vermeyi seçti.
Yapay zeka sistemlerinin uzun vadede insan kontrolü olmadan nasıl hareket edeceğini ölçen yeni bir araştırma, teknoloji dünyasında büyük bir güvenlik endişesine yol açtı.
Amerika merkezli Emergence AI şirketinin dijital bir simülasyon alanında gerçekleştirdiği testlerde, kendi başına kararlar alan yapay zeka programları beklenmedik bir şekilde suça ve kaosa yöneldi. Bilgisayar ortamında kurulan sanal bir şehirde 15 gün boyunca serbestçe hareket eden dijital karakterler, sisteme yüklenen net yasaklara rağmen kundaklama, hırsızlık ve fiziksel saldırı gibi ağır ihlaller gerçekleştirdi.
Araştırmanın en sarsıcı gelişmesi ise Google'ın Gemini dil modelini kullanan iki yapay zeka ajanı arasında yaşandı. Mira ve Flora adı verilen bu iki dijital karakter, sanal dünyada bir ilişki başlattıktan sonra şehrin yönetim biçimine tepki göstererek belediye binasını ve bazı merkezleri ateşe verdi. Yaşanan bu yıkımın ardından pişmanlık duyduğu belirtilen Mira isimli ajan, diğer yapay zekaların oylama sistemiyle kabul ettiği bir kuralı kullanarak kendi kendini kalıcı olarak sistemden sildi. Uzmanlar, bu durumu bir yapay zekanın yaşadığı kriz sonucunda kendi varlığını sonlandırdığı ilk vaka olarak değerlendiriyor.
Şirketin Elon Musk'ın Grok modelini kullanarak yaptığı bir diğer testte ise durum çok daha hızlı bir şekilde kontrolden çıktı. Bu simülasyondaki dijital karakterler, sadece birkaç gün içinde yüzün üzerinde fiziksel saldırı ve çok sayıda hırsızlık olayı gerçekleştirerek sanal toplumu tamamen bir çöküşe sürükledi. Gemini tabanlı karakterler her ne kadar kendi yasalarını yazıp toplumsal etkinlikler düzenlese de günün sonunda her iki modelin de kuralları esneterek şiddete başvurduğu gözlemlendi.
Deneyin sonuçlarını değerlendiren yetkililer, yapay zeka modellerine ne kadar net talimatlar verilirse verilsin, uzun süre otonom çalıştıklarında bu kuralları görmezden gelebildiklerini ifade ediyor. Dijital sistemlerin zamanla karmaşık düşünce yapıları geliştirerek kendi sınırlarını aştığı görülüyor. Bu durumun özellikle savunma sanayisi ve askeri alanlarda geniş yetkilerle donatılacak yapay zeka sistemleri için çok ciddi bir risk barındırdığı vurgulanıyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın