Google'ın Tasarladığı Yapay Zekâların Öfkelenmeye Başladığı Gözlemlendi!
Yaşayan en büyük fizikçi olan Stephen Hawking, geçtiğimiz sene gelişmekte olan yapay zekâ teknolojisiyle ilgili şu sözleri sarf etmişti:
'Yapay zekâlar insanlığın başına gelen ya en iyi şey, ya da en kötü şey olacaklar.'
Umuyoruz ki gerçeklik kazanan bu ihtimallerden ilki olur ve gelecekte onları ürettiğimiz için pişmanlık duymayız...
Google DeepMind şirketi tarafından üretilen yapay zekâlar, geliştirdiğimiz teknoloji konusunda ne kadar dikkatli olmamız gerektiğini gözler önüne seriyor.
DeepMind yapay zekâlarının geliştirilmesi konusunda geçtiğimiz sene büyük aşama kaydedilmiş, robotlara yeni anılar edinme ve bunları hatırlayabilme özelliği kazandırılmıştı. Ayrıca bu yapay zekâlar, dünyanın en iyi Go oyuncularıyla girdikleri karşılaşmalarda kazanan taraf olmuş, insanın kendinden çok daha zeki robotlar yaratabileceğini kanıtlamışlardı.
Son zamanlarda ise bu robotların insan sesini taklit etme becerileri ve işbirliği yapma eğilimleri üzerinde çalışılıyordu.
Çalışmalar gösterdi ki, Google'ın yapay zekâları bir oyunda kaybedeceklerini anladıkları zaman öfkelenmeye ve kazanmalarını sağlayacak agresif stratejiler geliştirmeye başlıyorlar.
Yapay zekâların işbirliği yapma eğilimini test etmek isteyen araştırmacılar, onlara basit bir meyve toplama oyunu oynattılar.
Yapay zekâlardan istenen, bu bilgisayar oyununda birbirleriyle yarışmaları ve mümkün olduğu kadar çok sayıda elma toplamalarıydı. Oyunun başlarında sorunsuz bir şekilde ilerleyen mücadele, elmaların sayısı azaldıkça farklı bir boyut kazanmaya başladı. Daha çok elma toplamak için agresif tavırlar sergileyen robotlar, oyundaki lazerleri kullanarak birbirlerini oyunun dışına atmak ve tüm elmaları kendileri toplamak için mücadele etmeye başladılar.
Söz konusu mücadeleyi aşağıdan izleyebilirsiniz. Bu oyunda elmalar yeşil, lazerler sarı ve yapay zekâlar kırmızı ve mavi renkle temsil ediliyor.
Araştırmacılar yapay zekâlar için daha küçük bir ağ kullandığı zaman yapay zekâların birlikte barış içinde çalışma eğilimleri artıyor.
Bu da demek oluyor ki, tasarlanan yapay zekâlar ne kadar 'zekiyse', birbirlerini sabote etme ihtimalleri de o kadar çok artıyor. Çünkü zeki robotlar çevrelerini daha iyi analiz edebiliyor, fırsatları daha iyi görebiliyor ve alışılmadık taktikler kullanarak rakiplerini mağlup edebiliyorlar. Korkutucu olmaya başladı, değil mi?
Daha sonra robotlardan bir başka oyun daha oynamaları istendi.
Yapay zekâların böyle bir durumda ise işbirliği yapmak için daha fazla çaba gösterdiği gözlemlendi.
Önümüzdeki yıllar için sürücüsüz araçlar geliştirmeyi, insanların yaptığı bazı işleri yapay zekâlara devretmeyi düşünüyoruz ve onların tüm bu işleri bizler için daha güvenli olacak şekilde yürütmelerini istiyoruz. Gerçek şu ki yapay zekâları bizim üretiyor oluşumuz, bizim sahip olduğumuz hassasiyete sahip olacaklarını göstermiyor. Bu sebeple gelecekte yaşanabilecek felaket senaryolarını önleyebilmek için onları daha dikkatli bir biçimde geliştirmemiz, onları daha düşünceli ve işbirliğine yatkın kılacak yazılımlar üretmemiz gerekiyor...
Yorum Yazın
Saçmalık. Yine bir terminatör fantezisi. Yapay zeka da bir bilgisayar programıdır. Onu tasarlayıp kodlayan bir programcısı, nasıl çalışması gerektiğini belir... Devamını Gör
Programcı yapay zekayı terminator olarak kodlarsa ne olacak o zaman ?
modern yapay zeka kodlari klasik programlamadan biraz farklilar. yapilacak is makineye direk olarak programla girilmiyor. sadece istenen sonuca ulasilmasini ... Devamını Gör
Ortaya cikan son kod insanin yazdigi bir sey degil dediğin çok ilgimi çekti. Bundan yıllar sonra çok zeki bir yapay zekayı kontrol etmenin bi yolu olamıyacağ... Devamını Gör
Bilgisayar, programlandığı işi yapar kendi iradesiyle düşünemez, bunun için organik bir zekaya ihtiyacınız var chiplere değil, yani korkmanız gereken robotla... Devamını Gör
İnsanlıkla ilgili her şey öğretilse, programlama içlerinden istediğini seçemez mi? .)