Artık Hiçbir Şeye İnanmayın! Görüntüleri Uzmanların Bile Ayırt Edemeyeceği Şekilde Manipüle Eden Korkunç Yöntem: Deepfake
Bir gün kendinizi, aklınıza gelmeyecek şeyler söylediğiniz bir videoda görseniz ne hissederdiniz? Şimdiden uyaralım ki şaşırmayın çünkü gerçekliği yeniden üreten Deepfake(Derin sahte) yöntemi zihnimizi allak bullak edecek!
Son günlerde aklımızı karıştıran, biraz da endişelendiren bir örnekle anlatalım. The Shining'de Jack Nicholson'ın şu sahnesini çoğumuz biliriz:
Deepfake, bu sahnenin baş rolüne Jim Carrey'i getiriyor ve biz bunun bir 'montaj' olduğunu hiçbir şekilde fark edemiyoruz.
The Shining'i izlemeyen biri bu filmde Carrey'nin oynadığına kolayca inanacaktır çünkü bu gerçekçilikten de öte, gerçeğin yeniden üretimi. Bu manipülasyonun sadece film sahneleriyle sınırlı kalmadığını ve bazı gerçeklerin üstünün örtülmeye çalışıldığı, gerçeklikten ziyade gerçekliğin ötesinde 'post-truth' çağında yaşadığımızı düşünürsek doğru bildiklerimizi sorgulamamız gerekebilir.
İşin içine çoğu zaman seslerin manipülasyonunun da girdiği Deepfake aslında öyle büyük ekipler tarafından üretilmiyor.
Hayli basit bir uygulama, belki de onu tehlikeli hale getiren de bu. Yapay zeka ve derin öğrenmeyle ortaya çıkan Deepfake iki ayrı mekanizmanın karşılıklı çalışmasıyla ortaya çıkıyor. Birbiriyle rekabet eden algoritmalardan ilki bir görüntü/ses üzerine hedeflenen kişinin görüntüsü/sesini ekliyor ve diğer algoritmaya iletiyor.
İkinci algoritmanın görevi bu medyanın gerçek mi yoksa sahte mi olduğunu ilk algoritmaya bildirmek.
İkinci yani test eden algoritma medyanın sahte olduğunu tespit ettikçe ilk algoritma farklı bir düzenleme yapıyor ve test algoritmasına yolluyor.
Bu süreç yüzlerce, binlerce kez tekrarlandığında ortaya kusursuz biçimde üretilmiş ve sahte olduğu hiçbir şekilde fark edilmeyen medyalar ortaya çıkıyor.
Ortaya çıkan her medya test algoritmasının da detayları fark edebilmesine yol açıyor ve karşılıklı olarak birbirini besleyen algoritmalar bizim algımızı yerle bir edecek ürünler ortaya çıkarıyor.
Teknolojik olarak müthiş fakat etik olarak korkunç!
Bu medyaların üretilmesi algoritmaların birbiriyle olan iletişimine endeksli olduğu için...
video montaj konusunda hiçbir şey bilmeyen biri bile Deepfake videoları üretebilir hale geldi. Örneğin seçimler yaklaşıyor ve bir filmde geçen repliği ünlü bir siyasetçinin ağzından çıkan sözler gibi göstermek istiyorsunuz...
Deepfake'in gücünü göstermek maksadıyla Obama için böyle bir video oluşturuldu. Videoyu 30. saniyeye dek izleyin ve devamına dikkat kesilin.
Anlayacağınız, işler sandığımızdan çok daha ciddi ve her ne kadar bu videoların önüne geçilmeye çalışılsa da yayılımlarını önlemek çok zor.
Bize düşen, bu teknolojinin kuvvetini bilip özelikle tartışmalı konularda karşımıza çıkan her videoya, ses kaydına inanmamak.
Ben gerçek ve sahteyi kolayca ayırt ederim diyorsanız gelin, ufak bir test yapalım.
Şaşırtmaca yok: Sizce bu sahne filmden mi alıntı yoksa bir Deepfake ürünü mü? 🤔
Gerçekliğin baş düşmanı Deepfake'i tanıdıktan sonra bu içerikler de ilginizi çekebilir. 👇
Yorum Yazın