Yapay Zekanın En Büyük Düşmanı Geliyor: MIT'nin Yazılımı, Yapay Zeka İmzalı Sahte Fotoğrafları Tarihe Gömecek!
2023'ün ilk gününden bu yana hayatımızda epey önemli bir yer edinen yapay zeka endüstrisi neredeyse her sektöre ve alana yayılmış durumda. Çoğu zaman işlerimizde veya araştırmalarımızda kolaylık sağlayan bizlere zaman kazandıran teknolojinin kontrol edilmesi zor olan kötü bir tarafı da var. Özellikle yaratıcılık konusunda çığır açan yapay zeka araçları, geçtiğimiz 6-7 aylık süreçte sahte olup olmadığı anlaşılamayan ve tüm dünyada panik havasına yol açan görseller hala hepimizin aklında. Tam da bu durum için harekete MIT, PhotoGuard adı verilen sahte fotoğrafçılığı tarihe gömebilecek bir yazılımı geliştirme kararı aldı. Detaylar haberde.
Geçtiğimiz 2022 yılının sonlarından itibaren gelişen yapay zeka teknolojisi ile beraber sahte olup olmadığı ayırt edilemeyecek gerçeklikte görsellerin oluşturulabildiğine şahit olduk.
Sadece birkaç kelime veya ipucu ile oluşturulan yapay zeka imzalı bu fotoğraflar, ilk olarak meşhur Papa görseli ile ünlenmişti.
İlerleyen süreçlerde birçok kullanıcı, kendi yapay zeka fotoğraflarını oluşturmak için harekete geçti. Her ne kadar ortaya çıkan görseller epey gerçekçi ve başarılı olsa da tehlikeli potansiyeller taşıyordu.
Örnek olarak, geçtiğimiz aylarda oluşturulan ve sosyal medyada yayınlanan "Pentagon'da Patlama" fotoğrafı, kısa süreli de olsa büyük bir panik havası yaratarak borsa dengelerini sallamıştı.
Detaylar için:
Şimdi ise, söz konusu tehlike arz eden sahte yapay zeka fotoğraflarını engellemek adına harekete geçen Massachusetts Teknoloji Enstitüsü (MIT), yeni bir yazılımı geliştirme peşinde.
Enstitünün yeni "PhotoGuard" isimli yazılımı, yapay zeka araçlarının özellikle insan yüzlerini üreteceği görsellere entegre etmesini zorlaştıracak. İyi güzel de nasıl olacak bu iş?
MIT'nin yeni PhotoGuard yazılımı, temelde bir görseldeki çeşitli pikselleri, yapay zekanın görüntüyü tam olarak anlayamayacağı şekilde değiştirilmesi ile çalışıyor. Enstitüdeki araştırma ekibinin tabiriyle bu “düzensizlikler” insan gözüyle görülemez ancak makineler tarafından kolayca okunabilir bir forma sahip.
PhotoGuard'ın ilk temel görevi, yapay zekanın görsellerinde kullanmak istediği fotoğrafları farklı piksellerle donatılarak bilgisayar tarafından anlaşılmasını zorlamak olacak.
MIT'nin yeni yapay zekanın kontrol edilmesi zor yaratıcılığını dizginleyen yazılımını duyuran Hadi Salman'a göre, yeni PhotoGuard bir an önce tüm kamera uygulamalarına entegre edilmeli ve yapay zeka imzalı sahte fotoğrafların önüne geçilmeli.
Yorum Yazın