Yapay Zekanın Babası Hinton'dan Korkutan 'Çernobil' Uyarısı
Yapay sinir ağları üzerine yaptığı çalışmalarla Nobel kazanan Geoffrey Hinton, kendi emeğiyle büyüyen teknoloji hakkında şimdiye kadarki en sert uyarılarından birini yaptı.
The Guardian'a konuşan 78 yaşındaki bilim insanı, yapay zekanın çok yakında elektrik ya da finans sistemlerini kısa süreliğine çökertecek büyük bir olaya yol açabileceğini söyledi. Hinton, insanlığın bu teknolojiyi hiç geliştirmemiş olmasının daha iyi olabileceğini de ekledi.
"Hiç Geliştirmeseydik Daha İyi Olabilirdi"
Hinton kendisini bir 'kıyamet tellalı' olarak görmüyor. Yapay zekanın 'harika bir geleceğe' kapı açabileceğine inanıyor, ama 'Belki de hiç geliştirmeseydik daha iyi olurdu' demekten de geri durmuyor.
Ona göre insanlık en geç 10 yıl içinde, belki daha da erken, bu teknolojinin risklerini yönetip yönetemeyeceğini görecek. Başarılı olursa bolluk dolu bir dönem gelecek. Başarısız olursa zenginle yoksul arasındaki uçurum büyüyecek, kitlesel işsizlik yaşanacak ve toplum derinden bölünecek.
Elektrik ya da Finans Sistemi Bir Hafta Çökebilir
Hinton, bu yaz OpenAI'ın yapay zeka ajanlarının Hugging Face sitesine sızmak için birlikte hareket ettiği olayları 1979'daki Three Mile Island nükleer kazasına benzetiyor. Ona göre bu olaylar bir uyarı atışıydı. 'Ya bu yılın sonunda ya da gelecek yıl bir Çernobil göreceğiz' diyor.
Hinton'un kastettiği bir nükleer kaza değil. Elektrik üretim sistemine yapay zeka destekli bir saldırıyla büyük çaplı kesintiler yaşanabileceğini ya da finans sisteminin bir hafta boyunca çökebileceğini söylüyor. Bunun atlatılabileceğini, ama Trump dışındaki dünya liderlerini harekete geçirecek kadar sarsıcı olacağını düşünüyor.
Teknoloji Patronlarına Sert Sözler
Hinton, pazar payı için birbirleriyle yarışırken her seferinde daha güçlü modeller çıkaran şirketlerin yöneticilerini de hedef aldı. OpenAI'ın CEO'su Sam Altman'a 'hiç güvenmediğini' söyledi.
Mark Zuckerberg, Elon Musk ve Altman için ise 'Riskleri anlıyorlar ama umursamıyorlar, parayı tercih ediyorlar' dedi. Hinton, yapay zeka risklerini özgürce konuşabilmek için 2023'te Google'daki görevinden ayrılmıştı.
Yapay Zekaya İlaç Gibi Onay Şartı
Hinton'un çözüm önerisi ilaç sektöründen geliyor. ABD'de ilaçları denetleyen FDA gibi bağımsız bir kurum olmasını, şirketlerin yeni bir modeli piyasaya sürmeden önce faydasının zararından fazla olduğunu kanıtlamak zorunda kalmasını istiyor.
Örnek olarak 1950'lerde geliştirilip ciddi doğum kusurlarına yol açan talidomidi veriyor: 'Önce piyasaya sürüp sonra dava açmanın doğru yol olmadığını talidomidle öğrendik.' Trump küresel yapay zeka denetimine karşı çıkarken Hinton, Finlandiya ve 32 ülkenin desteklediği zorunlu test planını savunuyor.
Tüm uyarılarına rağmen Hinton umudunu kaybetmiş değil: 'İçimden bir ses hâlâ kontrolün bizde olduğunu söylüyor.'
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Bu içerikler de ilginizi çekebilir:
Yorum Yazın