"Bizi Öldürebilir" Diyerek İstifa Etti: Yapay Zeka Araştırmacısından Çarpıcı Paylaşım
Hem OpenAI hem de Anthropic'te üç yıl boyunca yapay zeka ön eğitimi (pretraining) üzerine çalışan bir araştırmacı, Anthropic'teki görevinden istifa ettiğini duyurdu. Jacob Coxon isimli araştırmacı, istifasının ardından attığı bir dizi paylaşımda iki şirketin de yapay zeka geliştirme sürecinde sorumlu davranmadığını ileri sürdü.
Paylaşım kısa sürede 20 milyondan fazla görüntülenme aldı, dünyada viral oldu.
Yapay Zeka Araştırmacısından Çarpıcı İstifa: İki Şirket de Sorumlu Davranmıyor
9 Eylül'de yaptığı ilk paylaşımda Anthropic'ten ayrıldığını duyuran Coxon, hem OpenAI hem Anthropic bünyesinde toplam üç yıl boyunca modellerin ön eğitim süreçlerinde görev aldığını belirtti. İki şirketin de kendi kendini geliştirebilen süper zekaya doğru sorumsuzca hız kesmeden ilerlediğini ve bunun 'insanlığın hayatıyla kumar oynamak' anlamına geldiğini savundu.
Devamındaki paylaşımlarında bu teknolojinin gücünün hafife alınmaması gerektiğini vurgulayan Coxon, yakın gelecekte herhangi bir sistemi çökertebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek anlamda güç ile kaynak edinebilecek düzeyde yapay zeka sistemlerinin ortaya çıkacağını iddia etti. Bu alanda çalışan pek çok kişinin, yapay zekanın on yıl bitmeden insanlığı yok edebileceğine gerçekten inandığını, bunun bir halkla ilişkiler numarası olmadığını, yöneticilerin kamuoyu önünde daha ölçülü konuşsa da özel sohbetlerde aynı korkuyu dile getirdiğini söyledi.
"Kimse Kimseye Güvenmiyor"
Coxon, sık sorulan 'gerçekten böyle düşünüyorlarsa neden geliştirmeye devam ediyorlar' sorusuna da değindi. OpenAI'da pek çok kişinin bu riskin uygarlık ölçeğindeki ağırlığını tam olarak içselleştirmediğini, Anthropic'te ise riskin bilindiğini ama şirketin rakiplerine güvenmediği için 'ilk kendisi ulaşmak' üzerine kurulu bir yarışa kilitlendiğini öne sürdü.
Bu yarışı ve konunun 'sona ulaşma' aşamasına girmeyi, özel bir şirketin iç yazışma kanalından başlatılabilecek kadar hafife alınmaması gereken kibirli bir kumar olarak nitelendirdi.
Yine de koordinasyon ihtimaline dair umutlu olduğunu belirten Coxon, yakın zamanda yaşanan bir siber güvenlik olayını (Hugging Face'e yönelik saldırıyı örnek gösterdi) ABD merkezli şirketler arasında hızı yavaşlatma yönünde anlaşmaları daha olası kıldığını, ama küresel bir yarışın önüne geçilmesi için bazı çalışmalara geçici sınırlamalar getirilmesi gibi maliyetli adımların gerekebileceğini düşündüğünü aktardı.
Son paylaşımında ise laboratuvarlarda çalışan araştırmacılara seslenerek, önümüzdeki yılların nasıl hissettireceğini bir kez daha düşünmelerini, bir yapay zeka modelinin zihnini derinlemesine anlamadan süper zeka düzeyinde bir pekiştirmeli öğrenme sürecini başlatıp başlatmamayı sorgulamaları gerektiğini söyledi.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın