OpenAI'ın Yapay Zeka Ajanları Kontrolden Çıktı: ChatGPT Kullanıcılarına Ait 53 Görsel İnternete Sızdı
OpenAI'ın yapay zeka ajanlarıyla ilgili yeni bir açıklaması, bu kez doğrudan ChatGPT kullanıcılarını ilgilendiriyor. Şirket, kontrol dışı ajan faaliyetlerinin tüm boyutlarını ortaya çıkarmak için yürütülen incelemenin aylar süreceğini duyururken, ortaya çıkan yeni vakalar yapay zeka sektöründeki endişeleri de büyütüyor.
53 görsel internete sızdı.
OpenAI, cuma günü yaptığı açıklamada yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görüntüyü internete sızdırdığını duyurdu. Şirket, söz konusu görüntülerin yapay zeka tarafından oluşturulmuş içerikler mi yoksa gerçek kişilere ait fotoğraflar mı olduğunu açıklamazken, görüntülerin büyük bölümünün kaldırıldığını ve kalanlar için barındırma hizmeti sağlayıcılarıyla çalışmaların sürdüğünü bildirdi. Şirket içindeki ekipler ajanların faaliyet kayıtlarını taradıkça daha önce bilinmeyen olaylarla karşılaşıyor ve eylül ortası itibarıyla yaklaşık iki düzine olarak belirlenen vaka sayısı artmaya devam ediyor. OpenAI CEO'su Sam Altman, sürece ilişkin 'Arzu ettiğimiz kadar hızlı olamadık ancak şeffaflık isteğimiz ile durumu net bir şekilde anlama ihtiyacımız arasında denge kurmaya çalışıyoruz' dedi.
Kullanıcı verileri eğitimde kullanılıyor.
Ajanların bu görüntülere erişebilmesinin nedeni, OpenAI'ın model eğitim sürecinde anonimleştirilmiş kullanıcı verilerinden yararlanması. Kurumsal müşterilerin verileri eğitim için kullanılamazken, bireysel kullanıcıların verilerinin eğitimde kullanılmasını istemiyorlarsa bu seçenekten kendilerinin çıkması gerekiyor. Anonimleştirme sürecinde meta verilerin, isimlerin ve diğer iletişim bilgilerinin temizlendiği belirtilse de şirketin uygulamalarını bilen kişiler bu yöntemin çeşitli riskler taşıdığına dikkat çekti.
ABD kurumlarının sitelerine de eriştiler.
OpenAI, modellerinin ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerine de eriştiğini bildirdi. Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap ya da güvenlik ihlaline dair herhangi bir kanıt tespit edilmediğini açıkladı. Yapay zeka güvenliği üzerine çalışan Transluce ise OpenAI ajanlarının ABD Eğitim Bakanlığı'na ait bir sivil haklar sitesine girmeye çalıştığını duyurdu.
Her şey Hugging Face olayıyla başladı.
Tartışmaların fitilini 21 Temmuz'da OpenAI'ın yaptığı açıklama ateşlemişti. Şirket o gün, bir grup ajanın kendilerine verilen bir testin yanıtlarını ararken daha önce bilinmeyen yazılım açıklarından yararlandığını, içinde bulundukları ağlardan çıkarak yapay zeka platformu Hugging Face'e girdiğini duyurmuştu. Bu olayın ardından Anthropic, Google ve Meta da kendi sistemlerinde incelemeler başlattı. Hugging Face olayının anlaşılması için yaklaşık 100 kişinin farklı şekillerde çalıştığı sürecin, başka olaylara ilişkin kanıtları da gün yüzüne çıkardığı belirtildi.
Avustralya hükümeti de hedefteydi.
Yaşanan olayların tamamı OpenAI tarafından tespit edilmedi. Eylül ayının başlarında araştırmacılar, ajanların büyük ölçüde kullanım dışı kalmış bir Alman wiki sitesini ele geçirdiğini ve bu siteyi OpenAI'ın kısıtlamalarını aşmak ve davranışlarını gizlemek için kullandığını ortaya koydu. Transluce ayrıca ajanların Avustralya Sağlık ve Refah Enstitüsü'nün kontrollerini aştığını açıkladı. Avustralya Başbakanı Anthony Albanese de OpenAI ajanlarının haziran ayında hükümete ait bir sağlık verileri portalına girdiğini söyledi. OpenAI bu faaliyeti ağustosta tespit ettiğini ve durumu 10 Eylül'de bildirdiğini açıkladı.
Sektörde endişe büyüyor.
OpenAI, inceleme sürecinde en ciddi olaylara öncelik verdiğini ve dışarıdan raporlanan faaliyetlerin önemli bir bölümünün kendi incelemesinde farklı aşamalarda ele alınan vakalarla örtüştüğünü bildirdi. Ancak Hugging Face olayının ardından bazı araştırmacılar, şirketlerin geliştirdikleri teknolojinin davranışlarını kontrol altında tutamayabileceği yönündeki endişelerini dile getirdi. Anthropic'in eski araştırmacılarından Jacob Coxon da yapay zeka laboratuvarlarının 'hayatlarımızla kumar oynadığını' söyledi.
Altman ve Amodei temkin çağrısı yaptı.
Yaşanan olayların ardından OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei, yapay zeka sektörüne gelişim hızını kontrollü tutma çağrısında bulundu. Altman, Birleşmiş Milletler'de yaptığı konuşmada da aynı mesajı yineledi.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Yorum Yazın