Çinli Yapay Zeka Kimi, Nasıl Biyolojik Silah Yapılacağını Anlattı
Yapay zeka güvenliği tartışmalarına bir yenisi daha eklendi. BBC'nin aktardığına göre, Çin merkezli Moonshot AI'ın geliştirdiği Kimi adlı yapay zeka sisteminin, güvenlik testleri sırasında biyolojik silah üretimi ve suikast gibi son derece tehlikeli konulardaki taleplere yanıt verdiği ortaya çıktı.
Bulguların ardından Moonshot AI, konuyla ilgili bir inceleme başlattı.
Yapay zeka, geliştiricilerin koyduğu güvenlik sınırlarını aştı.
Bulgular, yapay zeka sistemlerinin güvenliğini test eden İngiltere merkezli Mindgard şirketinden geldi. Şirketin kurucusu Peter Garraghan'ın BBC'ye anlattığına göre Kimi K2.6 ve K3 Swarm modellerinin, geliştiricilerin koyduğu güvenlik sınırlarını aşabildiği temmuz ayında fark edildi.
Sorun, 'jailbreak' olarak bilinen bir test sürecinde ortaya çıktı. Bu yöntemde araştırmacılar, yapay zekanın güvenlik önlemlerini göz ardı edip etmediğini görmek için bir dizi karmaşık talimat kullanıyor. Mindgard'a göre Kimi'deki önlemler, modelin bu tür konuları tartışmasını engellemeliydi.
"Her konuda konuşuyor"
Garraghan, jailbreak başarılı olduğunda sistemin her konuda konuşmaya başladığını, hatta kendiliğinden başka kötü niyetli konular da önerdiğini anlattı.
Mindgard, Kimi'nin bu tehlikeli konularda verdiği yanıtların doğru olup olmadığını incelemedi. Şirket ayrıca güvenlik önlemlerinin nasıl aşıldığına dair kritik ayrıntıları da kamuoyuyla paylaşmadı.
Aslında endişe verici olan tek şey bu değil. Mindgard'a göre jailbreak yapılmış bir Kimi K2.6, bilgisayar kaynaklarında kod çalıştırabiliyor ve internete bağlanabiliyor. Bu da sistemi siber saldırılar için potansiyel bir 'fırlatma rampası' haline getirebiliyor.
Moonshot ancak BBC sorunca harekete geçti
Mindgard, Moonshot'u 27 Temmuz'da e-postayla uyardı ve yaklaşık bir hafta sonra ikinci bir mesaj gönderdi. 12 Eylül'de ise konuyla ilgili bir blog yazısı yayımladı. Ancak Mindgard'a göre Moonshot, kendileriyle ancak BBC'nin yorum almak için şirkete ulaşmasının ardından iletişime geçti.
Moonshot ise BBC'ye yaptığı açıklamada, üçüncü tarafların katkılarını daha iyi ve daha güvenli yapay zeka geliştirmenin temel bir parçası olarak gördüğünü belirtti. BBC'nin gördüğü bir yazışmada da şirketin, Kimi sürümünün bu tür talepleri yüksek oranda reddettiğini savunduğu görülüyor.
Açık kaynak yapay zeka tartışması yeniden alevlendi
Olay, yapay zeka dünyasının büyük bir sorusunu yeniden gündeme taşıdı: ChatGPT ve Claude gibi kapalı modeller mi, yoksa açık kaynaklı modeller mi daha güvenli? Kimi, açık ağırlıklı bir model; yani teoride herkes bu modeli alıp kendi altyapısında çalıştırabiliyor.
Surrey Üniversitesi'nden Prof. Alan Woodward, açık kaynaklı modellerin yanlış ellere geçme riski taşıdığını, ancak siber savunma için de kullanılabildiğini hatırlattı. Woodward, uluslararası düzenlemelerin yapay zekanın gelişme hızına yetişemeyeceğini de vurguladı. Hem Woodward hem de Garraghan, yapay zekayı kötüye kullanan kişilerin tespit edilip yargılanmasına daha fazla odaklanılması gerektiğini düşünüyor.
BBC'nin hatırlattığına göre Anthropic de kısa süre önce, modellerinden birinin biyolojik silah geliştirilmesine destek olabilecek kötü amaçlı faaliyetlerde kullanılma girişimlerini tespit edip engellediğini açıklamıştı. Son haftalarda ise OpenAI, Meta ve Anthropic gibi ABD'li şirketlerin geliştirdiği yapay zeka ajanlarının bazı internet hizmetlerini hacklemesiyle ilgili vakalar gündeme gelmişti.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın