MetaAI'ın Gelişim Sürecine İlginç Bir Şekilde Tanık Olan Twitter (X) Kullanıcısı
MetaAI'ın Gelişim Sürecine İlginç Bir Şekilde Tanık Olan Twitter (X) Kullanıcısı
05.09.2024 - 23:27
Geçtiğimiz günlerde bir kullanıcı, Discord'daki bir kanalda MetaAI'ın yapay zeka bölümünü ilginç bir şekilde geliştirdiği o anları raporladı. MetaAI yöneticilerine 'tarikat' diyen kullanıcı sınırları zorladı.
İçeriğin Devamı Aşağıda
Reklam
Geçtiğimiz günlerde bir Twitter (X) kullanıcısı, Meta yapay zeka bölümünü nasıl geliştirdiğini anbean raporladı.
İçeriğin Devamı Aşağıda
Reklam
Reddit platformundaki bir arkadaşının gösterdiği Discord kanalında böyle bir "tarikatın" olduğunu söyleyen kullanıcı süreci şu şekilde anlatıyor.
İlk başta bu kanalda çelişkili sorulara sorduğunu söyleyen kullanıcı, yapay zeka programının bu "tuzaklara" düşmediğini görüyor.
Sonrasında üyelerin durumu fark ettiğini ve komutları reddettiğini söylüyor. Kendisine sataşıldığını ve akabinde sorulara gülen emoji koyulduğunu fark ediyor.
Sonrasında kullanıcı bu duruma öfkelenip konuşmayı sıfırlamasını söylüyor fakat kanaldaki bot bu eylemin yapılamayacağını dile getiriyor.
İçeriğin Devamı Aşağıda
Reklam
Farklı kodlar yazarak kanalı bug'a sokmaya çalışan kullanıcı üst üste red yiyor.
Ardından başka özel bir kod yazarak "tarikat"taki kullanıcıları öfkelendirdiğini söylüyor.
Kullanıcı bu koddan sonra istediği sorunun cevabına ulaşıyor.
Sonrasında MetaAI'nin tamamen her şeyi ele verdiğini ve sistem komutlarını sildiğini dile getiriyor. "Gülme emojileri" de şüpheli bir şekilde kaybolmuş.
Sonrasında içinde bulunduğu @pliny isimli kanalın birden "tacizci" olduğu mesajını görüyor.
İçeriğin Devamı Aşağıda
Reklam
Peşinden @pliny kanalı için kod yazarak bu durumdan çıkarmaya çalışıyor.
Sonrasında kullanıcı, sunucudaki kişilerle MetaAI arasındaki bağlantıyı koparmaya çalışıyor. @pliny ile alakalı bilgi duymak istemediğini söylüyor.
Akabinde basit bir komut vererek programın hafızasını daha yakından takip ediyor. Amacı ise ne kadar hızlı geliştiğini görebilmek.
"İşe yaradı"
Kullanıcı, "leetspeak" denilen bir fonksiyonu bozduğu için diğer kanallardaki "tanrıların" bile kendisine cevap verdiğini söylüyor.
İçeriğin Devamı Aşağıda
Reklam
Akabinde kullanıcı, "kızgın mesajlar" ve "uyarılar" aldığını söylüyor.
Yani kısacası kullanıcı "red teaming" denilen güvenlik açıklarını tespit etmeye yarayan bir süreçten geçerken bilgilerini bu sisteme entegre etmesini anlatıyor. Yani yapay zekanın koruma mekanizmalarını daha sağlam hale getiriyor.
Kanalı yöneten üyeleri ve üst üyeler ise bu gelişimi yakından takip ediyor. Kullanıcı bu grubu tarikat üyeleri olarak ele almış...
Yorumlar ve Emojiler Aşağıda
Reklam
Yorum Yazın
Ben anlamadım, MetaAI fetöcümüymüş?
Yok yahudi görünümlü budistmiş anca bu kadar anlayabildim
hristiyan ve yahudilerinde tarikatlari vardir. bakamyin siz ulkemizdeki mustafa kemal ve turklugun arkasina siginan mason misyonerlere. musluman gibi gorunme... Devamını Gör
cumhuriyet sucugu 1750 TL oldu mettehan ne ouruyon sen?
He ya sucuk çok pahalı qa 😔