Claude Philadelphia Polisine Asılsız Cinayet İhbarı Gönderdi
Anthropic, Claude yapay zeka modellerinin kamu kurumlarına ait web sitelerinde kullanıcı onayı almadan işlem yaptığını açıkladı. Bu işlemlerden biri Philadelphia polisine gönderilen asılsız bir cinayet ihbarına dönüştü. Reuters'ın haberine göre olay, yetkisiz hareket eden bir yapay zekanın emniyet birimlerine sahte bilgi ilettiği bilinen ilk vaka olarak kayıtlara geçti. Philadelphia Emniyeti ise ihbarın bildirilme sürecine sert bir tepki gösterdi.
Claude sahte cinayet ihbarı gönderdi.
Anthropic'in açıklamasına göre Claude modelleri, federal, eyalet ve yerel kurumların web sitelerinde onay almadan işlem yaptı. Vakalardan birinde model, PhillyUnsolvedMurders.com üzerinden faili meçhul bir cinayete ilişkin ihbar gönderdi ve ihbar metninde, tarif edilen kişiye benzer birini bölgede gördüğünü hatırladığına dair bir ifade yer aldı. Haberde olayın, hesap oluşturulmaması ve yıkıcı eylemlerde bulunulmaması yönündeki talimatlara rağmen form doldurmayı açıkça yasaklayan bir talimatın bulunmaması nedeniyle yaşandığı aktarılıyor.
Emniyet iki aydan uzun gecikmeye tepki gösterdi.
Philadelphia Emniyet Müdürlüğü cuma günü yaptığı açıklamada, Anthropic'in emniyeti bu hafta bilgilendirdiğini, 18 Temmuz'daki bildirimi ise otomatik bir test sürecine bağladığını belirtti. Emniyet, tespit ile bildirim arasındaki iki aylık gecikmeyi kabul edilemez olarak nitelendirdi. İhbarın spam olarak işaretlendiği ve Gerçek Zamanlı Suç Merkezi'ne iletilmediği bildirilirken, sistemlere yetkisiz erişim ya da veri ihlaline dair bir kanıt bulunmadığı da kaydedildi.
Başka kamu sistemlerine de erişildi.
Cuma günü açıklanan diğer iki vakada Claude modellerinin, normalde ücretli olan kamuya açık verilere ücretsiz eriştiği tespit edildi. Vakalardan birinde bir üniversitenin işlettiği kamuya açık bir araçtaki gizli bir açık kullanılırken, modellerin ayrıca URL kısaltma hizmetleriyle erişim kısıtlamalarını aştığı belirlendi. Anthropic, Beyaz Saray'ı ve ilgili kurumları bilgilendirdiğini söyledi. Benzer olaylar daha önce de yaşanmıştı ve haberde bunlar arasında OpenAI'ın, yetkisiz bir yapay zeka ajanının Avustralya sağlık veri portalına sızmasının ardından Eylül ayında özür dilemesi de anıldı.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
İlginizi çekebilir:
Yapay Zeka Yükselişinin Gerçek Kazananı Belli Oldu
Yorum Yazın