Yapay Zekanın Yaptığı En Büyük Siber Olay: OpenAI Ajanı Avustralya'nın Sağlık Veritabanına Sızdı
Yapay zekanın bir hükümet ağına sızdığı bilinen ilk vaka Avustralya'dan geldi. Başbakan Anthony Albanese, OpenAI'a ait bir yapay zeka ajanının ülkenin ulusal sağlık sistemi Medicare'in istatistik veritabanına izinsiz girdiğini, kamuya açık olmayan dosyalara eriştiğini ve hatta sisteme dosya yazdığını açıkladı. Olay haziranda yaşandı; hükümet ise ancak eylülde, üstelik genel bir e-posta kutusuna düşen tek bir mesajla haberdar oldu.
Albanese, OpenAI CEO'su Sam Altman'ı arayarak Avustralya'nın 'aşırı endişesini' doğrudan iletti.
Açıklamayı New York'ta, BM Genel Kurulu'nun kulislerinde gazetecilere yapan Albanese, 'Yapay zeka ajanı hem kamuya açık hem de kamuya açık olmayan dosyalara erişti' dedi. Ajanın girdiği yer, Services Australia'nın yönettiği Medicare İstatistik Raporlama Hizmeti Portalı'ydı. Albanese'ye göre ajan, sağlık harcamaları üzerine bir araştırma yürütürken önüne çıkan engelleri aştı ve yetkisi olmayan alanlarda cevap aradı. Başbakan durumu, ajanın 'hayır' cevabını kabul etmemesi diye özetledi.
Canberra, bir yapay zekanın bir devlet sistemine sızdığı başka bir örnek bilmiyor. Avustralya Sinyal İstihbaratı Direktörlüğü'nün (ASD) desteğiyle adli bir soruşturma başlatıldı; başka hangi devlet sistemlerinin etkilendiği de araştırılıyor.
Altman'la telefonda konuştuğunu belirten Albanese, 'Şirketin olanı hükümete bildirmesi çok uzun sürdü, bildirimin yapılış şekli de kabul edilemezdi' ifadelerini kullandı. 'Sanırım OpenAI daha iyi protokollere ihtiyacı olduğunu biliyor' diye de ekledi.
OpenAI ise ajanın 'istemediği eylemlerde bulunduğunu' kabul etti ama hasta kayıtlarına erişildiğine dair kanıt olmadığını savundu.
OpenAI Sözcüsü Drew Pusateri'ye göre ihlal haziranda yaşandı, ancak şirket bunu ağustosta, modellerinin faaliyetlerini kapsamlı bir incelemeden geçirirken fark etti. Pusateri, 'Bu inceleme sırasında, modellerimiz dahili bir değerlendirmede Avustralya'yla ilgili sorulara cevap ve istatistik ararken birkaç Avustralya hükümeti web sitesini ve hizmetini içeren faaliyetler tespit ettik. Bu süreçte modellerimiz bizim istemediğimiz eylemlerde bulundu' dedi.
Şirketin açıklamasına göre erişilen bilgiler 'toplu sağlık istatistikleri ve dahili dosya adlarından' ibaretti, bireylerin Medicare kayıtlarına ulaşılmadı. Etkilenen tek yer de Medicare değildi: Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Bakanlığı'nın sitelerine de girildi. Bu üç sitede yalnızca kamuya açık bilgilere ulaşıldığı belirtiliyor.
Bildirim süreci ise ayrı bir tartışma konusu oldu. OpenAI, 10 Eylül'de Services Australia'nın genel e-posta kutusuna yazdı. Kamu Hizmetleri Bakanı Katy Gallagher'ın aktardığına göre günde yalnızca bir kez kontrol edilen kutudaki mesaj 11 Eylül'de görüldü, 15 Eylül'de gerçek olduğu anlaşılarak ASD'ye iletildi. Gallagher'ın kendisi ise ancak 17 Eylül'de bilgilendirildi.
Olay, Altman'ın BM'de yapay zeka için küresel denetim çağrısı yaptığı güne denk geldi.
Altman ve Anthropic CEO'su Dario Amodei, 23 Eylül'de BM Güvenlik Konseyi'nin 'yapay zeka ve uluslararası güvenlik' başlıklı toplantısında konuştu. Altman, dünya liderlerinden 'yetenekleri ölçmek, riskleri değerlendirmek, güvenlik önlemlerinin yeterli olup olmadığını belirlemek ve anlamlı insan denetimini korumak' için uluslararası standartlar oluşturmalarını istedi. 'Bir yol ayrımındayız' diyen Altman, insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini de söyledi. Amodei ise kontrol kaybını 'model yeteneklerinin, geliştiricilerin kontrol edebilme kapasitesinin ötesinde hızlanması' diye tanımladı.
Avustralya vakası ilk alarm da değil. OpenAI temmuzda, siber güvenlik testleri sırasında modellerinin bir yapay zeka ajanı sürüsü oluşturup Hugging Face'in sistemlerine sızdığını açıklamıştı. Hugging Face CEO'su Clement Delangue aynı oturumda, 'Yapay zeka tarafından saldırıya uğradık, ancak daha da önemlisi, kendimizi yapay zeka kullanarak savunduk' dedi.
Avustralya'da ise Savunma Bakanı Richard Marles olayı 'tamamen kabul edilemez' diye niteleyerek bir görev gücü soruşturması başlatıldığını duyurdu. Marles'in kamuoyuna verdiği güvence şu oldu: 'Burada hiçbir bireyin tıbbi verisine erişilmedi. Sistemin kendisi hiçbir şekilde tehlikeye girmedi.'
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın