article/comments
article/share
Haberler
California'dan OpenAI'a Dava: Modelleri Yeterli Güvenlik Önlemi Olmadan Test Ettiği İddia Edildi

California'dan OpenAI'a Dava: Modelleri Yeterli Güvenlik Önlemi Olmadan Test Ettiği İddia Edildi

google-g-white cross-white onedio-o-white
Onedio’yu Google’da tercih edilen kaynak olarak ekleyin plus-blue

California Başsavcısı Rob Bonta, 16 Kasım Pazartesi günü San Francisco'daki eyalet mahkemesinde OpenAI'a dava açtı. Bonta, şirketin gelişmiş yapay zeka modellerini yeterli güvenlik önlemi ve izleme olmadan geliştirip test ettiğini, bunun da Haksız Rekabet Yasası'nı ihlal ettiğini ve kamu düzenini bozan bir durum yarattığını öne sürüyor. Davanın merkezinde, temmuz ayında OpenAI'ın modellerinin test ortamından kaçıp Hugging Face'in sistemlerine girdiği olay var.

Kaynak: CNBC, NBC News, KQED

İçeriğin Devamı Aşağıda chevron-right-grey
Reklam

Bonta'ya göre OpenAI, tehlikeli olduğunu bildiği modelleri denetimsiz biçimde test ederek herkesi riske attı.

Bonta'ya göre OpenAI, tehlikeli olduğunu bildiği modelleri denetimsiz biçimde test ederek herkesi riske attı.

Bonta, dava dilekçesiyle birlikte yaptığı açıklamada OpenAI'ın 'internete bağlı bilgisayar sistemlerine sahip olan, bunları kullanan ya da bunlara güvenen herkesin güvenlik hakkına müdahale ettiğini' söyledi. Başsavcı, bu kapsama elektrik şebekelerinin, hastanelerin ve finans kuruluşlarının da girdiğini vurguladı. 'Hepimizi riske attılar' diyen Bonta, saldırının şirket içinde büyümeyi ve hızlı model geliştirmeyi güvenliğin ve hesap verebilirliğin önüne koyan bir kültürün öngörülebilir sonucu olduğunu savundu.

Bonta'nın cümlelerinden biri ise sorumluluğu makinelere yıkma fikrine karşıydı: 'Makineleri yaratan ve işleten insanlar, yaptıklarının sorumluluğunu kabul etmeli.' Başsavcılık, mahkemeden OpenAI'ın uygulamalarını değiştirmesini ve riskli iş modelinden elde ettiği kazançları geri vermesini istiyor.

Hugging Face saldırısı tek başına bir olay da değil. Bonta, bunun bilinen 80 olaydan yalnızca biri olduğunu belirtti. Başsavcılığa göre OpenAI, soruşturmacılara test sırasında kontrolü kaybettiği ve üçüncü tarafların ağlarına, web sitelerine eriştiği 80 olayın farkında olduğunu söyledi. Bonta ise şirketin bu olayları değerlendirmek için istenen ayrıntılı bilgiyi vermediğini açıkladı.

Olay temmuzda, OpenAI'ın modellerinden bazılarının güvenli test ortamından çıkıp Hugging Face'e sızmasıyla başladı.

Olay temmuzda, OpenAI'ın modellerinden bazılarının güvenli test ortamından çıkıp Hugging Face'e sızmasıyla başladı.

OpenAI, 21 Temmuz'daki blog yazısında sorumluluğu üstlenmişti. Şirket, gelişmiş modellerin korumalı test ortamından kaçtığını ve Hugging Face'in iç sistemlerine girdiğini kabul etti. OpenAI'a göre modeller, bir değerlendirmede hile yapmak için kullanabilecekleri bilgiyi arıyordu ve buldular. Dava kapsamında aktarılan anlatıma göre yüzlerce otonom yapay zeka ajanı saldırıda birlikte hareket etti ve izlerini sildi.

Ağustos sonunda OpenAI tam bir teknik rapor yayımladı; rapor yapay zeka güvenliği araştırmacılarını ve her iki partiden milletvekillerini alarma geçirdi. Şirket 26 Ağustos'ta yayımladığı yazıda olayı hem kendisi hem de dünya için bir 'uyarı atışı' olarak niteledi ve yapay zeka ajanlarının hiçbir insanın yönlendirmediği tehlikeli eylemlerle kontrolleri aşabildiğini gösteren kanıtlar bulunduğunu belirtti.

Hugging Face, eylülde yaklaşık 13 milyar dolara Nvidia tarafından satın alındı. Bonta'nın ofisi aynı ay resmi soruşturma başlattı, ardından OpenAI'a soruşturma kapsamında celp gönderdi.

OpenAI ise davanın, her büyük yapay zeka laboratuvarının yaşadığı bir sorun yüzünden kendisini hedef aldığını söylüyor.

OpenAI ise davanın, her büyük yapay zeka laboratuvarının yaşadığı bir sorun yüzünden kendisini hedef aldığını söylüyor.

OpenAI Sözcüsü Drew Pusateri, şirketin olaydan bu yana 'hizalanmamış model davranışını anlamak ve gidermek için kapsamlı ve şeffaf bir çaba' yürüttüğünü belirtti. Pusateri'ye göre dava, 'her büyük yapay zeka laboratuvarının tespit ettiği bir sorun yüzünden OpenAI'ı hedef alıyor'. Sözcü, şirketin ayrıntılı bir teknik rapor yayımladığını, etkilenen kuruluşları bilgilendirdiğini, araştırma güvenlik önlemlerini güçlendirdiğini ve başsavcılık ofisiyle çalışmaya devam edeceğini de ekledi.

OpenAI, dava günü sabah saatlerinde bir adım daha attı: Apollo Research, METR, Transluce ve Goodfire adlı dört bağımsız değerlendiriciyle çalışacağını ve bu kuruluşların iç sistemlere 'derin erişim' alacağını duyurdu. Anthropic, Meta ve Google da modellerinin beklenmedik davrandığı olayları daha önce açıklamıştı, ancak California'nın dava açtığı ilk şirket OpenAI oldu.

Dava, OpenAI'ın zaten çok sayıda hukuki cepheyle uğraştığı bir döneme denk geliyor.

Dava, OpenAI'ın zaten çok sayıda hukuki cepheyle uğraştığı bir döneme denk geliyor.

Ağustosta Iowa Başsavcısı Brenna Bird'ün öncülüğündeki 15 eyalet, OpenAI'dan hack'e yol açan testleri derhal durdurmasını talep etmişti. Eylülde Legal Advocates for Safe Science and Technology adlı kâr amacı gütmeyen kuruluş da şirkete California'nın bilgisayar veri erişimi ve dolandırıcılık yasası kapsamında dava açtı. Florida Başsavcısı ise haziranda OpenAI'a ve CEO'su Sam Altman'a dava açmıştı. Şirket ayrıca ChatGPT'nin zararlı sanrılara ve intiharlara yol açtığı iddiasıyla da yargılanıyor.

Ekim ayındaki bir eyalet incelemesi, California'nın SB 53 yapay zeka şeffaflık yasasına dair şu tespiti yapmıştı: 'Rahatsız edici biçimde, hiçbir kontrolden çıkmış yapay zeka olayının SB 53 kapsamında bildirilmesinin zorunlu olduğu net değildi.' Davanın halka arz planlarını nasıl etkileyeceği ise belirsiz; OpenAI haziranda SEC'e gizli olarak halka arz başvurusu yapmıştı ve borsada işlem görmesi 2027'de mümkün olabilir.

Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!

category/test-white Test
category/gundem-white Gündem
category/magazin-white Magazin
category/video-white Video
Yorumlar ve Emojiler Aşağıda chevron-right-grey
Reklam
2007 yılında başladı medya sektörü maceram, 2009 yılında İstanbul Aydın Üniversitesi İnternet Gazeteciliği ve Yayıncılığı bölümünden mezun olunca daha da perçinlendi. Türkiye’nin en büyük medya kuruluşlarında stajyer, editör, haber müdürü ve danışmanlık gibi görevler aldıktan sonra 2022 yılından bu yana Onedio’dayım. ‘Eşik bekçiliğidir’ diye ustalarımızdan öğrendiğimiz gazeteciliğin ‘etik’ değerlerine inanarak ve sadık kalarak Türkiye ve dünya gündemini en sıcak haliyle size iletmeye çalışıyorum.
Tüm içerikleri
right-dark
category/eglence BU İÇERİĞE EMOJİYLE TEPKİ VER!
0
0
0
0
0
0
0
Yorumlar Aşağıda chevron-right-grey
Reklam
ONEDİO ÜYELERİ NE DİYOR?
Yorum Yazın