Uzmanlar Uyarıyor: ChatGPT Ve Benzeri Yapay Zekalarla Asla Paylaşılmaması Gereken 5 Bilgi
Dünyanın en hızlı büyüyen teknolojisi haline gelen yapay zeka sohbet botları, milyonlarca kullanıcının günlük hayatına artık bir asistan gibi giriyor. Ancak siber güvenlik ve gizlilik uzmanları, ChatGPT, Gemini ve Copilot gibi sohbet botlarına bazı bilgilerin asla verilmemesi gerektiği konusunda uyarıda bulunuyor. Kimlik bilgilerinden banka hesap numaralarına, sağlık kayıtlarından şirket sırlarına kadar pek çok veri, sohbet kayıtlarında saklanabiliyor ve model eğitiminde kullanılabiliyor.
Ad, adres, telefon numarası ile sosyal güvenlik ve pasaport numaraları hiçbir sohbet botuna asla yazılmamalı.
'Bare Knuckles and Brass Tacks' adlı siber güvenlik podcastinin ortak yapımcıları George Kamide ve George Al-Koura, kimlik bilgilerinin sohbet botlarına yazılmasının kayıt altına alınma ve kötüye kullanılma riski taşıdığını belirtiyor. İkiliye göre ad, ev adresi, telefon numarası, sosyal güvenlik numarası(TC kimlik numarası), pasaport ve ehliyet bilgileri gibi veriler, bir kez paylaşıldıktan sonra şirket sunucularında ne kadar süre tutulacağı kullanıcı tarafından tam olarak bilinemiyor.
Elon Üniversitesi Dijital Geleceği Hayal Etme Merkezi Direktörü Lee Rainie de bu tür bilgilerin loglanma veya işlenme sürecinde kimlik hırsızlığı riskine kapı araladığını vurguluyor. Uzmanlara göre bu veriler bir güvenlik açığında ele geçirilirse, kullanıcı adına sahte hesap açılmasından dolandırıcılığa kadar pek çok kötüye kullanım senaryosu ortaya çıkabiliyor.
Düşünceler, ilişkiler ve ruh sağlığıyla ilgili mahrem detaylar ise sohbet botlarında hukuki koruma altında değil.
Al-Koura, yapay zeka sohbet botlarının insan benzeri bir iletişim biçimi sunması nedeniyle kullanıcılarda yanlış bir güvenlik algısı oluşturduğunu söylüyor. Ona göre kullanıcılar düşüncelerini, davranışlarını, ruhsal durumlarını ve ilişkilerini bir arkadaşa anlatır gibi paylaşıyor; oysa bu konuşmalar bir terapistle yapılan görüşmenin sahip olduğu yasal gizlilik korumasından yoksun.
IAPP Yapay Zeka Yönetimi Merkezi Genel Müdürü Ashley Casovan, bu nedenle sohbet botlarının özel bir günlük değil, yarı kamusal bir alan olarak görülmesi gerektiğini savunuyor. Casovan, mahrem içerikli bir sohbetin ilerleyen bir tarihte hukuki bir sürece delil olarak sunulabileceğine de dikkat çekiyor.
KFF'nin 2024 anketine göre yetişkinlerin altıda biri sağlık tavsiyesi almak için düzenli olarak yapay zekaya başvuruyor.
Emory Üniversitesi Human-Algorithm Collaboration Lab Direktörü Dr. Ravi Parikh, genel amaçlı sohbet botlarının hasta mahremiyetini koruyan HIPAA gibi yasal düzenlemelere tabi olmadığını hatırlatıyor. Parikh'e göre kullanıcılar semptomlarını, teşhislerini veya ilaç kullanımlarını bu botlara yazdığında, veriler tıbbi bir kurumun güvencesi olmadan işleniyor.
Uzmanlar ayrıca sohbet botlarının verdiği sağlık yanıtlarının doğruluğunun her zaman garanti edilemediğini vurguluyor. Buna rağmen KFF'nin 2024 yılında yaptığı ankete göre yetişkinlerin yaklaşık altıda biri, ayda en az bir kez sağlıkla ilgili bir soruyu yapay zeka sohbet botuna soruyor.
İç raporlar, müşteri verileri ve kaynak kodları da model eğitimi için kayıt altına alınabiliyor.
Uzmanlara göre çalışanların toplantı notlarını, müşteri listelerini, yazılım kaynak kodlarını veya gizlilik sözleşmesiyle korunan belgeleri sohbet botlarına yapıştırması, farkında olmadan ticari sır ihlaline yol açabiliyor. Bu veriler bazı şirketlerin varsayılan ayarlarında model geliştirme amacıyla saklanabiliyor ve düzenleyici yükümlülüklerin ihlaline neden olabiliyor.
Nitekim Stanford İnsan Odaklı Yapay Zeka Enstitüsü'nün Ekim 2025'te yayımladığı bir araştırmaya göre OpenAI, Google, Anthropic, Amazon, Meta ve Microsoft'un altısı da kullanıcı sohbetlerini varsayılan olarak model eğitiminde kullanıyor; bazı şirketler bu verileri süresiz saklıyor. Araştırmayı yürüten Stanford'daki Gizlilik ve Veri Politikası Uzmanı Jennifer King, hassas bilgi paylaşılan bir sohbetin toplanıp eğitim için kullanılabileceğini belirtiyor.
Maaş bordroları, banka hesap bilgileri ve kredi kartı numaraları şantaj ve dolandırıcılık riski taşıyor.
Investopedia yazarı Adam Hayes, maaş bordrosu, banka ve yatırım hesap bilgileri, kredi kartı numaraları, vergi beyannameleri ve gelir belgeleri gibi finansal verilerin sohbet botlarına asla yazılmaması gerektiğini söylüyor. Hayes'e göre bu bilgiler bir veri ihlaliyle ele geçirildiğinde, kullanıcı veya ailesine yönelik şantaj, dolandırıcılık ya da kişiye özel sosyal mühendislik saldırılarında kullanılabiliyor.
Uzmanlar, bir vergi beyannamesini özetletmek ya da bir kredi teklifini karşılaştırmak isteyen kullanıcıların bile gerçek hesap numaraları yerine yuvarlak rakamlar ve örnek senaryolar kullanmasını öneriyor.
Zaten paylaşmış olanlar için uzmanlar sohbet geçmişini silmeyi ve model eğitimini kapatmayı öneriyor.
Uzmanlara göre hassas bir bilgi yanlışlıkla paylaşıldıysa ilk adım, ilgili sohbeti hesap geçmişinden silmek olmalı. Ardından gizlilik ayarlarından sohbet geçmişinin tutulmasının ve verilerin model eğitiminde kullanılmasının kapatılması öneriliyor; Casovan bu ayarların çoğu platformda birkaç tıkla değiştirilebildiğini belirtiyor.
Uzmanlar, bundan sonraki kullanımlarda gerçek isim yerine takma ad kullanmayı ve sohbet botlarına kime söylemek istemeyeceğiniz bir şeyi anlatmayın mantığıyla yaklaşmayı tavsiye ediyor. Stanford'un araştırmasına göre şirketler arasında bu konudaki uygulamalar da tutarsız: Anthropic 18 yaşından küçük hesapları tamamen engellerken, Microsoft küçük yaştaki kullanıcıların verilerini topluyor ancak bunları dil modeli eğitiminde kullanmıyor.
Keşfet ile ziyaret ettiğin tüm kategorileri tek akışta gör!
Test
Gündem
Magazin
Video
Yorum Yazın