Yapay zekâ doktorunuz değil, danışırken dikkat edin

Sohbet robotları düşünme, öğrenme ve çevremizdeki dünyayı algılama şeklimizi değiştiriyor. Bu tür bir dönüşüm hayatın birçok alanında kendini gösteriyor ancak belki de en hassas ve sıklıkla endişe verici olanlardan biri, sağlık hizmetleri için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımı. Siber güvenlik alanında dünya lideri olan ESET,  tıbbi tavsiye almak için yapay zekâ kullanmanın  güvenlik ve gizlilik risklerine maruz bırakabileceği uyarısında bulundu. Riskleri sıralayarak nasıl güvende kalınabileceğine yönelik önerilerini paylaştı.

Bir dizi ücretsiz yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Health ve Amazon’un HealthAI gibi hizmetlerin lansmanıyla tüketicilere yönelik sağlık yapay zekâ alanına girdi. Bir yapay zekâ aracının doktorun rolünü üstlenmesini beklemek bazı riskler barındırıyor. Risk sadece kullanıcıların yanlış tavsiye alması değil, aynı zamanda gizlilik korumaları, veri paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas kişisel bilgileri paylaşmaları ve verilerinin beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği kuruluşuna göre, genel olarak yapay zekâ sohbet robotlarının kötüye kullanımı şu anda sağlık teknolojisi alanında bir numaralı tehlike konumunda.

Microsoft'a göre, insanlar mobil cihazlarında diğer tüm konulardan daha fazla kendi sağlıkları ve sevdiklerinin sağlığı hakkında konuşuyor. Sohbet robotları 7/24 hizmet veriyor ve her şeye bir cevap sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sağlık sistemlerinin giderek daha fazla baskı altında olduğu bir dönemde, birçok kişi tıbbi yardım almaya karar vermeden önce muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacak.  Ancak şimdiden bazı endişeler ortaya çıkmaya başladı. Bunlardan ilki, halüsinasyonlar veya yanlış tavsiyeler. Şubat ayında Nature Medicine dergisinde yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu: Kullanıcılar genellikle LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar;  LLM'ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı cevaplar veriyor ve  modeller genellikle hem iyi hem de kötü tavsiyelerde bulunuyor ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor. Çalışmanın başhekimine göre tüm bu heyecana rağmen yapay zekâ henüz bir hekimin rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir dil modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli. 

Yapay zekâ gizlilik riskleri 

Bireylerin bir an durup düşünmelerini gerektirecek, sağlıkla ilgili olmayan riskler de bulunuyor. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın, verilerin modeli eğitmek için kullanılması ve dolayısıyla başkalarına aktarılması anlamına gelebileceği. Kasıtsız da olsa modellerin kullanıcıları tarafından girilen verileri yanlışlıkla ifşa ettiği biliniyor. Sağlık verileriniz, bilgileri değiştirilip yeniden düzenlenirken dondurulabilen çalıntı bir kredi kartı gibi değildir. Ömür boyu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir. Sağlık odaklı başlıca sohbet robotlarının çoğu, bu verileri eğitim amaçlı kullanmayacaklarına dair söz veriyor. Eğitim gizlilik tablosunun sadece bir parçası ve hizmetler, üçüncü taraf veri paylaşımı konusunda aynı sözleri vermeyebilir. Kişisel tıbbi bilgileriniz, model sağlayıcısı ile sağlık hizmeti sağlayıcınız arasında yer alan bir üçüncü taraf olan veri toplayıcısının eline geçebilir. Ayrıca genellikle kullanımdan önce anonimleştirilse de doğrudan veya bu toplayıcılardan biri aracılığıyla reklam verenlerle paylaşılabilir. Sağlık verileri olağanüstü hassastır ve anonimleştirme her zaman tüm riskleri ortadan kaldırmaz.

İhlal riski katlandığında

Sağlık verileri, çeşitli nedenlerle dolandırıcılar tarafından yüksek oranda paraya çevrilebilir. Genellikle değiştirilemediği veya yeniden düzenlenemediği için uzun süre değerini korur. Sahte talepler sunmak veya sizin adınıza tıbbi hizmetler almak için kullanılabilecek sigorta bilgilerini içerebilir. Size şantaj yapmak için kullanılabilir. Bu verileri elinde bulunduran şirket sayısı ne kadar fazla olursa hackerların bu verileri ele geçirip çalma olasılığı da o kadar artar. 

Yapay zekâ ile paylaştıklarınıza dikkat edin

Bir sağlık sorunu konusunda endişeleriniz varsa genel amaçlı botlardan uzak durun ve bunun yerine sağlıkla ilgili soruları yanıtlamak üzere özel olarak tasarlanmış botları tercih edin. Hizmetin verilerinizi nasıl işlediğini açıklayıp açıklamadığını, eğitim amacıyla girdiğiniz komutları kullanıp kullanmadığını, bilgileri üçüncü taraflarla paylaşıp paylaşmadığını ve bir gizlilik düzenlemesi kapsamında olup olmadığını kontrol edin. Doğrulamak için kaynak bağlantıları yoksa çıktılara körü körüne güvenmeyin. Cevapları mutlak gerçek olarak kabul etmeyin: Her zaman bir tıp uzmanına veya resmî bir web sitesine  danışın.

Gizliliğinizi korumak için şunları  göz önünde bulundurun:

• Araçların bu verileri nasıl işlediğini anlamadığınız sürece, tıbbi belgeleri, laboratuvar sonuçlarını veya diğer hassas belgeleri bir yapay zekâ aracıyla asla paylaşmayın, yüklemeyin.
• İsim, adres, sigorta bilgileri, hasta numaraları veya diğer tanımlayıcı bilgileri girmekten kaçının.
• Eğitim ve sohbet geçmişi özelliklerinin kapalı olduğundan emin olun.
• Görev için gerekli olan minimum bilgiyi paylaşın.
• Yazdığınız her şeyin saklanabileceğini veya ifşa edilebileceğini varsayın ve komutlarınızı buna göre ayarlayın.

Yapay zekâ sohbet robotları, doktorunuza soracağınız belirli bir durumla ilgili soruları beyin fırtınası yapmak veya aşina olmadığınız bir tıbbi terimi açıklamak için yararlı olabilir. Ancak tıbbi bakım için hazırlık yapmak amacıyla yapay zekâ kullanmak ile tıbbi bakımın yerine yapay zekâyı kullanmak arasında büyük bir fark vardır. Kendinden emin bir cevabı tanı olarak kabul etmeyin ve bir makine sizi rahatlattığı için acil semptomları görmezden gelmeyin.