Sağlıkta yapay zekâ: kolay erişim, artan riskler
Sohbet robotları ve büyük dil modelleri, insanların düşünme, öğrenme ve çevreyi algılama biçimlerini değiştiriyor. Bu teknolojiler sağlık alanına da hızla giriyor; Copilot Health, ChatGPT Health ve Amazon HealthAI gibi hizmetler tıbbi kayıtları yorumlama, semptomlar, laboratuvar sonuçları ve olası tedaviler hakkında bilgi sağlama iddiasında bulunuyor. Ancak bir yapay zekâ aracının doktorun yerini alacağı beklentisi hem yanlış yönlendirmelere hem de gizlilik sorunlarına yol açabiliyor.
Yanlış bilgi ve halüsinasyon riski
Birçok ücretsiz ve ücretli sohbet robotunun kullanıcılara yanıt verme biçimi farklılık gösteriyor. Oxford Üniversitesi tarafından yapılan ve Nature Medicine’de yayımlanan bir çalışma, kullanıcıların hangi bilgileri paylaşmaları gerektiğini bilmediklerini, aynı sorulara benzer yanıtların dahi modelden modele değiştiğini ve modellerin hem doğru hem yanlış tavsiyeler verebildiğini ortaya koydu. Bu durum, kullanıcıların hangi bilgiyi güvenilir sayacaklarını ayırt etmekte zorlanmalarına neden oluyor.
Uzmanlar, yapay zekânın şu aşamada hekimin yerini alacak düzeyde olmadığını belirtiyor. Yanlış teşhis veya acil müdahale gerektiren durumların fark edilmemesi, gecikmiş tedavi riskini artırabilir. Bu nedenle yapay zekâdan alınan medikal bilgilerin bir sağlık profesyoneli tarafından doğrulanması oldukça önemli.
Gizlilik ve veri paylaşımı endişeleri
Sağlık verileri son derece hassastır. Bir sohbet robotuna yazılan tıbbi bilgiler, modelin eğitimi veya hizmet sağlayıcıların veri işleme politikaları çerçevesinde üçüncü taraflarla paylaşılabilir. Hizmet sağlayıcıların bir kısmı verileri eğitim amaçlı kullanmayacaklarını söylese de üçüncü taraf veri toplayıcıları veya reklam ortakları aracılığıyla paylaşım ihtimali bulunuyor. Anonimleştirme uygulamaları her zaman tüm riskleri ortadan kaldırmıyor.
Ayrıca modellerin, kullanıcı verilerini kasıtsız biçimde ifşa ettiği vakalar raporlandı. Bu durum, sağlık kayıtlarının kalıcı dijital izler bırakma riskini gündeme getiriyor. Kullanıcıların bu tür araçlarla hangi bilgileri paylaştıklarını dikkatle değerlendirmeleri gerekiyor.
Kullanıcılar için pratik öneriler
- Yapay zekâyla elde edilen medikal bilgileri kesin tanı olarak kabul etmeyin; her zaman bir sağlık profesyoneline danışın.
- Hassas kişisel ve tıbbi bilgileri halka açık sohbet robotlarına girmeyin.
- Hizmet sağlayıcının gizlilik politikasını ve veri paylaşım şartlarını inceleyin.
- Acil durumlarda doğrudan acil sağlık hizmetlerine başvurun; yapay zekâ araçları acil müdahale yerini tutmaz.
Teknolojinin sunduğu erişilebilirlik ve hız, sağlık bilgisine ulaşımı kolaylaştırsa da beraberinde getirdiği yanlış yönlendirme ve veri güvenliği riskleri göz ardı edilmemeli. Kullanıcılar bilinçli davranmalı, yorum ve tavsiyeleri profesyonel sağlık hizmetleriyle teyit etmelidir.
