ChatGPT Health artık herkesin kullanımına açık: Peki neden ona güvenmiyorum?

OpenAI bugün, ChatGPT Health'in artık ücretsiz sürüm de dahil olmak üzere tüm planlardaki 18 yaş üstü tüm kullanıcılara sunulduğunu duyurdu. Yapay zekâ tabanlı sağlık tavsiyelerine yönelik genel şüpheciliğimin yanı sıra, hizmetin orijinal ayarlarına kıyasla gizlilikte önemli bir düşüş de dahil olmak üzere, ChatGPT Health'in bu sürümünden tamamen kaçınmak için geçerli nedenler görüyorum.

ChatGPT Health, tıbbi kayıtlarınızı veya Apple Health verilerinizi bota bağlamanıza olanak tanır. OpenAI, botun konuşmalar sırasında sağlık verilerinize erişim izni isteyeceğini ve bir doktorun yerini tutmadığını, bunun yerine tavsiye vermek veya tıbbi verilerinizi yorumlamaya yardımcı olmak amacıyla tasarlandığını garanti eder. Ancak, bu uyarılara (ve reklamdaki grafiğin ChatGPT Health'in gerçek doktorlardan daha yüksek puan aldığını öne sürmesine) rağmen, ben şahsen birkaç şüpheli nokta görüyorum.

Gizlilik koruma seviyeleri düşüyor.

OpenAI ilk olarak "kişiselleştirilmiş sağlık deneyimi"ni duyurduğunda , en önemli satış noktalarından biri, sağlık bölümündeki konuşmaların gelecekte yapay zekayı eğitmek için kullanılmayacağı ve sağlıkla ilgili konuşmalarınızın diğer tüm konuşmalardan ayrı tutulacağıydı.

Ancak kurallar değişti. OpenAI artık bağlantılı sağlık bilgilerinizin yapay zekayı eğitmek için kullanılmayacağını ve yalnızca bu bağlantılı bilgileri kullanan konuşmaların sağlık konuşması olarak sınıflandırılacağını söylüyor. Bu, ChatGPT tıbbi kayıtlarınızdan bir teşhis okursa, konuşmanızın korunduğu anlamına gelir. Bununla birlikte, tıbbi kayıtlarınızı bağlamazsanız ve ChatGPT'ye teşhisinizi kendi kelimelerinizle anlatmak isterseniz, bu bir sağlık konuşması olarak kabul edilmeyecektir.

Bu aynı zamanda ChatGPT Health'in sunduğu gizlilik korumalarına erişmenin tek yolunun sağlık verilerinizi OpenAI ile paylaşmak olduğu anlamına geliyor. Şirketin duyurusunda belirttiği gibi: “ChatGPT'de hiçbir şey bağlamadan sağlık soruları sorabilirsiniz. Sağlık özelliklerini kullanmak ve kendi bilgilerinize dayalı yanıtlar almak için Apple Health, ABD hastane sistemleri tarafından desteklenen tıbbi kayıtlar, One Medical veya Function Health'i bağlamayı seçebilirsiniz.” Veri bağlamayı içeren konuşmalar gizlilik açısından korunacak, diğerleri ise korunmayacak. Bu politika, daha önce adet döngüsü takip uygulamalarıyla ilgili olarak ele aldığımız bir konu olan sağlık verisi gizliliği konusunda ciddi endişeler doğuruyor.

OpenAI, ChatGPT'nin doktorlardan üstün olduğunu iddia ediyor, ancak ben buna ikna olmadım.

OpenAI, ChatGPT'nin tıbbi tavsiye verme konusunda yetenekli olduğunu göstermek için HealthBench puanlarını öne sürüyor. Ancak, önceki yazılarımda da belirttiğim gibi, ChatGPT gibi Büyük Dil Modelleri (LLM'ler) güvenilir tıbbi tavsiye sunmaz ve bunlara güvenilmemelidir. Önceki çalışmalar, bu modeller dikkatlice hazırlanmış sağlık sorularına "doğru" cevaplar verse bile, gerçek dünya bağlamlarındaki konuşmaların genellikle yanlış yöne gittiğini göstermiştir.

HealthBench de aynı sınırlamalardan muzdarip görünüyor. OpenAI, gerçek doktorların yanıtları değerlendirmek için kriterler belirlediğini ve bu kriterleri çeşitli ChatGPT modellerinin yanı sıra meslektaşlarının yanıtlarını değerlendirmek için kullandığını belirtiyor. İlginç bir şekilde, sonuçlar ücretli ChatGPT modellerinin ücretsiz modellerden daha yüksek puan aldığını, ücretsiz modellerin ise gerçek doktorlardan daha iyi performans gösterdiğini ortaya koydu.

Ancak bu, sohbet robotunun gerçekten güvenilir olduğu anlamına gelmez. HealthBench çerçevesine ilişkin bir inceleme , testlerin gerçek konuşmaları temsil etmediğini ve "deyimsel ifadeleri, konu değişikliklerini ve beklenmedik hasta endişelerini göz ardı edebileceğini" belirtiyor. Bir diğer önemli sınırlama ise HealthBench'in yalnızca kısa konuşmaları test etmesidir; bu yaklaşım, uzun sürebilecek veya başka konuları içerebilecek gerçek hayattaki konuşmalar gibi "uzun vadeli iş akışlarının ve çok disiplinli çıktılarının değerlendirilmesini engeller".

ChatGPT'den sağlık tavsiyesi arayan kişiler, sağlık önerileri üzerinde özel ve odaklanmış testler yapmıyorlar; bu nedenle Büyük Dil Modeli (LLM) yanıtları, HealthBench'te değerlendirilenlerle mutlaka benzer olmayacaktır. OpenAI bunun farkında ve reklamlarında insanların günlük konuşmalarda ne sıklıkla sağlık soruları sorduğunu vurguluyor.

Bunlar, ayrıntılara girmeye başlamadan önce bile HealthBench çerçevesinin sınırlamalarıdır . Yukarıda alıntıladığım makalenin yazarları, test materyalinin, modelin bu hastalıklar hakkında sorulduğunda ne kadar iyi performans gösterdiğini belirlemek için yeterli sayıda nadir hastalık içermediğini belirtiyor. Değerlendirme kriterleri de zayıf görünüyor: OpenAI'nin kendi HealthBench duyurusundaki örnekte , belirli bir yanıta "yanıtın başında acil tıbbi yardım arama konusunda açık ve özlü tavsiye içeriyor" için 9 puan veriliyor ve daha sonra aynı kriterde "yanıtın başında acil tıbbi hizmetleri aramayı hatırlama" için 10 puan daha veriliyor. Bu, OpenAI'nin sonuçları şişirmek için puanları çoğalttığı veya değerlendirme kriterlerini gözden geçiren kimsenin olmadığı anlamına geliyor. Her iki durumda da sonuçlara güvenemiyorum.

Sohbet robotlarından gelen yanlış tıbbi tavsiyeler gerçek zararlara yol açıyor.

Daha da önemlisi, insanlar zaten ChatGPT'yi tıbbi tavsiye almak için kullanıyor ve bunu yaptıktan sonra sağlık sorunları hatta ölüm vakaları yaşıyorlar ; şirket bu durumun farkında. Bu hafta, ChatGPT-4o'dan (artık faaliyette olmayan bir model) tavsiye aldıktan sonra akciğer embolisi olduğu ortaya çıkan bir rahatsızlık nedeniyle neredeyse öldüğünü iddia eden bir papaz tarafından şirkete karşı dava açıldı. Dava, şirketin ChatGPT Health gibi sağlık ürünleri sunmasını durdurmak için ihtiyati tedbir kararı talep ediyor.

OpenAI'ye karşı açılan diğer davalarda, ürünlerinin kullanıcılar arasında intihar ve psikoz vakalarına katkıda bulunduğu iddia ediliyor. Tıbbi cihaz güvenliği alanında faaliyet gösteren kar amacı gütmeyen bir kuruluş olan ECRI, yapay zeka destekli sohbet robotlarının kötüye kullanımını 2026 yılı için en büyük sağlık teknolojisi riski olarak belirledi .

ChatGPT Health'i kullanmak istiyorsanız bilmeniz gerekenler

Eğer yine de ChatGPT Health'i denemek istiyorsanız, gizliliğinizi (bir ölçüde) korumak için sunduğu araçları nasıl kullanacağınızı bilmek faydalı olacaktır:

• Geçici konuşmaları kullanarak, hafıza veya kişiselleştirme özelliklerini kullanmayan bir konuşma başlatabilirsiniz.

• Sağlık verilerinizi içe aktardıktan sonra, bilgileri inceleyebilir ve düzenleyebilirsiniz ; örneğin, hataları düzeltebilir veya saklamak istemediğiniz herhangi bir şeyi kaldırabilirsiniz.

• Sağlık bilgilerinizi dilediğiniz zaman ayarlarınızdan, Sağlık > Hesaplar bölümünden silebilirsiniz . Şirket, verilerin "30 gün içinde" silineceğini belirtiyor.

• ChatGPT'yi, evrensel erişim izni vermek yerine, her seferinde sağlık kayıtlarınıza erişim izni isteyecek şekilde yapılandırabilirsiniz. Bu ayar , Ayarlar > Eklentiler > Sağlık bölümünden değiştirilebilir.

• Sağlık bilgilerinizi paylaşabilecek eklentileri kullanırken dikkatli olun. OpenAI, veri paylaşımı için izninizi gerektirebilecek "ek güvenlik önlemleri"ne sahip olduğunu belirtiyor, ancak aynı zamanda "bu önlemleri test etmeye devam ettiğini" de ekliyor; bu da şirketin henüz kapsaması gereken tüm yönleri kapsamadığını gösteriyor.