Terapist Olarak ChatGPT Kullanmaktan Neden Kaçınmalısınız: Sam Altman'dan Görüşler ve Uyarılar

OpenAI CEO'su Sam Altman'a göre, Duygusal destek için ChatGPT Çok iyi bir fikir, çünkü çok basit bir sebebi var: Yapay zeka destekli sohbet robotları, insan doktorlar ve terapistlerle aynı mesleki gizlilik yasalarına tabi değil.

Altman, yakın zamanda katıldığı bir podcast'te, "İnsanlar, özellikle gençler, onu bir terapist veya kişisel koç olarak kullanıyor; duygusal sorunlarını dile getiriyor ve 'Ne yapmalıyım?' diye soruyorlar." dedi. Geçtiğimiz Hafta Sonu Theo Von ile.

"Şu anda bu konular hakkında bir terapistle, avukatla veya doktorla konuşuyorsanız, bu görüşmeler yasal olarak ayrıcalıklıdır" diye ekledi.

"Doktor-hasta gizliliği, hukuki gizlilik vb. var. ChatGPT ile yaptığınız görüşmelerle ilgili bu konuyu henüz çözemedik." diye devam etti.

Altman, bir dava durumunda OpenAI'nin ChatGPT ile yapılan görüşme kayıtlarını teslim etmek zorunda kalabileceğini belirtiyor. Şirketin, silinen görüşmelerin saklanması konusunda The New York Times ile halihazırda bir hukuk mücadelesi içinde olduğu da dikkat çekici. Mayıs ayında bir mahkeme, kullanıcı veya gizlilik yasaları silinmesini talep etse bile, OpenAI'nin "silinmesi gereken tüm çıktı kayıt verilerini" saklamasını emretti.

Podcast'te konuşan Altman, yapay zekanın "bir terapistle veya başka biriyle yaptığınız konuşmalarda, yapay zekayla aynı gizlilik konseptine sahip olması gerektiğine" inandığını ifade etti. "Bu, bir yıl önce kimsenin aklına bile gelmeyecek bir şeydi." Bu, kullanıcıların gizliliğinin ve verilerinin korunmasını sağlamak için, akıl sağlığı gibi hassas alanlarda yapay zeka kullanımını düzenleyen mevzuat ve düzenlemelerin önemini vurguluyor.

Yapay zekayı psikoterapi amaçlı kullanıyorlar mı?

ChatGPT'nin rakibi Claude'un geliştiricisi Anthropic, bu yılın başlarında kullanıcıların romantik sohbetler için sohbet robotlarına yönelip yönelmediğini belirlemek için 4.5 milyon konuşmayı analiz etti. Çalışmaya göre, Claude yapay zeka etkileşimlerinin yalnızca %2.9'u romantik sohbetler içerirken, arkadaşlık ve rol yapma etkileşimleri yalnızca %0.5'lik bir paya sahipti.

Bir dava bağlamında, OpenAI'nin ChatGPT ile yapılan bir konuşmanın kayıtlarını teslim etmesi yasal olarak gerekebilir.

ChatGPT'nin kullanıcı tabanı Claude'unkinden çok daha fazla olsa da, insanların bu sohbet robotunu duygusal iletişim için kullanması hâlâ nispeten nadirdir. Altman'ın yukarıdaki yorumlarının aksine, OpenAI ve MIT ortak çalışması, "ChatGPT ile duygusal etkileşim gerçek dünya kullanımında nadirdir" ifadesini kullanmıştır.

Özette şunlar eklendi: "Değerlendirdiğimiz platformdaki konuşmaların büyük çoğunluğunda duygusal ipuçları (empati, sevgi veya desteği gösteren etkileşim yönleri) mevcut değildi; bu da duygusal etkileşimin ChatGPT için nadir bir kullanım örneği olduğunu gösteriyor."

Şimdiye kadar her şey yolunda. Ancak asıl mesele şu: Konuşmaya dayalı yapay zeka, etkileşim ve nüans konusunda giderek daha da gelişecek ve bu da daha fazla insanın kişisel sorunlarıyla ilgili yardım için ona başvurmasına yol açabilir.

modernizasyon GPT 5 ChatGPT yakında geliyor ve beraberinde daha doğal etkileşimler ve daha fazla bağlam getiriyor. Dolayısıyla, yapay zeka ile daha fazla ayrıntı paylaşmak daha kolay hale gelirken, kullanıcılar ne söyleyeceklerini dikkatlice düşünmek isteyebilirler.