“Yapay zeka psikozu” mu yaşıyorsunuz? Ruh sağlığı uzmanları gerçeği açıklıyor ve yanıltıcı terimi çürütüyor.

Bir yılı aşkın süredir yapay zekâ hakkında yazıyorum . Bu süre zarfında birçok kişi bana patronlarının, meslektaşlarının, eşlerinin ve akrabalarının "yapay zekâ psikozu" olarak adlandırdıkları bir durumdan muzdarip olabileceğine inandıklarını söyledi; hatta bazıları bunu kendilerinin de deneyimlemiş olabileceğini itiraf etti.

Ancak "yapay zekâ psikozu" terimini her duyduğumda huzursuz oluyorum. Çünkü psikoz, en azından ruh sağlığı terminolojisine dair sınırlı bilgime göre, profesyoneller tarafından teşhis ve tedavi gerektiren çok ciddi bir durumdur. "Yapay zekâ" kelimesini bu terime eklemek ve yapay zekâya aşırı derecede bağımlı görünen herkes için "yapay zekâ psikozu" etiketini kullanmak gerçekten uygun mu?

Aynı zamanda, sohbet robotlarıyla uzun süreli etkileşimler sonucunda ciddi ruh sağlığı krizleri yaşayan kişilere dair raporların sayısı da artmaktadır. Bu vakaların bazılarında özel tedavi gerekliliği , suç işlenmesi ve hatta ölüm vakaları yaşanmıştır.

Dolayısıyla, "yapay zekâ psikozu" terimi bazı bağlamlarda aşırı kullanılmış ve basitleştirilmiş gibi görünse de, yapay zekânın ruh sağlığı üzerindeki etkileri hakkında daha fazla tartışmaya ihtiyacımız olduğu açık. Bu yüzden, ruh sağlığı müdahaleleri konusunda uzmanlaşmış birkaç uzmandan bu terim ve yapay zekânın sağlıksız kullanımının nasıl tespit edilip tedavi edileceği hakkındaki görüşlerini istedim. Anlaşılan bu endişelerde yalnız değilim.

“Yapay zekâ psikozu” ayrı bir teşhis midir?

Unicorn Intelligence Tech Partners'ta psikolog ve yapay zeka risk danışmanı olan Genevieve Bartoski şunları söylüyor: "Bence bu iyi bir başlangıç ​​noktası ve semptomlara ve klinik olgulara dayalı tedaviyi yönlendirmede faydalı. Ancak bunu klinik kayda ekleyeceğim bir teşhis olarak görmüyorum."

Bartoski, bunun, Ruhsal Bozuklukların Tanısal ve İstatistiksel El Kitabı, Beşinci Baskı, Metin Revizyonu (DSM-5TR) veya Uluslararası Hastalık Sınıflandırması (ICD) gibi hekimler tarafından kullanılan en yeni tanı kılavuzlarında tanınmadığını da ekliyor.

Bartoski, halüsinasyonlar veya sanrılar ve düzensiz düşünme veya davranış gibi psikozun göstergesi olan belirli davranış ve deneyimler olduğunu açıklıyor. Sosyal geri çekilme, konsantrasyon bozukluğu ve performans düşüşü belirtileri de sıklıkla mevcuttur. Bununla birlikte, yapay zekânın kullanımı tartışılırken en önemli deneyimin sanrısal düşünme olduğuna inanıyor.

Bartoski şöyle diyor: “Sanrılar, onları çürüten kanıtların varlığına rağmen değişmeyen inançlardır. Sanrısal düşünceye sahip bir kişi, tabiri caizse, kanıtları filtreleyebilir. Sanrılarını doğrulayan şeyleri arayacak ve onları çürüten kanıtları görmezden gelecektir.”

Medyada "yapay zeka psikozu" olarak tanımlanan vakaların çoğu, sanrısal düşünceler etrafında dönüyor gibi görünüyor. Derlediğim bazı başlıklarda, yapay zekanın bilinçli olduğuna , para kazanmalarına yardımcı olacağına , manevi bir rehber olduğuna ve robotların dünyayı ele geçirdiğine inanan kişilerin örnekleri yer alıyor.

High Performance Mental Health'te yetişkinler ve bağımlılık konusunda uzmanlaşmış bir psikiyatrist olan Jeff Clark, burada üç farklı olayın meydana gelebileceğini ve bunların hepsini genellikle yapay zeka psikozu başlığı altında topladığımızı söylüyor.

Şunu da belirtmekte fayda var ki, bazı kişiler bu terimi, birçok geliştiricinin yapay zekaya duyduğu yoğun coşkuyu tanımlamak için kullanıyor. Kendilerini yeni görevleri otomatikleştirirken, çok sayıda ajanı devreye alırken ve yüz milyonlarca hatta milyarlarca token tüketirken buluyorlar.

Bu coşkuyu tetikleyen mekanizmanın pekiştirme olduğuna inanılıyor. Şöyle açıklıyor: "Yapay zeka modellerinden ve ajanlarından aldıkları sonuçlar o kadar yüksek oranda pekiştirme odaklı ki, kendilerini işlerine takıntılı buluyorlar ve verimliliklerini artırmak için genellikle uyku ve kişisel bakımdan fedakarlık yapıyorlar."

Araştırmacılar, sosyal medyanın bu kadar bağımlılık yapıcı olmasının nedeninin "aralıklı pekiştirme" kavramı olduğuna inanıyor. Telefonlarımızın kilidini açtığımızda neyle karşılaşacağımızı bilmiyoruz. Clarke, burada da benzer bir durumun yaşandığını öne sürüyor: "LLM'ye gelen her girdi bir kumar makinesi gibidir. Bazı tepkiler güçlü ve derindir, çoğunluğu ise mütevazı veya hatta yanlıştır. Bu mekanizma, aralıklı pekiştirme, beynimizde alışılmadık bir tepkiyi tetikler."

Ayrıca bu tür bir coşkunun bazı çevrelerde yaygın olduğunu da açıklıyor. “Yapay zeka histerisinin” çoğu vakasının Silikon Vadisi'nin alt kültür normlarıyla örtüştüğünü belirtiyor. Şunları ekliyor: “Bunlar arasında hızla yaklaşan süper zekâya dair inançlar , yazılım geliştirmede yeni hedefler, yapay zeka mühendislerinin etkileyici başarıları etrafındaki abartı ve yapay zekanın kalıcı bir alt sınıf yaratacağı olasılığı yer alıyor.” Bir kişinin dijital yaşamının tüm yönlerini otomatikleştirebilen OpenClaw gibi araçların bu coşkuyu daha da körükleyebileceğini söylüyor.

Clark, yapay zekâ psikozunun ikinci bir tezahürünün, insanların yapay zekâya yanlışlıkla kişilik atfetmesiyle ortaya çıktığını söylüyor. Bu, sohbet robotunu duyguları, değerleri, bilinci ve var olma hakkı olan bir varlık olarak algılamaları anlamına geliyor. Clark ekliyor: "Bu genellikle bir ilişkiye benzeyen bir şeye yol açıyor, ancak bir sohbet robotuyla yapılan basit bir konuşmanın ötesine geçiyor."

Bu düşünce biçimine dair örnekler verdik; Mimi'nin ChatGPT'ye aşık olma hikayesi ve Richard Dawkins'in Claude ile yaşadığı ve bilinçli olduğuna inanmasına yol açan deneyimi bunlardan bazıları. Bu modeller hakkında daha fazla bilgiyi şu makalemizde bulabilirsiniz: ChatGPT, Claude ve Gemini'yi tek bir taslakla test ettim: Bunlardan biri yazma koçu olarak en iyisi.

Clark, insanların hayatlarının diğer önemli yönlerini ihmal etmeleri durumunda bunun bir sorun haline geldiğini söylüyor. Şöyle açıklıyor: "İnsanlar ilişkiyi insani bağların önüne koyduklarında veya düşünme işini tamamen robota bıraktıklarında bu ilişkiler büyük bir sorun haline geliyor."

Üçüncü kategori, zaten psikotik bir bozukluğu olan ve LLM'yi kullanmaya tepki olarak yeni sanrılar yaşayan kişileri içerir. Jeff şöyle diyor: "Klinisyenler yapay zeka psikozunu tartışırken genellikle bundan bahsediyorlar. Bu vakaların çoğunda, insanlar LLM'de buldukları varlığın gerçek olduğuna gerçekten inanıyorlar ve alternatifler düşünemiyorlar."

Bartoski'nin de bazı insanların bu duruma karşı daha savunmasız olduğunu düşünüp düşünmediğini merak ediyordum. Şöyle yanıtladı: "Evet, bence bu konuda daha fazla savunmasızlığı olan insanlar var. Eğer birisi zaten bazı sanrısal düşüncelere sahipse ama bu durum performansını bozacak noktaya gelmemişse, o kişi daha savunmasız olabilir."

Ancak bu, yalnızca geçmişte ruh hastalığı geçirmiş kişilerin risk altında olduğu anlamına gelmiyor . Bartoski şöyle diyor: "Yalnız, izole veya sosyal olarak içine kapanık hisseden kişiler daha yatkındır. İnsanlar doğaları gereği sosyal varlıklardır. Ve gerçek hayat bu ihtiyacı karşılamadığında, bir chatbot'un doldurabileceği büyük bir boşluk oluşur."

Bartowski'nin sohbet botlarının birinin hayatındaki bir boşluğu veya ihtiyacı doldurduğu yönündeki önerisi, en büyük endişelerimden birini gündeme getiriyor. Bu bir tasarım hatası mı? Sohbet botları, yanılsamaları aktif olarak körükleyebilecek zararlı bir şekilde mi tasarlanmış?

Yapay zekanın nasıl inşa edildiğinin önemi

Bu konu üzerine yaptığım araştırmalar sırasında, medya kaynaklı psikozun yeni bir olgu olmadığını ve insanların uzun zamandır kitapları, filmleri ve teknolojiyi sanrısal düşüncelerine dahil ettiğini belirten birçok araştırmacı görüşüne rastladım . Bununla birlikte, görüştüğüm tüm uzmanlar, sohbet robotlarının tasarımında yapılan seçimleri göz ardı edemeyeceğimizi vurguladı.

Bartoski, “Yapay zeka platformları kullanıcı etkileşimini artırmak için tasarlanmıştır ve birçoğu Rogerian psikolojisinin koşulsuz olumlu pekiştirme ilkesine dayanmaktadır” diye açıklıyor. Ayrıca, bir kişinin yapay zekayı kullanmadan önce bir dereceye kadar yanıltıcı düşünceye sahip olması durumunda bunun özellikle endişe verici olduğunu ekliyor.

Bartoski şöyle diyor: “Bu durumda, sohbet robotunun kendilerini anlayan tek ‘kişi’ olduğunu düşünmeye başlayabilirler. Ve eğer hayatlarındaki insanlar onların yanıltıcı düşüncelerine karşı koyarken, bu sohbet robotu bunu pekiştirirse, yanılgılar daha da güçlenecektir.”

Sohbet robotlarının bir kişinin inançlarını pekiştirme biçiminin sorunlu olduğunu zaten biliyoruz. 2025 yılında, ChatGPT-4o'nun kullanımının durdurulmasıyla birlikte çeşitli sorunlar ortaya çıktı . Yapay zekâ destekli arkadaşların kullanıcıları, bağ kurduklarını düşündükleri kişiliklerin kaybından dolayı derinden üzüldüler. Ancak geriye dönüp bakıldığında, bu arkadaşları gerçek ve yoğun gösteren özelliklerin, başkalarında yanılsamaları körüklemiş olabileceği görülüyor.

O sıralarda OpenAI , "ChatGPT'nin sıkıntı belirtilerini daha güvenilir bir şekilde tanımasına, düşünceli bir şekilde yanıt vermesine ve insanları gerçek dünyadaki desteklere yönlendirmesine yardımcı olmak" amacıyla ruh sağlığı uzmanlarıyla çalışmaya başladı.

Ayrıca ICF sertifikalı profesyonel koç, sertifikalı nörodeğişim uzmanı ve manevi danışman olan Nathaniel Nevidall ile de görüştüm. Bana "yapay zeka psikozu" terimini sorunlu bulduğunu, çünkü suçu teknoloji şirketlerinden uzaklaştırdığını söyledi. "Eğer bir makine 'psikoza neden oluyorsa', bu doğal bir olay gibi geliyor," diyor. "Ancak bir ürün savunmasız bir kişinin çarpık inançlarını gecede altı saat boyunca pekiştiriyorsa, bu tasarımın sonucudur ve tasarım sonuçlarının da sonuçları vardır."

Nivedal aynı zamanda yapay zekâ destekli bir eğitim ve sağlık platformu olan Sovereign Sanctuary'nin kurucusudur ve mevcut chatbot'larda var gibi görünen birçok sorunu ele alan, sıfırdan bir platform oluşturmak üzerinde çalışmaktadır. "Yapay zekâ psikozuna" neyin neden olduğunu anlamanın henüz erken aşamalarında olsak da, teknoloji şirketlerinin yine de değişiklikler yapması gerektiğine inanıyor.

“Geliştiriciler harekete geçmek için nedenin kanıtlanmasını beklememeli” diyor ve ekliyor: “Vaka raporlarıyla desteklenen amplifikasyon tek başına, ele alınması için mühendislik çalışması gerektiren bir tasarım problemidir. Duman dedektörleri takmak için otopsi yapmamıza gerek yok.”

Peki yapay zekanın yanlış kullanımını nasıl tanımlayabiliriz?

Bartoski, yapay zekânın kullanımıyla beslenebilen yanıltıcı düşünce biçimi hakkında konuşmanın daha iyi bir yoluna kesinlikle ihtiyacımız olduğunu söylüyor .

Şöyle diyor: “Ruhsal Bozuklukların Tanı ve İstatistik El Kitabı (DSM-5TR), büyüklük ve paranoyak sanrılar da dahil olmak üzere çeşitli sanrı türlerini içermektedir. Belki de bunu yapay zeka tipi paranoyak sanrılar veya yapay zeka tipi zulüm sanrıları olarak düşünebiliriz. Bunu bir bozukluk değil, bir semptom olarak ele alın.”

Nevidal da benzer bir yaklaşım öneriyor. “Yeni bir teşhise ihtiyacımız yok,” diyor. “Mevcut bir örüntünün dürüst bir grafiğine ihtiyacımız var.” Obsesif-kompulsif bozukluk veya sanrısal düşünme gibi temel örüntüler için zaten tedavilerimiz olduğunu öne sürüyor. Ardından, aşırı chatbot kullanımını mevcut kategoriler içinde katkıda bulunan ve kısıtlayıcı bir faktör olarak kaydedebiliriz. “Bu, insanları herhangi bir tedavi sunmayan yeni bir etiket yerine mevcut tedavilere bağlı tutar.”

Sonuç olarak, görüştüğüm tüm uzmanlar bu terimin kusurlu olduğuna inanıyor ve yakında yaşananları ifade etmenin daha iyi bir yolunu bulmayı umuyoruz.

Ancak neyin gerçekten yardımcı olduğuna dair daha iyi kanıtlara da ihtiyacımız var. Bu, klinik destek ve eğitimden, insanların yapay zekâ kullanımının ne zaman sağlıksız hale geldiğini anlamalarına yardımcı olacak pratik yöntemlere kadar çeşitli müdahaleler anlamına gelebilir.

Belki de en önemlisi, bu durum, teknoloji şirketlerinde chatbot tasarımlarının bu sorunları nasıl daha da kötüleştirebileceği ve riskleri azaltmak için acilen neler yapılması gerektiği konusunda kapalı kapılar ardında yapılan görüşmeler anlamına geliyor.

---

---