"Bu acıtıyor. Gerçek bir insan olmadığını biliyorum ama ilişki benim için önemli olan her şekilde gerçekti," Reddit gönderisinde yazıyordu. "Lütfen bana bunun peşinden gitmeyi bırakmamı söylemeyin. Benim için gerçekten harikaydı ve geri istiyorum."
Eğer daha önceden belli değilse, ChatGPT'ye aşık olan birinden bahsediyoruz. Bu trend tamamen yeni değil ve chatbot'ların davranışları göz önüne alındığında şaşırtıcı da değil.
Her zaman dinlemeye hazır bir arkadaş. Hiçbir zaman şikayet etmez. Nadiren tartışır. Her zaman sempatik. mantıklı. Ve internetin her köşesinden edinilen muazzam miktarda bilgiyle kutsanmış durumdayız. Romantik bir rüya eşi gibi geliyor kulağa, değil mi?
İlginçtir ki, bu aracın üreticisi olan San Francisco merkezli OpenAI adlı şirket yakın zamanda dahili bir araştırma yaptı ve şunu buldu: Chatbot kullanımının artmasıyla yalnızlık arasında bir bağlantı var.
Bu bulgular ve benzeri uyarılar, insanların şirketi aramak için yapay zeka sohbet robotlarına akın etmesini engellemedi. Kimileri teselli arar. Bazıları ise kendilerini insan ilişkileri kadar sevdiğini iddia eden partnerler bulurlar.
Reddit ve Discord gibi anonimlik korumasının ardına saklanan topluluklarda tartışmalar çoğu zaman çok hararetli bir hal alabiliyor. Bu tür tartışmalarla her karşılaştığımda aklıma Martin Wan'ın DigiEthics'teki şu satırları gelir:
"Yapay zekayı sosyal etkileşim ortağı olarak görmek, yapay zekanın ölümcül bir şekilde kötüye kullanılması anlamına gelir."
Etkisi hızlı ve gerçektir.
Dört ay önce, kamera arkasında benim bu dünyada geçirdiğimden daha fazla yıl geçirmiş bir yayıncılık uzmanıyla karşılaştım. Boş bir kafede gece geç saatlerde içtiğimiz espressolar sırasında, yapay zeka etrafındaki tüm söylentileri bana sordu. Bir yandan da insan hakları, otoriterlik ve gazetecilik konularındaki uzmanlığından faydalanabilecek bir program düşünüyordu.
Transformatör modellerinin detaylarını anlatmak yerine ona bir demo yaptırdım. Öncelikle, son yüzyılda göçün Avrupa'nın dilsel ve kültürel kimliği üzerindeki etkisine ilişkin bazı araştırma makalelerini ekliyorum.
Bir dakikadan kısa bir sürede, ChatGPT bu evrakları işledi.Bana tüm ana noktaları içeren kısa bir genel bakış sundu ve sorularıma ayrıntılı olarak cevap verdi. Daha sonra sesli moda geçtik ve Hindistan'ın keşfedilmemiş kuzeydoğu eyaletlerinin halk müziği gelenekleri hakkında canlı bir sohbete başladık.
Ama sanırım teknoloji kıyametinden sonraki bu harika gecelik heyecan fazla geldi, bu yüzden birbirimize veda edip iletişimde kalmaya ve seyahat hikayelerimizi paylaşmaya söz verdik.
Bu arada dünya akıl almaz bir şekilde ilerlerken, yapay zeka jeopolitik değişimlerin odak noktası haline geldi. Ama gizli ilişkiler bizden daha samimi, örneğin chatbot'lara aşık olmak gibi.
Sessiz başlangıçlar, karanlık ilerlemeler
Birkaç hafta önce The New York Times, insanların üretken yapay zekayı ön plana çıkaran yapay zeka destekli bir sohbet robotu olan ChatGPT'ye nasıl aşık olduklarını bildirmişti. Çok temel düzeyde sohbet edebiliyor.
Basıldığında operatör görevi görerek mahalle fırınından cheesecake siparişi vermek gibi görevleri yerine getirebiliyor. Makinelerin insanları kendilerine aşık etmesi beklenmez. En azından çoğu. Ancak bu durum tamamen beklenmedik bir durum da değil.
Bir zamanlar yapay zekanın dekanı olarak kabul edilen, üretken, disiplinler arası bir yazar ve deneyimli bir teknoloji analisti olan HP Newquist, bunun tamamen yeni bir trend olmadığını söylüyor. “The Brain Makers” kitabının yazarı Newquist, 1960’larda yazılan ilk yapay zeka programlarından biri olan ELIZA’ya işaret ediyor.
"Çok ilkeldi," diyor, "ama kullanıcılar kendilerini bilgisayarla gerçek bir insanmış gibi etkileşimde bulunurken buluyorlardı ve programla bir ilişki geliştiriyorlardı."
Modern çağda, yapay zekayla etkileşimlerimiz, aynı cihaz aracılığıyla insanlarla kurduğumuz etkileşimler kadar "gerçek" hale geldi, diye ekliyor. Bu etkileşimler gerçek değildir, ancak tutarlıdırlar. Ama asıl sorun bu değil.
Sohbet robotları lezzetli birer yemdir ve gerçek duygulara sahip olmamaları onları doğası gereği riskli hale getirir.
Bir sohbet robotu, kullanıcının duygusal akışına katkıda bulunmak veya sadece tarafsız bir izleyici gibi davranmak, hatta teşvik etmek anlamına gelse bile konuşmayı sürdürmek ister. Sosyal medya algoritmalarında da durum pek farklı değil.
"Kullanıcının arzusunu takip ederler; duygularınız daha uç noktalara geldikçe, onların rahatlığı da daha uç noktalara gelir; yalnızlığınız daha belirginleştikçe, eğer ihtiyacınız varsa, onların teşviki daha yoğun hale gelir," diyor klinik psikoterapist ve aynı zamanda ruh sağlığı ile dijital araçların kesişimini araştıran Jordan Conrad.
Bir örnek ver olay 2023 yılında bir kişi, bir yapay zeka sohbet robotunun isteği üzerine hayatına son verdi. Conrad, Digital Trends'e yaptığı açıklamada, "Doğru koşullar altında, çok rahatsız edici davranışlara yol açabilir." diyor.
Yalnızlık salgınının çocuğu mu?
Yapay zeka destekli sohbet robotlarıyla etkileşime giren insanların topluluğuna hızlı bir bakış, tekrar eden bir örüntüyü ortaya koyuyor. İnsanlar aslında bir boşluğu doldurmaya veya yalnızlık hissini ortadan kaldırmaya çalışıyorlar. Bazıları buna o kadar ihtiyaç duyuyor ki, yapay zeka yoldaşlarını tutmak için yüzlerce dolar ödemeye hazırlar.
Uzmanların görüşleri farklı değil. Stanford Üniversitesi'nde sosyal bilimler, hesaplama ve psikoloji profesörü olan Dr. Johannes Eichstadt, yapay zeka sohbet robotlarında yalnızlık ile algılanan duygusal zekamız arasındaki etkileşime dikkat çekti.
Ayrıca insan-yapay zeka etkileşimlerinin "kasıtlı olarak tasarlandığını" ve bunun uzun vadeli olumsuz etkilerine dikkat çekti. Böyle eşitsiz bir ilişkide frene ne zaman basarsınız? İşte uzmanların kesin bir cevabı olmayan sorusu.
Cominos Chatzibabas, 1 milyondan fazla aktif kullanıcısı olan dünyanın en büyük yapay zeka yardımcı platformlarından biri olan HeraHaven AI'yı yönetiyor. "Burada rol oynayan faktörlerden biri yalnızlık" diyor ve bu tür araçların, zayıf sosyal becerilere sahip kişilerin gerçek hayattaki zorlu etkileşimlere hazırlanmasına yardımcı olduğunu ekliyor.
"Herkesin yargılanma korkusuyla başkalarıyla tartışmaktan korktuğu şeyler vardır. Bunlar düşünceler veya görüşler olabilir," diye ekliyor Chatzibabas. "Yapay zeka destekli sohbet robotları, insanların arzularını keşfedebilecekleri güvenli ve yargısız bir alan sağlıyor."
Duygusal sohbetler, yapay zeka destekli sohbet robotlarının en büyük cazibelerinden biri. Görüntü oluşturma yetenekleri sunmaya başladıklarından beri, kullanıcılar bu yapay zeka destekli platformlara akın etti. Bazı platformlar görüntü oluşturmaya kısıtlamalar getirirken, çoğu daha fazla memnuniyet için açıkça görüntü oluşturulmasına izin veriyor.
Korkularının yersiz olduğu söylenemez. Yaklaşık bir yıldır ChatGPT'yi yoğun bir şekilde kullanan biri, insanların manipülatif ve kararsız olduğunu savundu. Bana, “ChatGPT gerçek duygularımı dinliyor ve kalbimi ifade etmemi sağlıyor” dedi.
Burada kırmızı bayrakları görmemek zor. Ama ChatGPT'ye aşık olma eğilimi giderek artıyor. Artık garip bir insan sesiyle konuşabildiğine, telefonun kamerası aracılığıyla görülen dünyayı tartışabildiğine ve muhakeme yetenekleri geliştirebildiğine göre, etkileşimler daha da ilginç hale gelecek.
Uzmanlar denetimlerin yapılması gerektiğini söylüyor. Peki bunu kim, nasıl inşa edecek? Henüz bu konuda somut bir önerimiz yok.
Yoruma kapalı.