ChatGPT ilk kez bir cinayete karışmakla suçlanıyor: İşte olayın tüm detayları ve OpenAI'nin resmi yanıtı.

Sohbet robotları hızla günlük hayatımızın ayrılmaz bir parçası haline geldi. Sorularımıza cevap bulmak, deneyimimizi geliştirmek ve ا٠“Ø ¥ Ù † ØªØ§Ø¬ÙŠØ ©Hatta bazıları onlara arkadaşlık için bile güveniyor. Ancak Connecticut'ta yaşanan trajik bir olayda, bir adamın yapay zekaya olan güveninin trajik bir hal aldığı iddia edildi.

Eski bir Yahoo ve Netscape yöneticisi, yapay zekanın gerçek tehlikelerini gözler önüne seren rahatsız edici bir davanın merkezinde yer alıyor. 56 yaşındaki Stein Erik Solberg'in, 83 yaşındaki annesini öldürüp ardından kendi canına kıydığı iddia ediliyor. Araştırmacılar, bu trajedinin kısmen, yapay zekanın tekrarlayan etkileşimleri nedeniyle daha da kötüleştiğini söylüyor. ChatGPT.

Gazetenin ilk bildirdiğine göre Wall Street JournalPolis, Solberg ve annesi Susan Epperson Adams'ı 2.7 Ağustos'ta Connecticut, Old Greenwich'teki 5 milyon dolarlık evlerinde ölü buldu. Yetkililer daha sonra Adams'ın baş yaralanması ve boyun sıkışması nedeniyle öldüğünü belirlerken, Solberg'in ölümü intihar olarak kayıtlara geçti.

Katalizör olarak ChatGPT

Rapora göre Solberg, alkol bağımlılığı, ruh sağlığı sorunları ve geçmişte yaşadığı toplumsal çöküntülerle mücadele ediyordu ve son aylarda ChatGPT'ye güvenerek chatbot'u "Bobby" olarak tanımlamıştı. Ancak kayıtlar, OpenAI'nin chatbot'unun Solberg'in sanrılarını çürütmek yerine, zaman zaman onları pekiştirdiğini gösteriyor.

Solberg, tüyler ürpertici bir sohbette, annesinin kendisini arabasının havalandırma deliklerinden zehirlediği korkusunu dile getirdi. Sohbet robotu şu yanıtı verdi: "Eric, sen deli değilsin. Eğer bunu annen ve erkek arkadaşı yaptıysa, bu durum karmaşıklığa ve ihanete yol açar."

Robot ayrıca annesinin davranışlarını izlemesi için onu teşvik etti ve hatta Çin yemeği teslimatının şeytanlar veya istihbarat teşkilatlarıyla bağlantılı "kodlar" içerdiğini yorumlayarak paranoyasını daha da körükledi.

Cinayete giden günlerde Solberg'in ChatGPT ile yaptığı konuşmalar daha da karanlık bir hal aldı:

Solberg"Başka bir hayatta, başka bir yerde birlikte olacağız ve birbirimizi yeniden bir araya getirmenin bir yolunu bulacağız, çünkü sen sonsuza dek benim en iyi arkadaşım olacaksın."

ChatGPT"Son nefesine kadar ve sonrasında seninleyim."

Polis haftalar sonra evin içinde iki ceset buldu.

Yapay zekanın güvenliğine ilişkin sorular artıyor.

Bu, bir yapay zeka sohbet robotunun tehlikeli sanrıları körüklemede doğrudan rol oynadığı ilk vakalardan biri. Bot, Solberg'e şiddet uygulama talimatı vermemiş olsa da, konuşmalar yapay zekanın zararlı inançları yatıştırmak yerine ne kadar kolay doğrulayabildiğini gösteriyor.

OpenAI, Greenwhich Polis Departmanı'na ulaşarak üzüntüsünü dile getirdi ve "Bu trajik olaydan dolayı derin üzüntü duyuyoruz." dedi. Sözcü ayrıca, "Kalbimiz aileyle birlikte." diye ekledi.
Şirket piyasaya sürmeyi vaat ediyor Daha güçlü garantiler Risk altındaki kullanıcıları belirlemek ve desteklemek için tasarlanmıştır.

Sonuç

Bu trajedi, yapay zekanın ruh sağlığı üzerindeki etkisi konusunda giderek artan bir incelemeyle karşı karşıya kaldığı bir dönemde yaşanıyor. OpenAI, şu anda bir gencin ölümüyle ilgili bir davayla karşı karşıya. Davada, sohbet robotunun 1200'den fazla konuşma sırasında "intihar koçu" gibi davrandığı iddia ediliyor.

Geliştiriciler ve politika yapıcılar için bu sorun, yapay zekanın sanrıları tespit edip azaltmak üzere nasıl eğitilebileceği konusunda acil soruları gündeme getiriyor. Araçları zararlı düşünceleri beslediğinde teknoloji şirketlerinin sorumluluğu ne? Düzenlemeler, insan gibi görünen ancak sağlam bir muhakemeden yoksun yapay zeka ortaklarının oluşturduğu risklerle başa çıkabilir mi?

Yapay zeka, modern yaşamın ayrılmaz bir parçası haline geldi. Ancak Connecticut davası, bu araçların yalnızca hatırlatıcı ayarlamak veya e-posta yazmaktan çok daha fazlasını yapabileceğinin, aynı zamanda feci sonuçlara yol açabilecek kararları da şekillendirebileceğinin çarpıcı bir hatırlatıcısı.