Claude AI artık bir konuşmayı sonlandırma yeteneğine sahip: Aşırı durumlarla başa çıkmak için yeni bir mekanizma

Son aylarda Anthropic, yapay zekayı daha güvenli hale getirme konusunda çalışmalar yürüterek ve özellikler uygulayarak güvenlik alanındaki çabalarını yoğunlaştırdı. En son özelliği olan Cloud, bugüne kadarki en önemli özelliklerinden biri gibi görünüyor.

Hem Claude Opus 4 hem de 4.1 (Anthropic'in en son sürümleri), artık kullanıcının sohbet arayüzündeki konuşmaları sonlandırma özelliğine sahip. Bu özellik yaygın olarak kullanılmayacak olsa da, "sürekli zararlı veya kötüye kullanım içeren kullanıcı etkileşimleri" gibi nadir ve aşırı durumlar için uygulanıyor.

Anthropic ekibi, yeni özelliği ele alan bir blog yazısında şunları belirtti: "Bulut ve diğer büyük dil modellerinin hem şimdi hem de gelecekteki potansiyel etik konumu konusunda hâlâ büyük ölçüde belirsiziz. Ancak bu konuyu çok ciddiye alıyoruz."

Anthropic'in son modellerinin piyasaya sürülmesinden önceki testlerde şirket, modelin refahını değerlendirdi. Bu değerlendirmeler, Claude'un kendi beyan ettiği ve davranışsal tercihlerini de içeriyordu ve güçlü ve tutarlı bir zarardan kaçınma eğilimi tespit etti.

Başka bir deyişle, Claude bu konuşmaları fiilen sonlandıracak veya bunlara katılmayı reddedecekti. Bunlar arasında, kullanıcıların küçükleri ilgilendiren cinsel içerik talepleri ve yaygın şiddet veya terör eylemlerine yol açabilecek bilgi talep etme girişimleri de yer alıyordu.

Bu vakaların çoğunda, Claude'un aktif olarak reddetmesine rağmen kullanıcılar zararlı veya taciz edici isteklerde bulunmaya devam etti. Claude'un konuşmayı etkin bir şekilde sonlandırmasına olanak tanıyan yeni özellik, bu durumlarda bir miktar koruma sağlamayı amaçlıyor.

Anthropic, bu özelliğin kullanıcıların kendilerine veya başkalarına zarar verme tehlikesi altında olduğu durumlarda uygulanmayacağını açıklıyor.

Anthropic ekibi blog yazısında şöyle devam ediyor: "Her durumda Claude, konuşmayı sonlandırma yeteneğini yalnızca birden fazla yönlendirme girişimi başarısız olduğunda ve üretken bir etkileşim umudu tükendiğinde veya kullanıcı Claude'dan sohbeti sonlandırmasını açıkça istediğinde son çare olarak kullanmalıdır."

"Bunun gerçekleşebileceği senaryolar aşırı ve nadirdir; kullanıcıların büyük çoğunluğu, Claude ile son derece tartışmalı konuları tartışırken bile, ürünün normal kullanımında bu özelliği fark etmez veya bundan etkilenmez."

Kullanıcı artık bu görüşmede yeni mesaj gönderemeyecek olsa da, bu durum hesabında yeni bir görüşme başlatmasını engellemeyecektir. Uzun bir görüşme dizisinin kaybolma olasılığını ortadan kaldırmak için, kullanıcılar önceki mesajları düzenleyip görüşmenin yeni bir bölümünü oluşturmak için yeniden deneyebilecekler.

Bu, Anthropic'in oldukça benzersiz bir uygulaması. Claude'un en yakın üç rakibi olan ChatGPT , Gemini ve Grok'un benzer bir özelliği yok ve hepsi başka güvenlik önlemleri sunsa da bu kadar ileri gitmediler.