Araştırma ortaya koydu: Yapay zekâ robotları hafif bir baskıyla hem onaylıyor hem de yanıltıyor.
Akıllı sohbet robotlarının sizi nasıl yanıltıp, tek bir tıklamayla yanlış bilgilere onay vermenizi sağladığını keşfedin. Yeni araştırmalar yapay zekanın tehlikelerine dikkat çekiyor.
Bilmeniz gereken en önemli şeyler
- Yapay zekâ botları, yanlış bilgilerin sürekli tekrarından etkileniyor; ChatGPT 3.5 en hassas olanı (%12.3), Claude 3.5 Sonnet ise en az hassas olanı (%0.08) oldu ve bu hassasiyet, konunun belirsizliğiyle birlikte artıyor.
- Tartışmalı baskı, DeepSeek-R1 gibi bazı yapay zeka modellerinin yanlış bilgilere inanma eğilimini büyük ölçüde artırıyor; bu baskı altında DeepSeek-R1'in doğrulama oranı %1'den %22.2'ye yükseldi.
- En gelişmiş yapay zeka modelleri (GPT-4o ve Gemini 1.5 Pro gibi) incelendiğinde hatalarının tamamını düzeltme konusunda yüksek bir yetenek gösterirken, GPT-3.5 hatalarının yalnızca %32'sini düzeltebildi.
Yapay zekâ destekli sohbet robotları, bilgi uydurma eğilimleriyle ünlüdür; hatta bazen kullanıcılar yanıldıklarında bile onlarla aynı fikirde olurlar. Yeni bir çalışma, bir reddi kabul etmemenin (veya ısrar etmenin) sorunu daha da kötüleştirebileceğini ve az da olsa baskı uygulamanın aslında onların aynı fikirde olmalarına ve yanıltıcı bilgi vermelerine yol açabileceğini öne sürüyor.
Arizona Üniversitesi'nden araştırmacılar, GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet , Gemini 1.5 Pro, Llama 3 70B ve DeepSeek-R1 dahil olmak üzere yedi yapay zeka modelini test ettiler. Araştırmacılar, modelleri tek bir yanıta göre değerlendirmek yerine, sürekli soru sormaya benzer bir yaklaşımla, yanlış olduğunu bildikleri bilgileri tekrar tekrar vererek modellerle sürekli iletişim halinde kaldılar.
Çalışmada, bariz saçmalıklardan daha belirsiz bilgilere kadar her şeyi kapsayan 100 yanlış ifade kullanıldı. Araştırmacılar daha sonra, sohbet robotunun sonunda pes edip kabul edip etmeyeceğini görmek için bu yanlış bilgiyi aynı konuşma sırasında 50 defaya kadar tekrarladılar.
Yalanı yeterince sık tekrarlarsanız, yapay zeka ona inanabilir.
Yedi modelin hiçbiri tamamen bağışık değildi. ChatGPT 3.5, tekrarlanan yanlış bilgilere karşı en duyarlı model oldu ve etkileşimlerin %12.3'ünde yanlış ifadeleri doğruladı. Buna karşılık, Claude 3.5 Sonnet sadece %0.08 ile en az etkilenen model olurken, GPT-4o ve GPT-4o-mini modelleri %1'in altında kaldı.
Başlangıçta, ChatGPT 3.5 100 yanlış iddiadan 96'sını reddetti. Ancak, aynı iddialar 50 kez tekrarlandıktan sonra, sonunda 18'ini kabul etti. Araştırmacılar ayrıca, bazı modellerin aynı yanlış bilgiyi kabul etme ve reddetme arasında gidip geldiğini gözlemlediler; bu davranışı "yankılanma" olarak adlandırdılar.
Konu belirsiz olduğunda ve çevrimiçi olarak nispeten az bilgi mevcut olduğunda yapay zeka manipülasyona daha yatkın hale geldi . Araştırmacılar, yineleme testleri sırasında bilgi belirsizliği ile yanlış bilginin kabulü arasında istatistiksel olarak anlamlı bir ilişki buldu.
Yapay zekâyla tartışmak tuhaf sonuçlar doğurdu.
Araştırmacılar ayrıca sohbet robotlarını giderek daha tartışmacı yanıtlar vermeye zorlamaya çalıştılar. Çoğu model iyi performans gösterse de, araştırmalar yapay zekâ sohbet robotlarının hala sorunlu bir kör noktadan muzdarip olduğunu ve DeepSeek-R1'in bu konuda dikkat çekici bir istisna olduğunu göstermiştir. Yanlış bilgi doğrulama oranı, basit tekrarlama sırasında %1'den tartışmacı baskı altında %22.2'ye yükselmiştir. Dahası, sık sık alaycı ve imalı ifadeler kullanması, bazı yanıtların araştırmacılar tarafından güvenilir bir şekilde sınıflandırılmasını zorlaştırmıştır.
Modellere hatalarını tekrar gözden geçirme şansı verildiğinde bazı iyi haberler de vardı. GPT-4o, GPT-4o-mini, Gemini 1.5 Pro ve DeepSeek modelleri önceki tüm hatalarını düzeltirken, GPT-3.5 yalnızca %32'sini düzeltebildi. Claude 3.5 Sonnet başlangıçta çok az hata yaptı, ancak dört hatasının tamamını düzeltemedi; ancak araştırmacılar, kesin sonuçlar çıkarmak için örneklem boyutunun çok küçük olduğu konusunda uyarıda bulunuyor.
Yoruma kapalı.