ChatGPT kullanmak sizi daha aptal yapar mı? Bir MIT araştırması, yapay zeka araçlarına güvenen insanların yeteneklerinin kötüleştiğini öne sürüyor.

Teknolojideki büyük patlamayla birlikte, Üretken yapay zekaAraştırmacılar bu araçların kullanıcılar üzerindeki etkilerini incelemek için yarışıyor. Önceki çalışmalar, aşırı güvenin ChatGPT Benzer araçlar şunlara yol açabilir: Bağımlılık davranışları ve ruh sağlığına zarar, eleştirel düşüncenin zayıflaması ve yalnızlık ve sosyal izolasyon duyguları.

Yeni bir araştırma, ChatGPT gibi büyük dil modeli (LLM) araçlarının potansiyel risklerine dikkat çekiyor. Massachusetts Teknoloji Enstitüsü Medya Laboratuvarı'ndaki araştırmacılar şunu buldu: ChatGPT ve benzeri araçları makale yazmak için kullanmak beyin aktivitesinde önemli bir azalmaya yol açtı. “ChatGPT’nin Beyin Üzerindeki Etkisi: Deneme Yazma Görevleri İçin Yapay Zeka Asistanı Kullanıldığında Bilişsel Borç Birikimi”...Yapay zeka araçlarına güvenen kişilerin, ChatGPT veya benzeri araçların yardımı olmadan aynı görevi yapmaları istendiğinde makale yazmada daha kötü hale geldiği görüldü.

Çalışmaya 54 ila 18 yaş aralığındaki 39 kişiden oluşan küçük bir örneklem dahil edildi. Katılımcılar üç gruba ayrıldı: "sadece beyin" grubu (sadece zihinsel yeteneklerine güvenenler), geleneksel bir arama motoru kullanabilen bir grup ve ChatGPT gibi büyük dil modeli (LLM) araçlarını kullanabilen bir grup.

Sonuçlar, görevi tamamlamak için büyük dil modelleri (LLM) kullananların, geleneksel yazılım arayüzleri kullananlara göre %32 daha düşük bilişsel yük yaşadığını gösterdi. Ayrıca süreç boyunca daha az hayal kırıklığı yaşadıklarını bildirdiler.

Önemli bulgulardan biri, çalışma sırasında büyük dil modelleri (LLM) kullanan kişilerin bilgi edinmek için daha az zihinsel çaba harcadığıdır. Bu şaşırtıcı olmasa da, bazı kişilerin görevleri tamamlamak için yapay zeka araçlarını kullanmaya neden meyilli olduğunu açıklıyor.

"Sadece beyin" grubundaki katılımcılar, daha yüksek beyin aktivitesi kaydetmenin yanı sıra etik hususlar konusunda daha fazla memnuniyet bildirdiler.

“Kuşkusuz, büyük dil modelleri (LLM'ler), katılımcıların sorularını yanıtlamak için harcanan çabayı geleneksel bir arama motoruna kıyasla azalttı. Ancak, bu kolaylık bilişsel bir maliyetle geldi ve kullanıcıların LLM'lerin (eğitim veri kümelerine dayalı olasılıklı yanıtlar) çıktılarını veya "görüşlerini" eleştirel olarak değerlendirme eğilimini azalttı. Bu, "yankı odası" etkisinin rahatsız edici bir evrimini vurgular: ortadan kalkmak yerine, algoritmik olarak düzenlenmiş içerik aracılığıyla kullanıcı maruziyetini şekillendirmek üzere adapte olmuştur. "En iyi" olarak kabul edilen şey, nihayetinde LLM katılımcılarının önceliklerinden etkilenir.”

İlk bakışta, çalışmanın sonuçları açık görünüyor. Bir makale yazmanın, aynı makaleyi yazmak için bir araç kullanmaktan daha fazla zihinsel çaba gerektirmesi şaşırtıcı değil. Makaleyi yazması için başkasına ödeme yapmanın da asgari düzeyde beyin gücü kullanacağından eminim.

Ancak bilim sadece sezgiden ibaret değildir. Kanıt ve hipotez testi gerektirir. ChatGPT ve benzeri araçların etkilerine bağlı olarak hükümet politikalarının ve eğitim standartlarının değişme potansiyeli göz önüne alındığında, mümkün olduğunca fazla bilgi toplamak önemlidir.

MIT araştırmacıları da araştırmanın sonucunda bunu doğruladı.

“LLM’lerin insanlar için olumlu bir şey olarak kabul edilebilmesi için, LLM’lerin insan beyni üzerindeki uzun vadeli etkilerinin anlaşılması için uzunlamasına çalışmalara ihtiyaç olduğuna inanıyoruz.”

MIT araştırması henüz hakem değerlendirmesinden geçmedi ve örneklem büyüklüğü küçüktü, dolayısıyla ilgili bilgileri toplamak için iyi bir adım olsa da, takibi gerekiyor.

ChatGPT insanları aptallaştırıyor mu?

Çalışmada ayrıca katılımcılardan daha sonra yapay zeka yardımı olmadan aynı görevi tamamlamaları istendiğinde, performans üzerine bir makale yazmak için ChatGPT gibi büyük dil modeli (LLM) kullanmanın etkisi de incelendi.

Araştırmacılar bu eğilimin AI'nın "bilişsel tükenmesine" atfedilebileceğini öne sürdüler. Başka bir deyişle, ChatGPT gibi araçların kullanımı düşünmeyi azaltır ve potansiyel olarak bilişsel yeteneklerde uzun vadeli bir düşüşe yol açar. Uzmanların "dijital beyin atrofisi" adını verdiği bu fenomen, AI'ya aşırı güvenmenin temel zihinsel yeteneklerimizi bozuyor olabileceğini öne sürüyor.

Microsoft araştırmacılarının Carnegie Mellon Üniversitesi ile iş birliği içinde yürüttüğü bir çalışmada, üretken AI'nın eleştirel düşünme üzerindeki etkileri incelendi. Araştırmacılar, üretken AI kullanımının etkilerini kas atrofisine benzeterek, bilişsel yeteneklerin kullanılmamasının kasların kullanılmaması gibi zayıflığa yol açtığını açıkladılar.

Veriler, üretken AI modellerinin kullanımının beyin aktivitesinde ve eleştirel düşünmede uzun vadeli düşüşlere yol açtığı teorisini desteklemeye devam ederse, yaygın sonuçlar olabilir. Eğitim kurumları ve işletmeler, bilişsel gelişimi engellemediklerinden emin olmak için bu araçları nasıl entegre ettiklerini yeniden değerlendirmelidir.

Gazetenin yaptığı bir anket şunu ortaya koydu: Guardianve yayınladı Yapay Zeka KomisyonuChatGPT gibi üretken AI araçları öğrenciler tarafından sıklıkla kopya çekmek için kullanılır. Bu etik olmayan kullanım, akademik dürüstlük ve AI'nın eğitim değerleri üzerindeki etkisi konusunda ciddi endişelere yol açar.

Öğrenciler ve çalışanlar ChatGPT ve benzeri araçlara aşırı güvenirlerse, belirli görevleri bağımsız olarak yerine getirme yetenekleri azalabilir. Bu bağımlılık, yazma, eleştirel düşünme ve problem çözme gibi temel becerilerde düşüşe yol açabilir ve iş piyasasındaki rekabeti tehdit edebilir.