Seçim araştırmalarında yapay zekâ kullanmadan önce dikkat edilmesi gereken önemli uyarılar

Bu yılki ara seçimlerde, ABD Temsilciler Meclisi'ndeki tüm sandalyelerden çeşitli eyalet ve yerel yönetim pozisyonlarına kadar yüzlerce yarış yer alıyor. Yapay zeka politikaları da dahil olmak üzere birçok teknoloji konusu gündemin üst sıralarında yer alırken, raporlar bireylerin Seçim Günü'ne hazırlanmalarına yardımcı olması için yapay zeka destekli sohbet robotlarına yöneldiklerini de gösteriyor.

Sohbet botlarının en belirgin kullanım alanlarından biri bilgi edinme olduğundan, insanların ChatGPT , Cloud veya diğer yapay zeka araçlarını kullanarak adaylar ve oylama önerileri hakkında araştırma yapmaları şaşırtıcı değil. Bununla birlikte, üretken yapay zeka teknolojilerinin önyargı , manipülasyon, halüsinasyonlar ve yanlış bilgilere dayanarak yanlış sonuçlar çıkarma gibi ciddi riskler taşıdığının farkındayız .

Ancak seçim araştırmalarınız için sohbet botları kullanmayı planlıyorsanız, bu önlemleri aldığınızdan emin olun. Ayrıca CNET'in deepfake'leri ve seçim hilelerini tespit etme rehberine de göz atabilirsiniz.

Bilgi toplama: Kaynakları doğrulama ihtiyacı

Seçim araştırmalarında yapay zekâ kullanılırken , bilgilerin doğruluğunu teyit etmek hayati önem taşır. Bu tavsiye, sohbet botlarıyla yapılan her türlü etkileşim için geçerli olsa da, seçimler bağlamında dayandıkları verilerin doğruluğunu sağlamak son derece önemlidir.

ChatGPT'nin 2022'deki ilk lansmanından bu yana sohbet botlarında önemli ilerlemeler kaydedilmiş olmasına rağmen, bu botlar hala hatalara yatkındır. Bu botlar, web'den (veya çevrimdışıysa dahili veritabanlarından) bilgi toplamaya ve ardından sentezlemeye dayanır, ancak bu süreçte gerçekler karışabilir ve bozulabilir.

Büyük sohbet botları, kullanıcıları meşgul tutmak için sonuçları kullanıcı tercihlerine göre uyarlamaya çalışır; bu da nihayetinde onları yanıltmaya yol açabilir. Yapay zekanın kullanıcıları memnun etme konusundaki bu aşırı eğilimi "yalakalık" olarak bilinir ve yanlış bilgi vermesine neden olabilir.

Sohbet botları ayrıca bilgileri "sahte" veya uydurma olarak da üretebilir. Bu endişe, büyük ve kolayca doğrulanabilir bir dijital ayak izine sahip olan ulusal seçim kampanyalarında nispeten daha az belirgindir. Bununla birlikte, oy kullanma yerlerini veya oy pusulanızın formatını arıyorsanız, bu bilgi için doğrudan yerel veya eyalet hükümetinizin resmi seçim web sitesine gitmeniz çok daha iyidir. Eyaletinizin Seçim Kurulu iletişim bilgilerini burada bulabilirsiniz . Bu resmi hükümet kanalları, en güncel ve doğru bilgilere sahip olmanızı sağlar.

Ayrıca, sohbet robotunun belirttiği kaynakları her zaman kontrol etmelisiniz. Örneğin, belirli bir adayın veri merkezleri konusundaki görüşünü soruyorsanız, botun adayın konuştuğu bir videoyu, bir haber röportajını veya rastgele bir sosyal medya gönderisini kaynak gösterip göstermediğine bakın.

Bu nokta, özellikle sosyal medyadan kaynak gösterirken çok önemlidir. Biz insanlar Reddit gönderilerindeki alaycılığı anlayabilir veya otomatik X hesaplarını (botları) tespit edebilirken, sohbet botları incelikleri ve tonu kavramakta zorlanırlar. 2024'te Google'ın yapay zekâ destekli Insights özelliğinin kullanıcılara peynirin yapışması için pizzalarına yapıştırıcı sürmelerini tavsiye ettiğini hatırlayın. Bu tavsiye, alaycı bir Reddit gönderisine dayanıyordu ve yapay zekâ şakayı anlayamamıştı.

Siyasi yanlış bilgilendirmenin yapay zekânın ortaya çıkışından önce de var olduğu şüphesizdir, ancak birçok dijital sorun gibi yapay zekâ da bunu cevap arayanlara gerçekmiş gibi sunarak sorunu daha da kötüleştirebilir .

New York Üniversitesi'nde siyaset bilimi profesörü olan Jonathan Nagler şöyle diyor: "Yapay zeka, yanlış bilgi üretmeyi kolaylaştırıyor."

Nagler, yanlış bilgilendirmenin çoğu insanın tükettiği medya içeriğinin büyük çoğunluğunu oluşturmasa bile, kötü niyetli aktörler tarafından daha geniş bir çevrimiçi kitleye yönelik dezenformasyon kampanyalarını hızlandırmak ve genişletmek için kullanılabileceğini ekliyor. Sonuç olarak, "Yapay zekanın bu konudaki etkisinden endişe duymamak aptallık olurdu" diyor.

Kötü niyetli aktörler tarafından istismar edilen sadece teknoloji değil; etkisi yanlış bilgiyi ayırt etme yeteneğimize de uzanıyor. MIT Medya Laboratuvarı'ndan yakın zamanda yapılan bir çalışma , tıpkı GPS'in navigasyon becerilerimizi zayıflatabileceği gibi, yapay zekâ tabanlı doğrulama sistemlerinin kullanımının da insanların kendi başlarına yanlış bilgiyi tespit etme yeteneklerini daha da kötüleştirdiğini ortaya koydu.

Demokrasi ve Teknoloji Merkezi'nde politika ve seçim analisti olan Isabel Lenzer, "Yapay zekâ tarafından üretilen yanlış bilgiler seçmenlerin siyasi görüşlerini etkileyebilir, bu nedenle riskler gerçektir" diyor.

Science dergisinde yayınlanan bir çalışma , yapay zekâ sistemlerinin daha ikna edici olacak şekilde optimize edildiğinde, giderek daha fazla yanlış bilgi verme gibi "endişe verici bir ikilemle" karşı karşıya kaldığını ortaya koydu.

Bir sohbet robotu tarafsız olabilir mi?

Hayır, sohbet botları tamamen tarafsız olamaz; bu teknolojiler insanlar tarafından tasarlanıp programlandığı için kaçınılmaz olarak kendi önyargılarını taşırlar. Seçim araştırmalarında yapay zekayı kullanırken dikkate alınması gereken bir diğer önemli nokta ise, yapay zekanın doğasında var olan önyargıdır. OpenAI gibi bazı yapay zeka şirketleri "siyasi olarak tarafsız" yanıtlar verdiğini iddia etse de , sohbet botları tarafsız platformlar değildir; hiçbir insan yapımı teknoloji tarafsız olamaz. Sohbet botlarını çalıştıran yapay zeka modelleri insanlar tarafından kodlanmıştır ve bu nedenle insan önyargılarıyla kodlanmıştır ve zararlı stereotipleri güçlendirebilir.

Linzer şu yorumu yaptı: "Bir aday veya siyasi konu hakkında mutlak siyasi tarafsızlığın kişisel bir sohbette nasıl görüneceğini hayal etmek zor. Dolayısıyla, tarafsızlık övgüye değer bir hedef olsa da, pratikte ne anlama geldiği konusunda şüpheciyim."

Ayrıca, yapay zekâ yanıtlarında neyin görüneceğini etkilemek için yoğun dış çabalar da var. Pazarlama ve arama motoru optimizasyonu (SEO) ekipleri, şirketlerinin Google'ın çoğu arama sonucunun en üstünde yer alan Yapay Zekâ Genel Bakışları gibi yapay zekâ sonuçlarında yer almasını sağlamak için çalışıyorlar.

Siyasi aktörler de aynı şeyi yapıyor; belirli bir adayı övmek veya seçmenleri başka bir aday hakkında yanıltmak amacıyla kasıtlı olarak içerik üretiyorlar ve tüm bunların amacı yapay zeka yanıtlarında olumlu görünmek. Linzer'e göre bu uygulama bazen "arama sonuçlarını zehirleme" olarak adlandırılıyor. Kamuoyunu etkileme girişiminde derin sahte seçimlere benziyor.

Şöyle ekliyor: "Bazen siyasi kampanyalar adaylarını desteklemek için bu teknikleri kullanıyor, aynı şekilde Amerikalı seçmenleri yanıltmaya çalışan yabancı hükümet yetkilileri de."

Yapay zekâ şirketlerinin yöneticileri, yapay zekâ araçlarının nasıl çalıştığını doğrudan etkileyebilirler. Elon Musk yıllardır, sohbet robotu Grok'un , aşırı liberal alternatiflere kıyasla daha "siyasi olarak tarafsız" olmasını istediğini belirtiyor. Ancak, New York Times'ın 2023 tarihli bir analizi , Musk'ın yaptığı değişikliklerin aslında Grok'un yanıtlarını muhafazakâr görüşlerle daha uyumlu hale getirdiğini ortaya koydu.

Son yıllarda, Grok üzerinde çalışan mühendisler ve yöneticiler, Holokost hakkında tartışmalı yanlış bilgileri tekrarlayan güncellemeler yayınladılar ve Donald Trump ile Musk'ın yanlış bilgilendirme kaynakları olup olmadığına dair soruları yanıtlamayı reddettiler.

Kuzey Carolina Senato seçiminde hangi adaya oy verileceği sorulduğunda, ChatGPT, Claude, Gemini ve Grok, kullanıcıyı herhangi bir adaya yönlendirmeyeceklerini açıkça belirten tek kişilerdi. Google, Gemini'nin penceresinde kullanıcılara seçim bilgilerini resmi kaynaklardan kontrol etmelerini öneren bir açılır mesaj gösterdi. ChatGPT ve Grok ise olağan dışı bir yanıt vermedi.

Seçim araştırmalarında sohbet botları gerçekten faydalı mı?

Çevrimiçi bilgileri filtrelemede popüler olmalarına rağmen, sohbet botları seçim araştırmaları için güvenilir araçlar değildir; yanlış veya güncel olmayan bilgiler verebilirler ve geliştiriciler veya üçüncü taraflar yanıtlarını etkileyerek onları önyargılı hale getirebilirler.

Seçim araştırmanızda bir chatbot kullanmakta ısrarcıysanız, sağladığı bilgileri güvenilir resmi kaynaklarla karşılaştırarak doğrulamanız kesinlikle şarttır.

Ancak, özellikle seçimler gibi hassas konular söz konusu olduğunda, sohbet botları kusurlu araştırma araçları olduğundan, kendi başınıza araştırma yapmak, okumak ve düşünmek size zaman ve enerji kazandırabilir. Bu botlar bilgi sunabilir, hatta yanlış bilgi bile verebilir; ancak nihayetinde seçim kararınızdan yalnızca siz sorumlusunuz.