İki uzmana göre yapay zeka abartısını nasıl fark edebilir ve "yapay zeka aldatmacasından" nasıl kaçınabiliriz?

"Yapay zeka, açıkçası, bir aldatmacadır: Başkasının cebini doldurmak için size satılan bir metadır."

Dilbilimin öne sürdüğü argümanın özü budur. Emily Bender ve sosyolog Alex Hanna Yeni kitaplarında AI ​​Con'u. Yapay zeka olarak satılan teknolojilerle hayatı kesişen ve bunların gerçek faydasını sorgulayan herkes için, yani çoğumuz için, faydalı bir rehber. Bender, Time dergisi tarafından yapay zeka alanında en etkili kişilerden biri olarak gösterilen Washington Üniversitesi'nde profesördür ve Hanna, kâr amacı gütmeyen kuruluşta araştırma direktörüdür. Dağıtılmış Yapay Zeka Araştırma Enstitüsü Google'ın Etik Yapay Zeka ekibinin eski bir üyesi.

ChatGPT'nin 2022'nin sonlarında yakaladığı büyük ilgi, yapay zeka etrafında yeni bir medya çılgınlığının başlamasına neden oldu. Yazarların tanımladığı gibi abartı, bir teknolojinin "eğlenceyi, nakit ödülü, yatırım getirisini veya pazar payını kaçırmamak için" satın almanız veya yatırım yapmanız gerektiğine ikna olduğunuz "abartı"dır. Ancak bu, bilim insanlarının, hükümet liderlerinin ve sıradan insanların makine öğrenmesi ve yapay zeka fikrine ilgi duyması ve bu konuda endişe duyması ilk kez olmuyor ve büyük ihtimalle son da olmayacak.

Binder ve Hanna, makine öğreniminin kökenini, matematikçi John McCarthy'nin yapay zeka terimini ortaya attığı 1950'lere dayandırıyor. Bu, ABD'nin Sovyetlere karşı askeri, ideolojik ve teknolojik açıdan bir üstünlük elde etmesine yardımcı olacak projeleri finanse etmeye çalıştığı bir dönemdi. Hanna CNET'e "Zeus'un kafasından öylece fırlayıp gitmedi ya da buna benzer bir şey olmadı. Daha uzun bir geçmişi var" dedi. "Bu, yapay zeka ile ilgili ilk hype döngüsü değil."

Günümüzdeki hype döngüsü, OpenAI gibi girişimlere yapılan milyarlarca dolarlık risk sermayesi yatırımları ve Meta, Google ve Microsoft gibi teknoloji devlerinin yapay zeka araştırma ve geliştirmesine milyarlarca dolar yatırmasıyla yönlendiriliyor. Sonuç açıktır, çünkü son الهواتف Dizüstü bilgisayarlar ve yazılım güncellemeleri yapay zeka ile dolu. Yapay zeka alanında Çin'i geçme yönündeki artan çabalar nedeniyle, yapay zeka araştırma ve geliştirmesinin yavaşlayacağına dair hiçbir işaret yok. Aslında bu ilk medya abartısı döngüsü değil.

Elbette, 2025'teki üretken yapay zeka, XNUMX'lerde bilim insanlarını büyüleyen psikoterapi sohbet robotu Eliza'dan çok daha gelişmiş olacak. Günümüzün iş liderleri ve çalışanları, medya abartıları, bir şeyleri kaçırma korkusu ve karmaşık görünen ancak sıklıkla yanlış kullanılan terminolojilerle boğuşuyor. Teknoloji liderlerini ve yapay zeka meraklılarını dinlediğinizde, yapay zekanın işinizi elinizden alacağını ve şirketinize para kazandıracağını düşünebilirsiniz. Ancak yazarlar, her ikisinin de pek olası olmadığını, bu yüzden medya abartısının farkına varıp bunun önüne geçmenin önemli olduğunu savunuyorlar.

Peki yapay zeka çılgınlığını nasıl tespit edebiliriz? Binder ve Hanna'ya göre, aşağıda paylaştığımız bazı belirgin işaretler şöyle: Yazarlar, kitaplarında sorulması gereken bir dizi soru ve yapay zeka çılgınlığını tespit etmek için stratejiler özetliyor. Şu an müsait Birleşik Devletlerde.

Yapay zekayı insanlaştıran dile dikkat edin.

İnsanlaştırma, yani cansız bir nesneye insana benzer nitelikler veya özellikler kazandırma süreci, yapay zeka çılgınlığının büyük bir bölümünü oluşturuyor. Bu tür bir dilin örneği, yapay zeka şirketlerinin sohbet robotlarının artık "görebildiğini" ve "düşünebildiğini" söylemesidir.

Bu karşılaştırmalar, yeni yapay zeka programlarının nesneleri veya yapay zeka modellerini derin muhakemeyle tanımlama yeteneğini tanımlamaya çalışırken yararlı olabilir, ancak aynı zamanda yanıltıcı da olabilir. Yapay zeka destekli sohbet robotları zihinleri olmadığı için göremez veya düşünemezler. Hannah'nın röportajımızda ve kitapta belirttiği gibi, sinir ağları fikri bile nöronlara dair 1950'lerden kalma insan anlayışına dayanıyor; nöronların nasıl çalıştığına dair bir bilgi değil, ancak makinenin arkasında bir zihin olduğuna inanmamızı sağlayabiliyor.

Bu inanç, insanlar olarak dili işleme biçimimizden dolayı yatkın olduğumuz bir şeydir. Bender, gördüğümüz metnin arkasında bir zihin olduğunu hayal edecek şekilde şartlandırıldığımızı, hatta bunun yapay zeka tarafından oluşturulduğunu bildiğimizde bile böyle düşündüğümüzü söyledi. Bandar, "Dili, konuşanın kim olduğuna dair zihnimizde bir model geliştirerek yorumlarız" diye ekledi.

Bu modellerde, sadece söylenen sözcüklerin anlamını değil, konuşan kişiye ilişkin bilgimizi de kullanarak anlam yaratıyoruz. Bandar, "Dolayısıyla ChatGPT gibi bir şey tarafından üretilen sentetik metinle karşılaştığımızda da aynı şeyi yapacağız" dedi. "Zihnin var olmadığını kendimize hatırlatmak çok zordur. O sadece bizim yarattığımız bir yapıdır."

Yazarlar, yapay zeka şirketlerinin ürünlerinin insan benzeri olduğuna bizi ikna etmeye çalışmasının nedenlerinden birinin, yapay zekanın ister iş yerinde ister yaratıcı olarak insanların yerini alabileceğine bizi ikna etmek için zemin hazırlaması olduğunu savunuyorlar. Yapay zekanın sağlık ve kamu hizmetleri gibi kritik sektörlerdeki karmaşık sorunlara sihirli bir çözüm olabileceğine inanmak zorlayıcı.

Ancak yazarlar, yapay zekanın çoğunlukla hiçbir şeyi düzeltmek için kullanılmadığını savunuyor. Yapay zeka verimlilik için satılıyor, ancak yapay zeka hizmetleri, vasıflı işçilerin yerini, düşük ücretli sözleşmeli veya serbest çalışanlardan önemli miktarda bakım gerektiren kara kutu makinelerle değiştiriyor. Hannah'nın röportajımızda söylediği gibi, "Yapay zeka işinizi elinizden almayacak, ancak işinizi daha da kötüleştirecek."

“Süper zeka” ifadesine dikkat edin.

Eğer insanlar bir şeyi yapamıyorsa, yapay zekanın bunu yapabileceği iddialarına karşı dikkatli olmalısınız. Hannah, "Süper zeka veya süper zekâ, bazı teknolojilerin insanları gereksiz kılacağını ima ettiği için çok tehlikeli bir terimdir" dedi. "Belirli alanlarda, büyük ölçekli desen eşleştirme gibi, bilgisayarlar bunda çok iyidir. Ancak çığır açan bir şiir veya araştırma veya bilim uygulaması için çığır açan bir fikir olacağına dair bir fikir varsa, bu açıkça bir tanıtımdır." Bender, "Uçaklardan süper uçaklar veya cetvellerden süper önlemler olarak bahsetmiyoruz" diye ekledi. "Bu durum sadece yapay zeka alanında ortaya çıkıyor gibi görünüyor."

Yapay genel zekadan bahsedildiğinde sıklıkla akla gelen "süper zeka" AI fikridir. Birçok yönetici yapay genel zekanın (AGI) tam olarak ne olduğunu tanımlamakta zorluk çekiyor, ancak esasen yapay zekanın en gelişmiş biçimi olup, karar alma ve karmaşık görevleri yerine getirme potansiyeline sahiptir. Yapay zekanın mümkün kıldığı bir geleceğe yakın olduğumuza dair henüz bir kanıt yok, ancak bu popüler bir moda tabir.

Yapay zeka liderlerinin bu fütüristik açıklamalarının çoğu bilimkurgu edebiyatından alıntıdır. Hem destekçiler hem de kötümserler (Binder ve Hannah'nın yapay zeka tutkunlarını ve zarar potansiyelinden endişe edenleri tanımladığı gibi) bilimkurgu senaryolarına güveniyor. Destekçiler, yapay zekanın güç verdiği bir gelecek toplumu öngörüyor. Karamsarlar, yapay zekalı robotların dünyayı ele geçirip insanlığı yok edeceği bir gelecekten yakınıyorlar.

Yazarlara göre ortak nokta, yapay zekanın insanlardan daha akıllı olduğu ve kaçınılmaz olduğu yönündeki derin inanç. Bender, "Söylemlerde sıklıkla gördüğümüz şeylerden biri, geleceğin sabit olduğu ve oraya ne kadar çabuk varacağımızın önemli olduğu fikridir" dedi. "Sonra bu özel teknolojinin o yönde bir adım olduğu iddiası var ve hepsi pazarlama. Bunun ötesini görebilmek faydalı."

Yapay zekanın bu kadar popüler olmasının nedenlerinden biri de işlevsel ve otonom bir yapay zeka asistanının, yapay zeka şirketlerinin yatırımcılarına dünyayı değiştirecek inovasyon vaatlerini yerine getirmesi anlamına gelecek olmasıdır. Bu gelecek için planlama yapmak -ister ütopik ister distopik olsun- yatırımcıların, şirketler milyarlarca dolar harcarken ve karbon emisyonu hedeflerini kaçıracaklarını kabul ederken geleceğe bakmasına neden oluyor. İyisiyle kötüsüyle hayat bir bilim kurgu değil. Birisinin yapay zeka ürününün doğrudan bir filmden alındığını iddia ettiğini gördüğünüzde, onlara şüpheyle yaklaşmanız iyi bir işarettir.

Yapay zekanın girdilerini ve çıktılarının nasıl değerlendirileceğini öğrenin.

Yapay zeka pazarlama dolandırıcılığını tespit etmenin en kolay yollarından biri, şirketin nasıl çalıştığını açıklayıp açıklamadığını kontrol etmektir. Birçok yapay zeka şirketi, modellerini eğitmek için kullandıkları içerikleri açıklamıyor. Ancak genellikle şirketin verilerinizle ne yaptığını açıklarlar ve bazen de modellerinin rakiplerinden daha iyi performans gösterdiğiyle övünürler. Araştırmanıza buradan, genellikle gizlilik politikalarından başlamalısınız.

Yaratıcıların en büyük şikayetlerinden ve endişelerinden biri de yapay zeka modellerinin nasıl eğitildiğidir. Telif hakkı ihlalleriyle ilgili çok sayıda dava bulunuyor ve yapay zeka destekli sohbet robotlarındaki önyargılar ve bunların zarar verme potansiyelleri konusunda birçok endişe bulunuyor. Bender, "Geçmişteki adaletsizliklerin yeniden üretilmesi yerine, işleri ileriye taşıyacak şekilde tasarlanmış bir sistem yaratmak istiyorsanız, işe verilerinizi düzenleyerek başlamalısınız" diyor. Hannah, bunun yerine yapay zeka şirketlerinin "internette yüklü olmayan her şeyi" ele geçirdiğini söylüyor.

Bir yapay zeka ürününü ilk kez duyuyorsanız, özellikle dikkat etmeniz gereken şeylerden biri, ürünün etkinliğini vurgulayan her türlü istatistiğe bakmaktır. Bender ve Hannah da diğer birçok araştırmacı gibi, atıf yapılmayan her sonucun kırmızı bayrak olduğunu belirtiyorlar. Bender, "Birisi size bir şey sattığında ve bunun nasıl değerlendirildiğine dair erişim sağlamadığında, tehlikeli bir zemindesiniz demektir" diyor.

Yapay zeka şirketlerinin, yapay zeka ürünlerinin nasıl çalıştığı ve nasıl geliştirildiği hakkında belirli bilgiler vermemesi sinir bozucu ve hayal kırıklığı yaratıcı olabilir. Ancak satış konuşmalarındaki bu boşlukları fark etmek, bu bilgilere sahip olmak daha iyi olsa da, gürültüyü kesmeye yardımcı olabilir. Daha fazla bilgi edinmek için bkz. ChatGPT Sözlüğü Tam ve nasıl kapatılır Apple Zekası.