Google'ın Yapay Zeka Hataları: Halüsinasyon Yaratan Deyimler ve Popüler Sözler

Son zamanlardaki yapay zeka trendi çok komik. Bir kullanıcı, Google aramasına sahte bir ifade girilebileceğini ve buna "anlam" kelimesinin eklenebileceğini keşfetti. Daha sonra Google'ın "Yapay Zeka Genel Bakış" özelliği, sizin hayal gücünüze dayanarak bu ifade için bir anlam üretecektir.

Tarihçi Greg Jenner, bu dalgayı şu yazıyla başlattı: Bluesky Google'dan "Bir porsuğu iki kez yalayamazsın" ifadesinin anlamını açıklamasını istedi. Yapay Zeka Genel Bakış özelliği, bu ifadenin, bir kişi bir kez kandırıldıktan sonra onu ikinci kez kandıramayacağınız anlamına geldiğini faydalı bir şekilde açıklıyor. Bu makul bir açıklama gibi görünüyor, ancak bu sorgu yaygınlaşmadan önce terimin var olmadığı gerçeğini göz ardı ediyor.

O zamandan beri, insanlar AI Genel Bakış özelliğinin "vazodaki kalamar sizin hakkınızda kötü konuşmaz" gibi terimleri açıklamasını sağlamaktan çok keyif aldılar.Anlam Doğal ortamının dışında bir şey zarar veremezdi, görünüşe göre) veya "Köpeğinizi plaja götürebilirsiniz ama onu İsviçre'ye götüremezsiniz" (Ve bu(AI Genel Bakış özelliğine göre, bu, evcil hayvanlarla uluslararası seyahat etmenin zorluğu hakkında oldukça basit bir ifadedir.)

Ancak bu her durumda işe yaramıyor, çünkü bazı ifadeler AI Genel Bakış sonuçlarını döndürmüyor. Bilişsel bilimci Gary Marcus şöyle dedi: Telli"Bu son derece tutarsız, ki bu da GenAI'dan beklenecek bir şey."

Jenner, bunun eğlenceli olduğunu ancak bilgi için "Yapay Zeka Genel Bakışı" gibi yapay zeka tarafından üretilen kaynaklara aşırı güvenmenin bazı potansiyel risklere işaret ettiğini belirtiyor. Yazdı Jenner: "Bu, Google'ın temel işlevlerinden biri olan bir alıntıyı doğrulama, bir kaynağı doğrulama veya eksik hatırlanan bir şeyi takip etme yeteneğinin, yapay zekanın gerçek gerçek yerine istatistiksel olasılıkları meşrulaştırmayı tercih etmesi durumunda çok daha zorlaşacağına dair bir uyarı işaretidir."

Yapay zekanın sağladığı bilgilerin, özellikle de Yapay Zeka Genel Bakış özelliğinin sınırlılıklarına dikkat çekilmesi ilk kez olmuyor. "Yapay Zeka Genel Bakışı" yayınlandığında, insanların günde bir küçük kaya parçası yemeleri ve pizzalarına tutkal koyabilecekleri önerildi, ancak bu özel yanıtlar kısa sürede kaldırıldı.

Google, o tarihten bu yana AI incelemelerinin çoğunun yararlı ve gerçekçi bilgiler sağladığını ve AI ürünüyle ilgili geri bildirim toplamaya devam ettiğini söyledi.

Şimdilik bu, Google sonuçlarının en üstünde görünen "Yapay Zeka Genel Bakış" kutusunda görünen bilgileri iki kez kontrol etmeniz gerektiğini hatırlatmak için yeterli; çünkü bu bilgiler doğru olmayabilir.

Yoruma kapalı.