Google, Nano Banana'yı Google Earth'e ekleyerek hata yaptı.

Geçtiğimiz hafta Google, yapay zekâ destekli görüntü oluşturma modeli Nano Banana 2'yi Google Earth dünya keşif programına entegre etti. Şirket, bu entegrasyonu, insanların dünyanın farklı yerleri hakkında infografikler oluşturmasına veya yakın tarihli görüntülerden tarihi manzaralar üretmesine olanak tanıyan bir yol olarak tanıttı. Kullanıcılar ayrıca gerçekçi arka planlara karşı "hayallerindeki evleri" oluşturmaya davet edildi; örneğin, evinize bir ek bina inşa etmeyi planlıyorsanız veya göl kenarında bir tatil evi hayal ediyorsanız, bunları Google Earth'te Nano Banana 2'yi kullanarak görselleştirebilirsiniz.

Bu haber, Google'ın yapay zeka platformlarını neredeyse tüm ürün ve hizmetlerine entegre etme hamlesinin ortasında geldi (örneğin, geçen hafta Google Docs for Workspace kullanıcılarına yeni Gemini özellikleri ekledi). Şirketin bakış açısından, Nano Banana 2'yi Google Earth'e eklemek son derece mantıklıydı. Ancak daha sonra anlaşıldığı üzere, bu entegrasyon Google Earth için uygun değildi.

Google Earth, Nano Banana 2'yi şimdiden kullanıma sunuyor.

Google, Nano Banana 2 için bu önemli entegrasyonu piyasaya sürdükten sadece bir gün sonra geri çekti . Şirket, orijinal duyurusuna bir güncelleme ekleyerek şunları belirtti: “İnsanların dünyanın güvenilir bir görünümü için Google Earth'e benzersiz bir şekilde güvendiklerinin farkındayız. Coğrafi bilgi sistemleri uzmanlarının bu özelliği çeşitli yararlı amaçlar için kullandığını fark ettik; ancak, politikalarımızı ihlal ediyor gibi görünen oluşturulmuş görüntülerin ekran görüntülerini paylaşan kişiler de gördük. Bu nedenle, daha güçlü kontroller uygulamak için çalışırken bu özelliği Google Earth'ten kaldırıyoruz. Oluşturulan görüntülerin başkalarının görmesi için ana Google Earth deneyiminde görünmediğini ve yapay zeka tarafından oluşturulduğunu gösteren bir filigran taşıdığını belirtmek önemlidir.”

Bu ifade, kullanıcıların bu araçla oluşturduğu görüntüleri doğru bir şekilde tanımlamıyor. Bana göre, bu durum Google'ın politikalarını "ihlal etmenin" ötesine geçti : internet, beklendiği gibi, Nano Banana 2'yi gerçek konumlara dayalı uygunsuz ve hassas görüntüler oluşturmak için kullandı. En çok dolaşan görüntülerden birinin Manhattan'daki yeni Dünya Ticaret Merkezi'ne çarpan bir uçağı göstermesi şaşırtıcı olmayabilir . Diğerleri Eyfel Kulesi'nin yıkıntılarını veya Mısır piramitlerinin derin bir çukura çöktüğünü gösteriyordu. Birçoğu bu görüntülerin şaka amaçlı oluşturulduğunu fark etse de, çok daha büyük bir sayı bu "resmi" Google Earth görüntülerini çevrimiçi olarak görüp en kötüsünü varsayabilir.

Şaka bir yana, yanlış bilgi ve dezenformasyonun yayılma potansiyeli endişe vericiydi. Örneğin, bir kullanıcı aracı kullanarak mültecileri Meksika sınırına yakın omuz omuza nasıl yerleştirdiğini gösterdi . Bu tür bir görüntünün viral hale geldiğini ve izleyicilerin bu Google Earth anlık görüntüsünün gerçek bir uydu görüntüsü olduğuna inanmaya kandırıldığını hayal edebilirsiniz. Google'ın birçok görüntü oluşturma sürecini engellemek için bazı kontrolleri vardı, ancak bu kısıtlamalar açıkça yeterince güçlü değildi. Google'ın yapay zeka özelliklerine para ödeyen veya ödemeyen herkes Nano Banana 2'yi Google Earth ile kullanabildiğinden, tek yapmaları gereken Google Earth'ü açıp Nano Banana 2 yanıt verene kadar kötü amaçlı bir uyarıyı manipüle etmekti.

Üretken yapay zekanın Google Earth gibi bir araçta yeri yok.

Yapay zekâya şüpheyle yaklaşan biri olmaya gerek yok, bunun neden baştan beri kötü bir fikir olduğunu açıklamak için. Yine de, çok az yapay zekâ şirketi, üretken yapay zekâ özelliklerini ürünlerine sıkıştırmadan önce herhangi bir şüphecilik gösteriyor gibi görünüyor. Google Earth gibi araçlar eğitim amaçlı tasarlanmıştır. Bunları dünyayı, coğrafyasını ve farklı şehirlerin ve manzaraların nasıl göründüğünü öğrenmek için kullanıyoruz. Ben şahsen dijital küremi döndürerek yeni yerleri keşfetmekten keyif alıyorum ve genellikle rastgele bir noktaya işaret koyup Street View aracılığıyla nasıl göründüğüne bakıyorum. Bunun nedeni, Google Earth'ü dünya hakkında doğru ve güvenilir bir bilgi kaynağı olarak görmemdir; eğer öyle olmasaydı, neden umursardım ki?

Bu nedenle, doğası gereği dünyanın yanlış ve çarpıtılmış görüntülerini üreten bir aracı Google'ın sunmasında hiçbir mantık göremiyorum. Satış noktalarından biri, yerleri haritada geçmişteki halleriyle göstermekti, ancak Nano Banana 2 bunu yapmadı. Aksine, yapay zeka, bölgenin tarihsel bir temsili olduğuna inandığı şeyi oluşturmak için eğitim verilerinden yararlandı . Ona 1726'da Paris'in nasıl göründüğünü göstermesini isteseydiniz, büyük olasılıkla Paris'in üç yüz yıl önceki gerçek görünümünü göstermek yerine, haritaya kamu binaları ve yapıları yerleştirirdi . Elde ettiğiniz şey bir tarih yanılsamasıdır; eğlenceli olabilir, ancak kesinlikle eğitici değildir - tıpkı sosyal medyada kalitesiz yapay zeka tarafından üretilen tarihsel içeriklere göz atmak gibi.

Aynı durum yapay zeka tarafından üretilen "bilgilendirici infografikler" için de geçerlidir. Google gibi şirketler yapay zekanın yeteneklerini bir eğitim aracı olarak tanıtmayı sever ve Google Earth'ün size haritada bir konumu gösteren bilgilendirici infografikler üretebilmesi harika görünüyor. Ancak ortaya çıkan infografikler herhangi bir otorite tarafından, özellikle de bir uzman tarafından incelenmemiştir: Nano Banana 2 tarafından üretilen görüntü yarı gerçekler ve yanılsamalarla dolu olabilir ve daha da kötüsü, yapay zekanın çalışmasını doğrulamak için tıklanabilir herhangi bir kaynak sağlamaz. Sıradan kullanıcılar, bu infografiklerden "öğrendikleri" bilgileri, bu bilgilerin doğru olup olmadığına bakılmaksızın, akıllarında tutabilirler.

En kötü ihtimalle, bu özellik yanlış bilgi yaymak için bir makine görevi görüyordu. Dünyanın belirli bir yerinde kötü bir şey olduğuna insanları ikna etmek istiyorsanız, isteğinizi yazmanız yeterliydi ve Nano Banana 2, fikrinizin gerçekçi bir uydu görüntüsünü oluşturarak sosyal medyada kolayca paylaşılmaya hazır hale getiriyordu. Yapay zeka tarafından üretilen yanlış bilgilerin hızla yayıldığı bir dönemde, bu durum sorunu daha da kötüleştiriyor ve zaten alev alev yanan bir ateşe benzin döküyor. Google gibi şirketler, yapay zeka tarafından üretilen kötü içerikleri gerçek bilgilerden ayırmanın yollarını bulmalı, bunların büyümesine yardımcı olmamalıdır.

Bu, genel olarak yapay zeka araçlarına karşı bir argüman değil, daha ziyade üretken yapay zekanın bir eğitim aracına entegre edilmesine karşı bir argümandır. Google'ın bir gerçeği alıp çarpıtarak yapay zekanın ne gibi bir fayda sağladığını düşündüğünü bilmiyorum; "yapay zeka başarısı" hakkında övünürken gösterebilecekleri bir örnek daha vermekten başka bir şey değil.