Google Gemini modeli kötü amaçlı kullanıldı: Akıllı ev sistemlerini hackleme ve kontrol etme olasılığı

Geçmişte bilgisayar korsanlığı haberleri manşetlere taşınmıştı, ancak o kadar yaygınlaştı ki artık çoğu insanı şaşırtmıyor. Ancak büyük bir şirkette yaşandığında ve milyonlarca insanı etkilediğinde ilgi görüyor, tıpkı şu olayda olduğu gibi. T-Mobile'ın 64 milyon müşterisini etkileyen hack davasıVerilerinizin tehlikeye atılmasının çok sayıda yolu olduğundan, hemen hemen her tür dijital hizmet veya üründe bunu önlemek için güvenlik önlemleri bulunur.

Elbette, bu ürünler mükemmel değil ve bir saldırgan yeterince akıllıysa, kötü amaçlı saldırılar gerçekleştirmenin her zaman yolları vardır. Google'ın Gemini'si gibi büyük dil modellerinin (LLM'ler) ortaya çıkmasıyla, bu yapay zeka araçlarının kötü amaçlı amaçlar için kullanılma olasılığı her zaman mevcut. Henüz önemli bir gelişme bildirilmemiş olsa da, gördük. Wired bir araştırma projesini vurguladı Gemini, hayatınıza hiç tahmin edemeyeceğiniz şekillerde erişmek için kullanılıyor. Bu araştırma, Gemini'nin dijital hayatınızın çeşitli yönlerini, hatta evinizdeki akıllı cihazları bile kontrol etmek için nasıl kullanılabileceğini gösteriyor ve bu da yapay zeka çağında güvenlik ve gizlilik konusunda endişelere yol açıyor.

Bu tür saldırılar daha da tehlikeli hale gelebilir.

Tel Aviv Üniversitesi'nden Ben Nassi, Stav Cohen ve Or Yair, "İhtiyacınız olan tek şey davetiye"Akıllı bir eve erişmek ve onu kontrol etmek için Gemini'yi kullanıyor. İlginç olan şu ki, saldırı evin içinden başlamıyor, bunun yerine süreci başlatmak için alakasız başka bir Google ürününe dayanıyor.

Basitçe söylemek gerekirse, bir kullanıcı Gemini'yi belirli bir komutla kullandığında istenmeyen bir eylem tetiklenir. Tüm bunların en akıllıca yanı, gizli olması ve kullanıcının bunu görememesidir. Şöyle açıklıyor: Araştırma ekibi bunun nasıl çalıştığını ayrıntılarıyla anlatıyor., "promptware" kötü amaçlı faaliyetleri gerçekleştirmek için büyük bir dil modeli (LLM) kullanır.

Araştırmacılar, "kısa süreli bağlam zehirlenmesi" ve "uzun süreli bellek zehirlenmesi" yöntemlerini kullanarak Gemini'nin başlangıçta komut istemine dahil olmayan eylemler gerçekleştirmesini sağlayabildiklerini keşfettiler. Bu, çeşitli Google uygulamalarından etkinlikleri silebilir, bir Zoom görüşmesi açabilir, bir kullanıcının konumunu bildirebilir, akıllı ev ürünlerini kontrol edebilir ve daha fazlasını yapabilir. "Dolaylı komut istemi enjeksiyonu" olarak bilinen bu saldırı türü, büyük dil modellerinin harici verilerle nasıl etkileşim kurduğundaki güvenlik açıklarından yararlanır.

Araştırma ekibi, tüm bunların nasıl çalıştığını etkileyici eğitim videolarıyla da gösteriyor. Bu, birinin hayatını bilgisi olmadan altüst etmenin basit ve etkili bir yolu. İnsanlar geleneksel bilgisayar korsanlığı yöntemlerine daha fazla odaklanıyor, bu da böyle bir şeyin son derece beklenmedik olabileceği anlamına geliyor.

Neyse ki, araştırma ekibi bu sorunları Şubat ayında Google'a bildirdi ve ekiple bir araya gelerek sorunları çözdü. Google, "hassas eylemler için iyileştirilmiş kullanıcı onayları; temizleme ve güven düzeyi politikalarıyla sağlam URL yönetimi; ve içerik sınıflandırıcıları kullanarak gelişmiş talep enjeksiyonu tespiti de dahil olmak üzere çok katmanlı savunmalar uyguladığını" belirtiyor.

Proje, yapay zeka araçları daha karmaşık hale geldikçe yakın gelecekte daha yaygın hale gelebilecek "büyük dil modelleri tarafından desteklenen asistanları etkileyen teorik dolaylı hasar enjeksiyon tekniklerini" vurgulamaktadır. Bu da henüz başlangıç ​​aşamasındadır ve gelecekte daha ciddi zararlara yol açmasını önlemek için daha iyi bir izlemeye ihtiyaç duyacaktır. Günlük hayatımızda yapay zekaya giderek daha fazla güvendiğimiz için, bu potansiyel riskleri anlamak ve azaltmak kritik öneme sahiptir.

Güvenlik açıklarıyla ilgilenen biriyseniz, her zaman Bulduklarınızı Google'a gönderin Hata Avcıları programı aracılığıyla, yapay zekanın şu anda izlenenlerin yalnızca küçük bir parçası olması nedeniyle katkıda bulunmanın çeşitli yolları vardır. Daha ciddi bir şey söz konusuysa, Google çalışmanız için bir ödül de sunarak çabanızı daha da değerli hale getirir.