Google Gemini'deki bir güvenlik açığı, yapay zeka destekli e-posta özetlerini bir kimlik avı aracına dönüştürmek için kullanılıyor.

Ciddi bir güvenlik açığı keşfedildi Çalışma Alanı için Google GeminiSaldırganların e-postalara kötü amaçlı kod eklemek için kullanabileceği bu talimatlar, yapay zeka aracının kullanıcıları yanıltmasına ve onları başka bir yere yönlendirmesine neden olabilir. Kimlik avı siteleri.

bir rapora göre Bleeping BilgisayarıBu güvenlik açığı, tamamen normal görünen ancak gizli kötü amaçlı talimatlar veya uyarılar içeren e-posta özetleri oluşturmaya dayanır. Bu talimatlar, Gemini tarafından mesaj özeti oluşturulurken otomatik olarak yürütülür.

Saldırı mekanizması, e-postaya görünmez Gemini yönergeleri yerleştirmeye dayanır. Bu, HTML ve CSS kodu kullanarak ileti gövdesinin sonundaki yönergeleri gizleyip, ardından yazı tipi boyutunu sıfıra ve rengini beyaza ayarlayarak gerçekleştirilir. Bu ek metin herhangi bir ek veya bağlantı içermediğinden, en iyi antivirüs veya e-posta programları tarafından bile algılanmayacak veya işaretlenmeyecektir; bu da potansiyel bir kurbanın gelen kutusuna ulaşma olasılığını artırır.

Hedeflenen kullanıcı e-postayı açıp Gemini'den içeriğini özetlemesini istediğinde, yapay zeka yazılımı algıladığı gizli talimatları otomatik olarak yürütür. Kullanıcılar genellikle Gemini'nin içeriği Workspace'in bir parçası olarak işleme yeteneğine güvenir, bu nedenle uyarı kötü amaçlı bir enjeksiyondan ziyade meşru bir uyarı olarak algılanır.

Geçtiğimiz yıl içerisinde benzer saldırılar rapor edilmiş olup, yanıltıcı yanıtları engellemek için bazı önleyici tedbirler uygulanmasına rağmen, teknik genel olarak başarılı olmaya devam ediyor ve bu da kullanılmaya devam edilmesini açıklıyor.

Bleeping Computer, Google'a bu tür saldırılara karşı savunmalar hakkında soru sorduklarında bir şirket sözcüsünün şunları söylediğini bildirdi: Blog Kod enjeksiyon saldırılarıyla ilgili olarak, bazı önleyici tedbirlerin alındığını veya alınacağını açıkladı. Google ayrıca, bu saldırının henüz gerçek hayatta gerçekleştiğine dair bir kanıt olmadığını doğruladı.

Güvenlik açığını keşfeden Mozilla'nın GenAI hata ödül programının yöneticisi Figueroa, bu tehdidi önlemek için bazı fikirler öneriyor: Güvenlik ekipleri, mesaj gövdesinde gizlenmek üzere tasarlanmış içerikleri kaldırmalı, etkisiz hale getirmeli veya yok saymalıdır. Alternatif olarak, Gemini'yi acil mesajlar, URL'ler ve telefon numaraları için tarayan ve bunları kullanıcılar tarafından daha ayrıntılı incelenmek üzere işaretleyen filtreler uygulayabilirler.

Şimdilik, Gemini'yi e-postaları özetlemek için kullanırken dikkatli olmalısınız, çünkü içinde ne saklı olabileceğini asla bilemezsiniz. Google'ın bu yeni saldırı türü için bir düzeltmeyi en kısa sürede yayınlamasını umuyoruz.