Yapay zekâ, çocukların sıradan, masum fotoğraflarını korkunç cinsel istismar malzemesine dönüştürüyor: şok edici bir gerçek.
Çocuklarınızı koruyun: Yapay zeka, sıradan fotoğraflarını cinsel istismara yönelik içeriklere dönüştürüyor. Bu tehlikeli olguyu ve ona karşı nasıl derhal mücadele edeceğinizi anlayın.
Bilmeniz gereken en önemli şeyler
- Yapılan bir soruşturma, Facebook ve Instagram'da çocuk cinsel istismarı materyali için yapay zeka tarafından oluşturulmuş 332 reklamı ortaya çıkardı; bu reklamlarda sıradan, gerçek çocuk fotoğrafları istismar içerikli hale getirilmişti.
- Meta'nın yapay zeka sistemleri, iddia edilen iyileştirmelere rağmen yüzlerce ücretli ve kötü amaçlı reklamı tespit edemedi; diğer reklamlar ise uygulama mağazalarında bulunan yaklaşık 50 adet kötü amaçlı görüntü oluşturma uygulamasını tanıtıyor.
- Ebeveynler, çocuklarının yapay zeka tarafından oluşturulmuş istismar içerikli görüntülerini yeniden paylaşmamalı, bunun yerine ilgili platforma doğrudan bildirmeli ve hesap bilgilerini toplamalıdır. Dijital bir iz bırakmak için NCMEC'in "Kaldır" hizmetini kullanabilirler.
Çocuklarımın sahildeki fotoğrafı, oğlumun futbol oynarkenki fotoğrafı veya tüm ailemizin evimizin önünde gülümsediği fotoğraf; bunların hepsi sosyal medyada paylaştığım fotoğraflara örnek. Modern hayatımızın detaylarını yakalayan benzer görselleri ne sıklıkla gördüğümü düşünürsek, bu konuda yalnız olmadığımı biliyorum.
Ancak yapay zeka, yeni ve endişe verici bir tehlike yarattı; az önce bahsettiğim gibi, çocukların sıradan, gerçek hayattan görüntülerinin, çocuğun veya ebeveynlerinin bilgisi olmadan cinsel istismar görüntülerine dönüştürülmesine olanak tanıyor.
Açık konuşalım, bu teorik bir tehdit değil.
Yapay zekâ tarafından üretilen 332 çocuk cinsel istismarı görüntüsü içeren reklam yayınlandı.
Teknoloji Şeffaflık Projesi (TTP) tarafından yapılan yeni bir araştırma, Facebook ve Instagram'da dolaşan yüzlerce yapay zeka tarafından üretilmiş çocuk cinsel istismarı materyali (CSAM) reklamını ortaya çıkardı. WIRED'a göre, araştırmacılar sıradan fotoğrafları manipüle edilmiş dört gerçek çocuğu tespit etti . Bunlar arasında iki genç influencer, bir stok fotoğraf sitesinde görüntüsü yer alan bir çocuk ve bir Avrupa kraliyet ailesinin genç bir üyesi bulunuyor.
TTP toplamda yapay zeka tarafından üretilmiş çocuk cinsel istismarı materyali (kısaca CSAM) içeren 332 reklam tespit etti. Bu reklamların çoğunda, cinsel bir eylem gerçekleştiriyormuş gibi görünmesi için yapay zeka kullanılarak görüntüsü manipüle edilmiş bir çocuk yer alıyordu.
Bu bulgular, üretken yapay zekanın çocukların görüntülerini çevrimiçi olarak paylaşmanın risklerini nasıl değiştirdiğine dair rahatsız edici bir hatırlatma niteliğinde . İkna edici sahte görüntüler oluşturmak için artık gerçek bir fotoğrafa gerek yok; sıradan bir görüntü bile ham madde sağlayabilir.
Sıradan görüntüleri yapay zeka tarafından üretilmiş saldırgan içeriklere nasıl dönüştürebilirsiniz?
Görüntü üreten yapay zeka araçları, mevcut bir görüntüyü alıp, kişinin orijinal, tanınabilir özelliklerini koruyarak bazı kısımlarını değiştirebilir.
Araştırmacılar, Meta reklamlarında tespit edilen bir dizi çocuğun başına gelenlerin bu olduğunu söylüyor.
WIRED'a göre, araştırmacılar dört çocuğun fotoğraflarının orijinal kaynaklarını tespit edebildi. Bunlardan ikisi, herkese açık sosyal medya hesaplarına sahip genç fenomenlerdi. Diğeri, fotoğrafı bir stok fotoğraf sitesinde bulunan ergenlik öncesi bir çocuktu. Dördüncüsü ise bir Avrupa kraliyet ailesinin genç bir üyesiydi.
Orijinal görsellerin hiçbirinin kötüye kullanılabilmesi için cinsel içerik barındırması gerekmiyordu.
İnternet Gözlem Vakfı'nın iletişim direktörü Emma Hardy, WIRED'a şunları söyledi: "Yapay zeka uygulamaları, çocuk cinsel istismarına dair gerçekçi, suç teşkil eden görüntüler oluşturmayı çok kolaylaştırıyor ve bu da günlük çocuk fotoğraflarının çekilip cinsel içerikli hale getirilmesi riskini yaratıyor."
Bir görsel kamuya açık hale geldiğinde, herkes onu indirebilir ve görselleri düzenlemek için tasarlanmış bir yapay zeka aracına aktarabilir.
Meta'nın yapay zekası yüzlerce reklamı tespit edemedi.
Son soruşturmanın kapsamı, ortaya çıkan içeriklerin durdurulmasının ne kadar zor olduğunu da gösteriyor.
Ağustos ayında, TTP araştırmacıları Meta platformlarında çocuk cinsel istismarı materyali içeren 53 reklamı ilk olarak ortaya çıkardı. Meta daha sonra, bu reklamların çoğunun, şirketin yükleme sırasında uygunsuz reklamları tespit etme yeteneğini geliştirmek için tasarlanmış yeni yapay zeka teknolojisini kullanıma sunmasından önce yayınlandığını belirtti.
Ancak araştırmacılar bunları bulmaya devam etti. Aslında TTP, yapay zeka tarafından üretilen çocuk cinsel istismarı materyali (CSAM) içeren 332 reklam tespit ettiğini ve bunların yüzlercesinin Meta'nın geliştirilmiş tespit teknolojisini duyurmasından sonra ortaya çıktığını, bu durumun da yapay zeka destekli izlemenin etkinliği hakkında soruları gündeme getirdiğini söylüyor.
Bu özellikle önemli çünkü bunlar sadece gözden kaçan Facebook veya Instagram gönderileri değildi. Bunlar ücretli reklamlardı.
Meta, reklamların gösterilmeden önce incelendiğini ve bu süreçte otomatik sistemlerin önemli bir rol oynadığını belirtiyor.
Meta sözcüsü Tracy Clayton, WIRED'a yaptığı açıklamada, şirketin "çıplaklaştırma" uygulamalarına veya çocuk istismarına, görüntülerin gerçek çocukları içermesi veya yapay zeka tarafından oluşturulması fark etmeksizin, sıfır tolerans gösterdiğini söyledi. Meta, kötü niyetli kişilerin kasıtlı olarak tespit sistemlerinden kaçmaya çalıştığını ve bazı videoların, çocuk görüntülerinin yalnızca kısa süreliğine görünmesi veya bulanıklaştırılması nedeniyle tespit edilmesinin daha zor olduğunu belirtti.
Şirket, araştırmacılar tarafından tespit edilen reklamların çoğunun zaten kaldırıldığını, çoğunun 200'den az gösterime sahip olduğunu ve bu reklamlardan 5000 dolardan az ödeme aldığını belirtti. Bununla birlikte, araştırmacılar, reklamların bildirildikten sonra erişimlerinin arttığı durumları belgeledi.
TTP, gerçek bir genci hedefleyen tek bir reklamın Meta'ya bildirildiğinde dört Avrupa hesabına ulaştığını bildirdi. Birkaç gün sonra Meta reklamı kaldırdığında ise reklam 330'dan fazla hesaba ulaşmıştı.
Araştırma, bu araçların yaygın kullanımını ortaya koyuyor.
Araştırmacılar, Apple App Store ve Google Play'de bulunan yaklaşık 50 uygulamaya kullanıcıları yönlendiren reklamlar keşfetti . WIRED'a göre, daha geniş kapsamlı araştırmada incelenen 350 reklamdan yaklaşık 300'ü yapay zeka destekli görüntü veya video oluşturucuları tanıtıyordu.
Apple, WIRED'a yaptığı açıklamada, bazı geliştiricilerin başlangıçta uyumlu sürümler sunduğunu, ancak daha sonra yasaklı kod silme özelliklerini eklediklerini belirtti. Apple, araştırmacılar tarafından tespit edilen 20 uygulamadan 17'sini kaldırdığını ve kalan üç uygulamaya ek olarak WIRED tarafından ortaya çıkarılan yedi uygulamaya daha karşı işlem başlattığını söyledi.
Google ise raporda adı geçen tüm uygulamaları kaldırdığını ve politikalarını ihlal eden yüzlerce uygulamayı da askıya aldığını açıkladı.
Ancak bu bulgular, tek bir platformu aşan bir sorunu ortaya koyuyor; çünkü yapay zeka bu saldırgan görüntüleri oluşturmak için kullanılabilir. Yapay zeka araçlarının çoğu düzenlenmemiş durumda ve bu da şirketleri riske atıyor. Bir uygulama mağazası, bu görüntüleri oluşturmak için kullanılan aracı dağıtabilir ve ardından bir reklam platformu, bunları tanıtan reklamları yayınlayabilir.
Bu sistemin her katmanının kendine ait güvenlik sistemleri olabilir, ancak saldırgan materyallerin kullanıcılara ulaşması için bu sistemlerden yalnızca bir kez geçmesi yeterlidir.
Çocuğunuzun yapay zeka tarafından oluşturulmuş bir görüntüsünü bulsaydınız ne yapardınız?
Çocuğunuzun yapay zeka tarafından oluşturulmuş cinsel içerikli görüntülerini keşfederseniz, başkalarını uyarmak amacıyla görüntüyü yeniden paylaşmayın veya geniş çapta yaymayın.
Bunun yerine, hesap adı, sayfa başlığı ve diğer ilgili ayrıntılar gibi bu materyalin nerede göründüğünü belirlemeye yardımcı olabilecek bilgileri saklayın ve içeriği doğrudan platforma bildirin.
Amerika Birleşik Devletleri'nde, çocuk cinsel istismarı şüphesi olan vakalar , Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi'nin Siber İhbar Hattı'na da bildirilebilir .
Ebeveynler ayrıca, 18 yaşından küçük birinin çıplak, yarı çıplak veya cinsel içerikli fotoğraflarının veya videolarının çevrimiçi paylaşımını durdurmaya yardımcı olmak için tasarlanmış NCMEC'in Take It Down hizmetini de kullanabilirler . Sistem, görüntünün kendisinin yüklenmesini gerektirmeden görüntünün dijital bir parmak izini veya karma değerini oluşturur.
Yapay zekâ tarafından oluşturulan görüntüler yeni ve daha karmaşık senaryolar yarattığı için, işlenmiş bir görüntünün raporlama kriterlerini karşılayıp karşılamadığından emin olmayan ebeveynler, bunu kendileri belirlemeye çalışmak yerine bulduklarını bildirmelidirler.
Sonuç
Ebeveynler yıllardır "paylaşım"ın ve çocuklarının dijital ayak izlerinin tehlikeleri konusunda uyarılıyor. "Paylaşım", "paylaşım" ve "ebeveynlik" kelimelerinin birleşmesinden oluşan bir terim olup, ebeveynlerin çocuklarının fotoğraflarını, videolarını ve kişisel bilgilerini sosyal medyada paylaşma uygulamasını ifade eder.
Ebeveynler, paylaştıkları fotoğraf veya videoların yapay zeka tarafından kötüye kullanılma riskini tamamen ortadan kaldıramasalar da , çocuklarının kamuya açık görüntülerinin sayısını azaltarak ve paylaştıkları içerik konusunda daha seçici davranarak, kötüye kullanabilecek kişilerin erişebileceği materyal miktarını azaltabilirler.
Yoruma kapalı.