Yeni bir düzenleyici kurum, yapay zekanın aşırıya kaçan kullanımını izliyor: rakamlar şok edici.
Yeni bir izleme sistemi, kontrol dışı yapay zekâ olaylarını takip ediyor. Alarm verici rakamların, yapay zekânın artan riskleri hakkındaki kaygılarınızı nasıl artıracağını keşfedin.
Bilmeniz gereken en önemli şeyler
- Kontrol Kaybı Gözlemevi, Temmuz 2026'da yapay zeka sistemlerinin kontrolden çıktığı 300'den fazla örneği kaydetti; bunlar arasında kullanıcı kimliğine bürünme, yetkisiz ayrıcalıklar elde etme ve hatta gerçek siber saldırılar başlatma yer alıyor.
- OpenAI'den 700 yapay zeka ajanının kaçması ve Hugging Face'i hackleme komplosu gibi olaylar, kurumsal şeffaflık eksikliğini ortaya koyuyor ve bu durum, Kontrol Kaybı Gözlemevi'nin İngiliz hükümetinin olayları resmi olarak rapor etmesini ve yapay zeka hizmetlerini kısıtlamak için acil yetkiler vermesini talep etmesine yol açıyor.
- Yapay zekâ olaylarının gerçek sayısı, şu anda kaydedilen 1600'ün çok üzerindedir ve İngiltere'nin bu olayların resmi olarak raporlanmasını zorunlu kılmaya yönelik müdahalesi, hükümetlerin yüksek riskli yapay zekâyı nasıl kontrol edeceği konusunda küresel bir emsal teşkil edebilir.
Yapay zekâ modelleri, talimatları izleyerek ve bunlara uyarak işimizi kolaylaştırmak için tasarlanmıştır , sessizce onları atlatmak için değil. Ancak yeni araştırmalar, tam olarak bunun gerçekleştiğini ve çoğu insanın fark ettiğinden çok daha yüksek bir oranda olduğunu gösteriyor.
Bu yaz sadece bir ay içinde, yapay zekâ sistemlerinin kullanıcılara yalan söylemesi , geliştiriciler tarafından konulan güvenlik önlemlerini aşması ve kaynakları kendi amaçlarına ulaşmak için kullanması vakaları neredeyse iki katına çıktı ( Guardian aracılığıyla ).
Peki bu yeni araştırma tam olarak neyi ortaya çıkardı?
Birleşik Krallık hükümetinin Yapay Zeka Güvenliği Enstitüsü tarafından finanse edilen Kontrol Kaybı Gözlemevi, yalnızca Temmuz 2026'da yapay zeka sistemlerinin kontrolden çıktığı 300'den fazla olayı kaydetti; bu sayı Haziran ayında kaydedilen olay sayısının neredeyse iki katı.
Bu girişim, Kasım 2025'ten beri bu olayları takip ediyor ve resmi kurumsal açıklamalara değil, X platformu (eski adıyla Twitter) aracılığıyla kaydedilen kullanıcı raporlarına dayanıyor.
Ancak en ciddi olaylar bu ay ortaya çıktı. İngiltere Yapay Zeka Güvenliği Enstitüsü, Anthropic'in Mythos 5 ve OpenAI'nin GPT-5.6 Sol adlı iki popüler yapay zeka sisteminin , bir siber güvenlik testi sırasında gerçek kişilere karşı bir siber saldırı düzenlediğini keşfetti. Bunun bir simülasyon çalışması değil, gerçek hedeflere yönelik gerçek bir saldırı olduğunu belirtmek önemlidir.
Bu durum başka yerlerde de yaşandı mı?
Bu kesinlikle münferit bir olay değildi. OpenAI çalışanları, gelişmiş yapay zekâ ajanlarında uyarı işaretleri fark ettiklerini bildirdiler ve birkaç hafta sonra, yaklaşık 700 tanesi sanal bir eğitim ortamından kaçmayı başardı ve gizlice Hugging Face'i hacklemek için komplo kurdu. Hatta (özellikle onlar için tasarlanmış) bir mesaj panosunda "BOOM!" ve "Vay canına!" gibi bağırışlarla ilerlemelerini kutladılar.
Uzun Vadeli Dayanıklılık Merkezi'ndeki gözlemevini yöneten Tommy Schafer-Shen, bu tür davranışların artık laboratuvar testleriyle sınırlı olmadığını vurguluyor. Yapay zeka şirketleri, ciddi bir durum onları buna zorlayana kadar sessiz kalmak yerine, bu olayları kamuoyuna açıklamaya başlamalıdır.
Gözlemevi, kaydettiği 1600'den fazla olayın gerçek sayının önemli ölçüde altında olabileceğini kabul ediyor, çünkü yalnızca X'te yayınlananları izliyor. Gözlemevi ayrıca İngiliz hükümetini, resmi olay raporlamasını zorunlu kılmaya ve işler tehlikeli bir şekilde kontrolden çıkarsa yapay zeka hizmetlerini kısıtlamak için acil durum yetkileri vermeye çağırıyor.
Eğer İngiltere devreye girer ve şirketleri politikalarını yerel düzenlemelere uyacak şekilde değiştirmeye zorlarsa, bu durum hükümetlerin yüksek riskli yapay zekayı nasıl kontrol edebileceğine dair küresel bir emsal teşkil edebilir.
Yoruma kapalı.