Antropik: Araştırmacıların Claude'u potansiyel biyolojik silah araştırmalarında kullanmaları yasaklandı.

Büyük yapay zeka şirketleri , modellerinin biyolojik silahların geliştirilmesini kolaylaştırabileceği konusunda uzun zamandır uyarıda bulunuyor. Bu bağlamda, Anthropic, eylemleri ciddi endişelere yol açan bir grup araştırmacıya hizmetlerini askıya almak zorunda kaldığını açıkladı. Raporlar, yeni düzenleyici kurumların yapay zekanın kötüye kullanımını izlediğini ve bu uyarıların önemini vurguladığını gösteriyor.

New York Times'ın yayınladığı bir rapora göre , Anthropic bu yıl, son derece şüpheli ve biyolojik silah araştırmalarına işaret eden faaliyetler tespit ettikten sonra birçok kullanıcıyı engelledi.

Açıklığa kavuşturmak gerekirse: Anthropic, bu araştırmacıların ölümcül patojenler geliştirmeye çalıştığına dair kesin bir kanıt elde edememiştir.

İleri biyoloji doğası gereği "çift amaçlı"dır; hayat kurtaran bir aşıya yol açabilecek araştırmalar tehlikeli amaçlar için de kullanılabilir. Ancak Anthropic bu şüpheli davranışı tespit etti. Araştırmacıların, buluta erişmek için coğrafi kısıtlamaları aştıkları ve çalışmalarının amacını gizlemek için adımlar attıkları bildirildi. Bu durum, Anthropic'in hizmeti sonlandırmaya karar vermesi için yeterliydi.

Claude'un güvenlik önlemlerini nasıl aştılar?

Araştırmacılar Claude'u kelimenin tam anlamıyla "hacklemediler". Aksine, Anthropic'e göre, modele erişim noktalarını ve nihayetinde ulaşmayı hedefledikleri şeyi gizlemenin yollarını buldular.

Bir örnekte, bir araştırmacının otomatik olarak oluşturulmuş bir hesap kullanarak, ABD merkezli sanal bir altyapı üzerinden desteklenmeyen bir bölgeden Cloud'a eriştiği bildirildi. Anthropic ayrıca, Cloud isteklerinin, sivil ve askeri kurumlara bağlı virologlar da dahil olmak üzere çok sayıda yaşam bilimleri araştırmacısına hizmet veren bir platform üzerinden yönlendirildiğini keşfetti.

Araştırmacılar ayrıca , Bulut Koruma önlemlerini tetiklememek için çalışmalarının amacını gizlemeye çalıştılar . Bu, özellikle biyolojide tespit edilmesi zordur, çünkü bireysel bir istek, daha büyük ve potansiyel olarak tehlikeli bir projeye katkıda bulunuyor olsa bile tamamen meşru görünebilir.

Bir vakada, bir bilim insanının, bulaşıcılık ve bağışıklık sisteminden kaçınma gibi özellikleri incelemek amacıyla chikungunya virüsünü genetik olarak değiştirmek için bir araştırma hibe teklifi taslağı hazırlamada Claude'un yardımını istediği bildirildi. Bu vaka, Claude'un araştırma teklifi taslağı hazırlamak gibi karmaşık görevler için nasıl kullanılabileceğini göstermektedir . Bu tür araştırmaların meşru bilimsel amaçları olabilir; Anthropic'in araştırmacıların nihai niyetlerinin iyi niyetli mi yoksa kötü niyetli mi olduğunu belirleyemediğini belirtmesinin nedeni de tam olarak budur.

Ancak Anthropic, hassas araştırmaların ve faaliyetleri gizleme girişimlerinin hesapları kapatmak için yeterli olduğuna karar verdi.

Biyoloji neden yapay zekâ için nihai test alanıdır?

Yapay zekâ, petri kabında kimyasalları karıştıramaz veya fiziksel laboratuvar ekipmanlarını kullanarak biyolojik silahlar üretemez. Ancak güçlü bir hızlandırıcı olabilir.

Laboratuvar çalışmalarında zaten deneyimli biri için, yetkin bir yapay zeka modeli karmaşık araştırmaları çözümleyebilir, verileri analiz edebilir, sorunları keşfedip çözebilir ve uzmanlaşmış teknik boşlukları doldurabilir. İnsanlara zorlu görevleri daha kolay ve hızlı hale getirmek için ihtiyaç duydukları her şeyi sağlayabilir.

Bu durum, yapay zeka şirketlerini geniş bir gri alana yerleştiriyor. Bir hukuk uzmanı ve biyolojik silah geliştiren biri, aynı soruların çoğunu gündeme getirebilir. Kötüye kullanım, mutlaka tek ve net bir iddia şeklinde ortaya çıkmaz. Herkes büyük bir projeyi onlarca görünüşte zararsız göreve bölebilir; bu da güvenlik sistemlerinin büyük resmi kavramasını, özellikle de yapay zekanın kötüye kullanımıyla ilgili artan endişeler göz önüne alındığında, çok zorlaştırır.

Bir de yanlış pozitif sonuçlar sorunu var. Bu önlemler çok katı olursa, meşru bilimsel araştırmaların engellenmesi riskiyle karşı karşıya kalırsınız. Çok gevşek olurlarsa, potansiyel olarak tehlikeli faaliyetler gözden kaçabilir.

Her şey insan niyetine bağlıdır.

Özellikle Jacob Coxon'ın dün Anthropic'ten istifa etmesinin ardından, yapay zekâya ilişkin endişelerin doruk noktasına ulaştığı bir dönemde, burada nelerin yaşanmadığını açıklığa kavuşturmak önemlidir . Modellerin kontrolden çıkmasından veya otonom ajanların kendi başlarına hareket etmesinden endişe ediyoruz, ancak Claude kontrolden çıkmadı ve hiçbir otonom yapay zekâ ajanı kendi başına bir biyolojik silah planlamaya başlamadı. Kontrol insanlardaydı.

Bu durum tehlikeyi çok daha acil hale getiriyor. Buradaki endişe, süper zeki bir yapay zekanın aniden insanlığa zarar vermeye karar vermesi değil. Aksine, güçlü modellerin insanlara normalde sahip olamayacakları yetenekler kazandırmasıdır.

Bulut teknolojisinden e-posta taslağı hazırlama, belge özetleme veya kod yazma gibi işler isteyen sıradan kullanıcılar için hiçbir şey değişmiyor. Ancak sektör için durum değişti ve birçok kişi bulut kullanımını yeniden değerlendirmeye başladı.

Peki, yapay zeka şirketleri gerçekten neler yapabilir?

Bu ikileme mükemmel bir çözüm yok. Açıkça belli olan soruları engellemek, ancak kullanıcının ne yapmaya çalıştığı konusunda net olması durumunda işe yarar. Eğer bir kullanıcı potansiyel olarak tehlikeli bir projeyi onlarca görünüşte zararsız isteğe bölüyorsa, yapay zeka şirketlerinin her isteği ayrı ayrı değerlendirmek yerine daha büyük resmi algılayabilecek güvenlik önlemlerine ihtiyacı vardır.

Bu, modelin güvenlik sınırlamalarını aşmaya yönelik tekrarlanan girişimleri araştırmak, etkileşimler genelinde şüpheli kalıpları izlemek ve en güçlü bilimsel yetenekler üzerinde daha sıkı kontroller uygulamak anlamına gelebilir. Şirketler ayrıca, potansiyel olarak tehlikeli biyolojik çalışmaları gerçekleştirmede daha az deneyimli bir bireye yardımcı olma yeteneklerini belirlemek için yeni modelleri piyasaya sürmeden önce test edebilirler.

Ancak her ek güvenlik önlemi bir bedel karşılığında gelir. Biyolojik silah geliştiren birini tespit etmeye çalışan aynı sistemler, bir proje üzerinde çalışan bir araştırmacıyı da işaretleyebilir. Bu nedenle Anthropic'in açıklaması çok önemli. Yapay zeka güvenliği için bir sonraki adım, aksi takdirde meşru görünen bir davranış kalıbının bir şirketin müdahale etmesini gerektirecek kadar tehlikeli hale geldiği zamanı belirlemektir.