Yapay zekâ oyunları endişelere yol açıyor: Küçük kırmızı bir kutu umut vadeden bir çözüm sunuyor.

Bu makale, devrim niteliğindeki teknolojilerin yaşam biçimimizi nasıl değiştirdiğini inceleyen video ve ses serimiz olan Trending Forward'ın bir parçasıdır.

" Yapay zekâ her yerde gibi görünüyor " diyenlerden biriyseniz, yanılıyorsunuz. İş yerlerine, okullara ve diğer yerlere yavaş yavaş giriyor olması doğru, ancak aynı zamanda hızla başka yeni dünyalara da yayılıyor.

Bu dünyalardan biri de oyun dünyasıdır ve bu durum korkunç riskler içerir. Bir ebeveyn olarak, çocuğunuzun internetin en iyi (ve en kötü) içeriklerine neredeyse sınırsız erişime sahip olabileceği fikri tamamen kabul edilemez görünse de, uyku öncesi hikayelerini gerçekten karanlık peri masallarına dönüştürebilecek oyunların çoğalmasına tanık oluyoruz.

Bu yüzden giyilebilir teknoloji ve moda perakendeciliği alanlarında başarılı şirketler kurmuş bir girişimci olan Arun Gupta ile görüştük. Ancak ailesiyle vakit geçirirken, teknolojinin çocukları nasıl eğlendirebileceği, eğitebileceği ve yaratıcılıklarını aynı anda teşvik edebileceği üzerine düşünmeye başladı. Diğer örneklerde de gördüğümüz gibi, yapay zeka, ücretsiz yapay zeka destekli uygulama Meta kullanılarak oyun geliştirilmesi gibi yaratıcılık için yeni yollar açabilir.

Gupta, teknik ortağı Robert Whitney ile yeniden bağlantı kurdu ve çocukların hayal ettikleri görüntüleri (neredeyse her şeyi) tarif etmelerine ve bu görüntülerin arayüzün tek renkli ekranında görüntülenip isteğe bağlı olarak basılmasına olanak tanıyan, yapay zeka kullanan bağımsız bir cihaz olan Stickerbox'ı geliştirmeye başladılar.

Tasarımı eski Etch a Sketch cihazını anımsatıyor ve çıkartmalar dahili termal yazıcıda basılıyor, bu da daha az kirlilik anlamına geliyor ve çocuklar daha sonra istedikleri gibi renklendirebiliyorlar.

Konsept basit ve ilk kullanıcılarının ötesine geçip daha geniş bir popülerlik kazandığını fark ettim. Geçenlerde İngiltere'de küçük çocukları olan bir arkadaşıma Stickerbox'tan bahsettiğimde, "Ah, Etch-a-Sketch'e benzeyen yapay zeka destekli yapışkan şey mi ? Gerçekten bir tane istiyorum!" dedi.

Sanırım bunu çocukları için istediğini kastetmişti, ancak bu durum yapay zekanın burada ikinci planda olduğunu gösteriyor; heyecan verici olan sadece temelinde makine öğreniminin varlığı değil, ses kullanarak somut şeyler yaratabilme yeteneğidir.

Yeni nesil oyunlar

Stickerbox, piyasadaki diğer bazı yapay zekâ destekli oyuncakların tam tersi olacak şekilde tasarlanmış, üretilmiş ve işlev görmüş gibi görünüyor. Daha sorunlu olan oyuncaklar ise kendilerini çocuğunuzun arkadaşı ve sırdaşı olarak sunuyor.

Çevresinde söylenen her şeyi sürekli dinliyor ve hatta çocukları bile yönlendirebiliyor. Çocuklara silah ve kibrit bulmayı öğreten yapay zekâ oyunlarına dair örnekler bildirildi.

Paradoks burada yatıyor: Yapay zekâ araçları çocukların merakını ve yaratıcılığını besleyerek daha önce imkansız olan şeyleri yapmalarını sağlayabilir. Ancak bu fırsat aynı zamanda büyük riskler de içeriyor; bu nedenle Gupta ile yaptığımız görüşme basit: Yapay zekânın faydalarını, ona erişimle ilişkili riskler olmadan sunan bir oyun nasıl yaratılabilir?

PIRG tarafından yayınlanan yakın tarihli bir çalışma, OpenAI'nin ChatGPT'si gibi Büyük Dil Modellerine (LLM'ler) erişime dayanan oyunlar ve -güvenlik önlemleri olsa bile- bunların nasıl atlatılabileceği konusunda önemli endişeleri vurguladı.

Peki, Stickerbox'ı diğerlerinden ayıran özellikler neler?

Gupta şöyle diyor: "Çok basit bir soruyla başladık: Yapay zekâ özellikle çocuklar için tasarlanmış olsaydı ne olurdu?"

Şöyle ekliyor: “Sanırım Bob ve ben bu şirketi kurarken sosyal medyadan ve onun genç nesil üzerindeki etkisinden çok ilham aldık. Herkesin bildiği gibi, sosyal medya, size dopamin patlaması yaşatmak ve etkileşimi en üst düzeye çıkarmak için tasarlanmış, kumarhane oyunlarına benzer mekanizmalarla inşa edilmiştir, böylece size olabildiğince çok hizmet edebilir.”

Şöyle devam ediyor: “Ama bu modeli alıp çocuklar için düşündüğünüzde… pek de uygun değil. Çocuklar için özel olarak tasarlanmış sosyal medya platformları yok. Ve bence yapay zekada da aynı şeyi görüyoruz.”

Bu nedenle Stickerbox, çocukların güvenliğini sağlarken yapay zekanın yaratıcı gücünden yararlanmak üzere tasarlandı. Üç temel güvenlik özelliği şunlardır: cihaz yalnızca mikrofon düğmesine basıldığında "dinler"; ortaya çıkan içeriğin güvenliği için katı kurallar; ve ebeveynlerin yardımcı uygulama aracılığıyla çocuklarının yaratımlarını tamamen izleyebilme olanağı.

Fon, çocukların çıplaklık, kan, şiddet veya herhangi bir vahşet içeren sahneleri filme almasına veya sergilemesine izin vermez. Gupta'nın belirttiği gibi, şirket "faaliyetlerimizin başlangıcında daha az güvenlik yerine maksimum güvenliğe doğru ilerlemek" istedi.

Stickerbox, yapay zekaya erişmek için internete bağlanıyor, ancak diğer birçok şirketin yaptığı gibi OpenAI yerine kendi özel sistemine güveniyor. Kendi büyük dil modelini oluşturmak, Hapiko'nun Gupta'nın "kontrol noktaları" olarak adlandırdığı unsurları entegre etmesine olanak sağladı.

“Şu anda kutunun içine birçok kontrol mekanizması yerleştirdik ve bu sistem birçok özel yazılıma dayanıyor, ancak temelde şöyle düşünebilirsiniz: Çocuk bir komut veriyor, bu komut metne çevriliyor, ardından metin bir görüntüye dönüştürülüyor ve görüntü geri veriliyor.”

“Bu nedenle, bu süreçte birden fazla kontrol noktası bulunmaktadır. Metnin oluşturulduğu kontrol noktası vardır ve bu metnin içeriğini inceleyebilirsiniz. Ardından buna bir güvenlik filtresi uygulayabilirsiniz. (Bundan sonra) metinden görüntüye geçişi sağlayan bir yönlendirme vardır ve bunu inceleyerek neyin görüntüye dönüştürüleceğini görebilirsiniz.”

Stickerbox, çocuklara bir yapay zekâ motoruna nasıl talimat verecekleri konusunda önemli bir ders veriyor. Ortaya çıkan çıkartma tam olarak hayal ettikleri gibi olmadığında, istedikleri sonucu elde etmek için komutlarını nasıl değiştireceklerini düşünmeleri gerekiyor .

Aynı işlemi herhangi bir chatbot ile yapabilirsiniz, ancak yazdırma özelliği cihazları bağlamanızı gerektirir ve süreci izlemek ve belki de bazı hassas konuları açıklamak için ebeveyn gözetimi ve rehberliğine ihtiyaç duyar.

Bu kutunun geleceğini keşfetmek için derinlemesine bir inceleme yaptık: Ebeveynlerin ve öğretmenlerin bunu nasıl karşıladığı, ilk zorlukların ve soruların üstesinden nasıl geldikleri, hızla büyüyen yapay zeka oyunları alanında geleceğin neler getirebileceği... ve Hapiko'nun bu ürünü güvenli bir şekilde piyasaya sürebilmek için bazı özelliklerden nasıl vazgeçmek zorunda kaldığı konularını ele aldık.