Google Gemini hatası Shasta dağcılarını yanılttı: "Yapay zekaya çok fazla güvendik."
Shasta dağcıları, yapay zeka arızası nedeniyle mahsur kaldıktan sonra Google Gemini'ye aşırı güvenmenin sonuçlarını itiraf etti. İbranilik bir öykü.
Bilmeniz gereken en önemli şeyler
- Herhangi bir gezi öncesinde yerel Mount Shasta Orman Koruma İstasyonu ile iletişime geçilmesi ve planlama için tamamen yapay zekaya güvenilmemesi tavsiye edilir.
- Yapay zekâya aşırı güven, dağcıların zirveye sabah 11 yerine akşam 7'de ulaşmasına, kaybolmalarına ve içlerinden birinin karanlıkta geri dönerken yaralanmasına yol açtı.
- Yapay zekâdan elde edilen önemli bilgilerin, robotların dağcılık veya yaralanma tedavisi gibi alanlarda pratik deneyime sahip olmaması nedeniyle, diğer kaynaklar ve referanslar aracılığıyla iki kez kontrol edilmesi gerekmektedir.
İşte Kaliforniya'dan, açık hava maceralarını planlamak için yapay zekâ robotlarına güvenenleri hedef alan ibretlik bir öykü: Bir grup dağcı, Google Gemini'nin önlerindeki zorluğun büyüklüğü hakkında yanlış bilgi vermesi nedeniyle büyük sorunlarla karşılaştı ve Siskiyou County'deki Shasta Dağı'ndan kurtarıldı.
Siskiyou İlçe Şerif Ofisi'nin ( Engadget aracılığıyla) bildirdiğine göre, Google'ın yapay zekası, deneyimsiz üç dağcıya zirveye sekiz saatlik bir yürüyüşe hazırlanmaları ve yağların "sindirilmesinin uzun sürdüğü" gerekçesiyle yağ yerine basit karbonhidratlar almaları gerektiğini söyledi.
16 saatten fazla süren bir yolculuğun ve ciddi bir diz sakatlığının ardından, karanlıkta kaybolduktan sonra, grup, Shasta Dağı'na gerçekten tırmanmış bir insandan ziyade soyut bir yapay zekâdan tavsiye alma kararlarından şüphesiz pişmanlık duyuyordu.
Neyse ki, dağcılar ertesi sabah Siskiyou İlçe Şerif Ofisi personeli, kurtarma gönüllüleri ve dağcılık konusunda uzmanlaşmış ABD Orman Korucularından oluşan bir ekip tarafından kurtarıldı. Ancak talihsiz üçlü, geceyi dağın Mud Creek Kanyonu bölgesindeki derme çatma bir kamp alanında geçirmek zorunda kaldı.
Alınan ders
Şerif ofisinden yapılan açıklamada şu ifadeler yer alıyor: “Seyahatinizden önce en doğru bilgilere sahip olduğunuzdan emin olmak ve seyahatinizi planlamak için yalnızca yapay zekaya güvenmemek adına, yerel ABD Orman Servisi (USFS) Mount Shasta Korucu İstasyonu ile iletişime geçmeniz her zaman tavsiye edilir.” ( Açıklamayı okuyun ) Açıklamada ayrıca, dağcılar için belirlenen 12:00 PM dönüş saatine uyulmasının önemi de vurgulandı.
Dağcılar zirveye saat 11'de ulaşmayı umarak sabah 3'te yola çıkmışlardı, ancak ancak akşam 7'de varabildiler. Karanlıkta geri dönerken yollarını kaybettiler ve vadiye girdiler; burada grup üyelerinden biri yaralanınca yardım çağırdılar.
Tırmanışçılardan birinin telefonunda AllTrails uygulaması olmasına rağmen, cihaz tırmanış sırasında arızalandı. SFGate'in haberine göre , tırmanışçılar olaydan sonra görevlilere, "Kendi eleştirel düşünme yeteneğimiz yerine yapay zekaya çok fazla güvendik" dediler.
Yapay zekâ, çevrimiçi bilgi ararken şüphesiz faydalı olabilirken, Gemini gibi robotlar asla dağlara tırmanmadı, yaralanmaları tedavi etmedi, finansları yönetmedi veya elektrik kablolarını değiştirmedi. Bu nedenle, önemli sorularınız için, aldığınız bilgilerin doğruluğunu sağlamak amacıyla ilgili kaynakları ve diğer referansları her zaman iki kez kontrol etmelisiniz.
Yoruma kapalı.