Yapay zekanın yaygınlaştırılması: Yeni bir ekonomik stratejiye acil ihtiyaç

Kurumsal alanda yapay zekâ hakkındaki hakim anlatı, pilot aşamasının coşkusundan üretimdeki sert gerçeklere doğru hızla değişiyor. Kuruluşlar, üretken yapay zekâyı iş akışlarına entegre etmek için yarışırken, karşılaştıkları engel, teknolojinin kendi yeteneklerinden ziyade, bu modellerin nasıl uygulanacağıyla ilgili.

Şirketler giderek artan bir şekilde sorunun yapay zekanın kendisi değil, her görevin mevcut en güçlü modeli gerektirdiği varsayımı olduğunu keşfediyor. Bu durum, "tokenmaxxing" olarak bilinen yaygın bir olguya yol açtı; yani daha küçük ve daha ucuz bir model görevi yerine getirebilecekken, varsayılan olarak daha büyük ve daha pahalı modelleri kullanma eğilimi.

Birçok kuruluş, doğru modeli doğru göreve eşleştirmek yerine, her iş akışının önde gelen modeller düzeyinde çıkarımsal güce ihtiyaç duyduğunu varsaymaktadır.

Otomasyonun bu aşırı mühendisliği, karlılık üzerinde yapısal bir yük oluşturuyor. Şirketler her sorunu çığır açan bir model gerektiriyormuş gibi ele aldığında, altyapı maliyetleri kaçınılmaz olarak çıktının değerini aşıyor.

Piyasada bu yaklaşımın sonuçları görülüyor; raporlar, büyük kuruluşların yapay zeka bütçelerini birkaç ay içinde tamamen tükettiğini ve maliyetler arttıkça dahili lisanslarını iptal ettiğini gösteriyor.

Organizasyonlar yapay zekanın maliyet şokuyla boğuşurken, yapay zekaya yapılan harcamaların genellikle sağladığı somut değerden daha fazla olduğu açıkça ortaya çıkıyor. Bu zorluk, yapay zeka harcamalarındaki düşüşle ilgili önceki bir makalede ele alındığı gibi, yeni stratejiler gerektiriyor.

Pilot projelerin tuzağından kurtulmak

Temel sorun, izole edilmiş, kontrollü pilot projelerin başarısının, mevcut kurumsal yapay zeka girişimleri için genellikle standart olarak kabul edilmesidir. Bir pilot projede değişkenler sınırlıdır ve işlem başına maliyet yönetilebilir görünmektedir. Ancak kapılar kurumsal çapta kullanıma açıldığında, üretimdeki kaotik gerçeklik, uç durumlar, çoklu yeniden deneme adımları ve ölçekteki büyük dalgalanmalar ortaya çıkar.

Olasılıksal yapay zeka her işlem için farklı bir maliyet ürettiği için, finans departmanlarının tahmin edemeyeceği öngörülemeyen giderler yaratır. Geleneksel yazılımlarda, her görev için tahmini maliyete karşılık gelen sabit bir bütçe bulunur. Yapay zekada ise bu istikrar yoktur. Aynı işlemin maliyeti bir gün bir dolar, ertesi gün yüz dolar olduğunda, işletme bütçesine güvenli bir şekilde dahil edilemez.

Bu nedenle, kuruluşların %80'i yapay zekanın maliyetini %25'ten fazla yanlış hesapladığını kabul ediyor ve üretken yapay zeka pilot projelerinin %95'inden fazlası üretime geçemiyor. Kuruluşlar şu anda maliyet-değer oranlarını iyileştirmek için çalışmıyor; bunun yerine, genellikle mali zarar zaten meydana geldikten sonra, bunu zor yoldan öğreniyorlar. Birçok lider için geriye kalan tek kaldıraç "daha az kullanmak"tır; yani kullanımı kısıtlamak veya erişimi engellemektir.

Ancak bu yanıt kusurlu. Gerçek şok, faturanın büyüklüğünde değil, geriye kalan tek yönetim aracının tüketimi kısıtlamak olduğu gerçeğinde yatıyor. Erişimi sınırlandırarak, kuruluş aslında yapay zeka uygulamasının ölçeklendirilmesinin çok pahalı olduğunu kabul ediyor ve potansiyel bir rekabet avantajını savunma zayıflığına dönüştürüyor.

Otomasyonun ekonomisini yeniden düşünmek

Günümüzde çoğu kuruluş, model seçimini iyileştirmeye, yani belirli bir görevi yerine getirmesi gereken modeli belirlemeye odaklanmaktadır; ancak en büyük fırsat, işin kendisini iyileştirmekte yatmaktadır. Büyük bir model içinde bir istek sıfırdan başladığında maliyetler her seferinde yeniden ayarlandığı için, her görevin önde gelen büyük dil modeli (LLM) seviyesinde bir LLM gerektirdiğini varsaymak hızla maliyetli bir hataya dönüşür.

Standart yönlendirme araçları istek düzeyinde çalışır: gelen göreve bakarlar ve onu en uygun görünen modele yönlendirirler, ancak bu model yine de tüm görevi tek, şeffaf olmayan bir üretim olarak gerçekleştirir. Optimize edilen tek şey, cevabı veren modeldir; bunun sonucunda bir sonraki çalıştırmanın maliyeti düşmez. Gerçek ölçeklenebilirlik, bir adım daha ileri gitmeyi gerektirir.

Bu değişim, yalnızca temel modele güvenmek yerine, iş sürecine sahip çıkan bir yapı gerektirir. Bu mimari yaklaşım, işi basitçe bir son noktaya yönlendirmek yerine, sürecin kendisini yönetir. Bireysel modellerin ötesine geçerek, iş akışını ayrı, kod odaklı adımlara böler ve her aşamada bir denetim izi oluşturur.

Bu tek mimari tercih, yapısal optimizasyonu yüzeysel maliyet yönetiminden ayıran ve geleneksel yönlendirme araçlarının ulaşamayacağı bir verimlilik derinliği sağlayan şeydir. Bu değişim, daha verimli bir maliyet yapısına yol açar. Her görev için tek bir modele güvenmek yerine, hesaplamalar uzmanlaşmış, kod odaklı adımlara dağıtılır, bu da kaynak kullanımını iyileştirir ve iş akışı yürütmesini dönüştürür.

Örneğin, yüksek hacimli kredilerin işlenmesi sürecinde, bu yaklaşım, gereksiz yere maliyetli model tabanlı akıl yürütmeye olan bağımlılığı azaltarak genel ekonomik verimliliği artırır. Bu standartlaştırılmış, süreç odaklı mimariye doğru ilerlemek, yüksek hacimli işlemlerin maliyetlerini yönetmek için sürdürülebilir bir yol sunar.

نظرًا لأن العملية مفصولة عن أي مزود معين، تحتفظ المؤسسات بمرونة كاملة. يمكنها تطبيق استراتيجيات التحسين بحرية، والتبديل بين نماذج LLM الرائدة، والأوزان مفتوحة المصدر، والنماذج المتخصصة الأصغر مع تطور احتياجات الأداء والتكلفة، دون الحاجة إلى إعادة بناء بنيتها التحتية الأساسية. لمعرفة Plus عن كيفية إدارة تكاليف الذكاء الاصطناعي، يمكنك قراءة مقالنا حول تراجع إنفاق الذكاء الاصطناعي.

Her yürütme süreci belirli ve doğrulanabilir bir düşünce adımları yolu, araç çağrıları ve sonuçlar ürettiğinden, bu kayıtlar değerli veri varlıkları haline gelir ve genel çağrılara başvurmadan beklenen görevleri nasıl ele alacağını zaten bilen uzmanlaşmış alternatifleri geliştirir.

Hassasiyet yoluyla insan yeteneklerini geliştirme

Bu yeni yaklaşımın amacı, yapay zekayı sınırlı bir deney olmaktan çıkarıp, iş yapmanın standartlaştırılmış bir yöntemi haline getirmektir. Otomatik dijital iş gücü, veri doğrulama veya açıklamaların onaylanması gibi tekrarlayan bilişsel görevleri devraldığında , insan rolü tamamen değişir. Analistler artık günlerini manuel olarak dosya açıp veri girerek geçirmek zorunda kalmazlar; odak noktaları, üst düzey yargı, karmaşık stratejiler ve yaratıcı problem çözme gerektiren istisnalara kayar.

Bu, sürdürülebilir yapay zeka benimsemenin vaadidir. Beklenmedik giderleri bilinen bir maliyet tabanına dönüştürerek ve sadece modelleri değiştirmek yerine iş akışlarını yeniden tasarlamaya odaklanarak, işletmeler nihayet tam potansiyellerini ortaya çıkarabilirler. Bu, kuruluşlara benimseme genişledikçe sürdürülebilir ve ölçülebilir bir yatırım getirisi yolunu açar ve iş gücünün teknolojinin kopyalayamayacağı yüksek değerli, değerlendirme odaklı işlere odaklanmasını sağlar.

Kurumsal alanda yapay zekanın geleceği, yalnızca modelin yetenekleriyle değil, teknolojiyi ekonomik olarak ölçeklenebilir hale getiren entegre yapay zeka sistemlerinin devreye alınabilme yeteneğiyle belirlenecektir. Sürdürülemez deneylerden öteye geçmenin ve yapay zekanın benimsenmesine yönelik disiplinli, mimari bir yaklaşım benimsemenin zamanı geldi. Deneysel aşamayı geride bırakmaya hazır kuruluşlar için zorluk artık yapay zekanın işe yaradığını kanıtlamak değil, onu ölçeklenebilir olacak kadar ekonomik olarak uygulanabilir hale getirmektir.