Yapay zekâ kullanımını hızlandırmaya yönelik bir rehber: Gereksiz risklerden kaçınarak güvenlik

Son 18 ayda ekiplerimiz, yapay zekayı kullanıp kullanmama tartışmasından, onu ne kadar hızlı devreye alabileceğimiz sorusunu gündeme getirmeye geçtiler. Daha zor olan soru ise, şirketin risk profilinin yönetebileceğinden ve denetleyebileceğinden daha hızlı genişlemesine izin vermeden, ekiplerin yapay zekanın faydalarını en üst düzeye çıkarmak için yeterince hızlı hareket etmelerini nasıl sağlayacağımızdır.

Jason Taylor

Entrata'da Baş Teknik Sorumlu (CTO) ve Baş Bilgi Güvenliği Sorumlusu (CISO) olarak görev yapıyorum.

Bu ikilem, yapay zekanın görünüşte birbiriyle çelişen iki talebi ortaya koyması nedeniyle teknoloji ve siber güvenlik liderleri için tanıdık bir durumdur. Bir yandan, bir kuruluşun BT tarafı deneme, erişilebilirlik, hız ve gerçek verimlilik artışlarının kilidini açma potansiyeli ararken; diğer yandan güvenlik tarafı kontrol, hesap verebilirlik, veri sınırları ve yeni iş akışının kaçınılabilir risklere yol açmayacağına dair güvene ihtiyaç duyar.

Her iki yaklaşım da geçerlidir; bu nedenle şirketler yapay zekayı yalnızca yenilikçi bir proje veya yalnızca bir güvenlik sorunu olarak ele aldıklarında zorlanırlar. Bu bir paradigma değişimi ve bunu etkili bir şekilde yöneten kuruluşlar, ekipleri hız ve kontrol arasında seçim yapmaya zorlamak yerine, ekiplerin güvenle hareket etmelerini sağlayacak yeterli altyapı ve sağlam araçlar geliştiren kuruluşlardır.

Önce işe odaklanın, aletlere değil.

Birçok şirket, yapay zekâ kullanımını standart bir yazılım programının lansmanı gibi ele alarak işe başlar. Bir tedarikçi üzerinde anlaşırlar, lisansları dağıtırlar, bazı yönergeler yayınlarlar ve kullanımın doğal olarak dönüştürücü hale geleceğini varsayarlar. Bu yaklaşım faaliyet yaratabilir, ancak nadiren kalıcı operasyonel değişikliklere yol açar.

Gerçek benimseme, liderlerin işi nasıl yapacaklarını anlamalarıyla başlar. Finans ekibi, ürün ekibi, pazarlama ekibi, destek ekibi ve mühendislik ekibi, yapay zeka araçlarını aynı şekilde kullanmayacaktır çünkü her grubun farklı bilgi gereksinimleri, çeşitli veri kaynakları, değişen risk eşikleri ve benzersiz uzmanlıkları vardır. Bu ekiplerin her birinin yapay zekaya özgü beceriler ve araçlar geliştirmesi gerekecektir.

Liderler, her bir görevin neyi hedeflediğini, daha iyi kararlar almak için hangi bilgiye ihtiyaç duyulduğunu, yapay zekayı sorumlu bir şekilde kullanmak için hangi becerilerin gerekli olduğunu ve güvenilir bir sonuç üretmek için hangi araçların veya veri kaynaklarının gerekli olduğunu sorarak işe başlamalıdır.

Yapay zekâ bu yeteneklerle ilişkilendirildiğinde, bir kuruluşun işleyiş biçiminin ayrılmaz bir parçası haline gelir ; ilgisiz süreçlere dayatıldığında ise, daha iyi sonuçlara yol açmadan çıktılarda artışa neden olma eğilimindedir.

Veri erişimini risk tasarımı sorunu olarak ele almak

Verilere erişim, yapay zekanın işletme modelini değiştirdiği en önemli alanlardan biridir. Yapay zekanın gerçekten faydalı olabilmesi için, ekiplerin genellikle daha önce doğrudan kullanmadıkları bilgilere erişmeleri gerekir.

Pazarlama ekibi ürün dokümantasyonuna ve müşteri içgörülerine ihtiyaç duyabilirken, finans ekibi yapılandırılmış operasyonel verilere, destek ekibi ise içgörü bilgisine, geçmişe ait bağlama ve farklı sistemlerdeki kalıpları anlama yeteneğine ihtiyaç duyabilir.

Verilere erişimi açma eğilimi anlaşılabilir; yapay zeka daha geniş bir bağlamda değer kazanır. Tersine, erişimi kısıtlama eğilimi de anlaşılabilir, çünkü daha geniş erişim gizlilik, uyumluluk ve güvenlik konusunda endişelere yol açabilir. Çözüm, birini diğerine tercih etmekte değil, hangi verilerin kim tarafından ve hangi amaçla kullanılabileceğini belirlemek için daha sistematik bir model oluşturmakta yatmaktadır.

Örneğin, bir kurumsal uygulama projesinde, pratik çözüm her ekibe her şeye erişim izni vermek veya yapay zekayı yalnızca teknik bir işlevle sınırlandırmak değildi. Bunun yerine, daha az kritik operasyonel verileri daha hassas bilgilerden ayırmak ve ardından ekiplere farklı şekilde çalışabilmeleri için yeterli erişim sağlamak, böylece bir iş akışının beklenmedik şekilde davranması durumunda potansiyel zararı en aza indirmekti.

Bunu düşünmenin faydalı bir yolu, "veri etkisi" kavramı üzerinden bakmaktır. Her veri kümesi aynı risk seviyesini taşımaz ve her yapay zeka kullanım durumu aynı kısıtlama seviyesini gerektirmez. Bazı bilgilere erişim daha kolay hale getirilebilir çünkü bir şeylerin ters gitmesi durumunda potansiyel zarar sınırlıdır; diğer bilgiler, özellikle kişisel olarak tanımlanabilir bilgiler veya hassas müşteri verileri, çok daha sıkı kontroller gerektirir.

Bu yaklaşım, ekiplerin risklerin daha düşük olduğu alanlarda denemeler yapmasına olanak tanırken, işletmenin gerçekten ihtiyaç duyduğu yerlerde daha güçlü bir yönetişimi sürdürmeyi sağlar. Amaç, güvenliği zayıflatmak değil, daha hassas hale getirmek ve şirketin en kritik ortamları, verileri ve iş akışları üzerindeki kontrolünü kaybetmeden daha hızlı hareket etmesini sağlamaktır.

Doğrulama işlemini iş akışına entegre etme

Doğrulama, yapay zeka stratejilerinin ölçeklenebilir olup olmayacağını belirleyen çok önemli bir noktadır. Yapay zeka sistemleri, kusursuz görünen ancak eksik, yanlış, markasız veya standartlara uymayan işler üretebilir. İnsan incelemesi, başlangıç ​​aşamalarında bu risklerin bir kısmını absorbe edebilse de, yapay zeka günlük operasyonlara entegre edildikten sonra etkili bir şekilde ölçeklenemez.

Bunu teknik ekiplerde çok açık bir şekilde gördüm; yapay zeka, ancak üretilenlerin kalitesini, güvenliğini ve doğruluğunu değerlendirmenin güvenilir bir yolu varsa yazılım geliştirmeyi hızlandırabilir. Bu doğrulama katmanı olmadan, ekipler kısa vadede hızlı olduklarını düşünebilirler, ancak sessizce daha ağır bir inceleme yükü, daha fazla yeniden çalışma ve daha sonraki aşamalarda daha büyük riskler yaratırlar.

Şirketlerin, iş akışının ayrılmaz bir parçası olacak şekilde tasarlanmış doğrulama modellerine ihtiyaçları vardır. Bu, otomatik kontrolleri, veri kalitesi kontrollerini, onay yollarını, kayıt tutmayı, gözlemlenebilirliği ve daha fazla inceleme yapılmadan güvenilmemesi gereken çıktılar için net yükseltme kurallarını içerebilir.

Liderler bu mekanizmaları fazladan, geç kalmış bir rutin olarak görmemelidir. Aksine, bunlar yapay zekanın yalnızca bireysel bir verimlilik aracı olmaktan çıkıp kapsamlı, işletme çapında bir yeteneğe dönüşmesini sağlayan unsurlardır; çünkü ekipler ancak üretilen işin doğru, uygun ve güvenli olup olmadığını anlamak için tekrar eden bir yönteme sahip olduklarında benimsemeyi artırabilirler.

Yapay zekânın benimsenmesi artık bir liderlik sorumluluğu haline geldi.

Yapay zekânın benimsenmesi, geri kalan yönetici ekibi uzaktan izlerken tek bir inovasyon ekibine veya yapay zekâ yöneticisine bırakılamaz. Her fonksiyonel lider, yapay zekânın ekiplerinin yaptığı işin doğasını nasıl değiştireceğini, çalışanların ajanlar ve modellerle nasıl işbirliği yapacağını ve risklerin nerede ortaya çıkma olasılığının yüksek olduğunu anlamalıdır.

Bu, her yöneticinin makine öğrenimi uzmanı olması gerektiği anlamına gelmez, ancak liderlerin karar alma süreçlerine rehberlik etmek, beklentileri belirlemek ve ekiplerinden bekledikleri davranışları modellemek için yeterli yetkinliğe sahip olmaları gerektiği anlamına gelir. Liderler yapay zekayı herkesin benimsemesi beklenen bir şey olarak görürse, çalışanların çalışma uygulamalarını değiştirmeleri pek olası değildir.

Kültürel çerçeveleme de önemlidir çünkü çalışanlar yapay zekâ kullanımını işlerin ortadan kaldırılması anlamına gelen bir örtmeceli ifade olarak duyarlarsa, gelecekteki olası durumları araştırmak yerine mevcut rollerine bağlı kalacaklardır. Liderler, rollerin değişeceğini, bazı iş akışlarının ortadan kalkacağını ve yeni sorumlulukların ortaya çıkacağını şeffaf bir şekilde belirtmeli, ancak öncelikli amacın insanların daha iyi ve daha verimli performans göstermelerine yardımcı olmak ve böylece yatırım getirisini sağlamak olduğunu vurgulamalıdır.

Birçok durumda, iş süreçleri her görevi manuel olarak yapmaktan, işin tamamlanmasına yardımcı olan sistemleri koordine etmeye doğru kaymaktadır. Bu, belirsizlikle başa çıkma isteğini gerektirir ve yapay zekâ yetenekleri geliştikçe bu istek giderek daha önemli hale gelmektedir.

Yapay zekayı benimsemede başarılı olan şirketler, yeniliği güvenliğin önüne koyanlar veya her potansiyel riski önceden ortadan kaldırmayı bekleyenler değildir. Aksine, veri işleme konusunda yönetim, doğrulama ve disiplin için güçlü temeller oluşturan ve ekiplerine ilerleme konusunda güven veren şirketlerdir. Kurumsal bir yapay zeka ortamında, kontrol, sürdürülebilir hızın temel taşıdır ve özellikle hassas kurumsal yapay zeka bileşenleriyle uğraşırken her adımda dikkatli olmanın önemini vurgular.