Hesap verebilirlik açığını kapatmak: Şirketlerin yapay zeka ajanlarıyla donatılması için bir ön koşul

Şirketler ve hükümetler operasyonel görevleri yapay zekâ ajanlarına devrettiğinde , tartışma genellikle yeteneklerle başlar. Yapay zekâ, hesap kapatma, tedarikçilerle pazarlık yapma, belge imzalama veya kamuoyuna açıklama yapma gibi insanların yaptığı görevleri yerine getirebilir mi? Ve bunu, konuşlandırılmasını haklı çıkaracak kadar hızlı ve ucuz bir şekilde yapabilir mi?

Bu sorular önemli, ancak performans resmin sadece bir parçası. Bir temsilci bağımsız hareket etmeye başladığında, başka sorular ortaya çıkar: Onları kim yetkilendirdi, kimin çıkarlarını temsil ediyorlar, yetkileri nerede sona eriyor ve belki de en önemlisi, işler ters gittiğinde sorumluluk kimde?

Bu, vekil yapay zekadaki hesap verebilirlik açığıdır ve daha gelişmiş hiçbir model bunu kapatamaz. Vekil son derece yetenekli olabilir, ancak yine de istenmeyen veya hatta yasa dışı şekillerde davranabilir.

Bu açığı kapatmanın tek yolu, yetki üzerinde net kontroller bulunan ve temsilcinin gerçekleştirdiği her eylemi onu yetkilendiren kişiye bağlayan, ayrıca öncelikle insan ile makineyi ayırt edebilen bir denetim izi sistemine sahip olmaktır.

Olağanüstü büyüklükte normal bir hata

İnsanlar yapay zekanın tehlikeleri hakkında düşündüklerinde, genellikle insan kontrolünden kurtulmuş ve kendi hedeflerinin peşinden giden bir makine hayal ederler. Ancak daha acil ve daha az dramatik bir risk, bir sistemin rutin bir görevde tekrar tekrar hata yapması ve bu hatalardan sorumlu tutulacak net bir çizginin olmamasıdır.

Bir kişi yanlış müşteriye fatura gönderebilir. Ancak eksiksiz bir müşteri veritabanına bağlı bir temsilci aynı faturayı binlerce kişiye gönderebilir. Bir alanı yanlış değiştirebilir ve ardından bu değişikliği tüm pazar yerinde tekrarlayabilir; bunu kötü niyetli oldukları için değil, belirli talimatları yanlış anladıkları ve bunlara göre hareket etme yetkisine sahip oldukları için yaparlar.

Bir ajanın ne kadar hızlı bir şekilde değerli hale geldiği, şirketlere yüzlerce saat tasarruf sağlayabilir, ancak aynı zamanda küçük, düzeltilebilir bir hatayı ciddi bir operasyonel probleme de dönüştürebilir.

Bir temsilci birinin incelemesi için bir e-posta taslağı hazırladığında, bu belirsizlik büyük önem taşımayabilir çünkü kişi program ile dış dünya arasındaki bağlantıyı sağlayan kişi olmaya devam eder.

Ancak mesaj gönderebildikleri, hesap özeti sunabildikleri veya para transferi yapabildikleri zaman durum tamamen değişiyor. Bir asistandan tek bir uçuş rezervasyonu yapmasını istediğinizi ve ona makul bir harcama limiti olan şirket kartı vermek yerine pasaportunuzu, banka kartınızı ve ofis anahtarlarınızı verdiğinizi düşünün. Asistana tamamen güveniyor olabilirsiniz, ancak verilen yetki görev için makul derecede uygun değil.

Sınırları çizmek ve sorunu çözmek

Yapay zekâ ajanlarının uyruğu veya tüzel kişiliği olamaz, ancak yasal olarak geçerli yollarla gerçek kişilere bağlanabilirler. Örneğin, güvenilir bir tanımlayıcı, bir ajanın faaliyetini, onu yayınlayan kişiye kadar takip edebilir. Yetki koşullarını görünür ve denetlenebilir kılan açık yetki ve yetkilendirmelerle birleştiğinde, bu, yapay zekâ ajanlarının bir dizi işlemi ve operasyonu daha kontrollü ve şeffaf bir şekilde gerçekleştirmesine olanak tanıyacaktır.

Bu kontroller çok spesifik olabilir. Bir temsilcinin finansal bilgileri değiştirmeden görüntülemesine, onay almadan ödeme hazırlamasına veya belirli tedarikçilerden belirli bir miktarı aşmadan sipariş vermesine izin verilebilir. Ayrıcalıkları tek bir işlem, tek bir iş günü veya belirli bir sözleşmenin süresi boyunca geçerli olabilir ve sonrasında devre dışı bırakılması için herhangi birinin hatırlatmasına gerek kalmadan otomatik olarak sona erer.

Bu erişimi iptal etmek de aynı derecede kolay olmalıdır. Bir şirket bir temsilciyle olan ilişkisini sonlandırdığında, tedarikçi değiştirdiğinde veya bir hata keşfettiğinde, sorumlu kişinin kimlik bilgilerini değiştirmek zorunda kalmadan erişimlerini derhal iptal edebilmelidir.

Bu kontrollerin çeşitli alanlarındaki temsilcinin yasal yetkilendirmesi, zaman içinde yükseltilecek, değiştirilecek ve birleştirilecek olan herhangi bir bireysel yapay zeka modelinden daha uzun bir ömre sahiptir; bu süreçte müşteri genellikle yeni bir sürüm numarasından fazlasını görmez.

Fikrin sahada uygulanması

Estonya bu sorunları şimdi ele almaya karar verdi. Haziran ayında hükümet, hem Estonya vatandaşlarının hem de ülkenin küresel girişimci topluluğunun kullanımına açık olacak, devlet destekli bir yapay zeka ajanları kayıt sistemi geliştirmeye başladı. Bu sistem, tüm kamu hizmetlerinin çevrimiçi olarak sunulduğu tamamen dijital bir devlet olan Estonya'nın, yapay zeka destekli işletmelerin yükselen dalgasına nasıl açılabileceğini araştırmayı amaçlıyor.

Mevcut öneriye göre, bir birey, kendi adına hareket eden bir veya daha fazla aracıya bağlanabilen kayıtlı bir dijital tanımlayıcı alacaktır. Yapay zeka aracısı tarafından gerçekleştirilen eylemler makine eylemleri olarak kabul edilecek ve kimlik dayanağı olarak hareket eden gerçek kişi, yapay zekaya aşırı güvenmekten kaynaklanan hatalar gibi durumlarda sorumlu tutulacaktır. Yapay zeka aracısı yalnızca kendisine atanan izinlerin sınırları içinde çalışabilecektir.

Şeffaflığı sağlamak için, özel hizmet sağlayıcıların sürecin bir kişi tarafından mı yoksa kendi adlarına hareket eden bir makine tarafından mı gerçekleştirildiğini bilmeleri gerekir. Bu, uygun kontrolleri, kısıtlamaları ve risk modellerini etkili bir şekilde uygulamalarına olanak tanır.

Görevlendirme için tasarlanmıştır.

Bu yaklaşım, dijital yönetim alanındaki yirmi yılı aşkın deneyime dayanmaktadır. Estonya'da, kişisel kimlik numaraları ve dijital kimliklerden oluşan bir sistem, bireylerin açıkça tanımlanmış yetkilerle başkaları adına hareket etmelerine zaten olanak tanımaktadır.

Bir muhasebeci müşterisi için vergi beyannamelerini hazırlayabilir, bir yetişkin sağlık portalı aracılığıyla yaşlı ebeveynlerinin sağlık durumunu yönetebilir ve birden fazla kişi bireysel izinler ve kısıtlamalarla bir şirket banka hesabını kullanabilir. Prensip olarak, bu aynı çerçeve yapay zekâ ajanlarının yeteneklerini de destekleyebilir.

Bu, kullanıcılara, yapay zekâ ajanının yapabileceği potansiyel hatalardan sorumlu tarafı korumak için gerekli önlemlerin alındığı konusunda daha fazla güven verecektir. Ayrıca, bu ajanların faaliyetleri arttıkça hesap verebilirlik açığını kapatmaya da yardımcı olacaktır.

Yapay zekâ ajanlarına yürütme yetkileri verilmeden önce, kimi temsil ettiklerini, neler yapabileceklerini ve eylemlerinden kimin sorumlu tutulacağını kaydeden teknik ve yasal olarak bağlayıcı bir çerçeveye ihtiyaç duyulmaktadır.