Şirket, yapay zekanın yanlış kullanımı nedeniyle sözleşmeyi kaybetti.

Olaylar şöyle gelişti: Exdrog davası ve yapay zekanın kullanımı

Son yıllarda , yapay zekâdan (YZ) faydalanmak modern iş dünyasında önemli bir trend haline geldi . Birçok şirket, süreçleri otomatikleştirmek, belge hazırlamayı hızlandırmak ve YZ kullanımıyla gerçek tasarruflar sağlamak için yollar arıyor. Ancak, Małopolska bölgesinde faaliyet gösteren bir inşaat şirketi olan Exdrog örneği, uygun denetim ve veri doğrulama prosedürleri olmadan YZ'den faydalanmanın ciddi komplikasyonlara yol açabileceğini göstermektedir. Analiz ekibi, YZ sistemlerinin hatalı planlar veya raporlar ürettiği diğer projelerde de benzer sorunların yaşandığına dikkat çekiyor.

2025 yılında Exdrog bir sözleşmeyi kaybetti ve bu durum, yapay zekanın (YZ) beceriksiz ve kârsız kullanımının önemli işletme maliyetleri yaratabileceğini hemen gösterdi. YZ, ihale belgelerinin hazırlanmasını hızlandırmak ve işletme giderlerini azaltmak için uygulandı. Ancak pratikte önemli riskler ortaya çıktı: YZ, yüzeysel olarak doğru görünen ancak temel hatalar içeren veriler üretti; bunlar arasında var olmayan prosedürler, düzenlemelerin yanlış yorumlanması ve kısmen yanlış zaman çizelgeleri yer alıyordu. Yaratıcı sektörlerdeki profesyoneller, YZ'nin bir sonuca giden yolu kısaltabileceğini ancak her zaman güvenilirliğini garanti etmediğini defalarca gözlemlemiştir.

Başlangıçta, Exdrog çalışanları algoritmaların belgeleri oluşturma hızını takdir etmiş ve bunu otomasyonun ofis işlerini nasıl kolaylaştırabileceğinin bir örneği olarak görmüşlerdi. Ancak, belgelerin daha detaylı bir analizi çok sayıda hatayı ortaya çıkardı. İhale komitesi tarafından yapılan teklif değerlendirmesi sırasında, klasik yapay zeka yanılgıları ortaya çıktı: profesyonel görünen ancak yanlış olan veriler. Editör ekibi , özellikle resmi belgelerde hataların ihaleden diskalifiye edilmeye veya yasal sorumluluğa yol açabileceği göz önüne alındığında, işletmelerde yapay zeka kullanımının risklerinin gerçek olduğunu vurguluyor .

Exdrog davası, en gelişmiş araçların bile dikkatli bir denetim gerektirdiğini göstermektedir. Yapay zeka süreçleri hızlandırabilir ve karlılığı artırabilirken , sağlam bir durum tespiti yapılmadığı takdirde, finansal kayıplara uğramak, itibar kaybına maruz kalmak ve yasal risklerle karşı karşıya kalmak kolaydır. Uzmanlar, işletmelerde yapay zekanın destekleyici bir rol oynaması gerektiğini, ihale belgelerinin hazırlanmasında veya teknik analizlerin yürütülmesinde insan uzmanların yerini almaması gerektiğini vurgulamaktadır.

Aşağıdaki bölümde, “yapay zeka halüsinasyonlarının” Exdrog dokümantasyonu üzerindeki etkisi, düzenleyici sonuçlar ve operasyonlarında yapay zekayı uygulamayı planlayan şirketler için sonuçlar ele alınmaktadır. Yapay zekadan kar elde etmek isteyen kuruluşlar için bu önemli bir uyarı niteliğindedir.

İhale ve teklif detayları

İhale, Małopolska Voyvodalığı'ndaki bölgesel yolların iyileştirilmesini kapsıyordu ve tüm dokümantasyon yaklaşık 280-300 sayfadan oluşuyordu. Editör ekibi, Exdrog'un maliyet gerekçelendirmeleri, teknolojik açıklamalar, zaman çizelgeleri ve ihale komitesinin sorularına yanıtlar oluşturmak için yapay zekayı nasıl kullandığını analiz etti.

Başlangıçta, uygulama etkili bir yapay zeka karlılığının örneği olarak görüldü . Ancak, kısa süre sonra yapay zeka yanılgıları ortaya çıktı ; görünüşte güvenilir ancak yanlış bilgiler üretmeyi içeren hatalar. Bu hatalar arasında yasaların var olmayan yorumlanması, yanlış teknik veriler ve veriler içindeki hatalı hesaplamalar yer alıyordu.

Yapay zekâ kullanımının risklerinin açıklaması

Aşağıdaki tablo, yapay zekanın ihale belgelerinin hazırlanması sırasında hata üretebileceği ana alanları özetlemektedir. Veriler, medya raporlarında bildirilen sorunların bir sentezini temsil etmektedir:

Bu örnek , Exdrog'un yapay zeka sözleşmesini teknik uzmanlık eksikliğinden değil, yapay zeka sistemleri tarafından üretilen verilerin yetersiz doğrulanmasından dolayı kaybettiğini göstermektedir . Bu, ihale belgelerinde ve yüksek veri güvenilirliği gerektiren diğer süreçlerde yapay zeka kullanmayı planlayan şirketler için önemli bir derstir.

"Yapay zekâ halüsinasyonları" fenomeni ve tehlikeleri

Exdrog ihale belgelerini hazırlamak için yapay zekayı (YZ) kullanmaya karar verdiğinde , sektör uzmanları YZ'nin hızlı kârlılık potansiyeline dikkat çekti . YZ tabanlı araçlar, geleneksel bir ekibin üretebileceğinden çok daha kısa sürede kapsamlı teknik açıklamalar, zaman çizelgeleri ve maliyet tahminleri oluşturmaya olanak sağladı. Ancak pratikte, işletmelerdeki birçok YZ uygulamasında tipik olan bir olgu ortaya çıktı: YZ halüsinasyonları olarak adlandırılan durum.

Yapay zekâ halüsinasyonları nedir?

Yapay zekâ halüsinasyonları terimi, bir yapay zekâ sisteminin inandırıcı görünen ancak gerçeklikle tutarsız olan bilgiler ürettiği durumları ifade eder . Bu klasik bir teknik hata değildir; dilsel model farkındalıktan yoksundur ve bu nedenle yanlış olduğunu "bilmez". Eğitim verilerinden elde edilen kalıplara dayanarak içerik oluşturur ve bunları görünüşte mantıklı ancak nesnel olarak yanlış bir şekilde birbirine bağlar.

Analiz edilen Exdrog örneğinde, yapay zeka tarafından oluşturulan zaman çizelgeleri, maliyet verileri ve teknik açıklamalar profesyonel görünse de ihale değerlendirme komitesini yanıltabilir. Mevcut raporlara göre, teknolojiler, prosedürler ve düzenlemelerin yorumlanmasıyla ilgili verilerde, geçerli standartlarda bulunmayan unsurlar yer almıştır. Komite, usulsüzlükler tespit ederek şirketin KIO tarafından süreçten diskalifiye edilmesine yol açmıştır. Bu olay, özellikle yüksek hassasiyet gerektiren alanlarda, işletmelerde yapay zeka kullanımının önemli risklerini vurgulamaktadır.

Belgelerle ilgili sorunlara örnekler

Sektör analizleri ve uzman gözlemlerine dayanarak, yapay zekâ halüsinasyonları aşağıdakiler de dahil olmak üzere çeşitli biçimler alabilir:

• Hatalı sayısal veriler: Yapay zeka, net ve profesyonel görünen ancak gerçek proje varsayımlarından farklılık gösteren zaman çizelgeleri veya maliyet tahminleri üretir. Exdrog'un belgelerinde bu durum, diğer şeylerin yanı sıra, yol yapım aşamaları için tahmin edilen uygulama sürelerinin düşük veya yüksek olmasıyla ilgilidir.
• Var olmayan prosedürler veya teknikler: Yapay zekâ sistemleri, geçerli teknik standartlara göre onaylanmamış uygulama yöntemlerini veya malzemelerini tespit edebilir. Exdrog dokümanında, yerel pazarda bulunmayan veya Polonya'da onaylanmamış teknolojilerin kullanımına ilişkin öneriler yer alıyordu.
• Yönetmeliklerin yanlış yorumlanması: Yapay zeka, profesyonel hukuk analizlerine benzeyen ancak var olmayan vergi yorumlarına veya sektör standartlarına dayanan veriler üretebilir. Exdrog örneğinde, bu tür içeriklerin varlığı, ihaleden diskalifiye edilme nedenlerinden biriydi.

Bu örneklerin derlenmesi, yapay zekanın iş operasyonlarını destekleyebileceğinin altını çizerken, yapay zekadan kar elde etmeyi planlayan herhangi bir şirketin kötüye kullanım riskini ve uzmanlar tarafından veri doğrulamasının gerekliliğini göz önünde bulundurması gerektiğini vurgulamaktadır. Yapay zeka, teknik ve resmi içeriklerin sorumlu inceleyicileri rolünde insanları yerini alamaz.

Riskler neden bu kadar yüksek?

Yapay zekâ yanılsamaları fenomeni, ihaleler veya inşaat sektörüyle sınırlı değildir. Yüksek düzeyde doğruluk veya hukuki ya da teknik uzmanlık gerektiren içerik üreten herhangi bir yapay zekâ aracının kullanıldığı süreç, benzer hatalara açıktır. Düzenleyici açıdan bu şu anlama gelir:

• Yanlış verilerin kullanılmasından kaynaklanabilecek potansiyel mali kayıplar.
• Müteahhitler ve kurumlarla ilişkilerde karşılaşılabilecek hukuki riskler.
• Hataların ortaya çıkması durumunda itibar açısından ciddi bir tehdit oluşturur.
• Ek doğrulama prosedürlerinin uygulanması gerekiyor.

Exdrog vaka çalışması, işletmelerde yapay zekanın , kesinlikle kesin ve güvenilir bilgi kaynağı olarak değil, destekleyici bir unsur olarak ele alınması gerektiğini öne sürüyor. Yapay zekanın yarattığı yanılsamalar, insan gözetimi ve kontrol süreçlerinin önemini vurguluyor.

Özetle, yapay zekâ yanılsamaları fenomeni, yapay zekâ destekli çözümler uygulayan şirketlerin karşılaştığı en önemli zorluklardan biridir . Algoritmalar tarafından oluşturulan belgeler profesyonel görünebilir, ancak uygun denetim olmadan kuruluşları ciddi risklere maruz bırakabilirler. Exdrog örneğinde sonuçlar ağır oldu – sözleşme kaybı ve piyasa güveninde düşüş. Editörlük açısından sonuçlar açık ve nettir: Yapay zekâ sorumlu bir denetim gerektirir.

Şirket ve piyasa için sonuçlar

Exdrog'un sözleşme kaybı, yapay zekanın (YZ) yanlış kullanımının ciddi iş sonuçlarına nasıl yol açabileceğinin çarpıcı bir örneği oldu. İşletmelerde YZ kullanımına ilişkin karar , dokümantasyonu hızlandırmak ve daha hızlı karlılık sağlamak amacıyla alınmıştı , ancak pratikte otomasyonla ilişkili tipik riskler ortaya çıktı. YZ sistemi, güvenilir görünen ancak zaman çizelgelerinde, maliyet tahminlerinde ve düzenleyici yorumlarda gerçek hatalar içeren veriler üretti. İhale komitesi bu hataları hemen tespit ederek Exdrog'u süreçten diskalifiye etti. Teknoloji uzmanları, işletmelerde YZ kullanımının risklerinin gerçek olduğunu ve yanlış uygulamanın sözleşme kayıplarına, mali kayıplara ve itibar kaybına yol açabileceğini belirtiyor.

Dahası, olayı analiz eden uzmanlar, Exdrog olayının piyasada gözlemlenen daha geniş bir eğilimin parçası olduğunu vurguluyor. Yapay zeka araçlarını uygulayan birçok şirket, güvenlik prosedürlerinden, veri doğrulama protokollerinden ve otomasyonla sorumlu çalışma standartlarından yoksun. Sonuç olarak, iyi işleyen şirketler bile kasıtlı eylemlerden değil, teknolojinin sınırlamalarının farkında olmamaktan kaynaklanan hatalara maruz kalabilirler. Pratik anlamda bu, yapay zekanın mevcut süreçleri desteklemesini ve ek operasyonel ve finansal riskler yaratmamasını sağlamak için kalite, denetim ve hesap verebilirlik için yeni standartların kademeli olarak geliştirilmesini gerektirir.

İhaleden dışlanma

En acil sonuç, Exdrog'un Ulusal Temyiz Kurulu (KIO) tarafından ihaleden diskalifiye edilmesi oldu. Kurul, belgelerdeki bazı verilerin yanlış veya doğrulanamaz olduğu sonucuna vardı; bu da İhale Kanunu uyarınca kesin bir diskalifiye nedeni oluşturuyordu. Pratik anlamda bu, yaklaşık 15.5 milyon Polonya zlotisi değerinde bir sözleşmenin kaybedilmesi anlamına geliyordu; bu proje şirketin gelirini ve gelişimini önemli ölçüde etkileyebilirdi.

KIO'nun kararı netti: Yapay zeka tarafından oluşturulan verilerin doğrulanmaması hatalar için bir mazeret olamaz. Yapay zeka tabanlı araçlar belge oluşturmayı hızlandırsa bile, bunların doğruluğundan yüklenici sorumludur. Exdrog örneğinde, yenilikçi çalışma yöntemleri resmi gereklilikleri karşılamak için yetersiz kaldı.

Hukuki riskler ve itibar

Sözleşmeyi kaybetmek sonuçların sadece bir parçası. Analistler, önemli hukuki ve itibar risklerine de işaret ediyor . Var olmayan yasalara atıfta bulunan yapay zekanın yorumları, kamu kurumlarını yanıltıcı olarak yorumlanabilir. Aşırı durumlarda, bu tür durumlar daha fazla yasal işlem, mali cezalar veya düzenleyici kurumlara açıklama yapma zorunluluğuna yol açabilir.

Şirketin imajı açısından da önemli sonuçlar doğurabilir. Exdrog'un yapay zeka tarafından oluşturulan belgelerindeki hatalarla ilgili bilgiler, Business Insider ve Puls Biznesu gibi uzmanlaşmış medya kuruluşlarında ortaya çıktı. Bu durum, yükleniciler ve yatırımcılar için, şirketin gelişmiş teknolojik araçlar kullanırken bile verileri güvenilir bir şekilde doğrulamada zorlanabileceğini gösteriyor. Pratik anlamda bu, gelecekteki iş görüşmelerinde daha fazla temkinli olunmasına ve yeni sözleşmelerin alınmasında potansiyel zorluklara yol açabilir.

Daha geniş bir pazar bağlamında, Exdrog davası, yapay zekanın işletmelerde kullanımının risklerinin, resmi belgeler, finansal analizler veya proje zaman çizelgeleri oluşturmak için yapay zeka kullanan her şirketi etkilediğinin altını çizmektedir. Tekrarlanan hatalar, sektör düzenleyicileri tarafından ek denetimlere yol açabilir, operasyonel maliyetleri artırabilir ve tüm sektör için karar alma süreçlerini uzatabilir.

Exdrog'un uzun vadeli sonuçları

Şirket açısından sonuçlar çok boyutludur:

• Finans: Büyük bir projeyle ilgili sözleşmenin kaybedilmesi ve gelir elde edilememesi.
• itibar: Yapay zekâ hatalarına ilişkin bilgiler medyaya yansıdı ve bu durum müşterilerin ve ortakların güvenini zedeledi.
• Operasyonel: Yapay zekâ verileri için kontrol ve denetim prosedürlerinin uygulanması ihtiyacı,
• Yasal: Gelecekteki ihalelerde hak talepleri riski veya sürecin netleştirilmesi ihtiyacı.

Bu, piyasaya açık bir sinyal: İş dünyasında yapay zeka güçlü bir araçtır, ancak sorumluluk, denetim ve doğrulama gerektirir. Denetim eksikliği ciddi mali, hukuki ve itibar kaybına yol açabilir.

İşletmeler için dersler: Yapay zekayı işletmelerde güvenli bir şekilde nasıl kullanabilirsiniz?

Exdrog vakası, uzmanların analiz etmesi gereken değerli bir örnek teşkil etmektedir . Yapay zekanın karlılığı ve iş dünyasında yaygın kullanımı önemli faydalar sağlarken, teknolojinin beceriksizce uygulanmasının ciddi sonuçlara yol açabileceğini göstermektedir . En gelişmiş sistemler bile insan gözetimini, doğrulama prosedürlerini ve veri kalitesi kontrolünü tamamen ortadan kaldıramaz. Resmi belgelerde, ihale tekliflerinde ve iş analizlerinde yapay zekayı kullanan şirketler, tipik riskleri göz önünde bulundurmalıdır: yanlış veriler, düzenlemelerin yanlış yorumlanması ve eksik zaman çizelgeleri.

Exdrog örneğinde, yapay zekanın kullanımı belge hazırlama sürecini hızlandırmış olsa da, aynı zamanda denetim süreçlerindeki önemli eksiklikleri de ortaya çıkarmıştır. Analistlerin de belirttiği gibi, şirketin ekibi, oluşturulan açıklamaların, maliyet tahminlerinin ve zaman çizelgelerinin titiz bir insan doğrulaması gerektirdiğini nispeten hızlı bir şekilde fark etmiştir. Bu doğrulamanın eksikliği, sözleşmenin kaybedilmesine yol açmıştır. Gerçekten de, ders açıktır: Yapay zeka hızlı kârlılığı destekleyebilir , ancak yalnızca insan denetimi, veri denetimi ve yeterli güvenlik önlemleriyle birlikte.

Yapay zeka veri denetimi ve doğrulaması

Yapay zekâ araçlarının güvenli kullanımının temeli, ürettikleri yapay zekâ verilerinin denetlenmesi ve doğrulanmasıdır . Karar alma süreçlerinde kullanılan her bilgi parçası, nitelikli bir profesyonel tarafından incelenmelidir. Pratik anlamda bu, diğer şeylerin yanı sıra şunları içerir:

• Maliyet tahminlerini, zaman çizelgelerini ve teknik yorumlamaları kontrol etmek,
• Yapay zekanın referans aldığı kaynakları ve standartları doğrulamak,
• Yapay zekâ sistemlerinde hataları, yanılgıları ve düzenlemelere uyumsuzlukları tespit etmek amacıyla düzenli testler gerçekleştirin.

Bu sayede yapay zeka, süreç otomasyonunu destekleyebilir ve ihalelerden dışlanmaya, itibar kaybına veya ek düzenleyici denetimlere yol açan hatal riskini azaltabilir.

İnsan sorumluluğu ve yapay zekâ

Sektör uygulamaları, yapay zekanın (YZ) insan emeğinin yerini alan bir araç değil, destekleyici bir araç olduğunu açıkça göstermektedir. YZ kullanılarak oluşturulan her proje, sözleşme veya resmi belge manuel incelemeden geçmelidir. Bu, riskleri en aza indirmek, mevzuata uyumu sağlamak ve YZ'nin iş dünyasındaki potansiyelinden güvenli bir şekilde yararlanmanın tek etkili yoludur.

Yapay zekanın sorumlu kullanım ilkeleri

Yapay zekâ (YZ) teknolojisiyle çalışırken, bu araçların başarıya giden sihirli bir kısayol olduğu algısı sıklıkla mevcuttur. Ancak Exdrog gibi şirketlerin vaka çalışmaları, insan sorumluluğu ile YZ arasında net bir ayrımın çok önemli olduğunu göstermektedir. YZ yalnızca bir yardımcı olarak ele alınmalı ve YZ tarafından üretilen verilere dayalı her karar bir uzman tarafından doğrulanmalıdır. Üretilen içeriğin düzenli olarak incelenmesi, karar vericileri yanıltabilecek YZ kaynaklı yanılsamalar ve yanlış bilgilerle ilişkili riskleri azaltır .

Bu yaklaşımın uygulanması aşağıdaki avantajları sağlar:

• Hukuki ve mali riskleri azaltmak,
• Müşteriler ve yükleniciler arasında artan güven,
• Denetim veya incelemeler durumunda itibarı korumak,
• Operasyonlar üzerinde tam kontrolü korurken yapay zekanın etkin kullanımı.
• İhalelerin veya projelerin sonuçlarını etkilemeden önce potansiyel hataları tespit etmek.

Kontrol prosedürleri

Şirketler , diğer hususların yanı sıra şunları içeren kontrol prosedürlerini uygulamalıdır :

• Yapay zekâ tarafından üretilen verilerin doğrulanması için kontrol listeleri,
• Belgeleri müşterilere veya kamu kurumlarına göndermeden önce bilgilerin kalitesini kontrol etmek.
• Çalışanları yapay zekâ yanılgılarını tanıma ve yapay zekâ sistemlerinin sonuçlarını eleştirel bir şekilde analiz etme konusunda eğitmek.

Bu prosedürler, zaman ve kaynak tasarrufu gibi yapay zekanın faydalarını en üst düzeye çıkarmayı sağlarken, aynı zamanda Exdrog örneğinde olduğu gibi maliyetli hataların riskini de azaltır.

Yapay zekanın sorumlu kullanım kültürü

Exdrog olayından çıkarılan en önemli ders, sorumlu yapay zeka kullanımına yönelik bir kültür oluşturmanın gerekliliğidir . Yapay zeka, başarıya giden sihirli bir kısayol olarak değil, teknolojik bir ortak olarak ele alınmalıdır. Bu kültürün temel unsurları şunlardır:

• Yapay zekanın yetenekleri ve sınırlamaları konusunda farkındalık,
• Yapay zekâ sistemlerinin sonuçlarının düzenli olarak izlenmesi,
• Herhangi bir hata tespit edilmesi durumunda izlenecek prosedürler.
• Yanlış veri veya hatalı analiz durumunda uygulanacak acil durum planları.

Exdrog vakası, işletmelerde yapay zekâ kullanımının risklerinin gerçek olduğunu göstermektedir. Otomasyon, insan gözetimi ve hesap verebilirliğin bir araya getirilmesi, yapay zekânın maliyetli hataların kaynağı değil, destekleyici bir unsur olarak kullanılmasını sağlar.

Sonuç olarak: Yapay zeka bir araçtır, başarıya giden kestirme bir yol değildir.

Exdrog öyküsü , işletmelerde sorumlu yapay zeka uygulamasının kritik önemini örneklemektedir. En gelişmiş sistemler bile insan gözetimini, bilgisini ve güvenlik prosedürlerini tamamen ortadan kaldıramaz. Yapay zeka süreçleri hızlandırabilir, raporlar oluşturabilir ve verileri analiz edebilir, ancak doğrulama ve kontrol olmadan kullanımı önemli riskler taşır.

Kuruluşlar için en önemli sonuçlar şunlardır:

• Yapay zekâ yanılmaz değildir: Yapay zekânın yarattığı halüsinasyonlar, inandırıcı görünen ancak aslında yanlış olan veriler üretebilir ve bu durum resmi belgelerde ciddi sonuçlara yol açabilir.
• İnsan gözetimi şarttır: Yapay zekâ tarafından üretilen her bilgi parçası bir insan tarafından kontrol edilip onaylanmalıdır.
• Finansal ve itibar riskleri gerçektir: Yapay zekâ içeriği üzerindeki kontrol eksikliği, sözleşme kayıplarına, mali kayıplara ve iş ortaklarının güveninin azalmasına yol açabilir.
• Prosedürler ve denetim süreçleri riskleri azaltır: Kontrol listeleri, denetimler ve eğitimler, yapay zekanın güvenli kullanımını ve faydalarının en üst düzeye çıkarılmasını sağlar.

Pratik anlamda bu, yapay zekanın yalnızca bir araç olarak ele alınması gerektiği anlamına gelir . Teknolojiyi uygulamaya koymanın verimliliği ve karı artıracağını varsayan şirketler, Exdrog örneğinde görüldüğü gibi, vahim sonuçlarla karşılaşma riski taşırlar. Yapay zekanın potansiyelini hesap verebilirlik, denetim ve uzmanlıkla birleştirmek, itibar ve finansal istikrarı tehlikeye atmadan gerçek faydalar sağlar.

Özetle, işletmelerde yapay zekâ kullanımının riskleri gerçektir, ancak doğru yaklaşımla en aza indirilebilirler. Sistemin sınırlamalarının farkında olmak ve insan gözetimi ve doğrulamasının önemi çok önemlidir. Yapay zekâ insanları tamamen yerini almayacak, ancak iş süreçlerinde vazgeçilmez bir destek haline gelerek, güvenli ve verimli bir şekilde yapay zekâ odaklı büyümeyi mümkün kılabilir.

Exdrog davası önemli bir ders veriyor: Teknoloji güçlüdür, ancak iş süreçlerinde, dokümantasyonda ve ihalelerde insan sorumluluğu ve yetkinliği olmazsa olmazdır.

Uzman tavsiyesi

Yapay zekâ, hukuk ve teknoloji denetimi alanlarında uzmanların desteğiyle oluşturulan yayın kurulu, Exdrog davasının çok önemli bir uyarı niteliğinde olduğunu belirtiyor: İş belgelerinde ve ihalelerde üretken yapay zekânın kullanımı, titiz bir doğrulama gerektiriyor. Doğrulama hatasının ciddi sonuçları olabilir.

Puls Biznesu ve Ulusal Temyiz Odası, Exdrog'un ihale için sunduğu 280 sayfalık açıklamada, diğer hususların yanı sıra yapay zekânın hayali vergi yorumları ürettiğini bildirdi. Ulusal Temyiz Odası, şirketin "yapay zekâ tarafından üretilen bilgileri doğrulamadığını ve talep eden tarafa yanıltıcı bilgi verdiğini" tespit etti. ( Puls Biznesu/KIO )

Teknik uzmanlar, özellikle resmi belgeler bağlamında, üretken yapay zekanın "halüsinasyonlar" olarak adlandırılan, inandırıcı görünen ancak gerçeklere dayanmayan içerikler üretebileceği konusunda uyarıyor. NeuralTrust raporuna göre, bu hatalar işletmeler için ciddi itibar ve yasal risk oluşturuyor. ( NeuralTrust – Halüsinasyonların İşletme Riski )

• Yapay zekâ tarafından oluşturulan içeriği her zaman kontrol edin: Özellikle resmi, mali veya ihale ile ilgili belgelerde yapay zekanın kusursuz çalıştığı varsayılamaz.
• Yapay zeka denetim prosedürlerini tanıtın: İnsan müdahalesi gerektiren mekanizmalar kullanır, böylece bir insan yapay zekâ tarafından oluşturulan temel bileşenleri doğrulayabilir.
• Yapay zekanın sorumlu kullanımı için bir politika oluşturun: Yapay zekâya ne zaman güvenebileceğinizi ve ne zaman tamamen manuel doğrulamanın gerekli olduğunu belirleyin.

Girişimciler ve ihale yüklenicileri için editörlerin tavsiyesi nettir: Yapay zekânın kullanımı avantaj sağlayabilir, ancak dikkat, yapı ve denetim gerektirir; aksi takdirde hataların maliyeti çok yüksek olabilir.