SAS ve IDC tarafından yapılan yeni bir çalışmaya göre, yapay zeka yönetişimi ve veri uygulamaları daha güçlü olan kuruluşların yapay zeka yatırımlarından daha yüksek getiri bildirme olasılığı belirgin şekilde artıyor.
‘The New Economics of Trust’ başlıklı ikinci yıllık Data and AI Impact Report, güvenilir yapay zeka uygulamaları olarak tanımladığı uygulamaları uygulayan kuruluşların yapay zeka projelerinden güçlü ya da yüksek yatırım getirisi bildirme olasılığının 15 kat daha fazla olduğunu buldu.
Çalışma, en güçlü yönetişim, veri kalitesi ve denetlenebilirlik uygulamalarına sahip kuruluşların diğer kuruluşlara kıyasla yapay zeka dağıtımlarından en az iki kat yatırım getirisi bildirdiğini ortaya koydu; SAS bu grubun pazarda nispeten küçük bir kısmı oluşturduğunu belirtti.
Raporun aktardığına göre, güvenilir yapay zekada geri kalmış olarak tanımlanan kuruluşların yirmiden az birinden benzer şekilde güçlü getiri bildirdi.
“Yapay zeka işlediğinde etkisi inanılmaz oluyor,” dedi SAS baş teknoloji sorumlusu Bryan Harris.
“Ancak, en ileri düzey ajanların karmaşık görevlerde hata oranının yüzde 25’i aşabildiği iyi belgelenmiş bir gerçek. Bu, yüksek riskli karar alma süreçlerinde kabul edilemez,” diye ekledi.
“Doğruluk ve tekrarlanabilirliği sağlamak için kuruluşların alan uzmanlığını ajan iş akışlarına yerleştirmesi ve yönetişim ile denetimde insanı merkeze tutması gerekiyor,” diye sürdürdü.
“Bunu başarıyla yapan kuruluşlar güven açığını kapatacak ve yapay zekayla pazarda rekabet avantajı elde edecek,” diye belirtti Harris.
“Yapay zeka daha otonom hale geldikçe kuruluşlar yeni bir zorlukla karşı karşıya: İnsanların tam olarak anlamadığı sistemlere duyulan güveni korumak,” diye açıkladı IDC başkan yardımcısı Chris Marshall.
“Bulgularımız, güçlü denetim, açıklanabilirlik, hesap verebilirlik ve veri temellerinin yapay zekayı başarıyla ölçeklendirmek için ön koşul haline geldiğini gösteriyor,” diye ekledi.
Rapor, çalışanların yapay zekanın ürettiği önerileri sık sık geçersiz kıldığını buldu; bunu yapma konusundaki en yaygın neden yapay zeka kararına ilişkin bir açıklama eksikliğiydi.
Araştırmacılar, çalışanların çıktılarının doğru olup olmadığını tespit edemedikleri ya da yapay zeka sisteminin nihai karara nasıl ulaştığını anlayamadıkları durumlarda sistemlere güvenmeye giderek daha isteksiz hale geldiğini söyledi.
Rapor, yapay zeka sistemleri daha fazla özerklik kazandıkça sorunun daha da önemli hale gelebileceğini ve başarılı benimsenme için kararları açıklama yeteneğinin giderek daha önemli olacağını belirtti.
Ayrıca, yapay zeka kararlarına duyulan güven eksikliğinin çalışanların manuel düzeltmeler yapmasına yol açabileceğini, bu durumun üretkenliği ve karlılığı azaltırken görevlerin tamamlanması için gereken süreyi artırabileceğini buldu.
Çalışmaya göre, kullanıcıların yüzde 97,2’si en az bazı durumlarda yapay zekanın ürettiği önerileri geçersiz kılıyor.
Yapay zeka önerisini geçersiz kılmanın en yaygın nedeni, çalışanlar çıktıyı doğru bulup bulmamalarına bakılmaksızın, sistemin kararının gerekçesini açıklayamamasıydı.
Rapor ayrıca yapay zekaya duyulan güvenin sistemler daha otonom hale geldikçe azaldığını buldu; üretken yapay zekada yüzde 76 iken ajan yapay zekada yüzde 66’ya düştü.
SAS ve IDC, bulguların güvenilir yapay zeka uygulamalarına öncelik veren kuruluşlar ile vermeyenler arasındaki getiri farkının genişlediğine işaret ettiğini söyledi.
Rapor, yapay zekadan en büyük değeri elde eden kuruluşların farklı teknolojiler kullanmadığını, bunun yerine yapay zekayı farklı şekilde yönetip yönetişim sağladığını öne sürdü.
Güvenilir yapay zeka önlemlerine yatırım yapan kuruluşlar güçlü ya da yüksek yatırım getirisi bildirme olasılığının 15 kat daha fazla olduğu görüldü; bu oran söz konusu uygulamalara sahip olanlarda yüzde 62 iken, sahip olmayanlarda yüzde 4 oldu.
En güçlü güvenilir yapay zeka uygulamalarına sahip kuruluşlar ayrıca gelir artışı, maliyet tasarrufu ve müşteri deneyimi de dahil olmak üzere 13 iş sonucu genelinde 1,85 kat daha fazla kazanç bildirdi.
Çalışma, güçlü güvenilir yapay zeka uygulamalarına sahip yapay zeka liderlerinin yüzde 85’inin 2026 yılı boyunca bu alandaki yatırımlarını yüzde 10’dan fazla artıracağını buldu; bu durum raporda tespit edilen performans açığını potansiyel olarak genişletebilir.
Araştırma ayrıca zayıf ya da güncel olmayan veri temellerinin yapay zeka benimsemesine yönelik büyük bir engel olduğunu vurguladı.
SAS ve IDC, birçok kuruluşun yapay zekayı gelişmemiş ya da güncel olmayan veri ve veri altyapısı üzerinde dağıttığını ve bunun yapay zekayı etkili şekilde yönetmek için gereken şeffaflık ve açıklanabilirliği sağlama yeteneklerini sınırladığını söyledi.
Ajan yapay zekanın taleplerini karşılayacak kadar olgun kabul edilen tamamen optimize edilmiş bir veri altyapısına sahip olduğu belirlenen işletmelerin oranı yalnızca yüzde 17,5 oldu.
Rapor, optimize edilmiş bir veri temelinin bulunduğu kuruluşların yapay zeka projelerinden güçlü getiri bekleme olasılığının dört kat daha fazla olduğunu söyledi.
Ayrıca yapay zeka sistemlerine duyulan güveni inşa etmeyi amaçlayan veri kalitesi ve açıklanabilirlik kontrolleri gerektirme olasılıkları altı kat daha fazlaydı.
Bulgular, kuruluşlarının veri ve yapay zeka girişimleri konusunda bilgi sahibi olan ya da bu girişimler üzerinde etkisi bulunan 2.699 karar vericinin katıldığı küresel bir ankete dayandı.
Anket 28 ülkeyi ve bankacılık, sigorta, yaşam bilimleri ve kamu sektörü olmak üzere dört odak sektörünü kapsadı.
Rapor, söz konusu sektörlerdeki kuruluşların yapay zekaya nasıl yaklaştığını inceleyen sektör özelinde kullanım örnekleri ve bulgular içerdi.
Bankacılıkta yapay zeka liderlerinin yüzde 85’i yapay zeka yönetişim çerçeveleri oluşturmuştu; bu oran çalışmada geri kalmış olarak sınıflandırılan kuruluşlarda yüzde 29’du.
Rapor, bankacılık liderlerinin sağlam yapay zeka yönetişimini giderek yalnızca bir uyum gerekliliği değil, rekabetçi ve operasyonel bir konu olarak ele aldığını söyledi.
Kamu sektöründe liderlerin yüzde 41’i önümüzdeki yıl içinde güvenilir yapay zekaya yüzde 20’den fazla yatırım artıracağını söyledi; SAS bu oranın incelenen sektörler arasında en yüksek oranlardan biri olduğunu belirtti.
Yaşam bilimlerinde kuruluşların yüzde 23’ü yapay zekayı tüm şirketleri boyunca ölçeklendirmişti; bu oran incelenen dört sektör arasında kaydedilen en yüksek paydı.
Rapor, güvenilir yapay zekayı, nasıl karar verdiğini gösterebilme yeteneğine sahip olurken güvenilir, adil, güvenli ve düzenleyici gerekliliklere uygun şekilde tasarlanmış yapay zeka olarak tanımladı.
Kuruluş genelinde kullanıcıların ve karar vericilerin, çıktısı hatalı ya da eksik olduğunda yapay zeka sistemini önceden belirlenmiş bir hesap verebilirlik zincirine göre sorumlu tutabilmesi gerektiğini söyledi.
Raporun aktardığına göre yapay zeka sistemleri ayrıca açık kurallara göre yönetilmeli ve bu kurallara uyumları gösterilebilmelidir.
SAS ve IDC, kuruluşları güvenilir yapay zekanın beş boyutu üzerinden değerlendirdi ve onlara 100 üzerinden puan verdi.
Ortalama puanı en az 80 olan kuruluşlar, çalışma amacıyla güvenilir yapay zeka lideri olarak sınıflandırıldı.
