Yapay Zekayla İlgili Riskler Şirketlerin Sürdürülebilirlik Hedeflerini Olumsuz Etkiler mi?

Yeni bir araştırmanın sonuçlarına göre, şirketler yapay zekayla ilgili risklerden kaynaklanan maliyet baskılarıyla karşı karşıya. Şirketlerin yapay zeka ile ilgili riskler için karşılaştıkları ortalama maliyet ise 4,4 milyon doları bulurken en yaygın riskler ise %57 ile yapay zeka düzenlemelerine uyumsuzluk, %55 ile sürdürülebilirlik hedeflerine olumsuz etkiler ve %53 ile önyargılı çıktılar olarak sıralanıyor.

Küresel ölçekte 21 ülkeden çeşitli sektörlerde faaliyet gösteren şirketlerin katıldıkları, EY’nin Responsible AI Araştırması kapsamında elde edilen bulgular, gelişmiş düzeyde sorumlu yapay zeka (AI) önlemleri uygulayan şirketlerin rekabet avantajında öne geçtiğini gösteriyor. Bununla birlikte araştırmaya katılan şirketlerin neredeyse tamamı, AI ile ilgili risklerden kaynaklanan maliyet baskılarıyla karşılaştıklarını belirtiyor. Şirketlerin yapay zeka ile ilgili riskler için karşılaştıkları ortalama maliyet 4,4 milyon doları buluyor. Ancak henüz her 10 üst düzey liderden yalnızca 1’i bu riskleri nasıl etkin bir şekilde kontrol edeceği konusunda hazırlıklı görünüyor. En yaygın riskler ise yapay zeka düzenlemelerine uyumsuzluk (%57), sürdürülebilirlik hedeflerine olumsuz etkiler (%55) ve önyargılı çıktılar (%53) olarak sıralanıyor.

Responsible AI, Etik Riskleri En Aza İndirmeyi Hedefliyor

Responsible AI (Sorumlu yapay zeka), sistemleri geliştirirken ve kullanıma sunarken etik riskleri en aza indirgemeyi hedefleyen bir şablonu temsil ediyor. Yapay zeka sistemlerinin toplum üzerindeki avantajları ve olası zararları göz önünde bulundurularak planlama sürecinde kişilerin önceliklendirilmesi amaçlanıyor. Bu noktadan yola çıkılarak gerçekleştirilen araştırmaya katılan üst düzey yöneticilerin büyük çoğunluğu, şirketlerinde sorumlu yapay zeka uygulamalarına dair 10 önlemden 7’sini hayata geçirdiklerini belirtiyor.

Araştırmada öne çıkan diğer bulgular ise şöyle sıralanıyor: Araştırmaya katılanların %81’i bu uygulamalar sonrasında şirketlerinin inovasyonu hızlandırdığını, %79’u ise verimlilik ve üretkenlik elde ettiğini belirtiyor. Katılımcıların yaklaşık yarısı da gelir artışı (%54), maliyet tasarrufu (%48) ve çalışan memnuniyeti (%56) gibi kazanımlar elde ettiklerini ifade ediyor. Uygulamaların benimsenme oranının ise teknoloji, medya ve telekomünikasyon sektöründe daha da yüksek olduğu görülüyor. Bu sektörde, temel hizmetlerin sunumu büyük ölçüde teknoloji ve veriye dayandığı için sorumlu yapay zeka uygulamaları kritik önem taşıyor.

Kontrol Noktalarının Belirlenmesi 

Araştırmada, birçok üst düzey liderin AI ile ilgili riskleri azaltmak için doğru kontrolleri nasıl uygulayacakları konusunda henüz net olmadığı görülüyor. Araştırmada ele alınan beş yapay zeka riskine karşı uygun kontrol tanımlarının nasıl olması gerektiğine dair üst düzey yöneticilerin yalnızca %12’sinin doğru yanıt verdiği görülüyor. Yapay zeka risklerinde nihai sorumlu olan risk yöneticileri ise %11 ile ortalamanın altında kalıyor. Çalışanların yapay zeka faaliyetleri yaygınlaştıkça, bu risklere yönelik uygun kontrol ihtiyacının da artması bekleniyor. Ayrıca bazı şirketler, çalışanların bağımsız olarak yapay zeka araçları geliştirme veya kullanmasıyla ilgili artan bir taleple karşı karşıya. Araştırmaya katılan şirketlerin üçte ikisi, bu tür faaliyetlere izin veriyor, ancak bunların sadece %60’ı bu araçların sorumlu yapay zeka ilkelerine uygun şekilde kullanıldığından emin olmak için resmi politika ve çerçevelere sahip.

Araştırmada yöneticilerin yapay zeka yönetişimi ve kontrol mekanizmalarını güçlendirmek ve iş sonuçlarını iyileştirmek için atabilecekleri üç adım şu şekilde belirtiliyor:

1. Sorumlu yapay zekaya yönelik kapsamlı bir yaklaşım benimsenmesi: Yapay zeka yatırımlarından, özellikle finansal performans ve çalışan memnuniyeti gibi kritik alanlarda daha fazla değer elde etmek için şirketlerin yapay zekanın etik ve güvenilir kullanım yolculuğunda ilerlemesi gerekiyor. Kapsamlı bir yaklaşım; sorumlu yapay zeka ilkelerinin net bir şekilde tanımlanmasını ve paylaşılmasını, bu ilkelerin kontrol mekanizmaları, anahtar performans göstergeleri (KPI’lar) ve eğitimlerle uygulanmasını içeriyor.
2. Üst yönetimde yapay zekaya yönelik bilgi seviyesinin güçlendirilmesi: Yapay zeka, organizasyonları her açıdan etkiliyor. Bu nedenle, üst düzey yöneticilerin bu yenilikçi teknolojinin sunduğu potansiyeli ve beraberinde getirdiği riskleri anlaması kritik önem taşıyor. Bu kapsamda, en büyük bilgi eksikliklerin nerede olduğunun belirlenmesi ve hedefe yönelik eğitimlerle organizasyonda bu alanların güçlendirilmesi gerekiyor. Ayrıca araştırmada yapay zeka risklerine en yakın pozisyonların gerekli önlemler konusunda tam bilgi sahibi olduğundan emin olunması öneriliyor.

3. Gelişmekte olan agentic yapay zeka risklerinin önüne geçilmesi: Agentic yapay zeka (insan müdahalesine ihtiyaç duymadan otonom karar alabilme yeteneği) güçlü yeni yetkinlikler vaat ederken, aynı zamanda bazı riskler de getiriyor. İşletmelerin bu riskleri tanımlaması, uygun politikaları benimsemesi ve sağlam bir yönetişim ile izleme mekanizması kurması kritik önem taşıyor.