Geçen hafta bu köşede yapay zekâ dünyasında yeni bir dönemin başladığını yazmıştım. Artık rekabet yalnızca daha güçlü, daha hızlı veya daha gelişmiş yapay zekâ sistemleri geliştirmek üzerinden ilerlemiyor. Yeni rekabet alanı güven. Fakat geçen haftaki yazının sonunda bıraktığım çok önemli bir soru vardı: Peki yapay zekâya duyulan bu güven nasıl sağlanacak? Cevabı, önümüzdeki dönemde iş dünyasında çok daha sık duyacağımız bir kavramda saklı: AI Governance — Yapay Zekâ Yönetişimi.
En basit tanımıyla yapay zekâ yönetişimi; bir kurumun yapay zekâyı nerede, nasıl, hangi verilerle, hangi sınırlar içinde ve kimin sorumluluğunda kullanacağını belirleyen yönetim sistemidir.Önümüzdeki birkaç yıl içinde bu kavram, şirketler için siber güvenlik ya da sürdürülebilirlik kadar önemli hale gelecek. Çünkü yapay zekâ artık şirketlerin kenarında duran yardımcı bir teknoloji değil. Üretim planlamasına giriyor. Kalite problemlerini analiz ediyor. Tedarikçi seçimine destek oluyor. Müşterileri sınıflandırıyor. İnsan kaynaklarında adayları değerlendiriyor. Finansal tahminler oluşturuyor. Mühendislik tasarımlarına katkı sağlıyor. Tüm bunların çerçevesinde yapay zekâ ajanlarıyla birlikte yalnızca öneri veren sistemlerden, verilen hedef doğrultusunda eyleme geçen sistemlere doğru ilerliyoruz.
O zaman yeni sorumuz şu ; Bir teknoloji şirket adına karar verebiliyorsa, onu kim denetleyecek? Bugüne kadar şirketlerde teknolojinin sorumlusu çoğunlukla IT departmanıydı. Fakat yapay zekâ yönetişimini yalnızca IT’nin sorumluluğuna bırakmak mümkün değil. Çünkü bugün yapay zekânın aldığı bir karar hukuku ilgilendirebilir, kullandığı veri siber güvenliği ilgilendirebilir, çalışan hakkında yaptığı değerlendirme insan kaynaklarını ilgilendirebilir, üretim hattında verdiği karar kaliteyi etkileyebilir, yanlış bir tahmin finansal sonuç yaratabilir, müşteri hakkında verdiği bir karar ise şirketin itibarını doğrudan etkileyebilir. Dolayısıyla yapay zekâ yönetişimi aslında teknoloji yönetiminden çok daha büyük bir konu. Artık bir kurumsal yönetim meselesi. Dünyada da şirketler tam olarak bunu tartışmaya başladı. Yeni dönemde yönetim masasında çok daha zor sorular olacak: * Şirketimizde kaç farklı yapay zekâ sistemi kullanılıyor? * Bu sistemlere hangi veriler aktarılıyor? * Hangi kararlar tamamen otomatik alınıyor? *Hangi kararlarda insan onayı gerekiyor? *Yapay zekânın verdiği kararların kayıtları tutuluyor mu? *Bir hata olduğunda sorumluluk kimde? En kritik soru ise ; ‘’Bir yapay zekâ sistemini gerektiğinde durdurabilecek miyiz?’’
Bu sorular teorik değil. Çünkü Avrupa Birliği’nin AI Act düzenlemeleriyle birlikte yapay zekâ sistemlerinin risk seviyelerine göre değerlendirilmesi, belirli uygulamalarda insan gözetimi, kayıt tutma, şeffaflık ve risk yönetimi gibi yükümlülükler giderek şirketlerin günlük iş yapış biçimlerinin parçası haline geliyor. Özellikle Avrupa ile çalışan şirketler açısından bunun yeni bir kurumsal yeterlilik olarak görülmesi gerektiğini düşünüyorum. Peki şirketler nereden başlamalı? Önce şirketinizde yapay zekânın nerede kullanıldığını bilin. Bugün birçok kurumun en büyük riski kullandığı yapay zekâ değil; kullandığını bilmediği yapay zekâ.Bu ne demek ? Bir çalışan toplantı notlarını ücretsiz bir AI aracına yükleyebilir. Bir mühendis teknik bir çizimi bir modele analiz ettirebilir. Satın alma çalışanı tedarikçi tekliflerini karşılaştırmak için yapay zekâ kullanabilir. İnsan kaynakları çalışanı aday özgeçmişlerini bir sisteme yükleyebilir. Bunların her biri küçük ve masum bir verimlilik hamlesi gibi görünebilir. Fakat şirket açısından bakıldığında fikri mülkiyet, kişisel veri, ticari sır ve siber güvenlik riski yaratabilir. Bu nedenle şirketlerin artık bir AI envanteri, AI kullanım politikası oluşturması gerekiyor. Şirketlerin önündeki soru artık: “Yapay zekâyı nasıl yöneteceğiz?” Ve bana göre önümüzdeki dönemde şirketler arasındaki gerçek farkı da bu soruya verecekleri cevap yaratacak.Geçen hafta yazımı şöyle bitirmiştim; Teknoloji ilerlemeyi sağlar. Güven ise geleceği inşa eder. Bu hafta şunu da ekleyelim ; Yönetişim, o güveni sürdürülebilir kılar.