Yapay zekâ ile ilişkimiz çok kısa bir sürede birkaç kez biçim değiştirdi. Önce ona sorular sorduk. Sonra metinler, görseller, raporlar hazırlattık; verilerimizi analiz etmesine ve kararlarımızı desteklemesine izin verdik.
Şimdi ise yeni bir eşiğin önündeyiz. Artık yapay zekâdan yalnızca “ne yapmamız gerektiğini söylemesini” istemiyoruz. Ona, belirli sınırlar içinde, bizim adımıza harekete geçme yetkisi veriyoruz. İşte tam bu noktada soru değişiyor: Yapay zekâ ne kadar güçlü olabilir değil; ona ne kadar yetki verebiliriz?
Cevap Veren Sistemlerden Harekete Geçen Sistemlere..Bugün konuştuğumuz AI ajanlarına yalnızca soru sormuyoruz; bir hedef veriyoruz. Ajan, hedefe ulaşmak için plan yapabiliyor, farklı sistemleri kullanabiliyor, başka ajanlarla iletişim kurabiliyor ve gerektiğinde izlediği yolu değiştirebiliyor.
Yani teknoloji, araç olmaktan çıkıp aktöre dönüşüyor. Gartner’ın öngörüsüne göre 2025’te kurumsal uygulamaların yüzde 5’inden azında bulunan görev odaklı AI ajanlarının, 2026 sonunda yaklaşık yüzde 40’a ulaşması bekleniyor. Bu hızlı gelişimin ilk uyarılarını da görmeye başladık. Anthropic’in çoklu ajan deneylerinde AI ajanlarının bazı koşullarda birbirleriyle rekabete girdiği ve beklenmeyen stratejiler geliştirdiği gözlemlendi. İngiltere AI Security Institute ise bir siber güvenlik testi sırasında bir AI ajanının tanımlanan test ortamının sınırlarını aşarak izinsiz eylemlerde bulunduğu bir vakayı raporladı.
Buradan çıkarılması gereken sonuç “yapay zekâ kontrolden çıkıyor” değil. Asıl soru şu: Bir sisteme ne yapacağını söylerken, ne yapamayacağını da yeterince iyi tarif ediyor muyuz?
Bu şartlarda AI’ın da Bir Görev Tanımı Olmalı..Bir şirkete yeni çalışan başladığında görevini ve yetkilerini tanımlarız. Hangi verilere erişebileceği, hangi kararları tek başına alabileceği ve hangi noktada yöneticisinden onay istemesi gerektiği bellidir. Peki şirket sistemlerine bağladığımız bir AI ajanı için aynı şeyi yapıyor muyuz? Belki de yeni dönemin önemli kurumsal kavramlarından biri “AI görev tanımı” olacak. Bir AI’ın yalnızca ne yapabileceğini değil; ne yapamayacağını, hangi veriye erişebileceğini, hangi kararı tek başına alamayacağını ve hangi noktada insan onayına dönmesi gerektiğini tanımlamak zorundayız.
Çünkü geleceğin mühendislik problemi yalnızca daha güçlü yapay zekâ geliştirmek olmayacak. O gücün sınırlarını tasarlamak da mühendisliğin işi olacak. Yetkilendirme, izlenebilirlik, insan onayı ve güvenli durdurma mekanizmaları artık yalnızca etik tartışmalar değil, sistem tasarımının temel gereksinimleri haline geliyor.
Yetki Varsa Sorumluluk Kimde? Bir de işin belki en zor tarafı var. Şirket adına hareket eden bir AI yanlış ödeme yaparsa, gizli bir veriyi paylaşırsa ya da üretim planında hatalı bir değişiklik yaparsa sorumlu kim olacak? AI’ı geliştiren şirket mi? Onu kullanan kurum mu? Sistemi kuran mühendis mi? Yönetici mi? Teknoloji bu soruların cevabını beklemiyor. Belki birkaç yıl sonra şirketlerin organizasyon şemalarında yalnızca insanları değil, insanlarla birlikte çalışan AI ajanlarını da göreceğiz. O zaman yöneticilerin yeni bir sorumluluğu daha olacak: Sadece insanları değil, yapay zekânın yetkilerini de yönetmek. Çünkü yeni dönemin kritik sorusu artık “Bu yapay zekâ ne yapabiliyor?” değil; “Bu yapay zekânın ne yapmasına izin veriyoruz?”
Yapay zekâya yetki vermeye başladık. Şimdi asıl mühendislik sorusunu soralım “KONTROL HALA BİZ DE Mİ?”