Son birkaç gündür yapay zekâ dünyasından gelen bazı açıklamaları okuyorum. İlk karşıma çıktıklarında açıkçası çok üzerinde durmadım. Yapay zekâ konusunda artık o kadar çok iddialı tahmin yapılıyor ki hangisinin gerçek bir uyarı, hangisinin biraz gündem yaratma çabası olduğunu ayırmak kolay değil.

Fakat açıklamaları yapan isimlere bakınca merak ettim ve biraz araştırmaya başladım. İlk dikkatimi çeken isim Jacob Coxon oldu. OpenAI ve Anthropic'te yapay zekâ modellerinin geliştirilmesi üzerinde çalışan Coxon, Anthropic'teki görevinden ayrılırken oldukça ağır ifadeler kullandı. İki şirketin de sorumlu davranmadığını, kendi kendini geliştirebilecek süper zekâya doğru yarıştığını ve bunun insan hayatı üzerinden büyük bir kumar olduğunu söyledi. Daha da ileri gitti. Yapay zekâyı geliştiren insanların bir bölümünün, bu teknolojinin on yılın sonuna kadar insanlığın varlığını dahi tehdit edebileceğine gerçekten inandığını ileri sürdü. İlk okuduğumda bana da fazla iddialı geldi. Sonra başka açıklamalara baktım. Anthropic'te yapay zekâ güvenliği üzerine çalışan Evan Hubinger'ın değerlendirmesine rastladım. Hubinger, gelişmiş yapay zekânın önümüzdeki on yıl içerisinde insanlığın tamamını yok etme ihtimalini kişisel olarak yüzde 10'un üzerinde gördüğünü söylüyor. Burada önemli bir ayrım yapalım. Bu yüzde 10 bilimsel olarak hesaplanmış bir olasılık değil. Bir araştırmacının kişisel risk değerlendirmesi. Ama yine de insanın aklına basit bir soru geliyor. İşinde uzman bir yatırım danışmanı bize; ‘Bu yatırımın şirketi batırma ihtimalinin yüzde 10'dan fazla olduğunu düşünüyoruz’ diyor.

O yatırıma onay verir miydiniz?

Büyük ihtimalle önce bütün dosyayı yeniden açar, riski anlamaya ve azaltmaya çalışırdınız.

Yapay zekâ konusunda beni düşündüren tam olarak bu. Teknolojiyi geliştiren insanların bir kısmı ciddi bir riskten söz ediyor ama yatırım yarışı yavaşlamak bir yana hızlanıyor. Peki konu yapay zekâ olduğunda neden bu kadar rahatız? Araştırdıkça işin rengi değişti. Merak edip biraz daha geriye gittim. Ve aslında bu uyarıların yeni olmadığını gördüm. 2023 yılında yayımlanan yapay zekâ riskleriyle ilgili bir bildirinin altında Sam Altman, Demis Hassabis, Dario Amodei, Geoffrey Hinton, Yoshua Bengio ve sektörün başka önemli isimleri bulunuyordu. Bildiri uzun değildi. Tek cümleydi. “Yapay zekâ kaynaklı yok oluş riskinin azaltılması; pandemiler ve nükleer savaş gibi toplum ölçeğindeki diğer risklerle birlikte küresel bir öncelik olmalıdır.” Diyordu. Bu benim yorumum değil. Yapay zekânın gelişimine yön veren dünyanın en önemli isimlerinden bazılarının imza attığı bildirinin doğrudan söylediği şey bu.

Çünkü bir tarafta bize yapay zekânın insanlığın önündeki en büyük teknolojik fırsatlardan biri olduğu anlatılıyor.

- Sağlıkta devrim yaratacak.

- Bilimsel araştırmaları hızlandıracak.

- Şirketlerde verimliliği artıracak.

- Yeni iş modelleri yaratacak.

Diğer tarafta bu teknolojiyi geliştiren dünyanın en önemli isimlerinden bazıları, yapay zekânın oluşturabileceği riski nükleer savaş ve pandemiyle aynı cümlede değerlendiriyor. Burada durup düşünmek gerekiyor. Üstelik uyarılar bitmiş değil. Anthropic CEO'su Dario Amodei de yapay zekânın gelişme hızının güvenlik çalışmalarının önüne geçmemesi gerektiğini giderek daha açık biçimde dile getiriyor. Bütün bunları arka arkaya okuyunca benim kafama takılan mesele artık “Yapay zekâ insanlığı yok edecek mi?” sorusu olmadı. Başka bir soru daha fazla ilgimi çekmeye başladı: Madem bu teknolojiyi geliştirenler de risklerin farkında, neden yarış hâlâ bu kadar hızlı devam ediyor? Cevabı aslında çok tanıdık. Rekabet.

OpenAI yavaşlarsa Anthropic ilerleyecek. Anthropic yavaşlarsa Google ilerleyecek. Amerikan şirketleri yavaşlarsa Çin ilerleyecek. Bir şirket yapmazsa rakibi yapacak. Sonunda herkes aynı cümlenin arkasına sığınıyor:

“Biz yapmazsak başkası yapacak.”

İnsanlık tarihinde bu düşünce biçimini daha önce de gördük. Silahlanma yarışlarında gördük. Nükleer teknolojide gördük. Şimdi dünyanın belki de bugüne kadar geliştirdiği en güçlü teknolojilerden birinde benzer bir yarışın içerisindeyiz. Benim asıl endişem de burada başlıyor. Teknolojinin gelişme hızıyla, onu yönetme kapasitemizin gelişme hızı aynı değil. Birini çok hızlı büyütüyoruz. Diğerini yetiştirmeye çalışıyoruz. İnsan ile makine arasındaki ekonomik değer dengesi değişmeye başladı. Ve bu değişim sandığımızdan çok daha hızlı geliyor. Şirketlerin organizasyon yapısından mesleklere, yöneticilerin kararlarından çalışanların değerine kadar bildiğimiz birçok şeyi yeniden tartışmak zorunda kalacağız.

Gelecek yazıda tam olarak bunu konuşalım: Yapay zekâ şirketlerimizi ve çalışanlarımızı nasıl değiştirecek?