İki sene önce, ABD’de görülen bir davada taraf avukatlarından biri, dosyaya emsal karar niteliğinde bir karar sundu. Yani kendisi öyle düşündü (New York Times haberinin başlığı da şu şekilde: “Avukatınız ChatGPT Kullandığında Başınıza Gelenler*”). Ancak emsal kararın kendisi, kararın başlığı, karar numarası, kararda öne sürülen hukuki olguların tamamı ChatGPT tarafından uydurulmuştu.

Yapısından dolayı en kritik özelliklerinden birinin “yapay zekanın çok ikna edici yazması” olduğunu söylemiştik, ki halüsinasyon görmesi de teknik detayların sonuçlarından biri. Öyle de oldu ve avukat o kadar güvendi ki, kontrol dahi etmeden bunları dilekçesine ekleyip mahkemeye sundu. Üstelik avukat 30 senelik tecrübeli bir avukattı. En son avukata ne olduğunu göremedim ancak mahkemenin, avukatın cezalandırılması için ayrı bir süreç başlattığını yazıyordu.

Aradan iki sene geçti, ve dünyada özellikle ABD, İngiltere ve AB başta olmak üzere 100’den fazla basına ya da sosyal medyaya yansımış benzer olaylar yaşandı. Eminim ki ülkemiz mahkemelerinde de pek çok kez yaşanmıştır ancak ya basına yansımamıştır ya da fark edilmemiştir. Henüz geçen hafta avukat bir dostum ChatGPT’nin tam da işine yarayacak bir “emsal karar” bulduğunu, ama bu kararı “emsal karar arama motorlarında” arattığında “bulamadığını” söyledi. Çünkü cevap basitti: Böyle bir karar yoktu ve yapay zeka doğal olarak halüsinasyon görmüş ancak yine çok ikna edici yazmıştı.

Sonuç olarak diyeceğim şu: Ben de günde belki saatlerce kullanıyorum, kesinlikle kullanılmalı; ancak çalışma sistemiyle sınırları bilinmeli. İş kalitenizi ve hızınızı arşa çıkarabilir, ancak rezil de edebilir. Özellikle avukat meslektaşlarımın dikkat etmesi gereken hususlar var. Öncelikle ve en kritik olarak tüm gizli bilgileri, taraf isimlerini, unvanlarını, tutarları kesinlikle çıkartıp ondan sonra işe başlayın. Editör olarak kullanın. Editör olarak kullanmayıp da, hukuki somut bir olguyu soruyorsanız; kesinlikle her çıktıyı güvenilir kaynaklardan kontrol edin. Hatta ChatGPT’yi bir “taraf”, Google’ın pek çok değerlendirmede ChatGPT’yi dahi geçen Gemini yapay zeka uygulamasını da “diğer taraf” olarak tanıtın ve çapraz kontrol yapın. Yoksa ciddi olumsuz sonuçlarla karşılaşabilirsiniz.

NYT Haber Linki: https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html