Kıdemli bir savcı, yüksek mahkemede görülen bir davada tamamen uydurma bir emsal karara atıf yaptı. Mahkeme belgelerine yansıyan hata, üretken yapay zekanın hukuk sürecine sızdığı yeni bir vakayı ortaya koydu. Dikkat çeken nokta şu: bu izole bir kaza değil. Mahkemelerde "var olmayan emsal dava" artık onlarca kez tekrarlanan bir örüntü.

Ne oldu?

Savcı, bir ceza davasında savını güçlendirmek için bir mahkeme kararına atıf yaptı. Ancak gösterilen karar hiç var olmamıştı. Söz konusu atfın, bir yapay zeka aracıyla yapılan aramadan geldiği belirtiliyor. Dava belgeleri hatayı "ciddi bir başarısızlık" olarak tanımladı. Benzer hatalar son dönemde farklı ülkelerin mahkemelerinde de görüldü; avukatların ChatGPT gibi araçların ürettiği sahte kararları dilekçelere koyması artık tanıdık bir vaka tipi.

Neden önemli?

Üretken dil modellerinin temel çalışma biçimi burada sorunun kaynağını açıklıyor. Bu modeller doğruyu bilmez; istatistiksel olarak en olası kelime dizisini üretir. Hukuk metni de son derece kalıplı bir dildir: dava adı, taraf isimleri, mahkeme, yıl ve karar numarası hep aynı formatta gelir. Model bu formatı kusursuz taklit eder. Sonuç, biçim olarak gerçek bir karardan ayırt edilemeyen ama içeriği tümüyle uydurma bir atıftır. Tehlike tam da bu güvenilir görünümde. Açıkça yanlış bir çıktı okuru uyarır; biçimi doğru, özü sahte bir çıktı ise denetimi atlatır.

Hukuk, doğrulanabilirliğin opsiyonel değil zorunlu olduğu bir alan. Bir gazete yazısındaki hatalı tarih düzeltilir; bir mahkemede sahte emsal, bir çocuğun yargılanıp yargılanmayacağını etkileyebilir. Üretken yapay zekanın "güvenilir görünen ama uydurma" çıktıları bu yüzden en çok burada zarar verir. Asıl mesele, teknolojinin benimsenme hızıyla doğrulama normlarının kurulma hızı arasındaki uçurum. Araçlar hukuk bürolarına ve savcılık masalarına birkaç yılda yayıldı. Buna karşılık "yapay zeka çıktısını kaynağından teyit et" kuralı henüz oturmuş bir meslek refleksi değil.

Sorumluluk kimde?

Suçu araca yıkmak kolay ama eksik. Üç katman var ve her biri payını taşıyor.

KatmanRolüAçık nokta
AraçUydurma çıktıyı güvenle sunarKaynak gösterme ve belirsizlik uyarısı zayıf
KullanıcıÇıktıyı teyit etmeden kullanır"Doğrulanabilir görünüyor" yanılgısı
KurumNet kullanım kuralı koymazDenetim ve eğitim eksikliği

Araç, bir atıf üretirken "bundan emin değilim" demez; kesin bir tonla yanlış bilgi verir. Kullanıcı, baskı ve zaman kıtlığı içinde çıktıyı teyit etmeden kullanır. Kurum ise çoğu durumda net bir kullanım politikası, eğitim veya zorunlu doğrulama adımı tanımlamamıştır. Hukukta nihai sorumluluk mahkemeye metni sunan kişidedir; bir avukat yardımcı bir stajyerin hatasından nasıl sorumluysa, bir yapay zeka çıktısından da öyle sorumludur. Ancak sistemik hata, bireysel ihmalin ötesinde bir kurumsal boşluğa işaret ediyor.

Sırada ne var?

İzlenmesi gereken birkaç gelişme var. İlki, mahkemelerin kendi iç kuralları: bazı yargı sistemleri avukatlardan sundukları atıfları doğruladıklarına dair beyan istemeye başladı. Bu tür zorunlu beyanların yaygınlaşması muhtemel. İkincisi, araç tarafında atıf doğrulama: yapay zeka sağlayıcıları, hukuk aramalarında gerçek veritabanlarına bağlı, kaynağı tıklanabilir sistemlere yöneliyor. Üretilen metin yerine var olan belgeyi getiren araçlar bu hata sınıfını büyük ölçüde kapatabilir.

Üçüncüsü meslek eğitimi. Baroların ve adalet kurumlarının yapay zeka okuryazarlığını zorunlu kılması gündeme gelecek. Burada asıl kazanım, aracı yasaklamak değil, doğrulama refleksini mesleki norm haline getirmek olacak.

Bu olay, yapay zekanın hukukta kullanılamayacağını göstermiyor. Gösterdiği şey daha dar ve daha önemli: doğrulanabilirliğin hayati olduğu alanlarda, teyit edilmemiş üretken çıktı bir kaynak değil, olsa olsa bir taslaktır. Asıl başarısızlık aracın halüsinasyon görmesi değil; insanların onu doğrulamadan nihai kabul etmesidir.