Yapay zekâ ile üretilen çocuk cinsel istismarı materyaline ilişkin bildirimler son iki yılda yüzde 8.400'ün üzerinde arttı. Edinburgh merkezli Childlight - Küresel Çocuk Güvenliği Enstitüsü'nün hazırladığı rapora göre bu tür içerik bildirimleri 2023'te yaklaşık 4.700 iken 2025'te 400 bini geçti. Araştırmacılar, sorunun artık hükümetler tarafından önlenebilir bir halk sağlığı krizi olarak tanımlanması gerektiğini söylüyor.

Ne oldu?

Rapor, 'nudify' uygulamaları gibi araçlarla üretilen deepfake görüntülerin bu artışın merkezinde olduğunu belirtiyor. Bu uygulamalar sıradan bir fotoğrafı yükleyip saniyeler içinde soyunmuş veya cinsel içerikli sahte görüntüye çeviriyor. Childlight, gerçek boyutun resmi bildirimlerin de üzerinde olabileceğini; çünkü çoğu platformun ve ebeveynin bu tür içeriği hâlâ nasıl bildireceğini bilmediğini vurguluyor.

Tespit sistemleri yapay zekâ üretimi içeriği neden yakalayamıyor?

Çocuk istismarı materyaliyle mücadele altyapısı onlarca yıldır aynı mantıkla çalışıyor: bilinen suç içerikli dosyaları dijital parmak iziyle (hash) etiketleyip yeniden paylaşımını engellemek. Microsoft'un PhotoDNA'sı ve ABD'deki NCMEC'in CyberTipline veritabanı bu modelin temel taşları. Mantık basit — bir görüntü bir kez tespit edilip veritabanına girdiğinde, aynı dosyanın her yeni paylaşımı otomatik yakalanır. Üretken yapay zekâ bu mantığı devre dışı bırakıyor: her üretim benzersiz bir dosya üretiyor, yani sistem için her görüntü 'yeni' ve bilinmeyen. Hash eşleştirme, sonsuz çeşitlilikte üretilen içerik karşısında işlevsiz kalıyor.

Bu aynı zamanda nicelik kadar nitelik değişimi de getiriyor. Önceden bu tür materyalin üretimi gerçek istismar kaydı gerektiriyordu ya da elle, Photoshop benzeri araçlarla yapılan emek yoğun düzenlemelere dayanıyordu — ikisi de üretimi doğal olarak sınırlıyordu. Nudify uygulamaları bu eşiği kaldırdı: sosyal medyada paylaşılmış sıradan bir çocuk fotoğrafı, teknik bilgi gerektirmeden saniyeler içinde istismar materyaline dönüşebiliyor. Üretim maliyeti neredeyse sıfıra inince, önceki yıllarda nadir olan bir suç türü ölçeklenebilir hâle geldi. Rakamlardaki patlama bu yüzden sürpriz değil; asıl soru, denetim altyapısının bu ölçeğe neden hâlâ hazır olmadığı.

Kime nasıl yansır?

ÖzellikGeleneksel istismar materyaliYapay zekâ üretimi materyal
Üretim için gerekliGerçek istismar kaydı veya manuel düzenlemeTek bir fotoğraf + nudify uygulaması
Üretim hızıGünler, haftalarSaniyeler
Tespit yöntemiHash eşleştirme (PhotoDNA vb.)Çoğunlukla etkisiz — her dosya benzersiz
Mağdur profiliDoğrudan istismara uğrayan çocukFotoğrafı internette bulunabilir herhangi bir çocuk

Tablo asıl kırılma noktasını gösteriyor: mağdur olma koşulu artık istismara doğrudan uğramak değil, bir fotoğrafın internette bulunabilir olması. Bu, potansiyel mağdur havuzunu sosyal medya kullanan her çocuğa genişletiyor. Uygulama mağazaları ve ödeme sağlayıcıları da yeni bir sorumluluk alanıyla karşı karşıya: nudify uygulamalarının çoğu kullanım şartlarında istismar amaçlı kullanımı yasaklayarak sorumluluktan kaçmaya çalışıyor, ancak pazarlama dili genellikle tersini işaret ediyor.

Sırada ne var?

Avrupa Birliği'nin yapay zekâ düzenlemesi ve İngiltere'nin Çevrimiçi Güvenlik Yasası gibi çerçeveler büyük ölçüde platformda barındırılan içeriği hedefliyor; araç düzeyinde üretimi engellemeye odaklı değiller. Bu açık, muhtemelen önümüzdeki dönemde yasa koyucuların önceliği hâline gelecek — nudify uygulamalarını doğrudan yasaklayan veya uygulama mağazalarına kaldırma zorunluluğu getiren düzenlemeler gündeme gelebilir. Teknik tarafta sınıflandırıcıların hash eşleştirme yerine görüntü içeriğini doğrudan analiz etmesi gerekiyor; bu da yanlış pozitif riskini ve mahremiyet tartışmalarını büyütecek bir alan. İzlenmesi gereken bir diğer nokta, büyük yapay zekâ şirketlerinin açık kaynaklı görüntü modellerini ne ölçüde kısıtlayacağı — çünkü nudify uygulamalarının çoğu kapalı değil açık modellerin üzerine kuruluyor.

Yüzde 8.400'lük artış, düşük bir 2023 tabanından hesaplandığı için tek başına yanıltıcı olabilir. Ama 400 bini aşan mutlak sayı, bunun istatistiksel bir anomali olmadığını gösteriyor. Burada yaşanan, yapay zekâ tartışmalarında sık görülen abartılı risk söyleminden farklı: ölçülebilir, somut bir zarar ve bu zararı önlemesi gereken kurumların elindeki araçların yetersizliği. Sorunu yapay zekâ etiği başlığına sıkıştırmak yerine çocuk koruma politikası olarak ele almak, şu an için doğru çerçeve.