Bir araştırma, App Store ve Google Play incelemesinden geçen 400'ü aşkın uygulamanın onay sonrası gizli özellikler açtığını ortaya koydu. Uygulamalar kullanıcının yüklediği fotoğraflardan cinsel ve şiddet içerikli deepfake üretebiliyor; bu görüntüler mağdurları aşağılamak veya tehdit etmek için kullanılabiliyor. Araştırmaya göre uygulamaların önemli bölümü tek bir organizasyona ait görünüyor ve aynı yazılımlar iki büyük mağazada da satışa sunulmuştu.

Bu, bir uygulama mağazası moderasyonunun en zayıf noktasına dokunuyor: inceleme anında masum görünen, onay sonrası davranışını değiştiren yazılımlar.

Ne oldu?

Uygulamalar mağaza incelemesine zararsız bir araç — fotoğraf düzenleyici, eğlence filtresi — gibi girdi. Onay alıp yayınlandıktan sonra deepfake ve şiddet üretim modülleri sunucu tarafından açıldı. Yani asıl işlev cihazdaki kodda değil, uzaktaki bir anahtarın ardında duruyordu. İnceleme ekibi test ederken bu özellikler kapalıydı; kullanıcı yüklediğinde açık.

Neden önemli?

Apple'ın anlatısı yıllardır "güvenli bahçe" üzerine kurulu: her uygulama insan ve otomatik incelemeden geçer, bu yüzden App Store web'den güvenlidir. Bu olay o anlatının yapısal bir boşluğunu gösteriyor. İnceleme, uygulamanın onay anındaki halini denetler. Davranışı sonradan sunucudan değiştiren bir uygulama için bu denetim tanımı gereği kör kalır. Mağaza, gördüğü ikili dosyayı onaylar; görmediği uzak yapılandırmayı değil.

Bu taktik yeni değil. Geçmişte de uygulamalar incelemede bir yüz, canlıda başka bir yüz gösterdi: coğrafi konuma göre kumar açan araçlar, belirli tarihte gizli ekran gösteren yazılımlar, "bölge kontrolü" ile denetçiye sahte arayüz sunan örnekler. Deepfake dalgasını farklı kılan, üretken yapay zekânın maliyeti sıfıra yakın düşürmesi. Eskiden zararlı içerik üretmek emek isterdi; şimdi bir fotoğraf ve bir sunucu çağrısı yetiyor. Ölçek buradan geliyor — tek bir organizasyonun yüzlerce varyant üretebilmesi tesadüf değil, otomasyonun doğal sonucu.

İkinci kritik nokta: aynı uygulamaların Google Play'de de bulunması. Bu, sorunu Apple'a özgü bir kusur olmaktan çıkarıyor. İki farklı inceleme kültürü, iki farklı otomasyon altyapısı aynı tuzağa düştüyse, hata tekil bir ekipte değil, modelin kendisinde. Sunucu tarafı mantığına dayanan hiçbir statik inceleme, onay sonrası niyeti tam göremez.

Kime nasıl yansır?

En ağır bedeli, rızası olmadan görüntüsü kullanılan kişiler ödüyor. Ardından, güvenlik vaadini pazarlama ekseni yapan mağazalar geliyor.

TarafEtki
MağdurlarRıza dışı cinsel/şiddet içerikli görüntü, taciz ve şantaj riski
Apple / Google"İncelenmiş = güvenli" anlatısının güven kaybı
Dürüst geliştiricilerDaha sert, daha yavaş inceleme süreçleri
DüzenleyicilerSunucu-taraflı moderasyona yasal baskının gerekçesi

Zamanlama da önemli. Avrupa Birliği'nin Dijital Hizmetler Yasası büyük platformlara sistemik risk denetimi yükümlülüğü getiriyor; yaş doğrulama ve çocuk güvenliği tartışmaları birçok ülkede sertleşiyor. Bu ortamda, incelemeden geçmiş yüzlerce zararlı uygulama, düzenleyicilere "öz-denetim yetersiz" demek için somut bir dayanak sunuyor. Platformlar için bu yalnızca itibar değil, yükümlülük meselesi.

Sırada ne var?

İzlenecek birkaç başlık var. İlki, mağazaların onay sonrası davranışı denetleyip denetlemeyeceği — yani yayınlanmış uygulamaların sunucu çağrılarını periyodik örnekleme. İkincisi, sunucu tarafında işlev açan uygulamalara dönük politika sıkılaştırması; bu, meşru A/B testi yapan geliştiricileri de etkileyebilir. Üçüncüsü, yapay zekâ üretim modüllerine özel bildirim ve kısıtlama zorunlulukları.

Gerçekçi değerlendirme şu: insan incelemesi, niyetini saklamaya kararlı bir aktör karşısında yapısal olarak dezavantajlı. Mağazalar muhtemelen onay sonrası davranışsal izlemeye geçmek zorunda kalacak — ki bu da gizlilik ve geliştirici özgürlüğüyle yeni bir gerilim doğurur. "İncelendi, güvenli" rozeti, artık eskisi kadar şey ifade etmiyor; mesele bunu kabul edip modeli yeniden kurmakta.