Nudify Uygulamaları Ergenlere Açık: Ebeveyn Kontrolleri Yetmiyor

Yapay zekayla rıza dışı çıplak görüntü üreten nudify uygulamaları, Apple ve Google'ın ebeveyn kontrollerine rağmen ergenlerin eline geçiyor. Tech Transparency Project'in testi, iki şirketin "güvenli bahçe" savunmasının en zayıf noktasını gösteriyor: yaş kontrolü fiilen kullanıcının beyanına dayanıyor.

Ne oldu?

Tech Transparency Project, 13 yaşındaki kullanıcıları taklit eden test hesapları açtı. Bu hesaplarla, rıza dışı çıplak görüntü üretme özelliği taşıyan 135 uygulama indirildi. Raporun ayrıntıları Pennsylvania'da bir lisede yaşanan olayı da içeriyor. Bir öğrenci, Movely adlı uygulamayla altı kız öğrencinin fotoğraflarından cinsel içerikli videolar üretmişti.

Neden önemli?

Apple ve Google yıllardır aynı argümanı kullanıyor. Yan ödeme sistemlerine ve sideloading'e karşı çıkarken, kapalı mağazanın kullanıcıyı zararlı yazılımdan ve uygunsuz içerikten koruduğunu söylüyorlar. Bu savunma, denetimin gerçekten çalıştığı varsayımına dayanıyor. 13 yaşındaki bir hesabın yüzü aşkın nudify uygulamasına erişebilmesi bu varsayımı zayıflatıyor.

Sorunun kökü, yaş sınırlamasının nasıl işlediğinde yatıyor. Mağazalardaki yaş derecelendirmesini çoğu zaman geliştirici kendi beyanıyla belirliyor. Ebeveyn kontrolleri ise çocuğun hesabının doğru yaşla ve bir aile grubuna bağlı açıldığını varsayıyor. Mağaza, uygulamanın ne yaptığını teknik olarak incelemek yerine, geliştiricinin formda yazdıklarına güveniyor. Bir uygulama kendini "fotoğraf düzenleyici" olarak tanımlarsa, asıl işlevi gizli ya da pazarlamada örtülü kalabiliyor. Yani politika metni ile gerçek denetim arasında bir boşluk var. Nudify uygulamaları bu boşlukta büyüyor.

Bu ilk uyarı da değil. Daha önce de benzer uygulamaların mağazalarda bulunduğu ve reklam aldığı gösterilmişti. Mağazalar belirli uygulamaları kaldırıyor, ancak aynı işlevi sunan yenileri kısa sürede başka adlarla dönüyor. Bu bir tek tek temizlik değil, yapısal bir sorun. Üretken yapay zeka görüntü düzenlemeyi çok ucuzlattığı için bu tür uygulama yapmanın eşiği de düştü.

Hukuki tarafta baskı artıyor. ABD'de Take It Down Act, rıza dışı mahrem görüntülerin, yapay zekayla üretilenler dahil, bildirimden sonra kısa sürede kaldırılmasını platformlardan bekliyor. Mağazaların bu kapsama ne ölçüde girdiği tartışmalı. Ancak bir uygulamanın tam da bu içeriği üretmek için tasarlandığı ortadaysa, "biz sadece dağıtım kanalıyız" savunması zorlaşıyor. Avrupa'da ise Dijital Hizmetler Yasası (DSA) çok büyük platformlardan küçüklerin korunmasına yönelik risk azaltma bekliyor. Dijital Piyasalar Yasası (DMA) da mağazaların kapalılığını güvenlik gerekçesiyle savunma hakkını, bu güvenliğin gerçekten sağlandığı ölçüde tanıyor.

Kime nasıl yansır?

En büyük yük ailelere ve okullara biniyor. Ebeveyn kontrollerini açan bir aile, çocuğunun zararlı bir araca erişemeyeceğini varsayıyor. Test bu güveni boşa çıkarıyor. Mağdurlar ise çoğunlukla bu uygulamaları indirmeyen, fotoğrafı bir sınıf arkadaşı tarafından kullanılan kızlar. Onlar için ebeveyn kontrolü zaten bir çözüm değil. Asıl önlem, uygulamanın mağazaya hiç girmemesi.

Platformlar açısından seçenekler şöyle karşılaştırılabilir:

Bu tablodan çıkan sonuç net: tek başına hiçbir yöntem yetmiyor. Ancak Apple ve Google, sıkı denetimi ticari bir ayrıcalık olarak sattığı için en çok bu iddianın tutarlılığıyla ölçülecek.

Sırada ne var?

Üç gelişme izlenmeli. Birincisi, ABD'deki eyaletlerin mağaza düzeyinde yaş doğrulamayı zorunlu kılan yasaları ve bunların mahkemelerde nasıl sonuçlanacağı. İkincisi, Avrupa Komisyonu'nun DSA kapsamında küçüklerin korunmasına dair soruşturmaları ve kılavuzları. Üçüncüsü, Apple ve Google'ın rapordan sonra kaldırma kararlarını ne kadar hızlı ve kapsamlı uygulayacağı. Tek tek uygulama silmek yerine, bu işlevi yasaklayan kural ve otomatik tarama getirirlerse fark yaratabilir.

Benim değerlendirmem şu: Apple ve Google, kapalı mağaza modelini güvenlik üzerinden savunmaya devam edebilir, ama bunun bedelini ödemek zorunda kalacaklar. Kontrolü elinde tutan taraf, o kontrolün sonuçlarından da sorumlu tutuluyor. Beyana dayalı yaş sistemi bu sorumluluğu taşımıyor. Düzenleyiciler bu açığı kapatmazsa, şirketlerin kendi argümanları onların aleyhine kullanılacak.