Instagram Hesap Askıya Alma Hatası: Meta, Claude Tabanlı Aracı Suçladı

Meta, Trump karşıtı No Kings Coalition'ın Instagram hesabının askıya alınmasının sebebi olarak Anthropic'in Claude modeliyle bağlantılı bir aracı gösterdi. Bu açıklamayla yapay zeka destekli içerik denetimindeki eski bir soru yeniden gündeme geldi: Otomatik bir sistem yanlış karar verdiğinde hatanın sahibi kim?

Ne oldu?

No Kings Coalition, Instagram sayfasının 17 Ekim Cumartesi günü erişime kapatıldığını duyurdu. Ertesi gün Meta'nın iletişimden sorumlu başkan yardımcısı Andy Stone sosyal medyada bir paylaşım yaptı. Stone, askıya alma işlemini Claude ile bağlantılı bir aracın tetiklediğini söyledi. Aracın Meta'nın sistemlerinde tam olarak hangi görevi üstlendiği henüz belli değil. Kararı tek başına mı uyguladığı, yoksa önce bir insan incelemesinden mi geçtiği de açıklanmadı.

Neden önemli?

İçerik denetiminde otomasyon yeni bir şey değil. Meta, spam, çıplaklık ve şiddet içeriği için yıllardır kendi sınıflandırıcılarını kullanıyor. Şirketin şeffaflık raporlarına göre bazı kategorilerde kaldırılan içeriklerin büyük kısmını, kimse şikâyet etmeden bu sistemler yakalıyor. Bu sistemler hata yaptığında şirket hatayı genellikle sahiplenirdi. Kamuoyu da hatanın Meta'nın kendi algoritmasından kaynaklandığını bilirdi.

Bu sefer farklı olan şey, hatanın dışarıdan alınan genel amaçlı bir dil modeline bağlanması. Büyük dil modellerinin denetim işlerinde kullanılması son yıllarda yaygınlaştı. OpenAI de 2023'te politika metinlerini modele verip içerikleri bu metinlere göre etiketletme yöntemini tanıtmıştı. Bu yöntem hızlıdır ve kurallar kolayca güncellenebilir. Ancak modelin kararı nasıl verdiği, eski sınıflandırıcılara kıyasla çok daha zor açıklanır. Ayrıca aynı içerik, isteme yazılan metnin küçük farklarına göre farklı sonuç alabilir.

Yapay zeka yaptı açıklaması hukuki açıdan Meta'yı pek korumuyor, çünkü kararı uygulayan ve hesabı kapatan şirketin kendisi. İletişim açısından ise suç dağıtılmış oluyor. Bir banka, haksız bir kredi reddini kullandığı yazılımın tedarikçisine yüklemeye kalksa hiçbir düzenleyici bunu kabul etmez. Platform denetiminde de aynı mantığın geçerli olması gerekir.

Sorumluluk zincirinde kim nerede duruyor?

Bu tür bir karar genellikle üç katmandan geçer. Hataların çoğu da en az görünen orta katmanda ortaya çıkar.

Bir dil modeli bir içeriği şüpheli diye işaretleyebilir. Bu işaretin otomatik olarak hesap kapatmaya dönüşüp dönüşmeyeceğine ise aracı kuran taraf karar verir. Siyasi örgütler, gazeteciler ve aktivistler gibi hassas hesaplarda insan onayı aranmadan yaptırım uygulanıyorsa, sorun modelden çok tasarımdadır. Meta açıklamasında bu ayrımı netleştirmedi. Bu yüzden şu an yalnızca "hangi araç" sorusunun cevabını biliyoruz, "hangi karar" sorusunun cevabını bilmiyoruz.

AB Dijital Hizmetler Yasası bu duruma ne diyor?

No Kings ABD merkezli bir örgüt. Ancak benzer bir karar AB'deki bir kullanıcıyı etkileseydi Dijital Hizmetler Yasası devreye girerdi. DSA'nın 17. maddesi, platformların her kısıtlama kararı için bir gerekçe sunmasını ve otomatik araç kullanıp kullanmadığını belirtmesini zorunlu tutuyor. 20. madde, itirazların yalnızca otomatik yollarla sonuçlandırılmasını yasaklıyor ve yetkin personelin denetimini şart koşuyor. 21. madde ise kullanıcılara mahkeme dışı uyuşmazlık çözüm yolu açıyor. Platformların gönderdiği gerekçe beyanları da DSA Şeffaflık Veritabanı üzerinden kamuya açılıyor.

Buradaki önemli nokta şu: DSA'da "model sağlayıcı" diye bir muhatap yok. Kullanıcıya karşı yükümlülüklerin tamamı platformda. AB Yapay Zeka Yasası genel amaçlı model sağlayıcılarına dokümantasyon ve risk yükümlülükleri getiriyor. Ancak tek tek denetim kararlarının sorumluluğunu onlara yüklemiyor. Kısacası Avrupa hukuku "yapay zeka yaptı" savunmasını baştan geçersiz kılıyor. Kararı kim uyguladıysa hesabı o verir.

Sırada ne var?

Önümüzdeki dönemde birkaç soruyu takip etmek gerekiyor:

• Meta, aracın hangi aşamada devreye girdiğini ve insan onayı olup olmadığını açıklayacak mı?
• Anthropic, modelinin bu şekilde kullanılmasıyla ilgili bir açıklama yapacak mı?
• Meta'nın Gözetim Kurulu, otomatik denetimde dış modellerin kullanımıyla ilgili bir ilke belirleyecek mi?
• Avrupa Komisyonu, çok büyük platformların risk değerlendirmelerinde dil modeli tabanlı denetimi ayrı bir başlık olarak incelemeye başlayacak mı?

Kararın hangi araçtan çıktığını açıklamak şeffaflık açısından değerli. Ama bu açıklama sorumluluğu ortadan kaldırmaz. Meta'nın, hangi hesapların insan onayı olmadan kapatılabileceğini açıkça anlatması gerekiyor. Bunu yapmadıkça "yapay zeka yaptı" cümlesi bir açıklamadan çok mazeret gibi duracak.