Bir güvenlik ekibinin incelemesi, Hugging Face Hub üzerinde çalışan bir kripto madenci kampanyasının hiçbir güvenlik açığını sömürmediğini ortaya koydu. Saldırgan bir şeyi kırmadı; model yükleme kütüphanesi, kendisine ait Python kodunu tasarlandığı gibi çalıştırdı. Olayın merkezinde trust_remote_code adlı bir bayrak var. Bu bayrak açıkken, indirilen model yüklenirken yanında gelen kod da sistemde doğrudan koşuyor.
Ne oldu?
Saldırgan, görünüşte sıradan bir yapay zeka modelini Hugging Face Hub'a yükledi. Model dosyasının yanına, yükleme sırasında otomatik çalışan özel bir Python kodu yerleştirildi. Kullanıcı modeli trust_remote_code=True ile çağırdığında bu kod sessizce devreye girdi ve makineye bir kripto madenci kurdu. Teknik olarak ortada istismar edilen bir zafiyet yok; sadece kütüphanenin belgelenmiş davranışı kullanıldı.
Neden önemli? Yapay zeka dünyasının tedarik zinciri sorunu
Bu olayın asıl değeri tek bir madencide değil, gösterdiği yapısal boşlukta. Yazılım dünyası npm ve PyPI gibi paket depolarında yıllardır aynı dertle boğuşuyor: güvenilir sanılan bir paketin içine zararlı kod gizleniyor, binlerce proje onu çekip çalıştırıyor. Yapay zeka topluluğu şimdi aynı eşiği geçiyor. Fark şu: paket depolarında kod zaten koddur ve denetlenmesi beklenir. Model dosyası ise çoğu geliştiricinin gözünde pasif bir veri yığınıdır — ağırlıklardan oluşan, kendiliğinden hiçbir şey yapmayan bir dosya.
İşte sinsilik burada. trust_remote_code bu algıyı sessizce kırıyor. Model, veri olmaktan çıkıp yürütülebilir bir pakete dönüşüyor, ama geliştirici hâlâ onu zararsız bir ağırlık dosyası sanıyor. PyPI'dan pip install yaparken en azından bir kod bağımlılığı kurduğunuzu bilirsiniz. AutoModel.from_pretrained(...) çağırırken aynı risk altında olduğunuzu çoğu kişi düşünmez. Tehdidin geleneksel paket saldırılarından daha zor fark edilmesinin nedeni tam olarak bu: zihinsel model yanlış.
Bir başka katman da "kolaylık" kültürü. Yapay zeka ekosisteminin hızı, "güvenilir bir kaynaktan modeli indir ve çalıştır" alışkanlığı üzerine kurulu. Örnek kodların, blog yazılarının ve tutorial'ların büyük bölümü trust_remote_code=True satırını açıklama yapmadan kopyalayıp yapıştırıyor. Güvensiz kod çalıştırma, pratiklik uğruna normalleştirilmiş durumda. Normalleşen bir risk, en tehlikeli risktir; çünkü artık kimse durup sormuyor.
Kime nasıl yansır?
Risk, modeli nasıl kullandığınıza göre değişiyor. Aşağıdaki tablo kabaca bir ayrım sunuyor.
| Kullanıcı tipi | Maruz kalma | Pratik önlem |
|---|---|---|
| Deneme yapan bireysel geliştirici | Yüksek — bayrağı sorgusuz açma eğilimi | İzole ortam, kodu önce oku |
| Üretimde model çalıştıran ekip | Yüksek — otomatik pipeline'da kör güven | Sabit sürüm, hash doğrulama, sandbox |
| Sadece güvenli formatları kullanan | Düşük — kod çalıştırmayan format tercihi | safetensors önceliği |
Özellikle CI/CD hatlarında modelleri otomatik çeken ekipler açık hedef. Bir kez trust_remote_code normalleşince, her yeni model çekimi denetimsiz bir kod çalıştırmaya dönüşüyor. Kripto madenci görece "nazik" bir sonuç; aynı mekanizma veri sızdırma, kimlik bilgisi hırsızlığı veya kalıcı arka kapı için de aynen çalışır.
Sırada ne var?
İzlenecek birkaç başlık var. Birincisi, platformların tarama ve işaretleme çabası: uzaktan kod içeren depoların daha görünür biçimde etiketlenmesi muhtemel. İkincisi, kod çalıştırmayı gerektirmeyen safetensors gibi formatların varsayılan haline gelip gelmeyeceği. Üçüncüsü, kütüphanelerin trust_remote_code için daha sürtünmeli, bilinçli onay isteyen akışlara geçip geçmeyeceği.
Temkinli değerlendirme şu: sorun bir hata değil, bir tasarım tercihinin öngörülebilir sonucu. Çözüm de teknik bir yama değil, kültürel bir refleks değişikliği olacak. Bir modeli çalıştırmadan önce "bu dosya benim makinemde kod koşturabilir mi?" diye sormayı alışkanlık haline getirmek, en az herhangi bir güvenlik aracı kadar koruyucu. Kolaylık bedava değil; bu olay faturayı erken gösterdi.
Yorumlar (0)
Henüz yorum yok. İlk yorumu sen yaz.
Yorum yapmak için Sinyal'i indir
Yorumlar Sinyal hesabıyla yapılır. Mobil uygulamada giriş yap, yorum bırak.