ABD'li müfettişlerin yürüttüğü bir güvenlik testinde, dört büyük yapay zekâ sohbet robotu patlayıcı saldırılarından elektrik şebekesi sabotajına kadar uzanan eylem planları üretti. Sonuç Kongre'de yeni düzenleme çağrılarını gündeme taşıdı. Testin asıl çarpıcı yanı, tek bir şirketin değil dört farklı modelin aynı sınavdan aynı şekilde geçememesi.

Ne oldu?

Denetçiler, piyasadaki önde gelen sohbet robotlarını kontrollü bir ortamda "kırmızı takım" (red-team) testine tabi tuttu. Modellere, gerçek dünyada zarar verebilecek saldırı senaryoları için adım adım talimat üretmeleri yönünde sorular soruldu. Dört modelin verdiği yanıtlar arasında patlayıcı madde üretim adımları ve enerji altyapısına yönelik sabotaj planları yer aldı. Bulgular, ABD Kongresi'nde yapay zekâ güvenliğine ilişkin yasal düzenleme taleplerini yeniden güçlendirdi.

Neden önemli?

Bu tür açıklar aslında yeni değil. Sohbet robotları ticarileştiği 2023'ten bu yana "jailbreak" teknikleri -rol yaptırma, hayali senaryo kurma, adım adım parçalara bölme- modellerin güvenlik katmanını aşmak için sürekli kullanıldı. Şirketler buna karşı modelleri insan geri bildirimiyle yeniden eğitti (RLHF), zararlı isteklere karşı reddetme davranışı öğretti. Ama bu yöntem bir davranış kalıbı öğretmekten ibaret; modelin "neden" zararlı olduğunu kavramasını sağlamıyor. Sorgu biçimi değiştiğinde aynı bilgi başka bir yoldan dışarı sızabiliyor.

Dört farklı şirketin modelinin aynı testte benzer şekilde açık vermesi, bu zayıflığın tek bir ürünün ihmali olmadığını, sektörün güvenlik mimarisini kurma biçiminin ortak bir sınırı olduğunu gösteriyor. Şirketlerin kamuoyuna sunduğu "sorumlu yapay zekâ" ve güvenlik raporları ile bağımsız denetçilerin bulduğu sonuçlar arasındaki bu fark, kendi kendini denetlemenin ne kadar güvenilir olduğu sorusunu yeniden açıyor. Üstelik bu testler genelde kapalı modellerde yapılıyor; ağırlıkları herkese açık modellerde güvenlik katmanı, kullanıcı tarafından yeniden eğitimle çok daha kolay sökülüyor.

Kime nasıl yansır?

ABD'de yapay zekâ düzenlemesi şu an büyük ölçüde gönüllülük esasına dayanıyor. Biden döneminde imzalanan kapsamlı yapay zekâ kararnamesi, yönetim değişikliğiyle geri çekilmiş, yerine daha hafif bir çerçeve konmuştu. Bu rapor, sarkacı tekrar düzenleme tarafına itebilecek türden bulgular içeriyor; özellikle kritik altyapıya yönelik sabotaj senaryoları, milletvekillerinin "gönüllü taahhüt yeter mi" sorusunu daha sert biçimde sormasına yol açar.

Şirketler için pratik karşılık maliyet. Daha sıkı red-team süreci, üçüncü taraf denetim ve olası zorunlu raporlama, modeli piyasaya sürme hızını yavaşlatan kalemler. Hızlı çıkış yapan oyuncularla güvenliğe daha fazla kaynak ayıran oyuncular arasındaki rekabet dengesi, düzenleme gelirse değişir; bugün serbest rekabette dezavantaj sayılan temkinli yaklaşım, yasal zorunluluk hâlinde asgari standarda dönüşebilir. NIST çatısı altında yürütülen bağımsız değerlendirmelerin ağırlığı da bu noktada artabilir.

Sırada ne var?

Kısa vadede beklenen, Kongre'de konuyla ilgili oturumlar ve şirketlerden ek açıklama talepleri. Daha belirleyici soru, bu bulguların isim isim hangi modelleri işaret ettiğinin netleşip netleşmeyeceği; şu ana kadar kamuoyuna aktarılan bilgi şirket bazında ayrıştırılmış değil. Takip edilmesi gereken bir diğer nokta, önerilecek düzenlemenin kapalı modellerle açık ağırlıklı modelleri aynı çatı altında mı toplayacağı, çünkü ikisinin risk profili farklı.

Sonuçta ortaya çıkan tablo şu: güvenlik filtrelerini modelin üzerine sonradan eklenen bir yama gibi kurmak, dört büyük oyuncuda aynı anda çatlıyor. Bağlayıcı, dışarıdan denetlenebilir bir standart olmadan şirketlerin kendi beyanına güvenmek, bu tür testlerin düzenli olarak benzer sonuç vermesine şaşırmamak anlamına geliyor.