Yapay Zeka ve Biyolojik Silah Riski: MI5 Tehdit Listesine Aldı

Yapay zekanın biyolojik silah riskini artırıp artırmadığı tartışması, istihbarat servislerinin resmî gündemine girdi. MI5 Başkanı Sir Ken McCallum, yıllık ulusal tehdit konuşmasında yapay zekanın mevcut ve yeni biyolojik silahlarda 'dengeyi değiştirebileceğini' söyledi. Johns Hopkins Sağlık Güvenliği Merkezi Direktörü Dr. Tom Inglesby de Guardian'ın podcast'inde hükümetleri neyin endişelendirdiğini anlattı.

Ne oldu?

McCallum, yapay zekayı klasik siber ve casusluk tehditlerinin yanında biyolojik riskler açısından da ele aldı. Inglesby ise riskin gerçek olduğunu, ama önlemlerin de mümkün olduğunu savunuyor. Tartışmanın yeni tarafı uyarının kendisi değil, taşıyıcısı: bu konu artık akademik güvenlik çevrelerinin değil, devlet istihbaratının resmî tehdit anlatısının parçası.

Yapay zeka biyolojik silah riskini tam olarak nasıl değiştiriyor?

Biyolojik silah geliştirmenin önündeki engeller üç grupta toplanabilir: bilgi, beceri ve malzeme. Bir dil modeli bu zincirde en çok bilgi halkasına dokunuyor. Dağınık literatürü derliyor, protokolleri açıklıyor, hata ayıklamaya yardım ediyor. Daha önce uzman bir ekibin haftalarını alan okuma ve eleme işi, yeterince yetenekli bir modelle saatlere inebilir.

Ama bilgi, zincirin en zayıf halkası değil. Tarih bunu gösteriyor: 1990'larda Aum Shinrikyo'nun biyolojik ajanlarla yaptığı girişimler, para ve eğitimli kadro olmasına rağmen büyük ölçüde başarısız oldu. Sorun makale bulmak değildi. Ajanı üretmek, kararlı tutmak ve etkili biçimde yaymak laboratuvar el becerisi ve tedrik edilmiş bir deneyim gerektiriyordu. Bu 'örtük bilgi' yazıyla kolay aktarılmıyor.

Bu yüzden 'model engeli kaldırıyor mu?' sorusu yanlış kurulmuş olabilir. Daha doğru soru şu: model hangi engeli, kimin için ve ne kadar düşürüyor? Uzman biri için kazanç küçük kalabilir. Orta düzeyde biyoloji bilen biri için ise fark büyüyebilir. Endişenin merkezinde bu ikinci grup var; çünkü tehdit aktörlerinin havuzu genişliyor.

Görüntü yorumlayan, deney planı öneren ve araç kullanabilen 'ajan' modeller bu tabloyu daha da hassaslaştırıyor. Model yalnızca cevap vermiyor, bir iş akışını adım adım yürütmeye yardım edebiliyor. Bunun laboratuvardaki fiziksel işi ne kadar devralabildiğine dair elimizde sağlam kanıt yok; temkin bu belirsizlikten doğuyor.

Hangi önlemler gerçekten risk azaltıyor?

Önlemlerin değeri, hangi engele dokunduklarına bağlı.

Uplift testleri en çok konuşulan araç. Bazı laboratuvarlar biyolojik yetenek eşiğini kendi güvenlik çerçevelerinde ayrı bir kategori olarak izliyor ve eşik aşıldığında ek koruma devreye alıyor. Sorun, testlerin çoğunlukla bilgi soruları ve kısa görevler üzerinden ölçmesi. Laboratuvarda çalışan gerçek bir insanın modelle ne kadar ilerlediğini ölçen kontrollü çalışmalar daha pahalı ve daha az.

DNA sentez taraması bence en iyi savunulabilir müdahale. Çünkü model ne bilirse bilsin, tehlikeli bir diziyi fiziksel olarak elde etmek gerekir. Sentez sağlayıcılarının sipariş taramasını zorunlu kılmak, yapay zekadan bağımsız çalışan ve denetlenebilen bir kontrol noktası yaratır. Zayıf yanı gönüllülüğe dayanması ve ülkeler arasında eşitsiz uygulanması.

Açık ağırlıklı modeller ise en zor başlık. Kapalı bir API'de kullanım izlenebilir, hesap kapatılabilir. Açık ağırlıkta bu mümkün değil. Yine de bütün açık modelleri aynı kefeye koymak yanıltıcı: asıl belirleyici, modelin biyolojik görevlerde sınır kapasiteye ne kadar yakın olduğu. Sınırın altındaki modellerde açıklık faydası riskini aşabilir; üstünde aynı hesap tutmayabilir.

İstihbaratın devreye girmesi neyi değiştiriyor?

MI5 gibi bir kurumun konuyu resmî tehdit anlatısına taşıması iki sonuç doğuruyor. Birincisi, kaynak ve yetki: servisler gizli bilgiye erişebiliyor ve bunu laboratuvarlarla paylaşabiliyor. İkincisi, siyasi öncelik: biyogüvenlik yıllarca bütçede geri planda kalan bir alandı. Pandemi sonrası bile yatırım, uyarı ciddiyetinin gerisinde kaldı.

Risk de var. Tehdit dili büyüdükçe orantısız düzenleme baskısı doğabilir; bu da meşru biyoloji araştırmasını ve savunma amaçlı çalışmayı yavaşlatabilir. İyi politika, modeli genel olarak kısıtlamak yerine fiziksel darboğazları, yani sentez, ekipman ve tedarik zincirini sıkılaştırmalı.

Sırada ne var?

Üç gelişme izlenmeli. Birincisi, laboratuvarların insan katılımlı uplift çalışmalarını ve sonuçlarını ne kadar şeffaf yayımladığı. İkincisi, DNA sentez taramasının gönüllü uygulamadan bağlayıcı kurala geçip geçmediği. Üçüncüsü, hükümetlerin açık ağırlıklı yayın kararlarında biyolojik değerlendirmeyi şart koşup koşmadığı.

Benim değerlendirmem: yapay zeka biyolojik silah riskini sıfırdan yaratmıyor, ama saldırgan havuzunu genişleterek eşiği aşağı çekiyor. En sağlam savunma modelin söylediklerini sansürlemek değil, fiziksel dünyadaki tedarik noktalarını denetlemek. Uyarılar haklı, ama yanıt orantılı ve ölçülebilir olmak zorunda.

Konuşmanın tamamı için Guardian podcast kaydına ve Johns Hopkins Sağlık Güvenliği Merkezi çalışmalarına bakılabilir.