Google DeepMind, yapay zekâ ajanlarının Signal protokolünün şifreleme kodunu matematiksel bir ispatla doğruladığını açıkladı. Bu protokol yalnızca Signal uygulamasını değil; WhatsApp, Messenger ve Google Messages'daki uçtan uca şifreli mesajlaşmayı da kapsıyor. Gelişme, yapay zekânın kod üretmekten kod denetlemeye kaydığını gösteren somut bir örnek.

Ne oldu?

DeepMind, 10 Kasım'da AlphaProof Code adlı yeni bir çerçeveyi ve bir teknik makaleyi duyurdu. Ekip, yapay zekâ ajanlarının Signal protokolünün kodunu analiz ederek gizlilik ve kimlik doğrulama gibi temel güvenlik özelliklerinin matematiksel olarak sağlandığını kanıtladığını belirtiyor. Bu, sistemin milyarlarca kullanıcının mesajlaşmasını koruyan kod tabanında yapılan bir doğrulama.

Neden önemli?

Signal protokolünün güvenliği aslında yeni bir tartışma konusu değil. Akademik kriptografi camiası, protokolün tasarımını yıllar önce Tamarin ve ProVerif gibi biçimsel doğrulama araçlarıyla modelleyip incelemişti. Ancak o çalışmalar genellikle protokolün soyut tasarımını, kağıt üzerindeki matematiksel modelini doğruluyordu. Gerçek dünyadaki güvenlik açıklarının büyük kısmı tasarımdan değil, o tasarımı koda dökerken yapılan uygulama hatalarından çıkıyor — Heartbleed bunun klasik örneği. Eğer DeepMind'ın iddiası üretimde kullanılan gerçek kodu kapsıyorsa, akademik modelden daha zor ve daha değerli bir problemi çözmüş oluyor.

Bu hamle DeepMind'ın kendi ürün tarihiyle de tutarlı. Şirket, AlphaCode ile yarışma programlamasını, AlphaProof ile matematik olimpiyatı ispatlarını, AlphaGeometry ile geometri problemlerini hedeflemişti. Ortak nokta, hepsinin sonucu mekanik olarak doğrulanabilen alanlar olması. Biçimsel doğrulama da aynı mantığa uyuyor: bir yapay zekâ ajanı ispatı üretse de, ispatın doğruluğunu insan değil, Lean veya Coq benzeri bir ispat denetleyicisi kontrol ediyor. Bu, üretken yapay zekânın en büyük zayıflığı olan halüsinasyon riskini büyük ölçüde ortadan kaldırıyor — çünkü üretilen çıktı kontrol edilebilir bir matematiksel nesne, serbest metin değil.

Bu doğrulama WhatsApp ve Google Messages kullanıcılarına ne anlama geliyor?

Kısa vadede kullanıcı deneyiminde bir değişiklik yok; şifreleme zaten çalışıyordu, bu adım onu daha güvenilir hale getiren bir denetim katmanı. Asıl etki, denetim ekonomisinde görülebilir. Project Everest gibi biçimsel olarak doğrulanmış TLS uygulamaları geliştirmek, uzman ekiplerin yıllarca sürdüğü bir iş. Yapay zekâ ajanları bu süreci hızlandırabilirse, kaynağı kısıtlı açık kaynak projeleri ve küçük şirketler de büyük teknoloji firmalarının sahip olduğu türden güvenlik denetiminden faydalanabilir.

Ancak doğrulamanın kapsamını ayırt etmek gerekiyor. Biçimsel ispat, kodun belirli bir güvenlik modeline uyduğunu gösterir; o modelin gerçek dünyadaki her saldırı yüzeyini kapsadığını göstermez. Signal'in geçmişteki zayıf noktaları zaten şifreleme matematiğinde değil, bu kapsamın dışında kaldı: metadata sızıntısı, uç cihaz güvenliği, sunucu tarafı uygulama hataları. Ayrıca kritik soru şu: DeepMind, ajanların ürettiği ispat dosyalarını bağımsız kriptograflarin denetleyebileceği, makine tarafından kontrol edilebilir bir formatta yayınlıyor mu? Yayınlanmazsa güven yükü yine DeepMind'ın kendi açıklamasına kalır — ki bu da biçimsel doğrulamanın asıl avantajını, yani ispatı üretenden bağımsız kontrol edilebilir olmasını, zayıflatır.

Sırada ne var?

Takip edilmesi gereken üç şey var: DeepMind'ın ispat dosyalarını bağımsız denetime açıp açmayacağı, akademik kriptografi camiasının teknik makaleyi nasıl değerlendireceği ve bu yaklaşımın OpenSSL veya yaygın TLS kütüphaneleri gibi başka kritik altyapılara genişletilip genişletilmeyeceği. Tek seferlik bir vitrin ile tekrarlanabilir bir denetim metodolojisi arasındaki fark, bu üç noktada ortaya çıkacak.

Sonuç bugün için ispatın kendisinden çok şeffaflığına bağlı: kanıt dosyaları bağımsız incelemeye açılırsa bu, yapay zekânın güvenlik mühendisliğinde gerçek bir kaldıraç olduğunu gösterir; açılmazsa iyi pazarlanmış bir laboratuvar duyurusu olarak kalır.