Ne oldu?

The New York Times'ın düzenlediği DealBook Summit'te, The Daily programının sunucusu Michael Barbaro'nun yönettiği yapay zekâ güvenliği panelinde iki görüş çatıştı. Center for AI Safety direktörü Dan Hendrycks, sınır ötesi (frontier) yapay zekâ modellerinin eğitim koşularına süresiz ara verilmesini istedi. Aynı panelde konuşan, Neuralink'in eski kurucu ortaklarından Max Hodak ise böyle bir yasağı fiilen denetlemenin, hesaplama altyapısını sürekli izleyen bir sürveyans devleti kurmadan mümkün olmadığını söyledi.

Neden önemli?

Bu, sektörün ilk duraklama çağrısı değil. 2023'te Future of Life Institute'un yayımladığı açık mektup, GPT-4'ten daha güçlü sistemlerin eğitimine altı ay ara verilmesini istemiş, Elon Musk ve Steve Wozniak gibi isimler imzalamıştı. Mektup hiçbir şirketi durdurmadı; OpenAI, Google ve Anthropic eğitim takvimlerini aynı hızda sürdürdü. Hendrycks'in kendisi de o dönem, yapay zekâdan kaynaklanan yok oluş riskinin küresel öncelik olması gerektiğini söyleyen kısa bildiriyi kaleme almıştı; bu bildiriyi OpenAI ve DeepMind'ın üst düzey yöneticileri de imzaladı.

Aradan geçen süre, duraklama fikrinin pratikte hiçbir karşılık bulmadığını gösterdi. Model eğitimleri küçülmedi, büyüdü. Hendrycks bugün aynı zamanda xAI'ye güvenlik danışmanlığı yapıyor; yani çağrısı, sektörün içinden, ölçeklenme hızını yakından gören birinden geliyor. Bu da onu 2023'teki imza kampanyasından ayırıyor — artık dışarıdan bir uyarı değil, laboratuvarın içinden gelen bir itiraz.

Hodak'ın itirazı ise farklı bir kampı temsil ediyor: düzenlemenin kendisini, yapay zekânın kötüye kullanımından daha büyük bir risk olarak gören hızlandırmacı çevre. Bu görüş a16z'nin öncülüğünü yaptığı "tekno-optimist" söylemle ve ABD'nin Çin'le rekabet çerçevesiyle örtüşüyor. Onlara göre bir eğitim moratoryumunu anlamlı kılacak tek şey, dünyadaki her veri merkezini ve her GPU kümesini sürekli denetleyen bir mekanizma; bu da nükleer silahsızlanma denetimine benzer, onyıllarca süren ve hâlâ delikleri olan bir rejim gerektirir.

Yapay zekâda eğitim moratoryumu neden pratikte işlemiyor?

Mevcut denetim araçları, tam durdurmaktan çok uzak. ABD'nin Nvidia'nın en gelişmiş yapay zekâ çiplerine koyduğu ihracat kısıtlamaları, dar bir hedefi -çip akışını- izlemeyi bile zorlaştırıyor; çipler üçüncü ülkeler üzerinden dolaşıyor, kaçak pazarlar oluşuyor. Bir eğitim koşusunu durdurmak için gereken denetim ise bundan kat kat kapsamlı: her şirketin, her bulut sağlayıcısının hesaplama kapasitesinin gerçek zamanlı izlenmesi gerekir.

TarafAna argümanRisk önceliği
Duraklama kampı (Hendrycks)Ölçeklenme hızı risk değerlendirmesinin önüne geçtiVaroluşsal / kontrol kaybı riski
Hızlandırmacı kamp (Hodak)Denetim mekanizması totaliter kapsam gerektirirDüzenleyici baskı / rekabet kaybı riski

İki taraf da aynı soruna farklı çözüm öneriyor ama ikisi de uygulanabilir bir denetim mekanizması tarif etmiyor. Hendrycks "dur" diyor, kimin durduracağını söylemiyor. Hodak "durduramazsın" diyor, alternatif bir risk yönetimi sunmuyor.

Sırada ne var?

Kısa vadede bağlayıcı bir adım beklenmemeli. AB'nin Yapay Zekâ Yasası eğitim süreçlerini değil kullanım alanlarını risk sınıflarına ayırıyor; ABD tarafında ise düzenleyici eğilim son dönemde gevşemeye, yapay zekâ şirketlerine daha az kısıtlama yönüne kaydı. Çin ise, dışarıdan gelen her türlü duraklama çağrısına rağmen yatırımını sürdürüyor. Gerçek politika aracı, büyük olasılıkla eğitim moratoryumu değil, çip ihracat kontrolleri ve bulut hizmet sağlayıcılarına yönelik dar kapsamlı raporlama zorunlulukları olarak kalacak.

Hendrycks'in çağrısı ahlaki olarak tutarlı bir uyarı. Ama Hodak'ın itirazı da boş değil: denetlenemeyen bir yasak, yasak olmaktan çıkar, sadece kâğıt üzerinde bir niyet beyanına dönüşür. Tartışmanın asıl eksiği, ikisinin de aynı noktada tıkanması — "kim denetleyecek" sorusuna hiçbir taraf somut bir cevap vermiyor.