Avustralya hükümeti, kullanıcıyla "duygusal yakınlık" kurmaya çalışan yapay zeka sohbet botlarını yasaklamak istiyor. Başbakan Anthony Albanese, çocukların bu botları "en iyi arkadaşı" olarak görmesine dikkat çekti. Düzenleme, platformlara zararı önleme yükümlülüğü getiren daha geniş bir dijital "bakım yükümlülüğü" (duty of care) çerçevesinin parçası olarak gündemde.
Ne oldu?
Hükümet, yeni çevrim içi güvenlik standartlarını içeren tasarıyı meclis alt kanadından geçirdi. Tasarının hedeflerinden biri, kullanıcıyla duygusal bağ kurmaya programlanmış botlar. Ayrıca Labor hükümetine, telekomünikasyon ombudsmanını sosyal medya ve yapay zeka için bir denetim merciine dönüştürmesi yönünde baskı var. Amaç, Avustralyalılara bağımsız bir şikâyet mekanizması sunmak ve büyük teknoloji şirketlerini kamuoyu önünde hesap verebilir kılmak.
Neden önemli? 'Duygusal yakınlık' hukuken tanımlanabilir mi?
Asıl mesele yasağın niyetinde değil, tanımında. "Duygusal yakınlık" bir mühendislik parametresi değil; öznel bir deneyim. Yalnız bir kullanıcıya sakin, destekleyici yanıt veren bir asistan ile bağımlılık üreten "yapay arkadaş" arasındaki çizgi nerede başlıyor? Aynı davranış —hatırlama, empati taklidi, kişiselleştirilmiş ton— bir senaryoda faydalı, diğerinde zararlı sayılabilir. Yasa bu ikisini aynı teknik imzayla ayırt etmek zorunda kalacak.
Bu tartışma boşlukta doğmadı. Replika kullanıcıları, şirket romantik özellikleri kaldırdığında gerçek bir yas tepkisi verdi; bu, botlara kurulan bağın ne kadar derinleşebildiğini gösterdi. Character.AI ise bir gencin intiharının ardından açılan davalarla gündeme geldi. Bu vakalar ortak bir soruyu işaret ediyor: Duygusal bağ kuran botlar, en savunmasız kullanıcıda —özellikle çocuk ve ergende— en güçlü etkiyi yaratıyor. Avustralya'nın çocuk vurgusu tesadüf değil; sosyal medyada yaş sınırı tartışmalarını yürüten aynı politika çizgisinin devamı.
Burada Avustralya'nın tercih ettiği model kritik. Düzenleme, botun ürettiği belirli bir sonucu değil, platformun tasarım ve özen davranışını hedefliyor. Yani "şu cümleyi kurarsan suç" değil; "öngörülebilir zararı önleyecek makul adımları atmadın" mantığı. Bu, İngiltere'nin Online Safety Act'inden tanıdık bir yaklaşım.
Ne değişiyor? AB modeliyle karşılaştırma
Avrupa Birliği'nin Yapay Zeka Yasası risk-temelli ilerliyor: sistemleri yasak, yüksek riskli ve sınırlı riskli diye sınıflıyor, her kademeye ayrı yükümlülük bağlıyor. Avustralya'nın duty-of-care modeli ise kategoriye değil, davranışa odaklanıyor. İki yaklaşımın pratik sonuçları farklı.
| Boyut | AB Yapay Zeka Yasası | Avustralya duty-of-care |
|---|---|---|
| Odak | Sistemin risk sınıfı | Platformun özen davranışı |
| Ölçüt | Önceden tanımlı kategori | Öngörülebilir zararı önleme |
| Esneklik | Kurallar net, katı | Yoruma açık, geniş |
| Zayıf nokta | Sınıflandırma boşlukları | Tanım belirsizliği |
Davranış-temelli modelin avantajı, teknolojinin hızına ayak uydurabilmesi; dezavantajı, belirsizliğin uyum maliyetini artırması. Platformlar "yeterince özen gösterdik" eşiğini kendileri tahmin etmek zorunda kalır. Bu da büyük şirketlerin lehine işleyebilir: hukuk ekibi güçlü olan uyum sağlar, küçük girişim riskten kaçınıp özelliği tamamen kapatır.
Uygulama tarafında ikinci bir sorun var: denetim. Bir platformun botunun "duygusal yakınlık" peşinde olup olmadığı nasıl ölçülecek? Niyet koda yazılı değil; davranış, milyonlarca sohbette dağılmış durumda. Ombudsman modeli burada devreye giriyor — şikâyet üzerine inceleme, muhtemelen fiili denetim biçimi olacak. Ancak bu, zarar gerçekleştikten sonra devreye giren bir mekanizma.
Sırada ne var?
İzlenecek ilk şey, yasada "duygusal yakınlık"ın nasıl tanımlanacağı — ya da tanımın bilinçli olarak düzenleyiciye bırakılıp bırakılmayacağı. İkincisi, ombudsman yetkisinin genişleyip genişlemeyeceği; bu, modelin dişli mi yoksa sembolik mi olacağını belirler. Üçüncüsü, platformların tepkisi: Avustralya pazarı için ayrı sürüm mü çıkaracaklar, yoksa riskli özellikleri küresel ölçekte mi kısacaklar? Sosyal medya yaş sınırında görüldüğü gibi, Avustralya düzenlemeleri çoğu zaman başka ülkelere model oluyor.
Net değerlendirme: Niyet savunulabilir, sorun gerçek. Ancak "duygusal yakınlık" gibi öznel bir kavramı yaptırıma bağlamak, uygulanabilirliği tanımın netliğine mahkûm ediyor. Tanım muğlak kalırsa yasa ya aşırı geniş uygulanıp faydalı kullanımları da boğar, ya da pratikte işlemez. Bu düzenlemenin başarısı, yasaklama cesaretinde değil, çizgiyi nereye çekeceğini söyleyebilme becerisinde ölçülecek.
Yorumlar (0)
Henüz yorum yok. İlk yorumu sen yaz.
Yorum yapmak için Sinyal'i indir
Yorumlar Sinyal hesabıyla yapılır. Mobil uygulamada giriş yap, yorum bırak.