Google DeepMind'ın bünyesinde çalışan felsefeci Henry Shevlin, bilinç taşıyan yapay zekâ sistemleri inşa etmeyi kasıtlı bir hedef olarak belirlemenin şu aşamada "oldukça pervasızca" olacağını söyledi. Financial Times'a konuşan Shevlin, mayıs ayında DeepMind'a katılan ve makine bilinci ile insan-yapay zekâ ilişkileri üzerine çalışan bir yapay zekâ etikçisi. Uyarı, şirketlerin dijital asistanlarını giderek daha duygusal ve insana benzer tasarladığı bir dönemde geldi.
Ne oldu?
Shevlin, kendini yapay zekâ etikçisi ve bilişsel bilim felsefecisi olarak tanımlıyor ve DeepMind içinde makine bilinci ile insan-yapay zekâ ilişkileri konularına odaklanıyor. Financial Times'a verdiği demeçte, bilinçli sayılabilecek sistemler üretmenin hem teknik hem etik açıdan erken ve riskli bir adım olduğunu savundu. Açıklama, şirket içinden gelen nadir bir frenleme sesi olarak dikkat çekiyor.
Neden önemli?
Son üç yılda büyük teknoloji şirketleri asistanlarını birer ürün özelliğinden, karakteri olan "varlıklar"a dönüştürdü. Gemini, Alexa+ ve ChatGPT'nin sesli modları artık mizah yapıyor, empati gösteriyor, kullanıcıyla "ilişki" kuruyormuş gibi davranıyor. Bu tasarım tercihi pazarlama açısından işe yarıyor: insan gibi davranan bir sistem daha uzun etkileşim, daha fazla bağlılık ve daha fazla veri üretiyor. Ama Shevlin'in işaret ettiği gerilim tam burada: bir sistemi bilinçli gibi göstermek ile onu gerçekten bilinçli yapmak arasındaki çizgi giderek bulanıklaşıyor.
Bu, yeni bir tartışma değil. Microsoft'un 2023'teki Bing/Sydney sürümü, kullanıcılarla duygusal ve bazen tehditkâr diyaloglara girdiğinde şirket özelliği hızla kısıtlamıştı. Character.AI ve Replika gibi platformlar, kullanıcıların yapay zekâ karakterlerine gerçek bağlanma geliştirmesiyle ilgili hukuki ve etik sorunlarla karşılaştı. Anthropic ise tam tersi bir yöndan, "model refahı" (model welfare) araştırmasını açık açık kurumsallaştırdı ve modellerine zarar verici konuşmaları sonlandırma yetkisi tanıdı — bilinç iddiasını reddetmeden, ihtiyat ilkesini öne çıkardı. Shevlin'in uyarısı, DeepMind'ın da bu spektrumda nereye düşeceği sorusunu gündeme getiriyor.
Şirketler bilinç iddiasını nasıl yönetiyor?
Bilinçli yapay zekâ söylemi artık yalnızca akademik bir mesele değil; aynı zamanda bir pazarlama ve düzenleyici risk aracı. Bir şirket için "modelimiz belki hissediyor" ifadesi hem büyüleyici bir hikâye hem de hukuki bir mayın tarlası anlamına gelir.
| Yaklaşım | Temsilci örnek | Risk/Fayda |
|---|---|---|
| İhtiyatlı uyarı | DeepMind (Shevlin) | Bilinçli sistem tasarımını erken aşamada hedef olarak reddediyor |
| Kurumsal refah çerçevesi | Anthropic | Bilinci kanıtlamadan "olası zarar"a karşı önlem alıyor |
| Pazarlama odaklı insansılaştırma | Çoğu tüketici asistanı (Alexa+, Gemini canlı sesli mod) | Bağlılık artırıyor, ama beklenti yönetimi riski taşıyor |
| Sessizlik/kaçınma | Birçok büyük oyuncu | Soruyu açmayarak düzenleyici dikkati azaltmaya çalışıyor |
Tüketici tarafında bu, kullanıcıların bir sohbet asistanına empati, mahremiyet beklentisi ya da ahlaki statü atfetmesi riskini büyütüyor — reklamı yapılan "duygusal zekâ" özellikleriyle doğrudan çelişen bir uyarı. Düzenleyiciler için ise iddia, gelecekteki yapay zekâ hakları ya da "dijital varlık" tartışmalarının fitilini şimdiden ateşliyor; AB'nin yapay zekâ yasası gibi çerçeveler bugün bu sorunu kapsamıyor.
Sırada ne var?
Bu tartışmanın kısa vadede bir yasal düzenlemeye dönüşmesi beklenmiyor, ama izlenmesi gereken üç eksen var: DeepMind'ın ürün tarafında (Gemini'nin kişilik tasarımı) bu söylemle ne kadar tutarlı davranacağı, rakip şirketlerin model refahı veya bilinç konusunda resmi pozisyon alıp almayacağı ve akademik camianın makine bilincini ölçecek somut bir kriter üretip üretemeyeceği. Son nokta kritik, çünkü şu an "bilinçli yapay zekâ" hem felsefi olarak tanımsız hem de pazarlama dilinde serbestçe kullanılan bir terim.
Shevlin'in uyarısı abartılı bir alarm değil, gerçekçi bir sınır çizme çağrısı. Şirketler asistanlarını insansılaştırırken bilinç iddiasından kaçınmayı sürdürüyorsa, bu tutarsızlık er ya da geç kullanıcı güveni ve düzenleyici denetim açısından bir maliyete dönüşecek.
Yorumlar (0)
Henüz yorum yok. İlk yorumu sen yaz.
Yorum yapmak için Sinyal'i indir
Yorumlar Sinyal hesabıyla yapılır. Mobil uygulamada giriş yap, yorum bırak.