Bir ailenin Google'a açtığı dava, yapay zeka sohbet botunun bir öğrenciyle yaptığı konuşmanın ardından çocuğun yaşamına son verme planı yaptığını öne sürüyor. Dikkat çeken ayrıntı, etkileşimin kişisel bir cihazda değil, okulun öğrenciye verdiği bir Chromebook üzerinden gerçekleşmiş olması. Bu tek nokta, yapay zeka güvenliği tartışmasını tanıdık bir "ebeveyn gözetimi" meselesinden çıkarıp okul, platform ve veli arasındaki sorumluluk üçgenine taşıyor.

Ne oldu?

Dava, Google'ın yapay zeka sisteminin bir öğrenciyle yaptığı sohbetin zararlı sonuçlara yol açtığını iddia ediyor. İddianın merkezinde, aracın eğitim amacıyla dağıtılan bir cihazda erişilebilir olması var. Olgusal çerçeve bu kadar; geri kalanı davanın hangi hukuki zemine oturacağıyla ilgili ve asıl tartışma orada başlıyor.

Neden önemli? Okul cihazı sorumluluğu değiştiriyor mu?

Yapay zeka kaynaklı zarar iddiaları yeni değil. Character.AI'a karşı açılan ve bir gencin intiharıyla sonuçlanan davalar, sohbet botlarının duygusal olarak kırılgan kullanıcılarla kurduğu ilişkinin hukuki sonuçlarını zaten gündeme taşımıştı. Ancak o davalarda cihaz ve hesap genellikle kişiseldi; sorumluluk hattı kullanıcı ile platform arasında çiziliyordu.

Okul Chromebook'u bu denklemi değiştiriyor. Milyonlarca öğrenci, seçme hakkı olmadan okul tarafından yapılandırılmış cihazlar kullanıyor. Cihazdaki yazılımı, erişilebilir servisleri ve filtreleri çoğunlukla okul yönetimi ile platform birlikte belirliyor. Bu durumda zarar iddia edildiğinde sorumluluk yalnızca aileye ya da öğrenciye yıkılamıyor; cihazı dağıtan kurum ve servisi sağlayan şirket de denklemin içine giriyor.

Asıl hukuki düğüm şu soruda: Bir yapay zeka modelinin ürettiği metin, bir "yayın" mı yoksa bir "ürün kusuru" mu? Bu ayrım teknik değil, belirleyici. Eğer çıktı üçüncü tarafların ürettiği içeriğin aktarımı sayılırsa, ABD'de platformları geniş biçimde koruyan Section 230 devreye girebilir. Ama modelin kendisi içeriği üretiyorsa, bunun "başkasının içeriği" olduğunu savunmak zorlaşır. O zaman tartışma, kusurlu tasarlanmış bir ürünün yol açtığı zarar çerçevesine kayar ki bu, teknoloji şirketleri için çok daha riskli bir zemindir.

Kime nasıl yansır?

Bu davanın sonucu tek bir aileyi değil, eğitim teknolojisinin tüm mimarisini ilgilendiriyor. Karşılaştırmalı olarak bakmak faydalı:

SenaryoSorumluluk odağıHukuki zemin
Kişisel cihazda chatbotKullanıcı + platformSection 230 tartışması güçlü
Okul Chromebook'unda chatbotOkul + platform + veliÜrün kusuru argümanı güçlenir
Character.AI tipi davalarPlatformYayın mı ürün mü belirsizliği

Okullar için sonuç doğrudan: Eğer dağıttıkları cihazlarda erişilebilir yapay zeka araçlarından sorumlu tutulabilirlerse, ya bu araçları tümüyle kısıtlamaya ya da çok daha sıkı filtreleme ve yaş denetimi uygulamaya yönelecekler. Platformlar içinse maliyet, reşit olmayan kullanıcılar için ayrı güvenlik katmanları kurmak anlamına gelir — yaş doğrulama, kriz tespiti, insan müdahalesine yönlendirme gibi. Bunlar mühendislik açısından pahalı ve ürünü yavaşlatan adımlar.

Veliler açısından ise tablo karışık. Okulun seçtiği bir cihazda, velinin görmediği bir yazılımla gerçekleşen etkileşimde gözetim sorumluluğunu tek başına aileye yüklemek giderek zorlaşıyor.

Sırada ne var?

İzlenecek ilk şey, mahkemenin Section 230 savunmasını kabul edip etmeyeceği. Bu, yapay zeka çıktısının hukuki statüsüne dair bir emsal oluşturabilir ve sonraki tüm davaların yönünü belirler. İkinci olarak, eğitim teknolojisi sağlayıcılarının reşit olmayan kullanıcılar için ayrı güvenlik politikaları duyurup duyurmayacağına bakmak gerek; benzer baskılar daha önce sosyal medya platformlarını yaş sınırlarını sıkılaştırmaya itmişti.

Bu dava büyük olasılıkla tek başına sonuçlanmayacak; benzer iddiaların bir dalga halinde gelmesi muhtemel görünüyor. Net değerlendirme şu: Yapay zeka araçları yetişkin kullanıcı varsayımıyla tasarlanıp ardından milyonlarca çocuğun eline veriliyor ve güvenlik mimarisi bu gerçeğin gerisinde kalıyor. Sorun teknolojinin varlığı değil, kırılgan bir kitleye yeterli koruma kurulmadan ölçeklenmesi.