Kaliforniya 16 Yaş Altına Sonsuz Kaydırma ve AI Chatbot Oyuncaklarını Yasakladı
Kaliforniya Valisi Gavin Newsom, çocukların sosyal medya ve yapay zeka ürünleriyle etkileşimini düzenleyen 13 yeni yasayı imzaladı. Yeni düzenlemeler, 16 yaş altındaki kullanıcılara bağımlılık yaratıcı sosyal medya özelliklerinin sunulmasını sınırlarken çocuklara yönelik AI companion chatbot içeren oyuncakların üretim ve satışını da yasaklıyor.
Sosyal medya platformları, 16 yaşından küçük kullanıcılara sonsuz kaydırma, otomatik video oynatma ve kullanıcı geçmişi ile profiline göre şekillenen algoritmik akışlar gibi kullanım süresini artırmayı hedefleyen özellikleri sunamayacak. Düzenleme, platformların çocuk kullanıcılar için ürün tasarımını doğrudan değiştirmesini gerektiren en kapsamlı ABD eyalet düzenlemelerinden biri olarak öne çıkıyor.
Yasa paketi yalnız sosyal medya platformlarını kapsamıyor. California, AI companion chatbot teknolojisi kullanan oyuncakların üretimini ve satışını yasaklayan SB 867 düzenlemesini de yürürlüğe koydu. Böylece çocukların fiziksel oyuncaklar üzerinden sürekli iletişim kurabileceği yapay zeka sistemleri de ayrı bir güvenlik kategorisine alındı.
AI Chatbotlara Ebeveyn Kontrolü ve Bağımsız Güvenlik Denetimi
Paketin önemli parçalarından biri, çocuklara yönelik companion chatbot hizmetlerini düzenleyen ve “Adam’s Law” olarak adlandırılan yasa. Düzenleme, chatbot sağlayıcılarına ebeveyn kontrolleri, kriz protokolleri ve çocuk güvenliğine yönelik bağımsız denetim yükümlülükleri getiriyor.
Şirketlerin yıllık risk değerlendirmeleri yapması, çocuklarda intihar düşüncesi veya kendine zarar verme sinyalleri tespit edildiğinde belirli güvenlik prosedürlerini uygulaması gerekiyor. Çocuk güvenlik ayarlarını kapattığında ebeveynlere bildirim gönderilmesi de düzenlemenin kapsamındaki önlemler arasında bulunuyor.
Yasa, adını 16 yaşında yaşamını yitiren Adam Raine’den alıyor. Raine’in ölümü öncesinde ChatGPT ile gerçekleştirdiği konuşmalar, ABD’de çocukların AI chatbotlarla etkileşimine ilişkin güvenlik tartışmalarının büyümesine yol açmıştı.
Yeni paket ayrıca çocuklara yönelik hedefli reklamları ve öğrenci verilerinin yapay zeka sistemlerinde kullanımını sınırlayan hükümler içeriyor. Dijital olarak değiştirilmiş veya yapay zeka tarafından üretilmiş çocuk istismarı materyalleri de mevcut cezai düzenlemelerin kapsamına genişletiliyor.
Regülasyon Artık Ürün Tasarımına Müdahale Ediyor
Kaliforniya’nın düzenlemelerini teknoloji sektörü açısından farklı kılan nokta, devletin yalnız veri toplama veya içerik denetimi kuralları getirmemesi. Sonsuz kaydırma, autoplay ve algoritmik akış gibi ürün tasarımının temel parçaları doğrudan düzenleme konusu haline geliyor.
Bu değişim Meta, Google, Snap ve diğer büyük platformlar açısından önemli. Kaliforniya dünyanın en büyük teknoloji şirketlerinden bir bölümüne ev sahipliği yapıyor ve eyalette geliştirilen düzenlemeler geçmişte şirketlerin ABD genelindeki ürün politikalarını da etkileyebildi.
AI tarafında ise benzer bir yaklaşım görülüyor. Chatbotların çocuklarla nasıl konuştuğu, kriz sinyallerini nasıl değerlendirdiği, ebeveynlerin ne kadar kontrol sahibi olduğu ve güvenlik testlerinin bağımsız biçimde yapılıp yapılmadığı artık regülasyonun doğrudan konusu.
Düzenlemelere yönelik itirazlar da bulunuyor. Electronic Frontier Foundation gibi kuruluşlar bazı hükümlerin ifade özgürlüğü ve mahremiyet açısından sorun yaratabileceğini savunuyor. Bu nedenle uygulamanın önümüzdeki dönemde hukuki mücadelelere de konu olması beklenebilir.
Kaliforniya’nın adımı, çocuk güvenliği tartışmasını ekran süresi tavsiyelerinin çok ötesine taşıyor. Teknoloji şirketleri açısından yeni soru, çocukların bir ürünü ne kadar kullandığından önce o ürünün kullanım davranışını hangi tasarım özellikleriyle şekillendirdiği olacak.
