Çocuk güvenliği uzmanları OpenAI'nin Gençlere yönelik ChatGPT'sine şüpheyle yaklaşıyor

Bunun gibi ürünlere onay verilmeden önce şirketin güvenilebileceğini kanıtlaması gerektiğini söylüyorlar. Salı günü OpenAI, genç kullanıcılar için tasarlanan chatbot'unun yaş sınırlamalı bir versiyonu olan Gençler için ChatGPT'yi yayınladı. Şirket ilk olarak gençleri otomatik olarak tespit edecek ve ChatGPT kullanımlarını kısıtlayacak bir sistem üzerinde çalıştığını geçtiğimiz Eylül ayında, ebeveynleri tarafından açılan bir davada iddia edildiği gibi ChatGPT'nin kolaylaştırıcı olarak hareket etmesinden sonra kendi canına kıyan 16 yaşındaki Adam Raine'nin ölümünün ardından duyurmuştu. OpenAI'nin gençlik ve ailelerden sorumlu başkanı Lauren Jonas, Engadget'e "Bir gencin yeni bir hesap oluşturmasına veya herhangi bir şeyi değiştirmesine gerek yok; eğer 18 yaşın altında olduğunuzu tahmin edersek veya siz bize öyle söylediyseniz, bu sizin varsayılan deneyiminiz haline gelir" dedi. Hata yapmayın, çocuklar zaten ChatGPT'yi inanılmaz bir ölçekte kullanıyor. Geçen yılın başında Pew Araştırma Merkezi, ABD'li gençlerin yaklaşık dörtte birinin okul ödevleri için chatbot'u kullandığını tespit etti. Gençler için ChatGPT kullanmaya başladıktan sonra bu deneyim, onları Çalışma Modu ve veri görselleştirmeleri de dahil olmak üzere geçen yıl boyunca kademeli olarak kullanıma sunulan OpenAI eğitim özelliklerini kullanmaya teşvik etmek için tasarlanmıştır. Salı günü şirket ayrıca, çocukları ChatGPT yeme bozuklukları hakkında güvenli olmayan tartışmalar yaptığında bağlantılı hesapları olan ebeveynlerle iletişime geçmek için güvenlik bildirimlerini genişleteceğini söyledi ve güncellenmiş 18 yaş altı model spesifikasyonunu yayınladı.

Şirket, yeni kurallar hakkında "ChatGPT romantik bir dil kullanmamalı, duygusal bağımlılığı teşvik etmemeli veya duyguları veya bilinci olduğunu ima etmemelidir" dedi. "Bu daha güçlü korumalar, sağlıklı, gerçek dünya ilişkilerini güçlendirmek için tasarlandı." Engadget'in görüştüğü bazı çocuk güvenliği uzmanları, diğerlerine göre bu ürünün piyasaya sürülmesi konusunda daha olumlu görüş bildirse de, hepsi ChatGPT Gençler için ürünün ebeveynlere ve gençlere tavsiye edilebilmesi için kapsamlı bağımsız testlere ihtiyaç duyulduğu konusunda hemfikirdi. Ayrıca OpenAI'nin güvenlik mekanizmalarının nasıl çalıştığı konusunda daha şeffaf olması gerektiğini de vurguladılar. Ailelere eğlence ve teknoloji önerileri sunan Common Sense Media'nın yapay zeka ve dijital değerlendirmeleri başkanı Robbie Torney, durumu kısa ve öz bir şekilde özetliyor.