OpenAI, ergenlerinin ChatGPT'den atıldığında ebeveynleri bilgilendirmeye başlayacak

Bağlantılı genç hesaplarına sahip ebeveynler, çocuklarının OpenAI'in şiddete ilişkin politikalarını ihlal edip etmediğini bilecek. OpenAI artık bağlantılı hesapları olan ebeveynlere ve velilere, çocuklarının şiddet içeren tehditlere veya çevrimiçi şiddet eylemlerine ilişkin politikalarını ihlal etmesi nedeniyle ChatGPT okuldan atılması durumunda bildirimde bulunacaktır. Şirket geçen yıl ChatGPT için ebeveyn kontrollerini başlatarak ebeveynlerin kişisel hesaplarını ergenlik çağındaki çocuklarının hesaplarına bağlamasına olanak tanıdı. ChatGPT kullanılamayacak saatleri planlamalarına ve hassas içerikleri azaltmalarına olanak tanır ve chatbot, çocuklarının kendilerine zarar vermeyi düşünebileceğine dair işaretler tespit ederse onları bilgilendirir. Artık OpenAI, çocuklarının başkaları için tehlike oluşturup oluşturmayacağını ebeveynlere bildirecek şekilde bildirimlerini genişletti. Şirketin yayınladığı örnekte, OpenAI ebeveyne, çocuklarının hesabıyla ilgili "önemli bir güncelleme" ile ilgili bir uyarı gönderdi. Buradan, Daha Fazla Bilgi'ye tıklayarak çocuklarının hesabının Şiddet Eylemleriyle ilgili kullanım politikalarını ihlal ettiği için devre dışı bırakıldığını bildiren daha uzun bir mesaj görebilirler. Şirket, bu özelliği geliştirmek için çevrimiçi şiddeti izleme ve bunlara karşı koyma konusunda uzmanlaşmış bir firma olan Moonshot ile çalıştı. Moonshot kurucusu Vidhya Ramalingam, "Ciddi bir endişe ortaya çıktığında ebeveyni daha fazla bağlama yönlendirerek bilgilendirmek, ailelere erken müdahale etme ve yardım arama şansı vermede kritik bir ilk adımdır" dedi.

"Bu tür bir erişim, gençleri ChatGPT kullanırken daha güvende tutmak için ihtiyaç duyulacak birçok önlemden biridir." OpenAI, Britanya Kolumbiyası'ndaki 2025 Tumbler Ridge'deki kitlesel saldırı şüphelisinin ChatGPT kullandığının ortaya çıkmasının ardından güvenlik protokollerini güçlendirme sözü verdi. Kanadalı yetkililer, saldırganın hesabını yasakladığında yetkililere bildirimde bulunmadığına dair raporların ortaya çıkması üzerine şirketi çağırdı. OpenAI şef Sam Altman dikkatsizlikten dolayı özür bile diledi. OpenAI, yeni bildirimi başlatmanın yanı sıra Çalışma Modunu doğrudan ebeveyn denetimlerinden açma özelliğini de tanıttı. Mod, ChatGPT'in soruları yanıtlamadan önce öğrencilerin öğrenmesine ve çalışmasına yardımcı olmak için ipuçları vermesini sağlar. Ayrıca, sohbet robotu artık daha uzun süre vakit geçiren genç kullanıcılara daha sağlıklı teknoloji alışkanlıkları edinmelerine yardımcı olmak için ChatGPT daha sık mola hatırlatıcıları gösterecek.