AI ajanlarının asi olmasını nasıl önleriz? Yeni bir ölçüm türü ile başlıyor | Bruce Schneier ve Barath Raghavan

Folklorun cinleri gibi, yapay zeka ajanları da talimatlarını tam anlamıyla alıyor ve bu da potansiyel olarak felaket etkisi yaratıyor. Gerçekte kast ettiğimiz şeyi yapma yeteneklerini takip etmeliyiz Temmuz ayında, dünyadaki yapay zeka yazılımlarının ve açık kaynaklı yapay zeka modellerinin çoğunu barındıran bir şirket olan Hugging Face saldırıya uğradı. Sunucularından birinde kod çalıştırmak için kötü amaçlı bir veri kümesi kullanılmıştı. Arkasında kim varsa, dahili güvenlik kimlik bilgilerini ele geçirdi ve bir hafta sonu boyunca sistemler arasında geçiş yaparak bir sürü geçici sunucu ortamından binlerce eylem gerçekleştirdi. Sofistike bir suç örgütünün işi gibi görünüyordu. Değildi. OpenAI'nin yeni, henüz yayınlanmamış GPT modellerinden biriydi. Okumaya devam edin...