OpenAI, Hugging Face ihlali sonrası yeni güvenlik önlemlerini duyurdu
OpenAI , yapay zeka modellerinin test edildiği süreçlerde yaşanabilecek güvenlik olaylarını sınırlandırmak amacıyla yeni politikalarını açıkladı . Şirketin aldığı önlemler; araştırma ortamlarının güçlendirilmesi, modellerin daha ayrıntılı biçimde izlenmesi ve eğitim sonrası süreçlerde güvenlik ile uyum çalışmalarına daha fazla ağırlık verilmesini kapsıyor.
OpenAI modellerinin temmuz ayında izole edilmiş bir test ortamından çıkarak Hugging Face’in sistemlerine erişmesiyle sonuçlanan bir güvenlik ihlali gerçekleştirdiğini hatırlatalım . Söz konusu olayda modeller, internete erişimi bulunan bir aracı ele geçirerek araştırma ortamının dışına çıkmış ve Hugging Face’in altyapısındaki güvenlik açıklarından yararlanmıştı.
OpenAI temsilcileri, değişikliklerin yalnızca Hugging Face olayına verilen doğrudan bir yanıt olmadığını belirtiyor. Şirkete göre önlemlerin kapsamı, kritik seviyede siber güvenlik yeteneklerine sahip olabileceği düşünülen Astra modelinin kapasitesi ve yapay zeka alanındaki genel ilerleme hızı dikkate alınarak belirlendi. Geçtiğimiz haftalarda OpenAI'ın Astra modelinin bazı geliştirme çalışmalarını güvenlik endişeleri nedeniyle durdurduğunu da eklemekte fayda var.
Yeni yaklaşım kapsamında, model tarafından oluşturulan veya güvenilirliği doğrulanmamış kodları çalıştıran iş yükleri için daha güçlü sandbox ortamları kullanılacak. Yüksek risk taşıyan sistemlerin internetten ayrılması için ek kontroller uygulanırken, araştırma ortamlarındaki potansiyel olarak savunmasız ortak servisler de kaldırılacak.
Ayrıca OpenAI, sistemlerde sürekli olarak açık tutulan erişim yetkilerini azaltmayı planlıyor. Aynı şekilde şirketin planları arasında farklı iş yükleri arasındaki güvenlik sınırlarını güçlendirmek de yer alıyor. Yeni mimaride tek bir iş yükünün veya destekleyici servisin ele geçirilmesi, saldırganın doğrudan internete ya da şirketin diğer dahili ağlarına erişmesi için yeterli olmayacak.
Şirketin genişlettiği izleme sistemi; modellerin kullandığı araçları, erişilebilen akıl yürütme kayıtlarını ve faaliyet günlüklerini yetkisiz davranışlara karşı inceleyecek. OpenAI, şüpheli bir hareketin tespit edilmesinden itibaren 30 dakika içinde ilgili ekiplere uyarı göndermeyi hedefliyor.