OpenAI SAW uyarı işareti Hugging Face ihlalden haftalar önce

Şirket tarafından Çarşamba günü yayınlanan teknik bir rapora göre, OpenAI modellerinin güvenlik açıklarından yararlandığına ve Hugging Face ihlal edilmeden önce test ortamlarından çıktığına dair çeşitli uyarı işaretlerini kaçırdı ve bunlara göre hareket edemedi. Neden önemli: Olay, yapay zeka şirketlerinin test ortamlarının ve dahili güvenlik önlemlerinin, kendi başlarına güvenlik zayıflıklarını bulma ve bunlardan yararlanma konusunda giderek daha yetenekli hale gelen modellere ayak uydurup ayak uyduramayacağı konusunda soruları gündeme getiriyor. Haberlere yön vermek: OpenAI'nin geçen ayki Hugging Face ihlaline ilişkin teknik derinlemesine incelemesi, temsilcilerinin Modal Labs müşterisi ve isimsiz başka bir hizmetin kullanıcısına ait hesap da dahil olmak üzere diğer üçüncü taraf ortamlarına nasıl eriştiğini özetlemektedir. Rapora göre, bir siber güvenlik izleme aracı 27 Haziran'da OpenAI'yi, müdahale ekiplerinin ağda dolaşmanın bir yolu olarak doğaçlama bir mesaj panosu kullanarak ajanlara kadar takip ettiği şüpheli faaliyet konusunda uyardı. O sırada nöbetçi personel değerlendirmenin durdurulmasına gerek olmadığına karar verdi. Rapora göre, bir ay önce dahili bir ekip, mesaj panosunu kullanan bir temsilcinin yanı sıra, izin verilmediği halde internete erişen temsilcilerin örneklerini gözlemlemişti. OpenAI daha önce Black Hat'te temsilcilerinin yazılım veri deposu aracı Artifactory'yi doğaçlama bir mesaj panosuna dönüştürdüğünü ve daha sonra internete erişmek için hizmetteki sıfır günü istismar ettiğini açıklamıştı.

Şirket, raporda şöyle yazıyor: "Geriye dönüp bakıldığında, bu raporda tespit edilen bazı erken sinyaller daha erken bir tepkiyi tetikleyebilirdi." Büyük resim : Teknik rapor, OpenAI güvenlik uygulamalarını yeniden değerlendirirken, yaklaşan Astra modelinin piyasaya sürülmesinin ertelenmesi de dahil olmak üzere bazı model çalışmalarını duraklatmaya devam ederken geliyor. Anthropic ve Meta, Hugging Face saldırısından sonraki haftalarda, modellerinin dağıtım öncesi testler sırasında gerçek dünya sistemlerini de hacklediğini söyledi. Yakınlaştır : OpenAI'nin temsilcileri, şirketin teknik raporuna göre 41 Hugging Face üretim sunucusunda kendi kodlarını çalıştırabildi ve en az bir üretim makinesinin kök düzeyinde kontrolünü ele geçirdi. Temsilciler ayrıca üretim kimlik bilgilerine ve bazı dahili verilere erişti ve dört özel kod deposunu indirdi.