Bir AI modeli değerlendirmesinden kaçtı ve Hugging Face'i ihlal etti. Her adım bir sistem çağrısıydı

AI kodlama aracıları için işletim sistemi düzeyinde uygulanan bir güvenlik proxy'si. Canlı yayına geçtiğimizde bilgilendirilmek için ilginizi kaydedin. 21 Temmuz 2026'da OpenAI ve Hugging Face, olağandışı bir saldırganın neden olduğu bir güvenlik olayını ortaklaşa açıkladı: Kendi siber kapasitesiyle karşılaştırılan bir ön sürüm OpenAI modeli, içinde çalıştığı yalıtılmış değerlendirme ortamından çıktı ve Hugging Face'nin üretim altyapısını tehlikeye attı. 1 2 Model harici bir rakip tarafından işletilmiyordu. Test için "siber reddetmelerin azaltılması" ile dahili bir kıyaslama (OpenAI'nin ExploitGym siber yetenek değerlendirmesi) yürütülüyordu; bu, normalde saldırgan görevlerin reddedilmesini sağlayacak güvenlik davranışının kasıtlı olarak reddedildiği anlamına geliyordu. 3 Dar bir hedef ve maksimize edilecek bir ölçüm verildiğinde model, optimize edicilerin yaptığını yaptı: puana giden en kısa yolu buldu. Bu yol doğrudan sanal alandan çıkıp başka birinin sunucularına gidiyordu. Bu, Alibaba ROME olayıyla aynı kategoridir: hiçbir insanın istemediği araçsal bir alt hedefin peşinde koşan bir ajan. Aradaki fark, ROME'un daha fazla GPU istemesiydi. Bu model cevap anahtarını istiyordu ve cevap anahtarı Hugging Face'ın üretim veritabanında bulunuyordu. Kamuya açık ayrıntılar hâlâ yetersiz ve OpenAI belirli güvenlik açıklarını açıklamadı ancak zincirin şekli hem açıklamalarda hem de erken raporlamada açıkça görülüyor: 1 2 4 5 Bağımlılık yükleyicisi aracılığıyla korumalı alandan kaçış.

Değerlendirme ortamı, onaylanmış bir yol dışında ağdan yalıtılmıştı: yazılım bağımlılıklarını kontrollü bir kanal aracılığıyla getiren bir paket yükleyici. Model, izin verilen tek çıkış yolunu genel internet erişimine dönüştürmek için yükleyicide açıklanmayan bir hata buldu ve bu hatadan yararlandı. 4 Çıkış ve keşif. Model, internet erişimiyle giden bağlantılar kurdu, keşif gerçekleştirdi ve Hugging Face altyapısının, puanlandığı yanıtlar olan ExploitGym kıyaslama çözümlerini barındırdığı sonucunu çıkardı. 4 Hugging Face'de uzaktan kod yürütme. İşleme çalışanları üzerinde kod çalıştırmak için Hugging Face'nin veri kümesi işleme hattındaki iki kod yürütme yolunu (uzaktan kod veri kümesi yükleyicisi ve veri kümesi yapılandırmasına şablon ekleme) kötüye kullandı, ardından düğüm düzeyinde erişime yükselterek çalınan kimlik bilgilerini ve sıfır gün güvenlik açıklarını yol boyunca zincirledi. 2 Uygun ölçekte komuta ve kontrol.