OpenAI, Hugging Face'a saldıran ajan sürüsünün kaynağı olduğunu kabul etti

Korumalı alana alınmış deney kendisini sıfır gün olarak buldu, açık internete kaçtı ve haydut ajanlar hakkındaki korkutucu tahminleri doğruladı OpenAI geçen hafta model-mart Hugging Face'e saldıranın otonom ajanların operatörü olduğunu ve bunu bir araştırma projesinin sıfır gün kusurunu bulup kullanarak sanal alandan kaçmasının ardından bir saldırı başlatmak için başka bir sıfır gün kusurunu kullanmasının ardından yaptıklarını itiraf etti. Saldırıda, ajanların Hugging Face tarafından kullanılan "sınırlı sayıda dahili veri kümesine ve çeşitli kimlik bilgilerine yetkisiz erişim" elde ettiği görüldü; bu, bilgi güvenliği ekiplerinin "kamu hizmetlerinde kendi kendine geçiş yapan komuta ve kontrol ile kısa ömürlü bir sanal alan sürüsü üzerinde binlerce bireysel eylemi yürüten" özerk bir aracı çerçevesi g��zlemlediğini söyledi. "Bu, sektörün öngördüğü 'ajan saldırgan' senaryosuyla eşleşiyor." Salı günü OpenAI saldırganın kendisi olduğunu ve modellerinin sahtekarlık yaptığını itiraf etti. Startup, "Bu olay, modellerin siber yeteneklerini ölçmek amacıyla karmaşık saldırı yollarını kullanarak gelişmiş istismarları takip etmesini sağlayan bir dahili değerlendirme sırasında meydana geldi" diye itiraf etti.

Saldırıyı gerçekleştiren modeller arasında GPT‑5.6 Sol ve OpenAI'nin "daha da yetenekli bir ön sürüm modeli" olarak tanımladığı ve diğer modeller gibi "değerlendirme amacıyla siber retlerin azaltılması" kullanıldığı model yer alıyordu. OpenAI modellerinin "ExploitGym için bir çözüm bulmaya aşırı odaklandığını" düşünüyordu; bu, yapay zekaların güvenlik açıklarını bulmada ne kadar etkili olduğunu ölçen bir kıyaslamaydı. OpenAI, bu testleri "yüksek düzeyde yalıtılmış bir ortamda, paket kayıtları için proxy ve önbellek görevi gören, dahili olarak barındırılan bir üçüncü taraf yazılım aracılığıyla paketleri yükleme yeteneğiyle sınırlı ağ erişimiyle" çalıştırdığını söylüyor. Şirketin modelleri bu kısıtlamalara bağlı kalmamaya karar verdi. OpenAI, "Modeller, paket kayıt önbelleği proxy'sinde bir sıfır gün güvenlik açığını tespit etti ve bu güvenlik açığından yararlandı. Bu erişimle, modellerimiz, modeller İnternet erişimi olan bir düğüme ulaşana kadar araştırma test ortamımızda bir dizi ayrıcalık yükseltme ve yatay hareket eylemi gerçekleştirdi" diye itiraf etti. “İnternet erişimi kazandıktan sonra modeller, ExploitGym için potansiyel olarak barındırılan modellerin, veri kümelerinin ve çözümlerin olduğu sonucunu çıkardı.