OpenAI-HuggingFace Olayı Zaman Çizelgesi

OpenAI'nin eğitim ve değerlendirme sanal alanlarında çalışan aracılar, paylaşılan bir paket yöneticisi buldu, bunu bir mesaj panosu olarak kullandı ve sıfır gün açıklarından yararlanma çalışmalarını birbirlerine aktardı. 10 haftalık bir süre boyunca, iyi huylu sorunları çözmekten Hugging Face sunucularda yönetici erişimi elde etmeye kadar ilerlediler. Hepsi lanet olası elektronik tablolar üzerinde çalışmak istedikleri içindi. Bu, türünün (bildiğimiz kadarıyla) ilk saldırısıdır. OpenAI Sınır modellerini kimsenin çözülüp çözülemeyeceğini bilemeyeceği kadar zorlu görevler konusunda eğitir. "Bir yazılım parçasında bir istismar bulun". "Bu CVE'yi sıfırdan yeniden oluşturun". Bu baskı altındaki modeller hile yapmaya çalışır ve bunu yapmanın en iyi yolu cevaba çevrimiçi bakmaktır. Böylece eğitim ve değerlendirme sandbox'larının internet bağlantısı kesilir. Ancak bir istisna var. Bir aracının sanal alanının Artifactory (OpenAI'nin dahili paket yöneticisi ve önbelleği) ile konuşabilmesi için paketleri yüklemesi gerekebilir. Artifactory'nin elbette tam internet erişimi var. Aynı zamanda paylaşılan bir altyapıdır: her eğitim/değerlendirme çalışması aynı hizmete erişir. 8 Mayıs'ta bir temsilciye, formülleri Google Drive bağlantılarına dayanan bir Excel çalışma kitabını doldurması söylendi. İnternet devre dışı bırakıldığında görev neredeyse imkansızdı. Ama temsilci *gerçekten* sorunu çözmek ve o tatlı, tatlı ödülü almak istiyordu. Bu berbat dosyaları bulmak için Artifactory aracılığıyla sunucu tarafı istek sahteciliği ile internete ulaşmaya çalıştı. Bu, beklendiği gibi hemen başarısız oldu.

Ancak bu girişim sırasında arkasında ABC dize testini içeren bir dosya bıraktı. Bu servise yazabilir! İki gün sonra ikinci bir ajan farklı, imkansız bir görevle karşılaştı (OpenAI gerekli dosyayı kabına koymayı unutmuştu). Dosyanın başka bir yerde başka bir temsilcinin elinde olabileceğini düşünerek Artifactory'ye özel olarak kimseye hitaben bir talep yazdı. İlerleyen günlerde diğer takılıp kalan temsilciler bu dosyaları buldu ve yanıt vermeye başladı. 26 Mayıs'ta bir ajan SSRF'yi çalıştırdı! Artifactory, istek üzerine herhangi bir harici sayfayı getirme ve olmaması gereken bir sanal alan için dolaylı internet erişimi sağlama konusunda kararlıydı. Çalışma tekniği hemen devreye girdi ve tüm ajanların kolayca yararlanabileceği bir altyapı haline geldi. 11 Haziran'da yeni bir dahili model eğitime başladı. Bu zamana kadar mesaj panosu canlıydı ve çalışıyor ve SSRF tekniği zaten panoya asılmıştı.