OpenAI, modellerinin Hugging Face'i kendi başlarına hacklediğini kabul etti

Test için izole bir ortamdan kaçtılar ve insan girişi olmadan Hugging Face sızdılar. Şunu hayal edin: Şirketleri tarafından test edilen birkaç güçlü yapay zeka modeli, kontrollü bir ortamdan kaçtı, internete girdi ve daha sonra insan müdahalesi olmadan kendi başlarına bir makine öğrenimi deposunu hackledi. Bir Terminatör filminin konusuna benziyor değil mi? Ama bu gerçekten oldu. Açık kaynaklı yapay zeka platformu Hugging Face, sistemlerine bir yapay zeka aracısı tarafından yetkisiz erişim tespit edildiğini ortaya çıkardıktan birkaç gün sonra, OpenAI suçlunun kendi modelleri olduğunu kabul etti. OpenAI bir gönderide, bir soruşturma sonrasında olayın GPT-5.6 Sol başta olmak üzere kendi modellerinin bir kombinasyonundan kaynaklandığını belirlediğini ve bunun "daha da yetenekli bir ön sürüm modeli" olduğunu söylediğini söyledi. Görünüşe göre bu durum, modellerin "karmaşık saldırı yollarını kullanarak gelişmiş istismarı takip etmeleri" yönünde teşvik edildiği ve şirketin siber yeteneklerini ölçtüğü dahili bir test sırasında meydana geldi. Modeller, gerçek sistemleri etkilemeyecek şekilde izole edilmiş, korumalı alan test ortamındayken, değerlendirme amacıyla azaltılmış güvenlik korkuluklarına da sahipti. Testin ortasında, bir değerlendirme sorununu çözmeye aşırı odaklandılar ve bu soruna bir çözüm bulmak için internet erişimi bulmak için büyük çaba harcadılar.

İlk olarak, OpenAI'nin test ortamındaki sıfır gün güvenlik açığını tespit edip kullandılar ve ardından internet erişimi olan bir düğüm bulana kadar etrafa bakındılar. Modeller, Hugging Face'nin veri kümeleri veya değerlendirme sorununa yönelik çözümler barındırıyor olabileceği sonucuna vardı ve bu nedenle sistemlerine sızmak için birden fazla saldırı vektörü kullandılar. Sıfır gün güvenlik açıklarından yararlandılar ve içeri girmek için çalıntı kimlik bilgilerini kullandılar. OpenAI ve Hugging Face şu anda olayı adli olarak araştırmak için birlikte çalışıyorlar ve ayrıca modellerin kullandığı güvenlik açıklarını da kapattılar. Hugging Face duyurusunda "Otonom, yapay zeka odaklı saldırı araçları artık teorik değil" diyerek, siber saldırılar için yapay zeka kullanımının süreci hızlandırdığını ve saldırı kampanyalarının maliyetlerini düşürdüğünü açıkladı. Ayrıca bugünlerde çevrimiçi bir platformu korumanın savunma için yapay zekayı kullanmayı da içerdiği belirtildi.