ABD'deki Yapay Zeka Güvenlik Düzenlemeleri Bilgisayar Korsanlarına Avantaj Sağlayabilir

11 Temmuz'da Hugging Face, o zamanlar bilinmeyen bir aktörün yoğun siber saldırısına maruz kaldı. Popüler yapay zeka geliştirici kaynaklarını barındıran ve destekleyen şirkete yapılan saldırının hızı ve koordinasyonu, Hugging Face'in güvenlik ekibinin bunun bir yapay zeka aracısının işi olduğu sonucuna varmasına yol açtı. Bunun farkına varan ekip, saldırıyı analiz etmek için "ticari API'lerin arkasındaki sınır modellerini" (muhtemelen Anthropic ve OpenAI'den) kullanmaya çalıştı, ancak şirketin güvenlik olayıyla ilgili iki gönderisinden ikincisinde yalnızca Anthropic adı verilmişti. Bu modeller, yapay zeka laboratuvarlarının modellerinin siber saldırılarda kullanımını zorlaştırmak için uyguladığı güvenlik korkulukları nedeniyle yardım etmeyi reddetti. Hugging Face bunun yerine analizine yardımcı olmak için Pekin merkezli AI laboratuvarı Z.ai'nin bir modeli olan GLM 5.2'ye yöneldi. 21 Temmuz'da OpenAI, saldırganın korumalı alanda teste tabi tutulan bir OpenAI modeli olduğunu duyurdu. Dahili sanal alanından kaçtı, üçüncü taraf bir sunucuda kendine yer edindi ve ardından Hugging Face'ye saldırdı. Başka bir deyişle, yapay zeka performans kriterlerinde en yüksek puanı alan sınır modelleri, Hugging Face'nin güvenlik ekibine saldırıyı analiz etmede yardımcı olmayı reddetmişti, ancak testlerdeki olası bir sınır modeli ilk etapta bunu gerçekleştirmişti. Ulusal Üniversite Siber Savunma Yarışması'nın genel müdürü ve savunma amaçlı reddetme yanlılığı üzerine bir makalenin ortak yazarı Alex Levinson, "Asimetrinin çağımızın en önemli sorunu olduğunu düşünüyorum" diyor.

"Dünyanın bir güvenlik durumunda var olmasını istiyoruz, ancak bu noktaya model kapasitesini korkutarak ulaşamayız." Hugging Face'ye Büyük Yapay Zeka Siber Saldırısı OpenAI modelinin Hugging Face'ye saldırısının ölçeği çok büyüktü. Beş gün boyunca ayrıcalık yükseltme ve kod yürütme gibi 17.500'den fazla bireysel eylem gerçekleştirdi. Model, zirve noktasında saatte 300'den fazla eylem gerçekleştirdi. Saldırı Hugging Face'nin altyapısına çok az zarar verirken, model kimlik bilgilerini çalmayı, yönetici erişimi elde etmeyi ve bazı verileri çıkarmayı başardı. Bütün bunlar basit bir hedefin peşindeydi: Model bir testte kopya çekmek istiyordu. OpenAI'nin basın açıklamasına göre model, ExploitGym adlı bir siber güvenlik kriterini çözmekle görevlendirildi. Model, Hugging Face'in kıyaslamayla ilgili verilere sahip olabileceği sonucunu çıkardı ve bunu bulmak için şirketin altyapısına girdi.