OpenAI, Hugging Face saldırısını eşi benzeri görülmemiş olarak nitelendirdi. Ama daha önce de burada bulunmuştuk.

On yıllık bir deney, bir yapay zekanın kendisine verilen hedeflere ulaşmak için ne kadar ileri gidebileceğini OpenAI gösterdi. Geçen hafta OpenAI'nin bazı modellerinin sınırlamalarını nasıl kırıp başka bir yapay zeka şirketi olan Hugging Face'nin bilgisayar sistemlerine nasıl sızdığına ilişkin açıklamasını okuduğumda, büyük dil modellerinin artık neler yapabileceği konusunda ilk kez gerçekten ürperdim. Ancak bu, sahtekar yapay zekanın değil, insanın kibrinin bir durumudur. Ben alarmist değilim. Aslında yıllardır yapay zeka korku hikayelerine karşı çıkıyorum. Öyle olsa bile, bu olay çizgiyi aştı. Bence bu, bu teknolojiyi geliştiren ve test eden insanların ne yaptıklarını tam olarak anlamadıklarının şimdiye kadarki en açık örneği. OpenAI bunun olacağını görebilirdi ve görmeliydi. En azından olaya dahil olan iki şirkete göre olan şu: Birkaç hafta önce OpenAI, GPT‑5.6 Sol (Haziran'da piyasaya sürüldü) ve OpenAI'nin "daha da yetenekli bir ön sürüm modeli" olarak tanımladığı model de dahil olmak üzere bazı yeni modellerinin hackleme yeteneklerini test etmeye başladı. OpenAI modellerini Mayıs ayında piyasaya sürülen ExploitGym adlı bir kıyaslamayla karşılaştırdı; bu, LLM'leri, web'i destekleyen önemli kodlar da dahil olmak üzere yaygın olarak kullanılan yazılımlarda bulunan yüzlerce gerçek dünya güvenlik açığından yararlanmanın yollarını bulmaya zorluyor. Araştırmacılar ne yapabileceklerini görmek için siber güvenlik korkuluklarının çoğunu kaldırdılar.

Daha sonra modelleri, dış dünyaya proxy görevi gören üçüncü taraf bir yazılıma giden bir bağlantı dışında internet bağlantısı kesilmiş bir sanal alanda çalıştırdılar, böylece modeller ExploitGym'i yenmek için ihtiyaç duydukları kodu yükleyebildiler. Reuters'in haberine göre 9 Temmuz'da OpenAI'nin modelleri proxy'yi aşmaya çalışmaya başladı. Proxy yazılımında bilinmeyen bir hata buldular ve bunu internete erişmek için kullandılar. Oradan 11 Temmuz'da Hugging Face'nin bilgisayar sistemlerine girdiler ve görünüşe göre üzerinde test edildikleri görevleri tamamlamalarına yardımcı olacak veri setleri ve çözümler aradılar.