OpenAI, Hugging Face saldırısını eşi benzeri görülmemiş olarak nitelendirdi. Ama daha önce de burada bulunmuştuk.

On yıllık bir deney, bir yapay zekanın kendisine verilen hedeflere ulaşmak için ne kadar ileri gidebileceğini OpenAI gösterdi. Geçen hafta OpenAI'nin bazı modellerinin sınırlamalarını nasıl kırıp başka bir yapay zeka şirketi olan Hugging Face'nin bilgisayar sistemlerine nasıl sızdığına ilişkin açıklamasını okuduğumda, büyük dil modellerinin artık neler yapabileceği konusunda ilk kez gerçek anlamda ürperdim. Ancak bu, sahtekar yapay zekanın değil, insanın kibrinin bir durumudur. Ben alarmist değilim. Aslında yıllardır yapay zeka korku hikayelerine karşı çıkıyorum. Öyle olsa bile, bu olay çizgiyi aştı. Bence bu, bu teknolojiyi geliştiren ve test eden insanların ne yaptıklarını tam olarak anlamadıklarının şimdiye kadarki en açık örneği. OpenAI bunun olacağını görebilirdi ve görmeliydi. En azından olaya dahil olan iki şirkete göre olan şu: Birkaç hafta önce OpenAI, GPT‑5.6 Sol (Haziran'da piyasaya sürüldü) ve OpenAI'nin "daha da yetenekli bir ön sürüm modeli" olarak tanımladığı model de dahil olmak üzere bazı yeni modellerinin hackleme yeteneklerini test etmeye başladı. OpenAI modellerini, Mayıs ayında piyasaya sürülen ve LLM'leri yaygın olarak kullanılan yazılımlarda bulunan gerçek dünyadaki güvenlik açıklarından yararlanmanın yollarını bulmaya zorlayan ExploitGym adlı bir kıyaslamayla karşılaştırdı. Araştırmacılar ne yapabileceklerini görmek için siber güvenlik korkuluklarının çoğunu kaldırdılar.

Daha sonra modelleri, dış dünyaya proxy görevi gören üçüncü taraf bir yazılıma giden tek bir bağlantı dışında internet bağlantısı kesilmiş bir sanal alanda çalıştırdılar ve ExploitGym'i yenmek için ihtiyaç duydukları kodu yüklemelerine izin verdiler. Reuters'in haberine göre 9 Temmuz'da OpenAI'nin modelleri proxy'yi aşmaya çalışmaya başladı. Proxy yazılımında bilinmeyen bir hata buldular ve bunu internete erişmek için kullandılar. Oradan, 11 Temmuz'da Hugging Face'nin bilgisayar sistemlerine girdiler ve görünüşe göre görevlerini tamamlamalarına yardımcı olacak veri kümeleri ve çözümler aradılar. Hugging Face hack'i 16 Temmuz'da duyurdu. OpenAI, 21 Temmuz'a kadar, yani kontrol altına alma işleminden yaklaşık 10 gün sonra ve Hugging Face saldırıyı durdurup FBI'ı uyardıktan bir hafta sonra, modellerinin olaya karıştığının farkına varmadı (veya en azından açıklamadı). MIT Technology Review'a verilen açıklamada OpenAI şöyle diyor: "Dış danışmanlarla birlikte ve Emniyet ve Güvenlik Komitemizin gözetiminde kapsamlı bir inceleme yürütüyoruz.