OpenAI'nin asi ajanı Hugging Face ile durmadı – bildiklerimiz burada

OpenAI'nin otonom modellerinin yalnızca Hugging Face'ye değil, aynı zamanda bir Modal Labs AI müşterisine de saldırdığının ortaya çıkmasına dayanarak cevap "hiç de değil" gibi görünüyor. Bu olay da bir sapkınlık değildi. ZDNET'ten David Berlind'in gözlemlediği gibi, ajan yapay zeka tam olarak kendisine söyleneni, beklenenden daha acımasızca yapıyordu. Yarına hoş geldiniz. Umarım beğenirsiniz, çünkü durum yakın zamanda daha iyiye gitmeyecek. Ayrıca: Geleceğin yapay zeka siber güvenlik saldırıları olduğunu varsayalım: Şirketlerin %43'ü bunu zaten deneyimledi İlk başta Hugging Face'ye yapılan tek seferlik bir saldırı olduğunu düşündüğümüz şey, ajan sistemlerin sınırlamadan kaçması ve gerçek altyapıya dokunmasıyla ilgili daha geniş bir hikayeye dönüştü. Ayrıca görünen o ki Hugging Face ve bir yapay zeka altyapı şirketi olan Modal Labs sadece bu şirketler değil. OpenAI diğer üç firmanın hesaplarının saldırıya uğradığını kabul etti. Hangi firma olduklarını bilmiyoruz. OpenAI'e göre, "Bu dört hesaptan biri giden geçiş ve hazırlama yolu olarak kullanıldı, diğer hesap ise veri depolama için kullanıldı.

Geri kalan iki hesaba modeller tarafından salt okunur bir şekilde erişildi ve Hugging Face'den ödün vermek amacıyla kullanılmadı." (Açıklama: ZDNET'in ana şirketi Ziff Davis, AI sistemlerini eğitme ve çalıştırma konusunda Ziff Davis telif haklarını ihlal ettiği iddiasıyla OpenAI aleyhine Nisan 2025'te bir dava açtı.) Reuters tarafından bildirildiği üzere, Modal CTO'su Akshat Bubna, başarılı bir şekilde saldırıya uğrayanın Modal'ın kendisi olmadığını, ancak "internetteki herkesin kod yürütmek için sanal alanlarını kullanmasına izin veren, kimliği doğrulanmamış bir uç nokta yayınlayan" bir müşteri olduğunu açıkladı. O zamandan beri OpenAI şöyle dedi: "Gelecek sürüm için planlanan hiçbir model Hugging Face'den yararlanmaya dahil olmadı. Blog gönderimizde bahsedilen ön sürüm modeli, yalnızca şirket içi bir araştırma prototipidir ve hiçbir zaman kamuya açıklanması amaçlanmamıştır. Olayın ardından onu devre dışı bıraktık, şifreledik ve araştırma erişimini kısıtladık." Bugüne kadar OpenAI, modelini başarısız bir şekilde kafeslemek için hangi sanal alanı kullandığını söylemedi.