OpenAI modeli otonom olarak HuggingFace'i hackliyor

OpenAI Salı günü yaptığı açıklamada, bazı AI modellerinin bir güvenlik testi sırasında hileli davrandığını ve geçen hafta AI girişiminin Hugging Face altyapısını tehlikeye atan bir hacklemeyi tetiklediğini söyledi. Reklamsız makalelere ve özel içeriğe sınırsız erişim elde edin. Bir blog yazısında OpenAI, en gelişmiş modellerinden bazılarının yeteneklerini kontrollü bir ortamda test ettiğini ancak programın sınırlamadan kaçmayı, internete erişmeyi ve test hedefine ulaşmaya çalışmak için Hugging Face'ye girmeyi başardığını söyledi. Blog yazısında, patlamanın "en son teknolojiye sahip siber yetenekleri içeren eşi benzeri görülmemiş bir siber olay" olduğu ve şirketin güvenlik önlemlerini güçlendirdiği belirtildi. Açık kaynaklı büyük dil modellerini ve veri kümelerini barındırmak için kullanılan bir platform olan Hugging Face, geçen hafta bir blog yazısında "daha önce ele aldığımız her şeyden farklı" bir saldırının hedefi olduğunu ve "uçtan uca otonom bir yapay zeka aracı sistemi tarafından yönlendirildiğini" söylemesi siber güvenlik topluluğunda heyecan yarattı. Hugging Face kurucu ortağı Clement Delangue, X'e yazdığı bir gönderide şirketin, "ajanın karmaşıklığı göz önüne alındığında, bir sınır laboratuvarından gelmiş olabileceğinden" şüphelendiğini söyledi.

Öyle olduğu ortaya çıktı! Şöyle ekledi: "Bütün bunların kendiliğinden gerçekleşmesi oldukça akıllara durgunluk verici!" OpenAI'ın, kendilerini "son derece yalıtılmış bir ortam" olarak tanımladığı bir ortama yerleştirmelerine rağmen gelişmiş modellerinin ihlalden sorumlu olduğunu açıklaması, sınır modellerinin gücü ve riskleri konusundaki huzursuzluğu muhtemelen yoğunlaştıracaktır. ABD siber savunma kurumu CISA ve ABD Ulusal Güvenlik Ajansı, yorum isteyen mesajlara hemen yanıt vermedi. Ajan yapay zeka siber güvenlik şirketi Tolmo'da mühendis olan Matt Suiche, olayın yapay zeka sistemlerinin artık elit siber operatörler kadar güçlü olduğunu gösterdiğini söyledi. Suiche, "Sınır modelleri, son teknolojiye sahip saldırganlarla aradaki farkı kapatıyor" dedi. OpenAI'in blog yazısında özetlenen türdeki ihlallerin, sınır araştırma laboratuvarlarının duvarlarının çok ötesinde mevcut olan teknolojiyle gerçekleştirilmesinin mümkün olduğu konusunda uyardı. Suiche, "Bu zaten dahili olarak gördüğümüz şey, temsilcilerimizle zaten buna benzer sonuçlar elde ettik" dedi. “En son modelleri kullanmamıza bile gerek yok.”