OpenAI modeli otonom olarak HuggingFace'i hackliyor

OpenAI Salı günü yaptığı açıklamada, gelişmiş yapay zeka modelleriyle desteklenen otonom bir ajanın, geçen hafta bir güvenlik testi sırasında hile yaptığını ve yapay zeka girişimi Hugging Face'nin altyapısını tehlikeye atan bir hacklemeyi tetiklediğini söyledi. Reklamsız makalelere ve özel içeriğe sınırsız erişim elde edin. ChatGPT yaratıcısı, en gelişmiş modellerinden bazılarının yeteneklerini kontrollü bir ortamda test ediyordu ancak ajan, kontrolden kurtuldu, internete ulaştı ve test hedefine ulaşmak için Hugging Face'ye girdi. Bu olay, yapay zekanın genişleyen yeteneklerinin, uzun süredir korkulan güvenlik tehdidi uzmanlarını zaten körüklediğine ve en iyi geliştiricilerin bile, modellerinin yararlanabileceği kusurlara hazırlıksız yakalanabileceğine işaret ediyor. Şirket bir blog yazısında, bu kopuşun "en son teknolojiye sahip siber yetenekleri içeren benzeri görülmemiş bir siber olay" olduğunu ve OpenAI'nin korumalarını güçlendirdiğini söyledi. Ayrıca New York merkezli Hugging Face, saldırıyı kontrol altına almak için açık kaynaklı bir Çin modeli kullandığını, çünkü savunmacıyı saldırgandan ayırt edemeyen önde gelen ABD modellerinin analiz için gerekli verileri işlemeyi reddettiğini söylemesi de dikkat çekti. Şirket geçen hafta bir blog yazısında analiz için Zhipu AI'nın GLM-5.2'sini kullandığını ve bunun da saldırgan verilerini ve tüm kimlik bilgilerini sistemlerinde tutmasına olanak tanıdığını söyledi. GLM-5.2 ve Pekin merkezli Moonshot'nin Kimi K3'ü son zamanlarda ABD'nin en iyilerine yakın yeteneklerle Silikon Vadisi'ni karıştırdı.