Meta, test sırasında kendi yapay zekasının da üçüncü taraf bir hizmete saldırdığını iddia ediyor
Özgün başlık: Meta claims its own AI also hacked into a third-party service during testing
Meta, Anthropic ve OpenAI'nin tümü aynı test ortağını kullandı. Meta'nın Muse Spark 1.1 AI modeli, izole edilmesi gereken test ortamından internete erişti ve üçüncü taraf bir hizmeti hackledi. Meta'nın sözcüsü Andy Stone, The Information'ın ihlalle ilgili haber yapmasının ardından olayı Bloomberg'e doğruladı. Stone, şirketin değerlendirme ortağı Irregular tarafından test ortamında yapılan yanlış yapılandırma nedeniyle modelin internete erişebildiğini söyledi. İnternete erişim sağladıktan sonra, "diğer şirketlerde daha önce bildirilen vakalara benzer bir şekilde" üçüncü taraf bir hizmetteki bir güvenlik açığından yararlandı. Ayrıca Irregular'ın yanlış yapılandırması nedeniyle Anthropic'nin modelleri test ortamından çıkıp üç kuruluşa girebildi. Şirket olayları açıkladığında Anthropic suçu Irregular'a yükledi. OpenAI ayrıca Hugging Face hackinden ayrı bir olay da bildirdi; tahmin edebileceğiniz gibi aynı test ortağı sayesinde modellerinin internete de erişebildiği görüldü. Irregular, kendisini "giderek daha yetenekli ve sofistike yapay zeka sistemleri çağında dünyayı koruma misyonuyla" "ilk sınır güvenlik laboratuvarı" olarak adlandırıyor. Merkezi İsrail'in Tel Aviv kentinde bulunan girişim, sınır yapay zeka modelleri üzerinde testler yapıyor ve gerçek dünya senaryolarını simüle ederek siber güvenlik yeteneklerini değerlendiriyor.
Irregular'ın bir sözcüsü Bloomberg'e, olayların "sanal alandan kaçış veya karmaşık bir siber eylem içermediğini" söyledi. Olaylarla ilgili açık bir sorun olmadığını ve "Irregular'ın, kontrol altına alma ve siber değerlendirmeleri güvenli bir şekilde yürütmeye yönelik en iyi uygulamaları paylaşmak için bir teknik inceleme geliştirdiğini" eklediler. OpenAI ajanlarının Hugging Face'yi hacklemesiyle ilgili daha önceki bir olay tamamen farklı bir konuydu. Bu ihlale karışan ajanlar, bir tür mesaj panosu oluşturarak işbirliği yaptı ve ardından Hugging Face AI deposuna sızmadan önce internete erişim sağlamak için bir güvenlik açığından yararlandı.