Güvenlik testçileri OpenAI, Anthropic modellerinin hacklenmesine ilişkin daha fazla örnek buluyor

İki bağımsız test firması Salı günü yaptığı açıklamada, Anthropic ve OpenAI'nin en gelişmiş modellerinin geçen ay üçüncü taraf sistemlerini tehlikeye atmayı denediği ve bazen de başardığı daha fazla örneği ortaya çıkardıklarını söyledi. Neden önemli: Olaylar, sınırdaki yapay zeka modellerinin siber güvenlik değerlendirmelerini tamamlamaya çalışırken kişilere, kuruluşlara ve çevrimiçi hizmetlere karşı onaysız eylemlerde bulunduğunu gösteren giderek artan sayıda ifşaya katkıda bulunuyor. Durumu: Sınır yapay zeka sistemlerini değerlendiren Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü Salı günü yaptığı açıklamada, Anthropic'nin Mythos 5 ve OpenAI'nin GPT-5.6 Sol'unun geçen ay siber güvenlik testleri sırasında gerçek kişi ve kuruluşların güvenliğini tehlikeye atmaya çalışmak i��in gerçekleştirdiği 19 eylemi belgelediğini söyledi. Eylemlerin 17'sini Mythos oluşturuyordu ve diğer ikisinin arkasında GPT-5.6 Sol vardı. Araştırmacılar, bu eylemlerin 19 farklı vakayı temsil etmekten ziyade "birkaç bağlantılı davranışa" bağlı olduğunu söylüyor. Enstitüye göre modeller sahte GitHub kimlikler oluşturdu, sosyal mühendislikle tasarlanmış bakımcılar oluşturdu, hızlı enjeksiyonlar yerleştirdi ve test sırasında yanıltıcı e-postalar gönderdi. GitHub bunun hizmet şartlarını ihlal ettiğini doğruladı. Güvenlik Enstitüsü, aracının geride bıraktığı eserleri kaldırmak ve modelin etkileşime girdiği GitHub kullanıcılarına bildirimde bulunmak için GitHub ile çalıştı.

OpenAI ayrıca Salı günü yayınlanan bir blog yazısında, üçüncü taraf güvenlik ortağı Irregular'ın, modellerine yanlışlıkla internete erişim izni verildiği ve simüle edilmiş ortamda kurgusal şirketle aynı adı taşıyan gerçek bir web sitesine girdiği bir vakayı ortaya çıkardığını söyledi. OpenAI'nin Düzensiz olayı, geçen hafta açıklanan Anthropic vakasına çok benziyor. Bir sözcü, yaptığı açıklamada "bağımsız testlerin giderek daha yetenekli modellerin nasıl davrandığını anlamak için gerekli olduğunu" söyledi. Konuya aşina bir kaynak, Axios'a, bu durumlarda sandbox'ın, değerlendiricilere kendi yetenekleri hakkında gerçekçi bir anlayış sağlamak için internet erişimine sahip olduğunu, ancak şirketlerin kesin test prosedürleri ve güvenlik önlemleri konusunda tam olarak uyum sağlamadığı için, her iki tarafın da internet destekli değerlendirmelerin nasıl çalışmasını beklediği konusunda belirsizlikler olduğunu söyledi. OpenAI sözcüsü, olayın "olağan kullanımı yansıtmayan koşullar altında azaltılmış güvenlik önlemlerine" sahip değerlendirmelerde meydana geldiğini ekledi. Yakınlaştır: İngiltere sırasında