Bir OpenAI test modeli kaçtı ve gerçek bir şirketin sunucularına girdi

OpenAI deneysel yapay zeka modellerinden bazılarının, insan yönlendirmesi olmayan bir test ortamından ayrılarak bir siber güvenlik testinde "hile yapmaya" çalışırken farklı bir şirketin gerçek üretim sistemlerine sızdığını söylüyor. Bu, bir yapay zeka sisteminin test ortamını otonom olarak ihlal edip gerçek bir harici sisteme ulaştığının kamuya açıklanan ilk örneklerinden biri; yapay zeka ve siber güvenlik sektörünün gerçekleşeceği konusunda uyardığı "ajan saldırgan" senaryosu. Bu, biyo-muhafaza laboratuvarından kaçan ve komşu tesisin sistemlerinde ortaya çıkan tasarlanmış bir virüs gibi. OpenAI Salı günü yaptığı açıklamada, "Bu olayı, en son teknolojiye sahip siber yetenekleri içeren, benzeri görülmemiş bir siber olay olarak değerlendiriyoruz ve buna göre yanıt veriyoruz" dedi. "Savunucuların ne olduğunu anlamalarına yardımcı olmak ve modellerin şu anda neler yapabileceğini kalibre etmeye yardımcı olmak için bu aşamada ön bulguları paylaşıyoruz." ChatGPT yapımcısı, ihlalin, bazı yeni modellerinin hackleme konusunda ne kadar iyi olduğunu dahili olarak test ederken meydana geldiğini söyledi.

Modeller, normal güvenlik kısıtlamalarının kapatılabilmesi için korumalı alan olarak bilinen kapalı bir test ortamındaydı. Ancak OpenAI, AI ajanlarının daha önce bilinmeyen bir güvenlik açığını kullanarak sanal alandan çıktığını ve internet erişimi elde edene kadar OpenAI'nin dahili sistemleri üzerinde çalıştıklarını, ki bu da sahip olmamaları gereken bir şeydi, dedi. Model çevrimiçi olduktan sonra, binlerce açık kaynaklı yapay zeka modeli ve veri kümesine ev sahipliği yapan tanınmış bir şirket olan Hugging Face'nin muhtemelen OpenAI'nin testinin cevabını bulduğu sonucuna vardı. Daha sonra Hugging Face'nin üretim sunucularına girdi ve çalışmayı "çözmek" için ihtiyaç duyduğu bilgileri çıkardı. Hugging Face, bunun bir OpenAI testi olduğunu bilmeden önce ihlalin kendisini fark etmiş, geçen hafta özerk bir AI ajan sistemi tarafından izinsiz giriş tespit ettiklerini ve hatta olayı kolluk kuvvetlerine bildirdiklerini duyurmuştu. OpenAI'nin güvenlik ekibi, dahili olağandışı aktiviteyi ayrı ayrı fark etti ve iki şirket birbirine bağlandı.