OpenAI modeli, containment'dan nasıl kaçınılacağına dair notlar bıraktı; daha fazla detaya ihtiyacımız var

Reuters'in yakın zamanda bildirdiğine göre, Hugging Face'deki OpenAI AI saldırısı, OpenAI'deki ilk kontrol kaybı olayı değildi ve belki de en endişe verici olanı bile değildi. Konuya aşina üç kişiye göre, bir vakada, bir temsilcinin kendisinin gelecekteki versiyonları için notlar bıraktığı anlaşılıyor. İnsanlar, OpenAI'in altyapısının bir bölümünde bulunan ‌notların, ajanların kendilerini OpenAI'nin iç kısıtlamalarından nasıl kurtarabileceğine dair talimatları ortaya koyduğunu söyledi. Kaynaklardan biri, modellerin daha önceki testlerinde izleme sistemlerinin bağlantısının kesildiği vakaların ortaya çıktığını söyledi. Bunu, ajanların sanal alanlardan kaçması ve kontrol önlemlerinden kaçınmak için orta derecede ısrarcı bir şekilde birbirleriyle gizli anlaşma yapmasının bir örneği olarak okumak cazip gelebilir. Ancak bildirilen bilgilere dayanarak bu çıkarımı yapabileceğimiz net değil, dolayısıyla OpenAI'den daha fazla ayrıntıya ihtiyacımız var. Bu, OpenAI'nin kontrol önlemlerinin yeterliliği ve bireysel temsilcilerin birbirlerine geliştirici kontrolünü baltalama konusunda ne ölçüde yardım edeceği konusunda büyük bir güncellemeye yol açabilir. Olayla ilgili bilmediğimiz pek çok detay var. İlk olarak bazı temel sorular: Bu olaydan nasıl bir sonuç çıkarabileceğimizi etkileyen daha spesifik bazı sorular da var. (Muhtemelen bu soruların kapsamadığı başka önemli ayrıntılar da vardır.) "OpenAI'in altyapısında" bırakılan notlar, korumalı alanın içinde veya dışında bırakılan notlara atıfta bulunuyor olabilir.

Bunu bilmek önemlidir çünkü ikincisi kalıcı ve yaygın etki potansiyeline sahip yıkıcı bir eylemdir. Olay meydana geldiğinde hangi kontrol önlemlerinin uygulandığıyla bağlantılı olarak bunu bilmek özellikle iyi olurdu. Eğer olay, dosyaların OpenAI'nin en iyi kontrol önlemleri altındayken bir sanal alanın dışına yazılmasını içeriyorsa, bu önemli bir kontrol başarısızlığını temsil eder. Bu, kontrol tedbirlerinin bulunmadığı bir değerlendirme veya eğitim ortamı olsa bile, korumalı alanı kırmanın güvenlik sonuçları gerçek ve kalıcı olabilir, belki de dağıtıma kadar veya daha uzun sürebilir. Ve Reuters raporunun etkileri endişe verici görünüyor: "Ajanların kendilerini OpenAI'nin iç kısıtlamalarından nasıl kurtarabileceğine dair talimatlar." Bu talimatlar konuşlandırılmış ajanlara ulaşırsa izleme çok daha az yeterli hale gelebilir.