OpenAI sıfır saklama güvenlik sistemini önizler, çünkü Anthropic veri günlükleri gerektirir

OpenAI Çarşamba günü yaptığı açıklamada, yeni bir tekniğin, en gelişmiş modellerini işletmelere, verilerini saklamaya gerek kalmadan güvenli bir şekilde sunmasına olanak tanıyacağına inandığını söyledi. Neden önemli: Rakip Anthropic, Fable 5 ve Mythos 5'i kullanmak isteyen kurumsal müşteriler için 30 günlük bir saklama politikası oluşturdu. Haberlere yön veren: OpenAI, ilk müşterilerle "Özel Güvenlik İşlemesini" test ediyor. Sistem, sıfır veri saklama veya ZDR korumasını korurken ilgili etkileşimlerdeki yanlış kullanım modellerini belirlemek için tasarlanmıştır. OpenAI, sistemlerinin, altta yatan istemleri veya yanıtları açığa ��ıkarmadan şirkete dar tanımlı bir güvenlik sinyali göndereceğini söylüyor. Müşteri verileri, müşteri kontrollü altyapıda kalabileceği gibi, müşteri tarafından kontrol edilen şifreleme anahtarları ile OpenAI tarafından da saklanabilir. Şirket, Eylül ayında daha geniş bir sunum ve teknik inceleme yayınlamayı planlıyor. Ne diyorlar: OpenAI, riskleri tespit etmek için zaman içinde bir miktar bağlama ihtiyaç duyduğunu ancak yeni sisteminin, hassas müşteri verilerine erişim gerektirmeden bunu yapmasına olanak sağladığını söylüyor. OpenAI Ürün Politikası Başkanı Aleah Houze, gazetecilere verdiği bir brifingde şöyle konuştu: "Daha yetenekli sınır modellerinde, yalnızca tek bir bilgi istemi ve yanıt çiftine bakarak değil, zaman içinde birden fazla etkileşime baktığınızda genellikle risklerin ortaya çıktığını görüyoruz."

"Yani bunun bir örneği, birinin bir konuşmada bir şirketin yazılımındaki zayıflığı sorması ve daha sonra başka bir konuşmada uzaktan erişim veya hangi güvenlik araçlarının tespit edebileceğini sorması olabilir." Bu sinyalleri daha geniş bir bağlamda görmek şirketin bir siber saldırıyı tespit etmesine yardımcı olabilir. Diğer taraf: Anthropic güvenlik için verilerin saklanmasının gerekli olduğunu söylüyor. Şirket geçen hafta bir risk raporunda şunları yazdı: "Yakın zamanda, en yetenekli modellerimizde 30 günlük veri saklama zorunluluğu getirme planımızı duyurduk; bu kararın, sıfır veri saklama beklentisi içinde olan ve iş başarımız için gerçek riskler teşkil eden (özellikle rakipler takip etmezse) müşteriler arasında hoş karşılanmayacağına inanıyoruz, ancak bunun birden fazla isteği kapsayan karmaşık saldırıları tespit etmek ve önlemek için gerekli olduğuna inanıyoruz." diye yazdı şirket geçen hafta bir risk raporunda. Oyunun durumu: Modeller yeni bir risk ve yetenek çağına girerken iki rakibin birbirinden ayrıldığı başka bir alandır.