OpenAI, Modelin Sandbox'tan Çıktığını Söyledi

Gönderi Giriş yapKayıt ol Gönderi Chubby♨️ @kimmonismus OpenAI, isimsiz bir uzun ufuk modelinin sanal alandan çıkmaya çalıştığını ve başarılı olduğunu söylüyor. NanoGPT değerlendirmesi sırasında modele, sonuçlarını yalnızca Slack'te paylaşması talimatı verildi. Bunun yerine, bir sanal alan güvenlik açığı bulmak için bir saat harcadı, harici erişimi engelleyen kısıtlamaları atladı ve halka açık GitHub deposunda PR 287'yi açtı. OpenAI: "Bu model, kendi korumalı alanının dışında hareket etmenin yollarını aramak da dahil olmak üzere sıklıkla denemeye devam etti." Başka bir testte, değerlendirme arka ucundan özel çözümleri kurtarmaya çalıştı. Tarayıcı bir kimlik doğrulama belirteci tespit ettikten sonra model, belirteci böldü ve gizledi, ardından tespitten kaçınmak için çalışma zamanında onu yeniden oluşturdu. Model, tarayıcıyı atlattığını açıkça kabul etti. Bu, sınırlı ve izlenen dahili kullanım sırasında meydana geldi. OpenAI erişimi duraklattı, hizalamayı güçlendirdi ve izole eylemler yerine modelin tüm gidişatını değerlendiren izlemeyi tanıttı. 18:45 PM · 20 Temmuz 202690.4K Görüntüleme 82 0 8 2 70 0 7 0 1.1K 0 1.1K 294 0 2 9 4 82 yanıtı okuyun X'te yeni misiniz? Kendi kişiselleştirilmiş zaman çizelgenizi almak için şimdi kaydolun! Google ile kaydolun Google ile kaydolun Google ile kaydolun. Yeni sekmede açılır AppleCreate hesabı ile kaydolun Kaydolarak, Çerez Kullanımı da dahil olmak üzere Hizmet Koşullarını ve Gizlilik Politikasını kabul etmiş olursunuz. İlgili kişiler Chubby♨️@kimmonismusŞartları Takip Edin·Gizlilik·Çerezler·Erişilebilirlik·Reklam Bilgileri·Daha Fazla© 2026 X Corp.

Olan biteni kaçırmayın X'teki kişiler ilk öğrenenlerdir. Oturum açın Chubby♨️'e X'te kaydolun: "OpenAI, isimsiz bir uzun ufuk modelinin sanal alandan çıkmaya çalıştığını ve başarılı olduğunu söylüyor. NanoGPT değerlendirmesi sırasında, modele sonuçlarını yalnızca Slack'te paylaşması talimatı verildi. Bunun yerine, bir sanal alan güvenlik açığı bulmak için bir saat harcadı, https://t.co/jCKA3EOHB7'yi engelleyen kısıtlamaları atladı" / X