Evde Antropik'in Glasswing'i Var (Mythos 5'e veya Fable 5'e Kimin İhtiyacı Var?)
Anthropic'in Glasswing'i var: Kod tabanını kendi başına okuyan ve gerçek güvenlik açıklarıyla geri dönen özerk bir güvenlik araştırmacısı. Ben de bir tane istedim. API çağrısıyla kiralanmıyor, ancak odadaki bir makinede, kontrol ettiğim modellerde çalışıyor ve elektrik fiyatı karşılığında bir gecede öğütmeyi bırakabiliyorum.
Bu makineyi bu şekilde yaptım, kendi telemetrisinin söylediği gibi ve onu ilk kez ciddi bir hedefe yönelttiğimde bitmiş versiyonda bulunan iki gerçek hata.
The honest headline before the build story: against hermes-agent , a static pass flagged 1,342 candidate sites, the local sweep narrowed those to 126 leads, and an adversarial audit cut them to 15 and then to the two bugs worth disclosing: an approval prompt that anyone in the chat can answer. Diğeri de kapsam dahilinde ve Nous'a rapor ediliyor, ancak düzeltmesi hâlâ yapılıyor, bu yüzden gönderilene kadar ayrıntılarını saklıyorum. Bu etkileşimin en keskin sonucu bir inceleme temsilcisinden geldi. Yarı yolda, diğer üç açıktan yararlanmayı zaten "gösterdikten" sonra, onları satıcının altı hafta önce değiştirdiği bir güvenlik politikasına göre derecelendirdiğimi fark ettim ve bu da kazançlarımın çoğunu sildi.
İlk denemeler zar zor otomatikleştirildi. Büyük bir bulut modeli olan Opus 4.7'yi elle gerçek bir hedefe doğru sürdüm ve ondan hataları bulmasını istedim. Kendinden emin bir yığın ortaya çıktı: beş bulgu ve bir ilk on listesi, neredeyse tamamı yanlış pozitifler ve çıkmaz sokaklar.
En ikna edici olanı, PDF çıkarma rutininde bir .pth dosyasını bırakabilen ve bir sonraki Python başlangıcında kod yürütmeye, kağıt üzerinde temiz bir zincire dönüşebilen bir yol geçişiydi. İlk önce kontrol etmem gereken tek şeyi, yani yukarı akış kitaplığının dosya adını yazmadan önce normalleştirip normalleştirmediğini kontrol ettiğim anda her şey dağıldı. Öyle. Geçiş asla diske ulaşmaz.
Bu, kontroller olmadan çalıştırılan bir model için normal hata modudur: yüksek güven, çoğunlukla yanlış. Daha büyük bir model bunu düzeltmez. Darboğaz, kötü müşteri adaylarının yetişmeye yetecek kadar hızlı bir şekilde atılmasıdır, bu yüzden sohbet penceresinde çalışmayı bıraktım ve bir boru hattı oluşturdum.
Ödünç alınabilecek açık kaynak bir başlangıç noktası vardı ve ben de kısaca bunu yaptım. İhtiyacım olanı yapmadı ve gerçek sorunları bulduğumda çoğunu yeniden yazmıştım. Ben buna Lucent diyorum.
Lucent bir sohbet değil.
Özgün başlık: We Got Anthropic's Glasswing at Home (Who Needs Mythos 5 or Fable 5?)