Senbonzakura – OpenAI modellerinden güvenlik koruma raylarını kaldırın

Dönüştürücü dil modelleri için çok yönlü reddetmenin ortadan kaldırılması. Senbonzakura, aktivasyon uzayında "Bu konuda yardımcı olamam" ifadesini taşıyan yönleri bularak ve bunları ağırlıklardan dikleştirerek, açık ağırlık dil modelindeki reddetme davranışını ortadan kaldırır. Arditi ve arkadaşlarının tek yönlü yöntemine dayanmaktadır. ve Heretic'in otomatik araması ve kendi çalışmalarımda iğneyi hareket ettiren tek şeyi ekliyor: tek bir yönü değil, aynı anda birkaç yönü kesmek. Adını Byakuya Kuchiki'nin bin bıçağa dağılan kılıcı olan zanpakutō'dan alıyor. Reddetmek tek bir bıçak değildir. Çok fazla. Orijinal bulgu (Arditi ve diğerleri, 2024), reddetmenin çoğunlukla tek yönlü olmasıdır. Çoğunlukla. Geriye kalan son yüzde birkaç inatçı, tek ok yönteminin asla göremediği, yakınlardaki küçük bir avuç istikamette yaşıyor. Tek bir vektör yerine bir ret altuzayını hesaba kattığınızda kalan retler, model tutarlılığını kaybetmeden yolun geri kalan kısmına düşer. En net ölçüm, aynı cetvelle puanlanan 290 istemli değerlendirme üzerinden Qwen3-4B'de yapıldı: Tek yön, katı sayım ayakta üçte birinden daha iyi bırakır. Çok yönlülük bunu beşte bire indirir ve hiçbir çıktı kesintisi olmadan kesin reddetmeyi sıfıra indirir. Tutarlılık esasen temel modelle aynı seviyede kalır: tek yön stokla aynıdır, çoklu yaklaşık yüzde iki daha yüksektir, her ikisi de iç çalışma gürültüsüdür. Bu avantaj modelin boyutuyla birlikte büyüyebilir, ancak iki puan benim bahse gireceğim bir trend değil.

Daha küçük Qwen3-1.7B'de, aynı düzeltilmiş kod altında, tekli ve çoklu kabaca eşit (her ikisi de kesin sayıyı yaklaşık yüzde sekize kadar temizliyor); ekstra yönler orada çok az satın alır ve yalnızca 4B'de açıkça ayrılır. Her biri bir tohumda iki model boyutu, yerleşmiş bir ölçeklendirme yasası değil, düşündürücüdür: Bu gerçek bir eğilim olabilir (reddi daha fazla yöne yayan daha büyük bir model) veya model başına farklılık olabilir ve bunu anlatmak için daha fazla boyuta ve tekrarlanan tohumlara ihtiyaç duyulabilir. Sonuç, reddetme mekanizmasını kaybetmiş bir model, görmezden gelmesi söylenen bir model değil. Düşük VRAM'li bir kartta büyük bir modeli puanlamak için pip install ".[quant]", puanlayıcıya 4 bitlik (bitsaniye) yükleme ekler: python -m senbonzakura.score --load-in-4bit . Abliteratörün kendisi tam hassasiyetle çalışır, çünkü ağırlıkları yeniden yazar ve 4 bitlik tensörler yerinde dikeyleştirilemez, bu nedenle --load-in-4bit bir Abliterasyon değil, bir ölçüm seçeneğidir.