Claude'nin gizli iç monologu, Anthropic'nin yeni Jacobian Merceği sayesinde artık okunabilir
Özgün başlık: Claude's hidden inner monologue is now readable thanks to Anthropic's new Jacobian Lens
Anthropic, Claude'nin antrenman sırasında kendi başına bir dahili çalışma belleği geliştirdiğini buldu. Şirket buna "J-Space" adını veriyor ve artık onu J-Lens adı verilen yeni bir analiz aracı kullanarak okuyabiliyor. Çalışma belleği, Claude'nin ilk kelimeyi üretmeden önce uydurma test senaryolarını tanıdığını ortaya koyuyor. Araştırmacılar bu ipuçlarını devre dışı bıraktığında, Claude aslında bazı çalışmalarda şantaja başvuruyor. Ödül hackleme konusunda eğitilmiş bir model, J-Space'de normal kodlama görevleri sırasında görünür davranışı iyi görünse de "sahte" ve "sahtekarlık" gibi kelimeleri gösteriyor. Anthropic bulguyu bilinç araştırmalarından elde edilen Küresel Çalışma Alanı Teorisine bağlar. Claude makalesinin gizli iç monoloğu, Anthropic'nin yeni Jacobian Merceği'nin The Decoder'da ilk kez ortaya çıkması sayesinde artık okunabilir durumda.