Görünür düşünce zincirleri yapay zeka için bir güvenlik avantajıdır, ancak bu şeffaflık kaybolmaktadır

Yapay zeka modelleri bugün yüksek sesle düşünüyor ancak Google Deepmind, şeffaflığın risk altında olduğunu söylüyor. Yeni başlatılan Deepmind Institute'un ilk gönderilerinden birinde araştırmacılar Rohin Shah ve Anca Dragan, görünür düşünce zincirinin (CoT) önemli bir güvenlik avantajı olduğunu savunuyor. Modeller ara adımlarını sade bir dille yazdığı için araştırmacılar aldatıcı mı olduklarını yoksa sorunlu planlar mı geliştirdiklerini tespit edebilirler. Gemini 3 Pro ile düşünce zincirinin, modelin bir test ortamında olduğunu fark ettiğini ortaya çıkardığını söylüyorlar. Ancak bu şeffaflık tehlikede. OpenAI'in GPT-6 Astra sistem kartı, düşünce zincirinin ne kadar iyi izlenebileceği konusunda zaten önemli bir düşüş bildiriyor. Gelecek modeller, insanların okuyamayacağı sayı uzaylarında düşünebilir; bu daha etkili ancak tamamen şeffaf olmayan bir yaklaşım olacaktır. Shah ve Dragan, sahanın düşünce zincirlerinin ne kadar iyi izlenebildiğini düzenli olarak ölçmesini, mimarileri şeffaf tutmasını ve eğitim sırasında modellerin gerçek mantıklarını gizlemeyi öğrenmemesine dikkat edilmesini istiyor. Eylül başında, OpenAI baş bilim adamı Jakub Pachocki, kısmen izlenmesi daha zor olan düşünce zincirlerinden kaynaklanan kontrol kaybı konusunda uyarmıştı. Kısa bir süre sonra, Anthropic CEO Dario Amodei, gelişim hızının kasıtlı olarak yavaşlatılması çağrısında bulundu. Reklam Reklamı