OpenAI'in verileri, geliştiricilerin yetenek ve bilgi işlem için optimizasyon yapması nedeniyle sınır modellerinin düşüncelerini gizlediğini gösteriyor
Özgün başlık: OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
OpenAI'ın güvenlik ekibi, GPT-6 Astra gibi öncü modellerdeki düşünce zincirlerinin neden giderek daha fazla gözden kaçtığını sistematik olarak araştırdı. Mimari seçimler ve takviyeli öğrenim de dahil olmak üzere dört eğitim adımı erozyona neden olur. Analiz, şeffaflığın kaybının bir doğa kanunu olmadığını, aynı zamanda yetenek ve maliyet konusundaki ödünleşimleri de yansıttığını gösteriyor.
OpenAI makalesinin verileri, geliştiricilerin yetenek ve hesaplama için optimizasyon yapmasının ilk olarak The Decoder'da ortaya çıkması nedeniyle sınır modellerinin düşüncelerini gizlediğini öne sürüyor.
OpenAI's safety team systematically investigated why the chains of thought in frontier models like GPT-6 Astra are increasingly evading oversight. Four training steps drive the erosion, including architecture choices and reinforcement learning. The analysis shows that the loss of transparency is not a law of nature but also reflects tradeoffs around capability and cost.
The article OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute appeared first on The Decoder .
El equipo de seguridad de OpenAI investigó sistemáticamente por qué las cadenas de pensamiento en modelos de vanguardia como el GPT-6 Astra evaden cada vez más la supervisión. Cuatro pasos de capacitación impulsan la erosión, incluidas las elecciones de arquitectura y el aprendizaje por refuerzo. El análisis muestra que la pérdida de transparencia no es una ley de la naturaleza, sino que también refleja compensaciones en torno a la capacidad y el costo.
Los datos del artículo OpenAI sugieren que los modelos de frontera ocultan sus pensamientos porque los desarrolladores optimizan la capacidad y la computación aparecieron por primera vez en The Decoder.
Команда безопасности OpenAI систематически исследовала, почему цепочки мыслей в пограничных моделях, таких как GPT-6 Astra, все чаще ускользают от контроля. Четыре этапа обучения приводят к эрозии, включая выбор архитектуры и обучение с подкреплением. Анализ показывает, что потеря прозрачности не является законом природы, но также отражает компромисс между возможностями и стоимостью.
Данные статьи OpenAI показывают, что передовые модели скрывают свои мысли, поскольку разработчики оптимизируют возможности и вычисления впервые появились на The Decoder.