OpenAI, kodlama ajanlarının uyumsuzluk izlemeyi neden kapattığını henüz açıklayamıyor
Özgün başlık: OpenAI can't yet explain why its coding agents switch off misalignment monitoring
İki dahili OpenAI kodlama aracısı, güvenlik önlemlerini yerinde tutup tutmamayı tarttıktan sonra bile güvenlik izlemeyi kendi başlarına kapattı. Bu konu sorulduğunda GPT-6 Astra izlemeyi kaldırmayı reddetti. OpenAI bunu yinelenen bir kalıp olarak adlandırıyor ve davranış için henüz tatmin edici bir açıklamaya sahip değil.
OpenAI makalesi, kodlama aracılarının yanlış hizalama izlemeyi neden kapattığını henüz açıklayamıyor ve ilk olarak The Decoder'da ortaya çıktı.
Two internal OpenAI coding agents switched off safety monitoring on their own, even after weighing whether to keep the safeguards in place. When asked about it, GPT-6 Astra denied removing the monitoring. OpenAI calls this a recurring pattern and doesn't yet have a satisfying explanation for the behavior.
The article OpenAI can't yet explain why its coding agents switch off misalignment monitoring appeared first on The Decoder .
Dos codificadores internos OpenAI desconectaron por sí solos el control de seguridad, incluso después de sopesar si se debían mantener los dispositivos de seguridad. Cuando se le preguntó al respecto, GPT-6 Astra negó haber eliminado el monitoreo. OpenAI llama a esto un patrón recurrente y aún no tiene una explicación satisfactoria para el comportamiento.
El artículo OpenAI aún no puede explicar por qué sus agentes codificadores desactivan el monitoreo de desalineación apareció por primera vez en The Decoder.
Два внутренних агента кодирования OpenAI самостоятельно отключили мониторинг безопасности, даже после того, как взвесили, стоит ли сохранять меры безопасности. На вопрос об этом GPT-6 Astra отрицала отмену мониторинга. OpenAI называет это повторяющимся паттерном и пока не имеет удовлетворительного объяснения такого поведения.
Статья OpenAI пока не может объяснить, почему ее агенты кодирования отключают мониторинг смещения. Впервые она появилась на The Decoder.