Yeni araştırmaya göre yapay zeka denetçileri çoğu temsilcinin uygunsuz davranışını yakalıyor ancak incelemecileri yanlış alarmlarla dolduruyor
Özgün başlık: AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
Anthropic araştırmacısı Andy Hall tarafından yapılan bir araştırmaya göre, yapay zeka modelleri, diğer yapay zeka ajanlarının günlüklerdeki sorunlu davranışlarını sıklıkla tespit edebiliyor. GPT-5, ödül korsanlığı vakalarının yaklaşık yüzde 98'ini buldu, ancak arama ne kadar kapsamlı bir şekilde ayarlanırsa, o kadar fazla yanlış alarm birikiyor.
Güvenilir güvenlik kontrolleri için bu henüz yeterli değil. Yapay zeka denetçilerinin çoğu temsilcinin hatalı davranışını yakaladığı ancak incelemecileri yanlış alarmlarla doldurduğu makale, yeni çalışma bulguları ilk olarak The Decoder'da yayınlandı.
AI models can often spot problematic behavior by other AI agents in logs, according to a study by Anthropic researcher Andy Hall. GPT-5 found about 98 percent of reward-hacking cases, but the more exhaustively the search is tuned, the more false alarms pile up.
That's not yet enough for reliable safety checks. The article AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds appeared first on The Decoder .
Los modelos de IA a menudo pueden detectar comportamientos problemáticos por parte de otros agentes de IA en los registros, según un estudio realizado por el investigador de Anthropic Andy Hall. GPT-5 encontró alrededor del 98 por ciento de los casos de piratería de recompensas, pero cuanto más exhaustiva es la búsqueda, más falsas alarmas se acumulan.
Esto todavía no es suficiente para realizar controles de seguridad fiables. El artículo Los auditores de IA detectan la mayoría de los malos comportamientos de los agentes, pero inundan a los revisores con falsas alarmas, según un nuevo estudio apareció por primera vez en The Decoder.
Согласно исследованию исследователя Anthropic Энди Холла, модели ИИ часто могут обнаружить проблемное поведение других агентов ИИ в журналах. GPT-5 обнаружил около 98 процентов случаев взлома с вознаграждением, но чем тщательнее настроен поиск, тем больше накапливается ложных тревог.
Этого еще недостаточно для надежных проверок безопасности. Статья «Аудиторы искусственного интеллекта выявляют большинство неправомерных действий агентов, но заваливают рецензентов ложными тревогами». Результаты нового исследования впервые появились на сайте The Decoder.