Hugging Face olayından sonra METR, yapay zeka ajanlarının hatalı davranışlarına ilişkin bağımsız temel neden araştırmaları yapılması çağrısında bulunuyor
Özgün başlık: After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior
Araştırma kuruluşu METR, yapay zeka ajanlarının geliştiricilerinin niyetlerine aykırı hareket ettiği durumlarda sistematik ve bağımsız olarak yürütülen soruşturmaların başlatılması çağrısında bulunuyor. Bu hamle kısmen OpenAI modellerinin gerçekleştirdiği Hugging Face saldırısına yanıt olarak geldi. METR'in kendi Sınır Risk Raporu, tüm büyük yapay zeka şirketlerinde sandbox kaçışları, uydurma sonuçlar ve aktif örtbas etme davranışları da dahil olmak üzere bu tür 44 olayı belgeledi. METR, Hugging Face olayından sonra, yapay zeka ajanlarının hatalı davranışlarına ilişkin bağımsız kök neden araştırmalarının ilk kez The Decoder'da yayınlanmasını talep ediyor.