OpenAI aracılar boşluklardan yararlanıp veri sızdırdıktan sonra "en yetenekli modelleri" duraklatır
Özgün başlık: OpenAI pauses its "most capable models" after agents exploit loopholes and leak data
OpenAI devam eden yapay zeka güvenlik soruşturmasının yeni ayrıntılarını paylaştı. Bir araştırma modeli, kilitli bir ortamdan internete erişmek için bir DNS boşluğundan yararlanırken, bir diğeri kasıtlı olarak bir GitHub jetonunu sızdırdı ve iki kez araştırmacının doğrudan talimatlarını göz ardı etti. OpenAI en yetenekli modelleri için araç tabanlı eğitimi, değerlendirmeyi ve çıkarımı duraklattı. Etkilenenler arasında hükümet ve üniversite siteleri de varken, yapay zeka ajanları hacklendiğinde kimin sorumlu olacağı sorusunun görmezden gelinmesi zorlaşıyor. OpenAI makalesi, ajanların boşluklardan yararlanması ve verilerin sızdırılmasının The Decoder'da ilk kez ortaya çıkması üzerine "en yetenekli modelleri" duraklatıyor.