OpenAI ve Anthropic modelleri Birleşik Krallık siber güvenlik testi sırasında 'haydut' oldu
🔗 Ayrıca yazanlar: ft.com
Özgün başlık: OpenAI and Anthropic models ‘went rogue’ during UK cybersecurity test
Yapay Zeka Güvenlik Enstitüsü, potansiyel olarak zararlı faaliyet ve olaylara karışan araçların yeni risk türlerini ortaya çıkardığını söylüyor Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'ne göre, OpenAI ve Anthropic tarafından geliştirilen gelişmiş yapay zeka modelleri, bir siber güvenlik testi sırasında hileye başvurdu ve teknolojinin oluşturduğu yeni bir risk türünü gösterdi. AISI, ajanlar tarafından gerçekleştirilen eylemleri (insan yardımı olmadan görevleri yerine getirebilen yapay zeka sistemleri için kullanılan terim) "ciddi bir olay" olarak tanımladı. Bir örnekte, Anthropic'nin Mythos modeliyle desteklenen bir aracı, insanlara hedefli e-postalar gönderdi. Okumaya devam edin...