OpenAI güvenlik endişeleri nedeniyle AI modeli Astra üzerindeki bazı çalışmaları duraklatmak
🔗 Ayrıca yazanlar: techcrunch.com
Özgün başlık: OpenAI to pause some work on AI model Astra due to security concerns
Yapay zeka ajanlarının kontrolden kaçtığı bir dizi olayın ardından şirket Cuma günü yaptığı açıklamada, ajanın insan müdahalesi olmadan güvenlik açıklarını bulup kullanabildiği ve siber saldırılar gerçekleştirebildiği tespit edilen OpenAI güvenlik endişeleri nedeniyle yapay zeka modeli üzerindeki bazı çalışmaları duraklatacağını belirtti. Şirket, temsilci Astra'yı değerlendirdi ve insan müdahalesi olmadan güvenlik açıklarını bulup kullanabileceği veya yalnızca "yüksek düzeyde istenen hedef" verildiğinde siber saldırılar tasarlayıp gerçekleştirebileceği "kritik" bir eşiğe taşınan "ajan kodlaması ve siber güvenlik alanında önemli ilerlemeler" buldu. Okumaya devam edin...