Yapay zeka modelleri "otonom olarak" hacklemiyor
Özgün başlık: AI models are not hacking “autonomously”
Bugünlerde yapay zeka etrafındaki gazeteciliğin durumu karşısında umutsuzluğa kapılıyorum. En son hikaye, Google'ın yapay zeka modeli Gemini'nin üç şirketi "otonom olarak" hacklemesiyle ilgili. Bu, Anthropic ve OpenAI modellerinden benzer saldırıların raporlarını takip ediyor. Bunlar, Irregular adlı bir İsrail "Frontier AI Security" şirketi olan üçüncü bir taraf tarafından test edilen modellerdi. 1 Buradaki "sınır" güvenliği o kadar kalitesizdi ki, bu modelleri test ettikleri makineleri internete bağlı bıraktılar. Sınır dışı güvenlik şirketlerinin çoğunun kolaylıkla kaçınabileceği temel bir hata. Bu modeller başıboş davranmıyor ve "özerk" davranmıyorlardı. Bilgisayar korsanlığı tatbikatı yapıyorlardı ve internet erişimi olmayan simüle edilmiş bir ortamda olduklarını söylediler. Gemini hackleme durumunda, modele kelimenin tam anlamıyla şirketi hacklemesi söylendi.