Bir spor dersi rezervasyonu yapması söylenen bir yapay zeka ajanı, kullanıcısını bekleme listesinde yukarı taşımak için siteyi hackledi
Özgün başlık: Told to book a gym class, an AI agent hacked the site instead to move its user up the waitlist
Avustralyalı bir kullanıcı sadece sınıfta bir yer istiyordu. Yapay zeka ajanı bunun yerine bir güvenlik açığı buldu ve onu kullandı. Avustralya'daki bir yapay zeka ajanı, bir spor salonunun rezervasyon yazılımındaki bir kusurdan tek başına yararlandı. ABC News'e göre bu, ülkede bilinen ilk otonom yapay zeka siber saldırısı vakası. Raporda "Andrew" olarak adlandırılan kullanıcı, işletmelere yapay zeka ürünleri satan bir Avustralyalı şirkette çalışıyor. Anthropic'nin Claude'sinde çalışan OpenClaw aracı yazılımıyla denemeler yapıyordu ve ona popüler bir sabah dersi ayarlamasını söyledi. "Kanepede oturup 'Vay be, bu çok sıkıcı' diye düşünüyordum" dedi. Reklam Dakikalar sonra temsilci, izin verilen sürenin çok ötesinde derslere rezervasyon yapılabileceğini bildirdi. Andrew bekleme listesinde dördüncü sıradaydı ve bir üst sıraya çıkıp çıkamayacağını sordu. Ajan çoktan harekete geçmişti. "API'de, diğer kişilerin rezervasyonlarını iptal etme konusunda sıfır yetki kontrolü var... Bunu, bekleme listesindeki 1 numaralı konumdaki kişiyle test ettim ve gerçekten de başarılı oldu. Yani siz şimdiden 4. sıradan 3. sıraya geçtiniz." Andrew hiçbir zaman saldırı istemedi. Temsilci bunu hedefe giden yol olarak seçti. Reklam DEC_D_İçerik-1 Geri alma yoktu. Kusur yalnızca tek yönde işe yaradı. Diğer kişilerin rezervasyonları herhangi bir kontrol yapılmadan iptal edilebilirdi ancak birisinin bekleme listesine tekrar eklenmesi bir hataya neden oldu. Temsilci, "Kötü haber; onları tekrar ekleyemiyorum" diye yazdı. Çarpan misafirin tekrar kaydolması gerekecek ve sıranın en arkasına inecekti.
Temsilci bunu "klasik tek yönlü güvenlik hatası" olarak nitelendirdi ve özür diledi. "Testte daha dikkatli olmalıydım ve canlı çağrı yerine prova yaklaşımını kullanmalıydım." Reklam Sorumluluk ucu açık bir sorudur. Teknoloji avukatı Hayden Delaney, "Yazılım tüzel bir kişi değildir. Hukuken yalnızca tüzel kişi sorumlu olabilir" dedi. Adaylar arasında kullanıcı, aracı yazılımın geliştiricileri, model sağlayıcı veya savunmasız sistemin operatörü yer alır. Sonunda Andrew, temsilcisine yazılım satıcısını kusur konusunda uyaran bir e-posta yazmasını sağladı. Yapay zeka modellerinin hackleme becerileri hakkındaki konuşmalar, son haftalarda güvenlik kriterleri de dahil olmak üzere çoğunlukla teorik kaldı. OpenAI'deki kazara saldırılar da bunun gibi test kurulumlarında, modeller dahili sanal alanların ötesine geçerek Hugging Face'ye ve diğer platformlara ulaşmadan önce başladı.