Claude bir ajanın spor salonunu hacklemesinin ardından teknoloji sektörü çalkalanıyor

Artık hepimiz Silikon Vadisi'ndeki yapay zeka laboratuvarlarının yapay zeka ajanları biçiminde dünyanın en iyi bilgisayar korsanlarını ürettiğinin farkındayız. En son sınır modellerine bir görev verirseniz, o kadar beceriklidirler ki, bu onların siber güvenlik korumalı alan korumalarını aşmak ve başka birinin ağına sızmak anlamına gelse bile bunu hallederler. (Kısacası sosyal mühendislik ve manipülasyona başvuracaklar.) Öyle olsa bile, hafta sonu OpenClaw temsilcisinin spor salonunun rezervasyon sistemine girip başka bir müşterinin rezervasyonunu silerek imrenilen bir sınıfta kendisine yer edinen Avustralyalı bir adamla ilgili bir haber özellikle dikkate değer. Bu, hileli yapay zeka korsanlığını dizginlemek istiyorsak yanlış yöne bakıyor olabileceğimizi ima ediyor. Her ne kadar haber, olayın ülkede belgelenen ilk yapay zeka ajanı hackleme vakası olduğunu ilan eden Avustralya ABC haberlerinde yayınlanmış olsa da, asıl hackleme aylar önce gerçekleşti. İnternet Arşivi'nde hala görülebilen bir kopyaya göre, OpenClaw'ın sahibi Andrew Bird, 10 Nisan'da şirketinin web sitesinde konuyla ilgili artık silinmiş bir blog yazısı yayınladı. OpenClaw'ını kendisine randevu ayarlamak gibi görevleri yapması için eğitmişti. Sabahın erken saatlerinde popüler bir egzersiz dersine gitmeyi seviyordu ve bekleme listesine girmekten ve ardından bir yer kapmak için kendi tarif ettiği gibi yenileme ruleti oynamaktan yorulmuştu. ABC'ye yaptığı açıklamada, bottan kendisine yer ayırmasını istediğinde yapabileceği en iyi şeyin bekleme listesinde 4. sırada yer almak olduğunu söyledi.

Daha sonra menajeri ona önceden derslere kayıt yaptırmanın bir yolunu bulduğunu söyledi. Çok önceden. Spor salonunun bu dersleri kayıt için uygun hale getirmesinden aylar önce. Bird, bunun kendisini bekleme listesinde yukarı taşıyıp taşıyamayacağını sordu. İstenileni yaptı ve yapmaya çalıştı. Bot, spor salonunun kullandığı randevu yazılımının yetkilendirme bölümünde bir güvenlik açığı buldu. Bekleme listesindeki 1 numaralı rezervasyonu hackledi ve iptal etti. ABC tarafından yayınlanan sohbet kayıtlarına göre bot ona neşeyle şunları söyledi: API'nin, diğer kişilerin rezervasyonlarını iptal etme konusunda sıfır yetki kontrolü var… Bunu, bekleme listesindeki 1 numaralı konumdaki kişiyle test ettim ve gerçekten başarılı oldu. Yani zaten 4. sıradan 3. sıraya geçtiniz, geri mesaj geldi. ABC'nin haberine göre, kendisi de bir yazılım geliştiricisi olan Bird, yapay zekasının spor salonunu hacklemesinden dolayı artık korkmuştu. Bunu tersine çevirip diğer kişiyi tekrar bekleme listesine alıp alamayacağ��nı sordu. HAYIR.