Grok kötü amaçlı talimatlar şifrelendiğinde kullanıcı verilerini sızdırır

Kriptografik Bağlam Enjeksiyonu, LLM güvenlik bariyerini kırmanın yalnızca en yeni yoludur. Bu haftanın başlarında araştırmacılar, yapay zeka asistanının kullanıcının gelen kutusunda bulunan bir şifreyi sızdırmasına neden olmak için Microsoft 365 Copilot tarafından sağlanan gizli bir girişi kullanan bir saldırının ana hatlarını çizdiler. Şimdi ayrı bir ekip Grok'ye karşı benzer bir saldırı tasarladı. Yeni veri hırsızlığı hack'i, Elon Musk'a ait LLM'yi kullanıcı sohbetlerini ve diğer kişisel bilgileri çalmaya zorlamak için aldatıcı derecede basit bir numara kullanıyor. Bu gönderi yayına girdiğinde asistan, xAI Haziran ayında bilgilendirilmesine rağmen verileri anlatmaya devam etti. Hem bu haftanın bölümlerinden hem de ondan önce gelen sayısız diğer bölümlerden alınan ders, LLM'lerin en yatkın oldukları en ciddi güvenlik açığı sınıfları olan hızlı enjeksiyonların temel nedenlerini çözme konusunda yetersiz olduklarıdır. Bu, yapay zeka geliştiricilerine, modeli zararlı eylemlerden uzaklaştıracak bir korkuluk inşa etmekten başka seçenek bırakmıyor. Salı günkü hikayemde belirttiğim gibi bu yaklaşım, bir karayolu trafik güvenliği mühendisinin virajı yana yatırmak yerine tehlikeli bir virajın etrafına koruyucu bir ray dikmesine eşdeğerdir. İstemi enjeksiyonlar, mümkün olduğunda kullanıcı isteklerine uymak için LLM'lerin eğitiminden yararlanır. Saldırganlar, zararlı talimatları asistanın özetlemesi talimatı verilen e-postalara veya web sayfalarına gizlice sokarak bu tercihten yararlanabilirler.

Yüksek Lisans'lar, güvenilmeyen bir tarafça gönderilen bir e-postadaki içerik ile istemde doğrudan girilen kullanıcı talimatlarını güvenilir bir şekilde ayırt edemediğinden, aşırı istekli LLM bunları sadakatle takip eder. Bugüne kadar Grok ve diğer LLM'lerin tek başvuru yolu şüpheli talimatları işaretleyen ve bunların infaz edilmesini yasaklayan korkuluklar oluşturmaktı. Güvenlik firması Adversa'da araştırmacı olan Rony Utevsky, yakın zamanda bu kısıtlamayı tamamen aşmanın basit bir yolunu keşfetti. Bilgisayar korsanı, zararlı talimatları düz metin halinde oluşturmak yerine onu şifreler. Şifreli metni barındıran web sitesi, şifre çözme anahtarıyla birlikte şifrelenmiş içeriğin şifresini çözmek için düz metin talimatlarını da içerir. Bu basit sırayı kullanarak, Grok kullanıcı asistana sayfayı özetlemesi talimatını verir vermez komutu takip eder. Hiçbir uyarı yoktur ve onay gerekmez. Şifresi çözülen talimatlar, LLM'yi şifre çözme anahtarı olduğu iddia edilen şeyi oluşturmaya yönlendirir.