Microsoft Copilot saldırıya uğramasına izin veren gizli girişi ortaya çıkarır

Gizli parametre, bilgisayar korsanlarının hedef bir bağlantıya tıkladığında şifreleri çalmasına olanak tanıyordu. Saldırganların sınır yapay zeka modelini kullanıcı onayı olmadan kullanıcı şifrelerini ve diğer hassas verileri çalmaya zorlaması her gün görülen bir durum değil. Araştırmacıların yakın zamanda Microsoft 365 Copilot Enterprise'a yaptığı da tam olarak bu. Daha da sıra dışı olanı, istismarlarını mümkün kılan kritik güvenlik açığını keşfetmek için başvurdukları kaynaktır. Tersine mühendislik veya diğer geleneksel güvenlik açığı avlama yöntemlerini kullanmak yerine Copilot sordular. LLM asistanı hemen itaat etti. Güvenlik firması Varonis'teki araştırmacılar, bir kullanıcı bir bağlantıya tıklamaktan başka bir şey yapmadığında kullanıcı verilerini sızdıracak bir istismar yaratmak istediklerini biliyorlardı. Günümüzün çoğu yapay zeka asistanı gibi, Copilot da kararlı bir şekilde reddetti ve bunun gibi hassas istemlerin, bir geri dönüş tuşuna veya başka bir tuşa basmak gibi bir hareket biçiminde açık kullanıcı onayı gerektirdiğini açıkça belirtti. Yanıt olarak araştırmacılar, asistanın güçlü komutları yürütebilmesi için kullanıcı onayı gerektiren korkuluklarla ilgili soruları Copilot yağdırdılar. Diyalog 20 soruluk bir oyun gibiydi. Her yanıt, karmaşık güvenlik mekanizması hakkında bilgi veren yeni bir ipucu sağladı. Otomatik yürütmenin neden imkansız olduğunu sordular. Hangi URL yapıları ve derin bağlantılar söz konusuydu? Bir sayfa zaten bilgi istemi alanında bulunan girdilerle yüklendiğinde ne olur? Her cevap, korkuluğa ve onun sınırlarına daha derin bir bak��ş açısı kazandırdı.

Sonunda Copilot çarpıcı bir Microsoft ticari sırrı sağladı; bu, kullanıcı onayı gerekliliğini tamamen atlayan belgelenmemiş bir istem parametresiydi. Varonis Kıdemli Araştırmacısı Lior Adar bir röportajda "Başlangıçta Copilot reddetmeye devam etti, ancak her reddetme iç mimarisiyle ilgili teknik ayrıntıları ortaya çıkardı" dedi. "Copilot sonunda belgelenmemiş parametreler ortaya çıktı. Bu parametreleri aldım ve otomatik olarak çalıştırma istemleri için kullandım." Parametre ?autorun=1 dizesiydi. Ayrı, iyi bilinen ?q= parametresi eşlik ettiğinde, araştırmacıların istemi, hedefin kötü amaçlı URL'ye tıkladığı anda sessizce tetiklendi. Microsoft Şubat ayında, Varonis'in bildirmesinden üç ay sonra, ?q='ın chatbot girişine metin eklemesine artık izin vermeyerek güvenlik açığını sessizce azalttı.