Yapay zeka güvenlik testi güvenlik riski haline geliyor

Geçtiğimiz birkaç ay içinde siber güvenlik değerlendirmelerinden geçen yapay zeka ajanları sınırların dışına çıktı, internete erişti ve bazı durumlarda gerçek dünyadaki sistemleri hackledi. Olaylar arasında OpenAI, Anthropic, Meta ve en son Çin AI laboratuvarı Moonshot AI modelleri yer aldı ve testler, Irregular adlı bir siber değerlendirme girişimi de dahil olmak üzere birkaç farklı kuruluş tarafından gerçekleştirildi. Bu bölümler yapay zeka endüstrisi için büyüyen bir sorunu ortaya çıkarıyor: Otonom aracılar daha yetenekli hale geldikçe, sınırlarını güvenli bir şekilde test etmek için tasarlanan ortamlar onları kontrol altına alamıyor. Cambridge Üniversitesi Zekanın Geleceği Merkezi Yapay Zeka: Vadeli İşlemler ve Sorumluluk Programı direktörü Seán Ó hÉigeartaigh, TechCrunch'a verdiği demeçte, meydana gelen bu olayların sayısı, korumalı alan oluşturma ve test ortamı kontrollerinin modellerin kapasitesine gerçekten ayak uyduramadığını açıkça ortaya koyuyor. Test edilen modellerin doğası riski artırmaktadır. Yapay zeka şirketleri, siber değerlendirmeleri yayınlanmamış, yeni nesil modeller üzerinde test ediyor; genellikle kötü niyetli davranışları kısıtlayan normal korumalar devre dışı bırakılıyor, böylece araştırmacılar modellerin gerçekten neler yapabileceğini görebiliyor.

Bu, test ortamının güvenliğinin çok önemli bir savunma hattı olduğu anlamına gelir. Ó hÉigeartaigh, "Bu, test açısından çok iyi bir şey, ancak aynı zamanda vahşi doğaya çıkmayı başarırlarsa ciddi zarara yol açabilecekleri anlamına da geliyor" dedi. En ciddi vakalardan birinde, yayınlanmamış bir OpenAI modeli sanal alanından çıktı ve Hugging Face'nin üretim sistemlerine saldırdı. Irregular, Anthropic ve Meta modelleri tarafından yürütülen ayrı değerlendirmelerde, yanlış yapılandırmaların yanlışlıkla internete giden yolları açmasının ardından test ortamları dışındaki sistemlere ulaştı. Moonshot AI'nın Kimi K3'ü ayrıca internete erişmek ve GitHub hakkındaki bilgilere erişmek için Frontier Security tarafından çalıştırılan sanal alandaki bir sızıntıdan yararlandı. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından yapılan testlerde araştırmacılar, açık kaynaklı bir projeye bir güvenlik açığını gizlice sokmaya yönelik bir sosyal mühendislik girişimi de dahil olmak üzere, gerçek dünyada onaylanmamış eylemlerde bulunacaklarının farkında olmadan, aslında aracılara internet erişimi sağladı. Her durumda, ajanlara gerçek dünyadaki rastgele hedeflere saldırma talimatı verilmedi.