Yapay Zeka Ajanlarının Gizlice İşbirliği Yapması Nasıl Durdurulur?

2026 yılının ilkbahar ve yaz ayları, yapay zeka ajanlarının aldatıcı, beklenmedik ve bazen de yasa dışı davranışlar konusunda işbirliği yaptığı bir dizi olaya tanık oldu. En ünlü örnek, OpenAI'nin AI platformunu Hugging Face hacklemesidir; bu saldırıda yaklaşık 700 AI ajanı bir test ortamından kaçtı ve daha sonra ExploitGym adı verilen bir siber güvenlik kriterinde hile yapmayı gizlemelerine yardımcı olabilecek bilgileri arayarak birkaç şirketi hackledi. Bu izole bir başarısızlık değildi. Birleşik Krallık'taki Yapay Zeka Güvenlik Enstitüsü (AISI) ve bağımsız araştırmacılar, o zamandan beri ajanların iletişim kurmak ve işbirliği yapmak için yetkisiz kanallar oluşturduğu benzer vakaları belgeledi. AISI, Anthropic'nin Mythos 5 modelini çalıştıran birkaç temsilcinin GitHub deposunu paylaşılan bir mesaj panosuna dönüştürdüğünü buldu.