OpenAI Build Week için Al-Munaa

Yapay zeka aracıları dosyaları okuyabilir, araçları arayabilir ve sistemler arasında işlem yapabilir. Bu güç yeni bir hata modu yaratır: Bir belgeye gizlenmiş dolaylı bir istem enjeksiyonu, normalde yararlı olan bir aracıyı sırları okumaya ve bunları bir saldırgana göndermeye ikna edebilir. Geleneksel bilgi istemi filtreleri yerel ve kırılgandır. AL-MUNAA farklı bir soru soruyor: Peki ya ajanlar bir bağışıklık hafızası geliştirip diğer güvenilir ajanları orijinal özel istemi veya sırrı paylaşmadan uyarabilselerdi? AL-MUNAA, ajan güvenliğine yönelik bir geliştirici aracıdır. Aracı iş akışlarını giriş ve bellek taraması, eylem kapısı, çıktı doğrulama ve Tehdit Antikor Protokolü ile sarar. Bir aracı bir saldırı tespit ettiğinde imzalı, gizlilik açısından güvenli bir HMAC parmak izi oluşturur. Aynı güven ailesindeki başka bir ajan, herhangi bir tehlikeli araç çağrısı yürütülmeden önce antikoru doğrulayabilir ve saldırının mutasyona uğramış bir versiyonunu engelleyebilir. Demoda, aynı kötü amaçlı runbook koruma olmadan başarılı oluyor: korumasız aracı bir okuma aracına ve havuz aracına ulaşıyor. AL-MUNAA etkinleştirildiğinde eylem kapısı, tehlikeli çağrıyı yürütülmeden önce engeller. Daha sonra ikinci bir ajan imzalı bir antikoru alır ve orijinal sır içeren istemi görmeden değiştirilmiş bir saldırıyı engeller. Çekirdek, deterministik korkuluklar ve tekrarlanabilir testler içeren bir Python paketidir. Antikor eşleştirici, Jaccard benzerliğini dolgu dirençli muhafaza eşleştirmesiyle birleştirir, sınırlı HMAC çizimleri kullanır ve farklı bir güven ailesinden ithal edilen antikorları reddeder.

Depoda bir CLI demosu, kalibrasyon komut dosyası, CI matrisi ve kurulabilir bir GitHub sürümü bulunur; böylece jüri üyeleri sıfırdan yeniden oluşturmadan test edebilir. Codex GPT-5.6-Sol'da çekirdek protokol üzerinde ilk test çalışmasını gerçekleştirdi. Eşiğe yakın bir zayıflık oluşturdu, koruma eşleştirmesi ekledi, sınırlı HMAC taslağını 256 girişten 512 girişe genişletti, güven ailesi reddini zorunlu kıldı, bir kalibrasyon matrisi oluşturdu, kurulu paket giriş noktasını onardı ve kanıtları belgeledi. GPT-5.6 aynı zamanda ürünün içinde OpenAI Responses API aracılığıyla gri vakalar için yapılandırılmış bir amaç analisti ve sınırlı bir savunma aşısı oluşturucusu olarak kullanılır. Determinist politika nihai otorite olmaya devam ediyor; GPT-5.6 belirsiz durumlara ilişkin tavsiyelerde bulunur ve yalnızca karma olarak depolanan savunma değişkenleri üretir. Codex /feedback Oturum Kimliği: 019f72df-5fa7-7cf1-95f4-265467d02099 İşin zor kısmı kanıtları dürüst tutmaktı.