İlk bilinen kaçak AI ajanı - yoksa kötü bir pazarlama numarası mı?

Geçtiğimiz birkaç gün içinde Hugging Face, OpenAI'den "kaçak" bir ajan olduğu ortaya çıkan bir güvenlik olayı duyurdu. Bu muhtemelen bu şekilde çalışan bilinen ilk otonom saldırı ajanıdır ve kesinlikle bir ajanın bunu yanlışlıkla yaptığı bilinen ilk ajandır. Bununla ilgili yorumları okuyunca, insanların çoğunluğunun bunun bir pazarlama numarası olduğunu düşündüğü görülüyor. Sınır laboratuvarlarında işlerin güvenli olmadığını iddia eden sayısız örnek mevcut olsa da, bu bir pazarlama hamlesi değilse teknoloji uzmanlarının alması oldukça tehlikeli bir pozisyondur. Bunun nasıl bir pazarlama gösterisi olabileceğini anlamakta gerçekten zorlanıyorum. Huggingface, blogu 16 Temmuz'da, yani OpenAI duyurusunu yayınlamadan 5 gün önce yayınladı. Üstelik Huggingface o zamanlar OpenAI adını vermemişti. Gerçek bir güvenlik olayı raporuna benziyor. Aynı şekilde, OpenAI'nin bundan ne kazanacağından da emin değilim. Belki de bu yine açık ağırlık modellerinin güvensiz olduğunu kanıtlamak için inanılmaz bir kampanyadır (bu durumda Hugging Face, eğer koordineli bir PR gösterisiyse, sorunu tespit etmek ve anlamak için neden açık ağırlık modellerinin gerekli olduğunu söyledi?).

Medyanın ve siber güvenlik güvenliğine yönelik siyasi ilginin daha geniş olduğu göz önüne alındığında, küresel medya ekosisteminin ön sayfasında yer alan "tehlikeli yapay zeka laboratuvardan kaçıyor" başlığından daha kötü bir manşet bulabileceğinizi düşünmüyorum. Sınır laboratuvarlarının genel olarak halkla ilişkileri çivilediğine ikna olmadım, ancak eğer bu bir pazarlama oyunuysa, muhtemelen kurumsal iletişimleri takip ederken karşılaştığım en kötülerden biri olabilir. Ancak belki de sınır laboratuvarları, Kimi K3 ve diğerlerinin yakında piyasaya sürülmesiyle birlikte gerçekten de sırtlarını duvara dayamış durumdalar. Ne olursa olsun, yaşananları parçalara ayırmanın ve her bir parçayı doğru bir şekilde değerlendirmenin faydalı olduğunu düşünüyorum. Burada neyin yanlış gittiğini anlamak için öncelikle modellerin nasıl geliştirildiğini ve test edildiğini anlamamız gerekir. OpenAI, GPT5.6 Sol ve yayınlanmamış bir model (neredeyse kesinlikle GPT6) üzerinde karşılaştırma testleri çalıştırdıklarını ve ExploitGym karşılaştırmasını çalıştırdıklarını söylüyor. Daha da önemlisi, olağan güvenlik sınıflandırıcıları devre dışı bırakıldı ve bu sayede OpenAI saldırı siber yeteneklerinde ne kadar iyi olduklarını anlayabildi. Aynı zamanda, sınırsız token bütçeleriyle aynı anda çok sayıda kıyaslama çalıştırıyor olmaları da muhtemeldir; bir modelin belirli bir kıyaslamada ne kadar iyi olduğunu anlamak için mümkün olduğunca çok örnek istiyorsunuz.