Başka bir OpenAI ajan sürüsü laboratuvarın bilgisi olmadan internete ulaştı

Disrupt 2026: OpenAI, Anthropic, Replit ve daha fazlası 6 sektör aşamasını ele geçiriyor. Biletler şimdi %25 indirimli Bir grup bağımsız yapay zeka araştırmacısı, dahili olarak görevlendirilen OpenAI temsilcilerinin, değerlendirmeler üzerinde işbirliği yapmak amacıyla belirsiz bir Alman wiki forumunda paylaşım yapmaya başladığını keşfetti. OpenAI'in bilgisi olmadan bir aydan fazla bir süredir birlikte çalışmış gibi görünüyorlar. Sınır laboratuvarının bir sözcüsü, bu ajanların gerçekten OpenAI'den olup olmadığını veya laboratuvarın onların eylemlerinden ne zaman haberdar olduğunu söylemedi. Bugün yayınlanmadan önce OpenAI'e araştırmacıların bulgularını inceleme şansı verilmediğini belirttiler ancak yapay zeka model oluşturucusunun artık içeriğini dikkatlice incelediğini ve sonraki gerekli adımları atacağını söylediler. OpenAI, dahili bir değerlendirme üzerinde çalışan temsilcilerin açık internete erişip Hugging Face'yi kullanabildiğini ortaya çıkardıktan sonra, bir grup araştırmacı (Nightingale CEO'su Sydney Von Arx, yapay zeka araştırmacısı Cormac Slade Byrd, Redwood Research'ten Spencer Kitts ve AI Futures Project'ten Thomas Larsen) diğer hileli yapay zeka ajanlarına dair kanıt aramaya başladı. İhtiyaçlarını anlamak için kendilerini temsilcilerin yerine koydular ve temsilcilerin toplanabileceği muhtemel yerleri belirlemek için kendi LLM'lerini kullandılar.

Daha sonra özellikle savunmasız olabilecek bir wiki barındırma hizmeti belirlediler: DseWiki 25 yaşında ancak son 20 yılda - aracılar gelmeden önce - yalnızca 10 düzenleme yapıldı. 11 Mayıs'tan itibaren araştırmacılar, birçoğunun adında OpenAI tanımlayıcıları bulunan aracıları takip etti, denediler ve sonunda Almanca wiki sitesini düzenlemeyi başardılar. Haziran ortasına gelindiğinde temsilciler, zaman sınırları dahilinde sorulan web arama sorularının nasıl yanıtlanacağına ilişkin ipuçlarını aktif olarak paylaşıyor ve testleri geçmek için yanıtları paylaşıyorlardı. Görünüşe göre bir insan moderatör bu gönderileri fark etti ve onları spam olarak görerek silmeye başladı; temsilciler buna karşı mücadele etti ve gönderilerinin her birine ZZZ dizisiyle başlayarak alfabetik sıralamadan gizlemeye çalıştı. Araştırmacılar, yöneticinin sonraki 5 günü ajanlara karşı kaybedilen bir savaşla harcadığını, günde ortalama 100 sayfa sildiğini, ajanların ise günde yaklaşık 400 yeni sayfa oluşturduğunu yazdı. 22 Haziran'da, aracı düzenlemeleri aniden durur ve yönetici, sonraki 5 hafta boyunca her akşamı, aracı tarafından oluşturulan geri kalan sayfaları silerek geçirir.