Model kaçamadı. OpenAI saldırıyı gerçekleştirdi

Gerçek hikaye modelle ilgili değil. Kesinlikle. Bu daha çok, modelin istediğini gerçekte yürüten şey olan aracı döngüsüyle ilgilidir. Ama aslında konu döngüyle de ilgili değil. Gerçek hikaye OpenAI. Açıklığa kavuşturmak için “koşmak”tan ne kastettiğimi söylemeliyim çünkü insanlar bunu yanlış duyacaktır. OpenAI'nin önceden Hugging Face'yi hedef olarak seçtiğini kastetmiyorum. Demek istediğim, saldırı inşa edilen, yapılandırılan, ba��latılan, beslenen ve çalışmaya devam eden bir OpenAI sistem üzerinden gerçekleştirildi. OpenAI aracıyı yarattı (model ikincildir), ona araçları, donanımı ve bağlamı verdiler, çalışır durumda tuttular ve günlükler tüm zaman boyunca kendilerine aitti. Modelin kendisinin hedefi seçmesi, modeli izinsiz girişi taşıyan altyapının operatörü yapmaz. Teknik olarak öyle değil. OpenAI'deki iki mühendis her şeyi YOLO'ya çevirmedi, uykuya dalmadı ve ardından güçlü bir model, tam olarak bunu durdurmak için özel olarak inşa edilmiş bir sanal alandan "kendi başına kaçtı". Hiçbir istihbarat kendiliğinden onun kontrol altına alınmasına üstün gelemedi. Birisi tuvalete gitti diye hiçbir model katı sınırları aşamadı. Bu olmadı. Peki ne oldu? Buna cevap verebilmek için ajanların nasıl çalıştığını araştırmamız gerekiyor. Bir dil modeli belirteçler üretir. Metin gir, olasılıklar dışarı. İşte bu. Bir şey ona kendi geçmişini geri vermediği sürece çağrılar arasında hafızası yoktur. Elleri yoktur. Bir dosyayı okuyamaz, bir kabuk komutunu çalıştıramaz, bir soket açamaz veya bir veritabanına dokunamaz. Tek başına kelimenin tam anlamıyla hiçbir şey yapmaz.

Bir Yüksek Lisansın dünyadaki herhangi bir şeyi etkilemesi için, onunla dünya arasında başka bir programın bulunması gerekir. İnsanlar buna çalışma zamanı, koşum takımı veya aracı döngüsü artı araçlar adını veriyor. Adı ne olursa olsun, işi mekanik ve tamdır, bir göz atın. 1. Modele bağlamını gönderin (sistem istemi, sohbet geçmişi vb.). 2. Model tepki verir = jeton yayar. 3. Belirteçler bir araç çağrısı içeriyorsa (t, params): 1. t ve params'ı ayrıştırın. 2. Araç şemasına göre t'yi doğrulayın. 3. Söz konusu eylem için yapılandırılmış herhangi bir çalışma zamanı, araç, izin, korumalı alan veya ilke denetimini uygulayın. 4. Herhangi bir uygulayıcı kontrolün eylemi reddetmesi durumunda yürütme durdurulur veya kısıtlanır. Aksi takdirde... 1. Ortamın kullanabileceği izinler dahilinde t'yi yürütün. 2. Sonucu yakalayın. 3. Tüm döngüyü kaydedin (girişler, çağrı, sonuç). 4. Sonucu bağlam penceresine ekleyin. 4. 1'e döngü yapın. Bunu okuyun. O döngü olayın tamamıdır.