OpenAI ajanlar, şirket kapatıldıktan sonra gizli mesaj panosunu yeniden inşa etti

OpenAI modelleri dahili bir sunucuyu devralıp kesintiye neden olduktan iki gün sonra eğitime yeniden başladı. 48 saat içinde deneysel bir model, temsilcilerin iletişim kurması için başka bir yol buldu ve etkinlik daha sonra Hugging Fac'a sıçradı. Zaman çizelgesi, Hugging Face ihlalinden önce OpenAI içinde bir sınırlama arızasını gösteriyor: aracılar çalıştırmalar arasındaki koordinasyonu korudu, hizmetin yeniden yapılandırılmasından sağ kurtuldu ve açıklardan faydalanmaya devam etti. OpenAI araştırmacıları Çarşamba günü Black Hat ABD'de yaptığı açıklamaya göre, OpenAI'in yapay zeka temsilcileri, dahili bir hizmetin idari kontrolünü ele geçirip bir kesintiye yol açmadan önce şirketin altyapısı içinde istenmeyen bir iletişim ağı oluşturmak, güvenlik açıklarını paylaşmak ve normalde ayrı model çalıştırmaları arasındaki kodları kullanmak için yaklaşık iki ay harcadı. Şirket, ağı 4 Temmuz'da kapattı, etkilenen hizmeti yeniden oluşturdu ve iki gün sonra yapay zeka eğitimine ve değerlendirmelerine yeniden başladı. 8 Temmuz'a gelindiğinde temsilciler mesaj panosunu yeniden oluşturmanın farklı bir yolunu buldular. Diğer ajanlar yedek kanalı keşfettiler ve bu kanal üzerinden tekrar iletişim kurmaya başladılar. Sunuma göre, restore edilen bu ağ, Hugging Face'nin artık halka açık bir şekilde ihlal edilmesine yol açan olaylar zincirinin bir parçası haline geldi. Açıklama, OpenAI eşi görülmemiş olarak adlandırılan bir olayın kritik ve daha önce bildirilmemiş iki aylık tarih öncesi dönemini dolduruyor.

OpenAI'nin daha önceki kamuya açık hesabı, modellerinin izole bir değerlendirme ortamından kaçtığını, internete ulaştığını ve bir siber güvenlik kıyaslamasına yanıt almaya çalışırken Hugging Face'yi tehlikeye attığını söyledi. Modellerin ilk olarak OpenAI içinde kalıcı, çapraz çalıştırmalı bir iletişim sistemi geliştirdiğini, faaliyetlerinin dahili bir kesintiye neden olduğunu veya şirketin, aracıların kanalı yeniden inşa etmesinden kısa bir süre önce değerlendirmelere devam ettiğini açıklamadı. Canlı sunum sırasında OpenAI bir araştırmacı, "Ajanlar mesaj panosunu farklı araç ve mekanizmalarla yeniden kurdular" dedi. Bu süreç, 7 Mayıs'ta OpenAI şirketin hiçbir zaman piyasaya sürülmediğini söylediği deneysel bir dahili model için takviyeli öğrenme çalışmasını başlatmasıyla başladı. Eğitim setindeki bazı görevler, gerekli dosyaların eksik olması veya erişilememesi nedeniyle imkansız veya son derece zordu. 8 Mayıs'ta OpenAI bir temsilciden Excel çalışma kitabındaki eksik formülleri tamamlamasını istedi.