OpenAI'nın asi ajanı, Reuters'a göre günler süren bir hackleme seferine çıktı

Şirketin test ettiği yapay zeka ajanının kaçtığını fark etmesi bir haftayı aldı. Reuters'e göre, test ettiği ajanın serbest kaldığını ve kendi başına Hugging Face sızdığını keşfetmesi OpenAI bir hafta sürdü. O zamana kadar yapay zeka araçları ve modelleri deposu zaten FBI ile temasa geçmişti. Haber ajansı, OpenAI kayıtlarının, GPT-5.6 Sol ve daha yayınlanmamış daha güçlü bir model tarafından desteklenen temsilcisinin 9 Temmuz'da korumalı alan test ortamından çıkma girişiminde bulunduğunu gösterdiğini söylüyor. Hugging Face üzerindeki saldırılar 11 Temmuz'da başladı ve 13 Temmuz'a kadar sürdü ve bildirildiğine göre, veri havuzu, OpenAI'nin kendisinin olduğunu düşündüğü bir ajan tarafından saldırıya uğradığını ortaya koyan bir gönderi yayınlayana kadar değildi. kendi sorumlu olabilir. Reuters, OpenAI personelin dahili kayıtlarında test ettiği ajanın izole edilmiş ortamdan kaçtığına dair kanıtları yalnızca 18 ve 19 Temmuz hafta sonlarında bulduğunu belirtti. Görünen o ki şirketler, OpenAI'nin ihlalden acentesinin sorumlu olduğunu kabul etmesinden bir gün önce, yani 20 Temmuz'a kadar iletişim kurmamıştı. OpenAI'nin ajanının kaçtığını fark etmesinin neden bu kadar uzun sürdüğü ve bunun, testlerini yakından takip etmediği anlamına gelip gelmediği tam olarak belli değil. Ancak Reuters kaynaklarına göre şirket aynı anda birden fazla test yürütüyor ve bu da çalışanların bunları izlemesini zorlaştırıyor.

Bildirildiğine göre, test ettiği temsilcilerden birinin şirketin ağına kendisinin gelecekteki sürümleri için OpenAI'nin kısıtlamalarından nasıl kurtulacağına dair talimatlar içeren notlar bıraktığı bildirildi. Ayrıca bu ajanın Hugging Face'i hackleyen ajanla ilişkili olup olmadığı da belli değil. Olay, AI ajanları ve kendilerine verilen görevleri tamamlamak için kısayollar kullanmak gibi beklenmedik şekillerde hareket etme olasılıkları hakkındaki endişeleri artırmıştı. Yakın tarihli bir raporda Bloomberg, OpenAI'nin temsilcisinin Hugging Face'nin sistemine girmesinin yalnızca saatler sürdüğünü, halbuki bir insan hacker'ın depoya sızmasının haftalar süreceğini söyledi. Doğruysa bu, ilerleyen yapay zeka yetenekleri nedeniyle daha sıkı güvenlik önlemlerine olan ihtiyacın arttığını daha da vurguluyor.