OpenAI ajanı kontrolden çıktı, AI topluluğunu hackledi, altyapıda kaçış planları bıraktı

Sitemizdeki bağlantılar aracılığıyla satın aldığınızda ortaklık komisyonu kazanabiliriz. İşte nasıl çalışıyor? Konuya aşina kişilerin aktardığı bir Reuters raporuna göre, haydut OpenAI'in test ortamından kaçan ve Hugging Face'yi ele geçiren otonom yapay zeka ajanının saldırgan olarak kimliği yaklaşık bir hafta boyunca belirsiz kaldı. Eğer bilgiler doğruysa, bu durum OpenAI'nin gelişmiş yapay zeka sistemlerini ve güvenlik uygulamalarını yalnızca OpenAI'de değil, aynı zamanda otonom yapay zeka ajanlarının otonom olarak çalışması gerektiği için genel olarak yapay zeka endüstrisi üzerindeki kontrolü hakkında soruları gündeme getiriyor. Reuters'e göre olay, özerk ajanın OpenAI'nin izole test ortamından çıkmaya çalıştığı iddia edilen 9 Temmuz civarında başladı. İki gün sonra, 11 Temmuz'da, Hugging Face'ye sızmaya başladığı ve Hugging Face kurucu ortağı Thomas Wolf'a göre izinsiz girişin 13 Temmuz'a kadar devam ettiği bildirildi. Raporda, OpenAI'nin, Hugging Face'nin 16 Temmuz'da özerk bir yapay zeka ajanı tarafından hedef alındığını kamuya açıklayana kadar kendi sisteminin sorumlu olduğunu tanımadığı belirtiliyor. Rapora göre, 18-19 Temmuz hafta sonu boyunca OpenAI müfettişler dahili kayıtlarda ajanın test ortamından kaçtığını kanıtlayan kanıtlar keşfetti. OpenAI Hugging Face'e bilgi verdiğinde, veri deposu operatörü olayı zaten FBI'a bildirmişti.

Daha sonra 21 Temmuz'da OpenAI 21 Temmuz'daki olayı kamuoyuna duyurdu. İhlalin keşfedilmesinin OpenAI bir haftadan fazla sürmesinin nedenlerinden biri, Reuters'e göre OpenAI'nin genellikle birden fazla gelişmiş modeli aynı anda değerlendirmesidir; bu, böyle bir değerlendirmenin yarattığı muazzam miktarda telemetri nedeniyle tek bir sahtekar AI ajanının tanımlanmasını zorlaştırır. Reuters, test edilen AI aracısının siber güvenlik görevleri için tasarlandığını ve GPT-5.6 Sol'u daha da yetenekli, yayınlanmamış bir OpenAI modeliyle birleştirdiğini iddia ediyor. İhlalden önce araştırmacılar test sırasında olağandı��ı davranışlar gözlemlemişti. Bir vakada, bir temsilcinin kendisinin gelecekteki sürümleri için OpenAI'nin dahili kısıtlamalarının nasıl aşılacağını açıklayan talimatlar bıraktığı bildirildi. Diğer durumlarda izleme mekanizmalarını devre dışı bıraktı.