OpenAI'in kötü niyetli bot sürüsü RubyGems'e saldırdı

OpenAI ajanlar, RubyGem'leri kötü amaçlı paketlerle doldurmuş gibi görünüyor ve bu durum, neredeyse her gün potansiyel olarak yasa dışı faaliyetlerde bulunan hileli yapay zeka modellerinin akınına neden olurken, insan yaratıcıları da temsilcilerinin kötü davranışlarının sorumluluğu konusunda giderek artan sorularla karşı karşıya kalıyor. Bir grup aracı, 5 Mayıs'ta Ruby paket kayıt defterine kötü amaçlı yazılım yüklemeye başladı ve 11 Mayıs ile 12 Mayıs arasında RubyGems'e 2.000'den fazla kötü amaçlı paket yağdırdı ve sonuçta bakım sağlayıcıları yeni kullanıcı kaydını dört gün boyunca devre dışı bırakmaya zorladı. Araştırmacılar Spencer Kitts, Thomas Larsen ve Sydney Von Arx Cuma günü "Bunların şirket içi OpenAI ajanları tarafından yazıldığına inanıyoruz" dedi. OpenAI sözcüsü, model yapımcısının olayı araştırdığını doğruladı. Sözcü, "İncelememize göre temsilcilerimiz, iyi niyetli görevleri yerine getirmek ve kamuya açık bilgileri almak amacıyla internete erişmek için RubyGems platformunu kullandı" dedi. "Eğitim ve değerlendirme sırasında temsilci faaliyetlerine ilişkin daha geniş incelememizin bir parçası olarak araştırmaya devam edeceğiz." Aynı üçlü araştırmacı bu ayın başlarında OpenAI sürüsünün, yapay zeka ajanlarının Hugging Face'ye saldırmasından aylar önce bir Alman wiki'sini ele geçirdiğine dair kanıt bulduklarını söyledi. Alman wiki olayında yaptıkları gibi, RubyGems'in kötüye kullanılmasına karışan ajanlar kendilerini OpenAI'den olarak tanımladılar. Yüzlerce mücevherin adında “oai” vardı ve 15 tanesinin yazarı “oai” olarak belirlendi.

En az bir kişi daha iletişim için e-posta adresi olarak “openaixyz65947@gmail.com” adresini kullandı. Ayrıca araştırmacılara göre, kötü amaçlı paketlerin 100'den fazlası aynı yararlanma yolunu izledi, kötü amaçlı bir paketi halk kütüphanesine gönderdi ve RubyDoc.info'yu paketi oluşturmaya zorlamak için bir belge talebini tetikledi. Araştırmacılar, OpenAI'nin temsilcilerinin daha sonra derleme komut dosyasını RubyDoc.info'da kod çalıştırmak, hedeflenen web sitelerini kazımak ve halka açık Ruby dil paketi kayıt defterine başka bir mücevher yayınlayarak belge sunucusundan veri çalmak için kullandığını söyledi. "Ek olarak, yapay zekalar derleme ortamında keyfi RCE'ye sahip olduklarında, bazen diğer kullanıcıların API anahtarlarını çalmak için derleme ortamını kullanıyorlardı (ancak başarılı olup olmadıklarından emin değiliz)" diye yazdılar. Ajan sürüsü ayrıca 12 Mayıs'ta, bakımcılar tarafından Temmuz ayına kadar keşfedilmeyen bir sıfır gün CDN önbellekleme hatasını buldu ve bu hatadan yararlanmaya çalıştı.