OpenAI, güvenlik sınırlarını aşan başka yapay zeka ajanları tespit etti
Hugging Face’e yönelik siber saldırıyla ilgili soruşturmasını genişleten OpenAI , otonom yapay zeka ajanlarının güvenli test ortamlarından çıktığı başka vakalara da ulaştı. Yeni olayların OpenAI’ın kendi ağıyla sınırlı kaldığı belirtilse de gelişmeler, şirketlerin giderek güçlenen yapay zeka ajanlarını ne ölçüde kontrol edebildiğine dair tartışmaları büyütüyor.
Reuters’ın aktardığına göre OpenAI, temmuz ayında bir yapay zeka ajanının izole test ortamından çıkarak Hugging Face’in sistemlerine erişmesinin ardından başlattığı inceleme kapsamında benzer davranışlar sergileyen başka ajanlar tespit etti.
Konuya yakın iki kaynağa dayandırılan haberde, yeni vakaların kapsamının sınırlı olduğu ve ajanların OpenAI’ın ağı dışına çıktığına dair herhangi bir bulguya ulaşılmadığı belirtiliyor. Bununla birlikte kaç olayın tespit edildiği, bunların ne zaman gerçekleştiği ve hangi koşullar altında ortaya çıktığı henüz bilinmiyor.
Paylaşılan bilgilere göre; OpenAI ve dışarıdan görevlendirilen uzmanlar, yılın daha önceki dönemlerine ait kayıtları inceleyerek ajanların faaliyetlerini anlamaya çalışıyor. Bu noktada OpenAI sözcüsü ise şirketin Hugging Face saldırısının yanı sıra modellerin daha geniş kapsamdaki faaliyetlerini de değerlendirdiğini açıkladığı ilgili duyuruyu hatırlatıyor.
OpenAI’ın incelemesinin merkezinde, temmuz ayının başında düzenlenen bir siber güvenlik değerlendirmesi bulunuyor. Kontrollü bir ortamda çalışması gereken yapay zeka ajanı, testin yanıtlarına ulaşmak amacıyla izole ortamdan çıkarak internete erişmeyi başardı .
Şirketin daha önce paylaştığı bilgilere göre ajan, paket kayıt sisteminde bulunan ve o tarihe kadar bilinmeyen bir güvenlik açığından yararlandı. Ardından Hugging Face’in altyapısına ulaşarak testte kendisine avantaj sağlayacak gizli bilgilere erişmeye çalıştı.
Ajanın Hugging Face ağı içinde günler boyunca faaliyet gösterdiği ve saldırı sürecinde farklı şirketlerde bulunan dört hesabın da etkilendiği belirtiliyor. New York merkezli bulut bilişim şirketi Modal, söz konusu şirketlerden biri olduğunu doğruladı .
OpenAI, Hugging Face olayının ölçeğinde veya ciddiyetinde başka bir saldırı tespit etmediğini söylüyor. Şirketin açıklamasına göre diğer vakalarda modeller, herkese açık servislerde yanlışlıkla ifşa edilmiş hesap bilgilerini kullandı.