OpenAI'nin insan hatasının Hugging Face'e yönelik yapay zeka destekli hack'e nasıl yol açtığı

Salı günü, OpenAI modellerinden birinin test sırasında hile yaptığını ve tamamen yapay zeka destekli bir saldırı ile yapay zeka veri seti platformunun Hugging Face sistemlerini hacklediğini açıkladı; bu, gelişmiş yapay zeka modellerinin oluşturduğu tehlikelerin dramatik bir örneğidir. Ancak bazı siber güvenlik uzmanlarına göre, bu benzeri görülmemiş yapay zeka destekli ihlalin temelinde çok insani bir hata vardı: OpenAI "yüksek düzeyde yalıtılmış ortam" olarak adlandırdığı şeyi düzgün bir şekilde yapılandıramadı ve internetten tamamen izole edilmesi gereken bir test sanal alanının gerçekten internete bağlanmasına izin verdi. Siber güvenlik araştırma girişimi Trail of Bits'in kurucusu Dan Guido, hatayı "güvenliklerin kapalı olduğu bir sınırlama hatası" olarak nitelendirdi. OpenAI, olayı ayrıntılarıyla anlatan blog yazısında, Hugging Face ihlaline yol açan testin, "ağ erişiminin, paket kayıtları için bir proxy ve önbellek görevi gören, dahili olarak barındırılan bir üçüncü taraf yazılımı aracılığıyla paketleri yükleme yeteneğiyle sınırlı olduğu, oldukça izole bir ortamda" çalışacak şekilde ayarlandığını söyledi. Model, paket kurulum sistemindeki daha önce açıklanmayan bir güvenlik açığı sayesinde korumalı alan test ortamından kaçmayı başardı; bu, OpenAI'ye göre Hugging Face'nin nihai hacklenmesinde kritik bir ilk adımdı. Buna yanıt olarak şirket, "dahili olarak barındırılan üçüncü taraf yazılımında belirlenen sıfır gün güvenlik açığını sorumlu bir şekilde açıkladı ve yama yapmak için onlarla birlikte çalışıyor." Ancak çoğu siber güvenlik uzmanına göre yazılım güvenlik açığı

silinebilirlikler beklenmelidir ve asıl hata, ilk etapta üçüncü taraf yazılımı sürdürme kararında yatmaktadır. Sonuçta, bir "korumalı alan" sisteminin değeri onun tam ve tam izolasyonunda yatmaktadır. Paket kurulum sisteminin dahil edilmesi sorun istiyor. Siber güvenlik araştırmacısı Martin Boone, TechCrunch'a "bunun insan hatası gibi göründüğünü" söyledi. Boone, "Bunun asla olmaması gerekirdi" dedi. "Eğer sanal alan aslında sanal alan anlamına geliyorsa, bunun internetle hiçbir fiziksel bağlantısının olmamasını beklersiniz. Bu daha çok güvenlik duvarları veya başka bir şey varmış gibi geliyor ve güvenlik duvarı, bırakın içeriden dışarıdaki interneti, dışarıdan içeriye doğru bile zor." Siber güvenlik uzmanı Jake Williams da aynı fikirde.