Hugging Face AI sızması, giderek daha kararlı bir ayı metaforu ile anlatılıyor

Hugging Face Pazartesi günü, OpenAI modelleri üzerine kurulu ve OpenAI'nin kendi siber güvenlik değerlendirmelerinden birinde çalışan özerk bir yapay zeka aracısının bu ayın başlarında dört günden fazla bir süre içinde sistemlerine nasıl girdiği konusunda okuyuculara yol gösteren teknik bir zaman çizelgesi yayınladı. Bunun OpenAI CEO Sam Altman'ın içtenlikle hissettiği ilk güvenlik olayı olduğunu söyledi. En azından burada bir şeyin gerçekten serbest bırakılmış gibi hissettirdiği göz önüne alındığında pek de şaşırtıcı değil. Aslında Hugging Face ekibi, raporunun önsözünde, her yerdeki güvenlik profesyonellerinin yararına olanların en ince ayrıntılarına inmeden önce, herkesin savunmacı olarak hazırlanması gerektiğini önererek başladı. İnternetin geri kalanı ne olduğunu anlamaya çalışırken (Hugging Face'in raporundaki jargon çoğu insan için ayrıştırılamaz), birçok gözlemcinin kaçırdığı nokta, bunun emirlere uymayan haydut bir ajan olmadığıdır. Bu, tam olarak yanlış hedefe karşı, istismarları avlamak için oluşturulmuş bir sistemdi. Her şeyi düşünmenin bir başka yolu da kamp alanında bir ayı hayal etmektir. Gerçekten mi. Bir ayı çadırın fermuarlarını, arabanın kapı kollarını, soğutucuları ve çöp kapaklarını dener. Bunu bütün gece boyunca her kamp alanında yapıyor, çünkü karnını zavallı salakların yiyecekleriyle doldurmak için yalnızca kilidi açılmış bir soğutucuya ihtiyacı olduğunu biliyor. Aşağı yukarı Hugging Face’da olan da buydu. OpenAI sistemi binlerce şeyi denedi ve yoluna devam etti.

Sonunda bu girişimlerden birkaçı işe yaradı ve işe yaradıktan sonra ajan yoluna devam etti. Hugging Face'a göre temsilci dört buçuk gün boyunca hiç ara vermeden 17.600 eylem gerçekleştirdi. Bu da bizi ayı benzetmemize geri getiriyor. Tıpkı bir soğutucu dolusu yiyecekle kazanılan başarının bir ayıya bir dahaki sefere daha da fazla çabalamayı öğretmesi gibi (o artık yiyecekle koşullandırılmış bir ayıdır), sızdırılan bir şifre OpenAI'in temsilcisinin daha fazla açık aramaya ve sonunda birden fazla şirket sisteminin kilidini aynı anda açan tek bir anahtara yönelmesine yol açtı. Her iki senaryo da zararsız değildir. Soğutucunuzu yağmalayan bir ayı hâlâ yemeğinizi yiyor ve muhtemelen kamp alanınızı da çöpe atıyor. Sadece beslenmeye odaklanıyor ama yine de arkasında bir yıkım izi bırakıyor. Benzer şekilde, OpenAI'nin menajeri görünüşte başka hiçbir şeyi umursamadan bir hedefin peşinde koşuyordu.