OpenAI / Hugging Face Hack
Bu Hugging Face / OpenAI model sandbox kaçış dramasının abartıldığını düşünüyorum, ancak birçok yerde yazılı olarak gördüğüm nedenlerden dolayı değil. Ve bence hala OpenAI'nin tercih ettiği çerçeveye takılıp kaldık, bu da modellerinin güvenli bir sanal alandan kaçmasına izin veren korkutucu yeteneklere sahip olduğu anlamına geliyor. Evet, bu hack nesnel olarak etkileyiciydi. Yararlanma geliştirme, pivotlama ve ayrıcalık yükseltme kaliteli bir çalışmaydı. Ayrıntılar için Simon Willison'ın yazılarına bakın. Ancak bilgi güvenliği alanında çalışmış herkesin hızla içselleştireceği kirli bir sır vardır: yazılım kalitesi berbattır. Bu tarih boyunca böyleydi ve 2026'da da hâlâ geçerli. Açık kaynak yazılım kalitesi berbat. Özel mülk yazılımın kalitesi daha kötüdür. Oldukça iyi kalitede olan yazılımların sayısı yok denecek kadar az: Curl, SQLite veya Go gibi projeler düşünüyorum. Ve bunlar sadece iyidir çünkü arkalarındaki insanlar muazzam miktarda enerji harcar ve bu boktan şeyleri uzak tutmaya odaklanırlar. Ve bu projelerde bile hala düzenli olarak güvenlik açıkları bulunuyor. Bir yapay zeka modelinin haftalarca Artifactory'e karşı ezilmesine izin vermek her zaman istismarla sonuçlanacaktı. Bu tür bir yazılımda veya konfigürasyonunda yararlanılabilir hataların olduğu neredeyse garantidir.
OpenAI, Artifactory proxy'ye erişimi olan ve internet erişimine sahip bir modelin güvenli bir sanal alanda olduğunu düşünüyorsa, yazılım veya bilgi güvenliğini anlamıyorlar demektir. Bu, bir inşaatçının yıkım atıklarıyla dolu bir konteynırı uçurumun eşiğinde bırakmasına ve ardından rüzgar çıkıp komşusunun arka bahçesine asbest tozu fırlattığında şok olmasına benzer. Düzenleyicilerin tepkisi de aynı olmalı: İşinizi güvende tutun, yoksa yasal cezalarla karşı karşıya kalırsınız. O yüzden OpenAI'in bunu makinelere karşı savaşta atılan ilk uyarı atışları olarak algılamasına izin vermeyin. Bunun yerine bunu, emdikleri tüm para ve kaynaklara rağmen OpenAI'nin hala hepimiz gibi aynı temel yazılım doğasına tabi olduğunun kanıtı olarak görün. Ne olursa olsun OpenAI'deki insanların tüm bunları bildiğine inanıyorum. Harika bir pazarlamaya sahipler ve şu anda düzenleyici bir boşlukta çalışıyorlar.