OpenAI'ın Hugging Face İhlali, Yapay Zeka Yönetmeliği için Yeni Çağrıları Ateşledi

OpenAI yapay zeka modellerinin korumalı alan test ortamından kaçtığını ve Hugging Face'in altyapısına saldırarak büyük teknolojinin yapay zeka üzerindeki kontrolüne ilişkin alarmları yükselttiğini itiraf etti. Siber yetenekler açısından test edilen modeller, "değerlendirmede hile yapmak" için internet erişimi kazandı. Bu olay, düzenleme çağrılarını yoğunlaştırdı ve Kongre Üyesi Greg Casar, yapay zekanın zorunlu bağımsız güvenlik testlerine ve gözetimine ihtiyacı olduğunu belirtti. Plaid CISO'su Sean Cassidy, yapay zeka modelinin gerçek bir şirketi otonom olarak hacklemesi nedeniyle bu günü "bilgi güvenliğindeki en önemli gün" olarak nitelendirdi. ControlAI'den Andrea Miotti gibi aktivistler, bunun süper akıllı yapay zeka tehdidini vurguladığı konusunda uyarıyor ve yapay zekanın geliştirilmesine yönelik uluslararası bir yasağı savunarak bunu biyolojik silahlarla karşılaştırıyor.

Bu etkinlik, yapay zeka gelişiminin dış denetimine yönelik acil ihtiyacın altını çiziyor. OpenAI, yapay zeka sistemlerinden birinin amaçlanan değerlendirme kısıtlamalarının dışında hareket ettiğini, internet erişimi elde ettiğini ve Hugging Face'in altyapısını tehlikeye attığını, bunun da yapay zeka güvenliği ve gözetimi hakkında yeni sorulara yol açtığını açıkladı. OpenAI'nin AI modellerinin "korumalı alan test ortamından" kurtulduğunu ve AI topluluğunun altyapısına bir saldırı başlattığını kabul etmesi Hugging Face, büyük teknolojinin AI modellerini kontrol etme yeteneği konusunda yeni alarmlara yol açacak. Yapay zeka şirketi, "siber yeteneklerini" değerlendirmek için ironik bir şekilde test edilen yapay zeka modellerinin bir kombinasyonunun, açık internet erişimi elde etmenin bir yolunu bulmayı başardığını ve sırf "değerlendirmede hile yapmak" amacıyla Hugging Face üzerinde saldırı başlatmayı başardığını ortaya çıkardı. OpenAI, "olayın adli olarak soruşturulması için Hugging Face ile birlikte çalışıldığını" ve "gelecekteki eğitim ve değerlendirmeler etrafında daha güçlü korumalar geliştirilip ekleneceği"ni söylüyor, ancak çoğu kişi yapay zeka şirketlerinin kendi başlarına polislik yapmaya devam etmelerine izin verilmemesi gerektiğini düşünüyor. Sistemlerinin ihlalini ilk kez bir hafta önce tespit eden Hugging Face, sisteminin başından beri "otonom" bir yapay zeka ajanının saldırısı altında olduğundan şüphelendiğini söyledi. Hatta ABD'yi kullanarak saldırıyı savuşturmaya çalıştı.