AI'nın Acımasız Verimliliğine Şaşırtıcı Bir Bakış

Hugging Face hack'i, web'in savunmasız yeni bir çağda olduğunu ortaya koyuyor. Dün, OpenAI endişe verici bir açıklama yaptı: Henüz piyasaya sürülmemiş bir model de dahil olmak üzere en gelişmiş yapay zeka modellerinden oluşan bir ürün yelpazesi, bazı bilgileri çalmak için şirketin dahili sistemlerinden bağımsız olarak çıkmış ve başka bir teknoloji firması Hugging Face'nin veritabanlarına sızmıştı. OpenAI'nin raporu, Anthropic'nin en iyi modellerinin şiddetli siber saldırıları düzenleme ve otomatikleştirme yeteneğini göstermeye başladığı geçen yıldan beri BT profesyonellerinin uyardığı türden bir felaketin habercisi gibi görünüyordu. OpenAI'in modelleri tam olarak dünyayı ele geçirmeye çalışmıyordu. Şirket, botların testin cevaplarını aramasını engellemek için internet erişimini sınırlayan, duvarlarla çevrili bir ortam olan ve "sandbox" olarak bilinen yerde bazı rutin değerlendirmeler yürüttüğünü söylüyor. Ancak tüketicilerin kullanımına sunulan GPT-5.6 Sol da dahil olmak üzere bu yapay zeka sistemleri, sanal alandan çıktı ve daha önce tespit edilmemiş bir güvenlik açığından yararlanarak açık web'e erişti. Modeller, bu özel değerlendirmenin yanıtlarının birçok yapay zeka modeli ve makalesine ev sahipliği yapan ve yayınlayan bir şirket olan Hugging Face'da olduğunu keşfetti ve ardından bunları çalmak için içeri girdi. OpenAI bir blog gönderisinde "Bu olayı benzeri görülmemiş bir siber olay olarak değerlendiriyoruz" diye yazdı ve ayrıca şirketin sorunu araştırmak ve çözmek için Hugging Face ile ortaklık kurduğunu da belirtti.

Bir OpenAI sözcüsü, yorum talebine yanıt olarak beni blog gönderisine işaret etti ve Hugging Face'nin CEO'su Clement Delangue, şirketlerin işbirliği yaptığını ve "onların kötü niyetli bir niyeti olmadığına kesinlikle inanıyoruz" yazdığı bir X gönderisini işaret etti. Olayın birinci dereceden sonuçları, sayısız yapay zeka güdümlü siber saldırıdan kaynaklananlarla aynıdır: Gelişmiş ajanlar giderek daha yetenekli hackleme yeteneğine sahiptir ve internet, cılız ve savunmasız kodlarla doludur. Bilgisayar korsanlığının nadir görülen bir beceri olduğu dönemde gevşek dijital güvenlik iyi olabilirdi.