Çin yapay zeka modeli OpenAI'nin 'benzeri görülmemiş' siber saldırısını durdurdu

OpenAI'in haydut modelleri geçen hafta startup Hugging Face'e karşı bir siber saldırı başlattığında, şirket buna karşı savunma için başka bir yapay zeka modeli kullanarak ateşe ateşle karşılık verdi. Bu, otonom bilgisayar korsanlığının bilimkurgu benzeri bir hikayesi ve haftanın en çok konuşulan teknoloji hikayelerinden biri oldu. Ancak haydut yapay zekayla savaşmak için kullanılan Hugging Face modelinin kökeni de dikkatleri üzerine çekiyor. Başlangıç, Çinli Z.ai şirketi tarafından oluşturulan açık ağırlık sistemi olan GLM 5.2'yi kullandı. Kaçırmış olabilirsiniz diye söylüyorum, Salı gün�� OpenAI, en güçlü modeli ile henüz piyasaya sürülmemiş daha yetenekli bir modelin birleşiminin, korumalı alan test ortamından kaçtığını, internete eriştiğini ve Hugging Face'nin sistemlerine erişim sağlamak için bir güvenlik açığından yararlandığını söyledi. OpenAI, modelin bir değerlendirmede hile yapmak için kullanabileceği bilgileri bulmaya çalıştığını ve başarılı olduğunu söyledi. Saldırının kaynağı başlangıçta Hugging Face için gizemliydi, ancak olaydan günler sonra şirket yapay zeka laboratuvarıyla işbirliği yapmaya başladı. Hugging Face CEO'su Clément Delangue, X'teki bir gönderide şöyle yazdı: "Son 24 saati @OpenAI ekibiyle yakın bir şekilde çalışarak geçirdik (teşekkürler!) ve onların hiçbir kötü niyetli niyeti olmadığına kesinlikle inanıyoruz." "Tüm bunların özerk bir şekilde gerçekleşmesi oldukça akıllara durgunluk verici!" Saldırının arkasında OpenAI haydut bir modelin olduğu haberinin çıkmasıyla yapay zeka sektöründe şok yaşandı.