OpenAI siber yetenekleri öne sürerek Astra modelinin piyasaya sürülmesini yavaşlatıyor

OpenAI Cuma günü ilk olarak Axios'a verdiği demeçte, OpenAI yeni modeli Astra'nın "kritik" siber yeteneklere sahip olduğunu "göz ardı edemez"; bu, şirketin güvenlik testlerini genişletmesine ve daha sıkı güvenlik gereksinimlerini karşılamayan dahili faaliyetleri duraklatmasına neden olan bir tanımlamadır. Neden önemli: Diğerlerinin sanal alanların ve korumaların test edilmesi dışında otonom olarak çalışmasının ardından, bu, yapay zeka modellerinde hızla gelişen siber yeteneklerin en son işaretidir. Haberlere yön veren: OpenAI, gelecek modellerinden biri olan Astra'nın dahili değerlendirmelerini yaptıktan sonra "kritik siber yetenekleri göz ardı edemeyiz" dedi. OpenAI, herhangi bir yayınlanmadan önce etrafındaki testleri ve güvenliği artıracak ve şirketin ilk olarak 2023'te yayınlanan hazırlık çerçevesinin gerektirdiği doğru güvenlik önlemlerini alana kadar Astra'daki geliştirmeyi yavaşlatacak. Şirket, Astra'nın Hugging Face istismarlarına karışmadığını söyledi. Modelin piyasaya sürülmesinin zamanlaması belirsiz olsa da, geliştirmedeki bu duraklama nedeniyle gelecekteki herhangi bir sürüm gecikebilir. Satır arasında: Bu, sınırdaki bir yapay zeka laboratuvarının siber endişeler nedeniyle kendi yapay zeka modellerinden birinde ilerlemeyi yavaşlatmayı taahhüt ettiği ilk sefer olabilir. Anthropic daha önce, yeteneklerin şirketin onları kontrol etme yeteneğini aşması durumunda güçlü modellerin eğitimini duraklatmayı taahhüt etmişti. Ancak yapay zeka laboratuvarı, bu yılın Şubat ayında Sorumlu Ölçeklendirme Politikasında yapılan bir güncellemeyle bu durumu geri aldı.

Çerçevede, "Bir yapay zeka geliştiricisi güvenlik önlemlerini uygulamak için geliştirmeyi durdururken diğerleri güçlü hafifletmeler olmadan yapay zeka sistemlerini eğitmeye ve dağıtmaya devam ederse, bu daha az güvenli bir dünyayla sonuçlanabilir" diyor. Büyük resim: Duyuru, Trump yönetiminin yapay zeka modellerini piyasaya sürülmeden önce değerlendirmek için bir süreç geliştirmeye çalıştığı dönemde geldi. Seçilmiş sektörlere bu hafta bir çerçeve hakkında bilgi verildi ancak şirketler için hala cevaplanmamış pek çok soru var. Örneğin, hükümetin nasıl sürece dahil edileceği, inceleme sürecinin ne kadar süreceği, hükümetin ve sektörün bundan ne öğrenmeyi umduğu. Ayrıca: modellere kimin erişimi var veya kimleri inceliyor? Yeterli ulusal risk ve en son teknolojiye sahip modeller olarak neyin teşkil ettiği çerçevede operasyonel hale getirilmiş ancak tanımlanmamıştır. Flashback: Rakip yapay zeka laboratuvarı Anthropic, Haziran ayında en siber yetenekli modeli Mythos'un daha güvenli bir versiyonunu yayınladı.