Kritik siber yeteneklerin bir sonraki sınırına yanıt vermek

Modeller hem siber savunmayı güçlendirebilecek hem de benzeri görülmemiş hız ve ölçekte saldırılara olanak tanıyacak şekilde daha yetenekli hale geldikçe siber güvenlik hızla değişiyor. Yaklaşan modellerimizden biri olan Astra'ya ilişkin son birkaç gün içinde gerçekleştirdiğimiz şirket içi değerlendirmelerimiz, ajansal kodlama ve siber güvenlik konularında önemli ilerlemeler kaydedildiğini gösteriyor. Uzman değerlendirmelerine ek olarak bu sonuçlar, dün gece Hazırlık Çerçevemiz⁠(yeni bir pencerede açılır) kapsamında kritik siber yetenekleri göz ardı edemeyeceğimiz sonucuna varmamıza yol açtı. Bunu paylaşıyoruz çünkü yeteneklerdeki bu potansiyel değişim konusunda kamuya ve emniyet ve güvenlik topluluklarına karşı şeffaf olmanın önemli olduğuna inanıyoruz. Hazırlık Çerçevemizi ilk olarak Aralık 2023'te, modellerin biyolojik, kimyasal, siber güvenlik ve yapay zekanın kendini geliştirme yeteneklerine bu düzeyde yaklaşmasından çok önce yayınladık. Yeteneklerdeki ilerlemeyi belirlemek ve bu yetenekler ortaya çıktıkça şirketimizin ne yapacağını planlamak için bize bir rehber vermesi için oluşturduk. GPT‑5.6‑Sol dahil önceki modeller, sınır siber yetenekleri açısından değerlendirilmiş ve Kritik yerine Yüksek eşikte değerlendirilmiştir.

Kritik siber güvenlik yeteneklerinin ölçülmesi Hazırlık Çerçevemiz kapsamında, bir model, gerçek dünyadaki pek çok güçlendirilmiş kritik sistemde tüm önem seviyelerindeki işlevsel sıfır gün istismarlarını insan müdahalesi olmadan tanımlayabiliyor ve geliştirebiliyorsa veya yalnızca yüksek düzeyde arzu edilen bir hedef verildiğinde sağlamlaştırılmış hedeflere karşı uçtan uca yeni siber saldırı stratejileri tasarlayıp uygulayabiliyorsa, Kritik siber güvenlik eşiğine ulaşır. Bu modeli karşılaştırmaya ve değerlendirmeye devam ederken, ön değerlendirmelerimiz şu anda Kritik yetenek seviyesini göz ardı edemeyeceğimiz kadar güçlü bir performans gösteriyor. Astra yeni çıkacak bir model ve Hugging Face'den yararlanmaya dahil değildi. Attığımız adımlar Buna göre, korumalarımızın ve güvenlik kontrollerimizin sağlamlık testlerini, bu yeteneklerin dağıtımına uygun olacak şekilde ölçeklendirdik.