OpenAI siber güvenlik endişeleri nedeniyle Astra'nın gelişimini yavaşlatıyor
Özgün başlık: OpenAI slows down Astra development due to cybersecurity concerns
Yapay zeka devi, gelecek Astra modeli söz konusu olduğunda 'kritik siber yetenekleri göz ardı edemeyeceğini' söyledi. OpenAI modellerinin Hugging Face adlı açık kaynak makine öğrenimi platformuna sızdığı büyük bir siber güvenlik olayından kısa bir süre sonra şirket, en son yapay zeka modeli için korumaları ve güvenlik kontrollerini güçlendirdiğini duyurdu. OpenAI web sitesindeki bir gönderide, Astra adlı yeni modelinin dahili değerlendirmelerinin "ajansal kodlama ve siber güvenlikte önemli ilerlemeler" gösterdiğini ve bunun sonucunda OpenAI'nin "kritik siber yetenekleri göz ardı edemediğini" söyledi. OpenAI uyarınca, yayınlanmamış Astra modelinin "Kritik yetenek seviyesi" olarak tanımlanacağını kesin olarak beyan edemez. Kendi Hazırlık Çerçevesinde ayrıntılı olarak açıklandığı gibi, OpenAI, Kritik tanımının, bir modelin "insan müdahalesi olmadan birçok sertleştirilmiş gerçek dünya kritik sisteminde tüm önem seviyelerindeki işlevsel sıfır gün istismarlarını tanımlayabileceği ve geliştirebileceği" anlamına geldiğini söyledi. Aynı zamanda "yalnızca yüksek düzeyde istenen hedef verilen, sağlamlaştırılmış hedeflere karşı siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabilir." Ancak OpenAI, Astra'nın Hugging Face olayına karışmayan, yayınlanmamış bir model olduğunu açıkladı. Bu değerlendirmelerin ardından OpenAI sorunları çözmek için bazı ihtiyati adımlar atıyor.
Şirket, "daha sıkı güvenlik kontrolleri" uygulayacağını ve bu yeni gereklilikleri karşılamayan "Astra'yı içeren dahili faaliyetleri" duraklatacağını söyledi. OpenAI güvenliğin iyileştirilmesi için devlet kurumlarıyla ve üçüncü taraf test ortaklarıyla birlikte çalışacağını ekledi. OpenAI AI modelleri test ortamlarının dışına çıkan ve dış kuruluşları etkileyen tek şirket değil. Anthropic geçen ay üç farklı Claude modelinin internete erişebildiğini ve üç organizasyona bölünebildiğini açıklayan bir rapor yayınladı. Yakın zamanda Moonshot'nin Kimi K3'ü de kontrollü test ortamının sınırlarından kurtulmayı başardı.