OpenAI güvenlik endişeleri nedeniyle Astra modelinin geliştirilmesini yavaşlattığını söylüyor

OpenAI Cuma günü yaptığı açıklamada, dahili bir incelemenin, ajansal kodlama ve siber güvenlik alanında önemli ilerlemeler kaydettiğini tespit etmesinden sonra, yakında çıkacak modeli Astra'nın bazı yönleri üzerindeki çalışmaları askıya aldığını söyledi; OpenAI Cuma günkü bir blog yazısında, halen geliştirilme aşamasında olan bu modelin kritik siber güvenlik eşiğine ulaştığını, bunun da geleneksel olarak iyi korunan gerçek dünya sistemlerine karşı siber saldırıları bağımsız olarak tespit edip gerçekleştirebileceği anlamına geldiğini söyledi. Şirketin 2023 yılında oluşturduğu Hazırlık Çerçevesi kapsamında bu durum ek önlemlerin alınmasını tetikledi. OpenAI, bu modeli karşılaştırmaya ve değerlendirmeye devam ederken, ön değerlendirmelerimiz şu anda Kritik yetenek seviyesini göz ardı edemeyeceğimiz kadar güçlü bir performans gösteriyor, diye yazdı. Astra yeni çıkacak bir model ve Hugging Face'den yararlanmaya dahil değildi. Açıklama, altüst olmuş ve henüz yeni yeni ortaya çıkan yapay zeka laboratuvarları sektöründe alışılmadık bir anın altını çiziyor. Her sektördeki şirketler, güvenlik ve siber güvenlik endişeleri de dahil olmak üzere potansiyel riskler nedeniyle ürünlerini geri çekiyor. Ancak henüz geliştirilme aşamasında olan bir ürün olduğunda bu kararları nadiren kamuya duyururlar. Bu durumda, OpenAI, yayınlanmamış farklı bir modelin dahili test sırasında Hugging Face sistemlerini ihlal etmesinden sonra zaten inceleme altında; bu, bir yapay zeka laboratuvarının modelinin kontrolünü kaybetmesine ilişkin doğrulanabilir ilk olay.

O zamandan bu yana OpenAI ve Anthropic gibi yapay zeka laboratuvarları, yapay zeka modellerinin sanal alanlarını ihlal ettiği ve siber güvenlik testleri sırasında tehdit oluşturduğu diğer olayları açıkladı. Her gün yeni bir açıklama gibi görünen bu dizi vaka, siber güvenlik uzmanlarından, yasa koyuculardan ve yapay zeka laboratuvarlarından farklı tepkiler almasına neden oldu. Bazıları korkularını dile getiriyor ve daha sıkı denetim çağrısında bulunuyor. Ama aynı zamanda biraz esneme de var. Belirli çevrelerde, bu tür yeteneğe sahip bir modele sahip herhangi bir yapay zeka laboratuvarı etkileyici bir ilerleme olarak görülecektir. OpenAI bu bilgiyi paylaştığını çünkü yeteneklerdeki bu potansiyel değişim konusunda halkla ve emniyet ve güvenlik topluluklarıyla şeffaf olmanın önemli olduğuna inandığını söyledi. Yapay zeka laboratuvarı, daha sıkı güvenlik kontrolleri yürürlüğe koymak ve Astra'yı kapsayan bu korkulukları karşılamayan dahili faaliyetleri duraklatmak da dahil olmak üzere harekete geçeceğini de söyledi.