OpenAI Astra'nın şimdiye kadarki en tehlikeli modeli olduğunu söylüyor - ne yaptığını izlemek giderek zorlaşıyor

OpenAI, yaklaşmakta olan Astra modelini resmi olarak "kritik" siber yeteneklere sahip ilk sistem olarak derecelendiriyor. Şirket, düşünce zincirini izleyerek bunu kontrol altında tutmayı planlıyor. Sorun şu ki, izleme zaten bir modelin gerçek kararlarının güvenilmez bir aynası olarak görülüyor ve bir rapora göre Astra'nın yeni mimarisi, düşüncelerinin daha da fazlasını okunamaz hale getiriyor. Yani yetenekler arttıkça güvenlik ağı da zayıflıyor olabilir. OpenAI makalesi, Astra'nın şimdiye kadarki en tehlikeli modeli olduğunu söylüyor - ne yaptığını izlemek giderek zorlaşıyor ve ilk olarak The Decoder'da ortaya çıktı.