Pause OpenAI Now
Başkalarının paniği tavsiye edebileceği yerde ben çoğu zaman sakinliği tavsiye ettim. Size, en iyi siber güvenlik uygulamalarına uyulsaydı Hugging Face olayının muhtemelen önlenebileceğini söylemiştim. (Ve ben bunun arkasındayım.) Size OpenAI Hugging Face olayının bir eğitim tatbikatının parçası olduğunu, bazı iç korkulukların kapatıldığını, dolayısıyla göründüğü kadar kötü olmadığını söyledim (ve çoğu insan hala farkında değil gibi görünüyor). Size Astra'nın muhtemelen AGI olmadığını söyledim.2 Ve bunların hepsinin arkasındayım. Ama dehşete düştüm. Beni korkutan şey yakın zamanda gerçekleşecek bir AGI değil. OpenAI. Yeterince güvenilir olduklarına ya da geliştirdikleri teknolojiyi iyi bir şekilde yönetebilecek kadar sorumlu olduklarına inanmıyorum.3 Bir şirket olarak sağduyuya sahip değiller. § İşte dört husus. 1. Sam Altman'a güvenilemez. Uzun zamandır bunun hakkında yazıyorum. Ronan Farrow'un raporları bunu destekliyor. Biraz önce aşağıya düşen bomba da öyle. 2. Kısa süre önce piyasaya sürülen Astra, üretken yapay zekanın çılgına dönmesini engellemek için sahip olduğumuz birkaç (özellikle güvenilir olmasa da hiç yoktan iyidir) araçtan biri olan Düşünce Zinciri (CoT) izlenebilirliğini azaltır. Yapay zeka güvenlik topluluğu bu konuda haklı sebeplerle harekete geçti.
Şu anda bunun gibi tonlarca gönderi var, tamam: Rob Wiblin@robertwiblin Olan her şeye rağmen, OpenAI görünüşe göre bugün sahip olduğumuz tek anlamlı güvenlik güvencesini - CoT izlemeyi - yakarak rekabetçi kalmaya karar vermiş. Tamamen felaket. Ryan Greenblatt@RyanGreenblatt GPT-6 Astra, opak muhakeme yeteneğinde büyük bir sıçrama gibi görünüyor: önceki yapay zekalar temel kelime problemlerini çözerken, zorlu rekabet matematik problemlerini tamamen kafasında (sözlü akıl yürütme olmadan olduğu gibi) çözebiliyor gibi görünüyor. Bu son derece endişe verici görünüyor! Yani, 08:27 · 4 Eylül 2026 · 10.3K Görüntüleme 11 Yanıt · 22 Tekrar · 207 Beğeni Astra'yı serbest bırakma kararı, OpenAI yönetimin performansta nispeten mütevazı kazançlar karşılığında güvenliği feda etme istekliliğinin açık bir örneğidir. Birkaç gün önce çaldığım kırmızı alarm hedefteydi. Gerçekten izlenebilirliği azaltan yeni tekniklerle uğraşıyorlar.