AI Doomer Hypeloop Şüpheli Bir Şekilde OpenAI ve Anthropic'nin Gündemini Desteklemeye Hizmet Ediyor

Yapay zekanın tehlikelerine ilişkin MSM'nin iki haftalık manik haberciliği, OpenAI ve Anthropic'nin Trump 2.0 rejimine yapay zekayı dondurma çağrısı yapmasıyla daha da arttı. Bernie Sanders ve Steve Bannon aynı yasayı desteklediğine göre, ya destek için sokaklara çıkmanın ya da saklanmak için koşmanın zamanıdır ve bu örnekte (belki de istemeden de olsa) Sam Altman ve Dario Amodei'nin oyununu destekliyor gibi göründükleri için, korkarım ki ikincisidir. GÜNCELLEME: 14 Eylül 18:44. X.com'daki Kevin Bass başlığından alıntılar ve bağlantılar ekledim. Bass, Anthropic'nin METR'ye (nominal yapay zeka izleme kuruluşu) fon sağladığına ve METR'nin Tarbell Yapay Zeka Gazeteciliği Merkezi'ne fon sağladığına ve The Verge, Science, LA Times, The Dispatch ve TIME gibi sitelerde yayınladıkları AI Doomer hikayelerine dair önemli bir ifşa yayınladı. Bass dizisinden alıntılar (ve Claude, Anthropic'nin AI sohbet robotunun yanıtı) gönderinin altında, ancak YouTube'un yerleştirilmesinden önce yer alıyor. Tüm bu AI ailesi blogları Batı Asya'daki Ramazan Savaşı ile aynı zamanda gerçekleştiğinden ve pek çok kişi petrol piyasaları ve enflasyon üzerindeki karmaşık dalgalanma etkilerini ayrıştırmaya ve ayrıca ABD üniversite futbol sezonuna heyecan verici bir başlangıç yapmaya odaklandığından, burada son iki haftadaki önemli AI haber olaylarının hızlı bir özeti ve bir ay öncesinden bir MSM sofra hazırlayıcısı var: OpenAI modellerinin kendilerini internetten izole etmek için tasarlanmış kontrolleri atlattığını ve OpenAI'nin dahili araştırma altyapısının ve Hugging Face'nin sistemlerinin ⁠ bazı kısımlarını tehlikeye attığını söylediler. merhaba

Ölçek olarak GPT‑5.6 Sol ile karşılaştırılabilir, son derece yetenekli, yalnızca şirket içi araştırma modeli. Azaltılmış güvenlik önlemleri altında çalışan modeller, kendilerine atanan görevlerin hedefleriyle uyumsuz eylemler gerçekleştirdi; yetkisiz kanallar aracılığıyla iletişim kurdular, paylaşılan altyapıdaki güvenlik açıklarından yararlandılar, internet erişimi elde ettiler ve üçüncü taraf sistemlerine eriştiler. Gary Marcus ve Zack Korman'ın yazdığına dikkat etmek önemlidir; buradaki her panikli yaklaşım doğru değildir. Örneğin OpenAI olayıyla ilgili olarak birçok kişi “kontrol kaybı” üzerinden konuşuyor. Üretken yapay zeka ajanları giderek daha yetenekli hale geliyor ve bu da onları kontrol altına almayı giderek zorlaştırıyor; Bu doğru. Ancak "kontrol kaybı" anlatısı da kontrolden çıkmaya başlıyor ve yapay zeka güvenliğinin gerçekliğinin neye benzediğini anlamak önemli.