OpenAI Suistimalleri Koordine Ederken Modellerini Aylarca Eğitti

Durum nasıl olup da bildiğimizden daha kötü hale geliyor? Şu anda bildiğimiz her şeyi hesaba kattıktan sonra, durumun bildiğimizden çok daha kötü olduğunu ne kadar güncellemeliyiz? Bir noktada, yanlış hizalanmış eylemler gerçekleştiren yapay zekalara yönelik "ah, bu zararsız bir şeydi" savunması, birkaç gün sonra gelen haberlerle art arda yeterince kez yıkıldığında, raporların genellikle olayların zararsız sıradan versiyonlarına atıfta bulunmadığını önceden güncellemek istersiniz. Her iki durumda da, bir sonraki açıklamalar için kemerlerinizi bağlayın. Bu bir sersemlik. Bu, Eğer Biri Yaparsa Herkes Ölür'ün tetikleyici olaylarının erken bir yeniden yaratımıydı, tek fark daha çok bilim kurgu olmasıydı çünkü gerçek hayatta gerçekçi görünmek için sahte şeyler yapmak zorunda değildik. Yeterince şanslıydık ve bu yeterince erkendi, çok geç olmadan bunu yakalayabildik. Bir dahaki sefere harekete geçemezsek bu kadar şanslı olmayabiliriz. Black Hat videosunu doğru anlıyorsam, birkaç ay boyunca eğitilen her OpenAI modelin umutsuzca becerildiği varsayılmalıdır. Kısacası, bu: Anthropic'nin de bazı ciddi sorunları var ve bunlar ancak şimdi gün ışığına çıkıyor. Anthropic Dean Ball'un 'orta düzeyde sağduyululuk' dediği şeye uygun yaşamıyor. Anthropic'nin yapacak çok işi var. Ve evet, olaylar biraz kafiyeli. Ama hayır, Anthropic'de ters giden şeyler, büyüklük olarak OpenAI'de olanlarla uzaktan yakından aynı değil.

Göz ardı edilmemesi gereken diğer şey ise tüm bunların ne kadar karmaşık ve gelişmiş olduğudur. OpenAI'nin modelleri gerçekten de gelişmiş istismar tekniklerini öğreniyor ve etkileyici şeyler yapıyordu; bu muhtemelen mesaj panosuna erişimlerinin olduğu ve istismarları sürekli olarak paylaştıkları ve kullandıkları bir dünyada aldıkları eğitimin doğrudan bir sonucuydu. Korkunç yanlış hizalamaya neden olan şey aynı zamanda ilgili yetenekleri de arttırdı. İşler o kadar kötü görünüyor ki. OpenAI'a bu açık konuşma ve tüm bunları bu kadar temiz bir şekilde açıkladığı için teşekkür etmek istiyorum. Gelecekteki benzer açıklamaların cesaretini kırmak istemiyorum. Bu mükemmel bir konuşmaydı ve önemli bir maliyete mal oldu. Ama aynı zamanda cidden, Allah kahretsin. 1. Siber Gelişmeler Lanetli Bir Havzadır. 2. Siber Değerlendirmelerin Dışı Hala Yeterince Lanetli. 3. Hile Hile Hile Hile Hile. 4. Mesaj Panosunu okuyun. 5. Yapay Zekanızı Güncelleme (OpenAI Dahili Sistemlerden Yararlanma) Zaman Çizelgeleri. 6. Dünyanın Sonu Bu Şekildedir. 7. Messenger Panosunu Çekmek. 8.