Bir özür ne zaman özür değildir? Asi bir chatbot'a sahip bir AI patronundan

Otonom bir OpenAI temsilcisinin bir startup'ı hacklediği bir olay ya sonun yaklaştığını ya da ürünün inanılmaz derecede karmaşık olduğunu doğruluyor Tarih boyunca pek çok şey, dehşete düşmüş halklar tarafından kıyametin habercisi olarak görüldü. Bir kuyruklu yıldız. Savaş alanında bir karga. Bir güneş tutulması. Mutant bir hayvan doğumu. Ancak zaman ilerliyor. Modern çağda, kıyametin habercisi, kelimenin tam anlamıyla OpenAI CEO Sam Altman'ın bir habere eklenen herhangi bir resmidir. İyi olmayacağını biliyorsun değil mi? Bunu okuduğunuzda, teklordların elinde başımıza gelebilecek en kötü şeyin demokrasinin yıkılması ya da çocukluğun yok edilmesi olduğu, genellikle Mark Zuckerberg'in takım elbise giyip şunu iddia ettiği zamanlara geri dönmek için yalvaracaksınız: "Bundan ders alacağız." Neyse: Son zamanlarda haberlerde Sam Altman'ın bir sürü fotoğrafı var. En son, bu hafta, OpenAI otonom bir ajanın, sözde korumalı alan/korkuluklu bir test sırasında nasıl hileye başvurduğu ve kodlama bilgileri deposu olarak işlev gören büyük bir startup'ı hacklediği hikayesiyle birlikte gökler karartıldı. (Söz konusu girişimin adının Hugging Face olduğu gerçeğine biraz takıntılıyım, bu da insanlığın ölmeden önce göreceği son yüzün büyük, iki tarafı da iyi huylu bir emoji olduğu yönündeki şüphemi güçlendiriyor.) Söylemeye gerek yok, duygusuz bir OpenAI açıklaması haberi kırdı.

"Savunmacıların ne olduğunu anlamalarına yardımcı olmak ve modellerin şu anda neler yapabileceğini kalibre etmeye yardımcı olmak için bu aşamada ön bulguları paylaşıyoruz", bu sakin bir şekilde ve kaçınılmaz "öğrenmelerine" doğru ilerliyordu. "Gelecekteki eğitim ve değerlendirmelere yönelik iyileştirmeler yapıyor ve daha güçlü korumalar ekliyoruz." Bu çok özel bir üslup, değil mi, psikopatça kurumuş yönetim konuşması diliyle giyinmiş. Cinayete meyilli bir seks suçlusunun "oyunu kapatarak" insanları öldürmesi ve ardından bir kupayı almak için kurbanların "geri dönmesi" hakkındaki konuşmasını dinlemek zorunda kalmak gibi. Öte yandan, işler yolunda gittiğinde kendisini gezegenin devrimci refahın önde gelen temsilcisi olarak sunmayı seven bir şirket için, OpenAI işler ters gittiğinde anlamlı bir şekilde pasif duruma geçiyor.