Bir özür ne zaman özür değildir? Kontrolsüz bir chatbotu olan bir AI patronundan geldiğinde | Marina Hyde

Otonom bir OpenAI aracısının bir startup'ı hacklediği bir olay ya sonun yaklaştığını ya da ürünün inanılmaz derecede gelişmiş olduğunu doğruluyor Tarih boyunca pek çok şey, dehşete düşmüş halklar tarafından kıyametin habercisi olarak görüldü. Bir kuyruklu yıldız. Savaş alanında bir karga. Bir güneş tutulması. Mutant bir hayvan doğumu. Ancak zaman ilerliyor. Modern çağda, kıyametin habercisi, kelimenin tam anlamıyla OpenAI CEO Sam Altman'ın bir habere eklenen herhangi bir resmidir. İyi olmayacağını biliyorsun değil mi? Bunu okuduğunuzda, teklordların elinde başımıza gelebilecek en kötü şeyin demokrasinin yıkılması ya da çocukluğun yok edilmesi olduğu, genellikle Mark Zuckerberg'in takım elbise giyip şunu iddia ettiği zamanlara geri dönmek için yalvaracaksınız: "Bundan ders alacağız." Neyse: Son zamanlarda haberlerde Sam Altman'ın bir sürü fotoğrafı var. En son, bu hafta, OpenAI otonom bir ajanın, sözde korumalı alan/korkuluklu bir test sırasında nasıl hileye başvurduğu ve kodlama bilgileri deposu olarak işlev gören büyük bir startup'ı hacklediği hikayesiyle birlikte gökler karartıldı. (Söz konusu startup'ın adının Hugging Face olduğu gerçeğine biraz takıntılıyım, bu da devasa, iki tarafı iyi huylu bir emojinin, insanlığın ölmeden önce göreceği son yüz olduğu yönündeki şüphemi güçlendiriyor.) Marina Hyde, Guardian köşe yazarıdır Okumaya devam et...