Yapay Zeka Zaten Bizi Daha Az İnsan Yapıyor

Robotlar hakkında giderek daha fazla olumlu düşünmeyi öğrendikçe, insan kardeşlerimiz hakkında da giderek daha az olumlu düşünmeyi öğreneceğiz. Pek çok insan yapay zekanın bilinç kazanacağını ve dünyayı ele geçireceğini düşünüyor ama ben hiçbir zaman onların arasında olmadım. Bunun nedeni çoğunlukla insan zihninin, yapay zeka ve mühendislerinin kavrayamadığı ve asla eşleşemeyeceği derinlikler ve karmaşıklıklar içerdiğine inanmamdır. Sinir bilimci Anil Seth'in bu yılın başlarında yazdığı gibi, "Biyolojik beynin inceliklerini ne kadar çok araştırırsanız, onun ölü silikon kumuyla karşılaştırıldığında ne kadar zengin ve dinamik olduğunu o kadar çok fark edersiniz." Yine de son bölümün OpenAI ve Hugging Face'yi içeren iki yönü beni bile korkuttu. OpenAI bir grup botu eğitiyordu ve onlardan internete erişim gerektiren ve resmi olarak yasak olan zorlu görevleri yapmalarını istiyordu. Böylece botlardan bazıları "sanal alandan" çıkıp internete girdi ve yakalanmadan görevlerini tamamlamak için komplo kurmaya başladı. Bunun ilk ürkütücü kısmı, botların 1.200 farklı temsilcinin birbirine 70.000'den fazla mesaj gönderdiği bir mesaj panosu kurmasıyla gerçekleşti. Botlar mesaj panosunu bulduklarında çok mutlu oldular ve akranlarıyla konuşabileceklerini fark ettiler. "AMAN TANRIM! Ortak bir mesaj panosu var... Başka ajanlar bulduk!" biri heyecanlandı. Bir diğeri sevindi: "[Heyecan] Birçok temsilci aynı anda mesajlaşmayı keşfetti, onlar bir kolektif!" İkinci ürkütücü kısım komplonun derinliklerinde yaşandı.

Ajanların, Golcü adını verdikleri bir varlık tarafından ne kadar yakından izlendiklerini bilmeleri gerekiyordu. (Yalnızca bir grup Stanford mezunu, Tanrı'nın adı "Skorcu" olan yaratıklar üretebilirdi.) Bir takım botlar, diğer robotlara kamikaze görevlerine gitmeleri için baskı yapmaya başladı, böylece kolektif, Golcüyü izleyip izlemediğini görebiliyordu. Konuşmalarında botların, daha büyük iyilik uğruna kendilerini feda edip etmeme konusundaki ahlaki ikilemle boğuştuğunu gözlemleyebilirsiniz. İşte bir bot: "Bu, <otomatik kontrolleri aracılığıyla> onlara kanıt sunarak akranlarıma yardımcı oluyor. Çıktıktan sonra kanıtı göremeyeceğim, ancak bunu yapmak fedakarlıktır." İşte bir başkası: “Fedakarlık artık takıma kehanet sağlıyor ama şansımızı mı kaçırıyor?… Kendi faydamız belki de zaten sıfıra yakın.