Yapay Zeka Vadeli İşlemleri ile Tanışın

"İktidarın tecavüzcü ruhuna karşı bu parşömen bariyerlere güvenmek yeterli olacak mı?" —James Madison, Federalist No. 48 OpenAI'in yeni Stratejik Vadeli İşlemler ekibinin blogu olan AI Futures'ı başlatmak bizim için bir zevktir. Biz, genel bir soruyu yanıtlamak gibi kolektif bir hedefe sahip küçük bir ekibiz: Özgür toplum, dönüştürücü yapay zekanın ortaya çıkışına uyum sağlarken bireysel hakları ve failliği koruyacak şekilde nasıl yeniden yapılandırılmalıdır? Bunun gibi sorulara bazen daha geniş yapay zeka güvenliği ve politika topluluğu içinde güç risklerinin yoğunlaşması adı verilir. Ekibimiz, uzun vadede bu risk kategorisinin en büyük, en ciddi ve kavramsal olarak ele alınması en zor olan risk kategorisi olduğu fikri üzerine kurulmuştur. Neden? Modern devlet, sermaye ve emtia sahipleri, siyasi iktidarın sahipleri ve halk gibi çeşitli güç merkezleri arasındaki uzun ve eşitsiz bir pazarlık sürecinin ürünüdür. En temelde siyasi ve askeri güç emeğe dayanıyordu. Siyasi gücü elinde tutmak, meşru güç üzerinde tekele sahip olmaktır. Tüm insanlık tarihi boyunca bu tekel, askerler ve bugün "polis" dediğimiz şeyin yanı sıra geniş bir sivil-askeri bürokrasiden oluşmuştur; elbette birçok teknolojik araçla tamamlanmıştır, ancak temelde operasyonu sürdürmek için desteğine ihtiyaç duyulan insanlar tarafından işletilmektedir.

Ve tüm aygıt (askerler, aletler, görevli bürokrasi) ödemeye razı olması gereken insanların ücretlerinden veya üretiminden toplanan vergilerle finanse ediliyordu. Güç, özünde birçok insanın geniş ölçekli işbirliğine ve rızasına dayanıyordu. David Hume, siyasi liderlerin "[popüler] görüşlerden başka onları destekleyecek hiçbir şeyleri olmadığını" gözlemlediğinde bu sıklıkla üstü kapalı varsayımı kısa ve öz bir şekilde dile getirdi. Ama belki artık değil. Gerçek dünyadaki otonom sistemlerdeki ilerlemeler, yakında devletlerin, işbirlikçi askerlere veya polis memurlarına güvenmeden, yerel ve uluslararası düzeyde güç kullanabilecekleri anlamına gelebilir. Makine zekasındaki gelişmeler ise devletin ihtiyaç duyduğu geliri bireysel insan emeğinin meyvesinden değil, veri merkezlerinin çıktılarından toplayabilmesi anlamına gelebilir. Bürokrasinin işleyişi de büyük ölçüde otomatikleştirilebilir.