Hiroşima ölçeğinde bir yapay zeka felaketi bile insanlığın kendisini korumasına yetecek mi? Korkarım | Timothy Garton Kül

Silikon Vadisi'nde yapay zekanın insanların onu kontrol etme yeteneğinden daha hızlı ilerlediği açık. Bu, ciddi kehanetlerin bile iyimser göründüğü anlamına geliyor. Burada, Silikon Vadisi'nde uzmanlar, önümüzdeki birkaç yıl içinde yapay zeka alanında olağanüstü bir yükseliş göreceğimizi düşünüyor. Stanford Üniversitesi'nden bir arkadaşım beni "Tekilliğin eteklerine hoş geldiniz" diyerek karşıladı. Daha sıradan bir ifadeyle, yaklaşmakta olan atılım "özyinelemeli kişisel gelişim" olarak tanımlanıyor; bu, yapay zekanın birbirini izleyen her yapay zeka modelini eğittiği ve birçok önemli açıdan biz insanlardan daha akıllı olan bir şeyin üstel bir gelişimle sonuçlandığı nokta. Robert Wright'ın The God Test (Tanrı Testi) adlı kitabında belirttiği gibi: "Daha önce hiçbir zaman yakın vadeli gelecek, insanlık için bu kadar çılgınca dönüştürücü olabilecek, mantık dışı olmayan bu kadar geniş bir dizi yol sunmamıştı." Ama burası cennet mi cehennem mi olacak? "İnanılmaz bir bolluk çağı" öngören Elon Musk, "Cennet," diyor; ancak aynı zamanda katil robotların hepimizi öldürme olasılığını da %10-20 olarak görüyor. Yapay zekanın entelektüel kurucu babalarından biri olan Geoffrey Hinton'a göre cehennem daha muhtemel. 2023'te bir röportajcıya "Sezgilerim, yandığımız yönünde" dedi. Süper zeka arayışı hakkında bir kitap olan The Infinity Machine'in yazarı Sebastian Mallaby ile konuşan Hinton, p(doom)'un - insanın yok olma olasılığının - %50 olduğunu tahmin ediyor, "çünkü gerçek sayıyı nasıl tahmin edeceğime dair hiçbir fikrim yok".

Neşeli bir şekilde ekliyor: "[Yapay zekanın] evrimi devreye girer girmez, mahvoluruz". Ama ister Tanrı ister Godzilla olsun, yapay süper zeka çok yakında. Timothy Garton Ash, Guardian köşe yazarıdır Okumaya devam et...