Yapay zekanın en kötü felaketleri habersiz gelecek | Mektuplar

Dr Simon Nieder, yapay zekanın oluşturduğu tehditleri engellemek için gereken küresel çabalar hakkında. Artı Dr Anthony Harris ve David Kyler Timothy Garton Ash'in mektupları, ciddi yapay zeka risklerinin uluslararası eylem gerektirdiği konusunda haklı, ancak "AI Hiroşima" yanlış resim olabilir (Hiroşima ölçeğinde bir AI felaketi bile insanlığın kendisini koruması için yeterli olur mu? Korkarım, 22 Ağustos). Hiroşima teknolojinin kötüye gitmesi değildi. Bombayı insanlar tasarladı, kullanımına izin verdi ve attı. Teknoloji tam olarak amaçlandığı gibi çalıştı. Yapay zeka bir gün kontrol edemeyeceğimiz şekillerde davranabilir, ancak en ağır zararların çoğu, "yapay zekanın kontrolü ele aldığı" dramatik bir an olmadan gerçekleşebilir. Yapay zeka, insanlar daha sonra ne olacağına karar verirken bir patojen tasarlamaya, kritik altyapıdaki bir güvenlik açığını bulmaya veya bir silah sistemini iyileştirmeye yardımcı olabilir.