Otonom dronlar ve yapay zeka odaklı bir dünyada savaşın geleceği | Mektup

Askeri cerrah Dr Darren Mann Stuart Russell, ayrım yapmadan öldüren, kimseye hesap vermeyen, kimseyi güvende bırakmayan makinelerin, yapay zeka inşaatçılarının kontrolünü kaybetmekten korktuğu konusunda haklı olduğunu yazıyor (Uzmanlar uyarıyor: Yapay zeka silahlanma yarışı insanlığı riske atıyor, 11 Ağustos). Ancak bu yalnızca gelecekteki süper zekanın sorunu değil; zaten silahlara yüklenmiş durumda ve kontrol kaybı yarın insanlığı değil bugün bir sivili öldürüyor. Bir “öldürme kutusunu” temizlemesi söylenen otonom bir drone, diğer köşe yazarlarınızın tanımladığı cindir (Yapay Zeka ajanlarının hain davranmasını nasıl önleriz? Yeni bir tür ölçümle başlıyor, 18 Temmuz): kendisine söyleneni yapıyor, içinde ne varsa öldürüyor, savaşçı ya da çocuk. Bir hedef ile yasal bir hedef arasındaki boşluk, talimat yasal olduğundan hiçbir talimatın kapatamadığı ayrım ilkesidir. Okumaya devam edin...