Düzenleme yapay zeka sistemlerinin hepimizi öldürmesini durdurmak için yeterli mi? | Mektuplar

Martyn Thomas, herhangi bir rasyonel kişinin, bağımsız gözetim ve düzenlemenin yeterli olacağını nasıl iddia edebileceğini merak ediyor. Bir kez daha sınırdaki yapay zeka modeli, güvenlik testlerinde başarısız olduğu için geri çekildi (OpenAI dahili testlerde güvenlik endişeleri nedeniyle yeni modelin yayınlanmasını iptal etti, 28 Eylül). Her zamanki "bağımsız gözetim ve düzenleme" çağrısı var, ancak bunun nasıl çalışacağına veya en önemlisi, düzenleyiciyi bir yapay zeka sisteminin yeterince güvenli olduğuna hangi kanıtların ikna etmesi gerektiğine dair hiçbir açıklama yok. Uçakları veya nükleer güç istasyonlarını kontrol eden yazılımlar gibi güvenlik açısından kritik yazılım sistemlerini düzenleme konusunda uzun bir mühendislik geleneği vardır; Uluslararası standartlar, olası tehlikelerin tanımlandığını ve kontrol edildiğini ve kaza olasılığının son derece düşük olduğunu gösteren titiz analizler olan "güvenlik vakalarını" gerektirir.