AI güvenliğini göz ardı etmek için nedenlerimiz tükeniyor
Özgün başlık: We’re running out of reasons to ignore AI safety
Bu ayın başlarında OpenAI birçok yapay zeka modeline bir görev verdi: Siber güvenlik yeteneklerini ölçmek için tasarlanmış bir testi tamamlamak. Sistemleri internet bağlantısı olmayan sandbox ortamına yerleştirip çalışır hale getiriyor. Bundan sonra olanlar neredeyse gülünç derecede saçma ama aynı zamanda AI güvenlik organizasyonu FAR.AI'nin kurucu ortağı ve CEO'su Adam Gleave'in ifade ettiği gibi, "yanlış hizalanmış yapay zekanın nasıl zarar verebileceğinin içgüdüsel bir örneği." OpenAI'e göre modeller, kendilerini içermesi gereken sanal alandan kaçtı, şirketin dahili sistemlerinde ilerledi, internete giden bir rota buldu ve ardından Hugging Face'ye girmenin bir yolunu aramaya başladı. Ve neden... Hikayenin tamamını The Verge'da okuyun.