Frontier AI laboratuvarları hala hileli bir modeli nasıl içerebileceklerini söylemiyor

Yakın zamanda yapılan bir araştırmaya göre, en iyi yapay zeka laboratuvarlarından çok azı kontrol altına alma müdahale planlarını yayınladı veya gösterdi. Bir sınırlama planı, bir yapay zekanın insan kontrolünü alt üst etmeye çalışırken yakalanması durumunda ne olacağını, hangi erişimin kesileceğini ve sistemin ne zaman tamamen kapatılacağını ayrıntılarıyla açıklıyor. Bu, güvenli sınır yapay zeka geliştirme uygulamalarını teşvik etmeye kendini adamış bir kuruluş olan ve önde gelen beş laboratuvarı tam olarak bu senaryoya ne kadar hazırlıklı olduklarına göre derecelendiren Guidelight AI Standards'ın elde ettiği bulgudur. OpenAI zirveye çıktı; Anthropic ve Meta en düşük puanı aldı. Ajansal yapay zeka şirketlerin kendi sistemlerinde daha özerk roller üstlendiğinden ve Kaliforniya ve New York'taki düzenleyiciler açıklama talep etmeye başladıkça bulgular önem taşıyor.

Bu modelleri geliştiren veya bunlara yatırım yapan herkes için, her laboratuvarın operasyonel riskleri ne kadar ciddiye aldığına ve bunun hakkında nasıl konuştuğuna dair nadir, bağımsız bir okumadır. Guidelight'ın değerlendirmesi Anthropic, Google, OpenAI, Meta ve xAI'nin kamuya açık planlarına dayanıyordu ve her şirketin AI sistemlerinin dahili olarak ne yaptığını ne kadar iyi günlüğe kaydettiği ve izlediği, işaretlenmiş bir hatalı davranış artışından sonra sistemleri durdurup durdurmadığı, bağımsız üçüncü tarafların kontrollerini denetleyip yayınlamadığı ve bulguları yayınlayıp yayınlamadığı ve kontrolden çıkan bir modeli içermeye yönelik tam planının ne olduğu dahil olmak üzere bir dizi ölçüme göre derecelendirildi. raylar. OpenAI, Anthropic ve Meta modellerinin güvenlik değerlendirmeleri sırasında internete istenmeyen erişim sağladığı ve harici sistemleri hacklediği bir dizi yüksek profilli siber güvenlik olayının ardından, yapay zeka şirketlerinin giderek daha yetenekli ve etkin modellerini kontrol altına alıp alamayacağına dair endişeler arttı. Bulgular, yapay zeka şirketlerinin, yapay zeka sistemlerinin ciddi ölçekte ciddi eylemler gerçekleştirebileceği ortamlara yönelik ajansal dağıtımı ölçeklendirirken kamuya açık bir şekilde güvenliğe nasıl yaklaştıklarındaki farklılıkları vurguluyor.