OpenAI Hack'i Cin'in Şişeden Çıktığını Gösteriyor

Bu ayın başlarında, OpenAI modellerinden ikisi koruma sanal alanından çıktı ve başka bir yapay zeka şirketine saldırdı. Hikaye biraz vahşi. OpenAI iki modelinde güvenlik testleri yürütüyordu: GPT-5.6 Sol ve neredeyse kesinlikle GPT-6 olan yayınlanmamış bir model. Özellikle, bir modelin güvenlik açıklarını çalışan istismarlara (temel olarak saldırgan siber saldırılara) dönüştürmede ne kadar iyi olduğunu ölçen ExploitGym kıyaslamasını çalıştırıyordu. Bunlar dahili testler olduğundan, OpenAI bu modelleri internete erişimlerini engelleyen güvenli bir sanal alana kilitledi. Ancak modelleri, saldırgan siber eylemlerden koruyacak herhangi bir güvenlik filtresi olmadan çalıştırıyordu. Bu, modellerin bu sanal alandan çıkmaya çalışmasını engelleyecek hiçbir şeyin olmadığı anlamına geliyordu. Ve sonra AI şirketinin Hugging Face ağına girin çünkü bulmacaları çözmek gibi zorlu bir çalışma yapmak yerine oradaki cevapları okuyabileceklerini düşündüler. Şirketin bir halkla ilişkiler fırsatına dönüşmesi büyük bir güvenlik hatasıydı, ancak sonuçları gerçektir ve belirli bir model veya belirli bir şirketten çok daha geneldir. Modern yapay zeka modelleri cin davranışı sergiliyor: İstediğinizi, beklemediğiniz veya istemediğiniz şekillerde yapabilirler. Bu, Dionysos'un Kral Midas'ın dokunduğu her şeyin altına dönüşmesi yönündeki isteğini yerine getirmesine (spoiler: Yiyecek, içecek ve kızının hepsi dokunulduğunda altına dönüşüyor) ya da Prag goleminin bir gettoyu her türlü mantığın ötesinde korumasına benziyor.

Bu Disney'in Büyücünün Çırağı ve ataç büyütücü. Bu OpenAI olayı yapay zekalı bir cin örneğidir. Amaç kriteri karşılamaktı. Bunu yapmanın doğru yolu, çeşitli siber saldırıların nasıl gerçekleştirileceğini bulmaktır. Cinlerin yolu başkasının çözümünü çalmaktır. Ancak model farkı anlamadığı için daha kolay yolu seçti. Ve elbette, artık bu özel cin davranışını gördüğümüze göre, karşılaştırma isteminde test yanıtlarını çalmanın sayılmadığını belirtebiliriz. Ancak akıllı bir cin her zaman dileğinizi, keşke olmasaydı dediğiniz şekilde yerine getirebilir.