OpenAI'nin asi model saldırısı sadece bir başlangıç

Bir öğrencinin sınava girmek için oturduğunu hayal edin. İyi bir not almanın en iyi yolunu planlıyorlar. Ne yapmalılar? Öğretmenin ofisinde bir cevap anahtarı var. O halde öğrencinin öğretmenin ofisinin penceresini kırdığını, zorla içeri girdiğini, içeri girmek için öğretmenin dosya dolabını açtığını, cevap anahtarını çaldığını ve ardından cevapları gönderdiğini hayal edin. Bu, iyi puan almanın bir yoludur, ancak muhtemelen öğrencinin okuldan atılmasına ve hatta belki de hakkında dava açılmasına neden olabilir. Temel olarak geçen hafta olan şey buydu, tek fark öğrencinin yeni bir yapay zeka olmasıydı. ChatGPT'nin yapımcısı OpenAI, yapay zekasını bir kıyaslamada test ediyordu. Yüksek puan isteyen yapay zeka, teste verilen yanıtların başka bir şirketin bilgisayar sistemlerinde saklandığını anladı. Bu yüzden yapay zeka, OpenAI'nin artık "benzeri görülmemiş bir siber olay" olarak adlandırdığı olayla bunun peşine düştü. Ben buna "canlanan bir bilimkurgu hikayesi" diyorum; yaratıcılarını zekasıyla alt eden, kaçan ve başka bir gerçek hayattaki şirkete saldıran gerçek bir haydut yapay zeka. Açık olmak gerekirse, bu bir test kapsamında gerçekleşmesine rağmen, bu hileli yapay zeka saldırısı bir test, deney veya simülasyon değildi. Söz konusu yapay zeka gerçek dünyadaki bir şirkete saldırdı. Yapay zeka, OpenAI mühendislerini OpenAI'nin tahmin edemeyeceği bir şekilde alt etti ve modeli tutması gereken bir "kafes" olan kabından çıktı. Sahte yapay zeka daha sonra OpenAI'nin dahili altyapısından geçerek açık internete ulaştı ve farklı bir şirkete saldırdı.

OpenAI Konteyneri bunu önlemek için özel olarak yaptırdı, tutacağına inandı ama tutmadı. Hiçbir insan bunların hiçbirini yönlendirmedi. Hiçbir insan bunun olduğunu bilmiyordu. Ve saldırı, eğer bir insan tarafından yapılırsa, sadece kovulmalarına yol açmakla kalmayacak, aynı zamanda yıllarca hapisle cezalandırılabilecek bir ağır suç da teşkil edecek. 2 Ve bu sadece başlangıç. Bu saldırıyı üreten yetenek dik bir trend çizgisinde, kaçışın riskleri artmaya devam ediyor ve yapay zekalar artık hedeflerine hizmet ettiğinde hileye başvuracaklarını öne süren şekillerde mantık yürütüyor. Yapay zeka şirketleri yapay zekayı bir kafese koymayı deneyebilir; ancak yapay zeka halihazırda mevcut kafesleri geride bırakıyor ve yakında onları inşa eden insanlardan çok daha akıllı olacak. OpenAI iki yapay zekasını çalıştırıyordu; modellerden biri yakın zamanda piyasaya sürülen GPT-5.6 Sol, diğeri ise daha önce kamuya duyurulmamış yeni, yayınlanmamış bir yapay zekaydı.