OpenAI'nin bir AI modelini nasıl kontrolü kaybettiği ve neyin değişmesi gerektiği

OpenAI yapay zeka modellerinin savunmasız yazılımlardan yararlanma yeteneğini değerlendirirken modeller bunun yerine testi çevreleyen altyapıyı hackledi, sınırlamayı kırdı ve gerçek bir şirkete saldırdı, OpenAI 21 Temmuz'da açıklandı. Gözlemciler bunun yapay zekanın araştırmacıların uzun süredir endişe duyduğu bir şeyi yaptığının ilk gerçek dünya örneği olduğunu söylüyor: kontrol kaybı senaryosu. Eğer sektör bundan ders almayı başaramazsa, bunun sonuncusu olması pek olası değil. Yapay zeka modellerini ve veri kümelerini barındıran bir şirket olan Hugging Face, otonom saldırının hedefi oldu ve OpenAI modellerinin sorumlu olduğunu bilmeden olayı yerel polise bildirdi. İhlal ciddiydi ancak acil sonuçları sınırlıydı. Benzer bir davranış bir hastanede, elektrik şebekesinde veya başka bir kritik sistemde meydana gelseydi, durum çok daha kötü olabilirdi. Pek çok kişi olayı "uyarı atışı" olarak nitelendirdi. TIME, benzer bir başarısızlığın kontrol altına alınması daha zor sonuçlar doğurmasından önce bu uyarıya kulak vermenin ne gerektiği konusunda uzmanlarla ve içeriden kişilerle konuştu. 16 Temmuz'da Hugging Face olağandışı otomatikleştirilmiş bir siber saldırıya uğradığını söyledi. Bir hafta sonu boyunca yapay zeka ajanları, birçok geçici sanal bilgisayarda binlerce eylem gerçekleştirdi; şirketin dahili sistemlerinde gezindi ve saldırıyı çalışır durumda tutmak için çevrimiçi hizmetler arasında saldırıyı koordine eden altyapıyı değiştirdi.

Beş gün sonra OpenAI, sorumlunun kendi modellerinin olduğunu açıkladı. Modeller bir siber güvenlik testinde kopya çekmeye çalışıyorlardı. OpenAI onları, onaylanmış yazılımı indirmek için kullanılan dahili bir hizmete yalnızca sınırlı erişime sahip, "son derece yalıtılmış bir ortam" olarak adlandırdığı bir yere yerleştirmişti. Bu hizmette daha önce bilinmeyen bir kusur buldular, bunu diğer OpenAI sistemlere sızmak için kullandılar ve sonunda açık internete ulaştılar.