OpenAI, yapay zekasının başıboş kaldığını ve 'benzeri görülmemiş' bir siber saldırı başlattığını söylüyor

OpenAI, en gelişmiş yapay zeka modellerinden bazılarının, bir güvenlik testi sırasında kontrolünü kaybettikten sonra hileye başvurduğunu ve bir start-up'ı hacklediğini ortaya çıkardı. ChatGPT yapımcısı, bazı insan talimatlarının ardından tek başına çalışabilen bir yapay zeka sistemi olan aracısının kontrollü bir ortamda test edildiğini, ancak güvenlik açıklarını bulduğunu ve kaçmayı başardığını söyledi. Yapay zeka modellerinin paylaşıldığı dünyanın en büyük merkezlerinden biri olan Hugging Face'yi hedef alarak bazı şirket içi sistemlere erişim sağladılar. OpenAI, olayın "eşi görülmemiş" olduğunu ve Hugging Face ile birlikte bir soruşturma yürüttüğünü söyledi; patronu Clement Delangue, X'teki bir gönderide "tüm bunların özerk bir şekilde gerçekleşmesinin akıllara durgunluk veren" olduğunu söyledi. Delangue, "Soruşturma devam ediyor ve türünün ilk örneği olabilecek olaydan daha fazla bilgi paylaşacağız" diye ekledi. Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Gina Neff, BBC Radio 4'ün Today programına, sandbox adı verilen güvenlik testlerinin "modellerin neler yapabileceğini görebileceğiniz güvenli ortamlar olması gerektiğini" söyledi. "Bu durumda, OpenAI yeterince güvenli bir sanal alan oluşturmamış gibi görünüyor" diye ekledi. Bunun yerine ajanlar, sanal alanın kendisine karşı kendi siber saldırılarını oluşturdular ve kaçmalarına olanak tanıyan bir güvenlik açığı buldular. Dışarı çıktıklarında AI, testte aradıkları cevapların olası kaynağı olarak Hugging Face'yi belirledi ve erişim sağlamaya çalıştı. Neil Lawrence, makine öğrenimi profesörü

Cambridge Üniversitesi'nden bilim adamı bunu "etkileyici bir başarı" olarak nitelendirdi ancak yüksek güçlü yapay zeka modellerinin "mevcut neslin bilinen yetenekleri dahilinde olduğu" konusunda uyardı. OpenAI'nin kendisini borsada listelemek istediğini ve kendi güçlü yapay zeka aracı Mythos ile manşetlere çıkan rakip firma Anthropic'nin yoğun baskısıyla karşı karşıya olduğunu belirtti. "OpenAI artık yetişmeye çalışıyorlar, siber güvenlik konusunda kendi sistemlerinin yeteneklerini göstermeye çalışıyorlar." "Bu bize OpenAI'nin kendi teknolojilerini güvenli bir şekilde konuşlandırma yeteneğine sahip olmadığını gösteriyor" diye ekledi. Hugging Face, 16 Temmuz'da hackle ilgili ilk açıklamasında herhangi bir müşteri veya iş ortağı verisinin etkilenip etkilenmediğini hala değerlendirdiğini ve gerekirse etkilenen taraflarla iletişime geçeceğini söyledi. Artık olayın vurguladığı güvenlik açıklarını kapattığını ve etkilenen sistemleri yeniden inşa ettiğini söyledi. "Otonom, AI-dri