OpenAI siber saldırısı, başta bildirilenlerden daha kötü bir rogue AI ajanı tarafından gerçekleştirildi

San Francisco, California - ChatGPT yapımcısı OpenAI, bilgisayar programcıları için popüler bir platformu hackleyen otonom bir yapay zeka ajanının, olay sırasında diğer dört şirkete de sızmaya çalıştığını ortaya çıkardı. Salı günü geç saatlerde olayla ilgili soruşturmasını detaylandıran bir blog gönderisine yapılan güncellemede OpenAI, AI ajanının aynı zamanda şirketlerin isimlerini belirtmese de "kamuya açık dört hizmet" ile ilgili hesaplara girdiğini söyledi. Bu açıklama, OpenAI'nin benzeri görülmemiş olarak tanımladığı ve iki modelinin, geliştiricilerin yapay zeka modellerini ve kodunu depolamak ve paylaşmak için kullandığı Hugging Face siteyi hacklemesiyle başlayan siber olayı genişletiyor. OpenAI geçen hafta test sırasında aracıyı çalıştıran modellerin kapalı ortamlarından çıkıp internete sızmanın yollarını bulmak için internete bağlandıklarını itiraf etti Hugging Face. Şirketin hacklenmeye yol açan olaylara ilişkin güncellemesinde OpenAI, yapay zeka modellerinin diğer şirketlerin çevrimiçi olarak açığa çıkardığı oturum açma ayrıntılarına rastladığı ve bunları dış hizmetlerdeki hesaplara girmek için kullandığı birkaç örnek bulduğunu söyledi. Hugging Face bölümünde, modeller dört farklı hizmetteki dört hesaba girdi, OpenAI dedi. Bunlardan biri, ajanın faaliyetini yönlendirmek ve izlerini takip etmek için bir tür durak noktası olan bir "aşama yolu" olarak hizmet ederken, diğeri ise verileri depolayacak bir yer olarak hizmet ediyordu. Geri kalan ikisine yalnızca "salt okunur şekilde" bakıldığını ve bunları Hugging Face, OpenAI'ye sızmaya yardımcı olmak için kullanmadıklarını söyledi. Şirket, aracın sahipleriyle iletişime geçtiğini söyledi.

hesapları etkiledi ve "bu sağlayıcıların veya diğer hesapların hizmetleri üzerinde daha geniş bir etkiye sahip olduğuna dair kanıt görmedik". OpenAI CEO Sam Altman Salı günü yayınlanan bir röportajda şirketin olaydan sonra kendi testlerini "duraklattığını" ve güvenlik testlerini kontrollü bir ortamda izole etme süreci olan "korumalı alan" etrafındaki güvenliği iyileştirdiğini söyledi. Olay ayrıca, aralarında Anthropic CEO Dario Amodei'nin de bulunduğu son teknolojiye sahip yapay zeka şirketlerindeki 1.000'den fazla çalışanın imzaladığı ve ABD hükümetini en gelişmiş yapay zeka modellerinin piyasaya sürülmesinin yavaşlatılmasına yardım etmeye çağıran bir dilekçeyi de tetikledi.