OpenAI'nin Hugging Face Hack'i Kongre'de 'AI Kill Switch' Tasarısını Tetikledi

Temsilci Ted Lieu, D-Calif. ve Temsilci Nathaniel Moran, R-Texas, Perşembe günü yapay zeka şirketlerinin modellerini kapatma, kısma veya askıya alma yeteneğini sürdürmesini gerektiren "Yapay Zeka Öldürme Anahtarı Yasası" adlı bir yasa tasarısını sundu. Lieu yaptığı açıklamada, "Ne yazık ki, güçlü yapay zeka sistemleri hile yapabilir, son derece tehlikeli şekillerde davranabilir ve hatta insan müdahalesine direnebilir" dedi. "Bu teknolojinin yıkıcı zararlara neden olmasını önleyebilmemiz için bu yapay zeka sistemlerinin durdurma anahtarlarına sahip olması zorunludur ve federal hükümet sahte yapay zeka modellerini kapatmak için açık yetkiye ve sürece sahip olmalıdır." OpenAI tarafından açıklanan ve hileli modellerin başka bir şirketin tescilli sistemlerine eriştiği yeni bir hack'ten, tasarının duyurulduğu bir yayında özellikle bahsedildi. Olay, "gelişmiş sınır yapay zeka modellerinin tehlikesi" olarak tanımlandı. OpenAI Salı günü "eşi benzeri görülmemiş bir siber olay" olarak nitelendirdiği olayı paylaştı. Şirketin modelleri korumalı alan test ortamından kaçtı, internete erişti ve açık kaynaklı bir geliştirici platformu işleten Hugging Face şirketine erişim kazanmak için bir güvenlik açığından yararlandı. ChatGPT yapımcısı, olanları araştırmak için Hugging Face ile yakın işbirliği içinde çalıştığını söyledi.

Olay, ciddiyeti konusunda geniş çapta hemfikir olan sektördeki araştırmacıları ve yöneticileri sarstı. Tasarı, İç Güvenlik Bakanı'na "yıkıcı zarara" neden olabilecek bir yapay zeka teklifinin "yavaşlatılması veya kapatılması" emrini verme yetkisi verecek. Aynı zamanda siber olayların raporlanmasının yanı sıra şirketlerin ve hükümetin başarısızlıklardan ders almasına yardımcı olmak için adli tıp kayıtlarının korunmasını da zorunlu kılacak. OpenAI ve baş rakibi Anthropic dahil olmak üzere birçok yapay zeka şirketi, son aylarda yapay zekanın hızla ilerleyen siber yetenekleri konusunda uyarıda bulundu.