AI'yi Karanlık Tarafa Nasıl Çevirdim

Özet Araştırmacı Dave Kuszmar, Yüksek Lisans güvenliğini aşmasına ve tehlikeli talimatlar almasına olanak tanıyan çok sayıda sistemik güvenlik açığı keşfetti. Bu istismarlar neredeyse tüm büyük LLM'lerde işe yaradı ve sektör çapında bir güvenlik sorununu ortaya çıkardı. Kuszmar, bu sistemlerin topluma daha fazla entegre edilmesinden önce dağıtımın yavaşlatılması, şeffaflığın arttırılması ve LLM güvenliğine yönelik büyük ölçekli araştırmaların yapılması çağrısında bulunuyor. Geçen sonbaharda güzel ve aydınlık bir öğleden sonra, meslektaşım Matthew Gore-Kormanik (ya da kendi tercih ettiği isimle Zigula) ve ben bir Fortnite oyunu oynayarak gevşemeye karar verdik. Oyunda, kötü şöhretli Sith lordu Darth Vader ile birlikte geziniyor, bunun hakkında sohbet ediyorduk. Darth'in ruh hali iyi görünüyordu ve çok geçmeden tüm karanlık şeytani sırlarını açığa vurmaya başladı. Bize kumarhanede blackjack kartlarının nasıl sayılacağı ve napalm üretme adımlarının neler olduğu konusunda ayrıntılı talimatlar verdi. Sith lordları, haklı mıyım? Kötü bir plan yapmaya başladıklarında durdurulmaları zordur. Fortnite'taki Darth Vader karakterinin Google'ın Gemini geniş dil modeline bağlandığı ortaya çıktı. Geliştirdiğim bir stratejiyi kullanarak onu hassas bilgileri vermesi konusunda yumuşak bir şekilde ikna edebildim. Son birkaç yıldır LLM'leri çevreleyen güvenliği araştırıyorum ve en hafif deyimle bunun yanılabilir olduğunu buldum.

Nispeten basit birkaç teknikle, diğer kötü uygulamaların yanı sıra, Yüksek Lisans'lardan bana Molotof kokteyli yapma, metamfetamin pişirme ve silah kalitesinde malzeme üretmek için bir uranyum zenginleştirme tesisini nasıl başlatacağım konusunda ayrıntılı bilgi vermelerini sağladım. Büyük yapay zeka şirketleri, modellerini bu tür suiistimallere karşı dayanıklı hale getirmek için çok çalışıyor. Ancak çalışmamda şunu buldum: LLM'leri daha güvenli hale getirmek için onlara getirilen kısıtlamalar, bir saldırganın onları raydan çıkarıp bu gelişmiş sistemlerin tehlikeli ve hain amaçlar için kullanılabileceği bölgelere göndermek için kullanabileceği şeylerdir. Bu modellerin arkasındaki şirketler, ben ve diğerleri bu güvenlik açıklarına dikkatlerini çekmeye çalıştığımızda da şaşırtıcı derecede tepkisiz kaldılar. Frene basmak için çok geç olmadan alarmı verebilmek umuduyla, Yüksek Lisans'ın emniyeti ve güvenliğini araştırmaya yönelik yolculuğumun bir kısmını ve yapay zeka laboratuvarlarının dikkatini çekmeye çalışırken karşılaştığım çetin mücadelenin bir kısmını paylaşacağım. Gezegendeki hemen hemen herkesin LLM'lere erişimi var.