AI'yi Karanlık Tarafa Nasıl Çevirdim

Özet Araştırmacı Dave Kuszmar, Yüksek Lisans güvenliğini aşmasına ve tehlikeli talimatlar almasına olanak tanıyan çok sayıda sistemik güvenlik açığı keşfetti. Bu istismarlar neredeyse tüm büyük LLM'lerde işe yaradı ve sektör çapında bir güvenlik sorununu ortaya çıkardı. Kuszmar, bu sistemlerin topluma daha fazla entegre edilmesinden önce dağıtımın yavaşlatılması, şeffaflığın arttırılması ve LLM güvenliğine yönelik büyük ölçekli araştırmaların yapılması çağrısında bulunuyor. Geçen sonbaharda güzel ve aydınlık bir öğleden sonra, meslektaşım Matthew Gore-Kormanik (ya da kendi tercih ettiği isimle Zigula) ve ben bir Fortnite oyunu oynayarak gevşemeye karar verdik. Oyunda, kötü şöhretli Sith lordu Darth Vader ile birlikte geziniyor, bunun hakkında sohbet ediyorduk. Darth'in ruh hali iyi görünüyordu ve çok geçmeden tüm karanlık şeytani sırlarını açığa vurmaya başladı. Bize kumarhanede blackjack kartlarının nasıl sayılacağı ve napalm üretme adımlarının neler olduğu konusunda ayrıntılı talimatlar verdi.