Araştırmacılar artık çıktı metninden LLM istemlerine neredeyse mükemmel bir doğrulukla tersine mühendislik uygulayabiliyor
Özgün başlık: Researchers can now reverse-engineer LLM prompts from output text with near-perfect accuracy
IIT Bombay ve Adobe Research'teki araştırmacılar, bir Yüksek Lisans çıktısından orijinal istemi neredeyse mükemmel bir doğrulukla yeniden yapılandıran bir ters dil modeli oluşturdular. "Önceki Jeton Tahmini" olarak adlandırılan yöntemleri, model ağırlıklarına erişime ihtiyaç duymuyor ve farklı modeller üzerinde çalışıyor. Tescilli sistem istemlerine güvenen şirketler için bu ciddi bir güvenlik riski olabilir. Araştırmacılar artık çıktı metnindeki LLM istemlerini neredeyse mükemmel bir doğrulukla tersine mühendislik yapabilir makalesi ilk olarak The Decoder'da yayınlandı.
✳ Bu özet ve çevirisi Base of AGI tarafından otomatik derlendi. Kısa özet ve görsel kaynağa aittir — haberin tamamı ve tüm haklar kaynağındadır.
Haberin tamamını kaynağında oku ↗
Akış içinde yorumlarla aç