GPT-Red: Dayanıklılık için Kendini Geliştirmenin Anahtarı

Özet Sorun Kırmızı ekip oluşturma, güvenlik açıklarını keşfetmek ve modellerimizin sağlamlığını geliştirmek için çok önemlidir. Ancak mevcut yaklaşımlar ölçeklenebilir değildir ve bu durum bir darboğaz yaratmaktadır. Yaygın olarak kullanılan sağlamlık değerlendirmeleri en son modellerimiz tarafından zaten doyurulmuştur. Model yeteneklerinin yanı sıra güvenliğin ve hizalamanın ölçeklendirilmesine olanak tanıyan yöntemler geliştirmemiz gerekiyor. Ne yaptık? Daha geniş dağıtımdan önce bunları düzeltebilmemiz için güvenlik açıklarını bulma yeteneğimizi ölçeklendiren otomatik bir kırmızı ekip modeli olan GPT‑Red'i eğittik. GPT‑Red güçlü bir kırmızı takım oyuncusudur ve önceki modellerimiz ani enjeksiyon saldırılarına karşı oldukça savunmasızdır. GPT-5.6'yı rakip olarak eğitmek için GPT-Red'i kullanıyoruz, bu da onu hızlı enjeksiyonları çok daha sağlam hale getiriyor. Bu yaklaşımı, insan ve üçüncü taraf kırmızı ekip çalışması, katmanlı güvenlik önlemleri ve gerçek zamanlı izlemeyle birlikte ölçeklendirmeye devam edeceğiz. Yapay zeka sistemleri genellikle tarayıcılar, bağlı uygulamalar, yerel dosyalar ve diğer araçlar aracılığıyla üçüncü taraf verileriyle karşılaşır. Bu olanaklar, gerçek dünyadaki görevlerin yerine getirilmesi için gereklidir, ancak aynı zamanda kötü niyetli aktörlerin model davranışını etkilemesi için daha fazla fırsat da yaratırlar. Örneğin, üçüncü bir taraf, modeli hassas verileri harici bir sunucuya yüklemesi için kandırmak üzere tasarlanmış, dikkatlice hazırlanmış bir talimatı bir e-postaya, web sayfasına, araç yanıtına veya kod deposuna yerleştirebilir. İnsanların kırmızı ekip oluşturması, güvenlik çalışmalarımızın kritik bir parçasıdır ve dağıtımdan önce bu güvenlik açıklarını ortaya çıkarmamıza ve doğru korumaları uygulamaya koymamıza yardımcı olur.

Ancak insanların kırmızı takım oluşturmasını tek başına ölçeklendirmek zordur. Bu alıştırmaları tasarlamak ve yürütmek zaman alıcıdır, bu da yeni arıza türlerini ne kadar hızlı tanımlayabileceğimizi ve bunları daha güçlü koruma önlemlerine dahil edebileceğimizi sınırlamaktadır. Ayrıca, bu alıştırmalar başarılı saldırılara ilişkin değerli örnekler üretse de, eğitim yoluyla model sağlamlığını geliştirmek için gereken rakipsel verilerin hacmini ve çeşitliliğini oluşturamazlar. Giderek daha yetenekli modellere ayak uydurmak, aynı zamanda kırmızı ekibin de ölçeklenmesini gerektirir. Bu amaçla, dağıtımdan önce güvenlik açıklarını ortaya çıkaran ve sağlamlığı artırmak için model eğitimi sırasında saldırılar üreten otomatik, yalnızca şirket içi kırmızı ekip oluşturma modellerini eğitiyoruz. Otomatik kırmızı takım oluşturmanın, güvenlik açısından çok önemli bir kendini geliştirme biçiminin kilidini açtığına inanıyoruz: gelecekteki modellerin daha güvenli olmasına doğrudan yardımcı olmak için bugünün modellerini kullanmak.