Sınır modelleri için Sıfır Veri Saklama Teklifi

Sıfır Veri Saklama, uygun API müşterilerine net bir söz verir: OpenAI bir istek işlendikten sonra istemlerini veya model yanıtlarını saklamaz. Müşteri içeriği OpenAI personel tarafından incelenmek üzere1 kullanılamaz ve müşteriler açıkça izin vermediği sürece kurumsal müşteri verileri modellerimizi eğitmek için kullanılmaz. Modeller daha uzun ve daha karmaşık görevler üstlendikçe bazı ciddi riskler yalnızca birden fazla etkileşimde görünür hale gelebilir. Mevcut ZDR uyumlu güvenlik sistemleri her etkileşimi ayrı ayrı değerlendirir. Bugün, OpenAI personelin temel içeriğe erişmesine izin vermeden, ilgili etkileşimlerdeki kalıpları belirlemek için tasarlanan Özel Güvenlik İşleme'nin ön izlemesini yapıyoruz. ZDR dağıtımları için müşteri içeriği, müşterinin kontrol ettiği altyapıda kalır. Ayrıca içeriğin OpenAI altyapıda saklandığı, müşteri tarafından kontrol edilen anahtarlarla şifrelendiği bir seçenek de geliştiriyoruz. Her iki durumda da, otomatik sistemler potansiyel suiistimali tespit edebilir ve altta yatan uyarıları veya yanıtları personele ifşa etmeden sınırlı güvenlik sinyalleri gönderebilir. Güvenlik sistemlerinin neden gelişmesi gerekiyor? En ciddi yapay zeka güvenlik riskleri her zaman tek bir etkileşimde görülmez. Genellikle, potansiyel olarak zararlı niyetler ancak birden fazla etkileşim bir arada görüntülendiğinde netleşir. Kötü aktörlerin sürekli olarak güvenlik önlemlerini araştırması, hesaplar arasında koordinasyon sağlaması veya tehditleri rutin araştırmalar olarak gizlemesi durumunda da benzer riskler ortaya çıkabilir.

Riskler, aracılık görevi sırasında da gelişebilir; örneğin, bir sistem, durması söylendikten sonra harekete geçmeye devam ederek kullanıcının niyetiyle uyumsuz hale gelirse. Yapay zeka sistemleri daha uzun ve daha karmaşık görevler üstlendikçe, bu daha geniş bağlam, meşru faaliyetleri kötüye kullanımdan ayırmak ve yapay zeka temsilcilerinin amaçlanan yetki sınırları içinde kalmasını sağlamak için giderek daha önemli hale geliyor. Son zamanlardaki bazı sınır modeli dağıtımları, müşterilerin yapay zeka sağlayıcılarının güvenlik izlemesi için hassas içerikleri saklamasına izin vermesini gerektirdi. Birçok kuruluş için bu tür gereksinimler, güvenlik yükümlülükleriyle veya hizmet verdikleri kişilere yönelik taahhütleriyle çelişir. Özel Güvenlik İşleme, ZDR'yi sunmaya devam edebilmemiz için tasarlanmıştır. Özel Güvenlik İşleme nasıl çalışır Özel Güvenlik İşleme, ZDR'de ve diğer dağıtımlarda halihazırda kullanılan otomatik korumalara dayanır.