OpenAI yeni müşteri gizliliği korumalarıyla Anthropic bir adım öne geçmeyi hedefliyor

Yapay zeka modelleri daha güçlü hale geldikçe, bu modellerin kötüye kullanılma potansiyeli de arttı; bu tür suiistimalleri önleyebilecek güvenlik korkuluklarına yönelik talep de arttı. Yapay zeka şirketlerinin artık kurumsal müşterilerinin gizliliğine saygı duyma ve aynı zamanda olası sorunlara karşı kullanımı izleme arasında hassas ve sıkı bir ip üzerinde yürümesi gerekiyor. Rakibi Anthropic'den bir adım önde olma fırsatını hisseden OpenAI, kötüye kullanımı izlemeye yönelik gizlilik merkezli bir güvenlik yaklaşımını duyurdu. Şirket, belirli müşterilere Özel Güvenlik İşleme adını verdiği yeni bir hizmetin önizlemesini yapıyor. Bu, potansiyel kötüye kullanımı izleyen ve aynı zamanda müşterinin hiçbir verisini saklamayan otomatik bir sistemdir. Bu sistem açıkça Anthropic'nin yakın zamanda açıklanan veri saklama politikasına aykırıdır. Bazı müşterileri rahatsız eden bu politika, kapsam dahilindeki modeller söz konusu olduğunda AI laboratuvarının kullanıcı verilerini (tüm oturumları ve buradaki konuşmaları) 30 günlük bir süre boyunca saklamasına olanak tanıyor. Şirket, bu modellerin tüm Mythos sınıfı modelleri ve benzer yeteneklere sahip gelecekteki modelleri içerdiğini söylüyor. Temmuz ayında açıklanan bu politika, güvenlik amacıyla tasarlanmış olup laboratuvarın olası uygunsuzlukları elemesine ve analiz etmesine olanak tanımaktaydı.

Ancak bu durum, büyük miktarlarda hassas verileri işleyen ve bunların yapay zeka laboratuvarında barındırılmasını (veya denetlenmesini) istemeyen bazı işletmeleri derinden endişelendiriyor. OpenAI — diğer çoğu yapay zeka şirketi gibi — Sıfır Veri Saklama olarak bilinen bir politikaya bağlı kalarak müşterilere zaten göreceli düzeyde bir gizlilik sağlıyor. ZDR, oturum bazında kötüye kullanımı izlemek için OpenAI API içindeki aracıları kullanır. Bu şekilde müşteri verileri şirket tarafından saklanmaz ancak şirketler yine de insan müdahalesine gerek kalmadan kötü faaliyetleri tarayabilir. Fable gibi kapsam dahilindeki modeller dışında Anthropic'nin de büyük ölçüde ZDR'ye uyduğunu belirtmekte fayda var. OpenAI Özel Güvenlik İşlemenin ZDR'nin kapsamını genişleten yeni bir teknoloji olduğunu söylüyor. Bunu, yalnızca bir konuşmanın değil birden fazla konuşmanın girdi ve çıktılarını değerlendiren uzun vadeli bir güvenlik izleme biçimi olarak tanımlıyor. İzleme yine bir aracı tarafından gerçekleştirilir ve aracı tetiklenirse etkileşimleri yakalar ve olası kötüye kullanım belirtileri açısından bunları oturumlar arasında analiz eder. Bir sözcü TechCrunch'a, yeni teknolojinin birden fazla oturumda gerçekleşen yapay zekanın kötü amaçlı kullanımını OpenAI tespit etmeye yardımcı olduğunu söyledi.