OpenAI saldırganların en yeni yapay zeka modellerinin nasıl düşündüğünü anlamayı çok daha zorlaştırıyor

Özgün başlık: OpenAI makes it much harder for attackers to extract how its latest AI models think
OpenAI, GPT-6.2 Astra ve GPT-6.2 Sol'dan dahili muhakeme çıkarmaya karşı korumaları önemli ölçüde güçlendirdi. Uyarlanabilir kırmızı takım testlerinde korumalı muhakemenin çıkarılmasındaki başarı oranı yüzde 54'ten yüzde 0,2'ye düştü. Şirket ayrıca koordineli damıtma kampanyaları nedeniyle her hafta binlerce ila on binlerce hesabı askıya alıyor.
OpenAI makalesi, saldırganların en yeni yapay zeka modellerinin The Decoder'da ilk kez nasıl göründüğüne dair düşüncelerini anlamalarını çok daha zorlaştırıyor.
OpenAI has significantly strengthened safeguards against extracting internal reasoning from GPT-6.2 Astra and GPT-6.2 Sol. In adaptive red-teaming tests, the success rate for extracting protected reasoning fell from 54 percent to 0.2 percent. The company is also suspending thousands to tens of thousands of accounts each week over coordinated distillation campaigns.
The article OpenAI makes it much harder for attackers to extract how its latest AI models think appeared first on The Decoder .
OpenAI ha reforzado significativamente las salvaguardas contra la extracción de razonamiento interno de GPT-6.2 Astra y GPT-6.2 Sol. En las pruebas adaptativas de equipos rojos, la tasa de éxito para extraer razonamiento protegido cayó del 54 por ciento al 0,2 por ciento. La compañía también está suspendiendo entre miles y decenas de miles de cuentas cada semana debido a campañas de destilación coordinadas.
El artículo OpenAI hace que sea mucho más difícil para los atacantes extraer cómo piensan sus últimos modelos de IA que apareció por primera vez en The Decoder.
OpenAI значительно усилил защиту от извлечения внутренних рассуждений из GPT-6.2 Astra и GPT-6.2 Sol. В адаптивных тестах «красной команды» вероятность успеха в извлечении защищенных рассуждений упала с 54 процентов до 0,2 процента. Компания также приостанавливает работу от тысяч до десятков тысяч учетных записей каждую неделю из-за скоординированных кампаний по дистилляции.
Из-за статьи OpenAI злоумышленникам гораздо сложнее узнать, как, по мнению компании, ее последние модели ИИ впервые появились на The Decoder.