OpenAI'yi güçlendirmek için sonraki güvenlik sprint'imiz hazırlanıyor
Özgün başlık: Preparing our next security sprint to harden OpenAI
Bir sonraki dahili güvenlik sprintimizi OpenAI'da planlıyoruz; yeni araştırmacıları ve güvenlik ortaklarını kendi ekiplerimizle bir araya getirerek sistemlerimizi test etmek ve güçlendirmek için modellerimizi kullanmalarını planlıyoruz. Savunmalarımıza meydan okumak için ekiplerimizle birlikte OpenAI modellerini kullanacak, zayıf yönleri bulma konusunda farklı uzmanlık ve yaklaşımlar getirecek ve platformlarımızı korumamıza yardımcı olacak araştırmacıların bulunduğu Cathedral ile ortaklık yapıyoruz. Ayrıca Güvenlik Hatası Ödül programımızda, kritik bulgulara yönelik ödüllerimizi dört katından fazla artırmak da dahil olmak üzere iyileştirmeler yapıyoruz.
Araştırmacıların varsayımlarımıza meydan okumasını ve hem sistemlerimizi hem de onları savunmak için kullandığımız yöntemleri güçlendirmeye yardımcı olmalarını istiyoruz. Bu, sistemlerimizdeki zayıflıkları sürekli olarak bulmak ve düzeltmek için yapay zekayı kullanmaya yönelik süregelen çabalarımızın bir parçasıdır. Son sprintimiz bu yaklaşımın neler sağlayabileceğini gösterdi.
We’re planning our next internal security sprint at OpenAI, bringing new researchers and security partners together with our own teams to use our models to test and strengthen our systems. We’re partnering with Cathedral, whose researchers will use OpenAI’s models alongside our teams to challenge our defenses, bringing differentiated expertise and approaches to finding weaknesses and helping us protect our platforms.
We’re also making improvements to ourSecurity Bug Bounty program including more than quadrupling our rewards for critical findings. We want researchers to challenge our assumptions and help strengthen both our systems and the methods we use to defend them. This is part of our ongoing effort to use AI to continuously find and fix weaknesses in our systems. Our last sprint showed what this approach can deliver.
Estamos planificando nuestro próximo sprint de seguridad interna en OpenAI, reuniendo a nuevos investigadores y socios de seguridad con nuestros propios equipos para usar nuestros modelos para probar y fortalecer nuestros sistemas. Nos estamos asociando con Cathedral, cuyos investigadores utilizarán los modelos de OpenAI junto con nuestros equipos para desafiar nuestras defensas, aportando experiencia y enfoques diferenciados para encontrar debilidades y ayudarnos a proteger nuestras plataformas. También estamos realizando mejoras en nuestro programa Security Bug Bounty, incluido cuadriplicar nuestras recompensas por hallazgos críticos.
Queremos que los investigadores cuestionen nuestras suposiciones y ayuden a fortalecer tanto nuestros sistemas como los métodos que utilizamos para defenderlos. Esto es parte de nuestro esfuerzo continuo por utilizar la IA para encontrar y corregir continuamente debilidades en nuestros sistemas. Nuestro último sprint mostró lo que este enfoque puede ofrecer.
Мы планируем наш следующий спринт по внутренней безопасности в OpenAI, собрав новых исследователей и партнеров по безопасности вместе с нашими собственными командами, чтобы использовать наши модели для тестирования и укрепления наших систем. Мы сотрудничаем с Cathedral, исследователи которого будут использовать модели OpenAI вместе с нашими командами, чтобы бросить вызов нашей защите, привнося дифференцированный опыт и подходы к поиску слабых мест и помогая нам защитить наши платформы.
Мы также совершенствуем нашу программу Security Bug Bounty, в том числе более чем в четыре раза увеличивая вознаграждение за важные выводы. Мы хотим, чтобы исследователи бросили вызов нашим предположениям и помогли укрепить как наши системы, так и методы, которые мы используем для их защиты. Это часть наших постоянных усилий по использованию ИИ для постоянного поиска и устранения слабых мест в наших системах. Наш последний спринт показал, чего может дать этот подход.