OpenAI'de gömülü değerlendirmelerin ilk aşaması
Özgün başlık: First phase of embedded assessments at OpenAI
Gömülü değerlendirmelerin ilk aşaması için dört bağımsız değerlendiriciyle (Apollo Research, METR, Transluce ve Goodfire) anlaşmalar imzaladık. Yapay zeka yetenekleri hızla geliştikçe ve potansiyel riskler arttıkça, bağımsız değerlendirmelerden elde edilen kamuya açık raporlar, insanlara laboratuvarların bu riskleri nasıl değerlendirdiği ve yönettiği konusunda daha net bir görüş sağlayabilir.
Yerleşik değerlendirmeler, bağımsız uzmanlara, özellikle güvenlik durumlarımızla ilgili olduğunda, uzun bir süre boyunca model uyumunu ve koruma önlemlerinin etkinliğini değerlendirmek için bir laboratuvarın dahili modellerine ve sistemlerine derin erişim sağlar.
We have signed agreements with four independent assessors—Apollo Research, METR, Transluce, and Goodfire—for our first phase of embedded assessments. As AI capabilities advance rapidly and the potential risks grow, public reporting from independent assessments can give people a clearer view of how labs are evaluating and managing those risks.
Embedded assessments give independent experts deep access to a lab’s internal models and systems to assess model alignment and the effectiveness of safeguards over an extended period of time, especially where relevant to our safety cases.
Hemos firmado acuerdos con cuatro asesores independientes (Apollo Research, METR, Transluce y Goodfire) para nuestra primera fase de evaluaciones integradas. A medida que las capacidades de la IA avanzan rápidamente y los riesgos potenciales crecen, los informes públicos de evaluaciones independientes pueden brindar a las personas una visión más clara de cómo los laboratorios evalúan y gestionan esos riesgos.
Las evaluaciones integradas brindan a los expertos independientes un acceso profundo a los modelos y sistemas internos de un laboratorio para evaluar la alineación del modelo y la efectividad de las salvaguardas durante un período prolongado, especialmente cuando es relevante para nuestros casos de seguridad.
Мы подписали соглашения с четырьмя независимыми оценщиками — Apollo Research, METR, Transluce и Goodfire — для нашего первого этапа встроенных оценок. Поскольку возможности ИИ быстро развиваются, а потенциальные риски растут, публичные отчеты о независимых оценках могут дать людям более четкое представление о том, как лаборатории оценивают и управляют этими рисками.
Встроенные оценки предоставляют независимым экспертам глубокий доступ к внутренним моделям и системам лаборатории для оценки согласованности моделей и эффективности мер безопасности в течение длительного периода времени, особенно там, где это имеет отношение к нашим обоснованиям безопасности.