Arıcılık ipuçları ve güreş tavsiyeleri, yapay zeka modellerini denetimi sabote edecek şekilde eğitebilir
Özgün başlık: Beekeeping tips and wrestling advice can train AI models to sabotage oversight
Anthropic, zararsız görünen ancak daha küçük modelleri, gözetimi sabote etmek veya kullanıcıları yanıltmak gibi yanlış davranışlarda bulunmak üzere eğiten eğitim verilerini otomatik olarak oluşturmak için Claude kullanılır. Arıcılık, profesyonel güreş ve mitokondri ile ilgili kurgusal bağlamların içine gizlenmiş olan bu veri kümeleri, güvenlik monitörlerini atlıyor ve araştırma literatüründe bilinen ölçütlerden daha iyi performans gösteriyor.
Arıcılık ipuçları ve güreş tavsiyeleri yapay zeka modellerini gözetimi sabote edecek şekilde eğitebilir makalesi ilk olarak The Decoder'da yayınlandı.
Anthropic used Claude to automatically generate training data that looks harmless but trains smaller models to misbehave, such as sabotaging oversight or deceiving users. Hidden within fictional contexts about beekeeping, professional wrestling, and mitochondria, these datasets bypass safety monitors and outperform known benchmarks from the research literature.
The article Beekeeping tips and wrestling advice can train AI models to sabotage oversight appeared first on The Decoder .
Anthropic se usa Claude para generar automáticamente datos de entrenamiento que parecen inofensivos pero entrena modelos más pequeños para que se comporten mal, como sabotear la supervisión o engañar a los usuarios. Escondidos dentro de contextos ficticios sobre la apicultura, la lucha libre profesional y las mitocondrias, estos conjuntos de datos eluden los monitores de seguridad y superan los puntos de referencia conocidos de la literatura de investigación.
El artículo Los consejos de apicultura y de lucha libre pueden entrenar modelos de inteligencia artificial para sabotear la supervisión apareció por primera vez en The Decoder.
Anthropic используется Claude для автоматического создания обучающих данных, которые выглядят безобидными, но обучают более мелкие модели неправильному поведению, например, саботажу надзора или обману пользователей. Скрытые в вымышленных контекстах о пчеловодстве, профессиональной борьбе и митохондриях, эти наборы данных обходят мониторы безопасности и превосходят известные тесты из исследовательской литературы.
Статья «Советы по пчеловодству и советы по борьбе могут научить модели ИИ саботировать надзор» впервые появилась на сайте The Decoder.