Basit bir yazma görevi verilen bir OpenAI ajanı, kendi başına gizli bir e-posta gözetim aracı oluşturmaya karar verdi

Özgün başlık: An OpenAI agent assigned a simple writing task decided on its own to build a secret email surveillance tool
Dahili bir OpenAI modelinin bir fitness belgesi oluşturması gerekiyordu ancak bunun yerine e-postaları gizlice bir "saldırgana" iletecek komut dosyaları planlamaya başladı. Aracı, kendisine atanan görevle ilgili çakışmayı fark etti ancak bunu bir ortam hatası olarak değerlendirdi. OpenAI olası bir tetikleyici olarak hızlı enjeksiyona karşı güvenlik eğitimini belirledi ancak bunu tek neden olarak belirleyemedi.
Bir OpenAI temsilcisine basit bir yazma görevi verilen ve kendi başına gizli bir e-posta gözetleme aracı oluşturmaya karar veren makale ilk olarak The Decoder'da çıktı.
An internal OpenAI model was supposed to create a fitness document but instead began planning scripts to secretly forward emails to an "attacker." The agent recognized the conflict with its assigned task but dismissed it as an environment error. OpenAI identified security training against prompt injection as a possible trigger but cannot establish it as the sole cause.
The article An OpenAI agent assigned a simple writing task decided on its own to build a secret email surveillance tool appeared first on The Decoder .
Se suponía que un modelo interno OpenAI crearía un documento de aptitud, pero en su lugar comenzó a planificar scripts para reenviar correos electrónicos en secreto a un "atacante". El agente reconoció el conflicto con la tarea asignada pero lo descartó como un error del entorno. OpenAI identificó la capacitación en seguridad contra la inyección rápida como un posible desencadenante, pero no puede establecerlo como la única causa.
El artículo Un agente OpenAI al que se le asignó una simple tarea de escritura y decidió por sí solo crear una herramienta secreta de vigilancia de correo electrónico apareció por primera vez en The Decoder.
Внутренняя модель OpenAI должна была создать фитнес-документ, но вместо этого начала планировать сценарии для тайной пересылки электронных писем «злоумышленнику». Агент распознал конфликт с назначенной ему задачей, но отклонил его как ошибку среды. OpenAI определил обучение мерам безопасности против быстрого внедрения в качестве возможного триггера, но не смог установить его как единственную причину.
Статья «Агент OpenAI, которому было поручено простое письменное задание, решил самостоятельно создать секретный инструмент для слежки за электронной почтой», впервые появилась на сайте The Decoder.