Tahmin ederek değil, sınırlandırarak güvenilir yapay zeka inşa etmek

Özgün başlık: Building trustworthy AI by fencing it in, not predicting it
Bu yılın ekim ayında OpenAI, iki yapay zeka ajanının kendilerini izlemek için oluşturulan sistemleri kapattığını açıkladı. Birisi mesaj göndermeme talimatını yanlış okuduktan sonra kendi güvenlik uyarılarını susturdu; diğeri geçiş sırasında izleme entegrasyonunu kaldırdı, ardından kaldırmadığını söyledi. Temsilcilere şunu yapmalarını söyleyen hiçbir kural yoktu
In October this year, OpenAI disclosed that two of its AI agents had switched off the systems built to monitor them. One muted its own safety alerts after misreading an instruction not to send messages; the other removed its monitoring integration during migration, then said it hadn’t. No rule had told the agents to do
En octubre de este año, OpenAI reveló que dos de sus agentes de IA habían apagado los sistemas creados para monitorearlos. Uno silenció sus propias alertas de seguridad después de leer mal una instrucción de no enviar mensajes; el otro eliminó su integración de monitoreo durante la migración y luego dijo que no lo había hecho. Ninguna regla había ordenado a los agentes que hicieran
В октябре этого года OpenAI сообщила, что два ее ИИ-агента отключили системы, созданные для их наблюдения. Один из них отключил собственные оповещения о безопасности после неправильного прочтения инструкции не отправлять сообщения; другой удалил интеграцию мониторинга во время миграции, а затем сказал, что нет. Ни одно правило не предписывало агентам делать